焦点播报:无处不在的人工智能将依赖传统内存,第一部分
随着 AI 炒作的消退和面临新的工程挑战,内存需求成为焦点:并非每项机器学习和推理任务都需要先进的内存技术。相反,经过验证的传统存储器可以在边缘处理人工智能,而分布式人工智能可能正是 5G 真正需要的东西。
尽管如此,基本的推理操作已经变得越来越复杂。总体而言,内存将有望为推理做更多的事情。
(相关资料图)
TECHnalysis Research 总裁兼首席分析师 Bob O"Donnell 认为,人工智能是实现 5G 承诺不可或缺的一部分。只有将两者结合起来,才能实现新的应用。“具有讽刺意味的是,每个人都将这些都视为独立的动物:5G 是一回事,边缘是另一回事。人工智能是另一回事。你真的需要将这些东西结合起来,让它们中的任何一个真正发挥他们的能力,”O"Donnell 说。
随着边缘处理器的发展以及诸如 LPDDR之类的存储器被用于在边缘处理平凡的 AI 任务,集中式 AI 已经在一定程度上证明了自己。“房间里的摄像头可以进行非常简单的 AI 处理,以检测房间内的人数,从而调整 HVAC,”O"Donnell 说。虽然并不吸引人,但这些任务可以在一组具有适度计算和内存能力的建筑物中本地处理——消除了将数据来回发送到云的需要。
O"Donnell 补充说,还有一个中间地带,边缘设备在本地处理数据,同时具有足够的智能,可以知道何时将文件发送到数据中心进行“深度处理”。一个结果是改进的算法被发送回边缘。
“有这种持续的改进循环,”分析师说。“这就是事情开始变得非常有趣的地方。”
O"Donnell 预测,专用于分布式 AI 应用程序的内存将是相对低端的,这些内存类型可用于各种应用程序,例如分布式边缘设备。“我的猜测是 LPDDR 类型的存储器最合乎逻辑。”
但即使是低功耗 DDR 也可以得到超越智能手机、车辆和各种边缘端点中使用的典型设备类型的提升。在最近讨论将内存处理 (PIM) 技术推向主流的进展时,三星指出该技术最终可以应用于其他类型的内存,以支持 AI 工作负载。这可能包括 LPDDR5 用于将 AI 带到各种端点设备内的边缘,而无需数据中心连接。
三星展示了一款性能提升一倍以上的 LPDDR5-PIM,用于语音识别、翻译和聊天机器人等应用时,能耗降低了 60% 以上。
人工智能、5G
Nvidia 首席平台架构师 Robert Ober 指出,一些需要内存的分布式 AI 正在帮助运行 5G 基站。
边缘的 5G 基础设施有时比它所连接的旧基础设施具有更多的带宽,因此需要一些推断来管理网络事务。“使用显式编程太复杂了,”Ober 说。
AI 的许多边缘用例非常普通,使用的嵌入式设备需要具有较小物理和电源占用的内存。Ober 说,挑战在于,即使是边缘的图像识别和分类等基本 AI 功能也正在成为更大的工作。高达 4K 的更高分辨率图像以及对更多信息和上下文的需求意味着这些神经网络更加复杂。
“如果它是一个视频,那么随着时间的推移,你会使用多个帧来提取意义,”Ober 说。“记忆在那里真的很重要。”
英伟达专注于数据中心培训工作负载,其中内存容量和带宽至关重要,同时降低功耗,Ober 说。因此,不同的内存技术可以在未来的 AI 部署中发挥作用,包括电压控制的 MRAM,它可以降低功耗、维持带宽并释放计算能力。“从长远来看,你会有一些非常有趣的解决方案。”
Ober 补充说,即使内存能力不断提高以满足 AI 的需求,预期也会提高,因为 AI 复杂性的指数级增长是一致的。“你可以编码的知识越多,它可以做的事情就越多。” 训练网络本质上是对信息进行编码,对于边缘设备来说检测狗已经不够了。
“他们想知道什么类型的狗。它在做什么?快乐吗?难过吗?预期继续呈指数增长,”英伟达高管表示。
随着机器人图像检测和分类等功能的改进,预计数据中心中的人工智能和机器学习工作负载将做得更多。因此,对高性能计算的需求持续存在,他说,并且总会有新的人工智能任务更复杂、需要更多时间并需要更多机器智能。
将与人工智能任务相关的数据转移到正确的内存中是数据中心人工智能面临的最大挑战之一。因此,也减少了将每个工作负载发送回中央云的需要,从而对内存资源造成更大压力。Ober 预见到新的高带宽低功耗大容量存储器的需求,因为它本质上是非易失性的。已经有一些举措在嵌入式设备(例如工业端点)中处理 AI 工作负载,然后将一些任务转移到本地连接 5G 的基站。
更复杂的任务将被运送到云数据中心。“以这种方式分层的工作已经在进行,因为坦率地说,没有足够的带宽回到核心。”
相关阅读
-
焦点播报:无处不在的人工智能将依赖传统...
随着AI炒作的消退和面临新的工程挑战,内存需求成为焦点:并非每项... -
环球关注:亚马逊云科技re:Inforce全球...
北京——2022年8月15日,日前,亚马逊云科技一年一度的全球云安全盛... -
环球热讯:为“脆弱”的人工智能算法带来...
人工智能研发的持续重新校准强调了机器学习的一个基本原则:我们必... -
当前焦点!儒卓力在福建厦门设立办事处 ...
儒卓力(RutronikElektronischeBauelementeGmbH)是全球领先的宽线分... -
全球速讯:新能源汽车行业前景十分光明...
随着科技水平的持续性发展,新能源的开发和使用成为了全世界都在努... -
【环球播资讯】我国车联网产业在多方面...
随着5G、边缘计算等新技术与智能网联汽车融合应用更加深入,我国车...
精彩推送
-
环球热讯:为“脆弱”的人工智能算法带来...
人工智能研发的持续重新校准强调了机器学习的一个基本原则:我们必... -
环球关注:亚马逊云科技re:Inforce全球...
北京——2022年8月15日,日前,亚马逊云科技一年一度的全球云安全盛... -
焦点播报:无处不在的人工智能将依赖传统...
随着AI炒作的消退和面临新的工程挑战,内存需求成为焦点:并非每项... -
当前焦点!儒卓力在福建厦门设立办事处 ...
儒卓力(RutronikElektronischeBauelementeGmbH)是全球领先的宽线分... -
【热闻】充电全球第一快!小鹏G9充电实...
充电全球第一快!小鹏G9充电实测:5分钟续航增加200公里 -
【全球新视野】陶琳:国产特斯拉本地化...
陶琳:国产特斯拉本地化率已超95%!网友:只剩车标是美国造? -
【全球报资讯】186万Panamera插混版当街...
186万Panamera插混版当街起火烧成壳保时捷客服:有缺陷会召回 -
当前视点!2024年进入自动驾驶第一阵营...
2024年进入自动驾驶第一阵营!小米方向盘脱手专利公开 -
世界快看点丨车联网逐渐成为智慧交通发...
车联网是运用大数据、云计算、人工智能等信息通信技术,通过汽车车... -
环球速讯:造车新势力又一起“断轴”事...
造车新势力又一起“断轴”事件Rivian回应:只是螺丝没拧紧 -
全球速讯:新能源汽车行业前景十分光明...
随着科技水平的持续性发展,新能源的开发和使用成为了全世界都在努... -
当前热议!硬件付费订阅引众怒!黑客向宝...
硬件付费订阅引众怒!黑客向宝马宣战:将破解免费给车主使用 -
【环球播资讯】我国车联网产业在多方面...
随着5G、边缘计算等新技术与智能网联汽车融合应用更加深入,我国车... -
环球今头条!车联网智能终端使汽车成为...
随着全球新一轮科技革命和产业变革的蓬勃发展,汽车智能化、网联化... -
头条焦点:贸泽备货LairdConnectivitySe...
2022年8月15日–专注于推动行业创新的知名新品引入(NPI)分销商™贸... -
天天快看:PConline&ChinaJoy 2022 Me...
PConline&ChinaJoy2022MetaStyle“元气宇宙杯”桌搭大赛 -
天天快播:2022 ChinaJoy线上展,PConl...
2022年ChinaJoy线上展(CJPlus)将于8月27日至9月2日在MetaCJ元宇宙... -
谁说A0级电动车不可以智能化?要造人人...
当一辆A0级电动车摆在面前,你的第一反应会不会认为这只是一个代步... -
零跑、哪吒、高合、合创 谁才是中国新...
在经历政策刺激的初期发展阶段,中国新能源市场的进程,终于从略显... -
“软件定义汽车” 远峰科技打造新一代...
远峰科技推出的新一代车身区域控制器融入了部分区域控制思想,划分... -
7月动力电池装车量同比增长114.2% 磷酸...
日前,中国汽车动力电池产业创新联盟公布今年7月动力电池月度数据。... -
7月车企销量盘点:自主全线飘红 比亚迪...
近日,各大车企陆续公布7月销量成绩。从盖世汽车汇总的数据来看,得... -
远景公布单台摩奇充电机器人 2小时可增...
8月14日,全球绿色科技企业远景科技集团(Envision Group)在上海公... -
广东省发布全面推广使用国ⅥB车用汽油的...
日前,我们从相关渠道获悉,广东省发布《关于全面推广使用国ⅥB车用... -
西部(重庆)科学城:打造智能网联新能...
近日,西部(重庆)科学城称,为加快汽车产业发展,助力重庆打造世界... -
当前快报:绘数智三秦 | 新华三智·行...
7月29日,由紫光股份旗下新华三集团主办的“智·行中国2022”城市峰... -
每日信息:剪刀门+敞篷 名爵Cyberster...
剪刀门+敞篷名爵Cyberster量产版预告:平民电动超跑来了! -
快报:共解“双碳”时代命题,新华三低...
7月29日,由工业和信息化部、山东省人民政府共同主办的首届中国算力... -
天天热消息:新能源车充电慢 原先1小时...
新能源车充电慢原先1小时充满现在要5小时售后:天热会限流 -
全球热资讯!助力精准医疗,新华三为华...
四川华西医院作为国家重要的医学科研和技术创新基地,在中国最佳医... -
每日快播:小号L9!理想全新中大型SUV现...
小号L9!理想全新中大型SUV现身:确认空气悬挂 -
每日速读!奔驰AMG ONE量产:配F1赛车同...
奔驰AMGONE量产:配F1赛车同款发动机、极速堪比中国高铁! -
全球快资讯丨马斯克:上海已经生产了超...
马斯克:上海已经生产了超过100万辆特斯拉占总产量1 3 -
自主品牌押宝DHT胜算几何 T能实现后来...
DHT(Dedicated Hybrid Transmission,即混合动力驱动,以下简称DH... -
美国取消“允许多种提示音” 电动汽车...
嘀嘀、嘟嘟、嗡嗡……如今,路上的电动汽车越来越多,而它们在行驶... -
世界播报:特斯拉Model Y突然失控加速撞...
特斯拉ModelY突然失控加速撞墙官方称跟进:车主未踩错踏板和开辅助驾驶 -
环球实时:男子开小鹏出车祸被护栏插中...
男子开小鹏出车祸被护栏插中身亡为什么安全气囊不弹出?官方未给具... -
天天短讯!新一代沃尔沃XC90纯电版首曝...
新一代沃尔沃XC90纯电版首曝:多了精致、少了霸气 -
每日速递:爱马仕16.5万自行车被火速抢...
爱马仕16 5万自行车被火速抢光!客服回应:库存已空、将从法国来货 -
每日报道:用户开宾利体验比亚迪腾势D9...
用户开宾利体验比亚迪腾势D9:刚下车销售撑伞迎接 -
环球时讯:理想汽车充电地图上线:10积...
理想汽车充电地图上线:10积分可抵扣1元服务费 -
每日时讯!富士康开造纯电自动驾驶拖拉机...
富士康开造纯电自动驾驶拖拉机:1人可远程操控8台 -
环球热资讯!AEB主动刹车未介入:一理想...
AEB主动刹车未介入:一理想ONE高速追尾工程车辆 -
红毯VR直播,零距离VR互动,Pico助力第...
8月12日,第十二届北京国际电影节(下称:北影节)如期而至。作为官... -
【独家】小鹏P7车主撞人致死让人害怕:...
小鹏P7车主撞人致死让人害怕:专家看后给判断主动刹车AEB出问题 -
【天天聚看点】豪掷507亿!宁德时代出海...
豪掷507亿!宁德时代出海建厂:奔驰成首位大客户 -
蚂蚁集团发布半年报告:手机端日均过滤...
今天,阿里旗下蚂蚁集团发布了《2022年反诈骗治理半年报告》,总结... -
环球热文:一座城市 三座火车站:终于...
一座城市三座火车站:终于要打通了! -
全球头条:爱马仕回应官网删除16.5万自...
爱马仕回应官网删除16 5万自行车:已售竭、暂时不补货 -
当前速读:保时捷Panamera插混版座椅起...
保时捷Panamera插混版座椅起火百万豪车烧成壳 -
当前通讯!紧跟理想和小鹏 李斌透露蔚...
紧跟理想和小鹏李斌透露蔚来“9系”车型计划:百万级豪车要来 -
【热闻】18线进口豪华品牌:唬不住咱中...
18线进口豪华品牌:唬不住咱中国人了 -
微资讯!理想ONE发动机半年坏了6次!车...
理想ONE发动机半年坏了6次!车主:30万让我置换个L9吧 -
宁德时代拟投资73.4亿欧元 建设匈牙利...
日前,宁德时代新能源科技股份有限公司发布公告称,在8月12日召开的... -
当前视讯!五菱宏光MINI EV正开着挡位...
五菱宏光MINIEV正开着挡位掉进扶手箱:车主直呼活久见 -
世界资讯:小鹏销售带客户体验“自动驾...
小鹏销售带客户体验“自动驾驶”:时速70怼上前车、气囊爆了 -
世界动态:花新车价却买到展车?男子:蓝...
花新车价却买到展车?男子:蓝牙连了十几个、老婆都误会我了 -
全球滚动:印官员否认限制中国手机在印销...
此前有报道称,印度政府正考虑禁止中国品牌销售价格低于1 2万卢比(... -
焦点!丰田埃尔法国产劲敌来了!红旗全...
丰田埃尔法国产劲敌来了!红旗全新MPV官图发布:命名HQ9 -
天天热点!安森美庆祝在新罕布什尔州扩...
该厂将使安森美的碳化硅(SiC)产能同比增加五倍,有助于确保对客户的... -
焦点快报!保时捷高速飙到171公里/时被罚...
保时捷高速飙到171公里 时被罚女司机:都怪导航没提醒 -
实时:Nordic助力城市智能井盖防盗保护...
简管家景观一体式智能井盖使用Nordic的nRF52832SoC作为主处理器,并... -
环球观焦点:听闻特斯拉Model Y要用比...
听闻特斯拉ModelY要用比亚迪刀片电池:老外有意见了 -
世界观点:比亚迪全新电池专利公布:全...
比亚迪全新电池专利公布:全是正六边形或为“蜂巢电池” -
全球聚焦:厉害了!中尼将建跨喜马拉雅...
据环球时报报道,中国、尼泊尔双方已经一致同意,将构建跨喜马拉雅... -
环球观速讯丨重磅!三星电子副会长李在...
据韩联社8月12日报道,韩国司法部表示,三星电子副会长李在镕获得特... -
雷军首度公开自动驾驶研发进展:已组建5...
8月11日,小米集团创始人、董事长雷军首度公开了小米自动驾驶的最新... -
亚马逊旗下电动汽车制造商Rivian 预计...
据外媒报道,电动汽车制造商Rivian Automotive在8月11日预计,该公... -
宜家将与ElectrifyCommercial合作 在25...
据外媒报道,宜家宣布将与Electrify America公司进行合作,在全美... -
美国议员质疑特斯拉自动驾驶安全性 要...
据外媒报道,两位负责监管汽车安全的美国议员Gary Peters和Jan Sc... -
宝马将在2025年开始大规模生产燃料电池...
据外媒报道,宝马销售负责人Pieter Nota对媒体表示,该公司最早将... -
研究公司:随着电动汽车需求增长 2030...
据外媒报道,根据研究公司Grand View Research的最新预测,随着电... -
广汽集团欲成立电驱科技公司 项目总投...
8月11日,广汽集团公告称,公司董事会审议通过了《关于设立电驱科技... -
“自动驾驶”在中国怎么样?特斯拉被美...
新能源汽车热火朝天,自动驾驶领域也是风起云涌。现在的电动汽车,... -
非头部车企探索“新生存”模式 谁将倒下?
不止一位大佬说过,未来或许只有3-4家中国品牌汽车可以活下来。相比... -
长安坚持芯片自主可控:智能汽车三步走...
《中国汽车报》:目前传统车企都积极转型,探索智能化道路发展,能... -
每日快看:雷军发布全仿生机器人"铁大"...
马斯克的机器人还没发布,没想到让雷军抢先一步。这波操作不得不给... -
【环球快播报】梦之墨创新型工程教育解...
8月4日-6日,由中国高等教育学会主办,陕西省教育厅、西安市人民政... -
焦点速讯:雷军晒小米汽车自动驾驶展示...
雷军晒小米汽车自动驾驶展示视频:500天全力研发覆盖全场景 -
当前头条:7月轿车销量排名出炉:日产赢...
7月轿车销量排名出炉:日产赢了面子、比亚迪赢了里子 -
头条:Cybertruck皮卡“难产”遭福特CEO...
Cybertruck皮卡“难产”遭福特CEO嘲讽!马斯克强势回怼 -
世界今热点:确认:德产特斯拉Model Y...
确认:德产特斯拉ModelY已开始装配比亚迪刀片电池 -
环球报道:耳朵要“炸” 网友晒杭州地铁...
耳朵要“炸”网友晒杭州地铁啸叫声高达87分贝?官方回应 -
今日热搜:最早的特斯拉杀手 本周出殡了
最早的特斯拉杀手本周出殡了 -
天天新资讯:小鹏P7汽车撞人致死!到底...
小鹏P7汽车撞人致死!到底谁的错? -
世界即时:小鹏P7车主撞人致死未自动刹...
小鹏P7车主撞人致死未自动刹车:深扒事故背后辅助系统失效可怕 -
焦点消息!小米汽车自动驾驶首秀:全场...
小米汽车自动驾驶首秀:全场景自动驾驶自动充电 -
全球短讯!雷军:小米汽车100%自研自动...
雷军:小米汽车100%自研自动驾驶!先砸它33个亿 -
每日资讯:16.5万 爱马仕自行车上海门...
16 5万爱马仕自行车上海门店已售罄!网友:一台思域没了 -
天天热头条丨小鹏P7高架撞人致死:到底...
小鹏P7高架撞人致死:到底谁之过? -
天天资讯:深度绑定比亚迪 创维新车出...
深度绑定比亚迪创维新车出炉:继续搭载DM-i混动 -
世界快资讯:奥迪e-tron锁电 车主打官...
奥迪e-tron锁电车主打官司却被4S店喷:恶意占用司法资源 -
天天即时看!国内最新动力电池排名:宁...
国内最新动力电池排名:宁德时代称王市占率一家独大 -
【天天报资讯】宝马车门把手被晒化 换...
宝马车门把手被晒化换一个400多块4S:很多车都如此 -
全新第四代汉兰达380T正式上市 中型SUV...
8月10日,广汽丰田全新第四代汉兰达380T正式上市。新车共推出4款车... -
月销量破20万台!比亚迪宋再夺当月冠军...
有道是风水轮流转,明年到我家。几年前,长城大概怎么也不会想到,... -
环球要闻:交警回应小鹏汽车撞人致死:...
交警回应小鹏汽车撞人致死:暂不确认车祸为辅助驾驶功能造成 -
世界快看:新晋神车诞生!比亚迪宋1-7月...
新晋神车诞生!比亚迪宋1-7月销量突破20万:超哈弗H6三成半 -
世界速讯:想买合资中大型SUV?全新福特...
想买合资中大型SUV?全新福特探险者来了价格够香 -
每日视讯:全新第四代2.0T汉兰达来了 ...
全新第四代2 0T汉兰达来了中型SUV市场又添“狠货”