高通的自研架构芯片,正在整合生成式AI世界

2024-11-20 09:50:09机器之心Pro

生成式AI的驱动力,就在这块「至尊」芯片上?

身处2024年末的我们,已经能感觉到大模型就在身边。

新一代的旗舰手机上,动态壁纸、AI画图、语音通话总结等功能一字排开,常用功能也有了新技术加持。

智能手机现在获得了与现实世界互动的能力。你可以拍照直接问手机「看到了什么」,它既能向你进行介绍,也可以对画面进行图像增强。

AI领域最前沿的智能体也被塞进了手机,它可以像人类一样点击屏幕操纵不同的App。你可以拿起手机用自然语言给出指令:「点三杯瑞幸的美式咖啡,大杯。」过一会儿AI就自动把外卖的店铺、商品和口味选好了,只等你来付款。

在新一代大模型和芯片的加持下,很多AI手机的体验有了质的升级,新引入的能力包括但不限于端侧AI智能体、多模态大模型应用、视频AI消除、超级AI助手等等。

值得注意的是,这些生成式AI的背后,都是高通的「骁龙8至尊版」在提供动力。作为业界最新的旗舰SoC,它不负众望,在部分性能上对同行实现了「降维打击」。不仅有颠覆性的性能提升,还有跨时代的体验升级。

骁龙8至尊版:桌面级性能,移动端的能效

今年的骁龙究竟通过什么引发了端侧AI的质变?

说到「骁龙8至尊版」,就不得不从今年如火如荼的AIPC领域说起。

今年6月,微软发布了专为AI设计的「Windows11+PC」。它是迄今为止速度最快、最智能的Windows个人电脑。凭借其中搭载的骁龙X系列PC平台,能够实现超过45TOPS(每秒万亿次操作)的AI算力,与此同时电池续航时间长达一整天。

这种新类型的PC结合先进的端侧大模型技术,拥有一系列独特的AI能力,不仅可以感知、理解世界的多模态信息,还能与人进行自然的交流,并执行复杂任务。

微软官方表示:在很长一段时间里,这是「独占」的能力。Windows11中的部分生成式AI,只有在搭载OryonCPU的骁龙芯片上才能正常运行。

没过几个月,这种级别的能力就进入到了手机上。在上个月的骁龙峰会上,高通正式推出骁龙8至尊版(Snapdragon8Elite)移动平台,它是目前全球速度最快的移动端系统级芯片。

与上一代骁龙8Gen3相比,骁龙8至尊版在CPU单核、多核性能直接提升45%,GPU性能提升40%,NPU输出的速度达到了70+Tokens每秒,与此同时整体SoC功耗还降低了40%。

在性能提升的背后,骁龙8至尊版从里到外,有了脱胎换骨的改变:

首先是CPU,它成功地把高通自研架构的桌面级能力带到了手机上,采用第二代定制高通OryonCPU,由两个主频为4.32GHz的「超级内核」和六个频率3.53GHz的性能内核组成,取消了以往的能效核,既提供更好的性能,又提升了功耗效率。

GPU方面,高通对AdrenoGPU架构进行了重新设计,为每个切片分配了专用内存,性能提升了40%,功耗降低40%,光线追踪性能也提升了35%。

AI能力方面,在骁龙8至尊版上,全新架构的HexagonNPU性能提升45%,能效提升45%,这得益于所有加速器内核的吞吐量提升。此外,结合全面提升的CPU和GPU,该芯片能够跨所有核心动态管理AI负载,相比上一代,基础大语言模型token生成速率提升了100%。

在这些新技术的加持下,搭载骁龙新平台的智能手机不仅可以满帧跑3A游戏大作,还可以运行一系列终端侧多模态生成式AI应用,带来改变人们使用习惯的体验,包括强大的AI影像功能、下一代游戏AI、超级智能助手等。

重构的不止硬件:大模型优化「呼朋唤友」

除了芯片本身,高通在做的另一件事是软硬件的整合。骁龙8至尊版的发布几乎被办成了一场生成式AI技术的Demo大会。

这块移动芯片的发布,获得了各路科技公司大佬的祝福。在发布时,OpenAICEO山姆・奥特曼、微软CEO萨提亚・纳德拉、MetaCEO马克・扎克伯格等人纷纷连线进行了背书。

这三位分别阐述了生成式AI在PC、增强现实设备、大模型应用等方向的愿景。此时此刻,他们都把目光聚焦在了端侧AI上。

正如奥特曼所说,云端和端侧的生成式AI形态是互相成就的关系:服务器擅长训练大模型,而利用端侧设备的算力则可以保护个人隐私,同时提升服务的可靠性。

由于大语言模型相当耗费算力,此前生成式AI的技术落地大多是在云端,将更多能力部署在端侧则是未来的必然趋势。除了微软、Meta等硅谷巨头,很多国内厂商也同高通在新一代硬件上展开了合作。

致力于对标OpenAI的智谱就与高通共同宣布,已围绕骁龙8至尊版,对最新一代端侧视觉大模型GLM-4V进行了深度适配和推理优化。在端侧部署后,手机等设备现在已可以支持丰富的多模态交互方式,让人们获得更加情境化、个性化的终端侧智能体验。

国内大厂腾讯的混元大模型,也在高通的帮助下完成了端侧部署,在骁龙8至尊版移动平台上,混元大模型7B和3B版本展示了优化后的运行表现。

结合高通完善的AI软件栈,包括高通AI模型增效工具包(AIMET)等,骁龙8至尊版可以为大语言模型提供从底层硬件到框架的全面优化。通过使用基于硬件的INT4量化技术,骁龙大幅提升了混元大模型在终端侧的运行效率,端侧推理可以做到首个token生成时延仅有150ms,解码速率超过了30token/s。

此前,腾讯混元大模型已为腾讯自家的大量App提供了底层支持,包括微信输入法、腾讯手机管家、QQ、腾讯视频、QQ浏览器、企业微信、腾讯会议等,覆盖超过700个业务场景。

在经过高通技术栈的深度优化后,很多亟待落地的大模型已经达到了端侧可用的程度。

比如,腾讯手机管家的短信智能识别功能,基于混元端侧模型现在已经跑通,具备了更强的语义理解能力,可以更准确地理解短信意图,短信召回率提高了将近200%,识别准确率提升20%。由于短信经常会涉及用户的个人信息,端侧AI还可以在保证出色性能的同时,有效保护用户的个人信息隐私安全。

经过高通与合作伙伴们的整合,端侧大模型从芯片到应用的优化路径得以打通。或许在未来的某一天,你会发现天天在用的App在某次更新后,就多出了生成式AI功能。

端侧AI堆栈,合纵连横

推出了至尊版芯片的高通,其想要拓展的版图还不止PC和移动端。

高通CEO安蒙在骁龙峰会上表示:「高通一直是推动无线通信产业发展进程的公司,也是最专注于无线技术的公司。但我们也积极迎接变化,高通不仅仅是一家专注无线连接的公司,更将成为连接的计算公司以适应新时代的人工智能处理。更令人振奋的是,骁龙现在不仅引领着移动行业的创新,还在推动着其他行业的进步。」

上个月与骁龙8至尊版一同发布的芯片,还有骁龙座舱至尊版(SnapdragonCocKpitElite)和骁龙Ride至尊版(SnapdragonRideElite)平台,它们专为汽车定制,分别面向智能座舱和自动驾驶。

其中,骁龙座舱至尊版使用的OryonCPU围绕车用平台进行了多方面的提升。它的CPU算力较上一代提升了三倍,AI性能也有飞跃式增长,达到了前代产品的12倍。此外它也通过软件虚拟化和多操作系统等机制,支持实现了车机任务的灵活的集中式处理,满足了汽车安全标准。

现在,车厂能够在同一块SoC上无缝运行数字座舱和智能驾驶等功能,真正实现了近年来一直在追求的硬件架构统一。

骁龙座舱至尊版平台和SnapdragonRide至尊版平台将于2025年出样。理想汽车已经官方宣布,将率先搭载高通最新发布的骁龙至尊版汽车平台。

在骁龙峰会上,理想展示了自家智能座舱的一系列功能,从语音助手、旅行助手到智能问答。

骁龙至尊版汽车平台是骁龙「数字底盘」解决方案组合中的最新产品,除了高算力的芯片,高通还提供智能驾驶和AI软件栈体系,提供端到端的智能驾驶系统,具备视觉感知、传感器融合、路径规划、定位和整车控制等先进特性。

在采用OryonCPU的骁龙8至尊版发布之后,再加上高通自研的AdrenoGPU、SpectraISP和HexagonNPU等,高通补齐了自研SoC的最后一块拼图,也统一了PC、手机、汽车三条产品线的芯片架构。

自研芯片架构的意义,在于能够根据不同产品线的需求,对CPU进行微架构层面的调优和定制。与此同时,高通AI软件栈(AIStack)也在不同产品线的AI部署中作用显著。

至此,从芯片、大模型到App的纵向,以及从手机、PC到汽车的横向,高通已经做到了AI能力的全链路打通。

正如大模型公司不断通过新技术优化降低大模型使用门槛,高通的布局正在帮助众多OEM厂商和应用公司,把越来越多的生成式AI技术,从不可能变为可能。

生成式AI可能会「无处不在」

大模型的落地推动到现在,人们已经越来越重视起端侧能力的体验。

从AI技术领域里,研究「小模型」(SLM)的趋势开始,在科技公司的努力下,端侧模型从文本到图像,再到多模态的一步步逐步落地。如今,高通端侧芯片的AI能力,完整的开发平台以及统一的生态体系,已经为生成式AI的大规模应用铺平了道路。

不过,高通的「至尊版」芯片只是起点。经由全链路的技术推动,我们还将见证不久的未来,很多事物改头换面。

其实在最近的发布活动中,我们已经看到了端倪。在《永劫无间》手游的测试版本中,骁龙8至尊版除了利用CPU、GPU能力带来高帧且稳定的游戏体验,还在端侧跑起了18亿参数的大语言模型。配合高通AI软件栈从硬件到软件的全栈优化,网易在手游的端侧直接打造出了AI队友功能。

现在,玩家们在游戏里拥有了可以语音交互的AI队友,他们在战斗过程中不仅能够听玩家指令行事,还会在你不会的时候进行提示。

如果说在手游这样高能耗的应用上,我们已能用得起大模型的智能体,那么在日常的应用上,AI智能体就更可以为我们架起桥梁,让很多功能实现高度的自动化,甚至消除App之间的壁垒。再延伸到AIPC、汽车甚至机器人,高通的技术栈,或许还能把不同的硬件连成一体。

正如奥特曼所说,高通在所有边缘端设备上都拥有强大的技术,能够应用AI模型汇集全球几十亿用户。现在仅仅是生成式AI的开始,未来将会出现什么?是发挥想象力的时候了。

猜你喜欢:

网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图网站地图