AI 定义芯片!骁龙 8 Gen 3 / X Elite 平台解读:体验全面提升
前段时间,高通举行了 2023 年骁龙峰会。本次峰会最受关注的看点莫过于面向 PC 打造的最强计算处理器骁龙 X Elite 平台,以及第三代骁龙 8 移动平台的发布。他们都是集终端侧智能、顶级性能和能效于一体的强大产品。
和以往骁龙旗舰平台发布后大家集中讨论性能、讨论功耗等不同,今年的骁龙 X Elite 平台和第三代骁龙 8 移动平台发布后,大家将更多讨论的焦点集中在了 AI 上,事实上,这两款产品都是专为 AI 打造、由 AI 赋能的强大平台,第三代骁龙 8 移动平台更是将 AI 注入整个平台系统,并开启生成式 AI 的新时代。
众所周知,AI 对于人们生产、生活的影响正在肉眼可见地持续扩大和加深,这其中尤以生成式 AI 的火爆和快速应用为关键节点。它的发展进一步完善了人机交互的方式,特别是终端侧生成式 AI 对于打造强大、快速、个性化、高效、安全和高度优化的体验至关重要,而这些变革性的体验,都将由 AI 赋能的芯片在底层驱动。
而这一切对于高通来说,并非一蹴而就,而是多年深耕后水到渠成的结果。
多年深耕演变,AI 已成骁龙平台关键基础能力
关注高通的朋友们相信都会发现,过去这些年,高通一直在强调骁龙移动平台的 AI 能力,同时 AI 在骁龙移动平台中扮演的角色也越来越重要,越来越多元。
但无论技术如何进化,应用如何丰富,总体来说他们一直坚持的方向就是:将具有强大算力的人工智能技术应用到终端上,推进终端侧 AI 的发展。
比如早在 2007 年,高通就启动了首个人工智能项目,那个时候,其实还是功能机的天下。经过近 10 年的积累以及成果取得,高通在 2015 年骁龙 820 处理器上正式融入了第一代人工智能引擎 Zeroth,在 CPU 上实现运行神经网络。
当时的 AI 应用主要还是实现一些初级的功能,比如根据用户拍摄的照片进行智能化分类,识别出实物和汽车的图像,分别存储在两个不同的文件夹,方便用户更好地管理拍摄的照片等。
2016 年,高通发布了骁龙神经处理引擎 SDK,而在 2017 年初,第二代人工智能引擎也随着骁龙 835 的发布而问世。这一人工智能芯片推出后,智能手机开始进入智能相册管理和人脸识别的时代,特别是人脸识别的应用,让 AI 在智能终端上的存在感迈上了新台阶。
2018 年,随着骁龙 845 移动平台发布,高通第三代人工智能引擎 AI Engine 问世,这一代人工智能引擎中,高通开始引入 CPU、GPU 和 DSP 的异构并行计算,AI 算力性能方面相比上一代提升了 3 倍,这让智能手机也能拥有强大顶级的 AI 算力支持。
2019 年,AI Engine 随着骁龙 855 移动平台来到第四代,能够实现每秒超过 7 万亿次运算,让 AI 在智能手机上有了更多元的应用,比如当时高通和网易合作利用 AI Engine 在部分骁龙移动平台上加速有道实景 AR 翻译功能,还有他们和腾讯合作借助骁龙神经处理 SDK 来进行终端侧的实际应用,比如手机 QQ 的“高能舞室”功能等等。
2020 年骁龙 865 移动平台中搭载了第五代 AI Engine,AI 性能相比上一代提升了 2 倍多,达到 15TOPS。强大的算力加持下 AI 在智能终端上的应用也扩展到了游戏、拍照、交互等领域。比如在影像领域,第五代 AI Engine 通过强大的 AI 能力作用于 Spectra 480 ISP ,对图像数字信息进行去除噪点、高光抑制、暗光补偿等众多优化处理,让当时众多手旗舰手机的拍照表现,尤其是动态范围表现有了质的提升。
接下来在骁龙 888 移动平台中第六代 AI Engine 在性能上持续进化,也推动智能终端在影像、游戏等方面的体验越来越出色。比如高通曾和 Snapchat 合作,利用 AI 模型增效工具包,量化他们的一系列 AI 镜头模型,以提高人脸识别的准确性和性能,还有可以在视频中实现人像抠图等等。
2021 年骁龙 8 Gen 1 移动平台的第七代 AI Engine 实现了性能能效的双翻倍,同时重点为终端摄像头带来了更智慧的感知能力,比如摄像头人脸检测更出色的自动对焦、自动曝光和自动白平衡(3A)与细节,还有当终端感应到有人在隔着用户肩膀偷看手机,终端就会自动锁屏。同时在骁龙 8 Gen 1 中高通还将 AI 技术融入到 Spectra ISP、以及调制解调器和射频系统中,实现了实时人脸识别、 AI 天线调谐技术等能力。
而上一代骁龙 8 Gen 2 平台更是 AI 无处不在,无论是影像、音频、连接还是游戏等方面的体验,都有 AI 的深度参与,同时“认知 AI”成为高通致力于推进的新方向、新阶段,让 AI 能够从上下文、时间轴的维度去理解人类的认知情感,这无疑是具有里程碑性质的。
通过对骁龙平台上 AI 技术和应用演进的回顾可以发现,AI 在终端体验中的作用的确越来越关键和多元,从过去只偶尔出现在影像、情景感知等边角的角色,逐渐发展到贯穿整个芯片所有关键领域,如今已然成为最关键基础能力。
第三代骁龙 8 及骁龙 X Elite 宣告,移动芯片的 AI 时代已经到来
过去我们谈“终端体验”,大部分人的视线还是聚焦在 CPU 性能,视野更广一些,很多人还会关注 GPU、ISP、音频、5G、Wi-Fi 等能力,这些的确构成了我们更为全面的终端体验。之前高通提出的集连接、AI、影像、音频、游戏、安全六大支柱体验于一芯的理念,为骁龙移动平台带来了全方位、几乎没有破绽和短板的移动体验,这其中不可忽视的地方在于,六大支柱体验的背后,有一个关键的底层驱动力,就是 AI。
而这次 2023 骁龙峰会让我们看到,AI 正从底层的驱动力变成需要关注的焦点。在骁龙 8 Gen 3(第三代骁龙 8)和骁龙 X Elite 平台上,高通将他们在终端侧 AI 方面的技术领先性和领导力彻底贯注到两大芯片平台上,让 AI 真正成为全方位变革终端体验的“明星”。
比如在第三代骁龙 8 移动平台上,AI Engine(高通 AI 引擎)发展到了第九代,并做了积极的革新,高通将过去的 Hexagon 张量加速器升级为 Hexagon NPU,从而可以协调整个平台。同时 Hexagon NPU 本身也升级了新的微架构,整体性能提升 98%,能效提升了 40%。
同时骁龙 8 Gen 3 中高通在 Hexagon NPU 矢量单元和内存之间增加了直连通道,大大增强了 AI 运算的处理效率。同时传感器中枢也得到了升级,拥有内存、两个微型 NPU、Spectra DSP、双 ISP 等不同模块,可以随时随地提供高效的 AI 运算和处理。
在这些强大的升级加持下,骁龙 8 Gen 3 可以支持包括 Meta Llama 2 在内的多种生成式 AI 大模型,并已经能实现运行参数超过 100 亿的大模型,每秒可执行多达 20 Token。通过在终端侧运行这些强大的大型模型,用户无需再完全依赖云端。
今年早些时候,高通全球首次利用 Stable Diffusion 进行图像生成的终端侧部署技术演示,该演示完全在终端侧运行,用时不超过 15 秒。而通过第三代骁龙 8 运行这一模型仅需约 0.5 秒,强大的 AI 提升由此可见一斑。
在影像方面,骁龙 8 Gen 3 集成了三个感知 ISP,在强大的 AI 能力加持下,如今可以支持多达 12 层的语义分割,可以更精准地识别物体和场景。
同时它还支持视频场景下的物体智能消除,超级夜景功能也不再局限于拍照,更可用于录像,这两种能力没有强劲的 AI 支撑是很难实现的。
就连 5G 也融入了 AI 的能力。骁龙 8 Gen 3 集成了全球首个毫米波硬件(QTM565)与 Sub-6 硬件相融合的调制解调器骁龙 X75,同时也拥有首个专用硬件张量加速器,高通 5G AI 处理器第二代将 AI 性能提高 2.5 倍,这样便可以更智能地选择最佳频率,以实现最佳连接。
而全新骁龙 X Elite 计算平台,则搭载了异构的高通 AI 引擎,通过 NPU、CPU 和 GPU 能够整体实现 75TOPS 的算力,相比 6 年前,其 AI 性能提高了 100 倍。
这其中,全新骁龙 X Elite 计算平台搭载的 Hexagon NPU 算力可以达到 45 TOPS,在笔记本上运行 70 亿参数的 Llama 2 模型时,能够提供快速且准确的响应,处理速度则达到了 30 Tokens / s。
不仅如此,它还能完全在终端上运行超过 130 亿参数的生成式模型,无需云端资源。这样,生成式 AI 就能帮你起草完整的电子邮件、转录会议记录,或者借助文本生成和图像生成工具快速进行研讨等。基于今年参数运行发展情况,相信未来的商用机上市时,能力有可能进一步更新。
这些事过去还智能在数据中心里实现,现在凭借骁龙 X Elite 计算平台,同样的事就可以在 PC 本地端进行。这正是基于高通多年的异构架构设计经验,让其成为现代 AI PC 的完美解决方案。
可见无论是第三代骁龙 8 还是全新的骁龙 X Elite 计算平台,他们都是专为 AI 设计的、甚至可以说由 AI 定义的芯片平台,并且在 AI 的定义下,他们的连接、影像、音频、游戏、安全等支柱体验都得到了令人欣喜的增强。
移动芯片平台的“AI 时代”,已经到来。
AI 时代落地的最后一公里
当然,仅仅是芯片平台本身迈入“AI 时代”还不够,对于广大用户来说,这些 AI 能力必须转化为实际落地的产品和应用,我们才算真正进入 AI 时代。而这些则离不开高通和开发者们在软件、工具层面的紧密合作,乃至与生态合作伙伴们的密切配合。
比如针对第三代骁龙 8 平台移动端生成式 AI 能力的落地,高通拥有专门面向边缘侧 AI 的领先软件栈产品,高通 AI 软件栈,能够支持从软件层面进行模型优化。通过高通 AI 软件栈中算法、模型开发、 AI 模型增效工具包、编译器、AI 引擎 Direct 等一系列工具,开发者们可以将他们想要实现的 AI 功能和体验轻松引入终端。
而在终端以及应用层面,高通也与合作伙伴们有深入的合作。例如作为终端厂商的小米很早就明确了“AI 全面赋能”的战略,在 AI 模型上,小米选择将他们的大模型重点放在端侧计算上做优化,在本次骁龙峰会上,他们展示了自研的 60 亿参数大模型(6B 大模型)在骁龙 8 Gen 3 平台上流畅运行。根据小米的介绍,他们运行于一个特殊的 NPU 之上,对 1000 tokens 的指令,只需 2.2 秒疾速生成首词,这就是小米和高通深度合作取得的成果。
除了终端硬件厂商,高通也在与软件厂商们合作推动生成式 AI 应用的落地,比如他们和国内的慧鲤科技,面向第三代骁龙 8 开发了一个神经网络,能够重构照片缺失的部分,即“照片扩充”,它能支持用户对照片进行缩放,让照片看起来具有广角效果,即使并非用广角镜头拍摄。
而对于骁龙 X Elite 计算平台,在 PC 领域高通最重要的合作者莫过于微软了,他们一直在和微软工程团队合作优化全新平台的特性,微软表示,绝大多数顶级应用都将以超快速度和能效在搭载骁龙 X Elite 计算平台的 Windows PC 上原生运行或通过无缝仿真运行,特别是微软自身的生产力应用,包括 Word, Excel, Powerpoint, Edge, Teams, OneDrive, OneNote 和 Outlook 都是原生的。
对于 Windows 11,微软改进了 Windows Studio Effects、宣布推出 AI Library,在更新中为 Copilot 和 Paint 等收件箱应用程序中引入生成式 AI,还与诸如 Camo、Luminar Neo、WhatsApp 等进行合作,共同优化 Windows 平台的生成式 AI 应用体验,而这些大家也都将在骁龙 X Elite 计算平台驱动的 Windows PC 上得以体验。
此外面向开发者们,高通还和微软合作,推出了 Windows Dev Kit 2023。这个工具包包含了面向骁龙平台开发 Windows 应用程序所需的一切,全都汇集在一台设备中,包括一些出色的开发者工具,例如 Visual Studio 和 Unity runtime 引擎,它们被原生移植到 Arm 平台。还有 ONNX Runtime 与相关执行提供程序。这些都将助力开发人员制作具有强大 AI 功能的原生应用。
结语
最后,相信在高通及其合作伙伴们的努力下,不仅仅是移动芯片平台走向 AI 时代,更重要的是我们移动生活的方方面面,也都将因为与 AI 的交融而变得更加美好。
特别是眼下,各行各业数智化转型的进程正在全速推进,而站在多项关键技术和行业趋势交汇点上的高通,必将厚积薄发,和全行业一起推动 AI 的融合发展与创新,改变我们体验世界的方式,让数智化的未来加快成为现实。
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。