新闻  |   论坛  |   博客  |   在线研讨会
高通甩出最强芯片三件套!手机跑100亿参数大模型,PC芯片逆袭苹果英特尔
芯东西 | 2023-10-25 08:37:51    阅读:267   发布文章

三芯齐发,AI炸场。作者 |  ZeR0
编辑 |  漠影
芯东西10月24日毛伊岛报道,北京时间10月25日凌晨,高通在2023骁龙峰会上推出新一代旗舰移动芯片骁龙8 Gen 3旗舰PC(个人电脑)芯片骁龙X Elite音频芯片S7/S7 Pro Gen 1,以及跨平台连接技术Snapdragon Seamless第三代骁龙8移动平台是高通首个专为生成式AI而打造的移动平台,采用4nm工艺技术,搭载业界最快的设备端内存LPDDR5X。与前代平台相比,其AI性能提升98%、能效提升40%;CPU最高频率达3.3GHz,性能提升30%,能效提升20%;GPU性能提升25%,能效提升25%。小米14系列智能手机将在10月26日首发搭载第三代骁龙8。

全新PC处理器骁龙X Elite同样采用4nm工艺技术,12核CPU性能可达到x86处理器竞品的2倍,多线程峰值性能比苹果M2芯片高出50%,GPU算力可达4.6TFLOPS,AI处理速度达到竞品的4.5倍,异构AI引擎性能达75TOPS,支持设备端运行参数量超过130亿的大模型

第一代S7及S7 Pro音频平台是首款支持高通扩展个人局域网(XPAN)技术和超低功耗Wi-Fi连接的音频平台,相比前代平台,AI性能提升达近100,计算性能提升达6,能够在家庭、楼宇或园区扩展音频传输距离,并支持高达192kHz无损音乐品质。高通还公布一项全新跨平台技术Snapdragon Seamless。该技术可实现跨手机、PC、耳机、增强现实(AR)头显等多台终端跨多个操作系统无缝连接,共享外设和数据,就像使用统一的整合系统般工作以共享信息。

,时长00:59


这项技术可实现跨设备屏幕、文件分享等功能,比如鼠标和键盘可在PC、手机和平板电脑上无缝使用,文件和窗口可在不同类型的终端间拖放,耳机可根据音源的优先级进行智能切换,XR可为智能手机提供扩展功能。高通移动平台第三代骁龙8、PC平台骁龙X Elite、可穿戴平台和音频平台现已支持Snapdragon Seamless。未来该技术将扩展至XR(扩展现实)、汽车和物联网平台。微软、Android、Xiaomi、华硕、荣耀、联想和OPPO等公司正与高通合作,打造Snapdragon Seamless赋能的多终端体验。该技术最早将于今年在全球范围发布的终端平台上落地。


01.首次支持多模态生成式AI手机能跑100亿参数大模型


夏威夷当地时间9点01分,2023骁龙峰会正式开场,现场与座者共400多人。高通首先晒出一些成绩单:骁龙已落地30多亿终端设备,品牌知名度是竞品2倍,购买意愿是竞品9倍,推荐意愿是竞品10倍,消费者愿意花费比竞品高16%的溢价来购买搭载骁龙的终端。骁友会成员已接近1400万人。

紧接着,高通CEO安蒙登上舞台,分享高通对生成式AI和混合AI趋势的观察。安蒙说:“我们正在进入AI时代,终端侧生成式AI对于打造强大、快速、个性化、高效、安全和高度优化的体验至关重要。骁龙在助力塑造和把握终端侧生成式AI机遇方面独具优势,未来骁龙赋能的生成式AI体验将无处不在。”

针对生成式AI,第三代骁龙8率先支持多模态通用AI模型,现已支持运行超100亿个参数的大模型。

在第三代骁龙8上,面向70亿参数大语言模型可实现每秒生成20个Token;不到1秒就能使用AI文生图模型Stable Diffusion生成1张图像。

骁龙平台现已支持跑微软、OpenAI、Meta、安卓、百度、智谱、BLOOM、stability.ai、百川智能、有道等企业或机构的端侧大模型。

Meta创始人兼CEO马克·扎克伯格通过视频VCR的方式分享Meta与高通的合作。

其幕后功臣是升级的高通AI引擎,由Hexagon NPU、Adreno GPU、Kryo CPU等共同组成。

安蒙说,高通在设备侧AI性能、异构计算能力、可扩展的AI软件工具、横向生态系统和AI模式的支持等方面都优势显著。


02.卢伟冰现场展示小米14真机第三代骁龙8 AI性能提升98%


小米总裁卢伟冰来到现场,介绍了小米的60亿参数大模型,宣布搭载第三代骁龙8的小米14系列智能手机将在北京时间10月26日19点发布,并预告小米将在2024年推出小米汽车。

与前代平台相比,第三代骁龙8的Kryo CPU性能提升30%,能效提升20%;Adreno GPU性能提升25%,能效提升25%;Hexagon NPU AI性能提升98%,能效提升40%。

除了加速生成式AI外,第三代骁龙8此次重点升级的还有摄影功能,可支持用AI实现填充的照片扩展、用智能抠像实现视频对象擦除、AI背景生成、AI优化夜景视频拍摄等多种影像优化功能。骁龙正与C2PA标准合作,确保照片内容的公开度与透明度。

连接方面,第三代骁龙8内置基于5G advanced-ready架构的5G基带芯片,支持Wi-Fi 7和双蓝牙。


03.骁龙X Elite:CPU性能“倍杀”x86芯片,本地可跑130亿参数大模型


高通将骁龙X Elite称作是同级别Windows处理器中“最强大、最智能、最高效”的处理器,拥有可扩展的热设计范围,并且为AI而生,能够让用户从多方面感受到更加智能的体验。搭载骁龙X Elite的PC预计将于2024年中面市。

值得一提的是,联想集团CEO杨元庆、惠普总裁兼CEO Enrique Lores均通过视频形式向骁龙X Elite的发布表示祝贺。新任微软Windows和设备业务副总裁Pavan Davuluri更是直接到现场为骁龙X Elite站台,并分享微软与高通在Windows PC设备和VR设备Quest上的合作。

骁龙X Elite采用4nm工艺节点,包含12个CPU性能核;采用最先进的CPU内存架构设计、LPDDR5X内存,对应最大内存带宽136GB/s,总缓存为42MB。

其AI处理能力是竞品的4.5倍,异构AI引擎性能可达75TOPS,高通Hexagon NPU最高可实现45TOPS INT4的AI算力,相较2017年时提升100倍;支持在终端侧运行超过130亿个参数的生成式AI模型,面向Windows 11 PC的终端侧聊天助手(基于70亿Llama 2大语言模型)可实现每秒处理30个token。

骁龙X Elite采用定制的集成高通Oryon CPU,双核boost频率达4.3GHz,相同功耗下CPU性能可达到x86处理器竞品的2倍;峰值多线程CPU性能比Arm处理器苹果M2芯片高出50%。

达到相同峰值性能时,其单线程CPU所用的功耗比Arm处理器苹果M2 Max功耗少30%,比x86处理器英特尔i9-13980HX功耗少70%;

骁龙X Elite的Adreno GPU算力达4.6TFLOPS,能支持3台超高清监视器。相同功耗下,其GPU性能可达到x86处理器英特尔i7-13800H的2倍,达到相同PC峰值性能功耗仅有英特尔i7-13800H的1/4。

相同功耗下,GPU性能比x86处理器AMD Ryzen 9 9740HS快80%,达到相同PC峰值性能时功耗仅有Ryzen 9 9740HS的1/5。

骁龙X Elite还支持超快5G和Wi-Fi 7连接,以及先进的音频和摄像头体验。

04.S7/S7 Pro:AI性能提升100倍,计算性能提升6倍


高通还推出了面向耳机和音箱设计的第一代S7及S7 Pro音频平台,结合高性能、低功耗计算、终端侧AI和先进连接,旨在解锁下一级别的音频体验。

该平台将DSP性能提升至前代平台的3倍,AI性能是前代平台的近100倍,计算性能提升到前代平台的6倍,存储性能提升前代平台的3倍。第一代S7及S7 Pro音频平台是首款支持高通扩展个人局域网(XPAN)技术和超低功耗Wi-Fi连接的音频平台,其低功耗Wi-Fi连接扩展了音频使用范围和质量,能够在家庭、楼宇或园区扩展音频传输距离,支持高达192kHz的多通道无损音乐串流及面向游戏的增强多通道空间音频。Snapdragon Sound骁龙畅听技术已应用于最新的第三代骁龙8和骁龙X Elite,当与采用第一代高通S7或S7 Pro音频平台的终端配合使用时,用户将享受到更好的音频体验。Bose CEO Lila Snyder通过视频形式,宣布即将推出的Bose QuietComfort系列产品将采用高通Snapdragon Sound平台。


05.结语:为端侧生成式AI革命按下加速键


今年以来,生成式AI成为科技领域最火热的概念之一,从AI文生图、多轮对话聊天到文生代码、文生音乐、文生视频、图生文等等,以自然语言为入口的全新人机交互方式正为人们的生活、工作和娱乐带来前所未有的高效和便捷。作为终端芯片“头号玩家”和端侧AI技术的领跑者,高通在端侧运行生成式AI上的投入果断而迅速,早在今年2月就用基于第二代骁龙8的终端演示了跑参数量超过10亿的文生图模型Stable Diffusion,6月份又完成终端侧跑参数量更大的图生图模型ControlNet。今日发布的第三代骁龙8和骁龙X Elite更是为AI而生,做到支持超过100亿参数的大模型在骁龙平台上运行。无论是云端运行生成式AI难以消除的高成本、高时延、隐私安全等挑战,还是业界正探索缩小生成式AI模型参数量的趋势,都给端侧芯片企业敞开了时代机遇之门。高通为加速移动端和PC端AI计算所采用的各项硬件优化,以及在统一AI软件栈上的持续布局,对于在设备端更高效地支撑生成式AI应用很有参考价值。更多技术细节将在明日揭晓。



*博客内容为网友个人发布,仅代表博主个人观点,如有侵权请联系工作人员删除。

参与讨论
登录后参与讨论
推荐文章
最近访客