导语：如今，跟着将年夜模子塞进手机的进程加速，平凡用户也能亲自体验天生式AI的魅力了。

2023 已经经行至尾声，这一年年夜模子及天生式 AI成为人工智能圈的主流趋向。自ChatGPT 呈现以来，各式各样通用、专业的 AI 年夜模子层见叠出，喷涌之势已经经不成拦截。跟着量化、收集剪枝及常识蒸馏等模子压缩技能前进，手机等终端装备AI算力连续加强，年夜模子于云端部署以外正于向终端落地迈进。

对于在这场已经经拉开了序幕的「终端侧革命」，芯片巨头及手机厂商们成为主力军，他们不停测验考试于手机等终端装备上部署运行天生式AI年夜模子，时时时给人们一点小小的欣喜及震撼。

本年2月，咱们第一次看到了于手机上运行跨越10 亿参数的文生图年夜模子Stable Diffusion。那是于一部搭载高通第二代骁龙 8挪动平台的安卓手机上运行的，不到15秒的时间履行20步推理，天生了一张512×512像素的图象。这也创造了其时智能手机上最快的推理速率。

你以为这就是手机运行Stable Diffusion的速率极限了吗?显然不是。于上个月进行的2023骁龙技能峰会上，不到15秒的天生时间又被整整缩短数十倍。高通最新旗舰挪动平台第三代骁龙8(如下简称骁龙8 Gen 3)让速率飞升成为可能。

于峰会现场，高通用搭载了骁龙 8 Gen 3的手机运行不异的Stable Diffusion年夜模子，此次不到1秒(0.6秒)的时间便于当地天生了一张图象。从15秒到0.6秒，终端侧天生式AI年夜模子的进化速率让咱们赞叹不已经。

这只是高通于本届骁龙技能峰会上展示其终端侧AI能力的牛刀小试。除了了天生速率(从 15 秒到 0.6秒)有了质的奔腾，骁龙8 Gen 3将撑持运行的年夜模子参数范围(从10亿到百亿)晋升一个量级。

年夜模子赋能平台也再也不局限在手机，高通下一代 AI PC 芯片骁龙X Elite表态，将百亿参数年夜模子「塞进」PC平台，极年夜拓展了天生式AI运用的广度。

至此，高通于终端侧AI范畴堆集起来的带领力及技能领先性进一步获得增强，更付与了手机、PC，甚至耳机等厂商更多终端AI落地的想象力及可能性。

双平台并进，让天生式AI越发触手可和

自本年2月以来，高通前后于搭载第二代骁龙8挪动平台的安卓手机上运行Stable Diffusion、ControlNet，让年夜模子跑于手机端成为实际。这次骁龙峰会上发布的骁龙 8 Gen 3 将年夜模子终端侧落地的潜力晋升到了新的高度，使其自身继承于该范畴引领潮水。

据相识，骁龙8 Gen 3采用的高通AI引擎拥有面向挪动终真个强盛Hexagon NPU，集成为了进级后的硬件加快单位、微切片推理单位、增强张量、标量及矢量单位，所有单位同享 2 倍带宽的年夜容量同享内存。同时撑持 INT8+INT16的混淆精度以和 INT四、INT八、INT16及FP16的所有精度。机能较前代晋升98%，能效晋升40%。

骁龙 8 Gen 3 集成的高通传感器中枢也更强，拥有2个始终感到ISP、2个micro NPU及1个DPS，内存增长了30%，撑持INT4精度，AI机能晋升了3.5倍。

可以说，骁龙 8 Gen 3付与了手机史无前例的强盛终端侧AI机能，成为高通首个专为天生式AI打造的挪动平台。那末这款旗舰级挪动平台是否名不虚传呢?这是咱们各人最为体贴的问题。

于该平台上，高通AI引擎初次撑持多模态天生式AI，包括了多种年夜语言模子、视觉语言模子等。特别是于终端侧，骁龙8 Gen 3 初次撑持运行 100亿参数的模子，范围迈入百亿量级。同时将 Stable Diffusion 天生图象的时间降到了1秒以内，再次创下最快速率。

于跑Meta年夜语言模子Llama2-7B时，骁龙8 Gen 3每一秒可以天生20个token，一样是手机终端侧最快之一。

(图注)高通产物治理高级副总裁Ziad Asghar

骁龙平台已经经撑持运行OpenAI、Meta、微软、安卓、stability.ai、BLOOM、baidu、智谱、百川智能、有道等企业或者机构的年夜模子，既为这些厂商将自身年夜模子能力「下放」到终端侧提供契机，也为用户体验天生式AI带来了富厚的选择项。

牵一发而动全身，跟着高通于赋能年夜模子终端落地上的进一步动作，采用骁龙 8 Gen 3挪动平台的手机厂商快速跟进，加快了年夜模子集成得手机的进程。

以首发搭载骁龙 8 Gen 3挪动平台的小米14系列新机为例，AI年夜模子技能已经经集成到小米全新彭湃 OS 中，并上线各类终端侧运用。有了年夜模子能力加持，小米14 撑持了 AI 妙画、AI搜图、AI写真、AI扩图等多项功效，让输入法、WPS、相册焕发新的活气。

vivo旗下品牌iQOO 12系列一样搭载了骁龙8 Gen 3挪动平台，全新高通AI引擎使其影像体验年夜幅进级，照片质感及细节拉满。同时该系列手机预装的 OriginOS 4体系引入天生式AI功效，AI助手蓝心小V可以举行超能语义搜刮、超能问答、超能写作、超能创图、超能聪明交互，智能化水平较着晋升。

此前于骁龙峰会上，荣耀CEO赵明公布新旗舰手机荣耀Magic 6将搭载骁龙8 Gen 3挪动平台，已经撑持70亿参数的终端侧AI年夜模子，为用户提供越发智能化的体验。他于现场演示了终端侧AI举行照片搜刮、天生视频等智能操作，效果着实不错。

手机终端交融年夜模子能力催生了年夜量或者好玩、或者有助在晋升出产力的天生式 AI运用。将来越发富厚的天生式AI运用会让更多用户亲身体验到 AI的魅力，晋升自身交互体验，这也恰是高通致力在于终端侧打造天生式AI能力的主要源动力之一。

于连续使用AI赋能手机挪动平台以外，高通也于追求使用并掌握好年夜模子和天生式AI的成长契机，以此来重塑PC行业，扩展自身于AI范畴的领先上风。

天生式AI有了「第二阵地」

高通发布了面向PC 平台的全新处置惩罚器骁龙X Elite，它采用4nm制程工艺，集成定制的高通Oryon CPU，运行速率是英特尔 12 核处置惩罚器的 2倍，功耗比英特尔竞品低68%，岑岭时段的运行速率比苹果M2快了50%。

假如这些参数还有没法让你信赖骁龙X Elite的强悍，那就跑个分吧。骁龙 X Elite 拥有两个版本：看重续航体现的 23W 版本、主打机能的 80W版本。Geekbench 6测试下的单核及多核患上分环境以下图所示，单核机能尤为亮眼。

(图注)图源fonearena

一样地，骁龙X Elite专为AI打造。它采用业界领先的、集成高通Hexagon NPU的高通AI引擎，异构算力高达75TOPS，Hexagon NPU算力为45TOPS，为创意运用、视频集会及出产力助手的厘革性体验提供了算力基础。高通 AI引擎还有撑持了年夜量的加快运用步伐及体验，创造无穷可能性。

超强天生式 AI 能力同样成为骁龙X Elite的一年夜标签，截止到发布时，它已经撑持于端侧运行跨越130亿参数的天生式AI模子，面向70亿参数年夜模子每一秒天生30个token，AI处置惩罚速率是竞品的4.5倍。下图为PC端AI作画能力的展示。

从手机到 PC，多样化的端侧平台为开释天生式 AI能力提供了更多渠道。这也注解，高通于终端侧天生式AI落地这条赛道上继承「加码」，暗地里既离不开技能上的厚积薄发，也是其于年夜模子时代自身AI成长战略的延续。

手机、PC加快迎来全新AI时代

于现今年夜模子时代，终端侧部署天生式AI这条线路愈来愈了了。基在此，高通秉持「混淆AI是AI的将来」这一理念及战略，看重云端与终真个协同成长，并认为终端侧AI是扩大天生式AI至全世界更广泛规模的要害。

遵照这一前瞻性认知，高通一步步堆集，逐渐于自身结构中构建了强盛、周全的终端侧AI能力，并引领了端侧年夜模子和天生式AI的改造与前进。毫无疑难，这次骁龙峰会上发布的骁龙 8 Gen 三、骁龙X Elite将进一步夯实高通作为终端侧AI带领者的职位地方。

(图注)高通全栈AI优化方案

假如年夜模子继承连结当前的落田地伐，咱们将可以于手机、PC 甚至XR可穿着装备、智能网联汽车等智能终端上体验到更多天生式AI运用，让人机交互越发天然且个性化。反过来，这些天生式AI运用以和带来的体验厘革也将对于这些终端装备孕育发生深远影响，甚至转变它们的焦点驱动力，从头界说它们。

咱们以与人们一样平常事情、糊口互相关注的手机为例，于寻求绝对于机能以外，人们愈来愈多地存眷一些创意性运用。这就需要AI年夜显身手，天生式AI机能更是成为下一代手机处置惩罚器比赛的焦点竞争力。

骁龙挪动平台最近几年来连续发力在此也于意料之中了。从去年的骁龙8 Gen 2 到这次骁龙峰会上的骁龙 8 Gen 3，AI 早已经无处不于，天生式 AI 一跃成为「AI 皇冠上的新明珠」，遭到了广泛存眷及青睐。

跟着年夜模子和天生式AI于手机终端落地的规模愈来愈广、成熟度愈来愈高，咱们也许可以看到：传统智能手机被天生式 AI 能力全方位加持的「AI 手机」所代替。小米等手机厂商新发布的旗舰机于这方面已经经初具雏形，使用天生式AI加强一些场景的利用体验及效率，为将来倾覆手机的质变做好了充实的量变。

同时，PC 终真个改造也有近似向天生式 AI 能力歪斜的成长趋向。于这方面，集成到Windows 中的微软 Copilot是一个很好的例证。固然还有有更多天生式AI厘革人类与 PC 交互的场景及方式，借此实现更高效的智能协作、更简化的事情流程、更强盛的出产力、更定制化的利用体验。

骁龙 X Elite 一脱手便对准天生式 AI，必将会为当前的PC市场注入新鲜血液。于第六届虹桥国际经济论坛 ——「智能科技与将来财产成长」分论坛上，高通公司中国区董事长孟樸发表了主题演讲，认为下一代 PC 将进入一个全新的「AI PC」时代，以智能、高机能、高效等为特色， 并将对于办公效率等方面孕育发生主要意义。

信赖将来高通会于骁龙 8 Gen 3 等挪动平台及骁龙 X Elite等PC平台的基础上，继承增强自身于年夜模子及天生式AI上的基础能力。加上更多搭载这些平台的厂商发布全新旗舰手机及 PC 产物，他们不停加强的自立性和自研能力可让咱们期待更多样化天生式AI运用的表态。

不外，于「AI 手机」及「AI PC 时代」真正到来以前，还有要看天生式AI能力是否能让用户孕育发生强烈感知、是否能正确满意他们的需求、是否能对于相干运用孕育发生依靠性、以和是否能动员他们换机的愿望，这些都是高通及手机厂商此刻和将来要思量的问题。

结语

自觉布以来，骁龙 8 Gen 三、骁龙X Elite揭示出的强盛天生式AI能力留给人们无穷的想象空间。 正如高通公司总裁兼 CEO 安蒙所言，「咱们正于进入将转变用户体验的天生式AI时代，也将创造一个挪动行业及计较行业的全新周期。」

于这一进程中，作为终端侧带领者的高通正担负起应有的时代脚色。一方面，使用自身强盛的全栈AI优化能力会聚软硬件各方，助力终端侧AI生态快速成长;另外一方面，全新的跨平台技能「Snapdragon Seamless」实现安卓、Windows 及其他操作体系无缝跟尾，这类多终端体验有望将 AI于手机、PC 等终端上的落地进一步拓睁开来。

可以预感，基在骁龙生态的AI体验会很是快速铺睁开来，各类运用落地的速率也将年夜年夜加速。将来，高通将继承连结自身于终端侧AI的技能上风，鞭策年夜模子于部署运用时更便捷、更富厚、更有吸引力。同时，联袂各年夜厂商立异基在年夜模子的天生式AI运用，降低平凡用户利用天生式AI的门坎。

跟着新的天生式AI时代开启，高通是否能连续满意人们的期待，我想此次骁龙峰会已经经给了咱们谜底。

(文章转载自呆板之心公家号)