2024年7月26日，中国国际数字文娱财产年夜会(CDEC)旗下ChinaJoy AIGC年夜会在ChinaJoy时期于上海进行。年夜会从技能、运用等全生态角度配合切磋了AIGC技能下的内容财产新业态及将来成长趋向，聚焦AIGC怎样助力财产进级、怎样晋升AIGC场景运用、怎样促成人机交融等。

高通技能公司副总裁兼产物、互助伙伴及技能市场全世界卖力人 Mike Roberts 于年夜会上发表了主题演讲。他指出，终端侧天生式AI已经经到来，高通公司作为终端侧AI的带领者，于AI范畴有着跨越15年的投入，借助强盛的硬件及软件撑持组合、异构计较上风、以和全世界规模内的领先边沿侧结构，高通的产物及技能已经撑持出货跨越25亿台AI赋能终端，赋能广泛的行业范畴及天生式AI体验，正于鞭策实现“让智能计较无处不于”。

如下为演讲全文：

各人好，很兴奋第四次到场ChinaJoy。我很侥幸代表高通，与各人分享咱们正于怎样助力让智能计较无处不于。作为终端侧AI的带领者，高通于人工智能范畴有着跨越15年的投入，拥有行业领先硬件及软件解决方案笼罩广泛边沿终端，而且拥有跨NPU、CPU及GPU的卓着异构计较能力、领先的软件优化、以和能效。此外，咱们还有于全世界规模内拥有没有与伦比的边沿侧结构及高达数十亿的用户装备数目，笼罩智能手机、PC、汽车、XR、边沿收集装备等等。同时，咱们也与微软、google、百川、腾讯、字节跳动等浩繁生态互助伙伴配合鞭策AI技能的立异及运用。

天生式AI不仅是不成或者缺的小我私家助手，也于浩繁范畴揭示出了巨年夜的贸易价值。估计每一年可带来2.6万亿到4.4万亿美元的经济效益，约莫相称在2023年上海GDP的5倍。然而，鞭策天生式AI的范围化成长面对诸多挑战。以成本为例，基在天生式AI的搜刮单次推理成本是传统收集搜刮的约10倍。今朝，咱们还有处在天生式AI运用的初期阶段，新的运用不停涌现，包括图象及视频创作、文本择要、对于话谈天呆板人等。再思量到将来需要利用AI推理的数十亿用户数，这个整体需求量就会很是惊人。估计2024年至2028年，天生式AI相干的token天生量将增加150 倍，云真个推理需求将跨越练习需求。假如还有连结当前的AI处置惩罚方式，到2030年AI可能会耗损全世界3.5%的电力，这足以为上海如许的年夜都会供电约35年。

那末咱们应怎样应答这一挑战?为了实现范围化扩大，AI处置惩罚的重心正于向边沿侧转移，终极方针是实现混淆AI，让云端及边沿侧终端可以或许协同处置惩罚事情负载，并利用高机能毗连来实现越发强盛、高效、优化的AI。假如将 20% 的天生式 AI 事情负载转移到终端侧，估计到 2028 年将节省 160 亿美元的计较资源成本。

让咱们别离看看终端侧及云真个AI处置惩罚。终端侧重要撑持100亿参数级另外年夜模子。终端侧AI处置惩罚具有浩繁上风，不仅可以或许提高机能及效率，还有能确保隐私及安全性，同时提供即时性、低时延、高靠得住性及个性化的用户体验。另外一方面，中央云可以或许撑持运行参数跨越千亿级另外超年夜模子。于中央云上，用户可以轻松地对于模子举行开发、部署及练习，实现资源聚合及极致机能。

基在此，面临各个垂直范畴对于天生式AI用例日趋增加的需求，高通推出了面向计较机能的体系级解决方案。提供体系级解决方案的理念植根在高通公司的DNA之中，也是咱们作为一家公司应答诸多挑战的要害。这一解决方案包括咱们专为天生式AI全新打造的神经收集处置惩罚器(NPU)，同时，咱们还有将NPU与CPU、GPU整合到一路。好比，咱们已经经于PC端推出的高通Oryon CPU，将来还有将扩大得手机、汽车等更多终端品类;此外，咱们推出了高通Adreno GPU，咱们于这款定制化GPU上已经经投入了跨越十年的研发。

咱们针对于差别计较需求，计谋性地利用相宜的处置惩罚器，从而晋升体系机能，实现异构计较。异构计较让咱们可以或许实现最好运用机能、能效及电池续航。如今，终端侧AI已经经广泛运用在各种消费终端及各行各业，包括边沿收集装备、汽车、以和制造车辆的工业呆板人等。于此，我想重点谈谈两种重要的终端类型：智能手机及PC。

咱们最新的第三代骁龙8旗舰挪动平台已经经赋能诸多手机厂商互助伙伴推出了富厚的终端侧AI体验。上个月，咱们的互助伙伴微软以和其他领先PC厂商，推出了20多款搭载骁龙X Elite及骁龙X Plus平台的最新Windows 11 AI+ PC，这些装备已经经实现了及时翻译、及时转译、AI照片编纂、文本总结、写作辅助等富厚的AI功效。

让咱们先从智能手机的角度来谈谈这些终端侧AI用例。咱们与互助伙伴联袂于他们推出的旗舰智能手机上，为用户带来了天生式AI功效，将骁龙的AI能力直接出现给消费者。三星Galaxy S24系列借助终端侧AI，以进步前辈的及时翻译功效，将手机通话及时翻译成用户首选语言，打破语言障碍，促成无缝的跨文化交流。此外，OPPO Find X7 Ultra集成为了精彩的终端侧AI特征，让用户可以或许将照片中不需要的物体某人物消弭，且无需毗连互联网。荣耀Magic6系列的“聪明成片”功效则可以或许使用相册中的照片及文本提醒天生视频。

接下来，让咱们聊聊PC范畴的运用。 于PC方面，咱们与djay Pro等浩繁公司睁开了互助。djay Pro是一款全世界领先的混音运用，颠末咱们两边的互助优化，此刻可以于骁龙X Elite的NPU上运行，让用户可以或许使用Neural Mix及时分散及操作人声、乐器、鼓等差别音轨。

此刻，让咱们将眼光转向汽车制造商及其他办事提供商，他们可以按照需求提供特征进级及新办事。中国的汽车市场有着全世界领先的成长速率。于网联汽车中利用天生式AI办事，可以或许赋能咱们的互助伙伴打造全新特征，扩大他们的产物，并为驾驶员及搭客提供更佳体验。网联汽车可以或许撑持各类软件界说特征及办事，也将从头界说出行体验。

高通还有于引领终端侧AI于物联网范畴的运用。一个详细的用例是工场车间，工场车间中数据处置惩罚的低时延至关主要，由于纵然是最微小的过错也需要即刻存眷。经由过程多模态AI助手，咱们可使用视觉、文本及语音处置惩罚为工场车间的工人提供及时帮忙。

咱们还有提供了高通AI软件栈这一周全的同一解决方案，以撑持广泛的垂直范畴及互助伙伴。高通AI软件栈旨于帮忙开发职员优化及部署AI模子，它集成为了咱们自立的高通神经收集处置惩罚SDK、以和模子压缩及量化东西——高通AI模子增效东西包(AIMET)。

综上所述，依附强盛的硬件及软件撑持组合，高通的产物及技能已经撑持跨越25亿台AI赋能终真个出货。跟着咱们不停缩小云端及终端侧AI之间的差距，将来这一数字将继承快速增加。末了，很是接待各人来到ChinaJoy骁龙主题馆E4观光体验。谢谢各人!