首页 > 技术

第三代骁龙8登上人民匠心奖榜单,高通高管:生成式AI将从云端向终端转移

2024-01-04 09:35:30      西盟科技资讯   


  回首2023年科技产业最大的惊喜是生成式AI,在该技术的帮助下,人们可以用真正的自然语言与计算机进行交流。这一以前只能出现在科幻电影里的场景,仅在一年时间里,就走入人们日常生活。近日,高通技术公司公共关系副总裁Clare Conley撰文表示,生成式AI在几乎每个行业都是无可争议的变革性技术,2024年人们将继续感受到它带来的影响。高通正在积极地开发部署领先的边缘AI、高性能低功耗计算、以及5G等连接技术,为更多用户随时随地提供AI能力。

  不过目前生成式AI的发展,尤其是广泛地普及应用,还有成本、隐私、时延等许多困难需要克服。将生成式AI从云端向终端侧转移,成为加速生成式AI普及的重要路线。在Clare Conley的文章中,高通技术公司高级副总裁兼技术、规划和边缘解决方案业务总经理马德嘉(Durga Malladi)表示:“随着生成式AI日益融入人们的生活,5G智能手机、PC、汽车甚至物联网设备等个人终端,将成为多模态生成式AI模型的中枢。”

  此前不管是文本生成式AI ChatGPT,或者图片生成式AI Midjourney,主要通过云端向用户提供生成服务。这些云端生成式AI服务极度依赖GPU,而支持AI云端运算的GPU一直奇货可居,GPU的供应能力,成为制约生成式AI普及扩展的最大的阻力。而随着终端侧设备的AI计算能力的不断提升,发展终端侧生成式AI,能帮助AI产业突破眼前的这一困境。在5G手机、PC、智能汽车等终端侧运行生成式AI,能拓宽消费者和企业获取强大生成式AI能力的途径。马德嘉表示:“生成式AI从云端转向个人终端的转变,能为消费者和企业提供更关注隐私和更个性化的全新AI体验,并能为开发者降低云成本。随着终端侧运行多模态生成式AI大模型的能力不断提升,从云端向混合AI或终端侧AI的转变势不可挡。”

  终端侧AI的性能,在2023年获得飞速的发展。以高通的移动平台为例,在2023年10月底举行的骁龙峰会中,高通发布第三代骁龙85G移动平台,该平台将智能手机的AI能力提升到全新水平,可在0.6秒内生成一张图片,可以运行超过100亿参数规模的生成式AI模型。由于该平台优异的表现,在人民网主办的第二十届人民匠心奖评选活动中,获评人民匠心技术奖。在PC方面,高通发布全新一代AI PC平台骁龙XElite,可提供惊人的75TOPS算力,以及在笔记本电脑上运行超130亿参数的生成式AI大模型。随着5G智能手机、PC等终端侧AI性能的高速提升,2024年,生成式AI也将带领智能终端走向全新的篇章。

相关阅读