华为云昇腾AI云服务打造大模型沃土，赋能百模千态茁壮成长

　　9月22日，华为全联接大会2023期间，华为云举办“华为云昇腾AI云服务打造大模型沃土，赋能百模千态茁壮成长”的主题论坛。论坛上，华为云EI服务产品部部长尤鹏从充足算力、高效长稳、敏捷开发、协同生态四个方面深度解读了昇腾AI云服务如何加速推进百模千态茁壮成长，推出了昇腾AI云服务提供的全栈全流程工具链，同时介绍了昇腾AI云服务全栈生态如何与伙伴共享大模型商业机遇。论坛还邀请昆仑万维、拓维信息、思必驰、蝉大师、竹间科技等不同行业的嘉宾，从技术到场景，分享昇腾AI云服务深入行业的实践探索。

　　昇腾AI云服务，加速千行万业智能化

华为云EI服务产品部部长尤鹏发表主题演讲

　　尤鹏表示：随着大模型时代的到来，算力的需求量也在快速增加，云服务已经成为算力主要的供给方式。华为云除了提供盘古大模型，也为开源、三方大模型提供稳定、高效、充足供应的算力云底座——昇腾AI云服务。

　　论坛上，尤鹏对昇腾AI云服务如何加速千行万业智能化进行演讲;首先，昇腾AI云服务通过以下四个方面加速推进百模千态茁壮成长：

　　·充足算力：昇腾AI云服务为企业、开发者提供澎湃充足、即开即用的AI算力，这些算力部署在3大主节点及30+分节点，提供超大规模集群，支持万亿级模型。

　　·高效长稳：昇腾AI云服务提供更长稳的AI算力服务，千卡训练30天不中断，长稳率达到90%，断点恢复时长不超过10分钟。

　　·敏捷开发：昇腾AI云服务提供盘古大模型100+能力集、100+内化后的开源大模型，并打造三条全流程工具链，为算力调优、通用AI开发、大模型开发提供端到端工具支持，帮助企业大幅降低大模型开发门槛。

　　·协同生态：华为云为软件伙伴、服务伙伴、咨询与集成伙伴三类伙伴提供量身定制的伙伴发展路径，并通过AI Gallery构筑起AI供需桥梁，AI Gallery已聚焦包括数据集、数据模型、实践、知识等在内的10万+AI资产，能够帮助企业和个人开发者快速提升开发技能。

　　其次本次论坛还详细的介绍了上昇腾AI云服务提供全栈全流程工具链，整套工具链支持底层算子开发、通用AI开发、模型与应用开发三大场景。

　　·调优工具链：昇腾AI云服务沉淀了1400+高性能算子，覆盖主流AI框架模型应用场景，能够充分发挥算力的极致性能。同时提供场景化迁移模板，主力场景支持模型全流程自动迁移。

　　·通用AI开发工具链：是面向开发者的一站式AI开发平台，为机器学习与深度学习提供海量数据预处理及交互式智能标注能力，标注效率提升70%;通过交互式note-book以及拖拽的编排页面更加快速的完成机器数据、算法、实验的探索;通用AI开发工具链实现AI全流程生命周期管理，降低60%的维护成本，结合AI Gallery实现AI Workflow快速构建与能力分享，大幅提升AI开发效率。

　　·大模型开发工具链：为了加速和简化行业大模型的开发，华为云提供了大模型工程化套件，覆盖了数据工程、模型开发和应用开发三大环节。相比传统标注平台，我们的数据工程套件专门为SFT训练提供了Prompt在线辅助撰写功能，为RLHF训练提供了多人Rank在线标注和任务分拨功能。与离线对比，这两种任务实测效率可提升3倍。

　　此外，华为云昇腾AI云服务从算力、算法、平台、应用、服务需要全链条生态伙伴、客户的参与，昇腾AI云服务在行业的落地，离不开繁荣的生态。华为云将大力投入，携手各行各业的客户伙伴，共建昇腾AI云服务全栈生态，共享大模型商业机遇。为此，尤鹏介绍了面向软件伙伴、服务伙伴、咨询与系统集成伙伴的合作方式，

　　·面向软件伙伴：华为云欢迎有AI框架适配以及算子开发能力的伙伴，一起构建适配昇腾AI云服务的AI模型，挖掘算力极致性能，打造智能算力底座。此外，欢迎有行业实践经验、大模型集成和开发技术的伙伴，一起构建面向行业的细分场景模型，提供可复制的软件解决方案。

　　·面向服务伙伴：华为云欢迎模型迁移、应用迁移、交付实施等专业服务伙伴加入，在昇腾AI云服务落地的最后一公里提供优质服务，实现商业闭环。

　　·面向咨询与系统集成伙伴：华为云欢迎具备系统资质的伙伴，将昇腾AI云服务作为行业用户系统集成的首选，共同引领行业发展。

　　面向未来，华为云将继续支撑好人工智能产业的发展，让人工智能产业走深向实，携手每一个开发者、每一个企业、每一个伙伴，开放同飞，共赢行业AI新时代。

　　昇腾AI云服务，百模千态沃土

　　华为云昇腾AI云服务作为大模型成长的沃土，已经广泛应用于各个行业和领域，提供智能化的解决方案。本次论坛还邀请了五位客户、伙伴进行实践分享。

昆仑万维董事长兼CEO方汉发表主题演讲

　　昆仑万维董事长兼CEO方汉发表了“大模型重塑搜索 天工大模型驱动AI搜索”的主题演讲。发布了基于华为云昇腾AI云服务，昆仑万维打造的天工大模型端云一体化方案。昆仑万维为大模型的生产提供数据处理、推理过程、边缘推理的全流程闭环，实现了云上推理，云下协同。

拓维信息副总裁柏丙军发表主题演讲

　　拓维信息副总裁柏丙军发表了“拥抱华为云昇腾AI云服务，拓维信息行业大模型让交通更智能”的主题演讲。介绍了拓维信息交通CV大模型赋能高速业务场景的应用实践，并分享了高速稽核数字员工、高速AI虚拟人等高速运营及服务场景模型案例，多维度诠释拓维信息以“大算力+大模型”推进交通行业智能化的最新成果。

　　柏丙军表示：未来，拓维信息将全面拥抱华为云，依托昇腾AI云服务算力底座，积极推动人工智能与行业应用融合，切实解决垂直行业的多样化场景需求。

思必驰研发总监薛少飞发表主题演讲

　　思必驰研发总监薛少飞发表了“思必驰DUI升级2.0-实现融合大模型的全链路智能对话交互”的主题演讲。介绍了全新升级的DUI2.0全链路智能对话定制平台，并展示了其在智能家电、智能汽车领域的应用。

　　DUI2.0中的大模型应用可基于昇腾AI云服务高效满足预训练与微调，助力DUI2.0完成模型训练、推理服务和解决方案构建。

蝉大师设计总监谈世云发表主题演讲

　　蝉大师设计总监谈世云发表了“内容素材的极致创造与运用，基于华为云昇腾AI云服务的AI数字人新体验”的主题演讲。

　　谈世云在会上发布了蝉大师数字人短视频/直播平台-蝉影，提供了短视频制作、直播、真人的克隆等服务。基于昇腾AI云服务，训推平台ModelArts，蝉影能够灵活地调度资源，应对不确定的用户需求。

竹间智能总裁兼COO孙彬发表主题演讲

　　竹间智能总裁兼COO孙彬发表了“构建企业私有大模型，竹间智能为企业打造专属AI数智员工”的主题演讲。介绍了竹间智能在NLP领域基于“1+4”产品矩阵形成的“数字员工”行业解决方案，并分享了基于昇腾AI云服务打造某央企科技集团的“数字员工”在新闻摘要及简报场景的案例，帮助该企业员工大幅度提升工作效率，也为企业降低了人力成本。

　　未来，竹间智能将依托昇腾AI云服务底座，基于Emotibrain模型工厂，在对话、培训、知识管理和写作场景共同推动大模型落地，助力各行业建立大模型为驱动构建高效、可信且快速落地的企业级解决方案，同时也帮助企业低成本打通大模型场景落地的最后一公里。

　　论坛最后，华为云与人民科技、视觉中国、网智天元、中文在线、金财互联、最美天气、长光卫星、斗象科技、竹间智能、硅基智能、云问科技、德成信息、边塞科技、软通动力等14家客户、伙伴进行了合作签约，未来，将基于昇腾AI云服务和盘古大模型进行联合创新，围绕AI大模型技术攻关、创新应用等领域展开深度合作，打造千行万业的专属大模型。

　　此外，华为云已正式上线昇腾AI云服务“百模千态”专区，该专区开放兼容，适配主流开源、第三方大模型，并提供工具链的支持，实现一键接入，即开即用，让企业的大模型应用上得快、训得好、用的放心。让大模型触手可及。欢迎大家登陆官网(https://developer.huaweicloud.com/develop/aigallery/home.html)，开启属于大模型之旅。

　　面向未来，华为云将继续支撑好人工智能产业的发展，让人工智能产业走深向实，携手客户、伙伴和开发者，共赢智能世界。