首页 > 技术

新华三灵犀智算解决方案,以全栈技术革新激发AI潜能

2024-04-22 12:52:21      西盟科技资讯   


  当前,人工智能与产业的融合发展已迈入“换挡提速”阶段,各行业对新型基础设施的需求日益升级,引发了新一轮数智化转型热潮。近日,紫光股份旗下新华三集团以“×AI”为主题举办2024媒体与分析师沟通会,以“算力x联接”为基石,依托“1+N”大模型策略(百业灵犀私域大模型+N个优选生态大模型),正式发布全栈灵犀智算解决方案。

  “算力×联接”,重塑AIGC时代算力全新体验

  随着AIGC技术发展进入爆发期,算力需求也随之水涨船高,百行百业的数智化转型不仅需要充足的算力支撑,更要考虑如何让算力可以被更灵活地调度和释放,给模型的训练、推理带来更高效、更稳定的支持。对此,新华三集团提出,将充分发挥 “算力多元化”和“联接标准化”的乘数效应,助力AIGC应用发挥更大潜能。

  ◆ 开放生态,更多元算力选择:新华三可提供CPU和GPU的多元化选择,以异构融合、统一调度、开放兼容等优势,可实现异构纳管、异构迁移、异构混训等服务,降低算力部署和应用成本,满足不同行业客户的市场需求。

  ◆ 原生无损,更强大互联网络:新华三积极推动联接标准化,注重开放性和灵活扩展,通过负载均衡和自愈技术提升网络带宽利用率与降低故障恢复时间,为不同规模的算力联接提供最优选择,具备强大生态解耦能力和优秀的算力网络性能,是异构GPU互联的最佳选择。

  ◆ 全栈可视,更智能算力管理调度:全新升级的傲飞算力平台可为异构GPU提供强大的算力资源管理和调度能力,全面拥抱"算力即服务";同时支持自动端到端的拓扑呈现,便于算力管理,助力客户实现算力效率“最优解”。

  灵犀应用使能平台,让模型使用更自由

  新华三灵犀智算解决方案通过一站式灵犀应用使能平台(LinSeer Hub)可实现多元模型组合管理、AI Agent开发、模型服务等功能,能够灵活兼容新华三百业灵犀私域大模型及其它国内外主流模型,帮助客户快捷构建智能应用,实现“模型使用自由”。

  ◆ 更简单:以完备的工具链降低大模型应用过程中的理解和使用成本,并以提示词持续优化提升大模型推理效果。工作流可实现组件可视化编排,并可将工作流固化为自定义插件,通过指令灵活调用。

  ◆ 更通用:依托标准的南北向API和通用的管理功能,兼容不同推理平台和大模型。北向对应用侧统一开放大模型推理调用API,用户可对应用授权,具有增强会话、知识检索、指令调用等功能;南向适配不同推理平台,兼容商业大模型和开源大模型,可进行统一管理和推理部署。

  ◆ 更安全:内置安全防护提示词,可对所有场景下大模型生成内容进行安全限制,支持基于用户需要增强,可针对所有出入流量和内容进行安全审计和敏感信息拦截,为用户信息和数据安全保驾护航。

  ◆ 更智能:通过提示词管理、编排和使用,可明确大模型对应用场景的目标、策略和约束,并通过向量存储和检索让大模型具备记忆力,满足专业性和准确性需求。

  人工智能作为新质生产力,正在重塑百行百业的业态模式与商业逻辑。面向未来,新华三集团将持续秉持“精耕务实,为时代赋智慧”的理念,充分发挥作为AIGC时代数字化解决方案领导者的责任与担当,助力百行百业加速拥抱AIGC技术,为我国数智化产业快速发展贡献力量。

相关阅读