适配大模型训推差异化需求 寒武纪软硬件生态持续升级

　　随着大模型技术持续迭代升级，人工智能算力的应用逻辑与硬件适配标准迎来全新变革。图灵奖得主、RISC架构之父David Patterson在2026年最新研究中指出，大模型推理与训练的硬件需求存在本质差异，推理场景不再单纯依赖峰值算力，需要通过芯片架构、存储体系与软件栈的协同优化，才能充分释放推理芯片的实际运行效能。这一行业新趋势，也对智能芯片企业的软硬件一体化研发能力提出了更高要求。

　　寒武纪是智能芯片领域全球知名的新兴公司，可提供云边端一体、软硬件协同、训练推理融合、具备统一生态的系列化智能芯片产品和平台化基础系统软件。目前，寒武纪已推出的产品体系覆盖了云端、边缘端的智能芯片及板卡、智能整机、处理器IP及软件，可满足云、边、端不同规模的人工智能计算需求。公司的智能芯片和处理器产品可高效支持大模型训练及推理、视觉(图像和视频的智能处理)、语音处理(语音识别与合成)、自然语言处理以及推荐系统等多样化的人工智能任务，高效支持视觉、语音和自然语言处理等多模态人工智能任务。

　　目前寒武纪的产品广泛服务于大模型算法公司、服务器厂商、人工智能应用公司，辐射云计算、能源、教育、金融、电信、医疗、互联网等多个行业的智能化升级场景，为人工智能行业的高速、高质量发展提供坚实算力支撑。

　　为适配大模型训练与推理的差异化硬件需求，紧跟芯片架构与软件生态优化的行业趋势，2026年上半年，寒武纪同步推进硬件架构革新与软件体系迭代，实现软硬件双向升级、协同赋能。在硬件方面，寒武纪的新一代智能处理器微架构和指令集正在研发中。在软件方面，寒武纪对基础系统软件平台进行了优化和迭代。其中，在训练软件平台方面，寒武纪围绕训练生态建设、模型适配与性能优化、低精度训练以及训练工具等方向，持续推进训练软件栈的研发与完善，在大模型训练适配能力、训练效率和系统稳定性等方面取得阶段性进展。在推理软件平台方面，寒武纪围绕大模型推理、计算图编译、算子编程与加速库、通信等方向，持续推进推理软件平台的研发与优化。平台功能、模型适配能力、运行效率及系统稳定性进一步提升，并在内部研发、客户业务及搜索、推荐等场景取得阶段性成果。

　　在大模型推理方面，公司持续完善推理框架能力，跟进主流开源推理框架的发展，推进相关功能适配和性能优化。公司完善了大规模推理任务的调度与部署能力，能够稳定支撑内部业务运行;同时完成国产开源推理框架的适配，为客户相关业务部署提供支持。

　　在模型适配方面，公司持续深化国产芯片与国产模型的协同适配，完成GLM、DeepSeek、Qwen、Kimi、MiniMax 等系列国产主流开源模型的适配支持，进一步扩大推理软件平台的模型覆盖范围。

　　在性能优化方面，公司持续推进高吞吐、低时延推理技术研发，完善多种数据格式和低精度计算的支持能力，降低模型部署对存储和计算资源的需求。公司持续优化模型生成、任务调度和资源管理机制，提升大模型推理的整体吞吐能力和资源利用效率，并完成预填充与解码分离等推理方案的适配和验证。

　　在计算图编译方面，公司持续完善PyTorch编译生态相关功能，推进Torch.compile、Inductor及相关编译工具的适配与性能优化，进一步提升计算图的自动优化和执行能力。相关技术已在部分业务场景中实现应用，并持续推进在大模型场景中的适配和验证。

　　在算子编程与加速库方面，公司持续完善算子加速库的功能和性能，增强对算子融合、新型模型结构及新硬件平台的支持能力。公司持续跟进 Triton 社区版本更新，在功能适配、硬件支持和编译性能等方面稳步推进;同时开展国产算子编程语言的适配验证和性能优化工作，进一步丰富算子开发生态。

　　在通信方面，公司持续完善面向大规模分布式推理的通信软件能力，推进通信组件的功能开发和性能优化，并探索通信与计算协同优化。针对大规模集群中的数据传输和网络流量问题，公司持续优化通信调度和数据传输机制，提高通信效率，为大规模分布式推理任务的稳定运行提供支持。

　　整体而言，寒武纪的产品是针对人工智能领域内多样化应用场景而设计、研发的通用型智能芯片，对视觉、语音、自然语言处理、传统机器学习技术等各类人工智能技术具备较好的普适性，可为多个行业领域客户提供不同尺寸、多场景的差异化产品，满足客户的差异化需求。