京东云JoyScale AI算力平台：集群利用率提升70%

　　近日，京东云城市大会在上海顺利举行，会上发布JoyAgent智能体2.0、JoyBuild大模型开发计算平台、JoyScale AI算力平台等九大产品，三大垂直行业一体机，助力企业全面重构AI基础设施，生成企业专属数字员工，加速迈向深度应用。

　　随着AI应用深入，对基础设施带来了一系列全新的技术挑战，都指向需要一套AI Native的基础设施：

　　·一方面，以CPU为中心的架构在支持AI原生应用方面存在棘手的问题，需要以GPU为中心重塑基础设施，在国内还需要解决GPU本身型号多样带来的异构问题。

　　·另一方面，应用的深化激发了更多推理的需求，计算资源持续增加，企业需要思考资源投入产出的问题，希望智算资源像过去一样得到极致的效率。

　　面向大模型训练、推理的算力需求，京东云发布全新的JoyScale AI算力平台——以GPU为核心，高效异构计算，强大推理性能。它具备两大核心优势：

　　· 极致的算力性能。面向大模型训推需求，JoyScale支持单集群万卡调度、全局超10万卡调度能力，支持跨智算中心横向扩展，通过软硬件协同优化，将大模型算力利用率MFU从45%提升至75%。

　　· 灵活的异构算力管理。JoyScale全面适配十余家国产算力，支持异构算力统一纳管、精细化运维，通过集群算力池化调度，提升集群利用率70%。

　　当前，基于京东集团复杂场景实践，京东云构建了一站式大模型产品矩阵，从底层的智算基础设施，到中间层的模型服务和工具，再到上层的Agent应用开发，支持企业快速部署大模型及应用。

　　大模型浪潮汹涌澎湃，京东云将持续深耕技术，以更开放、更协同的生态理念为引领，不断拓展和深化大模型技术的边界与应用。同时，凭借在京东内部场景千锤百炼的深度应用经验，打造出的极致性能、极致性价比的技术与产品，助力更多企业重塑AI生产力。