2026-08-14 14:17:05
2026 年 5 月，美光科技向核心服务器生态系统合作伙伴送样了基于 1γ 制程的 256GB DDR5 RDIMM 内存模块，传输速率达到 9200 MT/s。这款模块采用 3D 堆叠(3DS)与硅通孔(TSV)封装工艺，将多颗内存晶粒整合于单一模块中。与两个 128GB 模块相比，单个 256GB 模块可降低 40% 以上的运行功耗，为现代 AI 数据中心带来直接的能效收益。
同一时期，美光的256GB SOCAMM2 模块同步进入送样阶段。SOCAMM2 依托业界首款单晶粒 32Gb LPDDR5X 设计，单模块容量较前代 192GB 提升三分之一。每颗 8 通道服务器 CPU 可配置 2TB LPDRAM 容量，面向大模型的长上下文窗口和复杂推理工作负载提供内存空间支撑。
与相同容量的RDIMM 相比，SOCAMM2 功耗仅为其三分之一，尺寸也缩减至三分之一，有效提升机架密度并降低总体拥有成本。在统一内存架构中，256GB SOCAMM2 用于 KV 缓存卸载时，可将长上下文 LLM 推理的首个 token 生成时间加速 2.3 倍。在独立 CPU 应用中，针对高性能计算工作负载，LPDRAM 的每瓦性能较主流内存模块提升超过 3 倍。
NVIDIA 数据中心 CPU 产品部门主管 Ian Finder 指出，先进 AI 基础架构需要在各个层面进行极致优化，美光通过 SOCAMM2 以低于传统服务器内存的功耗实现了超大内存容量与带宽的突破。1γ 节点采用下一代高 K 金属栅极 CMOS 技术并结合 EUV 光刻工艺，使单片晶圆的容量密度产出较上一代提升 30% 以上。在移动 AI 与数据中心交叉的方向上，美光基于 1γ 节点的 LPDDR5X 内存已开始出货认证样品，速率达到 10.7 Gbps，功耗降低高达 20%，封装高度缩小至 0.61 mm。
AI 应用对高性能低功耗计算的需求增长，使数据中心服务器、智能汽车和 AI PC 等设备也开始关注 LPDDR5X 内存兼具高性能与高能效的特性。AI 训练、推理、代理式 AI 和通用计算的融合，正在推动更严苛的内存需求。大语言模型参数规模持续增长、上下文窗口不断扩展、持久性 KV 缓存成为推理链路的关键组件，这些工作负载变化使内存容量、带宽效率、延迟和能效成为系统层面的主要瓶颈。
美光在JEDEC SOCAMM2 规范制定过程中持续参与，并与 NVIDIA 协作设计高性能内存解决方案。DDR5 RDIMM 路线持续向更高容量和速率演进。美光 1γ 256GB DDR5 RDIMM 的 9200 MT/s 速率比当前量产模块快 40% 以上。
大语言模型、智能体AI、实时推理及高核数 CPU 负载场景的快速普及，使超大规模云厂商对单插槽内存配置容量的需求持续攀升。美光正与核心生态系统合作伙伴在当前及新一代服务器平台上对该模块进行联合兼容性测试，以加速量产部署。SOCAMM2 的模块化设计兼顾了可维护性和扩展性。
可更换的模块形态支持液冷服务器架构，并能随着AI 与核心计算内存需求的增长实现未来容量扩充。美光当前提供从 8GB 至 64GB 组件及 48GB 至 256GB 的 SOCAMM2 模块，构成业界覆盖最广的数据中心 LPDRAM 产品组合。
Q: 美光256GB DDR5 RDIMM的最高传输速率是多少?
A: 美光基于 1γ 制程的 256GB DDR5 RDIMM 传输速率达到 9200 MT/s，比当前量产内存模块快 40% 以上。
Q: SOCAMM2 和传统 RDIMM 在功耗和尺寸上有多大差异?
A: 与相同容量的 RDIMM 相比，美光 256GB SOCAMM2 功耗仅为其三分之一，尺寸也缩减至三分之一。这使服务器可以在同等机架空间内实现更高密度部署，同时降低散热和供电压力。
Q: 256GB SOCAMM2 对 AI 推理性能的具体提升体现在哪些指标上?
A: 在统一内存架构中用于 KV 缓存卸载时，SOCAMM2 将长上下文 LLM 推理的首个 token 生成时间加速 2.3 倍。在独立 CPU 高性能计算工作负载中，LPDRAM 每瓦性能较主流内存模块提升超过 3 倍。
Q: 1γ 制程节点相比前代的核心改进有哪些?
A: 美光 1γ DRAM 节点采用下一代高 K 金属栅极 CMOS 技术提升晶体管性能，结合 EUV 光刻工艺实现更精细的特征尺寸。
Q: 哪些 AI 工作负载场景对内存容量和带宽提出了新的要求?
A: 大语言模型参数增长、上下文窗口扩展、持久性KV缓存和实时推理都在推动更大容量、更高带宽和更低延迟的服务器内存需求。美光256GB SOCAMM2可为每颗8通道CPU配置高达2TB LPDRAM，这是平台支持上限之一，实际容量应根据工作负载和系统设计确定。
Q: 256GB DDR5 RDIMM 的封装技术有何特点?
A: 该模块采用先进封装工艺，结合 3D 堆叠(3DS)与硅通孔(TSV)工艺，将多颗内存晶粒整合于单一模块中。单个 256GB 模块和两个 128GB 模块相比可降低 40% 以上的运行功耗。
