2026-07-03 11:07:14
端侧AI会把更多模型调用、数据处理和交互任务留在设备本地。LPDDR5X、UFS等内存和存储技术的作用,在于支撑容量、速率、能效和持续响应。
端侧AI要本地内存和存储
在本地存储上,美光的LPDDR5X 和 UFS 解决方案为其提供了所需的容量、能效、速率和性能。端侧平台要在有限空间内同时处理响应速度、能耗和持续运行。
看CPU平台,美光 LPDDR5X 内存具备较高速率,达到每秒 10.7 Gb(Gbps),同时功耗可降低 20%,为移动设备带来更稳定的移动体验和更强的续航,即使在执行如 AI 翻译或图像生成等数据密集型任务时也不例外。移动AI设备要同时满足速率、功耗和封装要求。
进入AI节点后,美光基于 1γ 的 LPDDR5X 可节省 20% 的功耗,使移动设备用户单次充电即可更持久畅享 AI 应用、游戏和视频内容。这类参数影响设备本地处理、续航和散热空间。
在服务器内存上,美光基于1γ(1-gamma)节点的 LPDDR5X 为移动设备带来的性能跃升,加速 AI 洞察,提供更流畅的使用体验。在终端设备中,低功耗DRAM承担本地数据访问和能耗平衡。
LPDDR5X、UFS与设备响应
看CPU平台,美光基于第二代 1-beta节点的 LPDDR5X 内存,传输速率可达每秒 9.6 Gbps,较上一代产品,速率提升了 10%。端侧AI运行时,内存要在有限功耗下支撑模型调用和多任务切换。
进入AI节点后,美光已向特定合作伙伴送样基于 1γ 节点的 LPDDR5X 16GB 产品,并将提供从 8GB 至 32GB 的多种容量用于 2026 年的旗舰移动设备。低功耗内存进入移动平台后,速率、容量和封装都影响设备体验。
对GPU平台来说,例如,在基于大型语言模型 Llama 2 的移动 AI 响应时间测试中,相比基于 1β (1-beta)节点、带宽为 7.5 Gbps 的 LPDDR5X,基于 1γ 节点、带宽达 10.7 Gbps 的 LPDDR5X 可带来以下提升。高带宽内存的作用不是单独提高数字,而是让计算单元更持续地访问数据。
看CPU平台,美光基于 1γ(1-gamma)节点的 LPDDR5X 内存将为移动行业带来变革。本地AI任务越多,内存侧对数据访问和能耗控制的要求越明显。
移动设备中的本地AI响应
进入AI节点后,这项技术依托行业超薄的 LPDDR5X 封装实现了速率和能效,为新一代移动设备的创新设计开辟新契机。这类规格进入项目评估时,通常会和CPU代际、主板布局及冷却方案一起核算。
在接口层面,它将美光广受信赖的PCIe 5.0 数据中心级创新引入客户端设备,用于说明美光在 NAND 技术领域的产品布局。这类SSD说明大容量SSD的基础不只在控制器,还包括NAND密度和封装能力。
看CPU平台,美光 LPDDR5X 内存速率达到每秒 10.7 Gb(Gbps),可支撑移动AI设备中的本地数据访问。这类DRAM能力进入服务器后,重点会转向系统级吞吐和稳定运行。
进入AI节点后,美光 LPDDR5X 在较高速率下功耗可降低 20%,端侧AI设备可以把更多能耗余量留给本地任务。AI推理节点扩容时,主存储能力影响上下文保存和并发任务处理。
FAQ
问:从内存和存储硬件为边缘AI 提供支持看,UFS对端侧AI有什么作用?
答:UFS偏本地存储,影响模型文件、应用缓存、数据读取和结果保存。
问:内存和存储硬件为边缘AI 提供支持里,端侧AI能套用数据中心指标吗?
答:不能直接套用。端侧设备更受功耗、尺寸、散热和续航限制。
问:围绕内存和存储硬件为边缘AI 提供支持,端侧AI硬件先看什么?
答:先看本地内存、存储、功耗、封装空间和持续响应能力。
问:内存和存储硬件为边缘AI 提供支持讨论中,LPDDR5X对移动AI有什么作用?
答:它主要在运行内存侧支撑数据访问、低功耗和紧凑封装。
端侧AI落到设备本地后,本地处理、续航和读写响应都会进入硬件讨论。美光LPDDR5X和UFS信息能说明移动AI中的内存与存储基础。