美光宣布其用于英伟达 AI 芯片的 HBM3E 及 SOCA

IT之家 3 月 25 日消息，美光今日宣布成为全球首家且唯一一家同时出货 HBM3E及 SOCAMM 产品的存储厂商。

据介绍，其用于英伟达 GB300 Grace Blackwell Ultra 超级芯片的 SOCAMM 内存，以及针对 HGX B300 平台打造的 HBM3E 12H 36GB、用于 HGX B200 平台的 HBM3E 8H 24GB 已量产出货。

美光表示，SOCAMM是一款与 NVIDIA合作开发的模组化 LPDDR5X内存解决方案，是全球速度最快、体积最小、功耗最低、容量最高的模组化内存解决方案。

• 速度最快：在相同容量下，SOCAMM能提供比 RDIMM高出 2.5倍的带宽，从而使其能更快存取更庞大的训练数据与更复杂的模型，同时提高推理工作负载的数据传输量。

• 体积最小：SOCAMM规格尺寸为 14x90 mm，仅为业界标准 RDIMM尺寸的三分之一，可实现更加精巧、更高效率的服务器设计。

• 最低功耗：SOCAMM解决方案功耗仅为标准 DDR5 RDIMM的三分之一，从而重塑 AI架构中的功率效能曲线。

• 最高容量：SOCAMM解决方案采用四组 16层堆叠 LPDDR5X 内存，打造 128GB高容量内存模组，可提供业界最高容量的 LPDDR5X内存解决方案。

• 最佳拓展能力和维修性：美光 SOCAMM采用模组化设计和创新堆叠技术，具备 ECC 纠错功能，还可大幅提升维修便利性，同时也有助于液冷服务器设计。

IT之家从美光官方获悉，其 HBM3E 12H 36GB在相同外形规格下可提供比 HBM3E 8H 24GB高 50%的容量。相较于竞争对手 HBM3E 8H 24GB产品，美光 HBM3E12H 36GB 功耗降低 20%，同时存储容量也高出 50%。