美光宣布，推出业界首款带宽超过1.2TB/s、引脚速度超过9.2GB/s、8层垂直堆叠的24GB容量HBM3 Gen2，相比目前出货的HBM3解决方案提高了50%。美光是第一个宣布交付新一代HBM3显存样品的公司，但SK海力士此前曾透露，它正在开发24GB HBM3E堆栈，将于2024年发布。不过目前美光显然已经走在了前面。 美光表示，HBM3 Gen2产品的每瓦性能是前几代产品的2.5倍，为人工智能（AI）数据中心的性能、容量和功率效率等关键指标创造了新的记录，可以减少GPT-4等大型语言模型的训练时间，并提供了卓越的总拥有成本（TCO）。美光还公布了最新的内存路线图，图中标注了“HBM Next”内存，有可能为HBM4显存，推出的时间点为2026年左右，容量可达36-64GB，可提供2TB/s+带宽。 美光HBM3 Gen2解决方案的基础是其1β（1-beta）工艺，在行业标准封装尺寸内将24GB DRAM芯片组成了8层垂直堆叠的立方体，相较目前的同类8层垂直堆叠方案容量增加了 50%。此外，美光的新型内存也适用于与标准HBM3 相同的11mmx11mm 封装，与现有 HBM3引脚兼容，降低了换用新款显存的麻烦。