NVIDIA GH200 CPU+GPU超级芯片大升级！史无前例282GB HBM3e内存

8月9日消息，NVIDIA官方宣布了新一代GH200 Grace Hopper超级芯片平台，全球首发采用HBM3e高带宽内存，可满足世界上最复杂的生成式AI负载需求。

NVIDIA 2022年3月推出了Grace Hopper超级芯片，首次将CPU、GPU融合在一块主板上，不过直到今年5月份才量产。

其中，Grace CPU拥有72个Armv9 CPU核心、198MB缓存，支持1TB/s高带宽的LPDDR5X ECC内存，还支持PCIe 5.0。

Hopper GPU则采用台积电4nm定制工艺，800亿晶体管，集成18432个CUDA核心、576个Tenor核心、60MB二级缓存，支持6144-bit HBM高带宽内存，此前版本配备的是96GB HBM3。

双路配置的系统中，两颗新一代GH200超级芯片可带来144个CPU核心、8PFlops(8千万亿次浮点计算每秒) AI性能、282GB HBM3e内存，容量是现在的3.5倍，而高达10TB/s的带宽也是现在的3倍。

基于NVLink高速总线，GH200超级芯片还可以继续拓展互连，GPU可以访问全部的CPU内存，双路配置下总容量可达1.2TB。

NVIDIA没有透露采用的HBM3e来自哪家供应商，很可能是SK海力士。

首批基于GH200超级芯片的系统将在2024年第二季度出货。

顺带一提，AMD Instinct MI300A、MI300X AI加速器分别配备128GB、192GB HBM3，后者带宽超过5TB/s。