NVIDIA|NVIDIA超级GPU、超级CPU合体!还集成了“网卡”

NVIDIA今天同时发布了新一代Hopper H100 GPU核心、Grace CPU处理器,还把二者放在了一张卡上,命名为“Grace Hopper”,官方称之为密度最高达到加速计算系统 。
两颗芯片并排放置,彼此之间通过NVLink总线进行芯片间通信,带宽达900GB/s 。
具体规格暂未公布,但应该做不到同时满血,尤其是Hopper GPU 。
Grace CPU基于ARMv9架构指令集设计,72个核心,集成198MB缓存,搭档LPDDR5X内存,支持ECC 。
Hopper GH100 GPU 18432个CUDA核心、576个Tensor核心、60MB二级缓存、6144-bit HBM2e/HBM3显存位宽 。
H100计算卡则只开启了16896个CUDA核心、528个Tensor核心、50MB二级缓存、5120-bit HBM3显存位宽,Grace Hopper卡上大概率也是这个规格 。
这种合体“怪物”有啥用?显然也是做HPC、AI计算,CPU、GPU可以协调分配不同负载,达到效率最大化 。
NVIDIA|NVIDIA超级GPU、超级CPU合体!还集成了“网卡”
文章图片

同时,NVIDIA还发布了“Grace CPU SuperChip”,单卡整合两颗Grace CPU 。
NVLink C2C互连,总计144个核心、396MB缓存、1TB/s LPDDR5X ECC内存,功耗500W 。
NVIDIA|NVIDIA超级GPU、超级CPU合体!还集成了“网卡”
文章图片

另外还有“H100 CNX”,同时集成H100 GPU、CX-7 SmartNIC网络芯片 。
通过让GPU直连网络消除系统带宽,支持PCIe 5.0,最高支持7个多GPU实例并发 。
【NVIDIA|NVIDIA超级GPU、超级CPU合体!还集成了“网卡”】NVIDIA|NVIDIA超级GPU、超级CPU合体!还集成了“网卡”
文章图片