NVLink

NVLink是英伟达专有的高速互连技术,它将GPU彼此相连(以及连接到英伟达CPU),带宽远高于PCIe,让多个GPU共享内存并作为一个大型加速器运行。Blackwell GPU上的第五代NVLink为每个GPU提供1.8 TB/s双向带宽——约为PCIe Gen5的14倍——NVLink Switch芯片可将其扩展至机架级架构:GB200 NVL72在一个120-130 kW液冷机架中连接72个GPU,总NVLink带宽达130 TB/s。在NVLink域内,GPU内存保持一致性,这对训练和服务万亿参数模型至关重要。超出机架范围,集群回退到InfiniBand或以太网。2025年宣布的NVLink Fusion将该架构扩展到精选的第三方CPU和加速器。