NVLink

NVLinkはNVIDIA独自の高速インターコネクトで、GPU同士（およびNVIDIA製CPU）をPCIeよりはるかに高い帯域で結ぶ。これにより複数のGPUがメモリを共有して1つの大きなアクセラレータとして動作できる。Blackwell GPUの第5世代NVLinkはGPU当たり 1.8 TB/s の双方向帯域を提供し、これはPCIe Gen5のおよそ14倍にあたる。NVLink Switchチップはこれをラック規模のファブリックに拡張し、GB200 NVL72は 120-130 kW の液冷ラック1台に72基のGPUを収め、NVLinkの総帯域は 130 TB/s に達する。NVLinkドメイン内ではGPUがメモリをコヒーレントに共有でき、これは数兆パラメータのモデルの学習と推論に不可欠である。ラックを越えると、クラスターはInfiniBandまたはEthernetに戻る。2025年に発表されたNVLink Fusionは、このファブリックを一部のサードパーティ製CPUおよびアクセラレータに開放する。