NVLink

NVLinkはNVIDIAの専有高速相互接続で、複数のGPUをお互いに(およびNVIDIA CPUに)PCIeよりはるかに高い帯域幅でリンクし、複数のGPUがメモリをプールして1つの大規模アクセラレータとして機能できるようにします。Blackwell GPU上の第5世代NVLinkはGPUあたり1.8 TB/sの双方向帯域幅を提供します — PCIe Gen5のおよそ14倍 — で、NVLink Switchチップはこれをラックスケールファブリックに拡張します:GB200 NVL72は1つの120-130 kW液冷ラックで72個のGPUを接続し、集約NVLink帯域幅は130 TB/sです。NVLinkドメイン内では、GPUはメモリをコヒーレントに共有し、これは兆パラメータモデルの訓練と提供に重要です。ラックを超えると、クラスタはInfiniBandまたはEthernetにフォールバックします。2025年に発表されたNVLink Fusionは、ファブリックを選ばれたサードパーティのCPUとアクセラレータに開放しています。