NVLink

NVLink est l'interconnexion haut débit propriétaire de NVIDIA qui relie les GPU entre eux (et aux processeurs NVIDIA) à une bande passante bien supérieure à PCIe, permettant à plusieurs GPU de partager la mémoire et d'agir comme un seul grand accélérateur. La cinquième génération NVLink sur les GPU Blackwell fournit 1,8 TB/s de bande passante bidirectionnelle par GPU — environ 14 fois PCIe Gen5 — et les puces NVLink Switch étendent cela à des structures à l'échelle des baies : le GB200 NVL72 relie 72 GPU en une seule baie refroidie par liquide de 120-130 kW avec 130 TB/s de bande passante NVLink agrégée. Dans le domaine NVLink, les GPU partagent la mémoire de manière cohérente, ce qui est crucial pour l'entraînement et le déploiement de modèles à des billions de paramètres. Au-delà de la baie, les clusters reviennent à InfiniBand ou Ethernet. NVLink Fusion, annoncé en 2025, ouvre le tissu à certains processeurs et accélérateurs tiers.