InfiniBand

InfiniBand est une norme de mise en réseau haut débit et à faible latence utilisée pour interconnecter les serveurs et le stockage à l'intérieur des centres de données, le plus couramment pour les clusters de calcul haute performance et l'entraînement d'IA. Contrairement à Ethernet standard, InfiniBand offre un accès direct à la mémoire à distance (RDMA) natif, permettant aux GPU et aux CPU d'échanger des données sans impliquer le CPU de l'hôte, réduisant la latence à un temps en microsecondes à un chiffre. Les commutateurs InfiniBand série Quantum de NVIDIA, hérités de l'acquisition de Mellanox en 2020, dominent le marché et constituent le tissu par défaut reliant les clusters GPU connectés à NVLink tels que ceux construits autour des systèmes H100, B200 et GB200, bien que les alternatives basées sur Ethernet — y compris les spécifications du Ultra Ethernet Consortium — gagnent du terrain en tant qu'option moins chère pour les grands tissus IA. Le coût par port et la consommation d'énergie d'InfiniBand sont des postes importants dans les budgets de construction des usines IA.