InfiniBand

InfiniBand est une norme de réseau haut débit et à faible latence qui interconnecte les serveurs et le stockage dans les centres de données. Elle est utilisée le plus couramment pour les clusters de calcul haute performance et l'entraînement d'IA. Contrairement à Ethernet standard, InfiniBand offre un accès direct à la mémoire à distance (RDMA) natif, permettant aux GPU et aux CPU d'échanger des données sans impliquer le CPU de l'hôte, réduisant la latence à un temps en microsecondes à un chiffre. Les commutateurs InfiniBand série Quantum de NVIDIA, hérités de l'acquisition de Mellanox en 2020, dominent le marché et constituent le tissu par défaut reliant les clusters GPU connectés à NVLink tels que ceux construits autour des systèmes H100, B200 et GB200, bien que les alternatives basées sur Ethernet — y compris les spécifications du Ultra Ethernet Consortium — gagnent du terrain en tant qu'option moins chère pour les grands tissus IA. Le coût par port et la consommation d'énergie d'InfiniBand sont des postes importants dans les budgets de construction des usines IA.