InfiniBand

InfiniBand ist ein Hochdurchsatz-, Niedriglatenznetzwerk-Standard, der verwendet wird, um Server und Speicher in Rechenzentren zu verbinden, am häufigsten für High-Performance-Computing und KI-Trainings-Cluster. Im Gegensatz zu Standard-Ethernet bietet InfiniBand natives Remote Direct Memory Access (RDMA), das es GPUs und CPUs ermöglicht, Daten auszutauschen, ohne die Host-CPU einzubeziehen, wodurch die Latenz auf einstellige Mikrosekunden reduziert wird. NVIDIAs Quantum-Serie InfiniBand-Switches, geerbt aus der Übernahme von Mellanox 2020, dominieren den Markt und sind das Standard-Fabric, das NVLink-verbundene GPU-Cluster verbindet, wie solche, die um H100-, B200- und GB200-Systeme herum aufgebaut sind, obwohl Ethernet-basierte Alternativen — einschließlich Spezifikationen des Ultra Ethernet Consortium — als kostengünstigere Option für große KI-Fabrics an Boden gewinnen. Die InfiniBand-Kosten pro Port und der Stromverbrauch sind bedeutende Positionen in den Budgets für KI-Fabrik-Builds.