Schienenoptimiertes Netzwerk

Ein schienenoptimiertes Netzwerk ist eine GPU-Cluster-Netzwerk-Topologie, die die gleich indizierten NICs auf jedem Server mit dem gleichen Leaf-Switch verbindet und dabei dedizierte "Schienen" schafft, so dass GPU-zu-GPU-Verkehr zwischen mehreren Knoten sein Ziel mit der geringstmöglichen Anzahl von Hops erreicht. Dies reduziert Bandbreitenkontention und Latenz im Vergleich zu generischen Top-of-Rack-Designs und ist die Referenzarchitektur hinter Nvidias DGX SuperPOD und großen Hyperscaler-AI-Clustern. Schienenoptimierte Fabrics laufen typischerweise über InfiniBand oder RoCE Ethernet und funktionieren mit NVLinks GPU-Interconnect innerhalb von Servern zusammen, wobei ein zweistufiges Backbone entsteht — NVLink innerhalb des Servers plus schienenoptimiertes Fabric zwischen Servern — das es Tausenden von GPUs ermöglicht, als ein einzelner Trainingscluster zu fungieren. Das Design beeinflusst die Stromverbrauchs- und Verkabelungsdichte-Anforderungen einer Anlage wesentlich und fließt direkt in die Colocation-Preisgestaltung für AI-ready-Raum ein.