Schienenoptimiertes Netzwerk

Ein schienenoptimiertes Netzwerk ist eine GPU-Cluster-Topologie, die gleich indizierte NICs auf jedem Server mit demselben Leaf-Switch verbindet. Dabei entstehen dedizierte „Schienen“, sodass GPU-zu-GPU-Verkehr zwischen mehreren Knoten sein Ziel mit der geringstmöglichen Anzahl von Hops erreicht. Dies reduziert Bandbreitenkontention und Latenz im Vergleich zu generischen Top-of-Rack-Designs und ist die Referenzarchitektur hinter Nvidias DGX SuperPOD und großen Hyperscaler-AI-Clustern. Schienenoptimierte Fabrics laufen typischerweise über InfiniBand oder RoCE Ethernet und funktionieren mit NVLinks GPU-Interconnect innerhalb von Servern zusammen, wobei ein zweistufiges Backbone entsteht — NVLink innerhalb des Servers plus schienenoptimiertes Fabric zwischen Servern — das es Tausenden von GPUs ermöglicht, als ein einzelner Trainingscluster zu fungieren. Das Design beeinflusst die Stromverbrauchs- und Verkabelungsdichte-Anforderungen einer Anlage wesentlich und fließt direkt in die Colocation-Preisgestaltung für AI-ready-Raum ein.