レール最適化ネットワーク

レール最適化ネットワークは、各サーバーの同じインデックスのNICを同じリーフスイッチに接続するGPUクラスターネットワークトポロジーです。これにより専用の「レール」が形成され、マルチノードGPU間トラフィックが最小のホップ数で目的地に到達できます。これにより、一般的なトップ・オブ・ラック設計と比べて帯域幅の競合とレイテンシが低減され、NVIDIAのDGX SuperPODおよび大規模ハイパースケーラーAIクラスターの参照アーキテクチャとなっています。レール最適化ファブリックは通常InfiniBandまたはRoCE Ethernet上で動作し、NVLinkのサーバー内GPUインターコネクト機能と組み合わせて、サーバー内NVLinkとサーバー間レール最適化ファブリックからなる2層バックボーンを形成し、数千個のGPUが単一の学習クラスターとして機能できるようにします。この設計は施設の電力とケーブリング密度要件に大きな影響を与え、AI対応コロケーション空間のコロケーション価格に直接反映されます。