レール最適化ネットワーク

レール最適化ネットワークは、GPUクラスターネットワークトポロジーで、各サーバーの同じインデックスのNICを同じリーフスイッチに接続し、専用の「レール」を形成してマルチノードGPU間トラフィックが最小のホップ数で目的地に到達できるようにするものです。これにより、一般的なトップ・オブ・ラック設計と比べて帯域幅の競合とレイテンシが低減され、NVIDIAのDGX SuperPODおよび大規模ハイパースケーラーAIクラスターの参照アーキテクチャとなっています。レール最適化ファブリックは通常InfiniBandまたはRoCE Ethernet上で動作し、NVLinkのサーバー内GPUインターコネクト機能と組み合わせて、サーバー内NVLinkとサーバー間レール最適化ファブリックからなる2層バックボーンを形成し、数千個のGPUが単一の学習クラスターとして機能できるようにします。この設計は施設の電力とケーブリング密度要件に大きな影響を与え、AI対応コロケーション空間のコロケーション価格に直接反映されます。