InfiniBand

InfiniBandは、データセンター内でサーバーおよびストレージを相互接続するために使用される高スループット、低レイテンシのネットワーキング標準で、高性能計算およびAIトレーニングクラスタに最も一般的に使用されます。標準的なEthernetとは異なり、InfiniBandはネイティブなリモートダイレクトメモリアクセス（RDMA）を提供し、GPUおよびCPUがホストCPUを介さずにデータを交換でき、レイテンシをシングルディジットマイクロ秒に削減します。2020年のMellanox買収から継承されたNVIDIAのQuantum-series InfiniBandスイッチは市場を支配しており、H100、B200、GB200システムの周りに構築されたものを含むNVLink接続GPUクラスタをリンクする標準的なファブリックですが、Ultra Ethernet Consortiumからの仕様を含むEthernetベースの代替手段が、大規模AIファブリックの低コストオプションとしてシェアを拡大しています。InfiniBandのポート当たりコストと消費電力は、AIファクトリービルド予算における重要なラインアイテムです。