AIファクトリー

AIファクトリーは電気とデータをAI訓練および推論出力に変換するために全体的に設計された目的特定データセンターの業界用語です — Nvidiaによって普及しています — 汎用エンタープライズワークロードをホストするのではなく。従来のコロケーションホールとは異なり、AIファクトリーは密集したGPUクラスタを中心に設計されています — しばしば数万のアクセラレータがNVLinkと高速InfiniBandまたはEthernetファブリックを通じて接続されています — ラック密度は100-140+ kWで、直接チップまたは浸漬冷却をオプションからデフォルト要件にプッシュしています。電力調達は、しばしばギガワットスケールで、時々メーターの裏側で、訓練同期中にGPUクラスタが数秒で数十メガワットの負荷を変えることができるため、コンピュートとともに一次設計制約として扱われます。この用語は物理施設とそのエンジニアリングを説明し、その容量へのアクセスを販売する企業のビジネスモデルを説明する「ネオクラウド」とは異なります。