AI工厂

AI工厂是业界术语——由英伟达推广——指端到端工程设计的专用数据中心,用于将电力和数据转化为AI训练和推理输出,而非托管通用企业工作负载。与传统托管厅不同,AI工厂围绕密集GPU集群设计——通常为数万个加速器通过NVLink和高速InfiniBand或以太网结构相连——机架密度达100-140+ kW,使直芯或浸没冷却从可选项成为标准配置。电力采购,通常为吉瓦级甚至有时为表后型,被视为与计算并行的第一级设计约束,因为GPU集群在训练同步期间可在数秒内波动数十兆瓦的负载。该术语描述的是物理设施及其工程实现,有别于描述出售该容量访问权商业模式的neocloud。