机架级系统

机架级系统是一个预集成的人工智能计算单元，其中 GPU、CPU、网络、电源分配和液冷被设计、运输和运行为一个机架，而不是单独的服务器。NVIDIA 的 GB200 NVL72 是最著名的例子：72 个 GPU 通过 NVLink 在单个机架中连接，功耗约 120-132 kW，远高于传统企业机架的 5-10 kW。由于机架是购买单位，数据中心必须提供芯片直接液冷、该密度下的汇流条供电和能承载重量的地板，因此设施现在被宣传为"机架级就绪"。下一代平台（如 Vera Rubin）将密度推得更高，这就是为什么新的人工智能建筑从设计阶段就围绕液冷进行规划。