轨道优化网络

轨道优化网络是一种GPU集群网络拓扑,将每台服务器上相同索引的网卡连接到同一个叶片交换机,创建专用的"轨道"以便多节点GPU之间的流量以最少的跳数到达目的地。与通用的机架顶部(ToR)设计相比,这降低了带宽竞争和延迟,是Nvidia DGX SuperPOD和大型超大规模企业AI集群背后的参考架构。轨道优化的网络结构通常运行在InfiniBand或RoCE以太网上,与NVLink的服务器内GPU互联配套使用,形成双层骨干网——服务器内NVLink加服务器间轨道优化网络——使得数千个GPU可以像单个训练集群一样工作。该设计大幅影响设施的功率和布线密度需求,直接影响AI就绪托管空间的定价。