Сетевая топология, оптимизированная по рельсам

Сетевая топология, оптимизированная по рельсам, соединяет сетевые интерфейсы (NIC) с одинаковым индексом на каждом сервере с одним коммутатором доступа, создавая выделенные «рельсы» для трафика между GPU разных узлов, чтобы пакеты достигали адреса назначения за минимальное количество переходов. Это уменьшает конфликты полосы пропускания и задержку по сравнению с универсальными топологиями top-of-rack и является эталонной архитектурой, используемой в Nvidia DGX SuperPOD и крупных кластерах ИИ гиперскейлеров. Такие структуры обычно развёртываются на основе InfiniBand или RoCE Ethernet в сочетании с внутрисерверным межсоединением NVLink, образуя двухуровневый скелет — внутрисерверное NVLink плюс межсерверная оптимизированная структура, — позволяющий тысячам GPU работать как единый кластер обучения. Эта архитектура существенно влияет на требования дата-центра к плотности мощности и кабелей, непосредственно отражаясь на ценообразовании размещения для ИИ-готовых объектов.