InfiniBand

InfiniBand — это высокопроизводительный стандарт сети с низкой задержкой, используемый для взаимосвязи серверов и хранилищ внутри дата-центров, чаще всего для высокопроизводительных вычислений и обучения моделей ИИ. В отличие от стандартного Ethernet, InfiniBand предлагает встроенный удалённый прямой доступ к памяти (RDMA), позволяя GPU и CPU обмениваться данными без участия хост-процессора, снижая задержку до единиц микросекунд. Коммутаторы InfiniBand серии Quantum от NVIDIA, унаследованные от её приобретения Mellanox в 2020 году, доминируют на рынке и являются стандартной коммутационной сетью, связывающей кластеры GPU, подключённые через NVLink, такие как системы H100, B200 и GB200, хотя альтернативы на основе Ethernet, включая спецификации от Ultra Ethernet Consortium, набирают популярность как более экономичный вариант для больших тканей ИИ. Стоимость за порт и потребление энергии InfiniBand являются существенными статьями расходов в бюджетах построения AI-фабрик.