InfiniBand

InfiniBand — высокопроизводительный сетевой стандарт с низкой задержкой для соединения серверов и систем хранения внутри дата-центров. Чаще всего он используется в кластерах высокопроизводительных вычислений и обучения ИИ. В отличие от стандартного Ethernet, InfiniBand предлагает встроенный удалённый прямой доступ к памяти (RDMA), позволяя GPU и CPU обмениваться данными без участия центрального процессора хоста и снижая задержку до единиц микросекунд. Коммутаторы InfiniBand серии Quantum от NVIDIA, доставшиеся ей с приобретением Mellanox в 2020 году, доминируют на рынке и служат фабрикой по умолчанию для GPU-кластеров на NVLink, таких как системы на базе H100, B200 и GB200, хотя альтернативы на основе Ethernet — включая спецификации Ultra Ethernet Consortium — набирают вес как более дешёвый вариант для крупных ИИ-фабрик. Стоимость порта и энергопотребление InfiniBand — существенные статьи в бюджетах строительства ИИ-фабрик.