NVLink

NVLink — це власний високошвидкісний інтерконектор NVIDIA, який з'єднує GPU одна з іншою (та з CPU NVIDIA) на набагато вищій пропускній здатності, ніж PCIe, дозволяючи кільком GPU об'єднувати пам'ять і функціонувати як один великий прискорювач. П'яте покоління NVLink на GPU Blackwell забезпечує 1,8 TB/s двонаправленої пропускної здатності на GPU — приблизно 14 разів більше за PCIe Gen5 — а комутатори NVLink Switch розширюють це на масштаб стійки: GB200 NVL72 з'єднує 72 GPU в одній 120-130 kW рідинно-охолодджуваній стійці з сукупною пропускною здатністю NVLink 130 TB/s. В межах домену NVLink GPU послідовно ділять пам'ять, що є критично важливим для тренування та обслуговування триліон-параметрових моделей. Поза межами стійки, кластери переходять на InfiniBand або Ethernet. NVLink Fusion, оголошений у 2025 році, відкриває мережі для вибраних сторонніх CPU та прискорювачів.