NVLink

NVLink — это запатентованное NVIDIA высокоскоростное соединение, которое связывает GPU друг с другом (и с CPU NVIDIA) с гораздо более высокой пропускной способностью, чем PCIe, позволяя нескольким GPU совместно использовать память и работать как один большой ускоритель. NVLink пятого поколения на GPU Blackwell обеспечивает 1.8 TB/s двусторонней пропускной способности на GPU — примерно в 14 раз больше, чем PCIe Gen5 — и чипы NVLink Switch расширяют это на ткани масштаба стойки: GB200 NVL72 соединяет 72 GPU в одной жидкостно охлаждаемой стойке мощностью 120-130 kW с совокупной пропускной способностью NVLink 130 TB/s. В пределах домена NVLink GPU когерентно совместно используют память, что критично для обучения и подачи моделей с триллионами параметров. За пределами стойки кластеры переходят на InfiniBand или Ethernet. NVLink Fusion, анонсирован в 2025, открывает ткань для выбранных сторонних CPU и ускорителей.