NVLink

NVLink là kết nối tốc độ cao độc quyền của NVIDIA kết nối các GPU với nhau (và với CPU của NVIDIA) với băng thông cao hơn nhiều so với PCIe, cho phép nhiều GPU chia sẻ bộ nhớ và hoạt động như một bộ tăng tốc lớn. NVLink thế hệ thứ năm trên GPU Blackwell cung cấp 1.8 TB/s băng thông hai chiều trên mỗi GPU — khoảng 14 lần PCIe Gen5 — và các chip NVLink Switch mở rộng điều này thành các fabric cấp rack: GB200 NVL72 kết nối 72 GPU trong một rack làm mát chất lỏng 120-130 kW với 130 TB/s băng thông NVLink tổng hợp. Trong phạm vi lĩnh vực NVLink, các GPU chia sẻ bộ nhớ một cách nhất quán, điều này rất quan trọng đối với huấn luyện và phục vụ các mô hình tam tỷ tham số. Ngoài rack, các cụm quay trở lại InfiniBand hoặc Ethernet. NVLink Fusion, được công bố vào năm 2025, mở ra fabric cho một số CPU và bộ tăng tốc của bên thứ ba được chọn lọc.