NVLink

NVLink adalah interkoneksi berkecepatan tinggi proprietary NVIDIA yang menghubungkan GPU satu sama lain (dan ke CPU NVIDIA) pada bandwidth jauh lebih tinggi daripada PCIe, memungkinkan beberapa GPU mengumpulkan memori dan bertindak sebagai satu akselerator besar. NVLink generasi kelima pada GPU Blackwell menyediakan 1,8 TB/s bandwidth bidireksional per GPU — kira-kira 14 kali PCIe Gen5 — dan chip NVLink Switch memperluas ini menjadi fabric dalam skala rak: GB200 NVL72 menghubungkan 72 GPU dalam satu rak berpendingin cairan 120-130 kW dengan bandwidth agregat NVLink 130 TB/s. Dalam domain NVLink, GPU berbagi memori secara koheran, yang penting untuk pelatihan dan melayani model dengan parameter triliun. Di luar rak, kluster kembali ke InfiniBand atau Ethernet. NVLink Fusion, diumumkan pada 2025, membuka fabric ke CPU pihak ketiga yang dipilih dan akselerator.