Cloud GPU

Cloud GPU adalah layanan cloud yang menyewa kapasitas komputasi GPU — untuk pelatihan AI, fine-tuning, inferensi, dan rendering — ditagihkan per GPU-jam atau melalui kontrak reservasi. Pasar mencakup hyperscaler (AWS, Azure, Google Cloud) dan penyedia neocloud khusus (CoreWeave, Lambda, Nebius, Crusoe). Harga bervariasi luas: pada 2026, NVIDIA H100 on-demand berkisar kurang lebih $2-3 per GPU-jam di penyedia spesialis hingga $4-14 di hyperscaler, turun tajam dari puncak sekitar $8 pada 2023; kluster reservasi multi-tahun berharga jauh lebih rendah per jam. Penyebaran modern mengelompokkan ribuan GPU dengan interconnect berkecepatan tinggi (NVLink dalam rak, Ethernet InfiniBand atau RoCE di antara mereka). Cloud GPU adalah antara penyewa terbesar kolokasi grosir dan kapasitas build-to-suit, karena setiap kluster 1.000-GPU membutuhkan kurang lebih 1,5-2,5 MW infrastruktur berpendingin cair.