Pusat Data AI & Infrastruktur GPU

AI telah membelah industri pusat data menjadi dua produk: ruang lama yang dibangun untuk rak 5-15 kW, dan kapasitas kelas AI yang menyalurkan 60-130+ kW per rak dengan pendinginan cair — dan kategori kedua terserap secepat ia dibangun. Hub ini membahas ekonomi densitas dan pendinginan, keputusan sewa versus colocation, serta cara menemukan kapasitas siap GPU, didukung pelacak harga GPU dan katalog fasilitas berlabel aiReady kami.

Konteks pasar: AI melahap pipeline kapasitas

Angka skalanya tidak ambigu. McKinsey memproyeksikan permintaan kapasitas pusat data global sekitar 219 GW pada 2030, dengan kapasitas siap AI perlu tumbuh sekitar 33% per tahun dan beban kerja AI mewakili separuh hingga sekitar 70% dari total permintaan menjelang akhir dekade. Permintaan itu mendarat di pasar yang sudah berada pada keketatan rekor: kekosongan Northern Virginia mendekati 0,5%, sekitar tiga perempat kapasitas yang sedang dibangun di AS sudah disewakan di muka, dan tarif wholesale Amerika Utara mencetak rekor $196,25/kW/bulan menurut CBRE — dengan operator fasilitas berpendingin cair yang dioptimalkan untuk AI meraih premi sewa eksplisit di atas ruang konvensional.

Di sisi perangkat keras, pasar matang dengan cepat. Harga sewa H100 anjlok dari $8+/jam pada puncak 2023 ke sekitar $2-3/jam spot dan ~$2,35/jam pada kontrak komitmen 1 tahun seiring pasokan menormal dan generasi B200/GB200 dikapalkan — penetapan ulang harga yang mengubah perhitungan bangun-versus-sewa bagi semua pihak di bawah ukuran hyperscale. Melacak kurva itu setiap hari persis yang dilakukan pelacak GPU kami; panduan harga sewa H100 menjelaskan struktur kontrak di balik tarif utama.

Konsekuensinya bagi pembeli: keputusan infrastruktur AI kini adalah keputusan dua pasar. Anda sekaligus menghargakan kapasitas fisik (colocation, $/kW) dan komputasi (sewa GPU, $/GPU-jam), dan jawaban optimalnya bergeser mengikuti utilisasi, durasi, dan generasi perangkat keras. Sebagian besar sumber penasihat hanya mencakup satu pasar. Kami melacak keduanya.

Densitas dan pendinginan: mengapa rak 100 kW mengubah segalanya

Rak pelatihan AI modern adalah objek fisik yang berbeda dari apa yang menjadi dasar pembangunan pusat data. Satu sistem NVIDIA GB200 NVL72 menyerap sekitar 120-132 kW dalam satu rak — berbanding standar enterprise 5-15 kW — dengan arsitektur klaster yang mendorong ke arah 250 kW+ per rak pada generasi mendatang. Tiga konsekuensi rekayasa mengalir dari angka tersebut:

Pendinginan beralih ke cairan. Di atas ~50 kW/rak, menggerakkan udara dalam jumlah cukup secara fisik tidak praktis. Industri telah menstandardisasi dua pendekatan:

	Direct-to-chip (DTC)	Immersion
Cara kerja	Cold plate pada GPU/CPU; loop pendingin lewat CDU	Server direndam dalam cairan dielektrik
Densitas rak yang didukung	80-132+ kW (generasi kini)	100-250+ kW
Panas yang ditangkap cairan	~70-80% (sisanya oleh udara)	~95-100%
Beban retrofit fasilitas	Sedang — CDU, perpipaan, loop air	Tinggi — tangki, penanganan cairan, model operasi baru
Kompatibilitas perangkat keras	Rak OEM standar (NVL72 dikapalkan siap DTC)	Butuh perangkat keras yang diadaptasi untuk immersion
Posisi pasar 2026	Pilihan dominan untuk pembangunan AI baru	Ceruk: HPC, kripto, densitas ekstrem

DTC memenangkan sebagian besar deployment karena mempertahankan model operasi rak-dan-baris sambil menangani termal GPU saat ini; ia biasanya menambah 7-10% pada capex mekanikal/elektrikal tetapi memangkas energi pendinginan cukup untuk membawa PUE dari ~1,5 warisan lama ke 1,1-1,2 — penghematan permanen 20-25% pada total biaya listrik.

Distribusi daya naik kelas. Rak 60-130 kW butuh busway di atas kepala pada 415V+, feed berampere tinggi, dan daya dukung lantai untuk 1.500-2.000 kg per rak. Ruang gerak daya utilitas menjadi strategis: klaster H100 berisi 1.024 GPU menyerap sekitar 1,5-2 MW secara keseluruhan; pembangunan pelatihan 16.000 GPU mendekati 25-30 MW — ukuran yang seketika menjadikan Anda penyewa wholesale yang menegosiasikan daya, bukan pembeli retail yang memilih rak. Untuk kebutuhan di skala itu, lihat hub hyperscale dan hub listrik kami.

Implikasi penyaringannya: sebagian besar basis colocation terpasang di dunia tidak dapat menampung klaster AI modern tanpa retrofit. Meretrofit ruang berpendingin udara lama untuk densitas berpendingin cair menghabiskan $2-4 juta per MW. Inilah sebabnya “siap GPU” kini menjadi filter terpenting dalam pemilihan fasilitas — dan mengapa katalog kami menandai fasilitas dengan flag aiReady yang mencakup densitas, dukungan pendinginan cair, dan ruang gerak daya.

Colocation atau sewa GPU: kerangka keputusan

Keputusan infrastruktur AI paling berdampak di bawah skala ~$50 juta adalah apakah memiliki perangkat keras di colocation atau menyewa kapasitas GPU. Jawaban jujurnya adalah aritmetika, bukan ideologi:

Sewa bila: utilisasi tidak pasti atau berfluktuasi; horizon proyek di bawah ~12-18 bulan; Anda butuh perangkat keras terdepan segera (sewa B200/GB200 mengalahkan siklus pengadaan 6 bulan); atau kapasitas tim untuk operasi infrastruktur adalah nol. Pada ~$2,35/jam dengan komitmen, satu H100 menghabiskan sekitar $20.600/GPU-tahun dengan listrik, pendinginan, jaringan, dan risiko perangkat keras sepenuhnya di pihak penyedia.

Colocation bila: Anda akan mempertahankan utilisasi tinggi (60%+) selama 2+ tahun; data beban kerja punya batasan residensi atau keamanan; atau ukuran Anda cukup besar sehingga margin sewa melebihi biaya operasi Anda sendiri. Memiliki satu node H100 menghabiskan sekitar $25-30 ribu/GPU capex plus $3-5 ribu/GPU-tahun untuk listrik dan ruang colocation (di pasar ~$0,08-0,12/kWh — salah satu alasan colocation Asia Tenggara menarik untuk armada inferensi). Selama tiga tahun utilisasi intensif, kepemilikan biasanya berakhir 30-50% di bawah sewa — jika utilisasinya bertahan.

Titik impas berada di sekitar 12-18 bulan penggunaan berkelanjutan. Dua faktor mendorongnya lebih lambat: pergantian generasi GPU (armada H100 milik sendiri bersaing dengan sewa generasi berikutnya pada tahun kedua) dan turunnya harga sewa (pasar menetapkan ulang harga ~60-70% ke bawah dalam dua tahun). Satu faktor menariknya lebih awal: kapasitas sewa untuk generasi terbaru langka dan berharga premi saat peluncuran, persis ketika permintaan pelatihan memuncak.

Tim yang canggih makin sering mengambil jalan tengah: kapasitas milik sendiri di colocation yang diukur untuk beban inferensi dasar; kapasitas sewaan untuk lonjakan pelatihan dan eksperimen generasi baru. Menghargakan kedua sisi portofolio itu menuntut data langsung pada kedua pasar — dan itulah inti dari apa yang situs ini terbitkan di /id/index/ dan /id/gpu/.

Pasar GPU telah berlapis — hargakan generasinya, bukan “sebuah GPU”

“Harga GPU” kini merupakan empat pasar berbeda yang bergerak pada kurva berlainan, dan mencampuradukkannya adalah kesalahan analitis yang paling umum — sekaligus paling mahal — yang kami lihat:

Tingkat	Perangkat keras	Perilaku pasar (2026)
Terdepan	Kelas GB200/B200	Langka, berharga premi, lebih banyak dialokasikan daripada dijual; berkali lipat tarif H100
Kuda beban	H100/H200	Likuid, kompetitif; ~$2-3/jam spot, ~$2,35/jam pada komitmen 1 tahun
Nilai	A100 dan sebelumnya	Diskon dalam; layak untuk fine-tuning, model lebih kecil, inferensi batch
Dioptimalkan inferensi	L40S dan komponen khusus	Dihargai berdasarkan ekonomi token yang disajikan, bukan FLOP pelatihan

Tiga dinamika mengatur kurva-kurva itu. Kaskade generasi: setiap peluncuran flagship baru menekan generasi sebelumnya turun 30-50% dalam kira-kira setahun — pola yang membawa H100 dari $8+/jam ke $2,35 dengan komitmen. Rentang jangka kontrak: tarif spot, bulanan, dan komitmen 1-3 tahun untuk perangkat keras identik bisa berbeda 40%+, sehingga menyesuaikan panjang kontrak dengan kepastian beban kerja bernilai sebesar pemilihan penyedia. Dispersi penyedia: harga daftar hyperscaler untuk GPU yang sama berjalan 2-4x di atas tarif GPU cloud terspesialisasi, dengan selisih terlebar di tingkat kuda beban. Pelacak GPU kami menjaga gambaran terkini di semua tingkat; perlakukan angka tunggal mana pun yang dikutip — termasuk milik kami dari kuartal lalu — sebagai potret sesaat dari kurva yang bergerak cepat.

Jaringan: pilar ketiga yang terlambat disadari pembeli

Klaster AI lebih sering gagal karena jaringan daripada karena listrik atau pendinginan, sebab pelatihan adalah beban kerja tersinkronisasi: ribuan GPU bertukar gradien di setiap langkah, dan tautan terlambat menentukan tempo seluruh klaster. Implikasi praktis bagi pembeli kapasitas:

• East-west mendominasi. Klaster 1.024 GPU butuh fabric 400/800G non-blocking (InfiniBand atau RoCE Ethernet) yang biayanya — sering $2.000-4.000 per GPU untuk switching dan optik — harus masuk model capex Anda berdampingan dengan akseleratornya sendiri.
• Kedekatan fisik tidak bisa ditawar untuk pelatihan. Anggaran latensi fabric menahan klaster pelatihan dalam satu ruang atau ruang bersebelahan; Anda tidak bisa menjahit klaster pelatihan lintas dua gedung, apalagi dua fasilitas. Ini membatasi pilihan fasilitas pada lokasi dengan ruang siap GPU bersambungan yang luas — dimensi lain yang ditangani penyaringan aiReady di katalog kami.
• Inferensi menyebar; pelatihan memusat. Trafik penyajian menoleransi latensi metro biasa, dan itulah yang membuat arsitektur hub-and-spoke berfungsi — klaster berat di ruang wholesale, node inferensi lebih dekat ke pengguna (lihat hub edge kami).

Saat membandingkan penawaran colocation untuk deployment GPU, tanyakan secara spesifik soal dukungan pengkabelan terstruktur untuk fabric berjumlah serat tinggi, harga cross-connect dalam volume (puluhan tautan 400G mengubah perhitungan — lihat bagian biaya tersembunyi di hub colocation kami), dan on-ramp cloud jika arsitektur Anda hibrida.

Di mana menempatkan kapasitas AI: geografinya sedang bergeser

Beban kerja AI lebih toleran terhadap latensi dibanding aplikasi yang berhadapan dengan pengguna — sebuah job pelatihan tidak peduli apakah ia berjalan di Ashburn atau Johor. Toleransi itu, berhadapan dengan kekosongan di bawah 1% dan harga $215+/kW di pasar inti AS, mengarahkan kapasitas AI ke pasar yang kaya daya dan berbiaya lebih rendah: metro sekunder AS, Nordik, Timur Tengah, dan terutama Asia Tenggara, tempat BOI Thailand menyetujui ~THB 746 miliar investasi pusat data pada 2025, pipeline Johor mencapai sekitar 4-5 GW, dan Malaysia kini secara eksplisit memprioritaskan proyek kelas AI. Listrik industri pada $0,08-0,12/kWh dan biaya bangun 20-40% di bawah level AS langsung diterjemahkan menjadi $/GPU-jam yang lebih rendah bagi siapa pun yang menjalankan armada dalam skala besar — gambaran regional lengkapnya ada di hub pengembangan dan analisis Thailand kami.

Bagaimana Coloprice membantu: jembatan colo ke GPU

Setiap sumber lain hanya mencakup separuh pasar ini. Direktori colocation tidak melacak harga GPU; marketplace GPU tidak mencakup kapasitas fisik. Karena keputusan sesungguhnya — menyewa komputasi versus menempatkan perangkat keras versus sesuatu di antaranya — merentang keduanya, kami membangun jembatannya:

• Harga GPU langsung, gratis. Pelacak GPU memantau tarif sewa lintas penyedia dan generasi — H100 mulai ~$2,35/jam dengan komitmen hingga premi B200/GB200 terkini — sehingga Anda dapat membandingkan penawaran penyedia mana pun dalam hitungan detik. Panduan harga H100 menguraikan struktur kontraknya.
• Fasilitas siap GPU, dapat difilter. Katalog 202 fasilitas kami membawa filter aiReady yang mencakup daya densitas tinggi dan dukungan pendinginan cair — mengubah “fasilitas mana di dunia yang benar-benar bisa menampung rak 100 kW?” dari berminggu-minggu email RFI menjadi kueri dua menit.
• Kedua pasar dalam satu tolok ukur. Tarif colocation dan tarif GPU berdampingan, plus data pasokan pasar di statistik — set input lengkap untuk model sewa-versus-colocation di atas.
• Penawaran tercocokkan dalam satu hari kerja, gratis. Jelaskan kebutuhan Anda di /id/quote/ — klaster 20 rak berpendingin cair, 2 MW ruang siap GPU di Asia Tenggara, atau komitmen sewa GPU yang ingin Anda bandingkan — dan kami kembalikan opsi tercocokkan dari fasilitas serta penyedia yang telah kami verifikasi dalam satu hari kerja. Tanpa biaya listing yang membentuk daftar pendek, tanpa kotak hitam “minta penawaran”.
• Ulasan mendalam. Mulailah dengan panduan harga colocation untuk sisi $/kW dan panduan investasi jika Anda mendanai kapasitas AI alih-alih membelinya.

Infrastruktur AI adalah pasar dengan penetapan ulang harga tercepat di teknologi — tarif GPU bergerak 60%+ dalam dua tahun sementara colocation bergerak 6-12% ke arah sebaliknya. Keputusan yang dibuat di atas data usang mahal di kedua arah: kelebihan bayar untuk komputasi di satu sisi, modal terdampar di fasilitas yang salah di sisi lain. Periksa /id/gpu/, saring /id/data-centers/, bandingkan dengan /id/index/, dan biarkan /id/quote/ menaruh penawaran nyata yang sebanding di meja Anda dalam satu hari kerja.