Pendinginan Cair untuk Data Center AI: DTC vs Immersion

Pendinginan cair direct-to-chip (DTC) menangani 40-120 kW per rak dengan harga retrofit kurang lebih $28,000-42,000 per rak 42U, sementara pendinginan immersion mencapai lebih dari 150-250 kW per rak tetapi memerlukan chassis yang dirancang ulang dan berjalan $4,500-6,800 per kW beban IT yang dipasang. Untuk sebagian besar operator yang menerapkan rak AI dalam rentang 40-100 kW hari ini, DTC adalah standar; immersion dicadangkan untuk penerapan dengan densitas tertinggi atau paling terkendala keberlanjutan.

Poin-poin kunci

• DTC mendominasi penerapan saat ini. NVIDIA GB200 NVL72 (120 kW nominal, 130-132 kW terukur) dilengkapi dengan pendinginan direct-to-chip secara standar, dan sebagian besar retrofit colocation 2026 mengikuti jalur yang sama.
• Immersion menang di batas densitas. Immersion single-phase mendukung 100-150+ kW/rak; immersion two-phase mencapai 150-250+ kW dengan PUE serendah 1,01-1,03, menurut data vendor dan integrator.
• Retrofit mengalahkan greenfield dalam hal biaya. Mengonversi ruang yang sudah ada ke pendinginan cair berjalan kurang lebih $2 juta per MW versus $11 juta-plus per MW untuk build baru yang sebanding yang siap cair — penghematan modal kurang lebih 80%, menurut STL Partners.
• Adopsi masih praktik minoritas dan high-density. Survei Uptime Institute 2025 menemukan 22% operator menggunakan direct liquid cooling, dan bahkan di antara pengguna, loop cair biasanya melayani di bawah 10% dari total rak.
• Daya, bukan pipa, adalah bottleneck retrofit. Situs tanpa kapasitas listrik cadangan tidak dapat mendukung rak yang didinginkan cair terlepas dari seberapa baik desain loop pendinginannya.
• PUE turun secara bermakna. PUE ruang yang didinginkan udara 1,3-1,6 turun menjadi kurang lebih 1,05-1,15 dengan DTC dan 1,02-1,10 dengan immersion yang berjalan dengan baik, menurut data lapangan Vertiv dan integrator.
• Pasar pendinginan cair masih kecil relatif terhadap total pengeluaran data center — Dell’Oro memproyeksikan mencapai $7-8 miliar dalam pendapatan pabrikan pada 2029-2030, sebagian kecil dari kurang lebih $1 triliun dalam capex data center 2026.

Untuk harga colocation saat ini per kW di pasar yang mendukung penerapan high-density, lihat indeks harga colocation. Untuk ekonomi sewa GPU tingkat rak yang mendorong keputusan densitas, lihat harga cloud GPU.

Mengapa pendinginan udara berhenti bekerja di atas 30-40 kW/rak

Pendinginan udara menghilangkan panas dengan memindahkan volume udara yang didinginkan besar-besaran di seluruh permukaan server. Pendekatan ini mencapai skala yang masuk akal ke kurang lebih 20-30 kW per rak dengan hot-aisle containment dan in-row cooling, dan dengan upaya rekayasa dapat mencapai 30-40 kW. Melampaui titik itu, aliran udara yang diperlukan menjadi tidak praktis secara fisik — daya kipas naik lebih cepat daripada pendinginan yang bermanfaat, dan hot spot terbentuk pada komponen yang paling padat (GPU, stack HBM) terlepas dari total airflow ruangan.

Akselerator AI mendorong melampaui batas ini dalam satu generasi perangkat keras. NVIDIA H100 SXM menarik kurang lebih 700 W per GPU; server yang didinginkan udara yang sepenuhnya dipenuhi dengan 8 GPU masih dapat bekerja dalam rak standar 10-15 kW. GB200 NVL72 generasi Blackwell mengubah matematika: setiap Grace Blackwell Superchip menghilangkan hingga 1,200 W, dan rak 72-GPU penuh menarik 120 kW nominal — 130-132 kW terukur dalam konfigurasi yang digunakan, menurut dokumentasi NVIDIA dan integrator. Rak itu dilengkapi dengan cold plate direct-to-chip dan coolant distribution unit (CDU) dalam rak sebagai peralatan standar, bukan opsi.

Pendinginan direct-to-chip: cara kerjanya dan biayanya

Pendinginan direct-to-chip (DTC) mengarahkan coolant cair melalui cold plate yang dibaut langsung ke CPU, GPU, dan komponen high-TDP lainnya. Manifold mendistribusikan coolant ke setiap cold plate; CDU duduk di antara loop air fasilitas dan loop secondary tersegel ini, mengontrol laju aliran, suhu, dan tekanan sambil membuat kualitas air fasilitas terisolasi dari loop elektronik yang lebih sensitif.

DTC menghilangkan kurang lebih 70-80% dari total beban panas server langsung ke cair — memori, penyimpanan, jaringan, dan komponen pengiriman daya masih mengandalkan airflow residual, jadi rak DTC masih memerlukan beberapa penanganan udara tingkat ruangan, hanya jauh lebih sedikit daripada ruang yang sepenuhnya didinginkan udara.

Atribut	Direct-to-chip	Catatan
Densitas rak praktis	40-120 kW	Cocok dengan platform akselerator AI saat ini (GB200 NVL72: 120-132 kW)
Biaya per rak 42U (retrofit)	$28,000-42,000	Cold plate, manifold, CDU dalam rak; harga integrator 2026
Dampak PUE	Turun menjadi ~1,05-1,15 dari baseline 1,3-1,6 yang didinginkan udara	Data lapangan Vertiv
Kompatibilitas perangkat keras	Memerlukan server yang siap cair dengan mount cold-plate	Tidak dapat ditambahkan ke perangkat keras legacy sewenang-wenang
Suhu air fasilitas	Kelas ASHRAE W27-W45 khas	Kelas yang lebih hangat (W40/W45) memungkinkan penolakan hanya dry-cooler selama sebagian besar tahun

Keuntungan utama DTC adalah bahwa ia bekerja dengan faktor bentuk server yang dekat dengan standar rak 19 inci hari ini, sehingga operator dapat merenovasi ruang lantai yang sudah ada daripada membangun kembali dari lantai ke atas — asalkan situs memiliki kapasitas listrik cadangan.

Pendinginan immersion: single-phase, two-phase, dan tempat yang sesuai

Pendinginan immersion mencelupkan seluruh board server dalam fluida dielektrik yang tidak menghantarkan listrik, menghilangkan panas dari setiap komponen secara bersamaan daripada hanya dari yang terpanas.

• Immersion single-phase: fluida tetap cair sepanjang siklus, dipompa ke penukar panas eksternal. Mendukung densitas di atas 100 kW per tangki setara rak dengan PUE mendekati 1,03. Biaya pemasangan berjalan kurang lebih $4,500-6,800 per kW beban IT, mencakup tangki, fluida dielektrik, coolant distribution unit, dan peralatan penolakan panas.
• Immersion two-phase: fluida menguap di permukaan komponen dan terkondensasi di tutup tangki, memindahkan panas jauh lebih efisien. Memberikan PUE 1,01-1,03 dan mendukung 150-250+ kW per rak-setara, tetapi biaya $65,000-95,000 per rak-setara penuh dan melibatkan fluida yang dirancang dengan pertimbangan penanganan dan lingkungan mereka sendiri.

Immersion memerlukan server yang dirancang untuk pencelupan — tidak ada drive berputar, dan konektor dan thermal paste yang dinilai untuk fluida — jadi ini secara efektif adalah redesign perangkat keras, bukan retrofit drop-in. Itu membuatnya paling cocok untuk greenfield high-performance computing hall, cluster pelatihan AI khusus, atau penerapan edge/embedded di mana densitas ekstrem dalam footprint kecil lebih penting daripada kompatibilitas dengan server commodity.

Direct-to-chip vs immersion: berdampingan

Faktor	Direct-to-chip	Immersion single-phase	Immersion two-phase
Batas densitas rak	40-120 kW	100-150+ kW	150-250+ kW
PUE khas	1,05-1,15	~1,02-1,05	1,01-1,03
Retrofit ke dalam rak yang sudah ada	Ya, dengan server yang siap cair	Sulit — memerlukan tangki, bukan rak	Sulit — memerlukan tangki, fluida yang dirancang
Biaya relatif per rak/kW	Lebih rendah	Menengah	Tertinggi
Kompatibilitas perangkat keras	Chassis standar dengan mount cold-plate	Memerlukan perangkat keras yang dinilai submersion	Memerlukan perangkat keras yang dinilai submersion
Kecocokan terbaik	Rak inferensi/pelatihan AI pada 40-120 kW, retrofit colocation	Kluster HPC padat, situs terkendala ruang	Kluster penelitian/pelatihan dengan densitas ekstrem

Biaya untuk merenovasi fasilitas colocation

Ekonomi tingkat fasilitas mendukung retrofit ruang yang sudah ada di atas membangun kapasitas baru yang siap cair. STL Partners memperkirakan retrofit pendinginan cair pada kurang lebih $2 juta per MW, dibandingkan $11 juta-plus per MW untuk build baru yang sebanding yang didinginkan cair — penghematan modal kurang lebih 80%. Celah itu adalah mengapa 65% instalasi CDU baru dalam fasilitas colocation Amerika Utara pada 2026 adalah retrofit daripada penerapan greenfield, menurut Nautilus Data Technologies.

Bottleneck retrofit jarang sekali pipa itu sendiri. Ini adalah headroom listrik: fasilitas memerlukan kapasitas daya cadangan — dan sering kali upgrade busway atau switchgear — sebelum dapat mendukung rak 40+ kW, independen dari seberapa baik loop pendinginan dirancang. Fasilitas dengan daya komitmen di bawah kapasitas nameplate mereka, atau dengan slack dalam substasi yang sudah ada, retrofit tercepat. Situs yang sepenuhnya disewa, terkendala daya (pasar Primary Northern Virginia, misalnya, duduk pada kurang lebih 0,3% kekosongan menurut data H2 2025 CBRE) memiliki ruang paling sedikit untuk menambah kapasitas pendinginan tanpa upgrade daya yang lebih luas.

Untuk penyedia colocation khususnya, retrofit membawa komplikasi tambahan yang hyperscaler yang membangun untuk diri mereka sendiri tidak hadapi: mengonversi fasilitas live berisiko mengganggu penyewa yang sudah ada, dan operator biasanya ingin permintaan pelanggan yang berkomitmen dan rencana migrasi terkunci sebelum memulai pekerjaan.

Kelas suhu ASHRAE: mengapa “pendinginan cair” bukan satu standar

ASHRAE’s Technical Committee 9.9 mendefinisikan kelas suhu air fasilitas pendinginan cair — W17, W27, W32, W40, W45, dan W+ — di mana nomor menunjukkan suhu air pasokan maksimum dalam Celsius. Semua kelas berbagi batas bawah 2°C.

Kelas yang dipilih menentukan apakah fasilitas memerlukan chiller mekanis sama sekali:

• W17-W27: memerlukan air dingin, mirip dengan cooling plant ke ruang yang didinginkan udara tradisional.
• W32: intermediate; mengurangi jam runtime chiller di sebagian besar iklim.
• W40-W45 dan W+: cukup hangat bahwa dry cooler atau menara pendingin saja dapat menolak panas selama sebagian besar atau sepanjang tahun, menghilangkan refrigerasi mekanis dan mengurangi penggunaan energi dan air dari pendinginan evaporatif.

Fasilitas yang dirancang di sekitar kelas W40+ mendapatkan manfaat efisiensi dan penggunaan air terbesar, tetapi memerlukan perangkat keras yang divalidasi untuk suhu inlet yang lebih hangat — keputusan desain yang dibuat pada waktu prokurasi rak dan server, bukan sesuatu yang dapat direnovasi fasilitas setelah fakta tanpa derating.

Penggunaan air: ini tergantung pada desain, bukan label metode pendinginan

Pendinginan cair tidak secara otomatis menghemat air. Fasilitas direct-to-chip yang masih mengandalkan menara pendingin evaporatif untuk sisa beban yang didinginkan udara melihat peningkatan penggunaan air terbatas dibandingkan dengan ruang yang didinginkan udara sebanding — penghematan berasal dari berjalan pada kelas ASHRAE yang lebih hangat (W40/W45) yang memungkinkan penolakan hanya dry-cooler, bukan dari kehadiran loop cair per se. Loop dielektrik tertutup pendinginan immersion dapat mengeliminasi penggunaan air evaporatif dalam porsi beban yang dilayani immersion, yang merupakan salah satu alasan itu mendapatkan perhatian di pasar yang terbatas air. Operator harus meminta angka water usage effectiveness (WUE) yang diukur fasilitas daripada mengasumsikan situs yang didinginkan cair apa pun secara otomatis lebih hemat air daripada yang didinginkan udara.

Ukuran pasar dan trajektori adopsi

Survei Cooling Systems 2025 Uptime Institute menemukan 22% operator pusat data sudah menggunakan direct liquid cooling — tidak berubah dari 2024 — dengan 61% tambahan mengatakan mereka tidak saat ini menggunakannya tetapi akan mempertimbangkannya. Bahkan di antara pengguna, loop cair biasanya melayani lebih sedikit dari 10% rak dalam fasilitas tertentu, mencerminkan seberapa terkonsentrasi permintaan masih dalam pelatihan AI dan inference hall daripada compute tujuan umum.

Dell’Oro Group memproyeksikan pasar pendinginan cair pusat data di seluruh dunia mencapai kurang lebih $7 miliar dalam pendapatan pabrikan pada tahun 2029, dengan direct liquid cooling khususnya melampaui $8 miliar pada tahun 2030 karena bergeser dari opsi yang memungkinkan ke persyaratan foundational untuk kapasitas yang didedikasikan AI. Itu masih irisan kecil dari kurang lebih $1 triliun dalam capex pusat data global yang diharapkan pada 2026 — pendinginan cair tetap menjadi spesialisasi high-density, bukan default di seluruh footprint total industri.

Apa artinya ini untuk pembeli colocation

1. Tanyakan tentang dukungan densitas rak aktual, bukan label pemasaran. “Siap-pendinginan-cair” dapat berarti apa saja dari fasilitas dengan stub pipa cadangan hingga loop CDU yang sepenuhnya berkomisi dan diuji pada target kW Anda. Dapatkan densitas yang diuji dan kelas suhu coolant secara tertulis.
2. Cocokkan tipe pendinginan ke roadmap perangkat keras Anda, bukan sebaliknya. Jika Anda menerapkan rak kelas GB200 sekarang, kompatibilitas DTC hampir wajib. Jika Anda mengevaluasi HPC ekstrem-densitas atau silikon kustom pada 150+ kW, immersion mungkin satu-satunya opsi — periksa kompatibilitas server sebelum berkomitmen pada salah satu.
3. Verifikasi headroom daya sebelum headroom pendinginan. Situs dapat memiliki infrastruktur pendinginan cair yang sangat baik dan masih tidak dapat menambahkan rak Anda jika kekurangan kapasitas listrik cadangan — konfirmkan keduanya dalam percakapan yang sama.
4. Gunakan ekonomi retrofit sebagai referensi negosiasi. Pada kurang lebih $2 juta per MW untuk retrofit versus $11 juta-plus untuk build baru, operator yang mengutip surcharge pendinginan-cair premium pada fasilitas yang direnovasi memiliki basis biaya secara material lebih rendah daripada yang ada di situs baru yang benar-benar siap cair — faktorkan itu ke dalam diskusi tingkat.
5. Periksa angka WUE, bukan hanya angka PUE, jika ketersediaan air adalah kendala dalam pasar target Anda — keduanya tidak bergerak bersama secara otomatis.

Bandingkan harga per kW di seluruh pasar colocation yang mendukung penerapan high-density yang didinginkan cair dalam indeks harga colocation, telusuri fasilitas spesifik dalam katalog data center, atau minta penawaran yang dirujukkan terhadap tingkat indeks saat ini.