Liquid Cooling สำหรับ AI Data Centers: DTC เทียบ Immersion

Direct-to-chip (DTC) liquid cooling จัดการ 40-120 kW ต่อ rack ด้วยต้นทุน retrofit ประมาณ $28,000-42,000 ต่อ 42U rack ในขณะที่ immersion cooling ขยายได้เกิน 150-250 kW ต่อ rack แต่ต้องการ chassis ที่ออกแบบใหม่และมีต้นทุน $4,500-6,800 ต่อ kW ของ IT load ที่ติดตั้ง สำหรับ operators ส่วนใหญ่ที่ deploy AI racks ในช่วง 40-100 kW ในปัจจุบัน DTC เป็นทางเลือกมาตรฐาน; immersion ถูกจองไว้สำหรับ deployments ที่มี density สูงสุดหรือมีข้อจำกัด sustainability สูงที่สุด

ประเด็นสำคัญ

• DTC ครอบงำ deployments ในปัจจุบัน NVIDIA GB200 NVL72 (120 kW nominal 130-132 kW วัดได้) มาพร้อม direct-to-chip cooling เป็นค่าเริ่มต้น และ colocation retrofits ส่วนใหญ่ในปี 2026 ทำตามเส้นทางเดียวกัน
• Immersion ชนะในเรื่อง density ceiling Single-phase immersion รองรับ 100-150+ kW/rack; two-phase immersion ถึง 150-250+ kW ด้วย PUE ต่ำสุด 1.01-1.03 ตามข้อมูล vendor และ integrator
• Retrofits ชนะ greenfield ในเรื่องต้นทุน การแปลง existing hall เป็น liquid cooling ใช้ประมาณ $2 ล้านต่อ MW เทียบกับ $11 ล้านบาทหรือมากกว่า ต่อ MW สำหรับ comparable new liquid-cooled build — ประหยัด capital ประมาณ 80% ตามข้อมูล STL Partners
• Adoption ยังเป็น minority high-density practice Uptime Institute survey ปี 2025 พบว่า 22% ของ operators ใช้ direct liquid cooling และแม้แต่ในหมู่ adopters liquid loops โดยทั่วไปให้บริการแก่ racks น้อยกว่า 10% ของทั้งหมด
• Power ไม่ใช่ plumbing เป็น retrofit bottleneck Site ต้องการ spare electrical headroom — และบ่อยครั้ง busway หรือ switchgear upgrade — ก่อนที่จะสามารถรองรับ racks 40+ kW โดยไม่คำนึงถึงการออกแบบ cooling loop ที่ดีเพียงใด
• PUE ลดลงอย่างมีนัยสำคัญ Air-cooled hall PUE 1.3-1.6 ลดลงเป็นประมาณ 1.05-1.15 กับ DTC และ 1.02-1.10 กับ well-run immersion ตามข้อมูล Vertiv และ integrator field
• ตลาด liquid cooling ยังคงมีขนาดเล็กเทียบกับ total data center spend — Dell’Oro คาดการณ์ว่ามันจะถึง $7-8 ล้านดอลลาร์ manufacturer revenue ตามปี 2029-2030 เพียงส่วนเล็กๆ ของ data center capex ประมาณ $1 ล้านล้านดอลลาร์ในปี 2026

สำหรับราคา per-kW colocation ปัจจุบันใน markets ที่รองรับ high-density deployments ดู colocation price index สำหรับเศรษฐศาสตร์ rack-level GPU rental ที่ขับเคลื่อน density decisions ดู GPU cloud pricing

ทำไม air cooling หยุดทำงานเมื่อเกิน 30-40 kW/rack

Air cooling ดึงความร้อนโดยการเคลื่อนปริมาณอากาศเย็นขนาดใหญ่ผ่าน server surfaces วิธีการนี้ scale ได้สมควรถึงประมาณ 20-30 kW ต่อ rack ด้วย hot-aisle containment และ in-row cooling และด้วยความพยายามในการออกแบบสามารถถึง 30-40 kW เกินจากนั้นไป airflow ที่จำเป็นจึงกลายเป็นสิ่งที่ไม่สามารถจัดการทางกายภาพ — พลังงาน fan เพิ่มขึ้นเร็วกว่า useful cooling และ hot spots เกิดขึ้นบน densest components (GPUs HBM stacks) โดยไม่คำนึงถึง total room airflow

AI accelerators ผลักดันเกินจากจุดนี้ภายในรุ่นฮาร์ดแวร์เดียว NVIDIA H100 SXM ดึง GPU ประมาณ 700 W; server air-cooled ที่มี 8-GPU เต็มสามารถยังคงทำงานได้ใน 10-15 kW rack มาตรฐาน Blackwell-generation GB200 NVL72 เปลี่ยนคณิตศาสตร์: Grace Blackwell Superchip แต่ละตัว dissipates ถึง 1,200 W และ full 72-GPU rack ดึง 120 kW nominal — 130-132 kW วัดได้ใน deployed configurations ตามเอกสาร NVIDIA และ integrator rack นี้มา direct-to-chip cold plates และ in-rack coolant distribution unit (CDU) เป็นอุปกรณ์มาตรฐาน ไม่ใช่ตัวเลือก

Direct-to-chip cooling: ทำงานอย่างไรและต้นทุนเท่าไหร่

Direct-to-chip (DTC) cooling ส่งน้ำยา coolant ผ่าน cold plates ที่ยึดไว้โดยตรงบน CPU GPU และ high-TDP components อื่นๆ Manifold แจกจ่าย coolant ให้แต่ละ cold plate; CDU นั่งอยู่ระหว่าง facility water loop กับ sealed secondary loop นี้ ควบคุม flow rate อุณหภูมิ และ pressure ในขณะเดียวกันเก็บ facility water quality ให้แยกออกจาก electronics loop

DTC ดึง 70-80% ของ total heat load ของเซิร์ฟเวอร์โดยตรงไปยังของเหลว — memory storage networking และ power delivery components ยังคงอาศัย residual airflow ดังนั้น DTC rack ยังต้องมี some room-level air handling แค่น้อยกว่า air-cooled hall ที่สมบูรณ์

Attribute	Direct-to-chip	Notes
Practical rack density	40-120 kW	ตรงกับ current AI accelerator platforms (GB200 NVL72: 120-132 kW)
Cost per 42U rack (retrofit)	$28,000-42,000	Cold plates manifolds in-rack CDU; 2026 integrator pricing
PUE impact	ลดเป็น ~1.05-1.15 จาก 1.3-1.6 air-cooled baseline	Vertiv field data
Hardware compatibility	ต้องการ liquid-ready servers ด้วย cold-plate mounts	ไม่สามารถเพิ่มลงในHardware legacy ที่ใช่แบบที่ต้องการ
Facility water temperature	ASHRAE W27-W45 classes โดยทั่วไป	Warmer classes (W40/W45) อนุญาตให้ dry-cooler-only rejection ส่วนใหญ่ของปี

ข้อดีหลัก DTC คือมันทำงานกับ server form factors ใกล้กับมาตรฐาน 19-inch rack ของวันนี้ ดังนั้น operators สามารถ retrofit existing floor space แทนที่จะสร้างใหม่จาก slab ขึ้นมา — มีเงื่อนไขว่า site มี spare electrical capacity

Immersion cooling: single-phase two-phase และจะใช้ที่ไหน

Immersion cooling จุ่มเต็ม server boards ใน dielectric fluid ที่ไม่นำไฟฟ้า ดึงความร้อนจากทุก component พร้อมๆ กันมากกว่าเพียง hottest components

• Single-phase immersion: fluid อยู่เป็น liquid ตลอดรอบ ไหลไปยัง external heat exchanger รองรับ densities เกิน 100 kW ต่อ rack-equivalent tank ด้วย PUE เข้าใกล้ 1.03 ต้นทุนติดตั้งอยู่ที่ประมาณ $4,500-6,800 ต่อ kW ของ IT load ครอบคลุม tanks dielectric fluid coolant distribution units และ heat rejection equipment
• Two-phase immersion: fluid เดือดเมื่อถึง component surface และ recondenses ที่ tank lid ขยับความร้อนได้มีประสิทธิภาพมากขึ้น ส่งมอบ PUE 1.01-1.03 และรองรับ 150-250+ kW ต่อ rack-equivalent แต่ต้นทุน $65,000-95,000 ต่อ full rack-equivalent และเกี่ยวข้องกับ engineered fluids ด้วย handling และ environmental considerations

Immersion ต้องการ servers ที่ออกแบบสำหรับ submersion — ไม่มี spinning drives และ connectors และ thermal paste ที่ rate สำหรับ fluid — ดังนั้นจึงเป็น effectively hardware redesign ไม่ใช่ drop-in retrofit นี่ทำให้เหมาะที่สุดสำหรับ greenfield high-performance computing halls specialized AI training clusters หรือ edge/embedded deployments ที่ extreme density ใน footprint เล็ก สำคัญกว่า compatibility กับ commodity servers

Direct-to-chip เทียบ immersion: side-by-side

Factor	Direct-to-chip	Single-phase immersion	Two-phase immersion
Rack density ceiling	40-120 kW	100-150+ kW	150-250+ kW
Typical PUE	1.05-1.15	~1.02-1.05	1.01-1.03
Retrofit เข้าไป existing racks	ใช่ ด้วย liquid-ready servers	ยาก — ต้องการ tanks ไม่ใช่ racks	ยาก — ต้องการ tanks engineered fluid
Relative cost per rack/kW	ต่ำกว่า	Mid	สูงสุด
Hardware compatibility	Standard chassis ด้วย cold-plate mounts	ต้องการ submersion-rated hardware	ต้องการ submersion-rated hardware
Best fit	AI inference/training racks ที่ 40-120 kW colocation retrofits	Dense HPC clusters space-constrained sites	Extreme-density research/training clusters

ต้นทุนการ retrofit colocation facility

Economics ระดับ facility ชี้ให้เห็นว่า retrofitting existing halls ชนะ building new liquid-ready capacity STL Partners ประมาณการ liquid cooling retrofits ที่ประมาณ $2 ล้านต่อ MW เทียบกับ $11 ล้านบาทหรือมากกว่า ต่อ MW สำหรับ comparable new liquid-cooled build — approximately 80% capital saving นี่คือเหตุผลว่าทำไม 65% ของ new CDU installations ใน North American colocation facilities ในปี 2026 เป็น retrofits มากกว่า greenfield deployments ตามข้อมูล Nautilus Data Technologies

Retrofit bottleneck hiatus ไม่ค่อยจะเป็นท่อปล่อย นั่นคือ electrical headroom: facility ต้องการ spare power capacity — และบ่อยครั้ง busway หรือ switchgear upgrade — ก่อนที่มันจะสามารถรองรับ 40+ kW racks โดยไม่ขึ้นกับการออกแบบ cooling loop ที่ดีเพียงใด Facilities ที่มี committed power ต่ำกว่า nameplate capacity ของพวกมันหรือมี slack ใน existing substations retrofit fastest Fully leased power-constrained sites (Northern Virginia primary markets ตัวอย่าง นั่ง vacancy ประมาณ 0.3% ต่อ CBRE H2 2025 data) มีพื้นที่น้อยที่สุดในการเพิ่ม cooling capacity โดยไม่มี broader power upgrade

สำหรับ colocation providers โดยเฉพาะ retrofits มี added complication ที่ hyperscalers building สำหรับตัวเองไม่ต้องเผชิญ: converting live facility เสี่ยงต่อ disrupting existing tenants และ operators โดยทั่วไปต้องการ committed customer demand และ migration plan ที่ lock ในก่อนเริ่มงาน

ASHRAE temperature classes: ทำไม liquid cooling ไม่ใช่ standard หนึ่ง

ASHRAE Technical Committee 9.9 กำหนด liquid cooling facility water temperature classes — W17 W27 W32 W40 W45 และ W+ — โดยที่หมายเลขหมายถึง maximum supply water temperature ในเซลเซียส All classes share 2°C lower bound

Class ที่เลือก determiner ว่า facility ต้องการ mechanical chillers หรือไม่:

• W17-W27: ต้องการ chilled water คล้ายกับ cooling plant สำหรับ traditional air-cooled hall
• W32: intermediate; ลดเวลา chiller runtime ในสภาพอากาศส่วนใหญ่
• W40-W45 และ W+: อุ่นพอที่ dry coolers หรือ cooling towers สามารถปฏิเสธความร้อนได้สำหรับ most หรือทั้งปี eliminating mechanical refrigeration และลดทั้ง energy use และ water consumption จาก evaporative cooling

Facilities ที่ออกแบบรอบ W40+ classes ได้รับประโยชน์ efficiency และ water-use ที่ใหญ่ที่สุด แต่ต้องการ hardware ที่ validated สำหรับ warmer inlet temperatures — design decision ที่ทำ rack และ server procurement time ไม่ใช่สิ่งที่ facility สามารถ retrofit หลังจากที่ไม่มี derating

Water usage: ขึ้นอยู่กับการออกแบบ ไม่ใช่ cooling method label

Liquid cooling ไม่ใช่อัตโนมัติ water-saving Direct-to-chip facility ยังคงอาศัย evaporative cooling towers สำหรับ remaining air-cooled load เห็น limited water-use improvement เทียบกับ comparable air-cooled hall — savings มาจาก running ที่ warmer ASHRAE classes (W40/W45) ที่อนุญาตให้ dry-cooler-only heat rejection ไม่ใช่จากการมี liquid loops per se Immersion cooling closed dielectric loop สามารถกำจัด evaporative water use ใน immersion-served portion ของ load ซึ่งเป็นเหตุผลหนึ่งว่าทำไมมันได้รับ attention ใน water-constrained markets Operators ควรขอ facility measured water usage effectiveness (WUE) figure แทนที่จะสมมติว่า any liquid-cooled site เป็น automatically more water-efficient กว่า air-cooled one

Market size และ adoption trajectory

Uptime Institute 2025 Cooling Systems Survey พบ 22% ของ data center operators ใช้ direct liquid cooling — unchanged จาก 2024 — ด้วย additional 61% บอกว่าพวกมัน don’t currently use มันแต่จะ consider มัน แม้กระทั่งในหมู่ adopters liquid loops โดยทั่วไป serve fewer กว่า 10% ของ racks ใน facility ที่กำหนด สะท้อนให้เห็นว่า concentrated demand ยังคงเป็นเพียง AI training และ inference halls มากกว่า general-purpose compute

Dell’Oro Group forecasts worldwide data center liquid cooling market reaching ประมาณ $7 ล้านดอลลาร์ manufacturer revenue โดย 2029 ด้วย direct liquid cooling specifically surpassing $8 ล้านดอลลาร์ โดย 2030 เนื่องจากมันเลื่อนจาก enabling option ไปยัง foundational requirement สำหรับ AI-dedicated capacity นั่นยังคงเป็น small slice ของ roughly $1 ล้านล้านดอลลาร์ใน global data center capex ที่คาดว่าจะเป็น 2026 — liquid cooling ยังคงเป็น high-density specialization ไม่ใช่ default ข้าม industry total footprint

สิ่งนี้หมายถึงอะไรสำหรับ colocation buyers

1. ขอ rack density support ที่แท้จริง ไม่ใช่ marketing label “Liquid-cooling-ready” สามารถหมายถึงอะไรก็ได้ตั้งแต่ facility ด้วย spare piping stubs ไปยัง fully commissioned CDU loop ที่ tested ที่ target kW ของคุณ ได้รับ tested density และ coolant temperature class ในการเขียน

2. จับคู่ cooling type กับ hardware roadmap ของคุณ ไม่ใช่วิธีอื่น หากคุณ deploying GB200-class racks ตอนนี้ DTC compatibility เป็น close mandated หากคุณประเมิน extreme-density HPC หรือ custom silicon ที่ 150+ kW immersion อาจเป็น only option — check server compatibility ก่อนที่จะ commit ไปยัง either

3. ตรวจสอบ power headroom ก่อน cooling headroom Site สามารถมี excellent liquid cooling infrastructure และยังคง unable เพิ่ม rack ของคุณหากมัน lacks spare electrical capacity — confirm both ในการสนทนาเดียวกัน

4. ใช้ retrofit economics เป็น negotiating reference ที่ประมาณ $2 ล้านต่อ MW สำหรับ retrofit เทียบกับ $11 ล้านบาทหรือมากกว่าสำหรับ new builds operator quoting premium liquid-cooling surcharges บน retrofitted facility มี materially lower cost base กว่า one ที่ genuinely new liquid-ready site — factor นั่นเข้าไปใน rate discussions

5. ตรวจสอบ WUE figure ไม่ใช่เพียง PUE figure หากการพร้อมใช้น้ำเป็น constraint ใน target market ของคุณ — สองสิ่งนี้ไม่เคลื่อนที่พร้อมกัน

เปรียบเทียบราคา per-kW colocation ข้าม markets ที่รองรับ high-density liquid-cooled deployments ใน colocation price index browse specific facilities ใน data center catalog หรือ request quote benchmarked เทียบกับ current index rates