Làm mát bằng chất lỏng cho trung tâm dữ liệu AI: DTC vs Immersion

Làm mát trực tiếp chip (DTC) xử lý 40-120 kW trên mỗi rack với chi phí cải tạo khoảng $28,000-42,000 trên mỗi rack 42U, trong khi làm mát immersion mở rộng quy mô vượt 150-250 kW trên mỗi rack nhưng yêu cầu thiết kế lại khung gầm và chạy $4,500-6,800 trên mỗi kW tải IT được cài đặt. Đối với hầu hết các nhà điều hành triển khai các rack AI trong phạm vi 40-100 kW ngày nay, DTC là mặc định; immersion được dành riêng cho các triển khai mật độ cao nhất hoặc bị ràng buộc bằng khả năng bền vững nhất.

Những điểm chính

• DTC chiếm ưu thế trong các triển khai hiện tại. GB200 NVL72 của NVIDIA (120 kW danh định, 130-132 kW đo được) được gửi với làm mát trực tiếp chip theo mặc định, và hầu hết các cải tạo colocation năm 2026 tuân theo cùng một đường dẫn.
• Immersion chiến thắng trên trần mật độ. Immersion một pha hỗ trợ 100-150+ kW/rack; immersion hai pha đạt 150-250+ kW với PUE thấp tới 1.01-1.03, theo dữ liệu nhà cung cấp và nhà tích hợp.
• Cải tạo vượt trội so với greenfield về chi phí. Chuyển đổi một hội trường hiện có để làm mát bằng chất lỏng chạy khoảng $2 triệu trên MW so với $11 triệu cộng trên MW cho một bản dựng sẵn sàng chất lỏng mới — khoảng 80% tiết kiệm vốn, theo STL Partners.
• Việc áp dụng vẫn là một thực hành thiểu số, mật độ cao. Cuộc khảo sát năm 2025 của Uptime Institute cho thấy 22% các nhà điều hành sử dụng làm mát chất lỏng trực tiếp, và thậm chí trong số những người áp dụng, các vòng lặp chất lỏng thường phục vụ dưới 10% tổng số rack.
• Điện, không phải ống nước, là nút cổ chai cải tạo. Một trang web không có không gian điện dự phòng không thể hỗ trợ các rack làm mát bằng chất lỏng bất kể thiết kế ống của nó tốt như thế nào.
• PUE giảm đáng kể. PUE hội trường được làm mát bằng không khí 1.3-1.6 giảm xuống khoảng 1.05-1.15 với DTC và 1.02-1.10 với immersion được điều hành tốt, theo dữ liệu trường Vertiv và nhà tích hợp.
• Thị trường làm mát bằng chất lỏng vẫn nhỏ so với tổng chi phí trung tâm dữ liệu — Dell’Oro dự báo nó sẽ đạt $7-8 tỷ trong doanh thu nhà sản xuất vào 2029-2030, một phần nhỏ của khoảng $1 nghìn tỷ trong capex trung tâm dữ liệu năm 2026.

Để xem giá colocation hiện tại trên mỗi kW trên các thị trường hỗ trợ triển khai mật độ cao, hãy xem chỉ số giá colocation. Để xem kinh tế thuê GPU cấp rack thúc đẩy quyết định mật độ, hãy xem giá GPU cloud.

Tại sao làm mát bằng không khí không hoạt động trên 30-40 kW/rack

Làm mát bằng không khí loại bỏ nhiệt bằng cách di chuyển các khối lượng lớn không khí được làm mát qua các bề mặt máy chủ. Phương pháp này mở rộng quy mô hợp lý đến khoảng 20-30 kW trên mỗi rack với chứa hành lang nóng và làm mát hàng, và với nỗ lực kỹ thuật có thể đạt 30-40 kW. Sau điểm đó, lưu lượng khí được yêu cầu trở nên không thực tế về mặt vật lý — năng lượng quạt tăng nhanh hơn làm mát hữu ích, và các điểm nóng hình thành trên các thành phần mật độ cao nhất (GPU, ngăn xếp HBM) bất kể tổng lưu lượng khí trong phòng.

Các bộ tăng tốc AI vượt quá trần này trong một thế hệ phần cứng duy nhất. H100 SXM của NVIDIA tiêu thụ khoảng 700 W trên mỗi GPU; một máy chủ được làm mát bằng không khí được điền đầy đủ 8-GPU vẫn có thể hoạt động trong một rack 10-15 kW tiêu chuẩn. Thế hệ Blackwell GB200 NVL72 thay đổi toán học: mỗi Superchip Grace Blackwell tỏa nhiệt lên tới 1,200 W, và rack 72-GPU đầy đủ tiêu thụ 120 kW danh định — 130-132 kW đo được trong các cấu hình triển khai, theo tài liệu NVIDIA và nhà tích hợp. Rack đó được gửi với các tấm lạnh trực tiếp chip và một đơn vị phân phối chất làm mát trong rack (CDU) như thiết bị tiêu chuẩn, không phải lựa chọn.

Làm mát trực tiếp chip: cách hoạt động và chi phí bao nhiêu

Làm mát trực tiếp chip (DTC) dẫn chất làm mát lỏng qua các tấm lạnh được bolt trực tiếp vào CPU, GPU và các thành phần TDP cao khác. Một đa tuyến phân phối chất làm mát đến mỗi tấm lạnh; một CDU nằm giữa vòng lặp nước của cơ sở và vòng lặp thứ cấp kín này, kiểm soát tốc độ dòng chảy, nhiệt độ và áp suất trong khi giữ chất lượng nước cơ sở cách ly khỏi vòng lặp điện tử. DTC loại bỏ khoảng 70-80% tổng tải nhiệt của máy chủ trực tiếp vào chất lỏng — bộ nhớ, lưu trữ, mạng và các thành phần cung cấp điện vẫn dựa vào lưu lượng không khí còn lại, vì vậy một rack DTC vẫn cần một số xử lý không khí cấp phòng, chỉ là ít hơn nhiều so với một hội trường được làm mát bằng không khí.

Thuộc tính	Trực tiếp chip	Ghi chú
Mật độ rack thực tế	40-120 kW	Khớp với các nền tảng bộ tăng tốc AI hiện tại (GB200 NVL72: 120-132 kW)
Chi phí trên mỗi rack 42U (cải tạo)	$28,000-42,000	Tấm lạnh, đa tuyến, CDU trong rack; giá nhà tích hợp 2026
Tác động PUE	Giảm xuống ~1.05-1.15 từ cơ sở 1.3-1.6 được làm mát bằng không khí	Dữ liệu trường Vertiv
Khả năng tương thích phần cứng	Yêu cầu máy chủ sẵn sàng chất lỏng với gắn tấm lạnh	Không thể thêm vào phần cứng kế thừa tùy ý
Nhiệt độ nước cơ sở	Các lớp ASHRAE W27-W45 thông thường	Các lớp ấm hơn (W40/W45) cho phép từ chối chỉ bằng bộ làm mát khô hầu hết năm

Lợi thế chính của DTC là nó hoạt động với các yếu tố hình thức máy chủ gần với rack 19-inch tiêu chuẩn ngày nay, vì vậy các nhà điều hành có thể cải tạo không gian sàn hiện có chứ không phải xây dựng lại từ các bảng — với điều kiện trang web có dung lượng điện dự phòng.

Làm mát immersion: một pha, hai pha và nó phù hợp ở đâu

Làm mát immersion ngập chìm toàn bộ các bảng máy chủ trong một chất lỏng điện môi không dẫn điện, tỏa nhiệt từ mọi thành phần cùng một lúc chứ không phải chỉ những thành phần nóng nhất.

• Immersion một pha: chất lỏng vẫn lỏng trong suốt chu kỳ, được tuần hoàn đến một bộ trao đổi nhiệt bên ngoài. Hỗ trợ mật độ trên 100 kW trên mỗi bộ dung tích tương đương rack với PUE tiếp cận 1.03. Chi phí lắp đặt chạy khoảng $4,500-6,800 trên mỗi kW tải IT, bao gồm các bộ chứa, chất lỏng điện môi, các đơn vị phân phối chất làm mát và thiết bị tỏa nhiệt.
• Immersion hai pha: chất lỏng sôi ở bề mặt thành phần và tái ngưng tụ ở nắp bộ chứa, di chuyển nhiệt hiệu quả hơn nhiều. Cung cấp PUE 1.01-1.03 và hỗ trợ 150-250+ kW trên mỗi bộ dung tích tương đương rack, nhưng chi phí $65,000-95,000 trên mỗi bộ dung tích tương đương rack đầy đủ và liên quan đến các chất lỏng được thiết kế với các xem xét xử lý và môi trường của riêng chúng.

Làm mát immersion yêu cầu các máy chủ được thiết kế để ngập chìm — không có ổ đĩa quay, và các đầu nối và pasta nhiệt được xếp hạng cho chất lỏng — vì vậy nó thực tế là một thiết kế lại phần cứng, không phải một cải tạo đơn giản. Điều đó làm cho nó phù hợp nhất với các hội trường tính toán hiệu suất cao greenfield, các cụm đào tạo AI chuyên biệt, hoặc các triển khai cạnh/nhúng nơi mật độ cực đoan trong một chân dung nhỏ quan trọng hơn khả năng tương thích với các máy chủ hàng hóa.

Trực tiếp chip vs immersion: cạnh nhau

Yếu tố	Trực tiếp chip	Immersion một pha	Immersion hai pha
Trần mật độ rack	40-120 kW	100-150+ kW	150-250+ kW
PUE điển hình	1.05-1.15	~1.02-1.05	1.01-1.03
Cải tạo vào các rack hiện có	Có, với máy chủ sẵn sàng chất lỏng	Khó — cần bộ chứa, không phải rack	Khó — cần bộ chứa, chất lỏng được thiết kế
Chi phí tương đối trên mỗi rack/kW	Thấp hơn	Giữa	Cao nhất
Khả năng tương thích phần cứng	Khung gầm tiêu chuẩn với gắn tấm lạnh	Yêu cầu phần cứng được xếp hạng ngập chìm	Yêu cầu phần cứng được xếp hạng ngập chìm
Phù hợp nhất	Rack suy luận/đào tạo AI ở 40-120 kW, cải tạo colocation	Các cụm HPC dày đặc, các trang web bị ràng buộc không gian	Các cụm nghiên cứu/đào tạo mật độ cực đoan

Biên độ cải tạo cơ sở colocation chi phí bao nhiêu

Kinh tế cấp cơ sở ưu tiên cải tạo các hội trường hiện có so với xây dựng dung lượng sẵn sàng chất lỏng mới. STL Partners ước tính cải tạo làm mát bằng chất lỏng ở khoảng $2 triệu trên MW, so với $11 triệu cộng trên MW cho một bản dựng được làm mát bằng chất lỏng tương tự — khoảng tiết kiệm vốn 80%. Khoảng cách đó là lý do tại sao 65% cài đặt CDU mới trong các cơ sở colocation Bắc Mỹ năm 2026 là cải tạo chứ không phải triển khai greenfield, theo Nautilus Data Technologies.

Nút cổ chai cải tạo hiếm khi là ống nước chính nó. Nó là không gian điện: một cơ sở cần dung lượng điện dự phòng — và thường là nâng cấp đường dây hoặc tủ chuyển mạch — trước khi nó có thể hỗ trợ các rack 40+ kW, bất kể vòng lặp làm mát được thiết kế tốt như thế nào. Các cơ sở có năng lực điện được cam kết dưới công suất danh định của chúng, hoặc có khoảng trống trong các trạm phụ hiện có, cải tạo nhanh nhất. Các trang web được cho thuê đầy đủ, bị ràng buộc năng lực (các thị trường chính Northern Virginia, chẳng hạn, nằm ở khoảng 0.3% tỷ lệ trống theo dữ liệu H2 2025 của CBRE) có ít phòng để thêm dung lượng làm mát mà không có nâng cấp năng lực rộng hơn.

Đối với các nhà cung cấp colocation cụ thể, cải tạo mang theo một phức tạp bổ sung mà các nhà tăng quy mô siêu lớn xây dựng cho chính họ không phải đối mặt: chuyển đổi một cơ sở trực tiếp có nguy cơ làm gián đoạn các khách thuê hiện có, và các nhà điều hành thường muốn nhu cầu khách hàng cam kết và kế hoạch di cư bị khóa trước khi bắt đầu công việc.

Các lớp nhiệt độ ASHRAE: tại sao “làm mát bằng chất lỏng” không phải là một tiêu chuẩn

Ủy ban Kỹ thuật 9.9 của ASHRAE xác định các lớp nhiệt độ nước cơ sở làm mát bằng chất lỏng — W17, W27, W32, W40, W45 và W+ — nơi số biểu thị nhiệt độ nước cung cấp tối đa tính bằng độ C. Tất cả các lớp chia sẻ giới hạn dưới 2°C.

Lớp được chọn xác định xem một cơ sở có cần máy làm lạnh cơ khí hay không:

• W17-W27: yêu cầu nước được làm lạnh, nhà máy làm mát tương tự như một hội trường được làm mát bằng không khí truyền thống.
• W32: trung gian; giảm giờ chạy máy làm lạnh trong hầu hết các khí hậu.
• W40-W45 và W+: đủ ấm để các bộ làm mát khô hoặc tháp làm mát một mình có thể tỏa nhiệt hầu hết hoặc toàn bộ năm, loại bỏ làm lạnh cơ khí và cắt cả mức sử dụng năng lượng và tiêu thụ nước từ làm mát bay hơi.

Các cơ sở được thiết kế xung quanh các lớp W40+ nhận được lợi ích hiệu suất và sử dụng nước lớn nhất, nhưng yêu cầu phần cứng được xác thực cho nhiệt độ đầu vào ấm hơn — một quyết định thiết kế được thực hiện tại thời gian mua sắm rack và máy chủ, không phải thứ gì một cơ sở có thể cải tạo sau thực tế mà không derating.

Sử dụng nước: nó phụ thuộc vào thiết kế, không phải nhãn của phương pháp làm mát

Làm mát bằng chất lỏng không phải tự động tiết kiệm nước. Một cơ sở trực tiếp chip vẫn dựa vào tháp làm mát bay hơi cho phần tải được làm mát bằng không khí còn lại sẽ thấy cải thiện sử dụng nước hạn chế so với một hội trường được làm mát bằng không khí tương tự — tiết kiệm có nguồn gốc từ việc chạy ở các lớp ASHRAE ấm hơn (W40/W45) cho phép từ chối nhiệt chỉ bằng bộ làm mát khô, không phải từ sự hiện diện của các vòng lặp chất lỏng per se. Vòng lặp điện môi kín của làm mát immersion có thể loại bỏ sử dụng nước bay hơi trong phần tải được phục vụ bởi immersion, đó là một lý do nó được chú ý trong các thị trường bị ràng buộc nước. Các nhà điều hành nên yêu cầu con số hiệu quả sử dụng nước (WUE) được đo lường của cơ sở chứ không phải giả sử bất kỳ trang web được làm mát bằng chất lỏng nào tự động hiệu quả hơn nước so với một trang web được làm mát bằng không khí.

Kích thước thị trường và quỹ đạo áp dụng

Cuộc khảo sát Hệ thống làm mát năm 2025 của Uptime Institute cho thấy 22% các nhà điều hành trung tâm dữ liệu đã sử dụng làm mát chất lỏng trực tiếp — không thay đổi so với 2024 — với thêm 61% nói rằng họ hiện không sử dụng nó nhưng sẽ xem xét. Thậm chí trong số những người áp dụng, các vòng lặp chất lỏng thường phục vụ ít hơn 10% của các rack trong một cơ sở nhất định, phản ánh nhu cầu vẫn còn tập trung như thế nào trong các hội trường đào tạo và suy luận AI chứ không phải tính toán mục đích chung.

Nhóm Dell’Oro dự báo thị trường làm mát bằng chất lỏng trung tâm dữ liệu trên toàn thế giới sẽ đạt khoảng $7 tỷ trong doanh thu nhà sản xuất vào năm 2029, với làm mát chất lỏng trực tiếp cụ thể vượt quá $8 tỷ vào năm 2030 khi nó chuyển từ một tùy chọn cho phép sang một yêu cầu cơ bản cho dung lượng dành riêng cho AI. Đó vẫn là một lát nhỏ của khoảng $1 nghìn tỷ trong capex trung tâm dữ liệu toàn cầu dự kiến vào năm 2026 — làm mát bằng chất lỏng vẫn là một chuyên môn mật độ cao, không phải mặc định trên toàn bộ vùng chân của ngành.

Điều này có ý nghĩa gì đối với những người mua colocation

1. Yêu cầu hỗ trợ mật độ thực tế của rack, không phải nhãn tiếp thị. “Sẵn sàng làm mát bằng chất lỏng” có thể có nghĩa là bất cứ điều gì từ một cơ sở có đầu nối ống dự phòng đến một vòng lặp CDU hoàn toàn được ủy thác được kiểm tra ở kW mục tiêu của bạn. Nhận được mật độ được kiểm tra và lớp nhiệt độ chất làm mát bằng văn bản.
2. So khớp loại làm mát với lộ trình phần cứng của bạn, không phải cách khác. Nếu bạn đang triển khai các rack lớp GB200 ngay bây giờ, khả năng tương thích DTC gần như là bắt buộc. Nếu bạn đang đánh giá HPC mật độ cực đoan hoặc silicon tùy chỉnh ở 150+ kW, immersion có thể là lựa chọn duy nhất — kiểm tra khả năng tương thích máy chủ trước khi cam kết với bất kỳ điều nào.
3. Xác minh không gian điện trước khi không gian làm mát. Một trang web có thể có cơ sở hạ tầng làm mát bằng chất lỏng xuất sắc và vẫn không thể thêm rack của bạn nếu thiếu dung lượng điện dự phòng — xác nhận cả hai trong cùng một cuộc trò chuyện.
4. Sử dụng kinh tế cải tạo làm tài liệu đàm phán. Ở khoảng $2 triệu trên MW cho một cải tạo so với $11 triệu cộng cho xây dựng mới, một nhà điều hành trích dẫn surcharges làm mát bằng chất lỏng cao cấp trên một cơ sở cải tạo có cơ sở chi phí thấp hơn đáng kể so với một trang web sẵn sàng chất lỏng thực sự mới — tính đến đó trong các cuộc thảo luận về tỷ lệ.
5. Kiểm tra con số WUE, không chỉ con số PUE, nếu tính khả dụng nước là một ràng buộc trên thị trường mục tiêu của bạn — hai cái không tự động di chuyển cùng nhau.

So sánh giá trên mỗi kW trên các thị trường colocation hỗ trợ triển khai mật độ cao, được làm mát bằng chất lỏng trong chỉ số giá colocation, duyệt các cơ sở cụ thể trong danh mục trung tâm dữ liệu, hoặc yêu cầu báo giá được đánh giá so với tỷ lệ chỉ số hiện tại.