Trung tâm dữ liệu AI & hạ tầng GPU

AI đã chia ngành trung tâm dữ liệu thành hai sản phẩm: không gian cũ xây cho rack 5-15 kW, và công suất chuẩn AI cấp 60-130+ kW mỗi rack kèm làm mát bằng chất lỏng — và loại thứ hai đang được hấp thụ nhanh ngang tốc độ xây dựng. Trang hub này bàn về kinh tế mật độ và làm mát, quyết định thuê hay đặt tại colocation, và cách tìm công suất sẵn sàng GPU, dựa trên công cụ theo dõi giá GPU trực tiếp và danh mục cơ sở gắn nhãn aiReady của chúng tôi.

Bối cảnh thị trường: AI đang nuốt trọn đường ống công suất

Các con số quy mô không thể rõ ràng hơn. McKinsey dự báo nhu cầu công suất trung tâm dữ liệu toàn cầu khoảng 219 GW vào năm 2030, với công suất sẵn sàng AI cần tăng khoảng 33% mỗi năm và khối lượng công việc AI chiếm từ một nửa tới khoảng 70% tổng nhu cầu vào cuối thập kỷ. Nhu cầu đó đổ vào một thị trường vốn đã căng kỷ lục: tỷ lệ trống ở Bắc Virginia gần 0,5%, khoảng ba phần tư công suất đang xây dựng tại Mỹ đã được thuê trước, và giá wholesale Bắc Mỹ ở mức kỷ lục $196,25/kW/tháng theo CBRE — trong đó các nhà vận hành cơ sở tối ưu cho AI, làm mát bằng chất lỏng thu được mức phụ trội tiền thuê rõ rệt so với không gian thông thường.

Ở phía phần cứng, thị trường trưởng thành rất nhanh. Giá thuê H100 sụp từ hơn $8/giờ ở đỉnh năm 2023 xuống còn khoảng $2-3/giờ giá spot và ~$2,35/giờ với hợp đồng cam kết 1 năm khi nguồn cung bình thường hóa và các thế hệ B200/GB200 được giao — một đợt định giá lại đã thay đổi phép tính xây hay thuê cho tất cả những ai dưới quy mô hyperscale. Theo dõi đường cong đó hằng ngày chính là việc công cụ theo dõi GPU của chúng tôi làm; hướng dẫn giá thuê H100 giải thích các cấu trúc hợp đồng nằm sau những con số giật tít.

Hệ quả cho bên mua: quyết định hạ tầng AI nay là quyết định trên hai thị trường. Bạn đồng thời định giá công suất vật lý (colocation, $/kW) và năng lực tính toán (thuê GPU, $/GPU-giờ), và câu trả lời tối ưu dịch chuyển theo hiệu suất sử dụng, thời hạn và thế hệ phần cứng. Phần lớn nguồn tư vấn chỉ bao quát một thị trường. Chúng tôi theo dõi cả hai.

Mật độ và làm mát: vì sao rack 100 kW thay đổi mọi thứ

Một tủ rack huấn luyện AI hiện đại là một vật thể vật lý khác hẳn thứ mà các trung tâm dữ liệu được xây để chứa. Một hệ thống NVIDIA GB200 NVL72 tiêu thụ khoảng 120-132 kW trong một rack duy nhất — so với chuẩn doanh nghiệp 5-15 kW — còn kiến trúc cụm đang tiến tới 250 kW+ mỗi rack ở các thế hệ sắp tới. Ba hệ quả kỹ thuật đổ ra từ con số đó:

Làm mát chuyển sang chất lỏng. Trên khoảng 50 kW/rack, việc luân chuyển đủ lượng khí là bất khả thi về mặt vật lý. Ngành đã chuẩn hóa quanh hai phương án:

	Direct-to-chip (DTC)	Ngâm chất lỏng
Cách hoạt động	Tấm lạnh áp lên GPU/CPU; vòng làm mát qua CDU	Máy chủ ngâm trong chất lỏng cách điện
Mật độ rack hỗ trợ	80-132+ kW (thế hệ hiện tại)	100-250+ kW
Nhiệt được thu vào chất lỏng	~70-80% (phần còn lại do khí xử lý)	~95-100%
Gánh nặng cải tạo cơ sở	Trung bình — CDU, đường ống, vòng nước	Cao — bể chứa, xử lý chất lỏng, mô hình vận hành mới
Tương thích phần cứng	Rack OEM tiêu chuẩn (NVL72 xuất xưởng sẵn sàng DTC)	Cần phần cứng chỉnh sửa cho ngâm
Vị thế thị trường 2026	Lựa chọn chủ đạo cho dự án AI mới	Ngách: HPC, crypto, mật độ cực cao

DTC thắng ở phần lớn triển khai vì nó giữ nguyên mô hình vận hành theo rack và hàng trong khi vẫn xử lý được nhiệt của GPU hiện tại; nó thường làm tăng 7-10% capex phần cơ/điện nhưng cắt giảm năng lượng làm mát đủ để kéo PUE từ mức cũ khoảng 1,5 xuống 1,1-1,2 — một khoản tiết kiệm vĩnh viễn 20-25% trên tổng chi phí điện.

Phân phối điện phải nâng cấp. Rack 60-130 kW cần busway trên cao ở mức 415V trở lên, các đường cấp dòng cao, và tải trọng sàn chịu được 1.500-2.000 kg mỗi rack. Dư địa nguồn điện từ lưới trở thành yếu tố chiến lược: một cụm 1.024 GPU H100 tiêu thụ tổng cộng khoảng 1,5-2 MW; một hệ thống huấn luyện 16.000 GPU tiến gần 25-30 MW — những quy mô lập tức biến bạn thành khách thuê wholesale đàm phán về điện, chứ không phải người mua retail chọn rack. Với nhu cầu ở quy mô đó, hãy xem hub hyperscale và hub năng lượng của chúng tôi.

Hàm ý khi sàng lọc: phần lớn nền tảng colocation đã lắp đặt trên thế giới không thể chứa cụm AI hiện đại nếu không cải tạo. Cải tạo không gian làm mát bằng khí kiểu cũ cho mật độ làm mát bằng chất lỏng tốn $2-4 triệu mỗi MW. Đó là lý do “sẵn sàng GPU” nay là bộ lọc quan trọng nhất khi chọn cơ sở — và là lý do danh mục của chúng tôi gắn nhãn aiReady cho các cơ sở, bao quát mật độ, hỗ trợ làm mát bằng chất lỏng và dư địa điện.

Đặt tại colocation hay thuê GPU: khung ra quyết định

Quyết định hạ tầng AI có hệ quả lớn nhất ở quy mô dưới khoảng $50 triệu là sở hữu phần cứng đặt tại colocation hay thuê công suất GPU. Câu trả lời trung thực là phép số học, không phải hệ tư tưởng:

Hãy thuê khi: hiệu suất sử dụng không chắc chắn hoặc dao động mạnh; tầm nhìn dự án dưới khoảng 12-18 tháng; bạn cần phần cứng đầu bảng ngay lập tức (thuê B200/GB200 nhanh hơn một chu kỳ mua sắm 6 tháng); hoặc năng lực đội ngũ cho vận hành hạ tầng bằng không. Ở mức khoảng $2,35/giờ có cam kết, một chiếc H100 tốn khoảng $20.600/GPU-năm với điện, làm mát, mạng và rủi ro phần cứng hoàn toàn thuộc về nhà cung cấp.

Hãy dùng colocation khi: bạn sẽ duy trì hiệu suất sử dụng cao (từ 60% trở lên) trong 2 năm trở lên; dữ liệu của khối lượng công việc có ràng buộc về lưu trú hoặc bảo mật; hoặc bạn đủ lớn để biên lợi nhuận của bên cho thuê vượt quá chi phí vận hành của chính bạn. Sở hữu một node H100 tốn khoảng $25-30 nghìn/GPU vốn đầu tư cộng $3-5 nghìn/GPU-năm cho điện và không gian tại colocation (tại các thị trường giá điện khoảng $0,08-0,12/kWh — một lý do khiến colocation Đông Nam Á hấp dẫn với các đội máy chạy suy luận). Qua ba năm sử dụng cường độ cao, sở hữu thường rẻ hơn thuê 30-50% — nếu hiệu suất sử dụng được duy trì.

Điểm hòa vốn nằm quanh 12-18 tháng sử dụng liên tục. Hai yếu tố đẩy nó lùi lại: vòng đời thế hệ GPU (đội H100 sở hữu phải cạnh tranh với GPU thế hệ sau cho thuê ngay từ năm thứ hai) và giá thuê giảm (thị trường đã định giá lại giảm khoảng 60-70% trong hai năm). Một yếu tố kéo nó sớm lên: công suất cho thuê thế hệ mới nhất luôn khan hiếm và có giá phụ trội lúc ra mắt, đúng vào lúc nhu cầu huấn luyện đạt đỉnh.

Các đội ngũ dày dạn ngày càng chia đôi: công suất sở hữu, đặt tại colocation, quy mô vừa với phụ tải suy luận nền; công suất thuê cho các đợt huấn luyện đột biến và thử nghiệm thế hệ mới. Định giá cả hai vế của danh mục đó đòi hỏi dữ liệu trực tiếp trên cả hai thị trường — đó là cốt lõi những gì trang này công bố tại /vi/index/ và /vi/gpu/.

Thị trường GPU đã phân tầng — hãy định giá theo thế hệ, không phải “một chiếc GPU”

“Giá GPU” nay là bốn thị trường riêng biệt di chuyển trên những đường cong khác nhau, và gộp chúng lại là sai lầm phân tích phổ biến nhất — cũng đắt đỏ nhất — mà chúng tôi thấy:

Phân tầng	Phần cứng	Diễn biến thị trường (2026)
Đầu bảng	Dòng GB200/B200	Khan hiếm, giá phụ trội, phân bổ nhiều hơn là bán; gấp nhiều lần giá H100
Chủ lực	H100/H200	Thanh khoản tốt, cạnh tranh; ~$2-3/giờ spot, ~$2,35/giờ với cam kết 1 năm
Giá trị	A100 và thế hệ trước	Chiết khấu sâu; vẫn dùng tốt cho fine-tuning, mô hình nhỏ, suy luận theo lô
Tối ưu cho suy luận	L40S và các dòng chuyên biệt	Định giá theo kinh tế mỗi token phục vụ, không theo FLOPs huấn luyện

Ba động lực chi phối các đường cong. Hiệu ứng thác thế hệ: mỗi lần ra mắt sản phẩm đầu bảng mới đều đẩy thế hệ trước xuống 30-50% trong khoảng một năm — chính mô thức đã đưa H100 từ hơn $8/giờ về $2,35 có cam kết. Chênh lệch theo kỳ hạn hợp đồng: giá spot, theo tháng và cam kết 1-3 năm cho cùng một loại phần cứng có thể chênh trên 40%, nên việc khớp thời hạn hợp đồng với mức chắc chắn của khối lượng công việc đáng giá ngang với việc chọn nhà cung cấp. Phân tán theo nhà cung cấp: giá niêm yết của hyperscaler cho cùng một GPU cao gấp 2-4 lần giá của các GPU cloud chuyên biệt, khoảng cách rộng nhất ở phân tầng chủ lực. Công cụ theo dõi GPU của chúng tôi duy trì bức tranh hiện tại trên mọi phân tầng; hãy coi bất kỳ con số đơn lẻ nào được báo — kể cả con số của chúng tôi từ quý trước — chỉ là một lát cắt của một đường cong đang chuyển động nhanh.

Mạng: trụ cột thứ ba mà bên mua phát hiện quá muộn

Các cụm AI hỏng vì mạng nhiều hơn vì điện hay làm mát, bởi huấn luyện là khối lượng công việc đồng bộ: hàng nghìn GPU trao đổi gradient ở mỗi bước, và liên kết chậm nhất định nhịp cho cả cụm. Những hàm ý thực tiễn cho bên mua công suất:

• Lưu lượng đông-tây chiếm ưu thế. Một cụm 1.024 GPU cần hạ tầng mạng 400/800G không nghẽn (InfiniBand hoặc RoCE Ethernet), mà chi phí — thường $2.000-4.000 mỗi GPU cho thiết bị chuyển mạch và quang — phải nằm trong mô hình capex của bạn bên cạnh chính các bộ tăng tốc.
• Vị trí vật lý là điều không thể thương lượng với huấn luyện. Ngân sách độ trễ của hạ tầng mạng buộc cụm huấn luyện nằm trong một phòng máy hoặc các phòng liền kề; bạn không thể ghép một cụm huấn luyện qua hai tòa nhà, chứ chưa nói hai cơ sở. Điều này giới hạn lựa chọn cơ sở ở những nơi có không gian sẵn sàng GPU liền khối lớn — thêm một chiều nữa mà bộ lọc aiReady trong danh mục của chúng tôi xử lý.
• Suy luận thì phân tán; huấn luyện thì tập trung. Lưu lượng phục vụ chấp nhận được độ trễ đô thị thông thường, và đó là lý do kiến trúc trục-nan hoạt động — cụm nặng đặt trong không gian wholesale, các node suy luận đặt gần người dùng hơn (xem hub edge của chúng tôi).

Khi so sánh các đề nghị colocation cho triển khai GPU, hãy hỏi cụ thể về hỗ trợ hệ thống cáp có cấu trúc cho hạ tầng nhiều sợi quang, giá cross-connect theo số lượng lớn (hàng chục liên kết 400G làm thay đổi phép tính — xem phần chi phí ẩn trong hub colocation của chúng tôi), và các cổng vào cloud nếu kiến trúc của bạn là lai.

Đặt công suất AI ở đâu: địa lý đang dịch chuyển

Khối lượng công việc AI chịu được độ trễ tốt hơn các ứng dụng hướng người dùng — một tác vụ huấn luyện không quan tâm nó chạy ở Ashburn hay Johor. Sự dung thứ đó, đặt cạnh tỷ lệ trống dưới 1% và giá $215+/kW tại các thị trường lõi của Mỹ, đang chuyển hướng công suất AI về những thị trường giàu điện, chi phí thấp hơn: các đô thị thứ cấp của Mỹ, Bắc Âu, Trung Đông, và trên hết là Đông Nam Á, nơi BOI Thái Lan đã phê duyệt khoảng 746 tỷ THB vốn đầu tư trung tâm dữ liệu năm 2025, đường ống của Johor đạt khoảng 4-5 GW, và Malaysia nay ưu tiên rõ ràng cho các dự án chuẩn AI. Điện công nghiệp ở mức $0,08-0,12/kWh và chi phí xây dựng thấp hơn Mỹ 20-40% chuyển hóa trực tiếp thành $/GPU-giờ thấp hơn cho bất kỳ ai vận hành đội máy ở quy mô lớn — bức tranh khu vực đầy đủ có trong hub phát triển và phân tích Thái Lan của chúng tôi.

Coloprice giúp gì: cây cầu từ colo tới GPU

Mọi nguồn tài nguyên khác chỉ bao quát một nửa thị trường này. Các danh bạ colocation không theo dõi giá GPU; các sàn GPU không bao quát công suất vật lý. Vì quyết định thực tế — thuê compute, triển khai phần cứng, hay một phương án ở giữa — trải trên cả hai, chúng tôi đã dựng cây cầu đó:

• Giá GPU trực tiếp, miễn phí. Công cụ theo dõi GPU giám sát giá thuê trên nhiều nhà cung cấp và thế hệ — từ H100 khoảng $2,35/giờ có cam kết cho tới mức phụ trội hiện tại của B200/GB200 — để bạn đối chiếu bất kỳ báo giá nào trong vài giây. Hướng dẫn giá H100 giải mã các cấu trúc hợp đồng.
• Cơ sở sẵn sàng GPU, lọc được. Danh mục 202 cơ sở của chúng tôi có bộ lọc aiReady bao quát nguồn điện mật độ cao và hỗ trợ làm mát bằng chất lỏng — biến câu hỏi “cơ sở nào trên thế giới thực sự chứa được rack 100 kW?” từ hàng tuần gửi thư hỏi thông tin thành một truy vấn hai phút.
• Cả hai thị trường trên cùng một chuẩn đối sánh. Giá colocation và giá GPU đặt cạnh nhau, cộng dữ liệu nguồn cung thị trường trên stats — bộ đầu vào đầy đủ cho mô hình thuê-hay-colocation ở trên.
• Báo giá được kết nối trong một ngày làm việc, miễn phí. Mô tả nhu cầu tại /vi/quote/ — một cụm 20 rack làm mát bằng chất lỏng, 2 MW không gian sẵn sàng GPU tại Đông Nam Á, hay một cam kết thuê GPU bạn muốn đối chiếu chuẩn — và chúng tôi trả về các phương án phù hợp từ những cơ sở và nhà cung cấp đã được thẩm định, trong vòng một ngày làm việc. Không có phí niêm yết nào định hình danh sách rút gọn, không có hộp đen “yêu cầu báo giá”.
• Chuyên sâu. Hãy bắt đầu với hướng dẫn giá colocation cho vế $/kW và hướng dẫn đầu tư nếu bạn đang tài trợ vốn cho công suất AI thay vì đi mua nó.

Hạ tầng AI là thị trường định giá lại nhanh nhất trong ngành công nghệ — giá GPU dịch chuyển hơn 60% trong hai năm trong khi colocation dịch chuyển 6-12% theo chiều ngược lại. Quyết định dựa trên dữ liệu cũ thì đắt theo cả hai hướng: trả thừa cho compute ở một bên, chôn vốn vào sai cơ sở ở bên kia. Hãy kiểm tra /vi/gpu/, sàng lọc /vi/data-centers/, đối chiếu với /vi/index/, và để /vi/quote/ đặt lên bàn bạn những đề nghị thật, so sánh được, trong vòng một ngày làm việc.