Đám mây GPU

Đám mây GPU là một dịch vụ đám mây cho thuê công suất tính toán GPU — để huấn luyện AI, fine-tuning, suy luận và rendering — được lập hóa đơn theo GPU-giờ hoặc thông qua các hợp đồng được bảo lưu. Thị trường bao gồm hyperscaler (AWS, Azure, Google Cloud) và nhà cung cấp neocloud chuyên biệt (CoreWeave, Lambda, Nebius, Crusoe). Giá cả thay đổi rộng: vào năm 2026, NVIDIA H100 theo yêu cầu dao động từ khoảng $2-3 mỗi GPU-giờ ở các nhà cung cấp chuyên biệt đến $4-14 ở hyperscaler, giảm mạnh từ khoảng $8 ở mức đỉnh vào năm 2023; các cụm được bảo lưu đa năm có giá thấp hơn nhiều mỗi giờ. Các triển khai hiện đại cụm hàng ngàn GPU với các kết nối tốc độ cao (NVLink trong rack, InfiniBand hoặc RoCE Ethernet giữa chúng). Các đám mây GPU là một trong những người thuê colocation bán sỉ lớn nhất và công suất xây dựng theo quy định, vì mỗi cụm 1.000-GPU cần khoảng 1.5-2.5 MW hạ tầng làm mát bằng chất lỏng.