TDP (Công suất thiết kế nhiệt)

TDP (Thermal Design Power) là công suất nhiệt tối đa bền vững, tính bằng watt, mà một bộ xử lý hoặc bộ tăng tốc được thiết kế để tỏa ra. Đây là con số dùng để thiết kế quy mô của các hệ thống làm mát. Nó không giống như mức tiêu thụ điện đỉnh, có thể vượt quá nó tạm thời. CPU máy chủ thường nằm trong khoảng 150-400 W, trong khi các bộ tăng tốc AI hiện tại được xếp hạng khoảng 700-1,200 W mỗi cái, do đó một máy chủ 8-GPU có thể vượt quá 10 kW trước khi tính đến mạng và quạt. Khi nhân lên trên một rack, TDP là yếu tố thúc đẩy mật độ từ 5-10 kW trên rack trong các phòng doanh nghiệp lên 40-130 kW trong các hội trường AI, và là lý do tại sao làm mát lỏng trực tiếp đến chip đã trở thành tiêu chuẩn cho các triển khai GPU mới. Các nhà điều hành sử dụng TDP của nhà cung cấp, được điều chỉnh giảm dựa trên mức sử dụng dự kiến, để thiết kế phân phối điện và xác định công suất kW cam kết.