Système à l'échelle du rack

Un système à l'échelle du rack est une unité informatique IA pré-intégrée conçue, expédiée et exploitée comme un seul rack. Les GPU, CPU, réseau, distribution d'énergie et refroidissement par liquide y forment un tout, non des serveurs séparés. Le GB200 NVL72 de NVIDIA en est l'exemple le plus connu : 72 GPU liés par NVLink dans un seul rack consommant environ 120-132 kW, bien au-delà des 5-10 kW d'un rack d'entreprise traditionnel. Parce que le rack est l'unité d'achat, les data centers doivent fournir un refroidissement par liquide direct sur puce, une distribution d'énergie par busway à cette densité et des planchers capables de supporter le poids, c'est pourquoi les installations sont maintenant commercialisées comme « prêtes pour systèmes à l'échelle du rack ». Les plates-formes de nouvelle génération comme Vera Rubin augmentent la densité encore davantage, ce qui explique pourquoi les nouveaux bâtiments IA sont spécifiés autour du refroidissement par liquide dès la phase de conception.