Cloud GPU

Un cloud GPU est un service cloud qui loue de la capacité de calcul GPU pour l'entraînement, le fine-tuning, l'inférence et le rendu. Il est facturé à l'heure-GPU ou par contrats réservés. Le marché va des hyperscalers (AWS, Azure, Google Cloud) aux fournisseurs spécialisés dits neoclouds (CoreWeave, Lambda, Nebius, Crusoe). Les tarifs varient fortement : en 2026, les NVIDIA H100 à la demande vont d'environ 2 à 3 $ par heure-GPU chez les spécialistes à 4-14 $ chez les hyperscalers, en net recul par rapport aux pics d'environ 8 $ de 2023 ; les clusters réservés sur plusieurs années reviennent bien moins cher à l'heure. Les déploiements modernes regroupent des milliers de GPU avec des interconnexions à haut débit (NVLink au sein des baies, InfiniBand ou Ethernet RoCE entre elles). Les clouds GPU comptent parmi les plus gros preneurs de colocation wholesale et de capacité construite sur mesure, chaque cluster de 1 000 GPU nécessitant environ 1,5 à 2,5 MW d'infrastructure refroidie par liquide.