AI-фабрика

AI-фабрика — це скорочення у промисловості — популяризоване компанією NVIDIA — для спеціально розробленого дата-центра, спроектованого від кінця до кінця для перетворення електроенергії та даних на результати тренування та інференції AI, а не для розміщення загальноцільових корпоративних робочих навантажень. На відміну від традиційної залу колокейшену, AI-фабрика спроектована навколо щільних GPU-кластерів — часто десятків тисяч прискорювачів, з'єднаних разом через NVLink та високошвидкісні InfiniBand або Ethernet-матерії — з щільністю стійок 100-140+ kW, які змушують охолодження від чіпа до рідини перейти з опції до вимоги за замовчуванням. Закупівля електроенергії, часто гігават-масштабу і іноді позаду лічильника, розглядається як обмеження першого порядку поряд з обчисленнями, оскільки GPU-кластери можуть змінити навантаження на десятки мегават за секунди під час синхронізації тренування. Цей термін описує фізичний об'єкт та його інженерію, відмінну від 'neocloud', яка описує бізнес-модель компаній, які продають доступ до цієї ємності.