AI-фабрика

AI-фабрика — це галузевий термін для дата-центра, спроектованого від кінця до кінця під тренування та інференцію AI. Термін популяризувала NVIDIA: такий об'єкт перетворює електроенергію та дані на результати AI, а не розміщує загальноцільові корпоративні робочі навантаження. На відміну від традиційної залу колокейшену, AI-фабрика спроектована навколо щільних GPU-кластерів — часто десятків тисяч прискорювачів, з'єднаних разом через NVLink та високошвидкісні InfiniBand або Ethernet-матерії — з щільністю стійок 100-140+ kW, які змушують охолодження від чіпа до рідини перейти з опції до вимоги за замовчуванням. Закупівля електроенергії, часто гігават-масштабу і іноді позаду лічильника, розглядається як обмеження першого порядку поряд з обчисленнями, оскільки GPU-кластери можуть змінити навантаження на десятки мегават за секунди під час синхронізації тренування. Цей термін описує фізичний об'єкт та його інженерію, відмінну від 'neocloud', яка описує бізнес-модель компаній, які продають доступ до цієї ємності.