AI фабрика

AI фабрика — это отраслевой термин — популяризированный NVIDIA — для специально спроектированного дата-центра, полностью инженерно разработанного для преобразования электроэнергии и данных в выходные данные обучения и инференса AI, а не для размещения универсальных корпоративных рабочих нагрузок. В отличие от традиционного зала колокейшна, AI фабрика разработана вокруг плотных кластеров GPU — часто десятки тысяч ускорителей, соединенных вместе через NVLink и высокоскоростные сетевые ткани InfiniBand или Ethernet — с плотностью стоек 100-140+ kW, которая переводит прямое охлаждение кристалла или погружное охлаждение из опции в обязательное требование. Закупка электроэнергии, часто в масштабе гигаватта и иногда за счетчиком, рассматривается как ограничение проектирования первого уровня наряду с вычислениями, так как кластеры GPU могут менять нагрузку на десятки мегаватт в течение секунд во время синхронизации обучения. Термин описывает физический объект и его инженерно-техническую конфигурацию, в отличие от 'neocloud', который описывает бизнес-модель компаний, продающих доступ к этой мощности.