Стійко-масштабна система

Стійко-масштабна система — це попередньо інтегрована одиниця обчислень ШІ, де GPU, CPU, мережа, живлення та рідинне охолодження утворюють одну стійку. Усі ці компоненти проектуються, постачаються та експлуатуються як одна стійка, а не як окремі сервери. Найвідомішим прикладом є GB200 NVL72 від NVIDIA: 72 GPU, з'єднані через NVLink в одній стійці, які споживають приблизно 120-132 кВт, що значно перевищує 5-10 кВт звичайної корпоративної стійки. Оскільки стійка є одиницею покупки, дата-центри повинні забезпечити рідинне охолодження безпосередньо до кристалу, розподіл живлення шинопроводом цієї щільності та підлоги, здатні витримати вагу, тому об'єкти зараз маркуються як «готові до стійко-масштабної системи». Платформи наступного покоління, такі як Vera Rubin, ще більше збільшують щільність, тому нові будівлі штучного інтелекту проектуються навколо рідинного охолодження з етапу проектування.