โรงงาน AI

โรงงาน AI เป็นคำย่อของอุตสาหกรรม — ได้รับความนิยมจาก Nvidia — สำหรับศูนย์ข้อมูลที่สร้างขึ้นตามวัตถุประสงค์ซึ่งสร้างวิศวกรรมแบบ end-to-end เพื่อเปลี่ยนไฟฟ้าและข้อมูลเป็นผลลัพธ์การฝึก AI และการอนุมาน แทนที่จะเป็นการโฮสต์เวิร์กโลดระดับสถานประกอบการทั่วไป ต่างจากห้องศูนย์ข้อมูล colocation แบบดั้งเดิม โรงงาน AI ได้รับการออกแบบรอบคลัสเตอร์ GPU ที่หนาแน่น — มักมีตัวเร่งความเร็วจำนวนหลายหมื่น เชื่อมต่อกันผ่าน NVLink และผ้าการถ่ายโอนข้อมูล InfiniBand หรือ Ethernet ความเร็วสูง — โดยมีความหนาแน่นของแร็ก 100-140+ kW ที่ผลักดัน direct-to-chip หรือการระบายความร้อนด้วยการแช่จากตัวเลือกไปเป็นข้อกำหนดเริ่มต้น การจัดหาพลังงาน บ่อยครั้ง gigawatt-scale และบางครั้ง behind-the-meter ถูกมองว่าเป็นข้อจำกัดการออกแบบลำดับแรกควบคู่ไปกับ compute เนื่องจากคลัสเตอร์ GPU สามารถเปลี่ยนโหลดได้หลายสิบเมกะวัตต์ในวินาทีระหว่างการซิงโครไนซ์การฝึก คำศัพท์นี้อธิบายสิ่งอำนวยความสะดวกทางกายภาพและวิศวกรรมของสิ่งนั้น โดยแยกออกจาก 'neocloud' ซึ่งอธิบายโมเดลทางธุรกิจของบริษัทที่ขายสิทธิ์เข้าถึงความจุดังกล่าว