ความล่าช้า

ความล่าช้า (Latency) คือเวลาที่ใช้ในการส่งข้อมูลระหว่างสองจุดบนเครือข่าย โดยทั่วไววัดเป็นมิลลิวินาทีเป็น round-trip time (RTT) พื้นฐานถูกกำหนดโดยฟิสิกส์: แสงในเส้นใยนำแสงเดินทางด้วยความเร็วประมาณ 200,000 km/s ซึ่งให้ความล่าช้า round-trip ประมาณ 1 ms ต่อ 100 km ของเส้นทางเส้นใย ก่อนการเพิ่มความล่าช้าจากอุปกรณ์ การกำหนดเส้นทาง และการจัดเรียงคิว ตัวเลขทั่วไป: น้อยกว่า 1-2 ms ภายในพื้นที่เมืองหนึ่ง 60-80 ms ข้ามมหาสมุทรแอตแลนติก 150-250 ms จาก Southeast Asia ไปยังยุโรป ความล่าช้าจูงใจการเลือกตำแหน่งศูนย์ข้อมูลสำหรับการซื้อขาย เกม การสื่อสารแบบเรียลไทม์ และการอนุมานแบบเรียลไทม์ AI โต้ตอบ และจูงใจการ deployments ที่อยู่ใกล้ผู้ใช้ ภายในคลัสเตอร์ AI ความล่าช้า east-west ระหว่าง GPUs — วัดเป็นไมโครวินาทีผ่าน InfiniBand RoCE หรือ NVLink — จำกัดประสิทธิภาพการฝึกอบรมในระดับ