Độ trễ

Độ trễ là thời gian cần để dữ liệu di chuyển giữa hai điểm trên mạng, thường được đo bằng mili giây dưới dạng thời gian đi về (RTT). Mức sàn được đặt bởi vật lý: ánh sáng trong sợi quang học di chuyển ở khoảng 200.000 km/s, mang lại khoảng 1 ms độ trễ RTT mỗi 100 km tuyến đường sợi, trước khi thêm độ trễ thiết bị, định tuyến và xếp hàng. Các con số điển hình: dưới 1-2 ms trong một khu vực metro, 60-80 ms trên Đại Tây Dương, 150-250 ms từ Đông Nam Á đến Châu Âu. Độ trễ thúc đẩy lựa chọn trang web trung tâm dữ liệu cho giao dịch, trò chơi, truyền thông thực tế và suy luận AI tương tác, và thúc đẩy triển khai edge gần người dùng. Trong các cụm AI, độ trễ đông-tây giữa GPU — được đo bằng microsecond trên InfiniBand, RoCE hoặc NVLink — hạn chế hiệu suất huấn luyện ở quy mô lớn.