延迟

延迟是数据在网络上的两点之间传播所需的时间，通常以毫秒为单位衡量为往返时间（RTT）。下限由物理决定：光在光纤中的传播速度约为每秒200,000公里，每100公里光纤路由产生约1毫秒的往返延迟，再加上设备、路由和排队延迟。典型数据：城域内小于1-2毫秒，跨大西洋60-80毫秒，从东南亚到欧洲150-250毫秒。延迟驱动交易、游戏、实时通信和交互式AI推理的数据中心选址，并激励靠近用户的边缘部署。在AI集群内，GPU之间的东西延迟——在InfiniBand、RoCE或NVLink上以微秒测量——制约大规模训练效率。