レイテンシー

レイテンシーはネットワーク上の2点間のデータ伝送時間で、通常は往復時間（RTT）をミリ秒で測定します。下限は物理学によって決定されます。光ファイバー内の光の速度は約200,000 km/sで、ファイバールート100 kmあたり約1 msの往復レイテンシーが必要で、これに機器、ルーティング、キューイング遅延が加わります。典型的な数値は、メトロエリア内で1-2 ms未満、大西洋横断で60-80 ms、東南アジアからヨーロッパは150-250 msです。レイテンシーはトレーディング、ゲーミング、リアルタイム通信、インタラクティブAI推論向けのデータセンターサイト選定を左右し、ユーザーに近いエッジデプロイメントを動機づけます。AIクラスター内では、GPU間の東西レイテンシー（InfiniBand、RoCE、NVLink上でマイクロ秒で測定）が大規模での学習効率を制約します。