Затримка

Затримка — це час, який потрібен даним для подорожі між двома точками мережі, зазвичай вимірюється в мілісекундах як час туди й назад (RTT). Мінімум встановлено фізикою: світло в оптичному волокні поширюється на близько 200 000 км/с, що дає приблизно 1 мс затримки туди й назад на 100 км маршруту волокна, перш ніж додавати затримки обладнання, маршрутизації та черговування. Типові цифри: менше 1-2 мс в межах метро-області, 60-80 мс через Атлантику, 150-250 мс від Південно-Східної Азії до Європи. Затримка керує вибором місцезнаходження дата-центра для торгівлі, ігор, комунікацій у реальному часі та інтерактивного виведення штучного інтелекту та мотивує розгортання edge близько до користувачів. У кластерах штучного інтелекту затримка схід-захід між GPU — вимірюється в мікросекундах через InfiniBand, RoCE або NVLink — обмежує ефективність навчання у масштабі.