Задержка travel API: что можно исправить, а что нет

В тикете два слова: «поиск тормозит». Вы открываете трассировку запроса Москва–Дубай туда-обратно, и ваш собственный код занимает тонкую полоску в начале и ещё одну в конце. Всё между ними — ожидание: GDS, двух авиакомпаний по NDC, отельного агрегатора, который отвечает, когда ему вздумается. Задержка travel API — единственная проблема производительности, где профилировщик упорно указывает на код, который вы не писали и не можете задеплоить. Это меняет сам смысл слова «починить», и большая часть усилий команд уходит не в ту половину.
Куда на самом деле уходит задержка travel API при поиске по нескольким поставщикам
Один поиск перелёта в движке бронирования — это не один запрос, а веер. Движок берёт пункты вылета и прилёта, даты и состав пассажиров, собирает запрос в формате каждого источника, который разрешено опрашивать на этом маршруте, отправляет всё разом и ждёт. У каждого поставщика свои часы: сессия GDS, которая была прогрета или нет, шлюз NDC, который переоценивает предложение на стороне авиакомпании, бедбанк, который сам раскидывает запрос по channel manager'ам за ним. Результат, который вы можете показать пользователю, снизу ограничен самым медленным поставщиком, которого вы решили дождаться, а не средним.
Это первое, что нужно усвоить. Добавление поставщика никогда не ускоряет полный поиск. Оно лишь добавляет ещё одну полосу, которая должна освободиться, прежде чем набор результатов будет «готов».
Потом ответы возвращаются, и начинается работа, которая действительно ваша: разобрать большой XML или JSON от каждого поставщика, сопоставить их коды аэропортов, авиакомпаний и тарифов с вашими, схлопнуть один и тот же маршрут, который три источника вернули по трём ценам, применить правила наценки запрашивающего тенанта, пересчитать в рубли, отсортировать. На загруженном маршруте этот этап не бесплатен, и это единственное место, где профилировщик скажет вам что-то, с чем можно работать. Отельную сторону мы разбирали в статье API доступности отелей: клиент для медленных поставщиков; авиационная сторона устроена так же, только кодов для сопоставления больше.
Честная раскладка медленного поиска — три корзины:
- Ожидание поставщика — самый долгий ответ одного поставщика. Вы его не контролируете.
- Ваша постобработка — разбор, сопоставление, дедупликация, расчёт цены, сортировка. Это вы контролируете полностью.
- Доставка — сериализация объединённого результата и отправка в браузер. Обычно мало, иногда сюрприз.
Половина, которую можно починить, и половина, которую пора перестать чинить
Начните со второй корзины, потому что она ваша. Обычные находки в порядке появления: шаг сопоставления, который ищет каждый код аэропорта в базе по одному вместо того, чтобы загрузить таблицу один раз; конвертация валюты, которая дёргает сервис курсов на каждый тариф вместо одного раза на поиск; дедупликация, которая сравнивает каждый маршрут с каждым; сериализация, которая заново обходит граф объектов для каждого тенанта. Ничего экзотического. Всё чинится за спринт, и починка держится.
Управление соединениями — второе место, где выигрыш реальный. Новое TLS-рукопожатие с поставщиком на каждый поиск — чистые накладные расходы; пул тёплых соединений, живущих между поисками, их убирает. Сессии GDS особенно дороги в открытии и дёшевы в повторном использовании, поэтому в том мире управление сессиями — продуктовая функция, а не деталь реализации.
Теперь половина, которую пора оставить в покое. Вы не можете заставить поставщика отвечать быстрее. Можно давить на аккаунт-менеджера, и иногда маршрут переносят на более быстрый узел, но время ответа чужой системы — не переменная в вашем деплое. Команды, которые об этом забывают, тратят кварталы на то, чтобы урезать собственную постобработку с тонкой полоски до ещё более тонкой, пока ожидание поставщика, составлявшее большую часть общего времени, не сдвинулось ни на миллиметр. Профилировщик был с ними честен. Они просто продолжали оптимизировать ту часть, про которую он сказал, что с ней всё в порядке.
Что вы можете сделать с медленным поставщиком — решить, сколько вы готовы его ждать и что видит пользователь, пока вы ждёте. Об этом остальная часть статьи.
Прогрессивный вывод — честный ответ
Если полный набор результатов ограничен самым медленным поставщиком, то единственный способ показать пользователю что-то раньше — перестать ждать полноты. Покажите результаты первого ответившего поставщика. Добавьте результаты следующего, когда они придут. Пусть пользователь начнёт читать, фильтровать и сравнивать, пока отстающие ещё в пути. Это прогрессивный вывод, и это не трюк, а точное отражение того, что реально происходит на сервере.
У него есть последствия, которые лучше спроектировать, чем обнаружить:
- Стабильность сортировки. Список, отсортированный по цене и пересортировывающийся при каждом пришедшем поставщике, сдвинет тариф, по которому пользователь собирался кликнуть. Вставляйте новые результаты на место или копите их и давайте пользователю подтянуть, но не перемешивайте под курсором.
- «Самый дешёвый» — временно. Пока не пришёл последний поставщик, любое утверждение о минимальном тарифе — утверждение только об ответивших. Интерфейс должен показывать это состояние, а не изображать полноту.
- Шаг бронирования обязан перепроверять. Тариф из раннего ответа может исчезнуть к моменту клика. Это верно и для непрогрессивных схем, но прогрессивный вывод расширяет окно. Статья об интеграции бронирования разбирает шаг переоценки; здесь он не опционален.
- Кеширование становится проще, а не сложнее. Результаты по каждому поставщику кешируются со своим временем жизни. Статические тарифы бедбанка могут жить часами, предложение NDC — минуты. Один монолитный объединённый результат навязывает всем самое короткое время жизни.
Форма API, которая это поддерживает, — поиск, сразу возвращающий идентификатор и позволяющий клиенту опрашивать или подписываться на результаты по мере поступления, где каждая пачка помечена источником и флагом, открыт ли ещё поиск. Собственные API авиабилетов и отелей платформы построены вокруг этой формы; страница travel API описывает интерфейсы, а доступ начинается с разговора, а не с самообслуживаемого ключа, так что приходите с вопросами.
Таймауты на поставщика, а не на запрос
Один таймаут на весь поиск — самая частая ошибка в этом слое, и она неверна сразу в обе стороны. Поставьте короткий — медленный, но ценный поставщик будет отрезан в каждом поиске, и вы тихо перестанете продавать его инвентарь. Поставьте длинный — один зависший поставщик возьмёт в заложники все результаты, включая те, что пришли мгновенно.
| Решение | Один таймаут на весь поиск | Бюджет на каждого поставщика |
|---|---|---|
| Один поставщик завис | Все ждут, потом все падают или все отрезаны | Этот поставщик выбывает из данного поиска; остальные показаны |
| Медленный поставщик с хорошими тарифами | Либо всегда исключён, либо всегда тормозит страницу | Получает бюджет длиннее, чем быстрые, и выводится позже |
| Повтор | Повторяется весь веер, удваивая нагрузку на уже ответивших | Повторяется только упавший, если это вообще стоит делать |
| Что видит пользователь | Спиннер, потом всё или ошибка | Результаты, которые заполняются, и состояние «поиск продолжается», которое в итоге закрывается |
| Что видит эксплуатация | «Поиск истёк» без указания, какой источник виноват | Счётчик таймаутов по каждому поставщику, который можно поставить рядом с его именем |
| Настройка | Одно число, о котором спорят вечно | Одно число на поставщика, выведенное из его собственной истории |
В бюджете на поставщика живёт и коммерческая реальность. Поставщик, чьи тарифы редко выбирают, не заслуживает того же терпения, что и тот, кто выигрывает большинство ваших бронирований на маршруте. Нетто-тарифы консолидатора на маршруте Россия–Турция могут стоить ожидания; четвёртый бедбанк, возвращающий те же отели, что и первые три, — нет. Бюджет — продуктовое решение, записанное числом, и задаваться он должен по поставщику, по тенанту, если тенанты различаются, и пересматриваться.
Два уточнения, которые окупаются сами. Во-первых, бюджет — не только максимум: поставщик, ответивший за малую долю бюджета, но пустым набором, — другой сигнал, чем тот, что истёк по таймауту, и считать их нужно раздельно. Во-вторых, повторы живут на уровне поставщика и должны быть редкими. Повторный поиск у поставщика, который только что истёк по таймауту, обычно означает два поиска в его очереди, от чего следующий тоже замедлится, а на тарифицируемых контрактах это стоит денег.
Что измерять, чтобы число что-то значило
«Среднее время поиска» — число, которое докладывают все и которое говорит меньше всего. Оно смешивает закешированный запрос по отелю с международным веером на шесть поставщиков, прячет поставщика-виновника и сдвигается, когда меняется структура трафика, а не когда меняется ваш код. Замените его небольшим набором измерений, каждое из которых отвечает на один вопрос.
- Время до первого результата, на поиск. Это то, что пользователь ощущает как скорость. Оно ограничено вашим самым быстрым поставщиком плюс вашими накладными расходами — той частью, которую вы реально можете улучшить.
- Время до завершения, на поиск, с указанием поставщика, который его закрыл. Если один поставщик всегда последний, это разговор о бюджете, а не инженерная задача.
- Время ответа по каждому поставщику, как распределение, а не среднее, с метками маршрута и времени суток. Поставщик, нормальный утром и медленный вечером, в среднем выглядит нормальным, но таковым не является.
- Таймауты как класс результата, считаемые рядом с «вернул результаты» и «вернул пусто», по поставщику. Таймаут — результат, который вы не получили, и его место на том же графике, что и полученные.
- Ваше собственное время постобработки, отдельно. Растёт оно — у вас проблема в коде. Растёт ожидание поставщика — вам предстоит разговор.
- Поисков на бронирование, по поставщику и по тенанту. Каждый отправленный поиск стоит поставщику мощностей, и большинство контрактов следят за этим соотношением. Починка задержки, удвоившая объём поисков за счёт повторов, ухудшила число, а не улучшила.
Измеряйте и в той точке, где это видит пользователь. Сервер, докладывающий о быстрых поисках, пока браузер ждёт медленную сериализацию, говорит правду и одновременно вводит вас в заблуждение.
Во что это обходится, если сделать неправильно
Очевидная цена — та, что в тикете: пользователь ждёт и уходит. Менее очевидные — коммерческие. Один общий таймаут, выставленный слишком коротким, молча убирает поставщика из ваших результатов в каждом поиске, и вы узнаёте об этом, только когда аккаунт-менеджер спрашивает, почему остановились бронирования. Повтор целых вееров удваивает ваши поиски на бронирование, и поставщики, которые это соотношение измеряют, отвечают троттлингом или счётом. Пересортировка прогрессивного списка под курсором пользователя порождает клики не по тому тарифу, которые превращаются в тикеты поддержки, а иногда в возвраты. А дашборд на средних значениях позволяет всем трём вещам происходить, пока его число остаётся зелёным.
Ничто из этого не решается ускорением вашего кода. Это решается тем, что вы по каждому поставщику решаете, сколько будете ждать, показываете пользователю то, что уже есть, пока ждёте, и измеряете то, что реально сдвинулось. Ускорять код стоит. Просто не в нём была ошибка.