Přeskočit na obsah
Blog

Latence travel API: co opravíte a co ne

Redakce Tekravel
Napsáno s pomocí AI

Ticket říká „vyhledávání je pomalé“. Otevřete trace pro zpáteční let Praha–Dubaj a váš vlastní kód je tenký proužek na začátku a další na konci. Všechno mezi tím je čekání: na GDS, na dvě aerolinky přes NDC, na hotelového agregátora, který odpoví, kdy se mu zachce. Latence travel API je jediný výkonnostní problém, u kterého profiler pořád ukazuje na kód, který jste nenapsali a nemůžete nasadit. To mění, co znamená „opravit to“, a většina úsilí, které na to týmy vynakládají, jde do špatné poloviny.

Kam latence travel API při vyhledávání u více dodavatelů doopravdy mizí

Jedno vyhledání letu v rezervačním systému není jeden požadavek. Je to fan-out. Engine vezme odlet, cíl, data a složení cestujících, pro každý zdroj, který smí pro danou trasu oslovit, sestaví požadavek v jeho formátu, všechny odešle najednou a pak čeká. Každý dodavatel má vlastní hodiny: GDS session, která byla nebo nebyla zahřátá, NDC brána, která právě na straně aerolinky přeceňuje, bedbanka, která sama dělá fan-out na channel managery za sebou. Odpověď, kterou můžete uživateli ukázat, je zdola ohraničená nejpomalejším dodavatelem, na kterého jste se rozhodli čekat, ne průměrem.

To je první věc, kterou je třeba si zažít. Přidání dodavatele nikdy neudělá kompletní vyhledávání rychlejším. Jen přidá další pruh, který se musí uvolnit, než je celá sada výsledků „hotová“.

Pak přijdou odpovědi a začne práce, která je skutečně vaše: parsování velkého XML nebo JSON za každého dodavatele, mapování jejich kódů letišť, aerolinek a tarifů na vaše, deduplikace stejné itinerace, kterou tři zdroje vrátily za tři ceny, uplatnění pravidel marže pro tenanta, který se ptá, převod měny na koruny nebo eura a řazení. Na vytížené trase tahle fáze není zadarmo a je to jediné místo, kde vám profiler řekne něco, s čím se dá pracovat. O hotelové straně jsme psali v textu návrh klienta hotelové dostupnosti pro pomalé dodavatele; letová strana má stejný tvar, jen víc kódů k mapování.

Poctivý rozpad pomalého vyhledávání jsou tedy tři koše:

  • Čekání na dodavatele — nejdelší jednotlivá odpověď dodavatele. Tu neřídíte.
  • Vaše dodatečné zpracování — parsování, mapování, deduplikace, nacenění, řazení. To řídíte celé.
  • Doručení — serializace sloučeného výsledku a jeho dopravení do prohlížeče. Obvykle malé, občas překvapení.

Polovina, kterou opravíte, a polovina, kterou byste měli přestat opravovat

Začněte druhým košem, protože je váš. Obvyklé nálezy v pořadí, v jakém se obvykle objevují: krok mapování, který hledá každý kód letiště v databázi po jednom místo jednoho načtení tabulky; převod měny, který volá kurzovou službu za každý tarif místo jednou za vyhledání; deduplikace, která porovnává každou itineraci s každou jinou; serializace, která znovu prochází graf objektů pro každého tenanta. Nic z toho není exotické. Všechno se dá opravit za jeden sprint a oprava vydrží.

Druhé místo, kde je zisk skutečný, je správa spojení. Nový TLS handshake k dodavateli při každém vyhledání je čistá režie; pool zahřátých spojení, udržovaných naživu mezi vyhledáními, ji odstraní. Zvlášť GDS session jsou drahé na otevření a levné na opakované použití, a proto je správa session v tom světě produktová funkce, ne implementační detail.

A teď polovina, kterou přestaňte opravovat. Dodavatele nepřimějete odpovídat rychleji. Můžete křičet na account managera a občas se trasa přesune na rychlejší uzel, ale doba odezvy cizího systému není proměnná ve vašem deploymentu. Týmy, které na to zapomenou, stráví čtvrtletí ořezáváním vlastního zpracování z proužku na tenčí proužek, zatímco čekání na dodavatele, které tvořilo většinu celku, se nepohnulo. Profiler k nim byl upřímný. Jen dál optimalizovali část, o které řekl, že je v pořádku.

Co s pomalým dodavatelem udělat můžete, je rozhodnout, jak dlouho jste ochotni na něj čekat, a co uživatel mezitím vidí. A o tom je zbytek tohoto textu.

Progresivní vykreslování je poctivá odpověď

Pokud je kompletní sada výsledků ohraničená nejpomalejším dodavatelem, pak jediný způsob, jak uživateli něco ukázat dřív, je přestat čekat, až bude sada kompletní. Ukažte výsledky od prvního dodavatele, který odpoví. Přidejte výsledky dalšího, když dorazí. Nechte uživatele číst, filtrovat a porovnávat, zatímco opozdilci jsou ještě na cestě. To je progresivní vykreslování a není to trik; je to přesný obraz toho, co se na serveru skutečně děje.

Má důsledky, které stojí za to navrhnout, ne objevit:

  • Stabilita řazení. Seznam seřazený podle ceny, který se přeřadí pokaždé, když dorazí dodavatel, posune tarif, na který se uživatel chystal kliknout. Vkládejte nové výsledky na místo, nebo je dávkujte a nechte uživatele si je stáhnout, ale nepřeskupujte pod kurzorem.
  • „Nejlevnější“ je předběžné. Dokud nedorazí poslední dodavatel, každé tvrzení o nejnižší ceně je tvrzením o dodavatelích, kteří odpověděli. Rozhraní má tento stav ukazovat, ne předstírat úplnost.
  • Rezervační krok musí znovu ověřit. Tarif zobrazený z rané odpovědi může být pryč, než uživatel klikne. To platí i v neprogresivních návrzích, ale progresivní vykreslování to okno zvětšuje. Text o integraci rezervace pokrývá krok re-price; tady není volitelný.
  • Cachování se zjednoduší, ne zkomplikuje. Výsledky per dodavatel lze cachovat s životností per dodavatel. Statické ceny bedbanky vydrží hodiny; NDC nabídka minuty. Jeden monolitický sloučený výsledek vnutí nejkratší životnost všemu.

Tvar API, který to podporuje, je vyhledávání, které okamžitě vrátí identifikátor a nechá klienta pollovat nebo se přihlásit k odběru výsledků, jak přicházejí, s každou dávkou označenou zdrojem a příznakem, zda je vyhledávání ještě otevřené. Vlastní letová a hotelová API platformy jsou postavená kolem tohoto tvaru; stránka travel API popisuje jednotlivé plochy a přístup začíná rozhovorem, ne samoobslužným klíčem, takže si přineste otázky.

Timeouty per dodavatel, ne per požadavek

Jeden timeout na celé vyhledávání je nejčastější chyba v této vrstvě a je špatně v obou směrech zároveň. Nastavte ho krátký a pomalý, ale hodnotný dodavatel je odříznut při každém vyhledání a vy tiše přestanete prodávat jeho inventář. Nastavte ho dlouhý a jeden visící dodavatel drží jako rukojmí všechny výsledky, včetně těch, které dorazily okamžitě.

RozhodnutíJeden timeout na celé vyhledáváníRozpočet per dodavatel
Jeden dodavatel visíVšichni čekají, pak všichni selžou nebo jsou všichni odříznutiTen dodavatel z tohoto vyhledání vypadne; ostatní se zobrazí
Pomalý dodavatel s dobrými tarifyBuď vždy vyloučen, nebo vždy zpomaluje stránkuDostane delší rozpočet než rychlí a vykreslí se později
OpakováníOpakuje se celý fan-out, dvojnásobná zátěž na dodavatele, kteří už odpověděliOpakuje se jen ten, který selhal, pokud to vůbec stojí za to
Co vidí uživatelSpinner, pak všechno, nebo chybaVýsledky se plní a stav „stále hledáme“, který se nakonec zavře
Co vidí provoz„Vyhledávání vypršelo“ bez údaje, který zdroj to způsobilPočet timeoutů per dodavatel, který lze postavit vedle jeho jména
LaděníJedno číslo, o kterém se hádá donekonečnaJedno číslo per dodavatel, odvozené z jeho vlastní historie

Rozpočet per dodavatel je také místo, kde žije obchodní realita. Dodavatel, jehož tarify se vybírají zřídka, si nezaslouží stejnou trpělivost jako ten, který na trase vyhrává většinu vašich rezervací. Netto tarify konsolidátora na trase Perský záliv–indický subkontinent mohou stát za čekání; čtvrtá bedbanka vracející stejné hotely jako první tři ne. Rozpočet je produktové rozhodnutí vyjádřené číslem a má se nastavovat per dodavatel, per tenant, pokud se tenanti liší, a pravidelně revidovat.

Dvě zpřesnění, která se sama zaplatí. Zaprvé, rozpočet není jen maximum; dodavatel, který se vrátí ve zlomku svého rozpočtu, ale s prázdnou sadou, je jiný signál než ten, který vyprší, a oba se mají počítat zvlášť. Zadruhé, opakování patří na úroveň dodavatele a má být vzácné. Opakovat vyhledání u dodavatele, který právě vypršel, obvykle znamená dvě vyhledání ve frontě na jeho straně, což zpomalí i to další, a u měřených smluv to stojí peníze.

Co měřit, aby číslo něco znamenalo

„Průměrná doba vyhledání“ je číslo, které všichni reportují a které vám řekne nejméně. Míchá cachovaný hotelový dotaz s mezinárodním fan-outem na šest dodavatelů, skrývá dodavatele, který je příčinou, a hýbe se, když se změní mix provozu, ne když se změní váš kód. Nahraďte ho malou sadou měření, z nichž každé odpovídá na jednu otázku.

  1. Čas do prvního výsledku, per vyhledání. To uživatel vnímá jako rychlost. Je ohraničený vaším nejrychlejším dodavatelem plus vaší vlastní režií, což je část, kterou skutečně můžete zlepšit.
  2. Čas do dokončení, per vyhledání, s identitou dodavatele, který ho uzavřel. Pokud je jeden dodavatel vždy poslední, je to rozhovor o rozpočtu, ne inženýrský problém.
  3. Doba odezvy per dodavatel, jako rozdělení, ne průměr, označená trasou a denní dobou. Dodavatel, který je ráno v pořádku a večer pomalý, vypadá v průměru v pořádku a není.
  4. Timeouty jako třída výsledku, počítané vedle „vrátil výsledky“ a „vrátil prázdno“, per dodavatel. Timeout je výsledek, který jste nedostali, a patří do stejného grafu jako ty, které jste dostali.
  5. Váš vlastní čas zpracování, zvlášť. Když roste tenhle, máte problém v kódu. Když roste čekání na dodavatele, máte téma k rozhovoru.
  6. Vyhledání na rezervaci, per dodavatel a per tenant. Každé vyhledání, které odešlete, stojí dodavatele kapacitu a většině smluv na tom poměru záleží. Oprava latence, která přes opakování zdvojnásobí objem vyhledání, číslo zhoršila, ne zlepšila.

Měřte také v místě, kde to uživatel vidí. Server hlásící rychlá vyhledání, zatímco prohlížeč čeká na pomalý krok serializace, říká pravdu a zároveň vás klame.

Co vás to stojí, když to uděláte špatně

Zřejmý náklad je ten z ticketu: uživatel, který čeká a pak odejde. Ty méně zřejmé jsou obchodní. Jeden příliš krátký timeout na celé vyhledávání tiše odstraní dodavatele z vašich výsledků při každém vyhledání a dozvíte se to, až když se account manager zeptá, proč přestaly chodit rezervace. Opakování celých fan-outů zdvojnásobí vyhledání na rezervaci a dodavatelé, kteří tento poměr měří, reagují throttlingem nebo fakturou. Přeřazení progresivního seznamu pod kurzorem uživatele vede k překlikům na špatný tarif, ze kterých jsou tickety na podporu a někdy refundace. A dashboard postavený na průměrech nechá všechny tři věci stát, zatímco jeho číslo zůstává zelené.

Nic z toho se nevyřeší zrychlením vašeho kódu. Vyřeší se tím, že per dodavatel rozhodnete, jak dlouho budete čekat, že uživateli ukážete, co máte, zatímco čekáte, a že měříte to, co se skutečně pohnulo. Zrychlení kódu stojí za to udělat. Jen to není ta část, která byla špatně.

Redakce Tekravel

Rubrika cestovních technologií

Rubrika cestovních technologií Tekravel píše pro obor: majitele agentur, konsolidátory a vývojáře, kteří je integrují. Každý článek je před vydáním ověřen na platformě, kterou popisuje.