Prijeđi na sadržaj
Blog

Latencija travel API-ja: što možete popraviti, a što ne

Uredništvo Tekravel
Napisano uz pomoć umjetne inteligencije

Tiket kaže „pretraga je spora“. Otvorite trace za povratni let Zagreb–Dubai i vaš vlastiti kod je tanka traka na početku i još jedna na kraju. Sve između je čekanje: na GDS, na dvije zrakoplovne tvrtke preko NDC-a, na hotelski agregator koji odgovara kad mu se prohtije. Latencija travel API-ja jedini je problem performansi kod kojeg profiler uporno pokazuje na kod koji niste napisali i ne možete deployati. To mijenja što znači „popraviti“, i najveći dio truda koji timovi u to ulažu ide u pogrešnu polovicu.

Kamo latencija travel API-ja stvarno odlazi u pretrazi kod više dobavljača

Jedna pretraga leta u sustavu za rezervacije nije jedan zahtjev. To je fan-out. Sustav uzima polazište, odredište, datume i sastav putnika, za svaki izvor koji smije pitati na toj ruti gradi zahtjev u njegovom formatu, šalje sve odjednom i čeka. Svaki dobavljač ima svoj sat: GDS sesiju koja je bila zagrijana ili nije, NDC pristupnik koji upravo preračunava cijene na strani zrakoplovne tvrtke, bedbank koji sam radi fan-out prema channel managerima iza sebe. Odgovor koji možete pokazati korisniku odozdo je ograničen najsporijim dobavljačem kojeg ste odlučili čekati, ne prosjekom.

To je prvo što treba usvojiti. Dodavanje dobavljača nikad ne čini potpunu pretragu bržom. Samo dodaje još jednu traku koja se mora isprazniti prije nego što je cijeli skup rezultata „gotov“.

Zatim se odgovori vrate i počinje posao koji je doista vaš: parsiranje velikog XML-a ili JSON-a po dobavljaču, mapiranje njihovih kodova zračnih luka, zrakoplovnih tvrtki i tarifa na vaše, uklanjanje duplikata iste rute koju su tri izvora vratila po tri cijene, primjena pravila marže za tenanta koji pita, pretvorba valute u eure i sortiranje. Na prometnoj ruti ta faza nije besplatna i to je jedino mjesto gdje će vam profiler reći nešto upotrebljivo. O hotelskoj strani pisali smo u tekstu dizajn klijenta za hotelsku raspoloživost kod sporih dobavljača; strana letova ima isti oblik s više kodova za mapiranje.

Poštena podjela spore pretrage su, dakle, tri košare:

  • Čekanje dobavljača — najdulji pojedinačni odgovor dobavljača. Njega ne kontrolirate.
  • Vaša naknadna obrada — parsiranje, mapiranje, deduplikacija, obračun cijene, sortiranje. Nju kontrolirate u potpunosti.
  • Isporuka — serijalizacija spojenog rezultata i prijenos do preglednika. Obično mala, ponekad iznenađenje.

Polovica koju možete popraviti i polovica koju trebate prestati popravljati

Počnite od druge košare, jer je vaša. Uobičajeni nalazi, redom kojim se obično pojavljuju: korak mapiranja koji traži svaki kod zračne luke u bazi jedan po jedan umjesto da tablicu učita jednom; pretvorba valute koja zove servis tečajeva po tarifi umjesto po pretrazi; rutina za deduplikaciju koja uspoređuje svaku rutu sa svakom drugom; serijalizacija koja ponovno prolazi kroz graf objekata za svakog tenanta. Ništa od toga nije egzotično. Sve se popravlja u jednom sprintu i popravak ostaje.

Upravljanje vezama drugo je mjesto gdje je dobitak stvaran. Novo TLS rukovanje s dobavljačem pri svakoj pretrazi čisti je overhead; pool zagrijanih veza, održavanih živima između pretraga, uklanja ga. GDS sesije posebno su skupe za otvaranje i jeftine za ponovnu upotrebu, zbog čega je upravljanje sesijama u tom svijetu proizvodna funkcija, a ne detalj implementacije.

Sada polovica koju trebate prestati popravljati. Ne možete natjerati dobavljača da odgovara brže. Možete vikati na svog account managera i ponekad se ruta prebaci na brži čvor, ali vrijeme odziva tuđeg sustava nije varijabla u vašem deploymentu. Timovi koji to zaborave provode kvartale brijući vlastitu obradu s trake na tanju traku, dok se čekanje dobavljača, koje je bilo najveći dio ukupnog vremena, nije pomaknulo. Profiler je bio pošten prema njima. Oni su samo nastavili optimizirati dio za koji je rekao da je u redu.

Ono što možete učiniti sa sporim dobavljačem jest odlučiti koliko ste ga spremni čekati i što korisnik vidi dok čekate. O tome je ostatak ovog teksta.

Progresivno prikazivanje je pošten odgovor

Ako je potpun skup rezultata ograničen najsporijim dobavljačem, onda je jedini način da korisniku nešto pokažete ranije da prestanete čekati da skup bude potpun. Prikažite rezultate prvog dobavljača koji odgovori. Dodajte rezultate sljedećeg kad stignu. Pustite korisnika da čita, filtrira i uspoređuje dok su zaostali još na putu. To je progresivno prikazivanje i nije trik; to je točan prikaz onoga što se na poslužitelju doista događa.

Ima posljedice koje vrijedi projektirati umjesto otkrivati:

  • Stabilnost sortiranja. Popis sortiran po cijeni koji se presortira svaki put kad stigne dobavljač pomaknut će tarifu na koju je korisnik htio kliknuti. Umetnite nove rezultate na mjesto, ili ih grupirajte i pustite korisnika da ih povuče, ali ne miješajte ispod kursora.
  • „Najjeftinije“ je privremeno. Dok posljednji dobavljač ne stigne, svaka tvrdnja o najnižoj cijeni tvrdnja je o dobavljačima koji su odgovorili. Sučelje treba to stanje učiniti vidljivim umjesto da glumi potpunost.
  • Korak rezervacije mora ponovno provjeriti. Tarifa prikazana iz ranog odgovora može nestati dok korisnik klikne. To vrijedi i u neprogresivnim dizajnima, ali progresivno prikazivanje širi taj prozor. Tekst o integraciji rezervacije pokriva korak re-price; ovdje nije opcionalan.
  • Keširanje postaje jednostavnije, ne teže. Rezultati po dobavljaču mogu se keširati s trajanjem po dobavljaču. Statične cijene bedbanka mogu živjeti satima; NDC ponuda minutama. Jedan monolitni spojeni rezultat nameće najkraće trajanje svemu.

Oblik API-ja koji to podržava je pretraga koja odmah vraća identifikator i pušta klijenta da anketira ili se pretplati na rezultate kako stižu, pri čemu je svaka grupa označena izvorom i zastavicom koja kaže je li pretraga još otvorena. Vlastiti API-ji platforme za letove i hotele izgrađeni su oko tog oblika; stranica travel API-ja opisuje površine, a pristup počinje razgovorom, a ne samoposlužnim ključem, pa ponesite pitanja.

Timeouti po dobavljaču, ne po zahtjevu

Jedan timeout za cijelu pretragu najčešća je pogreška u ovom sloju i pogrešan je u oba smjera istovremeno. Postavite ga kratko i spor, ali vrijedan dobavljač biva odsječen pri svakoj pretrazi i tiho prestajete prodavati njegov inventar. Postavite ga dugo i jedan zaglavljeni dobavljač drži kao taoca svaki rezultat, uključujući one koji su stigli odmah.

OdlukaJedan timeout za cijelu pretraguProračun po dobavljaču
Jedan dobavljač se zaglaviSvi čekaju, pa svi padnu ili svi budu odsječeniTaj dobavljač ispada iz ove pretrage; ostali se prikazuju
Spor dobavljač s dobrim tarifamaIli uvijek isključen ili uvijek usporava stranicuDobiva dulji proračun od brzih i prikazuje se kasno
Ponovni pokušajPonavlja se cijeli fan-out, duplo opterećenje dobavljača koji su već odgovoriliPonavlja se samo onaj koji je pao, ako uopće vrijedi
Što vidi korisnikSpinner, pa sve ili greškaRezultati koji se pune i stanje „još tražimo“ koje se na kraju zatvori
Što vidi operativa„Pretraga je istekla“, bez naznake koji je izvor to izazvaoBrojač timeouta po dobavljaču koji može stajati pored njegova imena
PodešavanjeJedan broj oko kojeg se raspravlja zauvijekJedan broj po dobavljaču, iz njegove vlastite povijesti

Proračun po dobavljaču ujedno je mjesto gdje živi komercijalna stvarnost. Dobavljač čije se tarife rijetko biraju ne zaslužuje isto strpljenje kao onaj koji na ruti donosi najviše vaših rezervacija. Neto tarife konsolidatora na ruti Zaljev–indijski potkontinent mogu vrijediti čekanja; četvrti bedbank koji vraća iste hotele kao prva tri ne vrijedi. Proračun je proizvodna odluka izražena brojem i treba ga postaviti po dobavljaču, po tenantu ako se tenanti razlikuju, i redovito preispitivati.

Dva poboljšanja koja se sama isplate. Prvo, proračun nije samo maksimum; dobavljač koji se vrati u djeliću svog proračuna ali s praznim skupom drugačiji je signal od onoga koji istekne, i to dvoje treba brojati odvojeno. Drugo, ponovni pokušaji pripadaju razini dobavljača i trebaju biti rijetki. Ponavljanje pretrage kod dobavljača koji je upravo istekao obično znači dvije pretrage u redu na njihovoj strani, što usporava i sljedeću, a kod ugovora s naplatom po pozivu košta novac.

Što mjeriti da bi broj nešto značio

„Prosječno vrijeme pretrage“ broj je koji svi prijavljuju i koji vam govori najmanje. On miješa keširani upit za hotel s međunarodnim fan-outom na šest dobavljača, skriva dobavljača koji je uzrok i pomiče se kada se pomakne mješavina prometa, a ne kada se promijeni vaš kod. Zamijenite ga malim skupom mjerenja od kojih svako odgovara na jedno pitanje.

  1. Vrijeme do prvog rezultata, po pretrazi. To korisnik doživljava kao brzinu. Ograničeno je vašim najbržim dobavljačem plus vašim vlastitim overheadom, što je dio koji doista možete poboljšati.
  2. Vrijeme do završetka, po pretrazi, s identitetom dobavljača koji ju je zatvorio. Ako je jedan dobavljač uvijek posljednji, to je razgovor o proračunu, a ne inženjerski problem.
  3. Vrijeme odziva po dobavljaču, kao raspodjela, ne prosjek, označeno rutom i dobom dana. Dobavljač koji je ujutro u redu, a navečer spor izgleda u redu u prosjeku, a nije.
  4. Timeouti kao klasa rezultata, brojani uz „vratio rezultate“ i „vratio prazno“, po dobavljaču. Timeout je rezultat koji niste dobili i pripada istom grafikonu kao oni koje jeste.
  5. Vaše vlastito vrijeme obrade, odvojeno. Kada ono raste, imate problem u kodu. Kada raste čekanje dobavljača, imate razgovor.
  6. Pretrage po rezervaciji, po dobavljaču i po tenantu. Svaka pretraga koju pošaljete košta dobavljača kapaciteta, a većini ugovora stalo je do tog omjera. Popravak latencije koji preko ponovnih pokušaja udvostruči opseg pretraga pogoršao je broj, ne poboljšao.

Mjerite i na mjestu gdje korisnik to vidi. Poslužitelj koji prijavljuje brze pretrage dok preglednik čeka na spor korak serijalizacije govori istinu i istovremeno vas obmanjuje.

Što vas košta kada ovo pogriješite

Očit trošak je onaj iz tiketa: korisnik koji čeka, pa ode. Manje očiti su komercijalni. Jedan prekratak timeout za cijelu pretragu tiho uklanja dobavljača iz vaših rezultata pri svakoj pretrazi, a saznate tek kada account manager pita zašto su rezervacije stale. Ponavljanje cijelih fan-outova udvostručuje vaše pretrage po rezervaciji, a dobavljači koji mjere taj omjer odgovaraju ograničavanjem ili fakturom. Presortiranje progresivnog popisa ispod kursora korisnika proizvodi pogrešne klikove na pogrešnu tarifu, koji postaju tiketi za podršku, a ponekad i povrati novca. A dashboard zasnovan na prosjecima pušta sve troje da se dogodi dok broj na njemu ostaje zelen.

Ništa od toga ne rješava se bržim kodom. Rješava se tako da po dobavljaču odlučite koliko ćete čekati, korisniku pokažete ono što imate dok čekate i mjerite ono što se doista pomaknulo. Ubrzanja koda vrijedi napraviti. Samo ona nisu bila dio koji je bio pogrešan.

Uredništvo Tekravel

Desk za putničke tehnologije

Desk za putničke tehnologije Tekravela piše za struku: vlasnike agencija, konsolidatore i programere koji ih integriraju. Svaki se članak prije objave provjerava na platformi koju opisuje.