Hopp til innholdet
Blogg

Latens i travel API: hva du kan fikse, og hva du ikke kan

Tekravel Redaksjon
Skrevet med hjelp av AI

Saken sier «søket er tregt». Du åpner tracen for en tur-retur Oslo–Dubai, og din egen kode er en tynn stripe i starten og en til på slutten. Alt imellom er venting: på et GDS, på to flyselskaper via NDC, på en hotellaggregator som svarer når den føler for det. Latens i travel API er det eneste ytelsesproblemet der profileren stadig peker på kode du ikke skrev og ikke kan deploye. Det endrer hva «å fikse det» betyr, og det meste av innsatsen team legger i det går til feil halvdel.

Hvor latensen i et travel API faktisk går ved søk hos flere leverandører

Ett enkelt flysøk i en bookingmotor er ikke én forespørsel. Det er en fan-out. Motoren tar avreise, destinasjon, datoer og passasjermiks, bygger en leverandørspesifikk forespørsel for hver kilde den har lov til å spørre på den ruten, sender alle samtidig og venter. Hver leverandør har sin egen klokke: en GDS-sesjon som var varm eller ikke var det, en NDC-gateway som reprisser på flyselskapets side, en bedbank som selv gjør fan-out mot channel managers bak seg. Svaret du kan vise brukeren er nedad begrenset av den tregeste leverandøren du valgte å vente på, ikke av gjennomsnittet.

Det er det første å ta inn over seg. Å legge til en leverandør gjør aldri et komplett søk raskere. Det legger bare til enda en fil som må tømmes før hele resultatsettet er «ferdig».

Så kommer svarene tilbake, og arbeidet du faktisk eier begynner: parsing av en stor XML- eller JSON-payload per leverandør, mapping av deres flyplass-, flyselskaps- og priskoder til dine, deduplisering av den samme reiseruten som tre kilder returnerte til tre priser, påslagsregler for den tenanten som spør, valutaomregning til kroner og sortering. På en travel rute er den fasen ikke gratis, og det er det ene stedet der en profiler forteller deg noe du kan gjøre noe med. Vi skrev om hotellsiden av dette i å designe en klient for hotelltilgjengelighet mot trege leverandører; flysiden har samme form med flere koder å mappe.

Den ærlige oppdelingen av et tregt søk er altså tre bøtter:

  • Leverandørventing — det lengste enkeltstående leverandørsvaret. Den styrer du ikke.
  • Din etterbehandling — parse, map, dedupliser, priss, sorter. Den styrer du helt.
  • Levering — serialisering av det sammenslåtte resultatet og frakt til nettleseren. Vanligvis liten, av og til overraskelsen.

Halvdelen du kan fikse, og halvdelen du bør slutte å prøve på

Start med den andre bøtta, for den er din. De vanlige funnene, i den rekkefølgen de pleier å dukke opp: et mapping-steg som slår opp hver flyplasskode i databasen én om gangen i stedet for å laste tabellen én gang; en valutaomregning som kaller kurstjenesten per pris i stedet for per søk; en dedupliseringsrutine som sammenligner hver reiserute med hver annen; serialisering som går gjennom objektgrafen på nytt for hver tenant. Ingenting av dette er eksotisk. Alt kan fikses på en sprint, og fiksen varer.

Tilkoblingshåndtering er det andre stedet der gevinsten er reell. Et nytt TLS-handshake mot en leverandør ved hvert søk er ren overhead; en pool av varme tilkoblinger, holdt i live på tvers av søk, fjerner den. GDS-sesjoner spesielt er dyre å åpne og billige å gjenbruke, og det er derfor sesjonshåndtering er en produktfunksjon i den verdenen og ikke en implementasjonsdetalj.

Så til halvdelen du skal slutte å fikse. Du kan ikke få en leverandør til å svare raskere. Du kan rope til din account manager, og noen ganger flyttes en rute til en raskere node, men responstiden i noen andres system er ikke en variabel i ditt deployment. Team som glemmer det bruker kvartaler på å høvle sin egen etterbehandling fra en stripe til en tynnere stripe, mens leverandørventingen, som var mesteparten av totalen, ikke har rikket seg. Profileren var ærlig med dem. De fortsatte bare å optimalisere delen den sa var grei.

Det du kan gjøre med en treg leverandør er å bestemme hvor lenge du er villig til å vente på den, og hva brukeren ser i mellomtiden. Det er resten av denne teksten.

Progressiv rendering er det ærlige svaret

Hvis det komplette resultatsettet er begrenset av den tregeste leverandøren, er den eneste måten å vise brukeren noe tidligere på å slutte å vente på at settet blir komplett. Vis resultater fra den første leverandøren som svarer. Legg til neste leverandørs resultater når de lander. La brukeren begynne å lese, filtrere og sammenligne mens etternølerne fortsatt er underveis. Dette er progressiv rendering, og det er ikke et triks; det er en nøyaktig fremstilling av hva som faktisk skjer på serveren.

Det har konsekvenser som er verdt å designe for fremfor å oppdage:

  • Sorteringsstabilitet. En liste sortert på pris som sorteres om hver gang en leverandør lander, flytter prisen brukeren var i ferd med å klikke på. Sett inn nye resultater på plass, eller samle dem i batcher og la brukeren hente dem inn, men ikke stokk om under markøren.
  • «Billigst» er foreløpig. Inntil siste leverandør er inne, er enhver påstand om laveste pris en påstand om leverandørene som har svart. Grensesnittet bør gjøre den tilstanden synlig fremfor å late som det er komplett.
  • Bookingsteget må sjekke på nytt. En pris vist fra et tidlig svar kan være borte når brukeren klikker. Det gjelder også i ikke-progressive design, men progressiv rendering gjør vinduet større. Teksten om bookingintegrasjon dekker re-price-steget; det er ikke valgfritt her.
  • Caching blir enklere, ikke vanskeligere. Resultater per leverandør kan caches med levetid per leverandør. En bedbanks statiske priser kan leve i timer; et NDC-tilbud i minutter. Ett monolittisk sammenslått resultat tvinger den korteste levetiden på alt.

API-formen som støtter dette er et søk som returnerer en identifikator umiddelbart og lar klienten polle eller abonnere på resultater etter hvert som de kommer, med hver batch merket med kilde og et flagg som sier om søket fortsatt er åpent. Plattformens egne fly- og hotell-API-er er bygget rundt den formen; siden om travel API-er beskriver flatene, og tilgang starter som en samtale heller enn en selvbetjent nøkkel, så ta med spørsmålene.

Timeouts per leverandør, ikke per forespørsel

Én timeout for hele søket er den vanligste feilen i dette laget, og den er feil i begge retninger samtidig. Sett den kort, og en treg, men verdifull leverandør kuttes ved hvert søk, og du slutter stille å selge lageret dens. Sett den lang, og én hengende leverandør holder alle resultater som gisler, inkludert de som kom med en gang.

BeslutningÉn timeout for hele søketEt budsjett per leverandør
En leverandør hengerAlle venter, så feiler alle eller alle kuttesDen leverandøren droppes fra dette søket; resten vises
En treg leverandør med gode priserEnten alltid utelatt eller alltid med på å sinke sidenFår lengre budsjett enn de raske, og rendres sent
Nytt forsøkHele fan-outen gjentas, dobbel last på leverandører som allerede svarteBare den som feilet gjentas, hvis det i det hele tatt er verdt det
Hva brukeren serSpinner, så alt eller en feilResultater som fylles på, og en «søker fortsatt»-tilstand som til slutt lukkes
Hva driften ser«Søket gikk ut på tid», uten angivelse av hvilken kilde som forårsaket detEt timeout-antall per leverandør som kan settes ved siden av leverandørens navn
JusteringEtt tall som det krangles om i all evighetEtt tall per leverandør, satt ut fra den leverandørens egen historikk

Budsjettet per leverandør er også der den kommersielle virkeligheten bor. En leverandør hvis priser sjelden velges fortjener ikke samme tålmodighet som den som vinner de fleste av bookingene dine på en rute. En konsolidators nettopriser på en rute Gulfen–det indiske subkontinentet kan være verdt å vente på; en fjerde bedbank som returnerer de samme hotellene som de tre første er det ikke. Budsjettet er en produktbeslutning uttrykt som et tall, og det bør settes per leverandør, per tenant hvis tenantene er ulike, og revideres.

To forbedringer som betaler seg selv. For det første er et budsjett ikke bare et maksimum; en leverandør som svarer på en brøkdel av budsjettet sitt, men med et tomt sett, er et annet signal enn en som går ut på tid, og de to bør telles hver for seg. For det andre hører nye forsøk hjemme på leverandørnivå og bør være sjeldne. Å gjenta et søk mot en leverandør som nettopp gikk ut på tid betyr som regel to søk i kø på deres side, noe som gjør det neste tregere også, og på forbruksbaserte kontrakter koster det penger.

Hva som må måles for at tallet skal bety noe

«Gjennomsnittlig søketid» er tallet alle rapporterer og det som forteller deg minst. Det blander et cachet hotelloppslag med en internasjonal fan-out mot seks leverandører, det skjuler leverandøren som er årsaken, og det beveger seg når trafikkmiksen beveger seg, ikke når koden din gjør det. Erstatt det med et lite sett målinger som hver svarer på ett spørsmål.

  1. Tid til første resultat, per søk. Dette er det brukeren opplever som fart. Det er begrenset av din raskeste leverandør pluss din egen overhead, som er delen du faktisk kan forbedre.
  2. Tid til komplett, per søk, med identiteten til leverandøren som lukket det. Hvis én leverandør alltid er sist, er det en budsjettsamtale, ikke et ingeniørproblem.
  3. Responstid per leverandør, som en fordeling, ikke et gjennomsnitt, merket med rute og tid på døgnet. En leverandør som er grei om morgenen og treg om kvelden ser grei ut i gjennomsnitt og er det ikke.
  4. Timeouts som en resultatklasse, telt ved siden av «returnerte resultater» og «returnerte tomt», per leverandør. En timeout er et resultat du ikke fikk, og det hører hjemme i samme graf som dem du fikk.
  5. Din egen etterbehandlingstid, separat. Når den vokser, har du et kodeproblem. Når leverandørventingen vokser, har du en samtale å ta.
  6. Søk per booking, per leverandør og per tenant. Hvert søk du sender koster leverandøren kapasitet, og de fleste kontrakter bryr seg om forholdet. En latensfiks som dobler søkevolumet ditt gjennom nye forsøk har gjort tallet verre, ikke bedre.

Mål også på punktet der brukeren ser det. En server som rapporterer raske søk mens nettleseren venter på et tregt serialiseringssteg, forteller sannheten og villeder deg på samme tid.

Hva det koster deg når du får dette feil

Den åpenbare kostnaden er den i saken: en bruker som venter og så forlater siden. De mindre åpenbare er kommersielle. Én søkeomfattende timeout satt for kort fjerner stille en leverandør fra resultatene dine ved hvert søk, og du finner det først ut når account manageren spør hvorfor bookingene stoppet. Å gjenta hele fan-outs dobler søkene dine per booking, og leverandører som måler det forholdet svarer med å strupe deg eller fakturere deg. Omsortering av en progressiv liste under brukerens markør gir feilklikk på feil pris, som blir supportsaker og noen ganger refusjoner. Og et dashboard basert på gjennomsnitt lar alle tre skje mens tallet på det forblir grønt.

Ingenting av dette løses ved å gjøre koden din raskere. Det løses ved å bestemme, per leverandør, hvor lenge du vil vente, vise brukeren det du har mens du venter, og måle det som faktisk flyttet seg. Kodeoptimaliseringene er verdt å gjøre. De er bare ikke delen som var feil.

Tekravel Redaksjon

Desk for reiseteknologi

Tekravels desk for reiseteknologi skriver for bransjen: byråeiere, konsolidatorer og utviklerne som integrerer dem. Hver artikkel kontrolleres mot plattformen den beskriver før den publiseres.