Latența API de călătorii: ce puteți repara și ce nu

Tichetul spune "căutarea e lentă". Deschideți trace-ul unui dus-întors București–Dubai și codul vostru e o fâșie subțire la început și încă una la sfârșit. Tot ce e între ele e așteptare: după un GDS, după două companii NDC, după un agregator hotelier care răspunde când are chef. Latența API de călătorii este singura problemă de performanță în care profiler-ul arată mereu spre cod pe care nu l-ați scris și nu îl puteți pune în producție. Asta schimbă ce înseamnă "a repara", iar cea mai mare parte a efortului pe care echipele îl depun se duce în jumătatea greșită.
Unde se duce de fapt latența API de călătorii într-o căutare la mai mulți furnizori
O singură căutare de zbor pe un motor de rezervări nu e o cerere. E un fan-out. Motorul ia originea, destinația, datele și componența pasagerilor, construiește o cerere specifică fiecărei surse pe care are voie să o interogheze pe ruta respectivă, le trimite pe toate deodată și apoi așteaptă. Fiecare furnizor are propriul ceas: o sesiune GDS care era caldă sau nu, un gateway NDC care reface prețul de partea companiei aeriene, un bedbank care la rândul lui face fan-out către channel manager-ii din spatele lui. Răspunsul pe care îl puteți arăta utilizatorului este mărginit de jos de furnizorul cel mai lent pe care ați ales să îl așteptați, nu de medie.
Acesta e primul lucru de interiorizat. Adăugarea unui furnizor nu face niciodată o căutare completă mai rapidă. Adaugă doar încă o bandă care trebuie să se elibereze înainte ca întregul set de rezultate să fie "gata".
Apoi răspunsurile se întorc și începe munca pe care o dețineți cu adevărat: parsarea unui payload XML sau JSON mare per furnizor, maparea codurilor lor de aeroport, companie și tarif pe ale voastre, deduplicarea aceluiași itinerar pe care trei surse l-au returnat la trei prețuri, aplicarea regulilor de adaos ale tenant-ului care întreabă, conversia valutară și sortarea. Pe o rută aglomerată faza asta nu e gratuită și e singurul loc în care un profiler vă spune ceva pe care puteți acționa. Despre partea hotelieră am scris în cum proiectați un client de disponibilitate hotelieră pentru furnizori lenți; partea de zboruri are aceeași formă cu mai multe coduri de mapat.
Așadar descompunerea onestă a unei căutări lente înseamnă trei cutii:
- Așteptarea furnizorului — cel mai lung răspuns individual al unui furnizor. Nu îl controlați.
- Post-procesarea voastră — parsare, mapare, dedup, preț, sortare. O controlați în întregime.
- Livrarea — serializarea rezultatului îmbinat și trimiterea lui la browser. De obicei mică, din când în când surpriza.
Jumătatea pe care o puteți repara și jumătatea pe care ar trebui să încetați să o reparați
Începeți cu a doua cutie, pentru că e a voastră. Descoperirile obișnuite, în ordinea în care tind să apară: un pas de mapare care caută fiecare cod de aeroport în baza de date unul câte unul în loc să încarce tabela o singură dată; o conversie valutară care apelează un serviciu de curs per tarif în loc de per căutare; o rutină de dedup care compară fiecare itinerar cu toate celelalte; o serializare care parcurge din nou graful de obiecte pentru fiecare tenant. Nimic din toate astea nu e exotic. Totul se repară într-un sprint, iar reparația rezistă.
Gestionarea conexiunilor e celălalt loc unde câștigul e real. Un handshake TLS proaspăt către un furnizor la fiecare căutare e overhead pur; un pool de conexiuni calde, ținute în viață între căutări, îl elimină. Sesiunile GDS în special sunt scumpe de deschis și ieftine de refolosit, și de aceea în lumea aceea gestionarea sesiunilor e o funcționalitate de produs și nu un detaliu de implementare.
Acum jumătatea pe care trebuie să încetați să o reparați. Nu puteți face un furnizor să răspundă mai repede. Puteți ridica vocea la account manager-ul vostru și uneori o rută e mutată pe un nod mai rapid, dar timpul de răspuns al sistemului altcuiva nu e o variabilă în deployment-ul vostru. Echipele care uită asta petrec trimestre întregi șlefuindu-și propria post-procesare de la o fâșie la o fâșie mai subțire, în timp ce așteptarea furnizorului, care era cea mai mare parte a totalului, nu s-a mișcat. Profiler-ul a fost onest cu ele. Pur și simplu au continuat să optimizeze partea despre care spunea că e în regulă.
Ce puteți face în privința unui furnizor lent este să decideți cât sunteți dispuși să îl așteptați și ce vede utilizatorul între timp. Despre asta e restul textului.
Redarea progresivă este răspunsul onest
Dacă setul complet de rezultate e mărginit de furnizorul cel mai lent, atunci singurul mod de a arăta utilizatorului ceva mai devreme e să încetați să așteptați ca setul să fie complet. Arătați rezultatele primului furnizor care răspunde. Adăugați-le pe ale următorului când sosesc. Lăsați utilizatorul să înceapă să citească, să filtreze și să compare în timp ce întârziații sunt încă pe drum. Asta e redarea progresivă, și nu e un truc; e o reprezentare exactă a ceea ce se întâmplă de fapt pe server.
Are consecințe pe care merită să le proiectați în loc să le descoperiți:
- Stabilitatea sortării. O listă sortată după preț care se resortează de fiecare dată când sosește un furnizor mută tariful pe care utilizatorul tocmai voia să dea clic. Inserați rezultatele noi la locul lor sau grupați-le și lăsați utilizatorul să le tragă, dar nu amestecați sub cursor.
- "Cel mai ieftin" e provizoriu. Până sosește ultimul furnizor, orice afirmație despre tariful cel mai mic e o afirmație despre furnizorii care au răspuns. Interfața ar trebui să facă starea asta vizibilă în loc să pretindă completitudine.
- Pasul de rezervare trebuie să reverifice. Un tarif afișat dintr-un răspuns timpuriu poate dispărea până când utilizatorul dă clic. E adevărat și în designurile neprogresive, dar redarea progresivă mărește fereastra. Textul despre integrarea rezervării acoperă pasul de recalculare a prețului; aici nu e opțional.
- Cache-ul devine mai simplu, nu mai greu. Rezultatele per furnizor pot fi puse în cache cu durate de viață per furnizor. Tarifele statice ale unui bedbank pot trăi ore; o ofertă NDC, minute. Un singur rezultat monolitic îmbinat impune tuturor durata de viață cea mai scurtă.
Forma de API care susține asta e o căutare care returnează imediat un identificator și lasă clientul să facă polling sau să se aboneze la rezultate pe măsură ce sosesc, fiecare lot etichetat cu sursa și un flag care spune dacă căutarea e încă deschisă. API-urile proprii de zboruri și hoteluri ale platformei sunt construite în jurul acestei forme; pagina API-urilor de călătorii descrie suprafețele, iar accesul începe ca o conversație și nu ca o cheie self-service, așa că veniți cu întrebările.
Timeout-uri per furnizor, nu per cerere
Un singur timeout pe întreaga căutare e cea mai frecventă greșeală din acest strat și e greșit în ambele direcții deodată. Puneți-l scurt și un furnizor lent dar valoros e tăiat la fiecare căutare, iar voi încetați în tăcere să îi vindeți inventarul. Puneți-l lung și un furnizor blocat ține ostatice toate rezultatele, inclusiv cele sosite imediat.
| Decizie | Un singur timeout pentru toată căutarea | Un buget per furnizor |
|---|---|---|
| Un furnizor se blochează | Toți așteaptă, apoi toți eșuează sau toți sunt tăiați | Acel furnizor iese din această căutare; restul sunt afișați |
| Un furnizor lent cu tarife bune | Fie mereu exclus, fie mereu încetinind pagina | Primește un buget mai lung decât cei rapizi și e redat târziu |
| Reîncercarea | Se repetă tot fan-out-ul, dublând încărcarea furnizorilor care au răspuns deja | Se reîncearcă doar cel care a eșuat, dacă merită reîncercat |
| Ce vede utilizatorul | Spinner, apoi totul sau o eroare | Rezultate care se umplu și o stare "încă se caută" care se închide până la urmă |
| Ce vede echipa de operațiuni | "Căutarea a expirat", fără nicio indicație despre sursa care a provocat-o | Un contor de timeout-uri per furnizor care poate sta lângă numele acelui furnizor |
| Reglarea | Un număr disputat la nesfârșit | Un număr per furnizor, stabilit din istoricul acelui furnizor |
Bugetul per furnizor e și locul unde trăiește realitatea comercială. Un furnizor ale cărui tarife sunt rar alese nu merită aceeași răbdare ca cel care câștigă majoritatea rezervărilor voastre pe o rută. Tarifele nete ale unui consolidator pe o rută România–Golf pot merita așteptarea; un al patrulea bedbank care returnează aceleași hoteluri ca primii trei, nu. Bugetul e o decizie de produs exprimată ca număr și ar trebui stabilit per furnizor, per tenant dacă tenant-ii diferă, și revizuit.
Două rafinări care se plătesc singure. În primul rând, un buget nu e doar un maxim; un furnizor care revine într-o fracțiune din bugetul lui dar cu un set gol e un semnal diferit de unul care expiră, iar cele două trebuie numărate separat. În al doilea rând, reîncercările țin de nivelul furnizorului și ar trebui să fie rare. Reîncercarea unei căutări la un furnizor care tocmai a expirat înseamnă de obicei două căutări în coadă de partea lor, ceea ce o face și pe următoarea mai lentă, iar pe contractele contorizate costă bani.
Ce să măsurați ca numărul să însemne ceva
"Timpul mediu de căutare" e numărul pe care îl raportează toată lumea și cel care vă spune cel mai puțin. Amestecă o căutare de hotel din cache cu un fan-out internațional la șase furnizori, ascunde furnizorul care e cauza și se mișcă atunci când se schimbă mixul de trafic, nu când se schimbă codul vostru. Înlocuiți-l cu un set mic de măsurători care răspund fiecare la o singură întrebare.
- Timpul până la primul rezultat, per căutare. Asta percepe utilizatorul ca viteză. E mărginit de furnizorul vostru cel mai rapid plus overhead-ul propriu, adică partea pe care chiar o puteți îmbunătăți.
- Timpul până la finalizare, per căutare, cu identitatea furnizorului care a închis-o. Dacă un furnizor e mereu ultimul, aia e o discuție despre buget, nu una de inginerie.
- Timpul de răspuns per furnizor, ca distribuție, nu ca medie, și etichetat după rută și ora zilei. Un furnizor care merge bine dimineața și e lent seara arată bine în medie și nu e.
- Timeout-urile ca o clasă de rezultat, numărate alături de "a returnat rezultate" și "a returnat gol", per furnizor. Un timeout e un rezultat pe care nu l-ați primit și aparține aceluiași grafic cu cele pe care le-ați primit.
- Timpul propriu de post-procesare, separat. Când crește, aveți o problemă de cod. Când crește așteptarea furnizorului, aveți o discuție de purtat.
- Căutări per rezervare, per furnizor și per tenant. Fiecare căutare pe care o trimiteți costă furnizorul capacitate, iar majoritatea contractelor țin cont de acest raport. O reparație a latenței care dublează volumul de căutări prin reîncercări a înrăutățit numărul, nu l-a îmbunătățit.
Măsurați și în punctul în care îl vede utilizatorul. Un server care raportează căutări rapide în timp ce browser-ul așteaptă un pas lent de serializare spune adevărul și vă induce în eroare în același timp.
Cât vă costă să greșiți aici
Costul evident e cel din tichet: un utilizator care așteaptă, apoi pleacă. Cele mai puțin evidente sunt comerciale. Un singur timeout pe toată căutarea, pus prea scurt, elimină în tăcere un furnizor din rezultatele voastre la fiecare căutare, iar voi aflați abia când account manager-ul întreabă de ce s-au oprit rezervările. Reîncercarea unor fan-out-uri întregi vă dublează căutările per rezervare, iar furnizorii care contorizează acel raport răspund limitându-vă sau facturându-vă. Resortarea unei liste progresive sub cursorul utilizatorului produce clicuri greșite pe tariful greșit, care devin tichete de suport și uneori rambursări. Iar un dashboard bazat pe medie lasă toate trei să se întâmple în timp ce numărul de pe el rămâne verde.
Niciuna dintre acestea nu se rezolvă făcând codul vostru mai rapid. Se rezolvă decizând, per furnizor, cât veți aștepta, arătând utilizatorului ce aveți în timp ce așteptați și măsurând lucrul care chiar s-a mișcat. Accelerările de cod merită făcute. Doar că nu erau partea care era greșită.