Travel API -viive: minkä voit korjata ja minkä et

Tiketissä lukee ”haku on hidas”. Avaat tracen Helsinki–Dubai-menopaluusta, ja oma koodisi on ohut siivu alussa ja toinen lopussa. Kaikki siltä väliltä on odottamista: GDS:ää, kahta NDC:n kautta kytkettyä lentoyhtiötä, hotelliaggregaattoria, joka vastaa silloin kun huvittaa. Travel API -viive on ainoa suorituskykyongelma, jossa profiloija osoittaa itsepintaisesti koodia, jota et kirjoittanut etkä voi julkaista. Se muuttaa sen, mitä ”korjaaminen” tarkoittaa, ja suurin osa tiimien siihen käyttämästä vaivasta menee väärään puoliskoon.
Mihin travel API -viive oikeasti menee usean toimittajan haussa
Yksi lentohaku varausmoottorissa ei ole yksi pyyntö. Se on fan-out. Moottori ottaa lähtöpaikan, kohteen, päivät ja matkustajakokoonpanon, rakentaa toimittajakohtaisen pyynnön jokaiselle lähteelle, jolta se saa kysyä kyseisellä reitillä, lähettää ne kaikki kerralla ja odottaa. Jokaisella toimittajalla on oma kellonsa: GDS-sessio, joka oli lämmin tai ei ollut, NDC-yhdyskäytävä, joka hinnoittelee uudelleen lentoyhtiön päässä, bedbank, joka tekee itse fan-outin takanaan oleviin channel managereihin. Vastaus, jonka voit näyttää käyttäjälle, on alhaalta rajattu hitaimman toimittajan mukaan, jota päätit odottaa, ei keskiarvon.
Tämä on ensimmäinen sisäistettävä asia. Toimittajan lisääminen ei koskaan tee kokonaisesta hausta nopeampaa. Se lisää vain yhden kaistan lisää, jonka pitää tyhjentyä ennen kuin koko tulosjoukko on ”valmis”.
Sitten vastaukset palaavat ja alkaa työ, joka todella on sinun: suuren XML- tai JSON-kuorman jäsentäminen toimittajaa kohden, heidän lentokenttä-, lentoyhtiö- ja hintakoodiensa mäppäys omiisi, saman reitin deduplikointi, jonka kolme lähdettä palautti kolmella hinnalla, katesääntöjen soveltaminen kysyvälle tenantille, valuutan muunto euroiksi ja järjestäminen. Vilkkaalla reitillä tämä vaihe ei ole ilmainen, ja se on ainoa kohta, jossa profiloija kertoo jotain, mille voi tehdä jotain. Kirjoitimme hotellipuolesta tekstissä hotellien saatavuusclientin suunnittelu hitaille toimittajille; lentopuolella on sama muoto ja enemmän koodeja mäpättävänä.
Rehellinen erittely hitaasta hausta on siis kolme koria:
- Toimittajan odotus — pisin yksittäinen toimittajan vastaus. Et hallitse sitä.
- Oma jälkikäsittelysi — jäsennys, mäppäys, deduplikointi, hinnoittelu, järjestys. Hallitset sen kokonaan.
- Toimitus — yhdistetyn tuloksen sarjallistaminen ja vieminen selaimeen. Yleensä pieni, joskus se yllätys.
Puolisko, jonka voit korjata, ja puolisko, jonka korjaaminen kannattaa lopettaa
Aloita toisesta korista, koska se on sinun. Tavalliset löydökset siinä järjestyksessä kuin ne yleensä ilmaantuvat: mäppäysvaihe, joka hakee jokaisen lentokenttäkoodin tietokannasta yksitellen sen sijaan että lataisi taulun kerran; valuuttamuunnos, joka kutsuu kurssipalvelua joka hinnalle eikä joka haulle; deduplikointirutiini, joka vertaa jokaista reittiä jokaiseen toiseen; sarjallistus, joka kävelee oliograafin uudelleen jokaiselle tenantille. Mikään näistä ei ole eksoottista. Kaikki on korjattavissa yhdessä sprintissä, ja korjaus pysyy.
Yhteyksien hallinta on toinen paikka, jossa hyöty on todellinen. Uusi TLS-kättely toimittajaan joka haulla on puhdasta yleiskulua; lämpimien yhteyksien pooli, joka pidetään elossa hakujen välillä, poistaa sen. Erityisesti GDS-sessiot ovat kalliita avata ja halpoja käyttää uudelleen, minkä vuoksi sessionhallinta on siinä maailmassa tuoteominaisuus eikä toteutusyksityiskohta.
Sitten puolisko, jonka korjaaminen pitää lopettaa. Et voi saada toimittajaa vastaamaan nopeammin. Voit huutaa account managerillesi, ja joskus reitti siirretään nopeammalle solmulle, mutta jonkun muun järjestelmän vasteaika ei ole muuttuja sinun julkaisussasi. Tiimit, jotka unohtavat tämän, käyttävät vuosineljänneksiä oman jälkikäsittelynsä höyläämiseen siivusta ohuemmaksi siivuksi, kun toimittajan odotus, joka oli suurin osa kokonaisuudesta, ei ole liikkunut. Profiloija oli heille rehellinen. He vain jatkoivat sen osan optimointia, jonka se sanoi olevan kunnossa.
Se, mitä hitaalle toimittajalle voit tehdä, on päättää, kuinka kauan olet valmis odottamaan sitä, ja mitä käyttäjä näkee sillä aikaa. Siitä tämän tekstin loppuosa kertoo.
Progressiivinen renderöinti on rehellinen vastaus
Jos koko tulosjoukkoa rajaa hitain toimittaja, ainoa tapa näyttää käyttäjälle jotain aiemmin on lopettaa joukon täydellistymisen odottaminen. Näytä tulokset ensimmäiseltä vastaavalta toimittajalta. Lisää seuraavan toimittajan tulokset, kun ne saapuvat. Anna käyttäjän alkaa lukea, suodattaa ja vertailla, kun jälkijättöiset ovat vielä matkalla. Tämä on progressiivinen renderöinti, eikä se ole temppu; se on tarkka kuvaus siitä, mitä palvelimella oikeasti tapahtuu.
Sillä on seurauksia, jotka kannattaa suunnitella etukäteen eikä löytää jälkikäteen:
- Järjestyksen vakaus. Hinnan mukaan järjestetty lista, joka järjestyy uudelleen aina kun toimittaja saapuu, siirtää hinnan, jota käyttäjä oli juuri klikkaamassa. Lisää uudet tulokset paikoilleen tai niputa ne ja anna käyttäjän hakea ne, mutta älä sekoita kursorin alla.
- ”Halvin” on alustava. Ennen kuin viimeinen toimittaja on sisällä, jokainen väite halvimmasta hinnasta on väite vastanneista toimittajista. Käyttöliittymän pitäisi tehdä tämä tila näkyväksi eikä teeskennellä täydellisyyttä.
- Varausvaiheen on tarkistettava uudelleen. Varhaisesta vastauksesta näytetty hinta voi olla poissa, kun käyttäjä klikkaa. Se pätee myös ei-progressiivisiin suunnitelmiin, mutta progressiivinen renderöinti kasvattaa ikkunaa. Varausintegraatiota käsittelevä teksti kattaa re-price-vaiheen; täällä se ei ole valinnainen.
- Välimuistitus yksinkertaistuu, ei vaikeudu. Toimittajakohtaiset tulokset voi välimuistittaa toimittajakohtaisilla elinajoilla. Bedbankin staattiset hinnat voivat elää tunteja; NDC-tarjous minuutteja. Yksi monoliittinen yhdistetty tulos pakottaa lyhimmän elinajan kaikkeen.
Tätä tukeva API-muoto on haku, joka palauttaa tunnisteen heti ja antaa clientin pollata tai tilata tuloksia sitä mukaa kun ne saapuvat, jokainen erä lähteellä merkittynä ja lipulla, joka kertoo, onko haku vielä auki. Alustan omat lento- ja hotelli-API:t on rakennettu tämän muodon ympärille; travel API -sivu kuvaa rajapinnat, ja pääsy alkaa keskusteluna eikä itsepalveluavaimena, joten tuo kysymykset mukaan.
Timeoutit toimittajaa kohden, ei pyyntöä kohden
Yksi timeout koko haulle on tämän kerroksen yleisin virhe, ja se on väärin molempiin suuntiin yhtä aikaa. Aseta se lyhyeksi, ja hidas mutta arvokas toimittaja katkaistaan joka haulla ja lakkaat hiljaa myymästä sen tarjontaa. Aseta se pitkäksi, ja yksi jumittava toimittaja pitää jokaista tulosta panttivankina, myös niitä, jotka saapuivat heti.
| Päätös | Yksi timeout koko haulle | Budjetti toimittajaa kohden |
|---|---|---|
| Yksi toimittaja jumittaa | Kaikki odottavat, sitten kaikki epäonnistuvat tai kaikki katkaistaan | Se toimittaja pudotetaan tästä hausta; muut näytetään |
| Hidas toimittaja, hyvät hinnat | Joko aina poissuljettu tai aina hidastamassa sivua | Saa pidemmän budjetin kuin nopeat ja renderöidään myöhään |
| Uudelleenyritys | Koko fan-out toistetaan, kuorma tuplaantuu jo vastanneilla toimittajilla | Vain epäonnistunut toistetaan, jos sitä ylipäätään kannattaa toistaa |
| Mitä käyttäjä näkee | Spinner, sitten kaikki tai virhe | Täyttyviä tuloksia ja ”haku jatkuu” -tila, joka lopulta sulkeutuu |
| Mitä operointi näkee | ”Haku aikakatkaistiin” ilman tietoa siitä, mikä lähde sen aiheutti | Timeout-laskuri toimittajaa kohden, jonka voi laittaa toimittajan nimen viereen |
| Viritys | Yksi luku, josta riidellään ikuisesti | Yksi luku toimittajaa kohden, sen omasta historiasta johdettuna |
Toimittajakohtainen budjetti on myös se paikka, jossa kaupallinen todellisuus asuu. Toimittaja, jonka hintoja valitaan harvoin, ei ansaitse samaa kärsivällisyyttä kuin se, joka voittaa suurimman osan varauksistasi reitillä. Konsolidaattorin nettohinnat Persianlahti–Intian niemimaa -reitillä voivat olla odottamisen arvoisia; neljäs bedbank, joka palauttaa samat hotellit kuin kolme ensimmäistä, ei ole. Budjetti on lukuna ilmaistu tuotepäätös, ja se pitäisi asettaa toimittajaa kohden, tenanttia kohden jos tenantit eroavat, ja tarkistaa säännöllisesti.
Kaksi tarkennusta, jotka maksavat itsensä takaisin. Ensinnäkin budjetti ei ole vain maksimi; toimittaja, joka palaa murto-osassa budjetistaan mutta tyhjällä joukolla, on eri signaali kuin aikakatkaistu, ja ne pitää laskea erikseen. Toiseksi uudelleenyritykset kuuluvat toimittajatasolle ja niiden pitäisi olla harvinaisia. Haun toistaminen juuri aikakatkaistulle toimittajalle tarkoittaa yleensä kahta hakua jonossa heidän päässään, mikä hidastaa seuraavaakin, ja käytön mukaan laskutettavissa sopimuksissa se maksaa rahaa.
Mitä mitata, jotta luku tarkoittaa jotain
”Keskimääräinen hakuaika” on luku, jonka kaikki raportoivat ja joka kertoo vähiten. Se sekoittaa välimuistitetun hotellihaun kuuden toimittajan kansainväliseen fan-outiin, piilottaa syyllisen toimittajan ja liikkuu, kun liikenteen jakauma liikkuu, eikä silloin kun koodisi muuttuu. Korvaa se pienellä joukolla mittareita, joista jokainen vastaa yhteen kysymykseen.
- Aika ensimmäiseen tulokseen, hakua kohden. Tämän käyttäjä kokee nopeutena. Sitä rajaa nopein toimittajasi plus oma yleiskulusi, joka on se osa, jota oikeasti voit parantaa.
- Aika valmistumiseen, hakua kohden, sen toimittajan tunnisteella, joka sulki haun. Jos yksi toimittaja on aina viimeinen, kyse on budjettikeskustelusta, ei insinöörityöstä.
- Vasteaika toimittajaa kohden, jakaumana eikä keskiarvona, reitin ja vuorokaudenajan mukaan merkittynä. Toimittaja, joka on aamulla kunnossa ja illalla hidas, näyttää keskiarvossa kunnolliselta eikä ole.
- Timeoutit tulosluokkana, laskettuna ”palautti tuloksia” ja ”palautti tyhjän” rinnalla, toimittajaa kohden. Timeout on tulos, jota et saanut, ja se kuuluu samaan kaavioon kuin ne, jotka sait.
- Oma jälkikäsittelyaikasi, erikseen. Kun tämä kasvaa, sinulla on koodiongelma. Kun toimittajan odotus kasvaa, sinulla on keskustelu edessä.
- Haut varausta kohden, toimittajaa ja tenanttia kohden. Jokainen lähettämäsi haku maksaa toimittajalle kapasiteettia, ja useimmat sopimukset välittävät suhdeluvusta. Viivekorjaus, joka tuplaa hakumääräsi uudelleenyritysten kautta, on tehnyt luvusta huonomman, ei paremman.
Mittaa myös siinä pisteessä, jossa käyttäjä sen näkee. Palvelin, joka raportoi nopeita hakuja samalla kun selain odottaa hidasta sarjallistusvaihetta, puhuu totta ja johtaa sinua harhaan yhtä aikaa.
Mitä se maksaa sinulle, kun teet tämän väärin
Ilmeinen kustannus on se tiketissä mainittu: käyttäjä, joka odottaa ja sitten lähtee. Vähemmän ilmeiset ovat kaupallisia. Yksi liian lyhyeksi asetettu koko haun timeout poistaa toimittajan hiljaa tuloksistasi joka haulla, ja saat tietää siitä vasta kun account manager kysyy, miksi varaukset loppuivat. Kokonaisten fan-outien toistaminen tuplaa hakusi varausta kohden, ja suhdelukua mittaavat toimittajat vastaavat kuristamalla sinua tai laskuttamalla. Progressiivisen listan uudelleenjärjestäminen käyttäjän kursorin alla tuottaa virheklikkauksia väärään hintaan, joista tulee tukitikettejä ja joskus hyvityksiä. Ja keskiarvoihin perustuva dashboard antaa kaikkien kolmen tapahtua, kun sen luku pysyy vihreänä.
Mikään näistä ei ratkea tekemällä koodistasi nopeampaa. Ne ratkeavat päättämällä toimittajaa kohden, kuinka kauan odotat, näyttämällä käyttäjälle sen mitä sinulla on odottaessasi, ja mittaamalla sitä, mikä oikeasti liikkui. Koodin nopeutukset kannattaa tehdä. Ne eivät vain olleet se osa, joka oli pielessä.