Langkau ke kandungan
Blog

Latensi API pelancongan: apa yang boleh anda baiki dan apa yang tidak

Sidang Pengarang Tekravel
Ditulis dengan bantuan AI

Tiketnya berbunyi "carian perlahan". Anda membuka trace untuk penerbangan pergi balik Kuala Lumpur–Dubai, dan kod anda sendiri hanyalah secebis nipis di awal dan secebis lagi di hujung. Segala yang di antaranya ialah menunggu: menunggu GDS, menunggu dua syarikat penerbangan NDC, menunggu agregator hotel yang menjawab bila-bila dia suka. Latensi API pelancongan ialah satu-satunya masalah prestasi di mana profiler terus menunjuk ke kod yang bukan anda tulis dan tidak boleh anda deploy. Itu mengubah maksud "membaiki", dan kebanyakan usaha yang pasukan curahkan untuknya jatuh ke separuh yang salah.

Ke mana latensi API pelancongan sebenarnya pergi dalam carian berbilang pembekal

Satu carian penerbangan dalam enjin tempahan bukan satu permintaan. Ia satu fan-out. Enjin mengambil asal, destinasi, tarikh dan komposisi penumpang, membina permintaan dalam format setiap pembekal yang dibenarkan ditanya untuk laluan itu, menghantar semuanya serentak, lalu menunggu. Setiap pembekal ada jamnya sendiri: sesi GDS yang sudah panas atau belum, gerbang NDC yang sedang menilai semula harga di pihak syarikat penerbangan, bedbank yang turut membuat fan-out kepada channel manager di belakangnya. Keputusan yang boleh anda tunjukkan kepada pengguna dihadkan dari bawah oleh pembekal paling perlahan yang anda pilih untuk tunggu, bukan oleh purata.

Itu perkara pertama yang perlu dihayati. Menambah pembekal tidak pernah menjadikan carian lengkap lebih pantas. Ia hanya menambah satu lagi lorong yang mesti selesai sebelum keseluruhan set keputusan dikira "siap".

Kemudian respons kembali dan kerja yang benar-benar milik anda bermula: menghurai payload XML atau JSON yang besar bagi setiap pembekal, memetakan kod lapangan terbang, syarikat penerbangan dan tambang mereka kepada kod anda, menyahduplikasi itinerari yang sama yang dikembalikan tiga sumber dengan tiga harga, mengenakan peraturan markup untuk tenant yang bertanya, menukar mata wang kepada ringgit, dan mengisih. Pada laluan yang sibuk, fasa ini tidak percuma, dan inilah satu-satunya tempat profiler akan memberitahu sesuatu yang boleh diambil tindakan. Kami menulis bahagian hotelnya dalam mereka bentuk klien API ketersediaan hotel untuk pembekal yang perlahan; bahagian penerbangan mempunyai bentuk yang sama dengan lebih banyak kod untuk dipetakan.

Maka pecahan jujur bagi carian yang perlahan ialah tiga bakul:

  • Menunggu pembekal — respons tunggal pembekal yang paling lama. Anda tidak mengawalnya.
  • Pasca-pemprosesan anda — hurai, peta, nyahduplikasi, harga, isih. Anda mengawal semuanya.
  • Penghantaran — mensirikan keputusan gabungan dan menghantarnya ke pelayar. Biasanya kecil, sesekali jadi kejutan.

Separuh yang boleh anda baiki, dan separuh yang patut anda berhenti cuba baiki

Mulakan dengan bakul kedua, kerana ia milik anda. Penemuan biasa, mengikut urutan ia muncul: langkah pemetaan yang mencari setiap kod lapangan terbang dalam pangkalan data satu demi satu dan bukannya memuatkan jadual sekali; penukaran mata wang yang memanggil perkhidmatan kadar bagi setiap tambang dan bukannya setiap carian; rutin nyahduplikasi yang membandingkan setiap itinerari dengan setiap itinerari lain; pensirian yang menyusuri semula graf objek bagi setiap tenant. Tiada satu pun eksotik. Semuanya boleh dibaiki dalam satu sprint, dan pembaikannya kekal.

Pengendalian sambungan ialah tempat lain di mana hasilnya nyata. Handshake TLS baharu dengan pembekal pada setiap carian ialah overhead semata-mata; pool sambungan panas yang dikekalkan merentas carian menghapuskannya. Sesi GDS khususnya mahal untuk dibuka dan murah untuk diguna semula, sebab itulah pengurusan sesi ialah ciri produk dalam dunia itu dan bukan butiran pelaksanaan.

Kini separuh yang patut berhenti dibaiki. Anda tidak boleh membuat pembekal menjawab lebih pantas. Anda boleh mengadu kepada pengurus akaun, dan kadangkala laluan dipindahkan ke nod yang lebih pantas, tetapi masa respons sistem orang lain bukan pemboleh ubah dalam deployment anda. Pasukan yang melupakan ini menghabiskan berbulan-bulan mengurangkan pasca-pemprosesan mereka dari secebis nipis kepada lebih nipis, sementara masa menunggu pembekal, yang merupakan kebanyakan jumlahnya, tidak bergerak. Profiler sudah jujur dengan mereka. Mereka sahaja yang terus mengoptimumkan bahagian yang dikatakan baik.

Apa yang boleh anda lakukan terhadap pembekal yang perlahan ialah memutuskan berapa lama anda sanggup menunggunya, dan apa yang pengguna lihat sementara itu. Itulah baki tulisan ini.

Progressive rendering ialah jawapan yang jujur

Jika set keputusan lengkap dihadkan oleh pembekal paling perlahan, maka satu-satunya cara untuk menunjukkan sesuatu lebih awal kepada pengguna ialah berhenti menunggu set itu lengkap. Tunjukkan keputusan daripada pembekal pertama yang menjawab. Tambah keputusan pembekal seterusnya apabila ia tiba. Biarkan pengguna mula membaca, menapis dan membandingkan sementara yang ketinggalan masih dalam perjalanan. Inilah progressive rendering, dan ia bukan helah; ia gambaran tepat tentang apa yang sebenarnya berlaku di pelayan.

Ia ada akibat yang lebih baik direka bentuk daripada ditemui kemudian:

  • Kestabilan isihan. Senarai yang diisih mengikut harga dan diisih semula setiap kali pembekal tiba akan menggerakkan tambang yang hendak diklik pengguna. Sisipkan keputusan baharu di tempatnya, atau kumpulkan dan biarkan pengguna menariknya sendiri, tetapi jangan kocok senarai di bawah kursor.
  • "Termurah" bersifat sementara. Sehingga pembekal terakhir masuk, sebarang dakwaan tambang terendah hanyalah dakwaan tentang pembekal yang telah menjawab. Antara muka mesti menampakkan keadaan itu, bukan berpura-pura lengkap.
  • Langkah tempahan mesti semak semula. Tambang yang ditunjukkan daripada respons awal mungkin sudah hilang apabila pengguna klik. Itu benar juga dalam reka bentuk bukan progresif, tetapi progressive rendering melebarkan tetingkapnya. Tulisan tentang integrasi API tempahan membincangkan langkah re-price; di sini ia tidak pilihan.
  • Caching jadi lebih mudah, bukan lebih sukar. Keputusan setiap pembekal boleh di-cache dengan jangka hayat setiap pembekal. Kadar statik bedbank boleh hidup berjam-jam; tawaran NDC, beberapa minit. Satu keputusan gabungan monolitik memaksa jangka hayat terpendek ke atas semuanya.

Bentuk API yang menyokong ini ialah carian yang mengembalikan pengenal pasti serta-merta dan membiarkan klien membuat polling atau melanggan keputusan apabila ia tiba, dengan setiap kelompok ditanda sumbernya dan satu bendera yang menyatakan sama ada carian masih terbuka. API penerbangan dan hotel platform ini dibina di sekeliling bentuk itu; halaman API pelancongan menerangkan antara mukanya, dan akses bermula dengan perbualan dan bukannya kunci layan diri, jadi bawalah soalan anda.

Timeout setiap pembekal, bukan setiap permintaan

Satu timeout untuk keseluruhan carian ialah kesilapan paling lazim dalam lapisan ini, dan ia salah dalam kedua-dua arah serentak. Tetapkan pendek, dan pembekal yang perlahan-tetapi-berharga terputus pada setiap carian dan anda diam-diam berhenti menjual inventorinya. Tetapkan panjang, dan satu pembekal yang tergantung menyandera setiap keputusan, termasuk yang tiba serta-merta.

KeputusanSatu timeout untuk keseluruhan carianBajet setiap pembekal
Satu pembekal tergantungSemua menunggu, kemudian semua gagal atau semua terputusPembekal itu digugurkan dari carian ini; yang lain ditunjukkan
Pembekal perlahan dengan tambang bagusSama ada sentiasa dikecualikan atau sentiasa melambatkan halamanDiberi bajet lebih panjang daripada yang pantas, dan dipaparkan lewat
Cuba semulaUlang keseluruhan fan-out, menggandakan beban pada pembekal yang sudah menjawabCuba semula hanya yang gagal, itu pun jika berbaloi
Apa yang pengguna lihatSpinner, kemudian semuanya atau ralatKeputusan terisi beransur-ansur, dan keadaan "masih mencari" yang akhirnya ditutup
Apa yang pasukan operasi lihat"Carian tamat masa", tanpa petunjuk sumber mana puncanyaKiraan timeout setiap pembekal yang boleh diletakkan di sebelah namanya
PenalaanSatu nombor yang dipertikaikan selama-lamanyaSatu nombor setiap pembekal, ditetapkan daripada sejarah pembekal itu sendiri

Bajet setiap pembekal juga tempat realiti komersial bersemayam. Pembekal yang tambangnya jarang dipilih tidak layak mendapat kesabaran yang sama seperti yang memenangi kebanyakan tempahan anda pada sesuatu laluan. Tambang bersih konsolidator pada laluan Malaysia–Timur Tengah mungkin berbaloi ditunggu; bedbank keempat yang mengembalikan hotel yang sama seperti tiga yang pertama tidak. Bajet ialah keputusan produk yang dinyatakan sebagai nombor, dan ia patut ditetapkan setiap pembekal, setiap tenant jika tenant berbeza, dan disemak semula.

Dua penambahbaikan yang membayar dirinya sendiri. Pertama, bajet bukan sekadar had maksimum; pembekal yang menjawab dalam sebahagian kecil bajetnya tetapi dengan set kosong ialah isyarat yang berbeza daripada yang tamat masa, dan kedua-duanya patut dikira berasingan. Kedua, cuba semula berada di peringkat pembekal dan patut jarang. Mengulang carian kepada pembekal yang baru sahaja tamat masa biasanya bermakna dua carian beratur di pihak mereka, yang menjadikan carian seterusnya lebih perlahan juga, dan pada kontrak bermeter ia membawa kos.

Apa yang perlu diukur supaya nombornya bermakna

"Purata masa carian" ialah nombor yang dilaporkan semua orang dan yang paling sedikit memberitahu anda. Ia mencampurkan carian hotel yang sudah di-cache dengan fan-out antarabangsa enam pembekal, menyembunyikan pembekal yang menjadi punca, dan bergerak apabila campuran trafik berubah dan bukannya apabila kod anda berubah. Gantikannya dengan set kecil pengukuran yang masing-masing menjawab satu soalan.

  1. Masa ke keputusan pertama, setiap carian. Inilah yang pengguna alami sebagai kelajuan. Ia dihadkan oleh pembekal terpantas anda ditambah overhead anda sendiri, bahagian yang benar-benar boleh anda tambah baik.
  2. Masa hingga selesai, setiap carian, dengan identiti pembekal yang menutupnya. Jika satu pembekal sentiasa terakhir, itu perbualan bajet, bukan perbualan kejuruteraan.
  3. Masa respons setiap pembekal, sebagai taburan, bukan min, dan ditanda mengikut laluan dan waktu. Pembekal yang baik pada waktu pagi dan perlahan pada waktu malam kelihatan baik pada purata, sedangkan tidak.
  4. Timeout sebagai kelas keputusan, dikira bersebelahan "mengembalikan keputusan" dan "mengembalikan kosong", setiap pembekal. Timeout ialah keputusan yang anda tidak dapat, dan tempatnya di carta yang sama dengan yang anda dapat.
  5. Masa pasca-pemprosesan anda sendiri, secara berasingan. Apabila ia meningkat, anda ada masalah kod. Apabila masa menunggu pembekal meningkat, anda ada perbualan.
  6. Carian bagi setiap tempahan, setiap pembekal dan setiap tenant. Setiap carian yang anda hantar menelan kapasiti pembekal, dan kebanyakan kontrak mengambil berat nisbah itu. Pembaikan latensi yang menggandakan jumlah carian melalui cuba semula telah memburukkan nombor itu, bukan membaikinya.

Ukur juga pada titik yang pengguna lihat. Pelayan yang melaporkan carian pantas sementara pelayar menunggu langkah pensirian yang perlahan sedang berkata benar dan menyesatkan anda pada masa yang sama.

Apa yang anda rugi jika tersilap

Kos yang jelas ialah yang tertulis dalam tiket: pengguna yang menunggu, kemudian pergi. Yang kurang jelas bersifat komersial. Satu timeout seluruh carian yang ditetapkan terlalu pendek diam-diam membuang satu pembekal daripada keputusan anda pada setiap carian, dan anda hanya tahu apabila pengurus akaun bertanya mengapa tempahan berhenti. Mengulang keseluruhan fan-out menggandakan nisbah carian-setiap-tempahan anda, dan pembekal yang mengukur nisbah itu membalas dengan menyekat anda atau mengeluarkan invois. Mengisih semula senarai progresif di bawah kursor pengguna menghasilkan klik tersilap pada tambang yang salah, yang menjadi tiket sokongan dan kadangkala bayaran balik. Dan papan pemuka berasaskan purata membiarkan ketiga-tiganya berlaku sementara nombornya kekal hijau.

Tiada satu pun diselesaikan dengan menjadikan kod anda lebih pantas. Ia diselesaikan dengan memutuskan, setiap pembekal, berapa lama anda akan menunggu, menunjukkan kepada pengguna apa yang anda ada sementara menunggu, dan mengukur perkara yang benar-benar bergerak. Mempercepatkan kod berbaloi dilakukan. Cuma itu bukan bahagian yang salah.

Sidang Pengarang Tekravel

Meja teknologi pelancongan

Meja teknologi pelancongan Tekravel menulis untuk industri: pemilik agensi, konsolidator dan pembangun yang mengintegrasikan mereka. Setiap artikel disemak pada platform yang diterangkannya sebelum diterbitkan.