تأخیر API سفر: چه چیزی را میتوانید درست کنید و چه چیزی را نه

تیکت میگوید «جستوجو کُند است». trace یک پرواز رفتوبرگشت تهران–دبی را باز میکنید و میبینید کد خودتان فقط یک باریکهٔ نازک در ابتدا و یکی دیگر در انتهاست. هرچه میان این دو است انتظار است: انتظار برای GDS، برای دو ایرلاین NDC، برای یک تجمیعکنندهٔ هتل که هر وقت دلش بخواهد جواب میدهد. تأخیر API سفر تنها مشکل کاراییِ است که در آن profiler مدام به کدی اشاره میکند که شما ننوشتهاید و نمیتوانید deploy کنید. همین، معنای «درست کردن» را عوض میکند، و بیشتر تلاشی که تیمها صرفش میکنند به نیمهٔ اشتباه میرود.
تأخیر API سفر در جستوجوی چند تأمینکننده واقعاً کجا میرود
یک جستوجوی پرواز در موتور رزرو، یک درخواست نیست. یک fan-out است. موتور مبدأ، مقصد، تاریخها و ترکیب مسافران را میگیرد، برای هر تأمینکنندهای که در آن مسیر اجازهٔ پرسوجو دارد درخواستی با قالب خودِ او میسازد، همه را همزمان میفرستد و بعد منتظر میماند. هر تأمینکننده ساعت خودش را دارد: یک session GDS که گرم بوده یا نبوده، یک gateway NDC که در سمت ایرلاین دارد قیمت را دوباره حساب میکند، یک bedbank که خودش به channel managerهای پشتِ سرش fan-out میکند. نتیجهای که میتوانید به کاربر نشان دهید، از پایین با کُندترین تأمینکنندهای که تصمیم گرفتهاید منتظرش بمانید محدود میشود، نه با میانگین.
این اولین چیزی است که باید در ذهن بنشیند. افزودن یک تأمینکننده هرگز جستوجوی کامل را سریعتر نمیکند. فقط یک مسیر دیگر اضافه میکند که باید باز شود تا مجموعهٔ نتایج «تمام» شود.
بعد پاسخها برمیگردند و کاری که واقعاً مال شماست شروع میشود: parse کردن یک payload بزرگ XML یا JSON به ازای هر تأمینکننده، نگاشت کدهای فرودگاه، ایرلاین و نرخ آنها به کدهای خودتان، حذف تکراریِ همان مسیری که سه منبع با سه قیمت برگرداندهاند، اعمال قواعد markup برای tenant پرسشگر، تبدیل ارز به تومان، و مرتبسازی. در یک مسیر شلوغ این مرحله رایگان نیست، و تنها جایی است که profiler چیزی قابلِ اقدام به شما میگوید. دربارهٔ سمت هتل در طراحی کلاینت API موجودی هتل برای تأمینکنندگان کُند نوشتهایم؛ سمت پرواز همین شکل را دارد با کدهای بیشتری برای نگاشت.
پس تفکیک صادقانهٔ یک جستوجوی کُند سه سبد است:
- انتظار تأمینکننده — طولانیترین پاسخ یک تأمینکنندهٔ منفرد. کنترلش دست شما نیست.
- پسپردازش شما — parse، نگاشت، حذف تکراری، قیمتگذاری، مرتبسازی. همهاش دست شماست.
- تحویل — serialize کردن نتیجهٔ ادغامشده و رساندنش به مرورگر. معمولاً کوچک، گاهی غافلگیرکننده.
نیمهای که میتوانید درست کنید، و نیمهای که باید دست از درست کردنش بردارید
با سبد دوم شروع کنید، چون مال شماست. یافتههای معمول، به ترتیبی که پیدا میشوند: مرحلهٔ نگاشتی که هر کد فرودگاه را جداگانه از پایگاه داده میپرسد به جای اینکه جدول را یک بار بارگذاری کند؛ تبدیل ارزی که سرویس نرخ را به ازای هر نرخ صدا میزند نه به ازای هر جستوجو؛ روال حذف تکراریای که هر مسیر را با هر مسیر دیگر مقایسه میکند؛ serialize کردنی که گراف اشیا را برای هر tenant دوباره پیمایش میکند. هیچکدام عجیب نیست. همه در یک sprint قابل اصلاح است و اصلاحش میماند.
مدیریت اتصال، جای دیگری است که سود واقعی دارد. یک handshake تازهٔ TLS با تأمینکننده در هر جستوجو سربار خالص است؛ یک pool از اتصالهای گرم که میان جستوجوها زنده نگه داشته میشود، آن را حذف میکند. session های GDS بهخصوص گران باز میشوند و ارزان دوباره استفاده میشوند، و به همین دلیل در آن دنیا مدیریت session یک قابلیت محصول است، نه جزئیات پیادهسازی.
حالا نیمهای که باید دست از درست کردنش بردارید. نمیتوانید تأمینکننده را وادار کنید سریعتر جواب بدهد. میتوانید سر account manager داد بزنید، و گاهی مسیری به node سریعتری منتقل میشود، اما زمان پاسخ سیستمِ کس دیگر، متغیری در deployment شما نیست. تیمهایی که این را فراموش میکنند فصلها صرف این میکنند که پسپردازش خودشان را از یک باریکه به باریکهای نازکتر برسانند، در حالی که انتظار تأمینکننده، که بیشترِ کل زمان بود، تکان نخورده است. profiler با آنها صادق بود. آنها بودند که بخشی را که گفته بود سالم است بهینه کردند.
کاری که دربارهٔ یک تأمینکنندهٔ کُند میتوانید بکنید این است که تصمیم بگیرید چقدر حاضرید منتظرش بمانید، و کاربر در این مدت چه میبیند. باقی این نوشته همین است.
Progressive rendering پاسخ صادقانه است
اگر مجموعهٔ کامل نتایج با کُندترین تأمینکننده محدود میشود، تنها راه اینکه زودتر چیزی به کاربر نشان دهید این است که دست از انتظار برای کامل شدن مجموعه بردارید. نتایج اولین تأمینکنندهای را که جواب میدهد نشان دهید. نتایج تأمینکنندهٔ بعدی را وقتی رسید اضافه کنید. بگذارید کاربر خواندن، فیلتر کردن و مقایسه را شروع کند در حالی که عقبماندهها هنوز در راهاند. این progressive rendering است و حقه نیست؛ تصویر دقیقی است از آنچه واقعاً روی سرور رخ میدهد.
پیامدهایی دارد که بهتر است برایشان طراحی کنید تا اینکه بعداً کشفشان کنید:
- پایداری مرتبسازی. فهرستی که بر اساس قیمت مرتب شده و با رسیدن هر تأمینکننده دوباره مرتب میشود، نرخی را که کاربر داشت رویش کلیک میکرد جابهجا میکند. نتایج تازه را سر جایشان درج کنید، یا دستهشان کنید و بگذارید کاربر خودش بکشدشان داخل، اما فهرست را زیر نشانگر بههم نریزید.
- «ارزانترین» موقتی است. تا وقتی آخرین تأمینکننده نرسیده، هر ادعای پایینترین نرخ فقط ادعایی دربارهٔ تأمینکنندگانی است که جواب دادهاند. رابط کاربری باید این وضعیت را نشان دهد، نه اینکه تظاهر به کامل بودن کند.
- مرحلهٔ رزرو باید دوباره بررسی کند. نرخی که از یک پاسخ زودهنگام نمایش داده شده ممکن است تا وقت کلیک کاربر از بین رفته باشد. این در طراحیهای غیرتدریجی هم صادق است، اما progressive rendering این پنجره را بزرگتر میکند. نوشتهٔ اتصال API رزرو مرحلهٔ re-price را پوشش میدهد؛ اینجا اختیاری نیست.
- caching سادهتر میشود، نه سختتر. نتایج هر تأمینکننده را میتوان با عمر مخصوص همان تأمینکننده cache کرد. نرخهای ثابت یک bedbank میتواند ساعتها زنده بماند؛ یک پیشنهاد NDC، چند دقیقه. یک نتیجهٔ ادغامشدهٔ یکپارچه کوتاهترین عمر را به همه تحمیل میکند.
شکل API ای که این را پشتیبانی میکند، جستوجویی است که بلافاصله یک شناسه برمیگرداند و به کلاینت اجازه میدهد نتایج را همانطور که میرسند poll یا subscribe کند، با هر دسته برچسبخورده به منبعش و یک flag که میگوید جستوجو هنوز باز است یا نه. APIهای پرواز و هتل خودِ پلتفرم حول همین شکل ساخته شدهاند؛ صفحهٔ APIهای سفر سطوح موجود را شرح میدهد، و دسترسی با یک گفتوگو شروع میشود نه با یک کلید سلفسرویس، پس سؤالهایتان را بیاورید.
timeout به ازای هر تأمینکننده، نه به ازای هر درخواست
یک timeout برای کل جستوجو رایجترین اشتباه در این لایه است و همزمان در هر دو جهت غلط است. کوتاه بگذارید، و یک تأمینکنندهٔ کُند اما ارزشمند در هر جستوجو قطع میشود و شما بیصدا فروش موجودیاش را متوقف میکنید. بلند بگذارید، و یک تأمینکنندهٔ معلق همهٔ نتایج را گروگان میگیرد، حتی آنهایی که فوراً رسیده بودند.
| تصمیم | یک timeout برای کل جستوجو | بودجه به ازای هر تأمینکننده |
|---|---|---|
| یک تأمینکننده معلق میماند | همه منتظر میمانند، بعد همه شکست میخورند یا همه قطع میشوند | آن تأمینکننده از این جستوجو کنار گذاشته میشود؛ بقیه نمایش داده میشوند |
| تأمینکنندهٔ کُند با نرخهای خوب | یا همیشه حذف میشود یا همیشه صفحه را کُند میکند | بودجهای بلندتر از سریعها میگیرد و دیرتر رندر میشود |
| تلاش مجدد | کل fan-out تکرار میشود و بار تأمینکنندگانی که جواب داده بودند دو برابر میشود | فقط همانی که شکست خورده، آن هم اگر اصلاً ارزش تلاش مجدد داشته باشد |
| کاربر چه میبیند | spinner، بعد همهچیز یا یک خطا | نتایجی که پر میشوند، و وضعیت «هنوز در حال جستوجو» که در نهایت بسته میشود |
| عملیات چه میبیند | «جستوجو timeout شد»، بدون اشاره به اینکه کدام منبع باعثش بود | شمار timeout به ازای هر تأمینکننده که میشود کنار نامش گذاشت |
| تنظیم | یک عدد که تا ابد سرش بحث میشود | یک عدد به ازای هر تأمینکننده، برآمده از تاریخچهٔ خودش |
بودجهٔ هر تأمینکننده همانجایی است که واقعیت تجاری هم زندگی میکند. تأمینکنندهای که نرخهایش بهندرت انتخاب میشود، سزاوار همان صبری نیست که تأمینکنندهای که بیشتر رزروهای شما را در یک مسیر میبرد. نرخهای net یک consolidator در مسیر ایران–خلیج فارس شاید ارزش انتظار داشته باشد؛ چهارمین bedbank که همان هتلهای سه تای اول را برمیگرداند، نه. بودجه یک تصمیم محصول است که به زبان عدد بیان شده، و باید به ازای هر تأمینکننده، و اگر tenantها فرق دارند به ازای هر tenant، تنظیم و بازبینی شود.
دو اصلاح که هزینهٔ خودشان را درمیآورند. اول، بودجه فقط یک سقف نیست؛ تأمینکنندهای که در کسری از بودجهاش اما با مجموعهٔ خالی برمیگردد، سیگنالی متفاوت از آنی است که timeout میشود، و این دو باید جدا شمرده شوند. دوم، تلاش مجدد به سطح تأمینکننده تعلق دارد و باید نادر باشد. تکرار جستوجو برای تأمینکنندهای که همین حالا timeout شده معمولاً یعنی دو جستوجو در صف او، که بعدی را هم کُندتر میکند، و در قراردادهای شمارشی پول خرج دارد.
چه چیزی را بسنجید تا عدد معنا داشته باشد
«میانگین زمان جستوجو» عددی است که همه گزارش میکنند و کمترین چیز را به شما میگوید. یک جستوجوی هتلِ cache شده را با یک fan-out بینالمللی ششتأمینکنندهای قاطی میکند، تأمینکنندهای را که علت است پنهان میکند، و وقتی ترکیب ترافیک عوض میشود تکان میخورد نه وقتی کد شما عوض میشود. به جایش مجموعهٔ کوچکی از سنجهها بگذارید که هرکدام به یک سؤال جواب میدهد.
- زمان تا اولین نتیجه، به ازای هر جستوجو. این همان چیزی است که کاربر به عنوان سرعت تجربه میکند. با سریعترین تأمینکنندهٔ شما بهعلاوهٔ سربار خودتان محدود میشود، که همان بخشی است که واقعاً میتوانید بهترش کنید.
- زمان تا تکمیل، به ازای هر جستوجو، همراه با هویت تأمینکنندهای که آن را بست. اگر یک تأمینکننده همیشه آخر است، این یک گفتوگوی بودجه است، نه یک مسئلهٔ مهندسی.
- زمان پاسخ هر تأمینکننده، به صورت توزیع نه میانگین، برچسبخورده با مسیر و ساعت روز. تأمینکنندهای که صبح خوب است و شب کُند، روی میانگین خوب به نظر میرسد و نیست.
- timeout به عنوان یک دستهٔ نتیجه، شمردهشده کنار «نتیجه برگرداند» و «خالی برگرداند»، به ازای هر تأمینکننده. timeout نتیجهای است که نگرفتهاید و جایش در همان نموداری است که نتایج گرفتهشده هستند.
- زمان پسپردازش خودتان، جداگانه. وقتی این رشد میکند، مشکل کد دارید. وقتی انتظار تأمینکننده رشد میکند، یک گفتوگو دارید.
- تعداد جستوجو به ازای هر رزرو، به ازای هر تأمینکننده و هر tenant. هر جستوجویی که میفرستید ظرفیت تأمینکننده را مصرف میکند و بیشتر قراردادها به این نسبت حساساند. اصلاح تأخیری که با تلاش مجدد حجم جستوجو را دو برابر کند، عدد را بدتر کرده، نه بهتر.
در نقطهای هم که کاربر میبیند بسنجید. سروری که جستوجوهای سریع گزارش میکند در حالی که مرورگر منتظر یک مرحلهٔ serialize کُند است، همزمان راست میگوید و شما را گمراه میکند.
اگر اشتباه کنید چه از دست میدهید
هزینهٔ آشکار همانی است که در تیکت است: کاربری که منتظر میماند و بعد میرود. هزینههای کمتر آشکار تجاریاند. یک timeout سراسری که خیلی کوتاه تنظیم شده، بیصدا در هر جستوجو یک تأمینکننده را از نتایج حذف میکند، و شما فقط وقتی میفهمید که account manager میپرسد چرا رزروها متوقف شده. تکرار کل fan-out نسبت جستوجو به رزرو را دو برابر میکند، و تأمینکنندگانی که این نسبت را میسنجند با محدود کردن شما یا با صدور صورتحساب پاسخ میدهند. مرتبسازی دوبارهٔ یک فهرست تدریجی زیر نشانگر کاربر به کلیک اشتباه روی نرخ اشتباه میانجامد، که تبدیل به تیکت پشتیبانی و گاهی بازپرداخت میشود. و یک داشبورد مبتنی بر میانگین اجازه میدهد هر سه اتفاق بیفتد در حالی که عددش سبز میماند.
هیچکدام از اینها با سریعتر کردن کد شما حل نمیشود. با این حل میشود که به ازای هر تأمینکننده تصمیم بگیرید چقدر منتظر میمانید، آنچه دارید را در حین انتظار به کاربر نشان دهید، و چیزی را بسنجید که واقعاً تکان خورده. سریعتر کردن کد ارزشش را دارد. فقط آن بخشی نیست که اشتباه بود.