ट्रैवल API लेटेंसी: क्या सुधार सकते हैं, क्या नहीं

टिकट में बस इतना लिखा है: "सर्च स्लो है।" आप दिल्ली–दुबई राउंड ट्रिप का ट्रेस खोलते हैं, और आपका अपना कोड शुरू में एक पतली पट्टी है और अंत में एक और। बीच का सब कुछ इंतज़ार है: एक GDS का, दो NDC एयरलाइनों का, एक होटल एग्रीगेटर का जो जब मन करे तब जवाब देता है। ट्रैवल API लेटेंसी अकेली ऐसी परफ़ॉर्मेंस समस्या है जहाँ प्रोफ़ाइलर बार-बार उस कोड की ओर इशारा करता है जो आपने लिखा ही नहीं और जिसे आप डिप्लॉय नहीं कर सकते। इससे "ठीक करने" का मतलब ही बदल जाता है, और टीमें जो मेहनत इस पर लगाती हैं उसका ज़्यादातर हिस्सा गलत आधे में चला जाता है।
कई सप्लायरों वाली सर्च में ट्रैवल API लेटेंसी असल में कहाँ जाती है
बुकिंग इंजन पर एक फ़्लाइट सर्च एक रिक्वेस्ट नहीं होती, एक फ़ैन-आउट होती है। इंजन ओरिजिन, डेस्टिनेशन, तारीख़ें और यात्री मिश्रण लेता है, उस रूट पर जिन स्रोतों से पूछने की अनुमति है उन सबके लिए सप्लायर-विशेष रिक्वेस्ट बनाता है, सब एक साथ भेजता है, और इंतज़ार करता है। हर सप्लायर की अपनी घड़ी है: GDS सेशन जो गर्म था या नहीं, NDC गेटवे जो एयरलाइन की तरफ़ दोबारा प्राइस कर रहा है, एक बेडबैंक जो अपने पीछे के चैनल मैनेजरों को खुद फ़ैन-आउट कर रहा है। जो नतीजा आप यूज़र को दिखा सकते हैं उसकी निचली सीमा उस सबसे धीमे सप्लायर से तय होती है जिसका आपने इंतज़ार करना चुना, औसत से नहीं।
यह पहली बात है जो गाँठ बाँध लेनी चाहिए। सप्लायर जोड़ने से पूरी सर्च कभी तेज़ नहीं होती। वह बस एक और लेन जोड़ता है जिसे "पूरा" कहलाने से पहले खाली होना है।
फिर जवाब लौटते हैं और वह काम शुरू होता है जो सचमुच आपका है: हर सप्लायर से आया बड़ा XML या JSON पार्स करना, उनके एयरपोर्ट, एयरलाइन और फ़ेयर कोड अपने कोड से मैप करना, वही यात्रा-क्रम जो तीन स्रोतों ने तीन दामों पर लौटाया उसे डीडुप्लिकेट करना, पूछने वाले टेनेंट के मार्कअप नियम लगाना, रुपये में बदलना, और छाँटना। व्यस्त रूट पर यह चरण मुफ़्त नहीं है, और यही एकमात्र जगह है जहाँ प्रोफ़ाइलर कुछ ऐसा बताएगा जिस पर काम हो सके। होटल वाला पक्ष हमने धीमे सप्लायरों के लिए होटल उपलब्धता क्लाइंट का डिज़ाइन में लिखा था; फ़्लाइट वाला पक्ष उसी आकार का है, बस मैप करने को कोड ज़्यादा हैं।
तो धीमी सर्च का ईमानदार बँटवारा तीन बाल्टियाँ हैं:
- सप्लायर का इंतज़ार: किसी एक सप्लायर का सबसे लंबा जवाब। यह आपके नियंत्रण में नहीं।
- आपकी पोस्ट-प्रोसेसिंग: पार्स, मैप, डीडुप, प्राइस, सॉर्ट। यह पूरी तरह आपके नियंत्रण में।
- डिलीवरी: मिला-जुला नतीजा सीरियलाइज़ करके ब्राउज़र तक पहुँचाना। आमतौर पर छोटा, कभी-कभी चौंकाने वाला।
जो आधा आप ठीक कर सकते हैं, और जो आधा ठीक करने की कोशिश छोड़ देनी चाहिए
दूसरी बाल्टी से शुरू करें, क्योंकि वह आपकी है। आम तौर पर मिलने वाली चीज़ें, उसी क्रम में जिसमें दिखती हैं: एक मैपिंग स्टेप जो टेबल एक बार लोड करने के बजाय हर एयरपोर्ट कोड डेटाबेस से एक-एक करके पूछता है; करेंसी कन्वर्ज़न जो प्रति सर्च के बजाय प्रति फ़ेयर रेट सर्विस को कॉल करता है; एक डीडुप रूटीन जो हर यात्रा-क्रम की हर दूसरे से तुलना करता है; सीरियलाइज़ेशन जो हर टेनेंट के लिए ऑब्जेक्ट ग्राफ़ दोबारा घूमता है। इनमें कुछ भी अनोखा नहीं। सब एक स्प्रिंट में ठीक हो जाता है, और सुधार टिका रहता है।
कनेक्शन हैंडलिंग दूसरी जगह है जहाँ फ़ायदा असली है। हर सर्च पर सप्लायर से नया TLS हैंडशेक शुद्ध ओवरहेड है; सर्चों के बीच ज़िंदा रखा गया गर्म कनेक्शनों का पूल उसे हटा देता है। GDS सेशन ख़ास तौर पर खोलने में महँगे और दोबारा इस्तेमाल में सस्ते हैं, इसीलिए उस दुनिया में सेशन मैनेजमेंट एक प्रोडक्ट फ़ीचर है, इम्प्लीमेंटेशन की बारीकी नहीं।
अब वह आधा जिसे ठीक करना छोड़ना है। आप किसी सप्लायर को तेज़ जवाब देने पर मजबूर नहीं कर सकते। आप अपने अकाउंट मैनेजर पर ज़ोर डाल सकते हैं, और कभी-कभी कोई रूट तेज़ नोड पर चला जाता है, पर किसी और के सिस्टम का रिस्पॉन्स टाइम आपके डिप्लॉयमेंट का वेरिएबल नहीं है। जो टीमें यह भूल जाती हैं वे तिमाहियाँ अपनी पोस्ट-प्रोसेसिंग को पतली पट्टी से और पतली पट्टी बनाने में लगा देती हैं, जबकि सप्लायर का इंतज़ार, जो कुल का ज़्यादातर हिस्सा था, ज़रा भी नहीं हिला। प्रोफ़ाइलर उनसे ईमानदार था। वे बस उसी हिस्से को ऑप्टिमाइज़ करते रहे जिसे उसने ठीक बताया था।
धीमे सप्लायर के बारे में आप जो कर सकते हैं वह यह तय करना है कि उसका कितना इंतज़ार करेंगे, और उस दौरान यूज़र क्या देखेगा। बाक़ी लेख इसी पर है।
प्रोग्रेसिव रेंडरिंग ही ईमानदार जवाब है
अगर पूरा नतीजा सबसे धीमे सप्लायर से बँधा है, तो यूज़र को पहले कुछ दिखाने का एक ही तरीक़ा है: नतीजे के पूरा होने का इंतज़ार बंद करना। जो सप्लायर पहले जवाब दे उसके नतीजे दिखाइए। अगले सप्लायर के नतीजे आने पर जोड़िए। पिछड़े हुए अभी रास्ते में हों तब भी यूज़र को पढ़ने, फ़िल्टर करने और तुलना करने दीजिए। यही प्रोग्रेसिव रेंडरिंग है, और यह कोई चाल नहीं; सर्वर पर जो सचमुच हो रहा है उसका सही चित्रण है।
इसके कुछ नतीजे हैं जिन्हें खोजने के बजाय पहले से डिज़ाइन करना बेहतर है:
- सॉर्ट की स्थिरता। दाम से छँटी सूची जो हर सप्लायर आने पर दोबारा छँटे, वह फ़ेयर हिला देगी जिस पर यूज़र क्लिक करने ही वाला था। नए नतीजे उनकी जगह डालिए, या उन्हें इकट्ठा करके यूज़र को खींचने दीजिए, पर कर्सर के नीचे फेरबदल मत कीजिए।
- "सबसे सस्ता" अस्थायी है। आख़िरी सप्लायर आने तक सबसे कम फ़ेयर का कोई भी दावा सिर्फ़ उन सप्लायरों के बारे में है जिन्होंने जवाब दिया। इंटरफ़ेस को यह स्थिति दिखानी चाहिए, पूर्णता का दिखावा नहीं।
- बुकिंग स्टेप को दोबारा जाँचना ही होगा। शुरुआती जवाब से दिखा फ़ेयर यूज़र के क्लिक करने तक जा चुका हो सकता है। यह गैर-प्रोग्रेसिव डिज़ाइनों में भी सच है, पर प्रोग्रेसिव रेंडरिंग खिड़की बड़ी कर देती है। बुकिंग इंटीग्रेशन वाला लेख री-प्राइस स्टेप बताता है; यहाँ वह वैकल्पिक नहीं है।
- कैशिंग आसान होती है, मुश्किल नहीं। प्रति-सप्लायर नतीजे प्रति-सप्लायर उम्र के साथ कैश हो सकते हैं। बेडबैंक के स्टैटिक रेट घंटों जी सकते हैं; NDC ऑफ़र मिनटों। एक ठोस मिला-जुला नतीजा सबसे छोटी उम्र सब पर थोप देता है।
इसे सहारा देने वाला API आकार वह सर्च है जो तुरंत एक पहचानकर्ता लौटाती है और क्लाइंट को नतीजे आते-आते पोल या सब्सक्राइब करने देती है, हर बैच पर स्रोत का टैग और एक फ़्लैग जो बताए कि सर्च अभी खुली है या नहीं। प्लेटफ़ॉर्म के अपने फ़्लाइट और होटल API इसी आकार के इर्द-गिर्द बने हैं; ट्रैवल API पेज सतहें बताता है, और एक्सेस सेल्फ़-सर्व की के बजाय बातचीत से शुरू होता है, इसलिए सवाल साथ लाइए।
टाइमआउट प्रति सप्लायर, प्रति रिक्वेस्ट नहीं
पूरी सर्च पर एक टाइमआउट इस परत की सबसे आम गलती है, और यह एक साथ दोनों दिशाओं में गलत है। छोटा रखिए, तो धीमा-पर-क़ीमती सप्लायर हर सर्च में कट जाता है और आप चुपचाप उसकी इन्वेंटरी बेचना बंद कर देते हैं। लंबा रखिए, तो एक अटका सप्लायर हर नतीजे को बंधक बना लेता है, उन्हें भी जो तुरंत आ गए थे।
| फ़ैसला | पूरी सर्च का एक टाइमआउट | प्रति सप्लायर बजट |
|---|---|---|
| एक सप्लायर अटक गया | सब इंतज़ार करते हैं, फिर सब फ़ेल या सब कट | वह सप्लायर इस सर्च से हट जाता है; बाक़ी दिखते हैं |
| अच्छे फ़ेयर वाला धीमा सप्लायर | या तो हमेशा बाहर, या हमेशा पेज धीमा करता हुआ | तेज़ वालों से लंबा बजट मिलता है, देर से रेंडर होता है |
| रीट्राई | पूरा फ़ैन-आउट दोबारा, जिन्होंने जवाब दे दिया उन पर लोड दोगुना | सिर्फ़ वही दोबारा जो फ़ेल हुआ, अगर दोबारा करने लायक़ है भी |
| यूज़र क्या देखता है | स्पिनर, फिर सब कुछ या एरर | भरते हुए नतीजे, और "अभी खोज जारी" की स्थिति जो आख़िर बंद होती है |
| ऑपरेशंस क्या देखता है | "सर्च टाइम आउट", बिना यह बताए कौन सा स्रोत ज़िम्मेदार | प्रति सप्लायर टाइमआउट गिनती जो उसके नाम के बगल में रखी जा सके |
| ट्यूनिंग | एक नंबर जिस पर बहस कभी ख़त्म नहीं होती | हर सप्लायर का एक नंबर, उसी के इतिहास से निकला |
प्रति सप्लायर बजट वहीं है जहाँ व्यावसायिक सच्चाई रहती है। जिस सप्लायर के फ़ेयर कम ही चुने जाते हैं वह उतने धैर्य का हक़दार नहीं जितना वह जो किसी रूट पर आपकी ज़्यादातर बुकिंग जीतता है। भारत–खाड़ी रूट पर किसी कंसॉलिडेटर के नेट फ़ेयर इंतज़ार के लायक़ हो सकते हैं; चौथा बेडबैंक जो पहले तीन जैसे ही होटल लौटाता है, नहीं। बजट एक नंबर में लिखा प्रोडक्ट फ़ैसला है, और इसे प्रति सप्लायर, टेनेंट अलग हों तो प्रति टेनेंट, तय करना और दोबारा देखना चाहिए।
दो सुधार जो अपनी क़ीमत खुद चुका देते हैं। पहला, बजट सिर्फ़ अधिकतम नहीं है; जो सप्लायर अपने बजट के छोटे से हिस्से में लौटे पर खाली सेट के साथ, वह टाइमआउट होने वाले से अलग संकेत है, और दोनों अलग गिने जाने चाहिए। दूसरा, रीट्राई सप्लायर स्तर की चीज़ है और दुर्लभ होनी चाहिए। जो सप्लायर अभी-अभी टाइमआउट हुआ उस पर दोबारा सर्च भेजने का मतलब आमतौर पर उनकी क़तार में दो सर्च है, जिससे अगली भी धीमी होती है, और मीटर वाले कॉन्ट्रैक्ट में पैसे लगते हैं।
क्या नापें कि नंबर का कोई मतलब हो
"औसत सर्च समय" वह नंबर है जो सब रिपोर्ट करते हैं और जो सबसे कम बताता है। यह कैश किए होटल लुकअप को छह-सप्लायर अंतरराष्ट्रीय फ़ैन-आउट में मिला देता है, ज़िम्मेदार सप्लायर छिपा देता है, और ट्रैफ़िक मिश्रण बदलने पर हिलता है, आपका कोड बदलने पर नहीं। इसकी जगह नापों का एक छोटा सेट रखिए जिनमें हर एक एक सवाल का जवाब दे।
- पहले नतीजे तक समय, प्रति सर्च। यही यूज़र को गति के रूप में महसूस होता है। इसकी सीमा आपका सबसे तेज़ सप्लायर और आपका अपना ओवरहेड है, यानी वह हिस्सा जिसे आप सचमुच सुधार सकते हैं।
- पूरा होने तक समय, प्रति सर्च, उस सप्लायर की पहचान के साथ जिसने उसे बंद किया। अगर एक सप्लायर हमेशा आख़िरी है, तो यह बजट की बातचीत है, इंजीनियरिंग की नहीं।
- प्रति-सप्लायर रिस्पॉन्स टाइम, औसत नहीं बल्कि वितरण के रूप में, रूट और दिन के समय से टैग किया हुआ। जो सप्लायर सुबह ठीक और शाम को धीमा है वह औसत में ठीक दिखता है और है नहीं।
- टाइमआउट एक नतीजा-वर्ग के रूप में, "नतीजे लौटाए" और "खाली लौटाया" के साथ गिने हुए, प्रति सप्लायर। टाइमआउट वह नतीजा है जो आपको नहीं मिला, और इसकी जगह उसी चार्ट में है जहाँ मिले हुए हैं।
- आपकी अपनी पोस्ट-प्रोसेसिंग का समय, अलग से। यह बढ़े तो आपके पास कोड की समस्या है। सप्लायर का इंतज़ार बढ़े तो आपके पास एक बातचीत है।
- प्रति बुकिंग सर्च, प्रति सप्लायर और प्रति टेनेंट। आपकी भेजी हर सर्च सप्लायर की क्षमता खाती है, और ज़्यादातर कॉन्ट्रैक्ट इस अनुपात की परवाह करते हैं। जो लेटेंसी फ़िक्स रीट्राई से आपकी सर्च संख्या दोगुनी कर दे उसने नंबर बेहतर नहीं, बदतर किया है।
वहाँ भी नापिए जहाँ यूज़र इसे देखता है। जो सर्वर तेज़ सर्च रिपोर्ट करे जबकि ब्राउज़र धीमे सीरियलाइज़ेशन स्टेप का इंतज़ार कर रहा हो, वह सच भी बोल रहा है और आपको गुमराह भी कर रहा है।
गलत करने पर आपको क्या चुकाना पड़ता है
ज़ाहिर क़ीमत टिकट वाली है: यूज़र इंतज़ार करता है, फिर चला जाता है। कम ज़ाहिर क़ीमतें व्यावसायिक हैं। बहुत छोटा रखा गया एक सर्च-व्यापी टाइमआउट हर सर्च में चुपचाप एक सप्लायर आपके नतीजों से हटा देता है, और आपको तब पता चलता है जब अकाउंट मैनेजर पूछता है कि बुकिंग क्यों रुक गईं। पूरे फ़ैन-आउट दोबारा चलाना प्रति बुकिंग सर्च दोगुनी कर देता है, और जो सप्लायर यह अनुपात मापते हैं वे आपको थ्रॉटल करके या बिल भेजकर जवाब देते हैं। यूज़र के कर्सर के नीचे प्रोग्रेसिव सूची दोबारा छाँटना गलत फ़ेयर पर गलत क्लिक पैदा करता है, जो सपोर्ट टिकट और कभी-कभी रिफ़ंड बनते हैं। और औसत पर टिका डैशबोर्ड इन तीनों को होने देता है जबकि उसका नंबर हरा बना रहता है।
इनमें से कुछ भी कोड तेज़ करने से हल नहीं होता। यह हल होता है प्रति सप्लायर यह तय करने से कि कितना इंतज़ार करेंगे, इंतज़ार के दौरान यूज़र को जो है वह दिखाने से, और उस चीज़ को नापने से जो सचमुच हिली। कोड की तेज़ी करने लायक़ है। बस गलत वह हिस्सा नहीं था।