Reise-API-Latenz: was Sie beheben können und was nicht

Das Ticket besteht aus zwei Wörtern: „Suche langsam". Sie öffnen den Trace für einen Hin- und Rückflug Frankfurt–Dubai, und Ihr eigener Code ist ein schmaler Streifen am Anfang und ein weiterer am Ende. Alles dazwischen ist Warten: auf ein GDS, auf zwei NDC-Airlines, auf einen Hotelaggregator, der antwortet, wann es ihm passt. Reise-API-Latenz ist das einzige Performance-Problem, bei dem der Profiler beharrlich auf Code zeigt, den Sie nicht geschrieben haben und nicht deployen können. Das verändert, was „beheben" überhaupt bedeutet, und der größte Teil des Aufwands, den Teams hineinstecken, landet in der falschen Hälfte.
Wohin die Reise-API-Latenz bei einer Suche über mehrere Lieferanten wirklich geht
Eine einzelne Flugsuche in einer Buchungsmaschine ist nicht ein Request, sondern ein Fan-out. Die Maschine nimmt Abflug, Ziel, Daten und Passagiermix, baut für jede Quelle, die sie auf dieser Strecke abfragen darf, einen lieferantenspezifischen Request, schickt alle gleichzeitig los und wartet. Jeder Lieferant hat seine eigene Uhr: eine GDS-Session, die warm war oder nicht, ein NDC-Gateway, das auf Airline-Seite neu bepreist, eine Bedbank, die ihrerseits an die Channel-Manager dahinter ausfächert. Das Ergebnis, das Sie dem Nutzer zeigen können, ist nach unten durch den langsamsten Lieferanten begrenzt, auf den Sie zu warten beschlossen haben, nicht durch den Durchschnitt.
Das ist das Erste, was man verinnerlichen muss. Ein zusätzlicher Lieferant macht eine vollständige Suche nie schneller. Er fügt nur eine weitere Spur hinzu, die frei sein muss, bevor die Ergebnismenge „fertig" ist.
Dann kommen die Antworten zurück, und die Arbeit beginnt, die Ihnen wirklich gehört: eine große XML- oder JSON-Nutzlast pro Lieferant parsen, deren Flughafen-, Airline- und Tarifcodes auf Ihre abbilden, dieselbe Verbindung deduplizieren, die drei Quellen zu drei Preisen zurückgegeben haben, die Markup-Regeln des anfragenden Mandanten anwenden, in EUR umrechnen, sortieren. Auf einer stark frequentierten Strecke ist diese Phase nicht umsonst, und sie ist die eine Stelle, an der ein Profiler Ihnen etwas sagt, womit Sie arbeiten können. Die Hotelseite haben wir in Hotel-Verfügbarkeits-API: Design für langsame Lieferanten behandelt; die Flugseite hat dieselbe Form, nur mit mehr Codes zum Mappen.
Die ehrliche Zerlegung einer langsamen Suche sind also drei Töpfe:
- Lieferantenwartezeit: die längste einzelne Antwort. Sie kontrollieren sie nicht.
- Ihre Nachverarbeitung: parsen, mappen, deduplizieren, bepreisen, sortieren. Die kontrollieren Sie vollständig.
- Auslieferung: das zusammengeführte Ergebnis serialisieren und zum Browser bringen. Meist klein, gelegentlich die Überraschung.
Die Hälfte, die Sie beheben können, und die Hälfte, die Sie in Ruhe lassen sollten
Fangen Sie beim zweiten Topf an, denn der gehört Ihnen. Die üblichen Befunde, in der Reihenfolge ihres Auftauchens: ein Mapping-Schritt, der jeden Flughafencode einzeln in der Datenbank nachschlägt, statt die Tabelle einmal zu laden; eine Währungsumrechnung, die den Kursdienst pro Tarif statt pro Suche aufruft; eine Deduplizierung, die jede Verbindung mit jeder anderen vergleicht; eine Serialisierung, die den Objektgraphen für jeden Mandanten neu durchläuft. Nichts davon ist exotisch. Alles lässt sich in einem Sprint beheben, und die Korrektur hält.
Verbindungsmanagement ist die andere Stelle, an der der Gewinn echt ist. Ein frischer TLS-Handshake zum Lieferanten bei jeder Suche ist reiner Overhead; ein Pool warmer, über Suchen hinweg offen gehaltener Verbindungen beseitigt ihn. GDS-Sessions insbesondere sind teuer im Aufbau und billig in der Wiederverwendung, weshalb Session-Management in dieser Welt ein Produktmerkmal ist und kein Implementierungsdetail.
Nun die Hälfte, die man loslassen sollte. Sie können einen Lieferanten nicht schneller antworten lassen. Sie können Ihren Account-Manager bedrängen, und manchmal wird eine Strecke auf einen schnelleren Knoten verlegt, aber die Antwortzeit eines fremden Systems ist keine Variable in Ihrem Deployment. Teams, die das vergessen, verbringen Quartale damit, ihre eigene Nachverarbeitung von einem schmalen Streifen auf einen schmaleren zu hobeln, während die Lieferantenwartezeit, die den Großteil der Gesamtzeit ausmachte, sich keinen Millimeter bewegt hat. Der Profiler war ehrlich zu ihnen. Sie haben nur weiter den Teil optimiert, den er für in Ordnung erklärt hatte.
Was Sie bei einem langsamen Lieferanten tun können, ist zu entscheiden, wie lange Sie bereit sind, auf ihn zu warten, und was der Nutzer währenddessen sieht. Davon handelt der Rest.
Progressives Rendern ist die ehrliche Antwort
Wenn die vollständige Ergebnismenge durch den langsamsten Lieferanten begrenzt ist, dann ist der einzige Weg, dem Nutzer früher etwas zu zeigen, nicht mehr auf die Vollständigkeit zu warten. Zeigen Sie die Ergebnisse des ersten Lieferanten, der antwortet. Fügen Sie die des nächsten hinzu, wenn sie eintreffen. Lassen Sie den Nutzer lesen, filtern und vergleichen, während die Nachzügler noch unterwegs sind. Das ist progressives Rendern, und es ist kein Trick, sondern eine genaue Abbildung dessen, was auf dem Server tatsächlich passiert.
Es hat Konsequenzen, die man besser entwirft als entdeckt:
- Sortierstabilität. Eine nach Preis sortierte Liste, die sich bei jedem eintreffenden Lieferanten neu sortiert, verschiebt den Tarif, den der Nutzer gerade anklicken wollte. Fügen Sie neue Ergebnisse an ihrer Stelle ein oder sammeln Sie sie und lassen Sie den Nutzer sie nachladen, aber mischen Sie nicht unter dem Cursor um.
- „Günstigster" ist vorläufig. Bis der letzte Lieferant da ist, ist jede Behauptung über den niedrigsten Tarif eine Behauptung über die Lieferanten, die geantwortet haben. Die Oberfläche sollte diesen Zustand sichtbar machen, statt Vollständigkeit vorzutäuschen.
- Der Buchungsschritt muss nachprüfen. Ein Tarif aus einer frühen Antwort kann weg sein, wenn der Nutzer klickt. Das gilt auch in nicht-progressiven Designs, aber progressives Rendern vergrößert das Fenster. Der Artikel zur Buchungsintegration behandelt die Neubepreisung; sie ist hier nicht optional.
- Caching wird einfacher, nicht schwerer. Ergebnisse pro Lieferant lassen sich mit Lebensdauern pro Lieferant cachen. Die statischen Raten einer Bedbank können Stunden leben, ein NDC-Angebot Minuten. Ein monolithisches zusammengeführtes Ergebnis zwingt allen die kürzeste Lebensdauer auf.
Die API-Form, die das trägt, ist eine Suche, die sofort einen Bezeichner zurückgibt und den Client die Ergebnisse abholen oder abonnieren lässt, sobald sie eintreffen, wobei jedes Paket mit seiner Quelle markiert ist und ein Flag sagt, ob die Suche noch offen ist. Die Flug- und Hotel-APIs der Plattform sind um diese Form herum gebaut; die Seite zu den Reise-APIs beschreibt die Schnittstellen, und der Zugang beginnt mit einem Gespräch statt mit einem Self-Service-Schlüssel, bringen Sie also Ihre Fragen mit.
Timeouts pro Lieferant, nicht pro Request
Ein Timeout für die gesamte Suche ist der häufigste Fehler in dieser Schicht, und er ist in beide Richtungen gleichzeitig falsch. Setzen Sie ihn kurz, wird ein langsamer, aber wertvoller Lieferant bei jeder Suche abgeschnitten, und Sie hören still auf, sein Inventar zu verkaufen. Setzen Sie ihn lang, hält ein einziger hängender Lieferant jedes Ergebnis als Geisel, auch die, die sofort da waren.
| Entscheidung | Ein Timeout für die ganze Suche | Ein Budget pro Lieferant |
|---|---|---|
| Ein Lieferant hängt | Alle warten, dann scheitern alle oder alle werden abgeschnitten | Dieser Lieferant fällt aus dieser Suche heraus; der Rest wird gezeigt |
| Ein langsamer Lieferant mit guten Tarifen | Entweder immer ausgeschlossen oder bremst immer die Seite | Bekommt ein längeres Budget als die schnellen und wird spät gerendert |
| Wiederholen | Das ganze Fan-out wiederholen und die Last auf Lieferanten verdoppeln, die schon geantwortet haben | Nur den wiederholen, der gescheitert ist, falls es sich überhaupt lohnt |
| Was der Nutzer sieht | Spinner, dann alles oder ein Fehler | Ergebnisse, die sich füllen, und ein „wird noch gesucht"-Zustand, der irgendwann schließt |
| Was der Betrieb sieht | „Suche abgelaufen", ohne Hinweis auf die verursachende Quelle | Eine Timeout-Zählung pro Lieferant, die neben dessen Namen stehen kann |
| Feinjustierung | Eine Zahl, über die ewig gestritten wird | Eine Zahl pro Lieferant, aus dessen eigener Historie abgeleitet |
Im Budget pro Lieferant wohnt auch die kommerzielle Realität. Ein Lieferant, dessen Tarife selten gewählt werden, verdient nicht dieselbe Geduld wie der, der auf einer Strecke die meisten Ihrer Buchungen gewinnt. Die Nettotarife eines Konsolidators auf einer Strecke Deutschland–Türkei sind das Warten vielleicht wert; eine vierte Bedbank, die dieselben Hotels liefert wie die ersten drei, nicht. Das Budget ist eine Produktentscheidung in Zahlenform, pro Lieferant zu setzen, pro Mandant, wenn die Mandanten sich unterscheiden, und regelmäßig zu überprüfen.
Zwei Verfeinerungen, die sich selbst bezahlen. Erstens ist ein Budget nicht nur ein Maximum: ein Lieferant, der in einem Bruchteil seines Budgets, aber mit leerer Menge antwortet, ist ein anderes Signal als einer, der abläuft, und beide sollten getrennt gezählt werden. Zweitens gehören Wiederholungen auf die Lieferantenebene und sollten selten sein. Eine Suche bei einem Lieferanten zu wiederholen, der gerade abgelaufen ist, bedeutet meist zwei Suchen in dessen Warteschlange, was auch die nächste verlangsamt, und bei abrechnungspflichtigen Verträgen kostet es Geld.
Was messen, damit die Zahl etwas bedeutet
„Durchschnittliche Suchzeit" ist die Zahl, die alle berichten, und die, die am wenigsten sagt. Sie vermischt eine gecachte Hotelabfrage mit einem internationalen Fan-out über sechs Lieferanten, sie verbirgt den Lieferanten, der die Ursache ist, und sie bewegt sich, wenn sich der Traffic-Mix verschiebt, nicht wenn Ihr Code sich ändert. Ersetzen Sie sie durch eine kleine Menge von Messungen, die jeweils eine Frage beantworten.
- Zeit bis zum ersten Ergebnis, pro Suche. Das erlebt der Nutzer als Geschwindigkeit. Sie ist durch Ihren schnellsten Lieferanten plus Ihren eigenen Overhead begrenzt, also durch den Teil, den Sie tatsächlich verbessern können.
- Zeit bis zur Vollständigkeit, pro Suche, mit der Identität des Lieferanten, der sie geschlossen hat. Ist ein Lieferant immer der letzte, ist das ein Budgetgespräch, kein Engineering-Thema.
- Antwortzeit pro Lieferant, als Verteilung, nicht als Mittelwert, markiert nach Strecke und Tageszeit. Ein Lieferant, der morgens in Ordnung und abends langsam ist, sieht im Durchschnitt in Ordnung aus und ist es nicht.
- Timeouts als Ergebnisklasse, pro Lieferant neben „Ergebnisse geliefert" und „leer geliefert" gezählt. Ein Timeout ist ein Ergebnis, das Sie nicht bekommen haben, und es gehört in dieselbe Grafik wie die, die Sie bekommen haben.
- Ihre eigene Nachverarbeitungszeit, separat. Wächst sie, haben Sie ein Codeproblem. Wächst die Lieferantenwartezeit, haben Sie ein Gespräch vor sich.
- Suchen pro Buchung, pro Lieferant und pro Mandant. Jede Suche, die Sie schicken, kostet den Lieferanten Kapazität, und die meisten Verträge achten auf dieses Verhältnis. Ein Latenz-Fix, der Ihr Suchvolumen durch Wiederholungen verdoppelt, hat die Zahl verschlechtert, nicht verbessert.
Messen Sie auch an dem Punkt, an dem der Nutzer es sieht. Ein Server, der schnelle Suchen meldet, während der Browser auf einen langsamen Serialisierungsschritt wartet, sagt die Wahrheit und führt Sie gleichzeitig in die Irre.
Was es Sie kostet, wenn Sie es falsch machen
Die offensichtlichen Kosten stehen im Ticket: ein Nutzer, der wartet und dann geht. Die weniger offensichtlichen sind kommerziell. Ein einzelner, zu kurz gesetzter Such-Timeout entfernt bei jeder Suche still einen Lieferanten aus Ihren Ergebnissen, und Sie erfahren es erst, wenn der Account-Manager fragt, warum die Buchungen aufgehört haben. Ganze Fan-outs zu wiederholen verdoppelt Ihre Suchen pro Buchung, und Lieferanten, die dieses Verhältnis messen, reagieren mit Drosselung oder mit einer Rechnung. Eine progressive Liste unter dem Cursor des Nutzers neu zu sortieren erzeugt Fehlklicks auf den falschen Tarif, die zu Support-Tickets und manchmal zu Erstattungen werden. Und ein Dashboard auf Durchschnittsbasis lässt alle drei Dinge geschehen, während seine Zahl grün bleibt.
Nichts davon wird gelöst, indem Sie Ihren Code schneller machen. Es wird gelöst, indem Sie pro Lieferant entscheiden, wie lange Sie warten, dem Nutzer währenddessen zeigen, was Sie haben, und das messen, was sich tatsächlich bewegt hat. Die Code-Beschleunigungen lohnen sich. Sie waren nur nicht der Teil, der falsch war.