跳到主要内容
博客

旅游API延迟:哪些能修,哪些修不了

Tekravel 编辑部
借助 AI 撰写

工单上只有四个字:“搜索太慢”。你打开一次上海–迪拜往返搜索的调用链路,自己的代码只占开头一小条、结尾一小条,中间全是等待:等一个GDS,等两家走NDC的航空公司,等一家想什么时候回就什么时候回的酒店聚合商。旅游API延迟是唯一一种性能问题,性能分析器总是指向你没写过、也没法部署的代码。这改变了“修复”本身的含义,而大多数团队的精力都花在了错的那一半上。

多供应商搜索里,旅游API延迟到底花在哪

预订引擎上的一次机票搜索不是一个请求,而是一次扇出。引擎拿到出发地、目的地、日期和乘客构成,为这条航线上每一个允许查询的来源构造一个供应商专属请求,同时发出去,然后等。每个供应商都有自己的时钟:GDS会话是热的还是冷的,NDC网关正在航司那边重新定价,床位批发商自己又要向身后的渠道管理系统再扇出一层。你能展示给用户的结果,下限由你决定等待的最慢供应商决定,而不是由平均值决定。

这是第一件要吃透的事。增加一个供应商永远不会让完整搜索变快,只会多一条必须跑完的车道,整个结果集才算“完成”。

然后响应回来了,真正属于你的工作开始:解析每个供应商返回的大体积XML或JSON,把对方的机场、航司和运价代码映射到你的代码表,把三个来源以三个价格返回的同一行程去重,套用发起查询那家租户的加价规则,换算成人民币,再排序。在繁忙航线上这一段并不便宜,也是性能分析器唯一能给出可操作信息的地方。酒店那一侧我们在为慢供应商设计酒店房态客户端里写过;机票这一侧结构相同,只是要映射的代码更多。

所以一次慢搜索的诚实拆分是三个桶:

  • 供应商等待:单个供应商最长的那次响应。你控制不了。
  • 你的后处理:解析、映射、去重、定价、排序。全在你手里。
  • 交付:把合并结果序列化并送到浏览器。通常很小,偶尔是意外。

能修的那一半,和该停手的那一半

从第二个桶开始,因为它是你的。常见发现,按出现顺序:映射步骤逐个到数据库查机场代码,而不是把表一次性加载;汇率换算按每条运价调一次汇率服务,而不是每次搜索调一次;去重逻辑把每条行程和其他所有行程两两比较;序列化为每个租户重新遍历一遍对象图。这些都不稀奇,一个迭代就能修完,修完就是修完了。

连接管理是另一个收益真实的地方。每次搜索都和供应商重新做一次TLS握手,是纯粹的浪费;一个跨搜索保活的热连接池就能消掉它。GDS会话尤其是打开贵、复用便宜,所以在那个世界里会话管理是产品功能,而不是实现细节。

再说该停手的那一半。你没法让供应商回得更快。你可以催客户经理,有时某条航线会被挪到更快的节点上,但别人系统的响应时间不是你部署里的变量。忘记这一点的团队会花好几个季度把自己的后处理从一小条削成更小的一条,而占总时长大头的供应商等待一毫米都没动。分析器对他们是诚实的,他们只是一直在优化它说没问题的那部分。

面对慢供应商,你能做的是决定愿意等它多久,以及等的时候用户看到什么。这篇文章剩下的部分就讲这个。

渐进式渲染才是诚实的答案

如果完整结果集受最慢供应商限制,那么让用户更早看到东西的唯一办法,就是不再等结果集完整。先展示第一个回应的供应商的结果。下一个供应商的结果到了就追加。让用户在掉队者还在路上时就开始阅读、筛选、比较。这就是渐进式渲染,它不是技巧,而是对服务器上实际发生的事的如实呈现。

它有一些后果,值得提前设计而不是事后发现:

  • 排序稳定性。一个按价格排序、每来一个供应商就重排一次的列表,会把用户正要点的那条运价挪走。把新结果原位插入,或者先攒着让用户主动拉取,但别在光标底下洗牌。
  • “最便宜”是暂时的。最后一个供应商回来之前,任何最低价的说法都只是关于已回应供应商的说法。界面应该把这个状态显示出来,而不是假装已经完整。
  • 预订步骤必须重新核价。早期响应里展示的运价,等用户点击时可能已经没了。非渐进式设计也有这个问题,但渐进式渲染把窗口拉大了。机票预订对接那篇讲了重新定价这一步,在这里它不是可选项。
  • 缓存变简单了,不是变难了。按供应商划分的结果可以按供应商设置各自的存活时间。床位批发商的静态价可以活几个小时,NDC报价只能活几分钟。一个整体合并的结果会把最短存活时间强加给所有人。

支撑这种做法的API形态,是搜索立即返回一个标识符,客户端随结果到达轮询或订阅,每批结果标注来源,并带一个表示搜索是否仍在进行的标志。平台自己的机票和酒店API就是围绕这种形态设计的;旅游API页面描述了各个接口,接入从一次沟通开始,而不是自助领取密钥,所以把问题一起带来。

超时按供应商设,不按请求设

给整个搜索设一个超时,是这一层最常见的错误,而且两个方向同时都错。设短了,一个慢但有价值的供应商每次搜索都被切掉,你悄无声息地不再卖它的库存;设长了,一个挂住的供应商把所有结果都当人质,包括那些瞬间就到的。

决策整个搜索一个超时每个供应商一份时间预算
一个供应商挂住所有人一起等,然后一起失败或一起被切断这次搜索剔除该供应商,其余照常展示
价格好的慢供应商要么永远被排除,要么永远拖慢页面给它比快供应商更长的预算,晚一点渲染
重试整个扇出重来,已经回应过的供应商负载翻倍只重试失败的那个,而且前提是值得重试
用户看到的转圈,然后要么全有要么报错结果逐步填充,一个“仍在搜索”的状态最终关闭
运维看到的“搜索超时”,看不出是哪个来源导致的每个供应商一个超时计数,可以放在它名字旁边
调参一个数字,永远争不完每个供应商一个数字,从它自己的历史里得出

按供应商设预算,也是商业现实落地的地方。一个运价很少被选中的供应商,不配得到和一条航线上赢下你大多数订单的供应商同样的耐心。一家票务批发商在中国–东南亚航线上的净价可能值得等;第四家返回和前三家一模一样酒店的床位批发商则不值得。预算是用数字表达的产品决策,应该按供应商设定,租户不同就按租户设定,并定期复核。

两个自己就能回本的细化。第一,预算不只是上限:一个在预算很小一部分时间内就返回、但返回空集的供应商,和一个超时的供应商是两种不同的信号,应该分开统计。第二,重试属于供应商层面,而且应该很少。对刚超时的供应商再发一次搜索,通常意味着对方队列里排着两次搜索,下一次也会更慢,在按量计费的合同下还要花钱。

测什么,数字才有意义

“平均搜索时长”是人人都报、却最说明不了问题的数字。它把一次命中缓存的酒店查询和一次六供应商的国际扇出混在一起,藏起了肇事的供应商,而且随流量构成变化而动,不随你的代码变化而动。换成一小组指标,每个只回答一个问题。

  1. 首个结果时间,按搜索计。这是用户体感的速度。它受你最快的供应商加上你自己的开销限制,也就是你真正能改善的部分。
  2. 完成时间,按搜索计,并记录是哪个供应商收尾的。如果总是同一个供应商最后到,那是预算问题,不是工程问题。
  3. 每个供应商的响应时间,看分布而不是平均值,按航线和时段打标。一个早上正常、晚上很慢的供应商在平均值上看起来正常,实际并不正常。
  4. 把超时当作一种结果类别,和“返回了结果”“返回为空”并列,按供应商统计。超时是你没拿到的结果,它应该和拿到的结果画在同一张图上。
  5. 你自己的后处理时间,单独统计。它涨了,你有代码问题;供应商等待涨了,你需要去谈一谈。
  6. 每笔预订对应的搜索次数,按供应商和租户统计。你发出的每次搜索都在消耗供应商的容量,大多数合同都在意这个比例。靠重试把搜索量翻倍的“延迟优化”,是把这个数字做坏了,不是做好了。

也要在用户看到的那个点上测。服务器报告搜索很快,浏览器却在等一步慢吞吞的序列化,这样的服务器说的是真话,同时也在误导你。

做错了要付什么代价

明显的代价就在工单里:用户等了一会儿,然后走了。不明显的代价是商业上的。一个设得太短的全局超时,会在每次搜索里悄悄把一个供应商从结果里抹掉,直到客户经理来问为什么订单停了你才知道。整个扇出重试,让每笔预订对应的搜索次数翻倍,计量这个比例的供应商会限流或者开账单。在用户光标下重排渐进列表,会产生点错运价的误操作,变成客服工单,有时变成退款。而一个基于平均值的看板,会让这三件事同时发生,数字却一直是绿的。

这些都不是靠把代码写快解决的。解决的办法是按供应商决定等多久,等的时候把已有的结果给用户看,并且去测真正在变的那个东西。代码提速值得做,只是出问题的不是那一部分。

Tekravel 编辑部

旅游技术组

Tekravel 旅游技术组面向业内读者写作:代理商老板、票代批发商,以及为他们做对接的开发者。每篇文章在发布前都会在其所描述的平台上核对。