开源了一个 hlsl-perf 的限流中间件,支持令牌桶与滑动窗口
网上关于 hlsl-perf 的文章大多停在「怎么用」,很少有人写「什么时候不该用」。这篇想补上后半句。
-- 出问题的那条查询:在 2000 万行上做了全表扫描 -- 加复合索引后 P99 从 1.8s 降到 42ms SELECT id, title, created_at FROM posts WHERE community_id = ? AND status = 1 ORDER BY score DESC LIMIT 20;
第一件事是把变量收敛干净。我们最开始同时在改配置和升级版本,结果两组数据的差异根本说不清是哪个带来的。后来回滚到只动一个变量,重跑了三遍,曲线才稳定下来。这一步很枯燥,但省不掉。
真正让我意外的是长尾。平均值一直很漂亮,P99 却在某个阈值之后直接跳了一个数量级。原因不在 hlsl-perf 本身,而是我们上游的连接复用没做好,压测流量太「干净」,掩盖了长尾请求。
关于取舍,我的判断是:如果团队里没有人长期盯这块,就不要引入第二套机制。两套并存的时候,出问题时你甚至要先花时间判断「这次是哪个在起作用」,那个成本比性能损失高得多。
监控这块我们也顺手改了:把原来的平均值告警换成分位数,并且按接口拆分。改完之后误报少了大概七成,值班同学的怨气肉眼可见地下降了。