Llamaindex·工具链 · 为什么 llamaindex-tools 的这类写法在生产环境会变慢？源码级解释

先说背景。我们的场景是 llamaindex-tools + 三个下游服务，日均请求量七位数，峰值集中在晚上九点前后。

// 最小复现：注意这里必须用真实的长尾分布，
// 均匀分布的压测流量不会触发这个问题
func (s *Server) handle(ctx context.Context) error {
    conn, err := s.pool.Acquire(ctx)
    if err != nil {
        return fmt.Errorf("acquire: %w", err)
    }
    defer conn.Release()

    return s.do(ctx, conn)
}

真正让我意外的是长尾。平均值一直很漂亮，P99 却在某个阈值之后直接跳了一个数量级。原因不在 llamaindex-tools 本身，而是我们上游的连接复用没做好，压测流量太「干净」，掩盖了长尾请求。

关于取舍，我的判断是：如果团队里没有人长期盯这块，就不要引入第二套机制。两套并存的时候，出问题时你甚至要先花时间判断「这次是哪个在起作用」，那个成本比性能损失高得多。

最后提醒一个坑：容器环境下一定要记得同步调整内存相关的参数，否则宿主机的限制和进程内部的预期会对不上，表现就是偶发的、无法复现的失败。