11
kafka-en 的内存占用为什么比同类高出一倍?
先说背景。我们的场景是 kafka-en + 三个下游服务,日均请求量七位数,峰值集中在晚上九点前后。
监控这块我们也顺手改了:把原来的平均值告警换成分位数,并且按接口拆分。改完之后误报少了大概七成,值班同学的怨气肉眼可见地下降了。
顺便说一句,官方文档里这段其实有写,只是藏在一个很不起眼的位置。我是在翻源码注释的时候才发现的,注释里作者解释了为什么这么设计 —— 大意是「为了在极端情况下退化成可预期的行为」。
6 条评论
先说背景。我们的场景是 kafka-en + 三个下游服务,日均请求量七位数,峰值集中在晚上九点前后。
监控这块我们也顺手改了:把原来的平均值告警换成分位数,并且按接口拆分。改完之后误报少了大概七成,值班同学的怨气肉眼可见地下降了。
顺便说一句,官方文档里这段其实有写,只是藏在一个很不起眼的位置。我是在翻源码注释的时候才发现的,注释里作者解释了为什么这么设计 —— 大意是「为了在极端情况下退化成可预期的行为」。
楼主这个排查思路值得学习。我们之前是直接从日志下手,绕了很大一圈。
这个结论和我们线上的观察一致。我们是在 QPS 到 3k 之后才撞上这个问题的,前压测阶段完全看不出来——因为压测流量太「干净」了,没有长尾请求。
楼主说的第 3 点我有不同看法。这里的取舍取决于你的读写比:读多写少的话,加缓存反而会放大不一致窗口。
补充一个反例:如果 kafka-en 的版本低于 7.4,这段代码的语义是不一样的,别照抄。我们在灰度环境踩过,回滚了一次。
刚翻了下 kafka-en 的源码,作者在注释里其实解释过为什么这么设计,大意是「为了在极端情况下退化成可预期行为」。
这里其实有个更简单的做法,不需要改架构:把这一层判断提前到网关,问题就消失了。代价是网关会多一次查表。
这是帖子详情页 /zh-CN/c/kafka-en/post/p5。帖子与评论都由种子随机数确定性生成 —— 同一个帖子每次打开内容一致,因此可以直接分享链接、刷新、被搜索引擎收录。真实实现里这一页是 MySQL 读帖子 + Redis 缓存热帖 + 评论树按 path 字段一次性取出。
看数据表设计 →