Kafka·English · kafka-en 的内存占用为什么比同类高出一倍?

11
KAr/kafka-en·由 chen_dev 发布·3 小时前公告

kafka-en 的内存占用为什么比同类高出一倍?

先说背景。我们的场景是 kafka-en + 三个下游服务,日均请求量七位数,峰值集中在晚上九点前后。

监控这块我们也顺手改了:把原来的平均值告警换成分位数,并且按接口拆分。改完之后误报少了大概七成,值班同学的怨气肉眼可见地下降了。

顺便说一句,官方文档里这段其实有写,只是藏在一个很不起眼的位置。我是在翻源码注释的时候才发现的,注释里作者解释了为什么这么设计 —— 大意是「为了在极端情况下退化成可预期的行为」。

Bblog.cloudflare.com站外链接 · 点击在新标签页打开
6 条评论

6 条评论

我
Cchen_dev·刚刚

楼主这个排查思路值得学习。我们之前是直接从日志下手,绕了很大一圈。

254
Cchen_dev·12 分钟前已编辑

这个结论和我们线上的观察一致。我们是在 QPS 到 3k 之后才撞上这个问题的,前压测阶段完全看不出来——因为压测流量太「干净」了,没有长尾请求。

253
Sswoole_lee·12 分钟前

楼主说的第 3 点我有不同看法。这里的取舍取决于你的读写比:读多写少的话,加缓存反而会放大不一致窗口。

93
Bbob_chen·刚刚

补充一个反例:如果 kafka-en 的版本低于 7.4,这段代码的语义是不一样的,别照抄。我们在灰度环境踩过,回滚了一次。

1
Lli_ming·3 分钟前

刚翻了下 kafka-en 的源码,作者在注释里其实解释过为什么这么设计,大意是「为了在极端情况下退化成可预期行为」。

4
Rran_bo·28 分钟前

这里其实有个更简单的做法,不需要改架构:把这一层判断提前到网关,问题就消失了。代价是网关会多一次查表。

1

这是帖子详情页 /zh-CN/c/kafka-en/post/p5。帖子与评论都由种子随机数确定性生成 —— 同一个帖子每次打开内容一致,因此可以直接分享链接、刷新、被搜索引擎收录。真实实现里这一页是 MySQL 读帖子 + Redis 缓存热帖 + 评论树按 path 字段一次性取出。

看数据表设计 →