Module 07 · V1.0 · Governance & Moderation

治理与内容审核

让社区自己管好自己,平台只守底线

P0V1.0缺失则产品不成立,必须最先交付

模块目标

要达成什么

构建「成员旗标 → 阈值自动隐藏 → 版主复核 → 管理员兜底」的四层治理闭环,并完整记录所有管理动作以备审计。

为什么必须存在

没有治理,社区会以极快速度被垃圾内容淹没。治理能力必须在用户量起来之前就位,事后补救成本极高。

功能清单

共 10 个功能点,每个功能点给出实现要点,可直接作为开发任务的描述。

举报(Report)

P0

对帖子、评论、用户、私信均可举报;举报时必须选择理由(对应社区规则条目或平台底线规则)。

实现要点:举报进入待审队列;同一目标被多人举报时合并为一条聚合记录,展示举报人数与理由分布。举报人身份对普通用户不可见。

旗标与自动隐藏

P0

借鉴 Discourse:累计举报达到动态阈值时,内容自动折叠/隐藏,等待版主复核。

实现要点:阈值随内容热度动态调整(如 max(3, 阅读量/1000 × 系数)),避免热门内容被少数人误伤,也避免冷门内容无人举报。

版主操作台

P0

版主在社区内直接拥有行内操作:删除、加精、锁定、置顶、设置 Flair、封禁、警告。

实现要点:所有操作在内容行内以盾牌图标菜单触发,操作后立即生效并写入 Mod Log;支持「删除并留下说明」的复合动作。

Mod Log 审计日志

P0

记录每一条管理动作:操作人、动作类型、目标、理由、时间,全社区公开可查。

实现要点:mod_actions 表只追加不修改。公开页面支持按操作人、动作类型、时间筛选。透明化是抑制版主滥权的关键设计。

封禁与申诉

P1

社区级封禁(版主)与平台级封禁(管理员);支持限时封禁与永久封禁;被封禁者可申诉。

实现要点:封禁时必填理由与时长,被封禁者收到通知并附带申诉入口。申诉进入管理员队列,处理结果通知双方。

自动审核规则

P1

关键词黑名单、正则匹配、新账号发帖预审、外链域名黑白名单、重复内容检测。

实现要点:规则支持「拦截 / 进入待审 / 仅标记」三种动作。命中待审的内容对其他用户不可见,作者可见并提示「审核中」。

机器审核(多媒体)

P1

图片鉴黄与暴恐识别、视频抽帧审核、文本敏感词与语义模型判定。

实现要点:机审异步执行,先发布后复查;命中高危直接下架并通知作者与版主。机审只做「高危拦截 + 低危标记」,避免误伤。

反垃圾与反作弊

P1

设备指纹、行为序列异常检测、投票图聚类、批量注册识别、水军团伙识别。

实现要点:识别结果不直接封号,而是降权(votes weight=0、内容不进推荐),降低误伤带来的用户流失。

申诉与复核

P2

被处理内容与封禁账号均可申诉,管理员复核后改判或维持,结果与理由通知当事人。

实现要点:申诉与原始处理记录关联,形成完整的处置链路;改判时同步更新 Mod Log。

社区自治工具

P2

版主公告、社区规则变更通知、版主选举/招募帖、社区健康度看板。

实现要点:健康度看板展示举报量、处理时长、活跃创作者数、新用户留存等指标,帮助版主发现社区问题。

交互设计

3 条关键交互的分步流程,按用户体验顺序描述,可直接作为前端开发与可用性测试脚本。

1

举报流程

  1. 1

    点击内容菜单 → 举报,弹出理由选择列表(社区规则 + 平台底线)。

  2. 2

    可选补充说明(限 500 字),提交后提示「已收到,将尽快处理」。

  3. 3

    若该内容举报数达阈值,自动折叠并显示「因多次举报已折叠 · 点击查看」。

  4. 4

    处理结果通过通知反馈给举报人(可选匿名反馈)。

2

版主处置

  1. 1

    版主在待审队列中查看聚合举报,可看到举报理由分布与内容原文。

  2. 2

    选择动作(删除 / 警告 / 封禁 / 忽略举报),必填理由。

  3. 3

    同时可勾选「发送说明给作者」自动生成通知模板。

  4. 4

    操作完成写入 Mod Log,目标内容状态即时更新。

3

申诉

  1. 1

    被封禁用户或内容被删作者在通知中找到「申诉」入口。

  2. 2

    填写申诉理由,附加上下文说明与证据链接。

  3. 3

    管理员复核后作出裁定,裁定结果与理由通知用户,并更新 Mod Log。

业务规则

7 条硬性约束。这些规则应当在服务层强校验,而非仅在前端提示。

R01

举报阈值动态计算,最少 3 人,且需来自不同 IP 段。

R02

同一用户对同一目标只能举报一次。

R03

版主不能封禁其他版主,只有 Owner 与管理员可以。

R04

所有管理动作必须填写理由,理由为空不允许提交。

R05

Mod Log 公开可查(涉及隐私的理由可脱敏展示)。

R06

误报惩罚:举报准确率低于 20% 的用户,其后续举报权重降低直至失效。

R07

封禁申诉 7 天内最多提交 2 次,防止骚扰式申诉。

四层治理闭环

第一层 · 成员旗标任何用户举报秒级成本最低,覆盖面最广
第二层 · 阈值自动隐藏系统按动态阈值折叠即时防止扩散,等待复核
第三层 · 版主复核社区版主处置小时级社区自治的核心
第四层 · 管理员兜底平台管理员处理申诉与平台级违规天级最终裁定与平台底线

涉及数据表

本模块涉及的 8 张表。完整字段、索引与说明见「数据表设计」页。

竞品参考

本模块的设计参照了哪些产品,具体参照了什么。

DI

Discourse

旗标 + 自动隐藏 + 版主复核的三层治理,最成熟的社区共治模型。

RE

Reddit

版主权力极大 + Mod Log 透明化,自治与监督并存。

知乎

知乎

低质内容自动折叠,减少人工介入成本。

LO

Lobsters

邀请制从源头控制内容质量,降低治理压力。

验收指标

本模块交付时应当达到的量化目标。未达标即视为该模块未完成。

举报处理时长P50 ≤ 6 小时,P90 ≤ 24 小时
自动隐藏准确率复核后维持处理 ≥ 85%
申诉改判率≤ 10%(过高说明误伤严重)
垃圾内容漏过率≤ 2%

避坑清单

竞品踩过的坑,以及本模块在实现时最容易犯的错误。

  • 举报阈值若固定不变,热门内容会被少数人轻易折叠,冷门内容则无人处理。

  • 治理动作若不留痕,社区对版主信任度会迅速崩塌。

  • 过度依赖关键词拦截会大面积误伤正常讨论,需配合语义模型与人工复核。

  • 直接封号不如降权,因为封号会带来申诉洪峰与误伤流失。

  • 不要允许屏蔽管理员与版主,否则治理链路会被绕过。