Telm 垃圾检测的工作原理

1一个机器人，多道防线

Telm 不依赖单一花招。可以把它想象成机场的安检：一条消息依次通过多个检查站，可以在其中任何一个被放行或被拦下。

正是这种分层设计让防护既可靠又快速。明显的情况会立即解决，只有真正模棱两可的消息才会被更仔细地查看——这正是为什么即使是一个拥有数万成员的繁忙群组也能被实时审核，而丝毫不觉迟滞。

• 全局垃圾发布者检查——已知的滥用者在进门时、发出第一条消息之前就被拦下。
• 规则与模式检测器——一个庞大的库，一眼就能识别垃圾伎俩。
• 重复垃圾记忆——一波完全相同或高度相似的垃圾会被一次性捕捉。
• 我们自己的 ML 模型——在多种语言的真实垃圾上训练，以捕捉它从未见过的攻势。
• AI 分类器——读取含义，用于那种真正处于边缘的罕见消息。
• 自学习——你的决定会让每一层对你的群组更敏锐。

2单条消息的旅程

当有人在你的群组中发帖时，会发生以下情况。消息会被逐层检查，而大多数消息在到达终点之前很久就已被放行或捕捉。

管理员、群主和受信任的白名单成员从不被审核——他们的消息完全跳过这些检查，这正是为什么你从不必担心机器人会碰到你自己的团队。

• 入口检查——已知的垃圾发布者在其第一条消息之前就被全局垃圾发布者数据库拦在门口（参见 CAS 封禁名单 和 全局垃圾数据库）。
• 规则与模式——许多检测器累加出一个垃圾评分。没有任何单个词能封禁任何人；决定来自各个信号的总和。
• 重复垃圾记忆——如果相同或近乎相同的文本刚刚在你的群组中被判定过，就会复用那个答案，因此一波复制品会被一次处理。
• 我们的 ML 模型——评分衡量措辞看起来有多像垃圾；有把握的垃圾和有把握的干净文本在此处解决，中间地带则继续前进。
• AI 层——一个语言模型读取仍然模棱两可的消息的含义（参见 AI 审核）。
• 图像与音频——感知哈希、OCR 文字识别、二维码检测和 语音转写 会把它们的文本反馈回完全相同的检查中。
• 裁决与动作——放行、删除、禁言、封禁或送交管理员审查。一切都连同原因记录在 审核日志 中。

3每一层实际做什么

了解每个检查站真正在做什么会有帮助，因为它们捕捉的垃圾种类各不相同。它们共同覆盖彼此的盲点。

• 规则与模式检测器——手工构建的检测器，识别的是垃圾伎俩而非单个词：引流到私聊的诱饵、隐藏广告、外部频道推广、结构性花招和混淆。它们作用于归一化文本，因此混合字母表和插入的符号骗不了它们。
• 重复垃圾记忆——识别完全相同和近乎相同的消息（换了一个电话号码、一个不同的用户名）并复用先前的裁决，因此协同洪流一开始就被关停。
• 我们自己的 ML 模型——一个机器学习分类器，在海量已确认垃圾以及多种语言的干净言论上训练。它能泛化到从未见过的攻势，包括混淆和翻译过的变体。
• AI 分类器——一个专门留给真正灰色地带的语言模型。它读取意图，因此能分辨真正的问题与伪装的兜售。
• 图像与音频理解——OCR 从横幅和截图中提取文本，感知哈希匹配已知的垃圾图片，二维码被解码，语音和视频留言被转写。所有这些还原出的文本都会重新进入相同的规则、模型和 AI 检查。

4评分、阈值与动作

引擎不是简单的是／否，而是让每条消息从许多信号中累积一个垃圾评分。评分越高，动作越强——而单个不走运的词绝不可能独自达到封禁，因为关键词的贡献被封顶在远低于惩罚阈值之处。

这是防止误封的内置保障：裁决绝不会仅凭词语作出，而只凭全貌。这些阈值的严格度由你通过 审核严格度等级 和 防护预设 来控制。

• 评分极高——自动移除，对明显的滥用则禁言或封禁。
• 评分中等——送交管理员审查，而不是盲目采取行动。
• 评分低、无可疑之处——消息立即放行。
• 新成员或不受信任的成员面对的阈值比长期受信任的常客略严，因此受信任的成员几乎从不被捕捉。
• 每个动作都可撤销、可申诉，且每项决定都记录了是哪一层做出的以及原因（参见 理解审核决定）。

5它能捕捉什么

引擎不是匹配停用词，而是通过整体模式识别垃圾伎俩，包括混淆的、基于图像的和口头的变体。这些是它被打造来阻止的家族。

• 引流到私聊的诱饵——邀请到私信中继续，即使措辞得像一句普通的话。
• 隐藏广告和第三方频道推广，包括来自其他频道的转发（参见 控制转发与频道）。
• 协同攻势——同一段文本出现在许多群组中，或在短时间内来自一个群组内的多个账号。
• 骗局与钓鱼模式——虚假赠品、投资诱饵和冒充管理员（参见 骗局检测的工作原理）。
• 图像垃圾——赌场横幅、二维码和嵌入图片中的文字。
• 语音和视频留言垃圾——朗读出的兜售和链接，以躲避只看文本的机器人。
• 混淆文本——混合字母表、插入的符号和相似字符。

6如何防止误封

对任何反垃圾机器人最大的担忧是它会误移除一个真实成员。Telm 的设计让这既罕见又始终可恢复，因为每项决定都透明且可撤销。

多重保障同时起作用，且它们全都把人的判断置于机器之上。

• 评分封顶——仅凭关键词绝不可能达到封禁；这需要许多独立信号的合力。
• 管理员和受信任的成员从不被审核，你还可以向你的 白名单与信任 名单添加更多名字。
• 中等把握区间会送交管理员审查，而不是自动惩罚。
• 每个动作都连同原因被记录且可申诉——获批的申诉也会放行相似的消息（参见 申诉如何运作）。
• 可选的 个人 ML 模型 会学习你社区的正常言论，并否决与之不符的误报——它只能放行消息，绝不能惩罚。

7它从你身上学习

系统不是一成不变的。你的审核决定和获批的申诉会持续教导它，因此随着时间推移它对你特定的社区越来越准确。

这些反馈回路中的每一个都位于人的判断之下——当你批准一次申诉或标记一次误报时，那个裁决会覆盖机器，并也放行相似的消息。

• 你的纠正会不断改进 ML 模型，因此检测会对你的群组实际看到的那类消息更敏锐。
• 把一条消息标记为误报会立即放行它周围的相似消息。
• 新检测器在被允许行动之前会在真实流量上验证，一旦开始出错就会被撤回。
• 一个成员的历史记录会调整给他多少宽容：干净消息的历史赢得一点余地，一次惩罚则收紧它。
• 可以在你自己的聊天上训练一个 个人 ML 模型，以放行针对你社区正常说话方式的误报。

8保持掌控

由你决定机器人有多严格。刚开始时最重要的是两个设置，而机器人所做的一切都可见且可调整。

监控模式 让你观察机器人本会做什么，而它实际上不惩罚任何人——这是在开启真正强制执行之前建立信任的最安全方式。

• 监控模式——仅观察，不惩罚，一切都被记录以供审查。
• 严格度等级与预设——选择一个现成的配置文件，或为你的社区微调阈值。
• 放宽的规则——指定某些在你群组中不得评分的具体检测器（关键防护无法被放宽）。
• 允许销售和加密社区模式——为交易话题属于正常现象的社区软化触发。
• 针对 CAS、全局垃圾数据库、AI 审核、语音审核和个人模型的单群开关。

9最佳实践与常见错误

几个习惯能让你以最少的误报获得最多的防护。新管理员遇到的大多数问题都归结为跳过了其中之一。

• 务必从监控模式开始，在强制执行前阅读日志几天。
• 务必把你自己的团队和已知的合作伙伴加入白名单，让他们的链接永不受质疑。
• 务必立即启用全局垃圾发布者检查——它会在你还没看到攻击之前就将其移除。
• 务必处理申诉和误报；每一次纠正都会让你群组的防护更敏锐。
• 不要为修复一次误报而禁用整块防护——改为放宽涉及的那条单一规则或把该成员加入白名单。
• 不要指望全新的垃圾发布者会出现在任何外部名单上；那正是规则、模型和 AI 层的用武之地。