Telm 中的 AI 审核：LLM 分类器详解

1AI 审核能做什么

AI 审核会启用一个语言模型（LLM），它读懂消息的含义，而不是扫描违禁词。正是这一层能分辨「哪里能买到咖啡」和「私聊我，我教你赚钱」。

它位于规则和我们自己的 ML 模型之上。大多数消息根本到不了这一层——它专门留给其他层无法自行判断的真正模棱两可的情况。

2为什么意图胜过关键词

关键词过滤有天花板。谨慎的垃圾信息发送者从不写违禁词——他们旁敲侧击、故意写错字，把推销包装成友好的闲聊。规则引擎看不出任何问题，而读这句话的人一眼就能看穿意图。

AI 审核填补的正是这个空白。它判断一条消息想要做什么，因此能区分对加密货币的真实观点和伪装的投资骗局，或者真诚的提问和伪装成好奇的私信引流。

• 理解改写和错别字，而不只是精确匹配字符串。
• 结合上下文阅读整句话，而不是孤立的词。
• 区分同一主题下的正常讨论和隐藏的推销。
• 因为理解含义而不是从字面猜测，所以能减少误报。

3何时值得开启

Telm 的其他层已经能拦住大部分垃圾信息。AI 审核是为那些垃圾信息发送者写得很谨慎、不带明显关键词的社区准备的额外利器。

• 你的群组会招来措辞像正常聊天一样的伪装推广和私信引流。
• 你看到的垃圾信息乍一看像真诚的问题或观点。
• 你希望机器人理解你的话题——例如区分正常的加密货币讨论和隐藏的骗局。
• 你准备好从关键词匹配迈向意图识别。

4它在流程中的位置

AI 审核不是一个单独的机器人——它是检测阶梯中的又一层。只有在其他层把一条消息缩小到真正的灰色地带之后，它才会介入。

AI 看过之后仍不明确的内容会交给人工复核，而不是悄悄放行，所以繁忙的群组也不会为了速度牺牲准确性。

5准确性、记忆与复核

AI 审核经过调校，力求谨慎而非草率。有把握的垃圾判定会执行处罚；任何拿不准的内容都会交给管理员复核而不是直接处罚，所以 AI 绝不会凭直觉移除成员。

它有把握的判定会被记住，下次遇到相同或相似的消息时会立即处理，无需再调用 AI。正因如此，这项功能能长期保持既准确又快速。

• 有把握的 AI 判定会被记住，并复用于相同或几乎相同的文本。
• 不确定的情况会成为管理员复核项，显示在审核日志中。
• 在突发的消息洪流中，机器人无法立即判定的内容都会送去复核，绝不会未经检查就放行。
• 你的批准和驳回会像其他任何决定一样反馈到流程中。

6各套餐的配额

因为 AI 最后才运行，而且只处理灰色地带，绝大多数消息在调用 AI 之前就已被其他层处理完毕——所以它绝不会妨碍繁忙的聊天。

不按消息收费：你群组内的 AI 审核包含在所有套餐中，也没有按套餐划分的消息配额。平台层面的 AI 调用上限能在消息洪流中保持服务稳定——如果突然涌入的疑似消息超出上限，它们会交给管理员复核，而规则引擎、CAS 和全局数据库会继续保护群组。Pro 每天 1,000 次、Business 每天 10,000 次的 AI 检查套餐配额只适用于公开的 /spam/check API。

7最佳实践

在让 AI 独立执行之前，先经过一段短暂的磨合期，能让你更有信心。

• 先配合监控模式开启，并在日志中查看几天 AI 的判定。
• 保持白名单与成员信任列表为最新，让合作伙伴和老成员永远不会被质疑。
• 如果你的社区说话方式非常独特，可以搭配个人 ML 模型使用。
• 不要把 AI 当作规则的替代品——它是阶梯的顶端，大部分工作仍由其他层完成。