AI-модерация добавляет языковую модель, которая читает смысл, а не только ключевые слова, чтобы ловить тонкий спам вроде *интересная тема, напиши мне в личку, и я покажу*. Она работает только на пограничных сообщениях, которые другие слои не смогли решить, и всё, в чём она не уверена, уходит на проверку админу. Доступна на Pro и Business; включайте её для каждой группы в настройках.
1Что делает AI-модерация
AI-модерация включает языковую модель (LLM), которая читает смысл сообщения, а не сканирует его на запрещённые слова. Это слой, который отличает «где можно купить кофе» от «напиши мне в личку, я научу зарабатывать».
Она стоит поверх правил и нашей собственной ML-модели. Большинство сообщений до неё вообще не доходят — она зарезервирована для по-настоящему неоднозначных случаев, которые другие слои не смогли решить сами.
2Почему намерение бьёт ключевые слова
У фильтров по ключевым словам есть потолок. Аккуратный спамер никогда не пишет запрещённое слово — он намекает, пишет с ошибками, оборачивает подачу в дружелюбную болтовню. Движок правил не видит ничего плохого; человек, читающий предложение, видит намерение мгновенно.
Именно этот пробел заполняет AI-модерация. Она судит о том, что сообщение пытается сделать, поэтому может отделить настоящее мнение о крипте от замаскированного инвестиционного скама или подлинный вопрос от наживки на переход в личку, наряженной под любопытство.
- Понимает перефразирование и опечатки вместо точных строк.
- Читает всё предложение в контексте, а не изолированные слова.
- Отличает законное обсуждение темы от скрытой подачи на ту же тему.
- Снижает ложные срабатывания, потому что схватывает смысл, а не гадает по словам.
3Когда её стоит включать
Другие слои Telm и так останавливают основную массу спама. AI-модерация — дополнительное преимущество для сообществ, где спамеры пишут аккуратно, без очевидных ключевых слов.
- Ваша группа привлекает замаскированные промо и наживки на переход в личку, сформулированные как обычная болтовня.
- Вы видите спам, который с первого взгляда читается как подлинный вопрос или мнение.
- Вы хотите, чтобы бот понимал вашу тему — например, отличал законное обсуждение крипты от скрытого скама.
- Вы готовы выйти за пределы сопоставления ключевых слов к детекту намерения.
4Как она встроена в конвейер
AI-модерация — не отдельный бот, а ещё один слой на лестнице детекта. Она подключается только после того, как другие слои сузили сообщение до настоящей серой зоны.
Всё, что после взгляда ИИ остаётся неясным, передаётся на человеческую проверку, а не тихо проскакивает, поэтому активная группа никогда не меняет точность на скорость.
5Точность, память и проверка
AI-модерация настроена быть осторожной, а не хвататься за спусковой крючок. Уверенный вердикт «спам» применяется; всё, в чём она не уверена, направляется на проверку админу, а не наказывается, поэтому ИИ никогда не удаляет участника по наитию.
Её уверенные вердикты запоминаются, поэтому то же или похожее сообщение в следующий раз обрабатывается мгновенно, без обращения к ИИ. Именно это со временем держит функцию и точной, и быстрой.
- Уверенные вердикты ИИ запоминаются и переиспользуются для идентичного или почти идентичного текста.
- Неопределённые случаи становятся элементом проверки админом, видимым в журнале модерации.
- Во время внезапного наплыва всё, что бот не может сразу пропустить, отправляется на проверку и никогда не проходит без проверки.
- Ваши одобрения и отклонения возвращаются в конвейер так же, как любое другое решение.
6Квоты по тарифам
Поскольку ИИ работает последним и только на серой зоне, подавляющее большинство сообщений решается другими слоями до того, как ИИ вообще вызывается, — поэтому он никогда не мешает активному чату.
Платить за сообщение ничего не нужно: AI-проверка входит в тариф с дневной квотой — 100 проверок на Basic, 1 000 на Pro и 10 000 на Business; та же квота покрывает и публичный API /spam/check. Если внезапный наплыв протолкнёт в серую зону больше сообщений, чем позволяет квота, группу продолжат защищать движок правил, CAS и глобальная база.
7Лучшие практики
Короткий период обкатки даёт уверенность, прежде чем вы позволите ИИ действовать самому.
- Сначала включите её вместе с режимом наблюдения и почитайте вердикты ИИ в журнале несколько дней.
- Держите список белого списка и доверия актуальным, чтобы партнёров и завсегдатаев никогда не подвергали сомнению.
- Сочетайте её с персональной ML-моделью, если у вашего сообщества очень своеобразная манера общения.
- Не относитесь к ИИ как к замене правил — это вершина лестницы, а остальные слои по-прежнему делают большую часть работы.