AI-модерація додає мовну модель, що читає зміст, а не лише ключові слова, щоб ловити прихований спам на кшталт *цікава тема, напиши мені в особисті, і я покажу*. Вона працює лише з межовими повідомленнями, які не змогли вирішити інші рівні, а все, у чому вона не впевнена, іде на перегляд адміністратору. Входить у кожен тариф, зокрема Free, і ввімкнена за замовчуванням; вимкнути її для окремої групи можна в налаштуваннях.
1Що робить AI-модерація
AI-модерація вмикає мовну модель (LLM), яка читає зміст повідомлення, а не шукає в ньому заборонені слова. Саме цей рівень відрізняє «де купити каву» від «напиши мені в приват, навчу заробляти».
Вона працює поверх правил і нашої власної ML-моделі. Більшість повідомлень до неї взагалі не доходять — її залишено для справді неоднозначних випадків, які інші рівні не змогли вирішити самостійно.
2Чому намір важливіший за ключові слова
Фільтри ключових слів мають стелю. Обережний спамер ніколи не пише забороненого слова — він натякає, пише з помилками, загортає пропозицію в дружню балачку. Рушій правил не бачить нічого поганого, а людина, що читає речення, одразу розуміє намір.
Саме цю прогалину й закриває AI-модерація. Вона оцінює, чого повідомлення намагається досягти, тож може відрізнити справжню думку про крипту від замаскованого інвестиційного шахрайства чи щире запитання від приманки в особисті, прикритої цікавістю.
- Розуміє перефразування й помилки в написанні, а не лише точні збіги.
- Читає все речення в контексті, а не окремі слова.
- Відрізняє легітимне обговорення теми від прихованої пропозиції на ту саму тему.
- Зменшує кількість хибних спрацювань, бо розуміє зміст, а не вгадує за словами.
3Коли її варто вмикати
Інші рівні Telm і так зупиняють основну масу спаму. AI-модерація — додаткова перевага для спільнот, де спамери пишуть обережно, без очевидних ключових слів.
- Ваша група притягує замасковану рекламу та приманки в особисті, сформульовані як звичайна розмова.
- Ви бачите спам, який на перший погляд читається як щире запитання чи думка.
- Ви хочете, щоб бот розумів вашу тематику — наприклад, відрізняв легітимне обговорення крипти від прихованого шахрайства.
- Ви готові перейти від збігу ключових слів до виявлення наміру.
4Яке місце вона посідає в конвеєрі
AI-модерація — не окремий бот, а ще один рівень на драбині виявлення. Вона вмикається лише після того, як інші рівні звузили повідомлення до справжньої сірої зони.
Усе, що залишається незрозумілим і після AI, передається на перегляд людині, а не тихо проскакує, тож активна група ніколи не жертвує точністю заради швидкості.
5Точність, пам'ять і перегляд
AI-модерація налаштована діяти обережно, а не поспішно. Упевнений вердикт «спам» виконується, а все, у чому вона не впевнена, надсилається на перегляд адміністратору замість покарання, тож AI ніколи не видаляє учасника лише за підозрою.
Її впевнені вердикти запам'ятовуються, тож наступного разу те саме або схоже повідомлення обробляється миттєво, без повторного звернення до AI. Саме це з часом робить функцію водночас точною та швидкою.
- Упевнені вердикти AI запам'ятовуються й повторно використовуються для ідентичного або майже ідентичного тексту.
- Невизначені випадки стають записом на перегляд адміністратору, який видно в журналі модерації.
- Під час раптового напливу все, що бот не може одразу очистити, іде на перегляд і ніколи не пропускається без перевірки.
- Ваші схвалення та відхилення повертаються в конвеєр так само, як і будь-яке інше рішення.
6Квоти за тарифами
Оскільки AI працює останнім і лише в сірій зоні, переважну більшість повідомлень вирішують інші рівні ще до того, як справа доходить до AI, — тож він ніколи не заважає активному чату.
Платити за кожне повідомлення не потрібно: AI-модерація у ваших групах входить у кожен тариф, без квоти повідомлень за тарифом. Загальний ліміт AI-викликів на рівні платформи підтримує стабільність сервісу під час флуду — якщо раптовий наплив приносить більше межових повідомлень, ніж він дозволяє, вони йдуть на перегляд адміністратору, а рушій правил, CAS і глобальна база далі захищають групу. Квоти тарифів — 1 000 AI-перевірок на день на Pro і 10 000 на Business — стосуються лише публічного API /spam/check.
7Найкращі практики
Короткий період обкатки дасть вам упевненість, перш ніж дозволити AI діяти самостійно.
- Спершу ввімкніть її разом із режимом спостереження і кілька днів читайте вердикти AI в журналі.
- Тримайте білий список і довірених учасників в актуальному стані, щоб партнерів і завсідників ніколи не ставили під сумнів.
- Поєднуйте її з персональною ML-моделлю, якщо ваша спільнота має дуже своєрідну манеру спілкування.
- Не вважайте AI заміною правил — це верхівка драбини, а основну роботу й далі виконують інші рівні.