Як це працює
Фільтри на основі правил
Швидкі регулярні вирази та евристики миттєво виявляють очевидний спам.
- Відповідність регулярним виразам
- Виявлення відомих спам-фраз
- Перевірка чорного списку URL
- Аналіз кодування символів
Локальна модель ШІ
Модель машинного навчання на пристрої аналізує патерни повідомлень, поведінку користувачів та контекст.
- Аналіз поведінкових патернів
- Виявлення послідовності повідомлень
- Оцінка репутації користувачів
- Контекстуальна класифікація
Хмарний аналіз ШІ
Для крайніх випадків наш розвинений хмарний LLM забезпечує нюансоване розуміння.
- Розуміння природної мови
- Класифікація намірів
- Підтримка кількох мов
- Безперервне навчання
Що він виявляє
Чому 3 рівні?
Системи виявлення з одним рівнем стикаються з основним компромісом. Наш підхід з 3 рівнями вирішує цю проблему.
- Рівень 1 обробляє спаму з майже нульовою затримкою.
- Рівень 2 виявляє ще за допомогою поведінкового аналізу.
- Рівень 3 обробляє залишкові складного спаму.
Чому самих лише правил перестає вистачати
| Виклик | Лише правила за ключовими словами | AI-аналіз |
|---|---|---|
| Цілком новий спам | Пропускає все, що не було явно перелічене заздалегідь | Судить за змістом і наміром, тож шахрайство, якого він ніколи не бачив, усе одно читається як шахрайство |
| Замаскований текст | Долається розрядкою v.i.p, гомогліфами й текстом, запеченим у картинки | Читає крізь маскування так, як це робить людина — включно з текстом усередині зображень через OCR |
| Контекст | Оцінює кожне повідомлення ізольовано, тож пограничні випадки стають підкиданням монетки | Зважує повідомлення разом із контекстом акаунта — новачок, що скидає контакти, читається інакше, ніж завсідник, який ділиться посиланням |
| Обслуговування | Хтось мусить вічно тримати списки ключових слів свіжими | Продовжує вчитися з рішень і міжгрупових сигналів без ручного ведення списків |
Він постійно вчиться — на реальному трафіку
Наша власна навчена модель
Спеціальна спам-модель, навчена на реальному трафіку Telegram, ловить 97,9% спаму лише з 0,07% хибних спрацювань — і відповідає за мілісекунди, ще до того, як важчому ШІ взагалі треба запускатися.
Пам’ять вердиктів
Підтверджені вердикти запам’ятовуються. Коли з’являється майже-дублікат відомого спаму — навіть переформульований чи набитий емодзі — його блокують миттєво, без нового виклику ШІ й без затримки.
Захист між групами
Спамер, спійманий в одній спільноті, відомий кожній спільноті. Сигнали виявлення поширюються між групами, тож кампанія, що провалилася раз, не отримує свіжого старту по сусідству.
Тестовий режим для адмінів
Увімкніть тестовий режим — і бот модерує власні повідомлення адмінів так, ніби вони звичайні учасники. Публікуйте межовий контент самі й бачте, які саме правила спрацьовують — нікого не караючи.
Як трирівневе виявлення вирішує щодо повідомлення
Кожне повідомлення проходить рівні по черзі, від найдешевшого. Рівень 1 застосовує regex-шаблони, відомі спам-фрази, пошук у чорному списку URL і перевірки кодування символів — очевидний спам ловиться тут узагалі без виклику моделі. Усе, що не розв’язано однозначно, переходить на рівень 2 — текстовий класифікатор, що працює на наших власних серверах і оцінює повідомлення за вмістом, контекстом та недавньою поведінкою відправника без жодного зовнішнього API-запиту на кожне повідомлення. Лише справді межові випадки — невелика частка трафіку — сходять на рівень 3, хмарну LLM, яка читає повідомлення на предмет наміру й замаскованого формулювання. Конвеєр спиняється, щойно якийсь рівень упевнений.
Упорядкування перевірок у такий спосіб тримає звичайний випадок швидким, а дорогий — рідкісним, тож завантажена група не чекає на LLM для кожного рядка. Поріг між «діяти» й «залишити як є» ви задаєте самі, і це варто зробити: суворіше налаштування ловить більше межової реклами, але подеколи позначить захопленого справжнього користувача, тоді як м’якше пропускає більше. Оскільки кожне рішення — який рівень спрацював, оцінка, задумана дія — записується в журнал, ви ніколи не гадаєте, чому повідомлення видалено, і можете почати в режимі моніторингу, щоб спостерігати за конвеєром, перш ніж він когось торкнеться.
Поширені запитання
Наскільки точне AI-виявлення спаму?
Багатошаровий конвеєр — правила, наша власна навчена модель і ШІ-класифікатор для складних випадків — ловить близько 97,9% спаму з приблизно 0,07% хибних спрацювань на реальному трафіку. І вам не треба вірити на слово: бот стартує в режимі моніторингу, тож ви можете спостерігати за його рішеннями у власній групі, перш ніж він до чогось вдасться.
Чи працює він моєю мовою?
Так. Виявлення багатомовне, зокрема ієрогліфічні писемності (CJK), транслітерований текст і повідомлення зі змішаними мовами. OCR також читає текст усередині зображень, тож спам, схований у картинках, ловиться так само.
Що відбувається, коли ШІ помиляється?
Покараний учасник отримує ввічливе повідомлення власною мовою й приватне посилання на оскарження. ШІ-арбітр розглядає справу з контекстом групи; явні помилки скасовуються автоматично за секунди, а репутація учасника відновлюється.
Чи потрібно щось налаштовувати?
Ні. Виявлення працює з коробки з розумними значеннями за замовчуванням. За бажання ви можете підкрутити суворість, додати власні правила за ключовими словами й скористатися тестовим режимом, щоб спершу відчути пороги на власних повідомленнях.
Пов'язані функції
Дізнайтеся більше про те, як Telm може допомогти вашій спільноті