Jak działa wykrywanie spamu w Telm

1Jeden bot, wiele warstw

Telm nie polega na jednej sztuczce. Pomyśl o tym jak o ochronie na lotnisku: wiadomość przechodzi przez kilka punktów kontroli, jeden po drugim, i na każdym z nich może zostać przepuszczona lub zatrzymana.

Ta warstwowa konstrukcja sprawia, że ochrona jest zarazem niezawodna i szybka. Oczywiste przypadki są rozstrzygane od razu, a bliżej przyglądamy się tylko naprawdę niejednoznacznym wiadomościom — dlatego nawet ruchliwa grupa licząca dziesiątki tysięcy członków jest moderowana w czasie rzeczywistym, nigdy nie sprawiając wrażenia opóźnienia.

• Globalne sprawdzenie spamera — znani sprawcy nadużyć są zatrzymywani przy wejściu, zanim napiszą pierwszą wiadomość.
• Detektory reguł i wzorców — obszerna biblioteka, która rozpoznaje schematy spamu na pierwszy rzut oka.
• Pamięć powtarzającego się spamu — fala identycznego lub podobnego spamu jest wychwytywana od razu.
• Nasz własny model ML — wytrenowany na prawdziwym spamie w wielu językach, aby wychwytywać kampanie, których nigdy wcześniej nie widział.
• Klasyfikator AI — czyta znaczenie, dla rzadkiej wiadomości, która jest naprawdę graniczna.
• Samouczenie — Twoje decyzje wyostrzają każdą warstwę dla Twojej grupy.

2Droga pojedynczej wiadomości

Oto co dzieje się, gdy ktoś pisze w Twojej grupie. Wiadomość jest sprawdzana warstwa po warstwie, a większość wiadomości zostaje przepuszczona lub wychwycona na długo przed końcem.

Administratorzy, właściciel grupy i zaufani członkowie z białej listy nigdy nie są moderowani — ich wiadomości całkowicie pomijają te kontrole, dlatego nigdy nie musisz się martwić, że bot ruszy Twój własny zespół.

• Kontrola wejścia — znany spamer jest zatrzymywany przy drzwiach przez globalną bazę spamerów, zanim napisze pierwszą wiadomość (zobacz lista blokad CAS oraz globalna baza spamu).
• Reguły i wzorce — wiele detektorów sumuje ocenę spamu. Żadne pojedyncze słowo nikogo nie banuje; decyzja wynika z sumy sygnałów.
• Pamięć powtarzającego się spamu — jeśli ten sam lub niemal identyczny tekst został właśnie oceniony w Twojej grupie, ta odpowiedź jest ponownie wykorzystywana, więc zalew kopii jest obsługiwany za jednym razem.
• Nasz model ML — ocenia, jak spamerskie wygląda sformułowanie; pewny spam i pewny czysty tekst są tu rozstrzygane, a środek idzie dalej.
• Warstwa AI — model językowy czyta znaczenie wciąż niejednoznacznej wiadomości (zobacz moderacja AI).
• Obrazy i dźwięk — haszowanie percepcyjne, rozpoznawanie tekstu OCR, wykrywanie kodów QR i transkrypcja głosu zwracają swój tekst do tych samych kontroli.
• Werdykt i działanie — przepuść, usuń, wycisz, zbanuj lub wyślij do przeglądu przez administratora. Wszystko jest zapisywane wraz z powodem w dzienniku moderacji.

3Co właściwie robi każda warstwa

Warto wiedzieć, jakie zadanie naprawdę wykonuje każdy punkt kontroli, ponieważ wychwytują one bardzo różne rodzaje spamu. Razem zakrywają swoje martwe pola.

• Detektory reguł i wzorców — ręcznie zbudowane detektory, które rozpoznają schematy spamu, a nie pojedyncze słowa: zachęty do przejścia na priv, ukryte reklamy, promowanie zewnętrznych kanałów, sztuczki strukturalne i zaciemnianie. Działają na znormalizowanym tekście, więc mieszane alfabety i wstawione symbole ich nie oszukają.
• Pamięć powtarzającego się spamu — rozpoznaje identyczne i niemal identyczne wiadomości (podmieniony numer telefonu, inny pseudonim) i ponownie wykorzystuje wcześniejszy werdykt, więc skoordynowane zalewy są zatrzymywane w chwili, gdy się zaczynają.
• Nasz własny model ML — klasyfikator uczenia maszynowego wytrenowany na ogromnym zbiorze potwierdzonego spamu oraz czystej mowy w wielu językach. Uogólnia na kampanie, których nigdy nie widział, w tym warianty zaciemnione i przetłumaczone.
• Klasyfikator AI — model językowy zarezerwowany dla prawdziwej strefy szarej. Czyta intencje, więc potrafi odróżnić prawdziwe pytanie od zamaskowanej oferty.
• Rozumienie obrazu i dźwięku — OCR wyciąga tekst z banerów i zrzutów ekranu, haszowanie percepcyjne dopasowuje znane obrazy spamu, kody QR są dekodowane, a notatki głosowe i wideo transkrybowane. Cały ten odzyskany tekst ponownie wchodzi w te same kontrole reguł, modelu i AI.

4Oceny, progi i działania

Zamiast prostego tak/nie każda wiadomość gromadzi ocenę spamu z wielu sygnałów. Im wyższa ocena, tym silniejsze działanie — a pojedyncze pechowe słowo nigdy samo nie osiągnie bana, ponieważ wkład słów kluczowych jest ograniczony znacznie poniżej progów karania.

To wbudowane zabezpieczenie przed błędnymi banami: werdykt nigdy nie zapada na podstawie samych słów, tylko na podstawie pełnego obrazu. Surowość tych progów kontrolujesz przez poziomy surowości moderacji oraz gotowe profile ochrony.

• Bardzo wysoka ocena — automatyczne usunięcie, a przy wyraźnym nadużyciu wyciszenie lub ban.
• Średnia ocena — wysyłane do administratora do przeglądu, zamiast być realizowane na ślepo.
• Niska ocena, nic podejrzanego — wiadomość jest natychmiast zwalniana.
• Nowi lub niezaufani członkowie napotykają nieco surowsze progi niż długoletni, zaufani stali bywalcy, więc zaufani członkowie prawie nigdy nie zostają wychwyceni.
• Każde działanie jest odwracalne i można się od niego odwołać, a każda decyzja zapisuje, która warstwa zadecydowała i dlaczego (zobacz rozumienie decyzji moderacji).

5Co wychwytuje

Zamiast dopasowywać słowa-stopery, silnik rozpoznaje schematy spamu po ich całym wzorcu, w tym warianty zaciemnione, oparte na obrazach i mówione. Oto rodziny spamu, które silnik potrafi rozpoznać i zatrzymać.

• Zachęty do przejścia na priv — zaproszenia do kontynuowania w wiadomościach prywatnych, nawet gdy sformułowane jak zwykła uwaga.
• Ukryte reklamy i promowanie kanałów osób trzecich, w tym przekazywane wiadomości z innych kanałów (zobacz kontrolowanie przekazywanych wiadomości i kanałów).
• Skoordynowane kampanie — ten sam tekst pojawiający się w wielu grupach lub z kilku kont wewnątrz jednej grupy w krótkim czasie.
• Wzorce oszustw i phishingu — fałszywe rozdania, przynęty inwestycyjne i podszywanie się pod administratorów (zobacz jak działa wykrywanie oszustw).
• Spam obrazkowy — banery kasyn, kody QR i tekst wtopiony w obrazy.
• Spam głosowy i w notatkach wideo — oferty i linki czytane na głos, aby ominąć boty działające tylko na tekście.
• Zaciemniony tekst — mieszane alfabety, wstawione symbole i znaki wyglądające podobnie.

6Jak zapobiega się błędnym banom

Największą obawą przy każdym bocie antyspamowym jest to, że pomyłkowo usunie prawdziwego członka. Telm jest zaprojektowany tak, aby było to zarazem rzadkie i zawsze odwracalne, ponieważ każda decyzja jest przejrzysta i odwracalna.

Kilka zabezpieczeń działa jednocześnie, a wszystkie stawiają ludzki osąd ponad maszyną.

• Ograniczenie oceny — same słowa kluczowe nigdy nie osiągną bana; potrzebna jest łączna waga wielu niezależnych sygnałów.
• Administratorzy i zaufani członkowie nigdy nie są moderowani, a więcej nazw możesz dodać do swojej listy białej listy i zaufania.
• Strefa średniej pewności trafia do przeglądu przez administratora zamiast do automatycznej kary.
• Każde działanie jest zapisywane wraz z powodem i można się od niego odwołać — zatwierdzone odwołania oczyszczają też podobne wiadomości (zobacz jak działają odwołania).
• Opcjonalny osobisty model ML uczy się normalnej mowy Twojej społeczności i wetuje fałszywe alarmy, które do niej nie pasują — może jedynie oczyszczać wiadomości, nigdy karać.

7Uczy się od Ciebie

System nie jest zamrożony. Twoje decyzje moderacyjne i zatwierdzone odwołania nieustannie go uczą, więc z czasem staje się dokładniejszy dla Twojej konkretnej społeczności.

Każda z tych pętli sprzężenia zwrotnego znajduje się poniżej ludzkiego osądu — gdy zatwierdzasz odwołanie lub oznaczasz fałszywy alarm, ten werdykt nadpisuje maszynę i oczyszcza też podobne wiadomości.

• Twoje korekty stale ulepszają model ML, więc wykrywanie wyostrza się pod kątem wiadomości, które faktycznie widzi Twoja grupa.
• Oznaczenie jednej wiadomości jako fałszywego alarmu natychmiast oczyszcza podobne wiadomości wokół niej.
• Nowe detektory są sprawdzane na prawdziwym ruchu, zanim uzyskają prawo do działania, i są wycofywane, jeśli zaczynają się mylić.
• Historia członka dostosowuje to, ile luzu dostaje: historia czystych wiadomości daje odrobinę swobody, kara ją zaostrza.
• Osobisty model ML może zostać wytrenowany na Twoim własnym czacie, aby oczyszczać fałszywe alarmy dotyczące normalnego sposobu mówienia Twojej społeczności.

8Zachowanie kontroli

To Ty decydujesz, jak surowy jest bot. Dwa ustawienia mają największe znaczenie na początku, a wszystko, co bot robi, jest widoczne i regulowane.

Tryb monitorowania pozwala obserwować, co bot by zrobił, bez faktycznego karania kogokolwiek — najbezpieczniejszy sposób na zbudowanie zaufania przed włączeniem prawdziwego egzekwowania.

• Tryb monitorowania — tylko obserwacja, żadnych kar, wszystko zapisywane do przeglądu.
• Poziomy surowości i gotowe profile — wybierz gotowy profil lub dostrój progi pod swoją społeczność.
• Złagodzone reguły — wskaż konkretne detektory, które nie mogą punktować w Twojej grupie (kluczowych zabezpieczeń nie można złagodzić).
• Tryb społeczności sprzedażowej i kryptowalutowej — złagodź wyzwalacze dla społeczności, w których rozmowy o handlu są normalne.
• Przełączniki dla poszczególnych grup dla CAS, globalnej bazy spamu, moderacji AI, moderacji głosowej i modelu osobistego.

9Dobre praktyki i typowe błędy

Kilka nawyków daje Ci najwięcej ochrony przy najmniejszej liczbie fałszywych alarmów. Większość problemów, na jakie natrafiają nowi administratorzy, sprowadza się do pominięcia jednego z nich.

• Zacznij w trybie monitorowania i czytaj dziennik przez kilka dni, zanim zaczniesz egzekwować.
• Dodaj własny zespół i znanych partnerów do białej listy, aby ich linki nigdy nie były kwestionowane.
• Włącz globalne sprawdzenie spamera od razu — usuwa ataki, zanim je w ogóle zobaczysz.
• Reaguj na odwołania i fałszywe alarmy; każda korekta wyostrza ochronę Twojej grupy.
• Nie wyłączaj całych zabezpieczeń, aby naprawić jeden fałszywy alarm — zamiast tego złagodź pojedynczą regułę, której to dotyczy, lub dodaj członka do białej listy.
• Nie oczekuj, że zupełnie nowi spamerzy będą na jakiejkolwiek zewnętrznej liście; właśnie do tego służą warstwy reguł, modelu i AI.