Moderacja AI w Telm: jak działa klasyfikator LLM

1Co robi moderacja AI

Moderacja AI włącza model językowy (LLM), który odczytuje znaczenie wiadomości, zamiast przeszukiwać ją pod kątem zakazanych słów. To właśnie ta warstwa odróżnia „gdzie mogę kupić kawę” od „napisz do mnie na priv, nauczę cię zarabiać”.

Działa ponad regułami i naszym własnym modelem ML. Większość wiadomości nigdy do niej nie trafia — jest zarezerwowana dla naprawdę niejednoznacznych przypadków, których inne warstwy nie potrafiły rozstrzygnąć same.

2Dlaczego intencja wygrywa ze słowami kluczowymi

Filtry słów kluczowych mają swój sufit. Ostrożny spamer nigdy nie napisze zakazanego słowa — sugeruje, przekręca pisownię, owija ofertę w przyjazną pogawędkę. Silnik reguł nie widzi w tym nic złego; człowiek czytający zdanie od razu dostrzega intencję.

Tę lukę wypełnia moderacja AI. Ocenia, co wiadomość próbuje osiągnąć, więc potrafi oddzielić prawdziwą opinię o kryptowalutach od zamaskowanego oszustwa inwestycyjnego albo szczere pytanie od przynęty wabiącej na priv, przebranej za ciekawość.

• Rozumie parafrazy i błędy pisowni, zamiast szukać dokładnych ciągów znaków.
• Czyta całe zdanie w kontekście, a nie pojedyncze słowa.
• Odróżnia uprawnioną dyskusję na dany temat od ukrytej oferty na ten sam temat.
• Ogranicza fałszywe alarmy, bo rozumie znaczenie, zamiast zgadywać na podstawie słów.

3Kiedy warto ją włączyć

Pozostałe warstwy Telm już zatrzymują większość spamu. Moderacja AI to dodatkowa przewaga dla społeczności, w których spamerzy piszą ostrożnie, bez oczywistych słów kluczowych.

• Twoja grupa przyciąga zamaskowane reklamy i przynęty wabiące na priv, sformułowane jak zwykła rozmowa.
• Widzisz spam, który na pierwszy rzut oka wygląda jak szczere pytanie lub opinia.
• Chcesz, aby bot rozumiał temat Twojej grupy — na przykład odróżniał uprawnioną dyskusję o kryptowalutach od ukrytego oszustwa.
• Jesteś gotów wyjść poza dopasowywanie słów kluczowych i przejść do wykrywania intencji.

4Miejsce w procesie wykrywania

Moderacja AI nie jest osobnym botem — to jeszcze jedna warstwa na drabinie wykrywania. Włącza się dopiero wtedy, gdy pozostałe warstwy zawęziły wiadomość do prawdziwej szarej strefy.

Wszystko, co pozostaje niejasne po ocenie AI, trafia do przeglądu przez człowieka, zamiast po cichu się prześlizgnąć, więc ruchliwa grupa nigdy nie poświęca dokładności dla szybkości.

5Dokładność, pamięć i przegląd

Moderacja AI jest dostrojona tak, by była ostrożna, a nie nadgorliwa. Pewny werdykt spamu skutkuje działaniem; wszystko, czego nie jest pewna, trafia do przeglądu przez administratora zamiast do kary, więc AI nigdy nie usuwa członka na podstawie przeczucia.

Jej pewne werdykty są zapamiętywane, więc ta sama lub podobna wiadomość jest następnym razem obsługiwana od razu, bez ponownego odwoływania się do AI. Dzięki temu funkcja z czasem pozostaje zarówno dokładna, jak i szybka.

• Pewne werdykty AI są zapamiętywane i ponownie wykorzystywane dla identycznego lub niemal identycznego tekstu.
• Niepewne przypadki stają się pozycją do przeglądu przez administratora, widoczną w dzienniku moderacji.
• Podczas nagłego zalewu wszystko, czego bot nie może od razu przepuścić, trafia do przeglądu i nigdy nie przechodzi bez sprawdzenia.
• Twoje zatwierdzenia i odrzucenia wracają do procesu wykrywania tak samo jak każda inna decyzja.

6Limity według planu

Ponieważ AI działa na końcu i tylko w szarej strefie, zdecydowaną większość wiadomości rozstrzygają inne warstwy, zanim AI zostanie w ogóle wywołana — dlatego nigdy nie spowalnia ruchliwego czatu.

Nie płacisz za wiadomość: moderacja AI w Twoich grupach jest częścią każdego planu, bez limitu wiadomości zależnego od planu. Ogólny limit wywołań AI na całej platformie utrzymuje stabilność usługi podczas zalewów — jeśli nagły napływ przyniesie więcej wiadomości granicznych, niż pozwala ten limit, trafiają one do przeglądu przez administratora, a silnik reguł, CAS i globalna baza nadal chronią grupę. Limity planów — 1 000 sprawdzeń AI dziennie w Pro i 10 000 w Business — dotyczą wyłącznie publicznego API sprawdzania spamu (/spam/check).

7Dobre praktyki

Krótki okres próbnego działania daje Ci pewność, zanim pozwolisz AI działać samodzielnie.

• Najpierw włącz ją w trybie monitorowania i przez kilka dni czytaj werdykty AI w dzienniku.
• Dbaj o aktualność białej listy i zaufanych członków, aby partnerzy i stali bywalcy nigdy nie byli kwestionowani.
• Połącz ją z osobistym modelem ML, jeśli Twoja społeczność ma bardzo charakterystyczny sposób mówienia.
• Nie traktuj AI jako zamiennika reguł — to szczyt drabiny, a pozostałe warstwy nadal wykonują większość pracy.