AI moderace (LLM klasifikátor)

1Co AI moderace dělá

AI moderace zapíná jazykový model (LLM), který čte význam zprávy, místo aby v ní hledal zakázaná slova. Je to vrstva, která rozlišuje mezi kde si můžu koupit kávu a napiš mi soukromě, naučím tě vydělávat.

Sedí nad pravidly a naším vlastním ML modelem. Většina zpráv se k ní nikdy nedostane — je vyhrazena pro skutečně nejednoznačné případy, o kterých ostatní vrstvy nedokázaly rozhodnout samy.

2Proč záměr vítězí nad klíčovými slovy

Filtry klíčových slov mají strop. Opatrný spamer nikdy nenapíše zakázané slovo — naznačuje, píše s překlepy, zabalí nabídku do přátelské konverzace. Pravidlový engine nevidí nic špatného; člověk čtoucí větu záměr rozezná okamžitě.

To je mezera, kterou AI moderace vyplňuje. Posuzuje, oč se zpráva snaží, takže dokáže oddělit skutečný názor na krypto od zamaskovaného investičního podvodu nebo opravdovou otázku od lákání do soukromí přestrojeného za zvědavost.

• Rozumí parafrázi a překlepům namísto přesných řetězců.
• Čte celou větu v kontextu, ne izolovaná slova.
• Odliší legitimní diskusi o tématu od skryté nabídky na totéž téma.
• Snižuje falešné poplachy, protože chápe význam, místo aby hádal ze slov.

3Kdy stojí za to ji zapnout

Ostatní vrstvy Telmu už zastaví převážnou část spamu. AI moderace je výhoda navíc pro komunity, kde spameři píší opatrně, bez zjevných klíčových slov.

• Vaši skupinu přitahují zamaskované propagace a lákání do soukromí formulované jako běžný chat.
• Vídáte spam, který na první pohled působí jako opravdová otázka nebo názor.
• Chcete, aby bot rozuměl vašemu tématu — například aby odlišil legitimní diskusi o kryptu od skrytého podvodu.
• Jste připraveni posunout se od párování klíčových slov k detekci záměru.

4Jak zapadá do řetězce

AI moderace není samostatný bot — je to jen další vrstva na detekčním žebříku. Zapojí se teprve poté, co ostatní vrstvy zúží zprávu na skutečnou šedou zónu.

Cokoli je i po pohledu AI stále nejasné, je předáno lidské kontrole, místo aby to tiše proklouzlo, takže rušná skupina nikdy nemění přesnost za rychlost.

5Přesnost, paměť a kontrola

AI moderace je vyladěná tak, aby byla opatrná, ne unáhlená. Jistý verdikt spamu jedná; cokoli, čím si není jistá, je směrováno ke kontrole správci, nikoli potrestáno, takže AI nikdy neodstraní člena jen z dohadu.

Její jisté verdikty se pamatují, takže stejná nebo podobná zpráva je příště vyřízena okamžitě, aniž by se vracela k AI. To je to, co drží funkci časem přesnou i rychlou.

• Jisté verdikty AI se pamatují a znovu používají pro totožný nebo téměř totožný text.
• Nejisté případy se stanou položkou ke kontrole správci, viditelnou v žurnálu moderace.
• Během náhlé záplavy je cokoli, co bot nedokáže okamžitě pročistit, posláno ke kontrole, nikdy propuštěno bez prověření.
• Vaše schválení a zamítnutí se vracejí do řetězce stejným způsobem jako kterékoli jiné rozhodnutí.

6Součástí Pro a Business

Protože AI běží jako poslední a jen na šedé zóně, naprostá většina zpráv je vyřešena ostatními vrstvami dřív, než je AI vůbec zavolána — takže nikdy nepřekáží rušnému chatu.

Za zprávu se nic navíc nekupuje: AI moderace je součástí tarifů Pro a Business. Pokud náhlá záplava někdy vžene do šedé zóny víc zpráv než obvykle, přebytek jde ke kontrole správci, místo aby byl propuštěn bez prověření.

7Doporučené postupy

Krátké zaběhávací období vám dá jistotu, než necháte AI jednat samostatně.

• Zapněte ji nejprve s monitorovacím režimem a pár dní čtěte verdikty AI v žurnálu.
• Udržujte aktuální svůj seznam povolených a důvěru, aby partneři a štamgasti nebyli nikdy zpochybňováni.
• Spárujte ji s osobním ML modelem, pokud má vaše komunita velmi osobitý způsob řeči.
• Neberte AI jako náhradu pravidel — je to vrchol žebříku a většinu práce stále odvádějí ostatní vrstvy.