AI-moderering lägger till en språkmodell som läser innebörden, inte bara nyckelord, för att fånga subtil spam som *intressant ämne, skriv till mig privat så visar jag*. Den körs bara på de gränsfallsmeddelanden som de andra lagren inte kunde avgöra, och allt den är osäker på går till admingranskning. Ingår i alla planer, även Free, och är påslagen som standard; du kan stänga av den per grupp i inställningarna.
1Vad AI-moderering gör
AI-moderering kopplar in en språkmodell (LLM) som läser innebörden i ett meddelande i stället för att söka efter förbjudna ord. Det är lagret som skiljer ”var kan jag köpa kaffe” från ”skriv till mig privat, så lär jag dig att tjäna pengar”.
Den ligger ovanpå reglerna och vår egen ML-modell. De flesta meddelanden når den aldrig — den är reserverad för de verkligt tvetydiga fall som de andra lagren inte kunde avgöra på egen hand.
2Därför slår avsikt nyckelord
Nyckelordsfilter har ett tak. En försiktig spammare skriver aldrig det förbjudna ordet — hen antyder, stavar fel och lindar in erbjudandet i vänligt småprat. En regelmotor ser inget fel; en människa som läser meningen ser avsikten direkt.
Det är den luckan AI-moderering fyller. Den bedömer vad ett meddelande försöker uppnå, så den kan skilja en verklig åsikt om krypto från ett förklätt investeringsbedrägeri, eller en äkta fråga från ett lockbete om att flytta till DM som är förklätt till nyfikenhet.
- Förstår omskrivningar och felstavningar i stället för exakta strängar.
- Läser hela meningen i sitt sammanhang, inte lösryckta ord.
- Skiljer en legitim diskussion om ett ämne från ett dolt säljförsök inom samma ämne.
- Minskar antalet falska positiva eftersom den förstår innebörden i stället för att gissa utifrån orden.
3När den är värd att slå på
Telms andra lager stoppar redan merparten av spammen. AI-moderering är den extra skärpan för communities där spammare skriver försiktigt, utan uppenbara nyckelord.
- Din grupp drar till sig förklädd marknadsföring och lockbeten om att flytta till DM som är formulerade som vanligt chattande.
- Du ser spam som vid en snabb blick ser ut som en äkta fråga eller åsikt.
- Du vill att boten ska förstå ditt ämne — till exempel skilja en legitim kryptodiskussion från ett dolt bedrägeri.
- Du är redo att gå från nyckelordsmatchning till avsiktsdetektering.
4Så passar den in i pipelinen
AI-moderering är ingen separat bot — den är ytterligare ett lager på detekteringsstegen. Den kopplas bara in efter att de andra lagren har ringat in ett meddelande till en verklig gråzon.
Allt som fortfarande är oklart efter att AI:n har tittat på det lämnas över till mänsklig granskning i stället för att tyst slinka igenom, så en livlig grupp behöver aldrig byta noggrannhet mot snabbhet.
5Träffsäkerhet, minne och granskning
AI-moderering är inställd på att vara försiktig, inte avtryckarglad. Ett säkert spamutslag leder till en åtgärd; allt den är osäker på skickas till admingranskning i stället för att bestraffas, så AI:n tar aldrig bort en medlem på en känsla.
Dess säkra utslag sparas, så samma eller ett snarlikt meddelande hanteras direkt nästa gång utan att gå tillbaka till AI:n. Det är det som gör att funktionen förblir både träffsäker och snabb över tid.
- Säkra AI-utslag sparas och återanvänds för identisk eller nästan identisk text.
- Osäkra fall blir ett ärende för admingranskning, synligt i modereringsjournalen.
- Vid en plötslig flodvåg skickas allt som boten inte omedelbart kan godkänna till granskning och släpps aldrig igenom okontrollerat.
- Dina godkännanden och avvisningar förs tillbaka in i pipelinen på samma sätt som alla andra beslut.
6Kvoter per plan
Eftersom AI:n körs sist och bara på gråzonen avgörs den absoluta majoriteten av meddelandena av de andra lagren innan AI:n ens anropas — så den står aldrig i vägen för en livlig chatt.
Det finns inget att betala per meddelande: AI-moderering i dina grupper ingår i alla planer, utan någon meddelandekvot per plan. En plattformsgemensam gräns för AI-anrop håller tjänsten stabil vid flodvågor — om en plötslig tillströmning ger fler gränsfallsmeddelanden än gränsen tillåter går de till admingranskning, medan regelmotorn, CAS och den globala databasen fortsätter att skydda gruppen. Plankvoterna på 1 000 AI-kontroller per dag på Pro och 10 000 på Business gäller bara anrop till /spam/check i det publika API:t.
7Bästa praxis
En kort inkörningsperiod ger dig trygghet innan du låter AI:n agera på egen hand.
- Slå på den med övervakningsläge först och läs AI-utslagen i journalen under några dagar.
- Håll din lista för vitlista och förtroende aktuell så att partner och stamgäster aldrig ifrågasätts.
- Kombinera den med den personliga ML-modellen om ditt community har ett mycket säreget sätt att prata.
- Se inte AI som en ersättning för regler — den är toppen av stegen, och de andra lagren gör fortfarande det mesta av arbetet.