AI-moderatie in Telm: de LLM-classificatie uitgelegd

1Wat AI-moderatie doet

AI-moderatie schakelt een taalmodel (LLM) in dat de betekenis van een bericht leest in plaats van het te scannen op verboden woorden. Het is de laag die het verschil ziet tussen waar kan ik koffie kopen en stuur me een privébericht, ik leer je verdienen.

Het zit boven op de regels en ons eigen ML-model. De meeste berichten bereiken het nooit — het is gereserveerd voor de echt dubbelzinnige gevallen die de andere lagen niet zelf konden beslissen.

2Waarom bedoeling het wint van trefwoorden

Trefwoordfilters hebben een plafond. Een voorzichtige spammer schrijft nooit het verboden woord — hij doet een toespeling, spelt het verkeerd of verpakt de verkooppraat in vriendelijk gekeuvel. Een regelengine ziet niets verkeerds; een mens die de zin leest, ziet de bedoeling meteen.

Dat gat vult AI-moderatie. Het beoordeelt wat een bericht probeert te doen, zodat het een echte mening over crypto kan onderscheiden van vermomde beleggingsfraude, of een oprechte vraag van een DM-lokkertje dat zich voordoet als nieuwsgierigheid.

• Begrijpt parafrases en spelfouten in plaats van exacte tekenreeksen.
• Leest de hele zin in context, niet losse woorden.
• Onderscheidt een legitieme discussie over een onderwerp van een verborgen verkooppraat over hetzelfde onderwerp.
• Vermindert valse positieven, omdat het de betekenis begrijpt in plaats van op woorden te gokken.

3Wanneer het de moeite waard is

De andere lagen van Telm houden het grootste deel van de spam al tegen. AI-moderatie is het extra voordeel voor communities waar spammers zorgvuldig schrijven, zonder voor de hand liggende trefwoorden.

• Je groep trekt vermomde promoties en DM-lokkertjes aan die klinken als een normaal gesprek.
• Je ziet spam die op het eerste gezicht leest als een oprechte vraag of mening.
• Je wilt dat de bot je onderwerp begrijpt — bijvoorbeeld om een legitieme cryptodiscussie te onderscheiden van verborgen oplichting.
• Je bent klaar om verder te gaan dan trefwoorden matchen en over te stappen op het herkennen van bedoelingen.

4Hoe het in de pipeline past

AI-moderatie is geen aparte bot — het is één laag extra op de detectieladder. Het komt pas in actie nadat de andere lagen een bericht hebben teruggebracht tot een echte grijze zone.

Alles wat na de AI-beoordeling nog onduidelijk is, gaat naar menselijke beoordeling in plaats van stilletjes door te glippen, zodat een drukke groep nooit nauwkeurigheid inruilt voor snelheid.

5Nauwkeurigheid, geheugen en beoordeling

AI-moderatie is afgesteld om voorzichtig te zijn, niet om snel toe te slaan. Een zeker spamoordeel leidt tot actie; alles waarover het twijfelt, gaat naar beheerdersbeoordeling in plaats van te worden bestraft, zodat de AI nooit een lid verwijdert op basis van een vermoeden.

Zekere oordelen worden onthouden, zodat hetzelfde of een gelijkend bericht de volgende keer direct wordt afgehandeld zonder opnieuw naar de AI te gaan. Daardoor blijft de functie na verloop van tijd zowel nauwkeurig als snel.

• Zekere AI-oordelen worden onthouden en hergebruikt voor identieke of bijna identieke tekst.
• Twijfelgevallen worden een item voor beheerdersbeoordeling, zichtbaar in het moderatiejournaal.
• Bij een plotselinge vloedgolf wordt alles wat de bot niet meteen kan vrijgeven ter beoordeling doorgestuurd en nooit ongecontroleerd doorgelaten.
• Je goedkeuringen en afwijzingen worden op dezelfde manier teruggevoerd in de pipeline als elke andere beslissing.

6Quota per plan

Omdat AI als laatste draait en alleen op de grijze zone, wordt de overgrote meerderheid van de berichten door de andere lagen afgehandeld voordat de AI ooit wordt aangeroepen — dus het zit een drukke chat nooit in de weg.

Je betaalt niets per bericht: AI-moderatie in je groepen hoort bij elk plan, zonder berichtenquotum per plan. Een platformbrede limiet op AI-aanroepen houdt de dienst stabiel tijdens vloedgolven — levert een plotselinge toestroom meer grensgevallen op dan die limiet toelaat, dan gaan ze naar beheerdersbeoordeling terwijl de regelengine, CAS en de globale database de groep blijven beschermen. De planquota van 1.000 AI-controles per dag op Pro en 10.000 op Business gelden alleen voor /spam/check in de openbare API.

7Aanbevolen aanpak

Een korte inloopperiode geeft je vertrouwen voordat je de AI zelfstandig laat optreden.

• Zet het eerst aan met monitoringmodus en lees een paar dagen de AI-oordelen in het journaal.
• Houd je lijst voor whitelist en vertrouwen actueel, zodat partners en vaste leden nooit in twijfel worden getrokken.
• Combineer het met het persoonlijke ML-model als je community een heel eigen manier van praten heeft.
• Zie AI niet als vervanging voor regels — het is de top van de ladder, en de andere lagen doen nog steeds het meeste werk.