AI-moderatie (LLM-classificatie)

1Wat AI-moderatie doet

AI-moderatie schakelt een taalmodel (LLM) in dat de betekenis van een bericht leest in plaats van het te scannen op verboden woorden. Het is de laag die onderscheid maakt tussen waar kan ik koffie kopen en schrijf me privé, ik leer je geld verdienen.

Het staat bovenop de regels en ons eigen ML-model. De meeste berichten bereiken het nooit — het is gereserveerd voor de echt dubbelzinnige gevallen die de andere lagen niet zelf konden beslissen.

2Waarom bedoeling het wint van trefwoorden

Trefwoordfilters hebben een plafond. Een voorzichtige spammer schrijft het verboden woord nooit — hij hint, spelt verkeerd, verpakt de verkooppraat in vriendelijke koetjes en kalfjes. Een regel-engine ziet niets verkeerds; een mens die de zin leest, ziet de bedoeling meteen.

Dat is het gat dat AI-moderatie opvult. Het beoordeelt wat een bericht probeert te doen, zodat het een echte mening over crypto kan onderscheiden van een vermomde beleggingszwendel, of een oprechte vraag van een DM-lokkertje vermomd als nieuwsgierigheid.

• Begrijpt parafrasering en spelfouten in plaats van exacte tekenreeksen.
• Leest de hele zin in context, niet losse woorden.
• Onderscheidt legitieme onderwerpdiscussie van een verborgen verkooppraat over hetzelfde onderwerp.
• Vermindert valse positieven omdat het de betekenis vat in plaats van te gokken op basis van woorden.

3Wanneer inschakelen de moeite waard is

De andere lagen van Telm stoppen al het grootste deel van de spam. AI-moderatie is het extra voordeel voor communities waar spammers zorgvuldig schrijven, zonder voor de hand liggende trefwoorden.

• Je groep trekt vermomde promoties en DM-lokkertjes aan die geformuleerd zijn als normale chat.
• Je ziet spam die op het eerste gezicht overkomt als een oprechte vraag of mening.
• Je wilt dat de bot je onderwerp begrijpt — bijvoorbeeld om legitieme crypto-discussie van een verborgen zwendel te onderscheiden.
• Je bent klaar om verder te gaan dan trefwoordmatching naar bedoelingsdetectie.

4Hoe het in de pijplijn past

AI-moderatie is geen aparte bot — het is nog een laag op de detectieladder. Het treedt pas in werking nadat de andere lagen een bericht hebben teruggebracht tot een echt grijs gebied.

Alles wat na de beoordeling door de AI nog onduidelijk is, wordt overgedragen aan menselijke beoordeling in plaats van stilletjes door te glippen, zodat een drukke groep nooit nauwkeurigheid voor snelheid inruilt.

5Nauwkeurigheid, geheugen en beoordeling

AI-moderatie is afgesteld om voorzichtig te zijn, niet schietgraag. Een zeker spamoordeel grijpt in; alles waarover het twijfelt wordt naar beheerdersbeoordeling gestuurd in plaats van bestraft, zodat de AI nooit een lid verwijdert op basis van een onderbuikgevoel.

De zekere oordelen worden onthouden, zodat hetzelfde of een gelijkend bericht de volgende keer direct wordt afgehandeld zonder terug te gaan naar de AI. Dat is wat de functie na verloop van tijd zowel nauwkeurig als snel houdt.

• Zekere AI-oordelen worden onthouden en hergebruikt voor identieke of bijna identieke tekst.
• Onzekere gevallen worden een item voor beheerdersbeoordeling, zichtbaar in het moderatiejournaal.
• Tijdens een plotselinge vloedgolf wordt alles wat de bot niet meteen kan vrijgeven naar beoordeling gestuurd, nooit ongecontroleerd doorgelaten.
• Je goedkeuringen en afwijzingen vloeien op dezelfde manier terug in de pijplijn als elke andere beslissing.

6Inbegrepen in Pro en Business

Omdat de AI als laatste draait en alleen op de grijze zone, wordt de overgrote meerderheid van de berichten door de andere lagen afgehandeld voordat de AI ooit wordt aangeroepen — zo staat het een drukke chat nooit in de weg.

Er is niets extra's per bericht te kopen: AI-moderatie is inbegrepen in de Pro- en Business-plannen. Als een plotselinge vloedgolf ooit meer berichten dan gebruikelijk in de grijze zone duwt, gaat de overloop naar beheerdersbeoordeling in plaats van ongecontroleerd te worden doorgelaten.

7Best practices

Een korte inloopperiode geeft je vertrouwen voordat je de AI op eigen houtje laat handelen.

• Schakel het eerst in met Monitoringmodus en lees de AI-oordelen een paar dagen in het journaal.
• Houd je lijst met whitelist en vertrouwen actueel zodat partners en vaste leden nooit in twijfel worden getrokken.
• Combineer het met het persoonlijke ML-model als je community een zeer kenmerkende manier van praten heeft.
• Behandel AI niet als vervanging voor regels — het is de bovenkant van de ladder, en de andere lagen doen nog steeds het meeste werk.