Hoe Telm-spamdetectie werkt

1Eén bot, veel lagen

Telm vertrouwt niet op één enkele truc. Zie het als de beveiliging op een luchthaven: een bericht passeert meerdere controleposten, de een na de ander, en kan bij elk daarvan worden vrijgegeven of tegengehouden.

Dat gelaagde ontwerp maakt de bescherming zowel betrouwbaar als snel. Voor de hand liggende gevallen worden meteen afgehandeld, en alleen de echt dubbelzinnige berichten worden nauwkeuriger bekeken — daarom wordt zelfs een drukke groep van tienduizenden leden in realtime gemodereerd zonder ooit traag aan te voelen.

• Globale spammercontrole — bekende misbruikers worden bij de ingang tegengehouden, vóór hun eerste bericht.
• Regel- en patroondetectoren — een grote bibliotheek die spamconstructies meteen herkent.
• Geheugen voor herhaalde spam — een golf van identieke of gelijkende spam wordt in één keer gevangen.
• Ons eigen ML-model — getraind op echte spam in vele talen om campagnes te vangen die het nog nooit heeft gezien.
• AI-classificatie — leest de betekenis, voor het zeldzame bericht dat echt een grensgeval is.
• Zelflerend — je beslissingen maken elke laag scherper voor je groep.

2De reis van één enkel bericht

Dit is wat er gebeurt wanneer iemand in je groep iets plaatst. Het bericht wordt laag na laag gecontroleerd, en de meeste berichten worden ruim voor het einde vrijgegeven of gevangen.

Beheerders, de groepseigenaar en vertrouwde leden op de whitelist worden nooit gemodereerd — hun berichten slaan deze controles volledig over, en daarom hoef je je nooit zorgen te maken dat de bot je eigen team raakt.

• Toegangscontrole — een bekende spammer wordt aan de deur tegengehouden door de globale spammerdatabase vóór zijn eerste bericht (zie CAS-blokkeerlijst en de globale spamdatabase).
• Regels en patronen — veel detectoren tellen op tot een spamscore. Geen enkel woord verbant iemand; de beslissing komt uit de som van de signalen.
• Geheugen voor herhaalde spam — als dezelfde of bijna identieke tekst zojuist in je groep is beoordeeld, wordt dat antwoord hergebruikt, zodat een vloed van kopieën in één keer wordt afgehandeld.
• Ons ML-model — beoordeelt hoe spammy de bewoording eruitziet; zekere spam en zekere schone tekst worden hier afgehandeld, en het middenveld gaat verder.
• AI-laag — een taalmodel leest de betekenis van een nog dubbelzinnig bericht (zie AI-moderatie).
• Afbeeldingen en audio — perceptuele hashing, OCR-tekstherkenning, QR-codedetectie en spraaktranscriptie voeren hun tekst terug in exact dezelfde controles.
• Oordeel en actie — doorlaten, verwijderen, dempen, verbannen of naar beheerdersbeoordeling sturen. Alles wordt met de reden gelogd in het moderatiejournaal.

3Wat elke laag daadwerkelijk doet

Het helpt om te weten welke taak elke controlepost echt uitvoert, want ze vangen heel verschillende soorten spam. Samen dekken ze elkaars blinde vlekken af.

• Regel- en patroondetectoren — handmatig gebouwde detectoren die spamconstructies herkennen in plaats van losse woorden: DM-lokkertjes, verborgen advertenties, promotie van externe kanalen, structurele trucs en verhulling. Ze werken op genormaliseerde tekst, zodat gemengde alfabetten en ingevoegde symbolen ze niet misleiden.
• Geheugen voor herhaalde spam — herkent identieke en bijna identieke berichten (een verwisseld telefoonnummer, een andere gebruikersnaam) en hergebruikt het eerdere oordeel, zodat gecoördineerde vloedgolven worden stilgelegd op het moment dat ze beginnen.
• Ons eigen ML-model — een machine-learning-classificatie getraind op een enorme verzameling bevestigde spam plus schone tekst in vele talen. Het generaliseert naar campagnes die het nog nooit heeft gezien, inclusief verhulde en vertaalde varianten.
• AI-classificatie — een taalmodel gereserveerd voor de echte grijze zone. Het leest de bedoeling, zodat het een echte vraag kan onderscheiden van een vermomde verkooppraat.
• Beeld- en audiobegrip — OCR haalt tekst uit banners en schermafbeeldingen, perceptuele hashing matcht bekende spamafbeeldingen, QR-codes worden gedecodeerd, en spraak- en videonotities worden getranscribeerd. Al die teruggewonnen tekst gaat opnieuw door dezelfde regel-, model- en AI-controles.

4Scores, drempels en acties

In plaats van een botte ja/nee bouwt elk bericht een spamscore op uit vele signalen. Hoe hoger de score, hoe sterker de actie — en één ongelukkig woord kan op zichzelf nooit tot een verbanning leiden, omdat de bijdrage van trefwoorden ruim onder de strafdrempels wordt begrensd.

Dit is de ingebouwde beveiliging tegen onterechte verbanningen: een oordeel wordt nooit alleen op woorden geveld, alleen op het volledige beeld. De striktheid van deze drempels bepaal je via striktheidsniveaus voor moderatie en beschermingsprofielen.

• Zeer hoge score — automatische verwijdering, en bij duidelijk misbruik een demping of verbanning.
• Gemiddelde score — naar een beheerder gestuurd ter beoordeling in plaats van blindelings uitgevoerd.
• Lage score, niets verdachts — het bericht wordt onmiddellijk vrijgegeven.
• Nieuwe of niet-vertrouwde leden krijgen iets strengere drempels dan langdurig vertrouwde vaste leden, zodat vertrouwde leden bijna nooit worden gevangen.
• Elke actie is omkeerbaar en kan worden aangevochten, en elke beslissing registreert welke laag besliste en waarom (zie moderatiebeslissingen begrijpen).

5Wat het vangt

In plaats van stopwoorden te matchen, herkent de engine spamconstructies aan hun volledige patroon, inclusief verhulde, op afbeeldingen gebaseerde en gesproken varianten. Dit zijn de families die het is gebouwd om te stoppen.

• DM-lokkertjes — uitnodigingen om verder te gaan in privéberichten, zelfs wanneer ze zijn geformuleerd als een normale opmerking.
• Verborgen advertenties en promotie van kanalen van derden, inclusief doorstuurberichten uit andere kanalen (zie doorstuurberichten en kanalen beheren).
• Gecoördineerde campagnes — dezelfde tekst die in veel groepen opduikt, of vanuit meerdere accounts binnen één groep in een kort tijdsbestek.
• Zwendel- en phishingpatronen — nep-weggeefacties, beleggingsaas en het zich voordoen als beheerder (zie hoe zwendeldetectie werkt).
• Beeldspam — casinobanners, QR-codes en tekst die in afbeeldingen is verwerkt.
• Spraak- en videonotitiespam — verkooppraatjes en links die worden voorgelezen om tekst-only-bots te omzeilen.
• Verhulde tekst — gemengde alfabetten, ingevoegde symbolen en gelijkende tekens.

6Hoe onterechte verbanningen worden voorkomen

De grootste angst bij elke antispam-bot is dat hij per ongeluk een echt lid verwijdert. Telm is zo ontworpen dat dit zowel zeldzaam als altijd herstelbaar is, omdat elke beslissing transparant en omkeerbaar is.

Meerdere beveiligingen werken tegelijk, en ze plaatsen allemaal het menselijk oordeel boven de machine.

• Scorebegrenzing — trefwoorden alleen kunnen nooit tot een verbanning leiden; daarvoor is het gecombineerde gewicht van vele onafhankelijke signalen nodig.
• Beheerders en vertrouwde leden worden nooit gemodereerd, en je kunt meer namen toevoegen aan je lijst met whitelist en vertrouwen.
• De zone met gemiddelde zekerheid gaat naar beheerdersbeoordeling in plaats van een automatische bestraffing.
• Elke actie wordt met de reden gelogd en kan worden aangevochten — goedgekeurde bezwaren geven ook vergelijkbare berichten vrij (zie hoe bezwaren werken).
• Een optioneel persoonlijk ML-model leert de normale spraak van je community en verwerpt vals alarm dat er niet bij past — het kan alleen berichten vrijgeven, nooit straffen.

7Het leert van je

Het systeem staat niet stil. Je moderatiebeslissingen en goedgekeurde bezwaren onderwijzen het voortdurend, zodat het na verloop van tijd nauwkeuriger wordt voor je specifieke community.

Elk van deze feedbacklussen staat onder het menselijk oordeel — wanneer je een bezwaar goedkeurt of een valse positieve markeert, heeft dat oordeel voorrang op de machine en geeft het ook vergelijkbare berichten vrij.

• Je correcties blijven het ML-model verbeteren, zodat de detectie scherper wordt voor het soort berichten dat je groep daadwerkelijk ziet.
• Eén bericht als valse positieve markeren geeft direct de gelijkende berichten eromheen vrij.
• Nieuwe detectoren worden op echt verkeer bewezen voordat ze mogen ingrijpen, en teruggetrokken als ze beginnen te verslechteren.
• Het trackrecord van een lid bepaalt hoeveel speelruimte hij krijgt: een geschiedenis van schone berichten levert wat speling op, een bestraffing beperkt die.
• Een persoonlijk ML-model kan worden getraind op je eigen chat om vals alarm op de normale manier van praten van je community vrij te geven.

8De controle behouden

Je bepaalt hoe strikt de bot is. Twee instellingen zijn het belangrijkst wanneer je begint, en alles wat de bot doet is zichtbaar en aanpasbaar.

Monitoringmodus laat je zien wat de bot zou doen zonder daadwerkelijk iemand te straffen — de veiligste manier om vertrouwen op te bouwen voordat je echte handhaving inschakelt.

• Monitoringmodus — alleen observeren, geen straffen, alles wordt gelogd ter beoordeling.
• Striktheidsniveaus en profielen — kies een kant-en-klaar profiel of stem de drempels af op je community.
• Versoepelde regels — benoem specifieke detectoren die in je groep niet mogen scoren (kritieke beschermingen kunnen niet worden versoepeld).
• Verkoop- en crypto-communitymodus toestaan — verzacht triggers voor communities waar handelspraat normaal is.
• Schakelaars per groep voor CAS, de globale spamdatabase, AI-moderatie, spraakmoderatie en het persoonlijke model.

9Best practices en veelgemaakte fouten

Een paar gewoonten geven je de meeste bescherming met het minste vals alarm. De meeste problemen waar nieuwe beheerders tegenaan lopen, komen neer op het overslaan van een van deze.

• Begin wel in de Monitoringmodus en lees een paar dagen het journaal voordat je handhaaft.
• Zet je eigen team en bekende partners wel op de whitelist zodat hun links nooit in twijfel worden getrokken.
• Schakel de globale spammercontrole wel meteen in — die verwijdert aanvallen voordat je ze ooit ziet.
• Handel wel op bezwaren en valse positieven; elke correctie maakt de bescherming van je groep scherper.
• Schakel niet hele beschermingen uit om één vals alarm op te lossen — versoepel in plaats daarvan de betreffende regel of zet het lid op de whitelist.
• Verwacht niet dat gloednieuwe spammers op een externe lijst staan; daar zijn de regel-, model- en AI-lagen juist voor.