Die KI-Moderation ergänzt ein Sprachmodell, das die Bedeutung liest und nicht nur Schlüsselwörter, um subtilen Spam zu erkennen wie *spannendes Thema, schreib mir per DM, dann zeige ich es dir*. Sie läuft nur bei den Grenzfällen, die die anderen Schichten nicht entscheiden konnten, und alles, worüber sie sich unsicher ist, geht zur Admin-Prüfung. In jedem Plan enthalten, auch in Free, und standardmäßig aktiv; Sie können sie pro Gruppe in den Einstellungen ausschalten.
1Was die KI-Moderation macht
Die KI-Moderation schaltet ein Sprachmodell (LLM) zu, das die Bedeutung einer Nachricht erfasst, statt sie nach verbotenen Wörtern zu durchsuchen. Es ist die Schicht, die „Wo kann ich Kaffee kaufen?“ von „Schreib mir privat, ich bringe dir bei, Geld zu verdienen“ unterscheidet.
Sie setzt auf den Regeln und unserem eigenen ML-Modell auf. Die meisten Nachrichten erreichen sie nie — sie ist den wirklich mehrdeutigen Fällen vorbehalten, die die anderen Schichten nicht selbst entscheiden konnten.
2Warum Absicht mehr zählt als Schlüsselwörter
Schlüsselwortfilter stoßen an eine Grenze. Ein vorsichtiger Spammer schreibt das verbotene Wort nie — er deutet an, schreibt absichtlich falsch oder verpackt das Angebot in freundlichen Smalltalk. Eine Regel-Engine sieht nichts Auffälliges; ein Mensch, der den Satz liest, erkennt die Absicht sofort.
Genau diese Lücke schließt die KI-Moderation. Sie beurteilt, was eine Nachricht bezweckt, und kann so eine echte Meinung über Krypto von einem getarnten Investmentbetrug unterscheiden oder eine echte Frage von einem als Neugier getarnten Lockversuch in die DMs.
- Versteht Umschreibungen und Falschschreibungen statt nur exakter Zeichenfolgen.
- Liest den ganzen Satz im Kontext, nicht einzelne Wörter.
- Unterscheidet legitime Diskussionen über ein Thema von einem versteckten Verkaufsangebot zum selben Thema.
- Reduziert Fehlalarme, weil sie die Bedeutung erfasst, statt aus Wörtern zu raten.
3Wann sich die Aktivierung lohnt
Die anderen Schichten von Telm stoppen bereits den Großteil des Spams. Die KI-Moderation ist der zusätzliche Vorsprung für Communitys, in denen Spammer sorgfältig und ohne offensichtliche Schlüsselwörter schreiben.
- Ihre Gruppe zieht getarnte Werbung und Lockversuche in die DMs an, die wie normaler Chat formuliert sind.
- Sie sehen Spam, der auf den ersten Blick wie eine echte Frage oder Meinung wirkt.
- Sie möchten, dass der Bot Ihr Thema versteht — etwa um legitime Krypto-Diskussionen von einem versteckten Betrug zu unterscheiden.
- Sie sind bereit, über den Schlüsselwortabgleich hinaus zur Absichtserkennung überzugehen.
4Wie sie sich in die Pipeline einfügt
Die KI-Moderation ist kein separater Bot — sie ist eine weitere Schicht auf der Erkennungsleiter. Sie greift erst ein, nachdem die anderen Schichten eine Nachricht auf eine echte Grauzone eingegrenzt haben.
Was auch nach der Prüfung durch die KI noch unklar ist, wird an eine menschliche Prüfung übergeben, statt still durchzurutschen — so tauscht eine aktive Gruppe nie Genauigkeit gegen Geschwindigkeit.
5Genauigkeit, Gedächtnis und Prüfung
Die KI-Moderation ist auf Sorgfalt abgestimmt, nicht auf schnelles Zuschlagen. Ein sicheres Spam-Urteil führt zu einer Aktion; alles, worüber sie sich unsicher ist, geht zur Admin-Prüfung statt zu einer Bestrafung, sodass die KI nie ein Mitglied aufgrund einer bloßen Vermutung entfernt.
Ihre sicheren Urteile werden gespeichert, sodass dieselbe oder eine ähnliche Nachricht beim nächsten Mal sofort behandelt wird, ohne erneut die KI zu befragen. Dadurch bleibt die Funktion auf Dauer sowohl genau als auch schnell.
- Sichere KI-Urteile werden gespeichert und für identische oder nahezu identische Texte wiederverwendet.
- Unsichere Fälle werden zu einem Eintrag für die Admin-Prüfung, sichtbar im Moderationsjournal.
- Bei einer plötzlichen Flut wird alles, was der Bot nicht sofort freigeben kann, zur Prüfung geschickt — nie ungeprüft durchgelassen.
- Ihre Freigaben und Ablehnungen fließen genauso in die Pipeline zurück wie jede andere Entscheidung.
6Kontingente nach Plan
Da die KI zuletzt und nur in der Grauzone läuft, wird die überwiegende Mehrheit der Nachrichten von den anderen Schichten entschieden, bevor die KI überhaupt aufgerufen wird — sie bremst also nie einen aktiven Chat aus.
Pro Nachricht zahlen Sie nichts: Die KI-Moderation in Ihren Gruppen ist Teil jedes Plans, ohne Nachrichtenkontingent pro Plan. Ein plattformweites Limit für KI-Aufrufe hält den Dienst bei Fluten stabil — erzeugt ein plötzlicher Ansturm mehr Grenzfälle, als es zulässt, gehen diese zur Admin-Prüfung, während die Regel-Engine, CAS und die globale Datenbank die Gruppe weiter schützen. Die Plan-Kontingente von 1.000 KI-Prüfungen pro Tag bei Pro und 10.000 bei Business gelten nur für die öffentliche API /spam/check.
7Bewährte Vorgehensweisen
Eine kurze Eingewöhnungsphase gibt Ihnen Sicherheit, bevor Sie die KI selbstständig handeln lassen.
- Schalten Sie sie zuerst zusammen mit dem Beobachtungsmodus ein und lesen Sie einige Tage lang die KI-Urteile im Journal.
- Halten Sie Ihre Whitelist- und Vertrauensliste aktuell, damit Partner und Stammmitglieder nie infrage gestellt werden.
- Kombinieren Sie sie mit dem persönlichen ML-Modell, wenn Ihre Community eine sehr eigene Art zu sprechen hat.
- Betrachten Sie die KI nicht als Ersatz für Regeln — sie ist die Spitze der Leiter, und die anderen Schichten erledigen weiterhin den Großteil der Arbeit.