Comment fonctionne la détection de spam de Telm

1Un bot, de nombreuses couches

Telm ne repose pas sur une seule astuce. Voyez cela comme la sécurité dans un aéroport : un message passe par plusieurs points de contrôle, l’un après l’autre, et peut être autorisé ou arrêté à chacun d’eux.

Cette conception en couches est ce qui rend la protection à la fois fiable et rapide. Les cas évidents sont réglés d’emblée, et seuls les messages vraiment ambigus sont examinés de plus près — c’est pourquoi même un groupe chargé de dizaines de milliers de membres est modéré en temps réel sans jamais paraître lent.

• Contrôle mondial des spammeurs — les abuseurs connus sont arrêtés à l’entrée, avant leur premier message.
• Détecteurs de règles et de motifs — une vaste bibliothèque qui reconnaît les stratagèmes de spam d’un coup d’œil.
• Mémoire du spam répété — une vague de spam identique ou ressemblant est attrapée d’un coup.
• Notre propre modèle ML — entraîné sur du vrai spam dans de nombreuses langues pour attraper des campagnes qu’il n’a jamais vues.
• Classificateur IA — lit le sens, pour le rare message vraiment limite.
• Auto-apprentissage — vos décisions rendent chaque couche plus fine pour votre groupe.

2Le parcours d’un seul message

Voici ce qui se passe quand quelqu’un publie dans votre groupe. Le message est contrôlé couche après couche, et la plupart des messages sont autorisés ou attrapés bien avant la fin.

Les administrateurs, le propriétaire du groupe et les membres de confiance sur liste blanche ne sont jamais modérés — leurs messages sautent entièrement ces contrôles, c’est pourquoi vous n’avez jamais à craindre que le bot touche votre propre équipe.

• Contrôle d’entrée — un spammeur connu est arrêté à la porte par la base de données mondiale des spammeurs avant son premier message (voir liste de blocage CAS et la base de données mondiale du spam).
• Règles et motifs — de nombreux détecteurs additionnent un score de spam. Aucun mot seul ne bannit qui que ce soit ; la décision vient de la somme des signaux.
• Mémoire du spam répété — si le même texte, ou presque, vient d’être jugé dans votre groupe, cette réponse est réutilisée, si bien qu’une inondation de copies est traitée d’un seul coup.
• Notre modèle ML — évalue à quel point la formulation paraît spam ; le spam certain et le texte propre certain sont réglés ici, et le milieu passe à la suite.
• Couche IA — un modèle de langage lit le sens d’un message encore ambigu (voir modération IA).
• Images et audio — le hachage perceptuel, la reconnaissance de texte OCR, la détection de QR codes et la transcription vocale réinjectent leur texte dans les mêmes contrôles.
• Verdict et action — laisser passer, supprimer, mettre en silence, bannir ou envoyer en revue à un administrateur. Tout est consigné avec la raison dans le journal de modération.

3Ce que fait réellement chaque couche

Il est utile de savoir quel travail chaque point de contrôle accomplit vraiment, car ils attrapent des types de spam très différents. Ensemble, ils couvrent leurs angles morts respectifs.

• Détecteurs de règles et de motifs — des détecteurs construits à la main qui reconnaissent les stratagèmes de spam plutôt que des mots isolés : appâts vers les messages privés, publicités cachées, promotion de canaux externes, astuces structurelles et obfuscation. Ils travaillent sur un texte normalisé, si bien que les alphabets mélangés et les symboles insérés ne les trompent pas.
• Mémoire du spam répété — reconnaît les messages identiques et quasi identiques (un numéro de téléphone permuté, un identifiant différent) et réutilise le verdict antérieur, si bien que les inondations coordonnées sont neutralisées dès qu’elles commencent.
• Notre propre modèle ML — un classificateur d’apprentissage automatique entraîné sur une énorme collection de spam confirmé plus du langage propre dans de nombreuses langues. Il se généralise à des campagnes qu’il n’a jamais vues, y compris les variantes obfusquées et traduites.
• Classificateur IA — un modèle de langage réservé à la véritable zone grise. Il lit l’intention, il peut donc distinguer une vraie question d’un argumentaire déguisé.
• Compréhension des images et de l’audio — l’OCR extrait le texte des bannières et des captures d’écran, le hachage perceptuel fait correspondre les images de spam connues, les QR codes sont décodés, et les notes vocales et vidéo sont transcrites. Tout ce texte récupéré réentre dans les mêmes contrôles de règles, de modèle et d’IA.

4Scores, seuils et actions

Au lieu d’un oui/non brutal, chaque message accumule un score de spam à partir de nombreux signaux. Plus le score est élevé, plus l’action est forte — et un seul mot malheureux ne peut jamais mener à un bannissement à lui seul, car la contribution des mots-clés est plafonnée bien en dessous des seuils de sanction.

C’est la protection intégrée contre les faux bannissements : un verdict n’est jamais rendu par les mots seuls, seulement par le tableau complet. La sévérité de ces seuils est quelque chose que vous contrôlez via les niveaux de sévérité de la modération et les préréglages de protection.

• Score très élevé — retrait automatique, et pour un abus manifeste un silence ou un bannissement.
• Score moyen — envoyé à un administrateur pour revue plutôt que sanctionné à l’aveugle.
• Score faible, rien de suspect — le message est libéré immédiatement.
• Les membres nouveaux ou non fiables font face à des seuils un peu plus fermes que les habitués de confiance de longue date, si bien que les membres de confiance ne sont presque jamais attrapés.
• Chaque action est réversible et contestable, et chaque décision enregistre quelle couche a décidé et pourquoi (voir comprendre les décisions de modération).

5Ce qu’il attrape

Plutôt que de faire correspondre des mots interdits, le moteur reconnaît les stratagèmes de spam par leur motif d’ensemble, y compris les variantes obfusquées, sous forme d’image et parlées. Voici les familles qu’il est conçu pour arrêter.

• Appâts vers les messages privés — invitations à continuer en messages privés, même formulées comme une remarque ordinaire.
• Publicités cachées et promotion de canaux tiers, y compris les transferts depuis d’autres canaux (voir contrôler les transferts et les canaux).
• Campagnes coordonnées — le même texte qui apparaît à travers de nombreux groupes, ou depuis plusieurs comptes dans un même groupe en peu de temps.
• Motifs d’arnaque et d’hameçonnage — faux cadeaux, appâts à l’investissement et usurpation d’administrateurs (voir comment fonctionne la détection d’arnaques).
• Spam par image — bannières de casino, QR codes et texte incrusté dans les images.
• Spam par note vocale et vidéo — argumentaires et liens lus à voix haute pour esquiver les bots limités au texte.
• Texte obfusqué — alphabets mélangés, symboles insérés et caractères sosies.

6Comment les faux bannissements sont évités

La plus grande crainte avec tout bot anti-spam est qu’il retire un vrai membre par erreur. Telm est conçu pour que cela soit à la fois rare et toujours rattrapable, car chaque décision est transparente et réversible.

Plusieurs garde-fous fonctionnent en même temps, et tous placent le jugement humain au-dessus de la machine.

• Plafonnement du score — les mots-clés seuls ne peuvent jamais mener à un bannissement ; il faut le poids combiné de nombreux signaux indépendants.
• Les administrateurs et les membres de confiance ne sont jamais modérés, et vous pouvez ajouter d’autres noms à votre liste de liste blanche et confiance.
• La zone de confiance moyenne part en revue par un administrateur au lieu d’une sanction automatique.
• Chaque action est consignée avec sa raison et peut être contestée — les appels approuvés effacent aussi les messages similaires (voir comment fonctionnent les appels).
• Un modèle ML personnel optionnel apprend le langage normal de votre communauté et met son veto aux fausses alarmes qui n’y correspondent pas — il ne peut qu’autoriser des messages, jamais sanctionner.

7Il apprend de vous

Le système n’est pas figé. Vos décisions de modération et vos appels approuvés l’instruisent en continu, si bien qu’il devient plus précis pour votre communauté spécifique au fil du temps.

Chacune de ces boucles de retour se place sous le jugement humain — quand vous approuvez un appel ou marquez un faux positif, ce verdict prime sur la machine et efface aussi les messages similaires.

• Vos corrections continuent d’améliorer le modèle ML, si bien que la détection s’affine pour le type de messages que votre groupe voit réellement.
• Marquer un message comme faux positif efface instantanément les messages sosies autour de lui.
• Les nouveaux détecteurs sont éprouvés sur du vrai trafic avant d’être autorisés à agir, et retirés s’ils commencent à déraper.
• L’historique d’un membre ajuste la marge qu’on lui accorde : un passé de messages propres gagne un peu de latitude, une sanction la resserre.
• Un modèle ML personnel peut être entraîné sur votre propre discussion pour effacer les fausses alarmes sur la façon normale de parler de votre communauté.

8Rester aux commandes

Vous décidez du degré de sévérité du bot. Deux réglages comptent le plus quand vous démarrez, et tout ce que fait le bot est visible et ajustable.

Le mode surveillance vous laisse observer ce que le bot ferait sans qu’il punisse réellement qui que ce soit — la façon la plus sûre de bâtir la confiance avant d’activer la vraie application.

• Mode surveillance — observation seule, aucune sanction, tout est consigné pour revue.
• Niveaux de sévérité et préréglages — choisissez un profil prêt à l’emploi ou ajustez finement les seuils pour votre communauté.
• Règles assouplies — désignez des détecteurs précis qui ne doivent pas scorer dans votre groupe (les protections critiques ne peuvent pas être assouplies).
• Mode autoriser la vente et communauté crypto — adoucit les déclencheurs pour les communautés où le langage de trading est normal.
• Interrupteurs par groupe pour CAS, la base de données mondiale du spam, la modération IA, la modération vocale et le modèle personnel.

9Bonnes pratiques et erreurs fréquentes

Quelques habitudes vous procurent le maximum de protection avec le minimum de fausses alarmes. La plupart des problèmes rencontrés par les nouveaux administrateurs se résument à en avoir sauté une.

• Faites : commencez en mode surveillance et lisez le journal pendant quelques jours avant d’appliquer.
• Faites : placez sur liste blanche votre propre équipe et vos partenaires connus afin que leurs liens ne soient jamais remis en cause.
• Faites : activez tout de suite le contrôle mondial des spammeurs — il retire les attaques avant même que vous ne les voyiez.
• Faites : agissez sur les appels et les faux positifs ; chaque correction rend la protection de votre groupe plus fine.
• Ne faites pas : désactiver des protections entières pour corriger une seule fausse alarme — assouplissez la seule règle en cause ou placez plutôt le membre sur liste blanche.
• Ne faites pas : attendre que les spammeurs tout nouveaux figurent sur une liste externe ; c’est exactement à cela que servent les couches de règles, de modèle et d’IA.