Moderação com IA no Telm: o classificador LLM explicado

1O que a moderação com IA faz

A moderação com IA liga um modelo de linguagem (LLM) que lê o significado de uma mensagem em vez de procurar palavras proibidas. É a camada que diferencia «onde posso comprar café?» de «me chama no privado que eu te ensino a ganhar dinheiro».

Ela fica acima das regras e do nosso próprio modelo de ML. A maioria das mensagens nunca chega até ela: ela é reservada para os casos realmente ambíguos que as outras camadas não conseguiram decidir sozinhas.

2Por que a intenção vence as palavras-chave

Filtros de palavras-chave têm um teto. Um spammer cuidadoso nunca escreve a palavra proibida: ele insinua, erra a grafia de propósito e embrulha a oferta em uma conversa amigável. Um mecanismo de regras não vê nada de errado; uma pessoa lendo a frase percebe a intenção na hora.

É essa lacuna que a moderação com IA preenche. Ela avalia o que uma mensagem está tentando fazer, então consegue separar uma opinião real sobre cripto de um golpe de investimento disfarçado, ou uma pergunta genuína de uma isca para levar a conversa ao privado disfarçada de curiosidade.

• Entende paráfrases e erros de grafia em vez de sequências exatas.
• Lê a frase inteira no contexto, e não palavras isoladas.
• Diferencia uma discussão legítima sobre um tema de uma oferta escondida sobre o mesmo assunto.
• Reduz os falsos positivos porque entende o significado em vez de adivinhar pelas palavras.

3Quando vale a pena ativar

As outras camadas do Telm já barram a maior parte do spam. A moderação com IA é a vantagem extra para comunidades em que os spammers escrevem com cuidado, sem palavras-chave óbvias.

• Seu grupo atrai promoções disfarçadas e iscas para levar a conversa ao privado escritas como um papo normal.
• Você vê spam que, à primeira vista, parece uma pergunta ou opinião genuína.
• Você quer que o bot entenda o seu assunto, por exemplo para diferenciar uma discussão legítima sobre cripto de um golpe escondido.
• Você está pronto para ir além da correspondência de palavras-chave e passar para a detecção de intenção.

4Como ela se encaixa no fluxo

A moderação com IA não é um bot separado: é mais uma camada da escada de detecção. Ela só entra em ação depois que as outras camadas reduziram uma mensagem a uma verdadeira zona cinzenta.

O que continua incerto depois da análise da IA vai para a revisão humana em vez de passar despercebido, então um grupo movimentado nunca troca precisão por velocidade.

5Precisão, memória e revisão

A moderação com IA é ajustada para ser cuidadosa, e não precipitada. Um veredito de spam confiante gera uma ação; tudo sobre o que ela não tem certeza vai para a revisão dos administradores em vez de ser punido, então a IA nunca remove um membro por um palpite.

Os vereditos confiantes dela ficam na memória, então a mesma mensagem ou uma parecida é tratada na hora da próxima vez, sem voltar para a IA. É isso que mantém o recurso preciso e rápido ao longo do tempo.

• Os vereditos confiantes da IA ficam na memória e são reutilizados para textos idênticos ou quase idênticos.
• Os casos incertos viram um item de revisão para os administradores, visível no registro de moderação.
• Durante uma enxurrada repentina, tudo o que o bot não consegue liberar de imediato vai para revisão, e nunca passa sem verificação.
• Suas aprovações e rejeições voltam para o fluxo da mesma forma que qualquer outra decisão.

6Cotas por plano

Como a IA atua por último e só na zona cinzenta, a grande maioria das mensagens é resolvida pelas outras camadas antes mesmo de a IA ser chamada, então ela nunca atrapalha um chat movimentado.

Não há nada a pagar por mensagem: a moderação com IA dentro dos seus grupos faz parte de todos os planos, sem cota de mensagens por plano. Um limite de chamadas à IA para toda a plataforma mantém o serviço estável durante enxurradas: se uma entrada repentina gerar mais mensagens limítrofes do que o limite permite, elas vão para a revisão dos administradores enquanto o mecanismo de regras, o CAS e o banco de dados global continuam protegendo o grupo. As cotas de 1.000 verificações com IA por dia no Pro e 10.000 no Business valem apenas para a API pública /spam/check.

7Boas práticas

Um curto período de adaptação dá confiança antes de você deixar a IA agir sozinha.

• Ative-a primeiro junto com o modo de monitoramento e leia os vereditos da IA no registro por alguns dias.
• Mantenha a sua whitelist e confiança atualizada para que parceiros e membros frequentes nunca sejam questionados.
• Combine com o modelo de ML pessoal se a sua comunidade tem um jeito muito próprio de falar.
• Não trate a IA como substituta das regras: ela é o topo da escada, e as outras camadas continuam fazendo a maior parte do trabalho.