La moderación con IA añade un modelo de lenguaje que lee el significado, no solo palabras clave, para detectar spam sutil como *tema interesante, escríbeme por privado y te lo enseño*. Solo se aplica a los mensajes dudosos que las demás capas no pudieron resolver, y todo lo que no tiene claro pasa a revisión de los administradores. Incluida en todos los planes, también en Free, y activada por defecto; puedes desactivarla por grupo en los ajustes.
1Qué hace la moderación con IA
La moderación con IA activa un modelo de lenguaje (LLM) que lee el significado de un mensaje en lugar de buscar palabras prohibidas. Es la capa que distingue «¿dónde puedo comprar café?» de «escríbeme por privado y te enseño a ganar dinero».
Funciona por encima de las reglas y de nuestro propio modelo ML. La mayoría de los mensajes nunca llegan a ella: está reservada para los casos realmente ambiguos que las demás capas no pudieron decidir por sí solas.
2Por qué la intención gana a las palabras clave
Los filtros de palabras clave tienen un techo. Un spammer cuidadoso nunca escribe la palabra prohibida: insinúa, escribe mal a propósito y envuelve la oferta en una charla amistosa. Un motor de reglas no ve nada raro; una persona que lee la frase capta la intención al instante.
Ese es el hueco que cubre la moderación con IA. Juzga lo que un mensaje intenta conseguir, así que puede separar una opinión real sobre criptomonedas de una estafa de inversión disfrazada, o una pregunta genuina de un cebo para llevar la conversación al privado disfrazado de curiosidad.
- Entiende paráfrasis y faltas de ortografía en lugar de cadenas exactas.
- Lee la frase completa en contexto, no palabras aisladas.
- Distingue un debate legítimo sobre un tema de una oferta oculta sobre ese mismo tema.
- Reduce los falsos positivos porque entiende el significado en lugar de adivinarlo por las palabras.
3Cuándo merece la pena activarla
Las demás capas de Telm ya frenan la mayor parte del spam. La moderación con IA es la ventaja extra para comunidades donde los spammers escriben con cuidado, sin palabras clave evidentes.
- Tu grupo atrae promociones disfrazadas y cebos para llevar la conversación al privado redactados como charla normal.
- Ves spam que a primera vista parece una pregunta u opinión genuina.
- Quieres que el bot entienda tu temática, por ejemplo, para distinguir un debate legítimo sobre criptomonedas de una estafa oculta.
- Estás listo para pasar de la coincidencia de palabras clave a la detección de intenciones.
4Cómo encaja en el proceso
La moderación con IA no es un bot aparte: es una capa más de la escalera de detección. Solo entra en juego después de que las demás capas hayan reducido un mensaje a una auténtica zona gris.
Lo que sigue sin estar claro después de que la IA lo revise pasa a revisión humana en lugar de colarse sin más, así que un grupo con mucha actividad nunca sacrifica precisión por velocidad.
5Precisión, memoria y revisión
La moderación con IA está ajustada para ser cuidadosa, no impulsiva. Un veredicto de spam seguro actúa; todo lo que no tiene claro se envía a revisión de los administradores en lugar de sancionarse, así que la IA nunca expulsa a un miembro por una corazonada.
Sus veredictos seguros se recuerdan, así que el mismo mensaje o uno parecido se gestiona al instante la próxima vez sin volver a consultar a la IA. Eso es lo que mantiene la función precisa y rápida con el tiempo.
- Los veredictos seguros de la IA se recuerdan y se reutilizan para textos idénticos o casi idénticos.
- Los casos dudosos se convierten en un elemento de revisión para los administradores, visible en el registro de moderación.
- Durante una avalancha repentina, todo lo que el bot no puede aprobar de inmediato se envía a revisión, nunca se deja pasar sin comprobar.
- Tus aprobaciones y rechazos se incorporan al proceso igual que cualquier otra decisión.
6Cuotas por plan
Como la IA actúa en último lugar y solo en la zona gris, la gran mayoría de los mensajes se resuelven en las demás capas antes de llegar a ella, así que nunca entorpece un chat con mucha actividad.
No hay nada que pagar por mensaje: la moderación con IA dentro de tus grupos forma parte de todos los planes, sin cuota de mensajes por plan. Un límite de llamadas a la IA para toda la plataforma mantiene el servicio estable durante las avalanchas: si una entrada repentina genera más mensajes dudosos de los permitidos, estos pasan a revisión de los administradores mientras el motor de reglas, CAS y la base de datos global siguen protegiendo el grupo. Las cuotas de 1.000 comprobaciones con IA al día en Pro y 10.000 en Business se aplican solo a la API pública /spam/check.
7Buenas prácticas
Un breve periodo de rodaje te da confianza antes de dejar que la IA actúe por su cuenta.
- Actívala primero junto con el modo de monitoreo y lee los veredictos de la IA en el registro durante unos días.
- Mantén al día tu lista blanca y de confianza para que nunca se cuestione a socios ni a miembros habituales.
- Combínala con el modelo ML personal si tu comunidad tiene una forma de hablar muy particular.
- No trates la IA como un sustituto de las reglas: es la parte más alta de la escalera, y las demás capas siguen haciendo la mayor parte del trabajo.