AI 모더레이션은 키워드만이 아니라 의미를 읽는 언어 모델을 더해 *흥미로운 주제네요, DM 주시면 알려 드릴게요* 같은 교묘한 스팸을 잡아냅니다. 다른 계층이 결론 내지 못한 애매한 메시지에만 작동하며, 확신이 없는 것은 관리자 검토로 넘어갑니다. Free를 포함한 모든 플랜에 포함되며 기본으로 켜져 있고, 그룹별로 설정에서 끌 수 있습니다.
1AI 모더레이션이 하는 일
AI 모더레이션은 금지어를 찾아 메시지를 훑는 대신 메시지의 의미를 읽는 언어 모델(LLM)을 켭니다. ‘커피는 어디서 살 수 있나요’와 ‘개인적으로 연락 주세요, 돈 버는 법 알려 드릴게요’를 구분하는 계층입니다.
규칙과 자체 ML 모델 위에 자리합니다. 대부분의 메시지는 여기까지 오지 않으며, 다른 계층이 스스로 판단하지 못한 정말 애매한 경우를 위해 남겨 둔 계층입니다.
2키워드보다 의도가 중요한 이유
키워드 필터에는 한계가 있습니다. 조심스러운 스패머는 금지어를 절대 쓰지 않습니다 — 넌지시 암시하고, 일부러 철자를 틀리고, 홍보를 친근한 잡담으로 감쌉니다. 규칙 엔진은 아무 문제도 찾지 못하지만, 문장을 읽는 사람은 의도를 바로 알아챕니다.
AI 모더레이션이 채우는 것이 바로 그 빈틈입니다. 메시지가 무엇을 하려는지 판단하므로, 암호화폐에 대한 진짜 의견과 위장된 투자 사기, 진짜 질문과 호기심을 가장한 DM 유도를 구분할 수 있습니다.
- 정확한 문자열이 아니라 바꿔 말한 표현과 틀린 철자도 이해합니다.
- 고립된 단어가 아니라 문장 전체를 맥락 속에서 읽습니다.
- 같은 주제에 대한 정당한 논의와 숨은 홍보를 구분합니다.
- 단어로 추측하지 않고 의미를 파악하므로 오탐이 줄어듭니다.
3켜 둘 가치가 있을 때
Telm의 다른 계층만으로도 스팸의 대부분을 막습니다. AI 모더레이션은 스패머가 뻔한 키워드 없이 신중하게 글을 쓰는 커뮤니티를 위한 한 단계 더 나아간 무기입니다.
- 그룹에 일상 대화처럼 쓰인 위장 홍보와 DM 유도가 몰려듭니다.
- 얼핏 보면 진짜 질문이나 의견처럼 읽히는 스팸이 보입니다.
- 봇이 주제를 이해하기를 원합니다 — 예를 들어 정당한 암호화폐 논의와 숨은 사기를 구분하고 싶습니다.
- 키워드 대조를 넘어 의도 탐지로 나아갈 준비가 되었습니다.
4파이프라인에서의 위치
AI 모더레이션은 별도의 봇이 아니라 탐지 단계의 한 계층입니다. 다른 계층이 메시지를 진짜 회색 지대로 좁힌 뒤에만 작동합니다.
AI가 본 뒤에도 불분명한 것은 조용히 통과되는 대신 사람의 검토로 넘어가므로, 바쁜 그룹도 속도를 위해 정확성을 포기하지 않습니다.
5정확성, 기억, 검토
AI 모더레이션은 성급하지 않고 신중하도록 조정되어 있습니다. 확신하는 스팸 판정은 조치하고, 확신이 없는 것은 처벌하지 않고 관리자 검토로 보내므로, AI가 짐작만으로 멤버를 내보내는 일은 없습니다.
확신한 판정은 기억되므로, 같거나 비슷한 메시지는 다음번에 AI로 다시 가지 않고 즉시 처리됩니다. 이 덕분에 기능이 시간이 지나도 정확하면서도 빠르게 유지됩니다.
- 확신한 AI 판정은 기억되어 같거나 거의 같은 텍스트에 다시 쓰입니다.
- 애매한 경우는 관리자 검토 항목이 되어 모더레이션 기록에 표시됩니다.
- 메시지가 갑자기 쏟아질 때 봇이 바로 판단하지 못한 것은 검토로 보내지며, 검사 없이 통과되는 일은 없습니다.
- 여러분의 승인과 거부는 다른 모든 결정과 똑같이 파이프라인에 반영됩니다.
6플랜별 할당량
AI는 마지막에, 그것도 회색 지대에만 작동하므로 대다수 메시지는 AI가 호출되기 전에 다른 계층에서 결론이 납니다 — 그래서 바쁜 채팅을 방해하지 않습니다.
메시지당 내는 비용은 없습니다: 그룹 안의 AI 모더레이션은 모든 플랜에 포함되며 플랜별 메시지 할당량도 없습니다. 플랫폼 전체의 AI 호출 한도가 메시지가 쏟아질 때도 서비스를 안정적으로 유지합니다 — 갑작스러운 유입으로 애매한 메시지가 한도를 넘으면 그 메시지들은 관리자 검토로 가고, 그동안에도 규칙 엔진, CAS, 글로벌 데이터베이스가 계속 그룹을 보호합니다. Pro 하루 1,000회, Business 하루 10,000회라는 AI 검사 플랜 할당량은 공개 /spam/check API에만 적용됩니다.
7모범 사례
짧은 적응 기간을 두면 AI가 혼자 조치하게 하기 전에 확신을 얻을 수 있습니다.
- 먼저 모니터링 모드와 함께 켜고, 며칠 동안 모더레이션 기록에서 AI 판정을 읽어 보세요.
- 파트너와 단골이 의심받지 않도록 화이트리스트와 멤버 신뢰 목록을 최신으로 유지하세요.
- 커뮤니티의 말투가 아주 독특하다면 개인 ML 모델과 함께 쓰세요.
- AI를 규칙의 대체물로 여기지 마세요 — AI는 단계의 맨 위이며, 대부분의 일은 여전히 다른 계층이 합니다.