AI モデレーションは、キーワードだけでなく意味を読み取る言語モデルを加え、*面白い話題ですね、DM くれたら教えますよ*のような巧妙なスパムを捕まえます。動作するのは、ほかの層では決着がつかなかった判断の難しいメッセージだけで、AI が確信を持てないものは管理者の確認に回されます。Free を含むすべてのプランに含まれ、既定でオンです。グループごとに設定でオフにできます。
1AI モデレーションの役割
AI モデレーションは、禁止ワードを探してメッセージをスキャンするのではなく、メッセージの意味を読み取る言語モデル（LLM）を有効にします。「コーヒーはどこで買えますか」と「個別に連絡して、稼ぎ方を教えます」を見分けるのがこの層です。
ルールと当社独自の ML モデルの上に位置しています。ほとんどのメッセージはここまで届きません — ほかの層だけでは判断できなかった、本当に曖昧なケースのためのものです。
2キーワードより意図が重要な理由
キーワードフィルターには限界があります。用心深いスパマーは禁止ワードを決して書きません — ほのめかし、わざと綴りを崩し、売り込みを親しげな世間話で包みます。ルールエンジンは何も問題を見つけられませんが、文を読んだ人間には意図がすぐにわかります。
AI モデレーションが埋めるのはその隙間です。メッセージが何をしようとしているかを判断するので、暗号資産についての本当の意見と偽装された投資詐欺、純粋な質問と好奇心を装った DM への誘導を見分けられます。
- 完全一致の文字列ではなく、言い換えや綴りの崩しも理解します。
- 単語を切り離さず、文全体を文脈の中で読みます。
- 同じテーマについての正当な議論と、隠れた売り込みを見分けます。
- 単語から推測するのではなく意味を把握するので、誤検知が減ります。
3有効にする価値があるとき
Telm のほかの層だけでも、スパムの大部分は止められます。AI モデレーションは、スパマーがわかりやすいキーワードを使わずに慎重に書いてくるコミュニティのための、さらに一歩進んだ武器です。
- グループに、普通の会話のように書かれた偽装宣伝や DM への誘導が集まってくる。
- 一見すると純粋な質問や意見に見えるスパムがある。
- ボットにテーマを理解させたい — たとえば、正当な暗号資産の議論と隠れた詐欺を見分けたい。
- キーワード照合から意図の検出へと一段進む準備ができている。
4パイプラインの中での位置づけ
AI モデレーションは別のボットではなく、検出の段階の 1 つの層です。ほかの層がメッセージを本当のグレーゾーンまで絞り込んだ後にだけ動作します。
AI が見た後もはっきりしないものは、そのまま見逃されるのではなく人による確認に回されるので、活発なグループでも速さと引き換えに精度を犠牲にすることはありません。
5精度、記憶、確認
AI モデレーションは、すぐに手を出すのではなく慎重になるよう調整されています。確信を持ったスパム判定では処分を実行し、確信が持てないものは処分せずに管理者の確認に回すので、AI が勘でメンバーを排除することはありません。
確信を持った判定は記憶されるので、同じメッセージやよく似たメッセージは次回 AI に戻らずに即座に処理されます。これにより、機能は時間が経っても正確さと速さを両立し続けます。
- 確信を持った AI の判定は記憶され、同一またはほぼ同一のテキストに再利用されます。
- 判断に迷うケースは管理者の確認項目になり、モデレーションジャーナルに表示されます。
- 突然のメッセージの殺到時には、ボットがすぐに判断できないものは確認に回され、チェックなしで通過することはありません。
- あなたの承認や却下は、ほかの判断と同じようにパイプラインにフィードバックされます。
6プラン別の利用枠
AI は最後に、しかもグレーゾーンにだけ動作するので、大多数のメッセージは AI が呼ばれる前にほかの層で決着します — そのため、活発なチャットの妨げになることはありません。
メッセージごとの支払いはありません：グループ内の AI モデレーションはすべてのプランに含まれ、プランごとのメッセージ数の上限もありません。プラットフォーム全体での AI 呼び出しの上限が、メッセージの殺到時にもサービスを安定させています — 突然の流入で判断の難しいメッセージが上限を超えた場合、それらは管理者の確認に回され、その間もルールエンジン、CAS、グローバルデータベースがグループを守り続けます。Pro の 1 日 1,000 回、Business の 1 日 10,000 回という AI チェックのプラン別の枠は、公開 /spam/check API にのみ適用されます。
7ベストプラクティス
短い慣らし期間を設けると、AI に単独で実行させる前に安心感を得られます。
- まずモニタリングモードと一緒にオンにして、数日間モデレーションジャーナルで AI の判定を確認しましょう。
- パートナーや常連が疑われることのないよう、ホワイトリストとメンバーの信頼のリストを最新に保ちましょう。
- コミュニティに独特な話し方がある場合は、パーソナル ML モデルと組み合わせましょう。
- AI をルールの代わりと考えないでください — AI は段階の最上部であり、作業の大部分は引き続きほかの層が担います。