仕組み
ルールベースフィルター
高速な正規表現パターンとヒューリスティクスで明らかなスパムを即座にキャッチ。
- 正規表現パターンマッチング
- 既知のスパムフレーズ検出
- URLブラックリストチェック
- 文字エンコーディング分析
ローカルAIモデル
オンデバイス機械学習モデルがメッセージパターン、ユーザー行動、コンテキストを分析。
- 行動パターン分析
- メッセージシーケンス検出
- ユーザー評判スコアリング
- コンテキスト認識分類
クラウドAI分析
エッジケースには、高度なクラウドLLMが繊細な理解を提供。
- 自然言語理解
- 意図分類
- 多言語サポート
- 継続的学習
検出対象
なぜ3層？
単層検出システムには根本的なトレードオフがあります。3層アプローチでこれを解決。
- レベル1 ほぼゼロレイテンシーで約のスパムを処理。
- レベル2 行動分析でさらに約をキャッチ。
- レベル3 残りの約の高度なスパムを処理。
ルールだけでは足りなくなる理由
| 課題 | キーワードルールだけ | AI分析 |
|---|---|---|
| まったく新しいスパム | あらかじめ明示的に列挙されていないものは、すべて見逃します | 意味と意図を判断するので、見たことのない詐欺でも、やはり詐欺として読み取れます |
| 偽装されたテキスト | v.i.p のような字間、同形異字、画像に焼き込まれたテキストにやられます | 人間と同じように偽装を見抜きます——OCRで画像内のテキストも含めて |
| 文脈 | すべてのメッセージを単独で判断するため、際どいケースはコイン投げになります | メッセージをアカウントの文脈とあわせて評価します——連絡先を落とす新規参加者と、リンクを共有する常連とでは、読み方が違ってきます |
| メンテナンス | 誰かがキーワードのリストを永遠に最新に保たなければなりません | 手動でのリスト管理なしに、判断とグループ横断のシグナルから学び続けます |
実トラフィックで学習し続けます
自社で訓練した専用モデル
実際のTelegramトラフィックで訓練された専用スパムモデルが、わずか0.07%の誤検知でスパムの97.9%を捕捉します — しかもミリ秒で応答するため、より重いAIが動く必要すらありません。
判定メモリ
確定した判定は記憶されます。既知のスパムのほぼ重複が現れたとき — 言い換えられていても、絵文字で水増しされていても — 新たなAI呼び出しも遅延もなく、即座にブロックされます。
グループ間の保護
あるコミュニティで捕まったスパマーは、すべてのコミュニティで知られます。検出シグナルはグループ間で共有されるため、一度失敗したキャンペーンが隣で新たにやり直すことはできません。
管理者向けテストモード
テストモードをオンにすると、ボットは管理者自身のメッセージを通常メンバーであるかのようにモデレートします。判定が微妙なコンテンツを自分で投稿し、どのルールが発動するかを正確に確認できます — 誰も処罰することなく。
3段階検出がメッセージを判断する仕組み
すべてのメッセージは、コストの低いものから順に各段階を通過します。第1段階では正規表現パターン、既知のスパムフレーズ、URLブラックリストの照会、文字エンコーディングのチェックを適用します。明らかなスパムは、モデルを一切呼び出すことなくここで捕捉されます。ここで明確に解決しなかったものは第2段階へ進みます。これは私たち自身のサーバー上で動作するテキスト分類器で、メッセージを内容、文脈、送信者の最近の行動に基づいて、メッセージごとの外部APIリクエストを一切行わずにスコアリングします。本当に判断が難しいケース（トラフィックのごく一部）だけが第3段階へエスカレートします。これはクラウドのLLMで、意図や偽装された言い回しを読み取ってメッセージを判断します。パイプラインは、ある段階が確信を持った時点で停止します。
このようにチェックを順序立てることで、一般的なケースは高速に、コストのかかるケースはまれに保たれるため、活発なグループでも1行ごとにLLMを待つことはありません。「対応する」か「放置する」かの閾値はあなたが調整でき、それをする価値があります。厳しめの設定は判断の難しい宣伝をより多く捕捉しますが、時に熱心な本物のユーザーにフラグを立てることがあり、緩めの設定はより多くを通してしまいます。すべての判断（どの段階が発火したか、スコア、意図されたアクション）がログに書き込まれるため、なぜメッセージが削除されたのか推測する必要は決してありませんし、誰かに触れる前にモニタリングモードでパイプラインを見守るところから始められます。
よくある質問
AIスパム検出の精度はどのくらいですか？
多層のパイプライン — ルール、自社で訓練したモデル、そして難しいケース向けのAI分類器 — が、実トラフィックで約0.07%の誤検知でスパムの約97.9%を捕捉します。しかも私たちの言葉を鵜呑みにする必要はありません: ボットは監視モードで始まるため、何かを実行する前に自分のグループでその判断を観察できます。
私の言語でも機能しますか？
はい。検出は多言語対応で、CJK文字、翻字されたテキスト、複数言語が混在するメッセージにも対応します。OCRは画像内のテキストも読み取るため、画像に隠されたスパムも同様に捕捉されます。
AIが間違えた場合はどうなりますか？
処罰されたメンバーは自分の言語での丁寧な通知と非公開の異議申し立てリンクを受け取ります。AI調停者がグループの文脈とともにケースを審査し、明らかな誤りは数秒で自動的に取り消され、メンバーの評価は回復されます。
何か設定する必要はありますか？
いいえ。検出は妥当なデフォルト設定ですぐに機能します。必要であれば、厳しさを調整したり、独自のキーワードルールを追加したり、テストモードを使ってまず自分のメッセージでしきい値を試したりできます。
関連機能
Telmがコミュニティを支援する他の方法をご覧ください