すべてのメッセージは、複数の 保護の層 を次々に通過します。入口でのグローバルなスパマー チェック、ルールとパターン検出器の大規模なライブラリ、繰り返しスパム用のメモリ、自社の ML モデル、そして本当に際どいケースにだけ使う、意味を読む AI 分類器 です。1 つの単語で誰かを BAN することはできず、すべてのアクションは記録され取り消せます。そしてあなたの スパム / 非スパム の判断一つひとつが、あなたのグループにとってシステムをより正確にします。
設定してみませんか？Telm アカウントでそのまま行えます。
ダッシュボードで開く11 つのボット、多くの層
Telm は 1 つの手口に頼りません。空港のセキュリティのように考えてください。メッセージはいくつかの検問所を次々に通過し、そのどこでも通過を許されたり止められたりします。
その層状の設計こそが、保護を信頼できるものにも速いものにもします。明白なケースはすぐに片づき、本当に曖昧なメッセージだけがより詳しく見られます。だからこそ、数万人のメンバーがいる忙しいグループでも、遅延を感じさせることなくリアルタイムでモデレートされます。
- グローバルなスパマー チェック — 既知の加害者は、最初のメッセージの前に入口で止められます。
- ルールとパターン検出器 — スパムの手口を一目で見抜く大規模なライブラリ。
- 繰り返しスパムのメモリ — 同一またはそっくりなスパムの波を一度に捉えます。
- 自社の ML モデル — 多くの言語の実際のスパムで学習し、見たことのないキャンペーンを捉えます。
- AI 分類器 — 意味を読み、本当に際どいまれなメッセージのためのものです。
- 自己学習 — あなたの判断が、あなたのグループにとってすべての層を鋭くします。
21 通のメッセージの旅
誰かがあなたのグループに投稿すると何が起きるかを示します。メッセージは層また層と照合され、ほとんどのメッセージは終わりのずっと前に通過を許されるか捕まえられます。
管理者・グループのオーナー・信頼されホワイトリストに登録されたメンバーは決してモデレートされません。彼らのメッセージはこれらのチェックを完全にスキップします。だからボットが自分のチームに手を出す心配は要りません。
- 入口チェック — 既知のスパマーは、最初のメッセージの前にグローバルなスパマー データベースによって入口で止められます(CAS ブロックリスト と グローバル スパム データベース を参照)。
- ルールとパターン — 多くの検出器がスパム スコアを積み上げます。1 つの単語で誰かを BAN することはなく、判断は信号の合計から生まれます。
- 繰り返しスパムのメモリ — 同一またはほぼ同一のテキストがちょうどあなたのグループで判断された場合、その答えを再利用するので、コピーの洪水は一度で処理されます。
- 自社の ML モデル — 言い回しがどれだけスパムらしいかを採点します。確信できるスパムと確信できるクリーンなテキストはここで片づき、中間は先へ進みます。
- AI 層 — 言語モデルが、依然として曖昧なメッセージの意味を読みます(AI モデレーション を参照)。
- 画像と音声 — 知覚ハッシュ、OCR テキスト認識、QR コード検出、音声文字起こし が、そのテキストをまったく同じチェックへ戻します。
- 評決とアクション — 通過・削除・ミュート・BAN、または管理者レビューへ送付。すべては理由とともに モデレーション ジャーナル に記録されます。
3各層が実際にすること
各検問所が実際にどんな仕事をしているかを知ると役立ちます。非常に異なる種類のスパムを捉えるからです。それらは合わさって互いの死角を補います。
- ルールとパターン検出器 — 単語ではなくスパムの手口を見抜く手作りの検出器です。DM への誘導、隠れた広告、外部チャンネルの宣伝、構造的なトリック、難読化。正規化されたテキスト上で動くため、混ぜたアルファベットや挿入された記号にだまされません。
- 繰り返しスパムのメモリ — 同一およびほぼ同一のメッセージ(入れ替えた電話番号、異なるハンドル)を見抜いて以前の評決を再利用するため、協調的な洪水はそれが始まった瞬間に封じられます。
- 自社の ML モデル — 確認済みスパムの膨大なコレクションと、多くの言語のクリーンな発話で学習した機械学習分類器です。難読化・翻訳された変種を含め、見たことのないキャンペーンにも一般化します。
- AI 分類器 — 本物のグレー ゾーンのために取っておく言語モデルです。意図を読むので、本物の質問と偽装された売り込みを見分けられます。
- 画像と音声の理解 — OCR がバナーやスクリーンショットからテキストを取り出し、知覚ハッシュが既知のスパム画像を照合し、QR コードが解読され、ボイス ノートとビデオ ノートが文字起こしされます。回収されたそのテキストはすべて、同じルール・モデル・AI のチェックに再び入ります。
4スコア、しきい値、アクション
無骨な yes/no の代わりに、各メッセージは多くの信号からスパム スコアを蓄積します。スコアが高いほどアクションは強くなります。そして 1 つの不運な単語だけで BAN に達することは決してありません。キーワードの寄与は罰のしきい値のはるか下に上限が設けられているからです。
これが誤 BAN に対する組み込みの安全装置です。評決は単語だけによって下されることはなく、全体像によってのみ下されます。これらのしきい値の厳しさは、モデレーション厳格度レベル と 保護プリセット を通じてあなたが制御します。
- 非常に高いスコア — 自動削除、明白な悪用にはミュートまたは BAN。
- 中程度のスコア — 盲目的に処置するのではなく、レビューのため管理者へ送られます。
- 低いスコア、疑わしい点なし — メッセージは即座に解放されます。
- 新しいまたは信頼されていないメンバーは、長年の信頼できる常連よりわずかに厳しいしきい値に直面するため、信頼されたメンバーがほぼ捕まることはありません。
- すべてのアクションは取り消し可能で異議申し立てでき、各判断はどの層がなぜ決めたかを記録します(モデレーション判断を理解する を参照)。
5何を捉えるか
エンジンは、ストップワードを照合するのではなく、難読化・画像ベース・音声の変種を含め、全体のパターンでスパムの手口を見抜きます。これらが、それが止めるために作られた種類です。
- DM への誘導 — 普通の発言のように言い回されていても、プライベート メッセージで続けようという誘い。
- 隠れた広告と第三者チャンネルの宣伝。他のチャンネルからの転送を含みます(転送とチャンネルの制御 を参照)。
- 協調的なキャンペーン — 同じテキストが多くのグループにまたがって、あるいは 1 つのグループ内の複数アカウントから短時間に現れること。
- 詐欺とフィッシングのパターン — 偽の景品、投資の餌、管理者へのなりすまし(詐欺検出の仕組み を参照)。
- 画像スパム — カジノ バナー、QR コード、画像に焼き込まれたテキスト。
- ボイス・ビデオ ノートのスパム — テキストのみのボットをかわすために読み上げられた売り込みやリンク。
- 難読化されたテキスト — 混ぜたアルファベット、挿入された記号、そっくりな文字。
6誤 BAN を防ぐ方法
どんなアンチスパム ボットでも最大の恐れは、本物のメンバーを誤って削除することです。Telm は、すべての判断が透明で取り消し可能なため、これがまれで、かつ常に回復できるよう設計されています。
複数の安全装置が同時に働き、そのすべてが人間の判断を機械より上に置きます。
- スコアの上限 — キーワードだけで BAN に達することは決してできず、多くの独立した信号の合わさった重みが必要です。
- 管理者と信頼されたメンバーは決してモデレートされず、ホワイトリストと信頼 のリストに名前を追加できます。
- 中程度の確信のゾーンは、自動の罰の代わりに管理者レビューへ送られます。
- すべてのアクションは理由とともに記録され、異議申し立てできます。承認された異議申し立ては似たメッセージも解除します(異議申し立ての仕組み を参照)。
- 任意の パーソナル ML モデル は、あなたのコミュニティの普通の発話を学び、それに合わない誤報を拒否します。メッセージを解除できるだけで、決して罰しません。
7あなたから学ぶ
システムは凍りついていません。あなたのモデレーション判断と承認された異議申し立てが絶えずそれを教えるため、時間とともにあなた特有のコミュニティにとってより正確になります。
これらのフィードバック ループはすべて人間の判断の下にあります。あなたが異議申し立てを承認したり誤検知に印を付けたりすると、その評決は機械を上書きし、似たメッセージも解除します。
- あなたの訂正は ML モデルを改善し続けるため、あなたのグループが実際に見る種類のメッセージについて検出が鋭くなります。
- 1 つのメッセージを誤検知として印を付けると、その周りのそっくりなメッセージが即座に解除されます。
- 新しい検出器は、動くことを許される前に実際のトラフィックで実証され、崩れ始めたら引き戻されます。
- メンバーの実績が、どれだけの猶予を得るかを調整します。クリーンなメッセージの履歴は少しの余裕を得て、罰はそれを引き締めます。
- パーソナル ML モデル を自分のチャットで学習させ、あなたのコミュニティ独特の話し方に対する誤報を解除できます。
8主導権を保つ
ボットがどれだけ厳しいかはあなたが決めます。始めるときに最も重要な設定は 2 つで、ボットがすることはすべて見え、調整できます。
Monitoring Mode を使うと、実際には誰も罰せずにボットが何をするか見られます。実際の強制をオンにする前に信頼を築く最も安全な方法です。
- Monitoring Mode — 観察のみ、罰なし、すべてがレビュー用に記録されます。
- 厳格度レベルとプリセット — 用意されたプロファイルを選ぶか、コミュニティ向けにしきい値を微調整します。
- 緩和ルール — あなたのグループでスコアを付けてはならない特定の検出器を指定します(重要な保護は緩和できません)。
- 販売許可と暗号通貨コミュニティ モード — 取引の話が普通のコミュニティ向けにトリガーを和らげます。
- CAS、グローバル スパム データベース、AI モデレーション、音声モデレーション、パーソナル モデルのグループごとのトグル。
9ベスト プラクティスとよくある間違い
いくつかの習慣が、最も少ない誤報で最大の保護をもたらします。新しい管理者がぶつかる問題のほとんどは、これらのどれかを飛ばしたことに行き着きます。
- 強制の前に、Monitoring Mode で始め、数日ジャーナルを読むこと。
- 自分のチームと既知のパートナーをホワイトリストに登録し、彼らのリンクが決して疑われないようにすること。
- グローバルなスパマー チェックをすぐに有効にすること。あなたが見る前に攻撃を取り除きます。
- 異議申し立てと誤検知に対処すること。訂正一つひとつがあなたのグループの保護を鋭くします。
- 1 つの誤報を直すために保護全体を無効にしないこと。関わる 1 つのルールを緩めるか、そのメンバーをホワイトリストに登録すること。
- まったく新しいスパマーが何らかの外部リストに載っていると期待しないこと。それこそがルール・モデル・AI の層の役目です。