Cara pengesanan spam Telm berfungsi

1Satu bot, banyak lapisan

Telm tidak bergantung pada satu helah. Fikirkannya seperti keselamatan di lapangan terbang: sesuatu mesej melalui beberapa pusat pemeriksaan, satu demi satu, dan boleh dibersihkan atau dihentikan pada mana-mana daripadanya.

Reka bentuk berlapis itulah yang menjadikan perlindungan bukan sahaja boleh dipercayai malah pantas. Kes yang jelas diselesaikan serta-merta, dan hanya mesej yang benar-benar samar diperiksa dengan lebih teliti — sebab itulah kumpulan sibuk dengan puluhan ribu ahli pun dimoderasi masa nyata tanpa pernah terasa lambat.

• Pemeriksaan pengirim spam global — penyalahguna yang diketahui dihentikan di pintu masuk, sebelum mesej pertama mereka.
• Pengesan peraturan dan corak — pustaka besar yang mengenali skema spam secara pandang.
• Ingatan spam berulang — gelombang spam yang serupa atau kelihatan serupa ditangkap serentak.
• Model ML kami sendiri — dilatih pada spam sebenar dalam banyak bahasa untuk menangkap kempen yang belum pernah dilihatnya.
• Pengelas AI — membaca makna, untuk mesej jarang yang benar-benar di ambang.
• Belajar sendiri — keputusan anda menajamkan setiap lapisan untuk kumpulan anda.

2Perjalanan satu mesej

Inilah yang berlaku apabila seseorang menyiarkan dalam kumpulan anda. Mesej diperiksa terhadap lapisan demi lapisan, dan kebanyakan mesej dibersihkan atau ditangkap jauh sebelum penghujungnya.

Pentadbir, pemilik kumpulan dan ahli senarai putih yang dipercayai tidak pernah dimoderasi — mesej mereka melangkau pemeriksaan ini sepenuhnya, sebab itulah anda tidak perlu risau bot menyentuh pasukan anda sendiri.

• Pemeriksaan masuk — pengirim spam yang diketahui dihentikan di pintu oleh pangkalan data pengirim spam global sebelum mesej pertama mereka (lihat senarai sekat CAS dan pangkalan data spam global).
• Peraturan dan corak — banyak pengesan menjumlahkan skor spam. Tiada satu perkataan pun menyekat sesiapa; keputusan datang daripada jumlah isyarat.
• Ingatan spam berulang — jika teks yang sama atau hampir serupa baru sahaja dinilai dalam kumpulan anda, jawapan itu digunakan semula, jadi banjir salinan dikendalikan sekali gus.
• Model ML kami — memberi skor sejauh mana susunan kata itu kelihatan seperti spam; spam yang yakin dan teks bersih yang yakin diselesaikan di sini, dan yang di tengah bergerak seterusnya.
• Lapisan AI — model bahasa membaca makna mesej yang masih samar (lihat moderasi AI).
• Imej dan audio — pencincangan perseptual, pengecaman teks OCR, pengesanan kod QR dan transkripsi suara menyuap teks mereka kembali ke pemeriksaan yang sama.
• Keputusan dan tindakan — lulus, padam, bisu, sekat atau hantar ke semakan pentadbir. Segala-galanya dilog dengan sebabnya dalam jurnal moderasi.

3Apa yang setiap lapisan sebenarnya lakukan

Ia membantu untuk mengetahui apa tugas sebenar setiap pusat pemeriksaan, kerana ia menangkap jenis spam yang sangat berbeza. Bersama-sama mereka menampung titik buta satu sama lain.

• Pengesan peraturan dan corak — pengesan buatan tangan yang mengenali skema spam bukannya perkataan tunggal: umpan alih-ke-DM, iklan tersembunyi, promosi saluran luaran, helah struktur dan pengaburan. Ia berfungsi pada teks ternormal, jadi abjad bercampur dan simbol yang disisipkan tidak memperdayanya.
• Ingatan spam berulang — mengenali mesej yang serupa dan hampir serupa (nombor telefon yang ditukar, nama pengguna yang berbeza) dan menggunakan semula keputusan terdahulu, jadi banjir terselaras dihentikan sebaik ia bermula.
• Model ML kami sendiri — pengelas pembelajaran mesin yang dilatih pada koleksi besar spam yang disahkan serta pertuturan bersih dalam banyak bahasa. Ia mampu mengesan kempen yang belum pernah dilihatnya, termasuk varian yang dikaburkan dan diterjemahkan.
• Pengelas AI — model bahasa yang dikhaskan untuk zon kelabu tulen. Ia membaca niat, jadi ia dapat membezakan soalan sebenar daripada tawaran yang disamarkan.
• Pemahaman imej dan audio — OCR menarik teks daripada sepanduk dan tangkapan skrin, pencincangan perseptual memadankan gambar spam yang diketahui, kod QR dinyahkod, dan nota suara serta video ditranskripsikan. Semua teks yang dipulihkan itu masuk semula ke pemeriksaan peraturan, model dan AI yang sama.

4Skor, ambang dan tindakan

Daripada ya/tidak yang tumpul, setiap mesej mengumpul skor spam daripada banyak isyarat. Semakin tinggi skor, semakin kuat tindakan — dan satu perkataan yang bernasib malang tidak akan sekali-kali mencapai sekatan dengan sendirinya, kerana sumbangan kata kunci dihadkan jauh di bawah ambang hukuman.

Inilah perlindungan terbina terhadap sekatan palsu: keputusan tidak pernah dijatuhkan oleh perkataan sahaja, hanya oleh gambaran penuh. Ketegasan ambang ini ialah sesuatu yang anda kawal melalui tahap ketegasan moderasi dan pratetap perlindungan.

• Skor sangat tinggi — pembuangan automatik, dan untuk penyalahgunaan yang jelas, bisu atau sekatan.
• Skor sederhana — dihantar kepada pentadbir untuk semakan dan bukannya ditindak secara membuta tuli.
• Skor rendah, tiada apa yang mencurigakan — mesej dilepaskan serta-merta.
• Ahli baharu atau tidak dipercayai menghadapi ambang yang sedikit lebih tegas daripada ahli tetap yang dipercayai sejak lama, jadi ahli yang dipercayai hampir tidak pernah tertangkap.
• Setiap tindakan boleh diterbalikkan dan dirayu, dan setiap keputusan merekodkan lapisan mana yang memutuskan dan mengapa (lihat memahami keputusan moderasi).

5Apa yang ia tangkap

Daripada memadankan perkataan larangan, enjin mengenali skema spam mengikut keseluruhan coraknya, termasuk varian yang dikaburkan, berasaskan imej dan yang dituturkan. Inilah keluarga yang ia dibina untuk hentikan.

• Umpan alih-ke-DM — jemputan untuk menyambung dalam mesej peribadi, walaupun diungkapkan seperti kenyataan biasa.
• Iklan tersembunyi dan promosi saluran pihak ketiga, termasuk kiriman semula daripada saluran lain (lihat mengawal kiriman semula dan saluran).
• Kempen terselaras — teks yang sama muncul merentas banyak kumpulan, atau daripada beberapa akaun di dalam satu kumpulan dalam tempoh singkat.
• Corak penipuan dan pancingan data — hadiah palsu, umpan pelaburan dan penyamaran sebagai pentadbir (lihat cara pengesanan penipuan berfungsi).
• Spam imej — sepanduk kasino, kod QR dan teks yang dimasukkan ke dalam gambar.
• Spam nota suara dan video — tawaran dan pautan yang dibaca kuat untuk mengelak bot teks sahaja.
• Teks yang dikaburkan — abjad bercampur, simbol yang disisipkan dan aksara yang kelihatan serupa.

6Cara sekatan palsu dicegah

Kebimbangan terbesar dengan mana-mana bot anti-spam ialah ia membuang ahli sebenar secara silap. Telm direka supaya perkara ini jarang berlaku dan sentiasa boleh dipulihkan, kerana setiap keputusan telus dan boleh diterbalikkan.

Beberapa perlindungan berfungsi serentak, dan kesemuanya meletakkan pertimbangan manusia di atas mesin.

• Pengehadan skor — kata kunci sahaja tidak akan sekali-kali mencapai sekatan; ia memerlukan berat gabungan banyak isyarat bebas.
• Pentadbir dan ahli yang dipercayai tidak pernah dimoderasi, dan anda boleh menambah lebih banyak nama ke senarai senarai putih dan kepercayaan anda.
• Zon keyakinan sederhana pergi ke semakan pentadbir dan bukannya hukuman automatik.
• Setiap tindakan dilog dengan sebabnya dan boleh dirayu — rayuan yang diluluskan turut membersihkan mesej yang serupa (lihat cara rayuan berfungsi).
• Model ML peribadi pilihan mempelajari pertuturan biasa komuniti anda dan memveto penggera palsu yang tidak sepadan dengannya — ia hanya boleh membersihkan mesej, tidak pernah menghukum.

7Ia belajar daripada anda

Sistem ini tidak statik. Keputusan moderasi dan rayuan yang diluluskan anda terus mengajarnya, jadi ia menjadi lebih tepat untuk komuniti khusus anda dari masa ke masa.

Setiap satu gelung maklum balas ini berada di bawah pertimbangan manusia — apabila anda meluluskan rayuan atau menandakan positif palsu, keputusan itu mengatasi mesin dan turut membersihkan mesej yang serupa.

• Pembetulan anda terus menambah baik model ML, jadi pengesanan menajam untuk jenis mesej yang kumpulan anda sebenarnya lihat.
• Menandakan satu mesej sebagai positif palsu serta-merta membersihkan mesej yang kelihatan serupa di sekelilingnya.
• Pengesan baharu dibuktikan pada trafik sebenar sebelum dibenarkan bertindak, dan ditarik balik jika ia mula tergelincir.
• Rekod prestasi ahli melaraskan berapa banyak kelonggaran yang mereka dapat: sejarah mesej bersih memperoleh sedikit kelonggaran, hukuman mengetatkannya.
• Model ML peribadi boleh dilatih pada sembang anda sendiri untuk membersihkan penggera palsu pada cara pertuturan biasa komuniti anda.

8Kekal mengawal

Anda memutuskan betapa tegasnya bot. Dua tetapan paling penting apabila anda bermula, dan segala yang bot lakukan kelihatan dan boleh dilaraskan.

Mod Pemantauan membolehkan anda memerhatikan apa yang bot akan lakukan tanpa ia benar-benar menghukum sesiapa — cara paling selamat untuk membina kepercayaan sebelum menghidupkan penguatkuasaan sebenar.

• Mod Pemantauan — memerhati sahaja, tiada hukuman, segala-galanya dilog untuk semakan.
• Tahap ketegasan dan pratetap — pilih profil sedia atau perhalusi ambang untuk komuniti anda.
• Peraturan yang dilonggarkan — namakan pengesan tertentu yang tidak boleh memberi skor dalam kumpulan anda (perlindungan kritikal tidak boleh dilonggarkan).
• Benarkan jualan dan mod komuniti kripto — lembutkan pencetus untuk komuniti tempat perbualan dagangan adalah biasa.
• Togol setiap kumpulan untuk CAS, pangkalan data spam global, moderasi AI, moderasi suara dan model peribadi.

9Amalan terbaik dan kesilapan biasa

Beberapa tabiat memberi anda perlindungan paling banyak dengan penggera palsu paling sedikit. Kebanyakan masalah yang dihadapi pentadbir baharu berpunca daripada melangkau salah satu daripada ini.

• Mulakan dalam Mod Pemantauan dan baca jurnal selama beberapa hari sebelum menguatkuasakan.
• Senaraiputihkan pasukan anda sendiri dan rakan kongsi yang diketahui supaya pautan mereka tidak pernah dipersoalkan.
• Hidupkan pemeriksaan pengirim spam global dengan segera — ia membuang serangan sebelum anda pernah melihatnya.
• Bertindak atas rayuan dan positif palsu; setiap pembetulan menajamkan perlindungan kumpulan anda.
• Jangan lumpuhkan keseluruhan perlindungan untuk membetulkan satu penggera palsu — longgarkan peraturan tunggal yang terlibat atau senaraiputihkan ahli itu.
• Jangan jangkakan pengirim spam yang baharu berada dalam mana-mana senarai luaran; itulah tepatnya tujuan lapisan peraturan, model dan AI.