Telm spam tespiti nasıl çalışır

1Tek bot, birçok katman

Telm tek bir numaraya güvenmez. Bunu bir havaalanındaki güvenlik gibi düşünün: bir mesaj birbiri ardına birkaç kontrol noktasından geçer ve herhangi birinde geçirilebilir veya durdurulabilir.

Korumayı hem güvenilir hem de hızlı yapan işte bu katmanlı tasarımdır. Bariz durumlar anında halledilir ve yalnızca gerçekten belirsiz mesajlara daha yakından bakılır — bu yüzden on binlerce üyeli yoğun bir grup bile hiç yavaşlama hissi vermeden gerçek zamanlı olarak modere edilir.

• Küresel spam gönderici kontrolü — bilinen istismarcılar ilk mesajlarından önce, girişte durdurulur.
• Kural ve desen dedektörleri — spam düzenlerini bir bakışta tanıyan geniş bir kütüphane.
• Tekrarlayan spam hafızası — aynı veya birbirine benzeyen spam dalgası bir kerede yakalanır.
• Kendi ML modelimiz — daha önce hiç görmediği kampanyaları yakalamak için birçok dilde gerçek spam üzerinde eğitilmiştir.
• AI sınıflandırıcı — gerçekten sınırda olan nadir mesaj için anlamı okur.
• Kendi kendine öğrenme — kararlarınız her katmanı grubunuz için keskinleştirir.

2Tek bir mesajın yolculuğu

İşte biri grubunuza gönderi paylaştığında olanlar. Mesaj katman katman kontrol edilir ve çoğu mesaj sondan çok önce geçirilir veya yakalanır.

Yöneticiler, grup sahibi ve güvenilir beyaz listedeki üyeler asla modere edilmez — mesajları bu kontrolleri tamamen atlar, bu yüzden botun kendi ekibinize dokunmasından hiç endişe etmeniz gerekmez.

• Giriş kontrolü — bilinen bir spam gönderici, küresel spam gönderici veri tabanı tarafından ilk mesajından önce kapıda durdurulur (CAS engelleme listesi ve küresel spam veri tabanı sayfalarına bakın).
• Kurallar ve desenler — birçok dedektör bir spam puanını toplar. Hiçbir tek kelime kimseyi yasaklamaz; karar sinyallerin toplamından gelir.
• Tekrarlayan spam hafızası — aynı veya neredeyse aynı metin grubunuzda az önce değerlendirildiyse, o yanıt yeniden kullanılır; böylece bir kopya seli tek seferde ele alınır.
• ML modelimiz — ifadenin ne kadar spam göründüğünü puanlar; kesin spam ve kesin temiz metin burada halledilir ve ortadakiler devam eder.
• AI katmanı — bir dil modeli hâlâ belirsiz olan bir mesajın anlamını okur (AI moderasyon sayfasına bakın).
• Görüntüler ve ses — algısal karma, OCR metin tanıma, QR kod tespiti ve ses deşifresi metinlerini aynı kontrollere geri besler.
• Karar ve işlem — geçir, sil, sustur, yasakla veya yönetici incelemesine gönder. Her şey nedeniyle birlikte moderasyon günlüğüne kaydedilir.

3Her katman gerçekte ne yapar

Her kontrol noktasının gerçekte hangi işi yaptığını bilmek faydalıdır, çünkü çok farklı spam türlerini yakalarlar. Birlikte birbirlerinin kör noktalarını kapatırlar.

• Kural ve desen dedektörleri — tek kelimeler yerine spam düzenlerini tanıyan elle oluşturulmuş dedektörler: DM'e çekme tuzakları, gizli reklamlar, harici kanal tanıtımı, yapısal hileler ve gizleme. Normalize edilmiş metin üzerinde çalışırlar, dolayısıyla karışık alfabeler ve araya eklenen semboller onları kandıramaz.
• Tekrarlayan spam hafızası — aynı ve neredeyse aynı mesajları (değiştirilmiş bir telefon numarası, farklı bir kullanıcı adı) tanır ve önceki kararı yeniden kullanır; böylece koordineli seller daha başladıkları anda durdurulur.
• Kendi ML modelimiz — birçok dilde doğrulanmış spam artı temiz konuşmadan oluşan devasa bir koleksiyon üzerinde eğitilmiş bir makine öğrenimi sınıflandırıcı. Gizlenmiş ve çevrilmiş varyantlar da dahil olmak üzere daha önce hiç görmediği kampanyalara genellenir.
• AI sınıflandırıcı — gerçek gri bölge için ayrılmış bir dil modeli. Niyeti okur, dolayısıyla gerçek bir soruyu gizlenmiş bir satış konuşmasından ayırabilir.
• Görüntü ve ses anlama — OCR, afişlerden ve ekran görüntülerinden metin çeker, algısal karma bilinen spam resimlerini eşleştirir, QR kodları çözülür ve sesli ve video notları deşifre edilir. Kurtarılan tüm bu metin aynı kural, model ve AI kontrollerine yeniden girer.

4Puanlar, eşikler ve işlemler

Sert bir evet/hayır yerine, her mesaj birçok sinyalden bir spam puanı biriktirir. Puan ne kadar yüksekse işlem o kadar güçlüdür — ve tek bir talihsiz kelime kendi başına asla bir yasağa ulaşamaz, çünkü anahtar kelimelerin katkısı ceza eşiklerinin çok altında sınırlandırılmıştır.

Yanlış yasaklara karşı yerleşik güvence budur: bir karar asla yalnızca kelimelerle değil, yalnızca bütün tabloyla verilir. Bu eşiklerin katılığını moderasyon katılık düzeyleri ve koruma ön ayarları üzerinden siz kontrol edersiniz.

• Çok yüksek puan — otomatik kaldırma ve açık istismar için susturma veya yasaklama.
• Orta puan — körlemesine işleme konmak yerine bir yöneticiye inceleme için gönderilir.
• Düşük puan, şüpheli bir şey yok — mesaj anında serbest bırakılır.
• Yeni veya güvenilmeyen üyeler, uzun süredir güvenilen düzenli üyelere göre biraz daha sıkı eşiklerle karşılaşır; böylece güvenilir üyeler neredeyse hiç yakalanmaz.
• Her işlem geri alınabilir ve itiraz edilebilirdir ve her karar hangi katmanın karar verdiğini ve nedenini kaydeder (moderasyon kararlarını anlama sayfasına bakın).

5Neleri yakalar

Motor, yasaklı kelimeleri eşleştirmek yerine spam düzenlerini; gizlenmiş, görüntü tabanlı ve sözlü varyantlar dahil olmak üzere bütün desenleriyle tanır. Durdurmak için inşa edildiği aileler bunlardır.

• DM'e çekme tuzakları — normal bir yorum gibi ifade edilse bile özel mesajlarda devam etme davetleri.
• Gizli reklamlar ve üçüncü taraf kanal tanıtımı, diğer kanallardan yönlendirmeler dahil (yönlendirmeleri ve kanalları kontrol etme sayfasına bakın).
• Koordineli kampanyalar — aynı metnin birçok grupta ya da kısa bir zaman diliminde tek bir grup içindeki birkaç hesaptan yüzeye çıkması.
• Dolandırıcılık ve kimlik avı desenleri — sahte çekilişler, yatırım yemi ve yönetici taklidi (dolandırıcılık tespiti nasıl çalışır sayfasına bakın).
• Görüntü spam'i — kumarhane afişleri, QR kodları ve resimlere gömülü metin.
• Sesli ve video notu spam'i — yalnızca metin okuyan botları atlatmak için yüksek sesle okunan satış konuşmaları ve bağlantılar.
• Gizlenmiş metin — karışık alfabeler, araya eklenen semboller ve benzer görünen karakterler.

6Yanlış yasaklar nasıl önlenir

Herhangi bir anti-spam botuyla ilgili en büyük korku, gerçek bir üyeyi yanlışlıkla kaldırmasıdır. Telm bunun hem nadir hem de her zaman geri alınabilir olması için tasarlanmıştır, çünkü her karar şeffaf ve geri alınabilirdir.

Birkaç güvence aynı anda çalışır ve hepsi insan yargısını makinenin üzerine koyar.

• Puan sınırlama — anahtar kelimeler tek başına asla bir yasağa ulaşamaz; bu, birçok bağımsız sinyalin birleşik ağırlığını gerektirir.
• Yöneticiler ve güvenilir üyeler asla modere edilmez ve beyaz liste ve güven listenize daha fazla isim ekleyebilirsiniz.
• Orta güven bölgesi, otomatik bir ceza yerine yönetici incelemesine gider.
• Her işlem nedeniyle kaydedilir ve itiraz edilebilir — onaylanan itirazlar benzer mesajları da temizler (itirazlar nasıl çalışır sayfasına bakın).
• İsteğe bağlı bir kişisel ML modeli topluluğunuzun normal konuşmasını öğrenir ve ona uymayan yanlış alarmları veto eder — yalnızca mesajları temizleyebilir, asla ceza veremez.

7Sizden öğrenir

Sistem donmuş değildir. Moderasyon kararlarınız ve onaylanan itirazlarınız onu sürekli eğitir; böylece zamanla belirli topluluğunuz için daha doğru hale gelir.

Bu geri bildirim döngülerinin her biri insan yargısının altında yer alır — bir itirazı onayladığınızda veya bir yanlış pozitifi işaretlediğinizde, o karar makinenin üzerine geçer ve benzer mesajları da temizler.

• Düzeltmeleriniz ML modelini geliştirmeye devam eder; böylece tespit, grubunuzun gerçekte gördüğü türden mesajlar için keskinleşir.
• Bir mesajı yanlış pozitif olarak işaretlemek, etrafındaki benzer mesajları anında temizler.
• Yeni dedektörler, işlem yapmalarına izin verilmeden önce gerçek trafikte kanıtlanır ve kaymaya başlarlarsa geri çekilir.
• Bir üyenin geçmişi, ne kadar tolerans göreceğini ayarlar: temiz mesajlardan oluşan bir geçmiş biraz esneklik kazandırır, bir ceza ise onu sıkılaştırır.
• Bir kişisel ML modeli, topluluğunuzun normal konuşma tarzındaki yanlış alarmları temizlemek için kendi sohbetiniz üzerinde eğitilebilir.

8Kontrolde kalmak

Botun ne kadar sıkı olacağına siz karar verirsiniz. Başlangıçta en çok iki ayar önemlidir ve botun yaptığı her şey görünür ve ayarlanabilirdir.

İzleme Modu, botun gerçekten kimseyi cezalandırmadan ne yapacağını izlemenizi sağlar — gerçek uygulamayı açmadan önce güven inşa etmenin en güvenli yolu.

• İzleme Modu — yalnızca gözlem, ceza yok, her şey inceleme için kaydedilir.
• Katılık düzeyleri ve ön ayarlar — hazır bir profil seçin veya topluluğunuz için eşikleri ince ayarlayın.
• Gevşetilmiş kurallar — grubunuzda puan vermemesi gereken belirli dedektörleri adlandırın (kritik korumalar gevşetilemez).
• Satış ve kripto topluluğu modu — ticaret konuşmasının normal olduğu topluluklar için tetikleyicileri yumuşatın.
• CAS, küresel spam veri tabanı, AI moderasyon, ses moderasyonu ve kişisel model için grup başına açma/kapama düğmeleri.

9En iyi uygulamalar ve sık yapılan hatalar

Birkaç alışkanlık, en az yanlış alarmla en fazla korumayı sağlar. Yeni yöneticilerin karşılaştığı çoğu sorun, bunlardan birini atlamaya dayanır.

• İzleme Modunda başlayın ve uygulamadan önce birkaç gün günlüğü okuyun.
• Kendi ekibinizi ve bilinen ortaklarınızı beyaz listeye alın; böylece bağlantıları asla sorgulanmaz.
• Küresel spam gönderici kontrolünü hemen etkinleştirin — saldırıları siz görmeden önce kaldırır.
• İtirazlara ve yanlış pozitiflere işlem yapın; her düzeltme grubunuzun korumasını keskinleştirir.
• Tek bir yanlış alarmı düzeltmek için tüm korumaları devre dışı bırakmayın — bunun yerine ilgili tek kuralı gevşetin veya üyeyi beyaz listeye alın.
• Yepyeni spam göndericilerin herhangi bir harici listede olmasını beklemeyin; kurallar, model ve AI katmanları tam da bunun içindir.