AI moderasyon, *ilginç konu, bana DM at göstereyim* gibi ince spam'i yakalamak için yalnızca anahtar kelimeleri değil, anlamı okuyan bir dil modeli ekler. Yalnızca diğer katmanların çözemediği sınırdaki mesajlarda çalışır ve emin olmadığı her şey yönetici incelemesine gider. Free dahil her planda mevcuttur ve varsayılan olarak açıktır; ayarlardan grup bazında kapatabilirsiniz.
1AI moderasyon ne yapar
AI moderasyon, bir mesajı yasaklı kelimeler için taramak yerine anlamını okuyan bir dil modelini (LLM) devreye sokar. “Nereden kahve alabilirim” ile “bana özelden yaz, sana para kazanmayı öğreteyim” arasındaki farkı ayırt eden katman budur.
Kuralların ve kendi ML modelimizin üzerinde yer alır. Mesajların çoğu ona hiç ulaşmaz — diğer katmanların kendi başına karar veremediği gerçekten belirsiz durumlar için ayrılmıştır.
2Niyet neden anahtar kelimelerden üstündür
Anahtar kelime filtrelerinin bir sınırı vardır. Dikkatli bir spam gönderici yasaklı kelimeyi asla yazmaz — ima eder, kelimeleri bilerek yanlış yazar, satış konuşmasını samimi bir sohbetin içine gizler. Bir kural motoru hiçbir sorun görmez; cümleyi okuyan bir insan ise niyeti anında görür.
AI moderasyonun doldurduğu boşluk budur. Bir mesajın ne yapmaya çalıştığını değerlendirir; böylece kripto hakkında gerçek bir görüşü gizlenmiş bir yatırım dolandırıcılığından ya da gerçek bir soruyu merak kılığına girmiş bir DM'e çekme tuzağından ayırabilir.
- Birebir ifadeler yerine başka sözcüklerle anlatımı ve yanlış yazımı anlar.
- Tek tek kelimeleri değil, cümlenin tamamını bağlamı içinde okur.
- Meşru bir konu tartışmasını aynı konudaki gizli bir satış konuşmasından ayırır.
- Kelimelerden tahmin yürütmek yerine anlamı kavradığı için yanlış pozitifleri azaltır.
3Ne zaman etkinleştirmeye değer
Telm'in diğer katmanları spam'in büyük kısmını zaten durdurur. AI moderasyon, spam göndericilerin bariz anahtar kelimeler kullanmadan dikkatle yazdığı topluluklar için ekstra bir avantajdır.
- Grubunuz, normal sohbet gibi ifade edilmiş gizli tanıtımları ve DM'e çekme tuzaklarını çekiyor.
- İlk bakışta gerçek bir soru veya görüş gibi okunan spam görüyorsunuz.
- Botun konunuzu anlamasını istiyorsunuz — örneğin meşru kripto tartışmasını gizli bir dolandırıcılıktan ayırmasını.
- Anahtar kelime eşleştirmesinin ötesine geçip niyet tespitine hazırsınız.
4Tespit hattına nasıl oturur
AI moderasyon ayrı bir bot değildir — tespit merdiveninde bir katman daha. Yalnızca diğer katmanlar bir mesajı gerçek bir gri bölgeye kadar daralttıktan sonra devreye girer.
AI baktıktan sonra hâlâ belirsiz kalan her şey sessizce geçip gitmek yerine insan incelemesine devredilir; böylece yoğun bir grup asla hız uğruna doğruluktan ödün vermez.
5Doğruluk, hafıza ve inceleme
AI moderasyon eli tetikte değil, temkinli olacak şekilde ayarlanmıştır. Emin bir spam kararı işleme dönüşür; emin olmadığı her şey cezalandırılmak yerine yönetici incelemesine yönlendirilir, böylece AI bir üyeyi asla bir sezgiye dayanarak çıkarmaz.
Emin olduğu kararlar hatırlanır; böylece aynı veya benzer bir mesaj bir dahaki sefere AI'a geri dönmeden anında işlenir. Özelliği zaman içinde hem doğru hem de hızlı tutan budur.
- Emin AI kararları hatırlanır ve aynı ya da neredeyse aynı metinler için yeniden kullanılır.
- Belirsiz durumlar, moderasyon günlüğünde görünen bir yönetici inceleme öğesine dönüşür.
- Ani bir sel sırasında botun hemen temize çıkaramadığı her şey incelemeye gönderilir, asla kontrolsüz geçirilmez.
- Onaylarınız ve retleriniz, diğer tüm kararlar gibi tespit hattına geri beslenir.
6Plana göre kotalar
AI en son ve yalnızca gri bölgede çalıştığı için mesajların ezici çoğunluğu, AI hiç çağrılmadan önce diğer katmanlar tarafından çözülür — bu yüzden yoğun bir sohbeti asla yavaşlatmaz.
Mesaj başına ödenecek bir şey yoktur: gruplarınızın içindeki AI moderasyon her planın bir parçasıdır ve plana bağlı bir mesaj kotası yoktur. Platform genelinde AI çağrılarına uygulanan bir sınır, seller sırasında hizmeti istikrarlı tutar — ani bir akın izin verilenden fazla sınırdaki mesaj getirirse, bunlar yönetici incelemesine gider; bu sırada kural motoru, CAS ve küresel veri tabanı grubu korumaya devam eder. Pro'da günde 1.000 ve Business'ta günde 10.000 AI kontrolü olan plan kotaları yalnızca herkese açık /spam/check API'si için geçerlidir.
7En iyi uygulamalar
Kısa bir alışma dönemi, AI'ın kendi başına işlem yapmasına izin vermeden önce size güven verir.
- Önce İzleme modunda açın ve birkaç gün boyunca günlükteki AI kararlarını okuyun.
- Ortakların ve düzenli üyelerin asla sorgulanmaması için beyaz liste ve güven listenizi güncel tutun.
- Topluluğunuzun çok kendine özgü bir konuşma tarzı varsa onu kişisel ML modeliyle birlikte kullanın.
- AI'ı kuralların yerine geçen bir şey olarak görmeyin — o, merdivenin en üst basamağıdır ve işin çoğunu hâlâ diğer katmanlar yapar.