Moderasi AI di Telm: penjelasan klasifikator LLM

1Apa yang dilakukan moderasi AI

Moderasi AI mengaktifkan model bahasa (LLM) yang membaca makna pesan, alih-alih memindainya untuk mencari kata terlarang. Inilah lapisan yang membedakan “di mana saya bisa beli kopi” dari “tulis ke saya secara pribadi, akan saya ajari cara menghasilkan uang”.

Ia bekerja di atas aturan dan model ML kami sendiri. Sebagian besar pesan tidak pernah sampai kepadanya — ia dicadangkan untuk kasus yang benar-benar ambigu yang tidak dapat diputuskan sendiri oleh lapisan lain.

2Mengapa niat lebih penting daripada kata kunci

Filter kata kunci punya batas. Spammer yang cermat tidak pernah menulis kata terlarang — mereka memberi isyarat, salah eja dengan sengaja, atau membungkus tawarannya dalam basa-basi yang ramah. Mesin aturan tidak melihat ada yang salah; manusia yang membaca kalimat itu langsung menangkap niatnya.

Celah itulah yang diisi moderasi AI. Ia menilai apa yang sebenarnya ingin dicapai sebuah pesan, sehingga dapat memisahkan opini sungguhan tentang kripto dari penipuan investasi yang menyamar, atau pertanyaan tulus dari umpan pindah-ke-DM yang berkedok rasa ingin tahu.

• Memahami parafrase dan salah eja, bukan hanya string yang persis.
• Membaca seluruh kalimat dalam konteks, bukan kata-kata yang terpisah.
• Membedakan diskusi topik yang sah dari tawaran tersembunyi tentang subjek yang sama.
• Mengurangi positif palsu karena memahami makna, bukan menebak dari kata-kata.

3Kapan layak diaktifkan

Lapisan lain Telm sudah menghentikan sebagian besar spam. Moderasi AI adalah keunggulan tambahan bagi komunitas tempat spammer menulis dengan cermat, tanpa kata kunci yang mencolok.

• Grup Anda menarik promosi terselubung dan umpan pindah-ke-DM yang ditulis seperti obrolan biasa.
• Anda melihat spam yang sekilas terbaca seperti pertanyaan atau opini sungguhan.
• Anda ingin bot memahami topik Anda — misalnya, untuk membedakan diskusi kripto yang sah dari penipuan tersembunyi.
• Anda siap beralih dari pencocokan kata kunci ke deteksi niat.

4Posisinya dalam alur pemeriksaan

Moderasi AI bukan bot terpisah — ia adalah satu lapisan lagi di tangga deteksi. Ia baru bekerja setelah lapisan lain menyaring sebuah pesan hingga benar-benar berada di zona abu-abu.

Apa pun yang masih belum jelas setelah diperiksa AI diserahkan ke tinjauan manusia, alih-alih diam-diam lolos, sehingga grup yang sibuk tidak pernah mengorbankan akurasi demi kecepatan.

5Akurasi, memori, dan tinjauan

Moderasi AI disetel untuk berhati-hati, bukan gegabah. Vonis spam yang yakin langsung ditindak; apa pun yang tidak ia yakini diteruskan ke tinjauan admin alih-alih dihukum, sehingga AI tidak pernah mengeluarkan anggota hanya berdasarkan dugaan.

Vonis yang yakin diingat, sehingga pesan yang sama atau mirip ditangani seketika di kesempatan berikutnya tanpa kembali ke AI. Itulah yang membuat fitur ini tetap akurat sekaligus cepat dari waktu ke waktu.

• Vonis AI yang yakin diingat dan dipakai ulang untuk teks yang identik atau nyaris identik.
• Kasus yang meragukan menjadi item tinjauan admin, terlihat di jurnal moderasi.
• Saat terjadi banjir pesan mendadak, apa pun yang tidak dapat langsung diloloskan bot dikirim ke tinjauan, tidak pernah dibiarkan lewat tanpa diperiksa.
• Persetujuan dan penolakan Anda masuk kembali ke alur pemeriksaan dengan cara yang sama seperti keputusan lainnya.

6Kuota per paket

Karena AI berjalan paling akhir dan hanya pada zona abu-abu, sebagian besar pesan sudah diputuskan oleh lapisan lain sebelum AI dipanggil — sehingga ia tidak pernah menghambat obrolan yang ramai.

Tidak ada biaya per pesan: moderasi AI di dalam grup Anda adalah bagian dari setiap paket, tanpa kuota pesan per paket. Batas panggilan AI di seluruh platform menjaga layanan tetap stabil saat terjadi banjir pesan — jika lonjakan mendadak memunculkan lebih banyak pesan di ambang daripada yang diizinkan, pesan-pesan itu dikirim ke tinjauan admin sementara mesin aturan, CAS, dan basis data global tetap melindungi grup. Kuota paket sebesar 1.000 pemeriksaan AI per hari di Pro dan 10.000 di Business hanya berlaku untuk API publik /spam/check.

7Praktik terbaik

Masa penyesuaian singkat memberi Anda keyakinan sebelum membiarkan AI bertindak sendiri.

• Aktifkan bersama Mode Pemantauan terlebih dahulu dan baca vonis AI di jurnal selama beberapa hari.
• Jaga daftar whitelist dan kepercayaan Anda tetap terbaru agar mitra dan anggota setia tidak pernah dipertanyakan.
• Padukan dengan model ML pribadi jika komunitas Anda memiliki cara bicara yang sangat khas.
• Jangan anggap AI sebagai pengganti aturan — ia adalah puncak tangga, dan lapisan lain tetap melakukan sebagian besar pekerjaan.