การตรวจจับสแปมของ Telm ทำงานอย่างไร

1หนึ่งบอท หลายชั้น

Telm ไม่พึ่งพากลไกเดียว ลองนึกภาพเหมือนการรักษาความปลอดภัยที่สนามบิน: ข้อความผ่านจุดตรวจหลายจุดทีละจุด และสามารถผ่านหรือถูกหยุดได้ที่จุดใดก็ได้

การออกแบบแบบหลายชั้นนี้เองที่ทำให้การปกป้องทั้งเชื่อถือได้และรวดเร็ว กรณีที่ชัดเจนถูกตัดสินทันที และมีเพียงข้อความที่คลุมเครือจริง ๆ เท่านั้นที่ถูกพิจารณาอย่างละเอียด — นั่นคือเหตุผลที่แม้แต่กลุ่มที่คึกคักซึ่งมีสมาชิกหลายหมื่นคนก็ถูกกลั่นกรองแบบเรียลไทม์โดยไม่รู้สึกหน่วง

• การตรวจสอบสแปมเมอร์ระดับโลก — ผู้ก่อกวนที่รู้จักถูกหยุดที่ทางเข้า ก่อนข้อความแรกของพวกเขา
• ตัวตรวจจับกฎและรูปแบบ — ไลบรารีขนาดใหญ่ที่รู้จักกลลวงสแปมได้ในทันที
• หน่วยความจำสแปมซ้ำ — คลื่นของสแปมที่เหมือนกันหรือคล้ายกันถูกจับได้ในคราวเดียว
• โมเดล ML ของเราเอง — ฝึกกับสแปมจริงในหลายภาษาเพื่อจับแคมเปญที่ไม่เคยเห็นมาก่อน
• ตัวจำแนก AI — อ่านความหมาย สำหรับข้อความที่หายากซึ่งก้ำกึ่งจริง ๆ
• การเรียนรู้ด้วยตัวเอง — การตัดสินใจของคุณทำให้ทุกชั้นคมชัดขึ้นสำหรับกลุ่มของคุณ

2การเดินทางของข้อความหนึ่งข้อความ

นี่คือสิ่งที่เกิดขึ้นเมื่อมีคนโพสต์ในกลุ่มของคุณ ข้อความจะถูกตรวจสอบกับชั้นแล้วชั้นเล่า และข้อความส่วนใหญ่จะผ่านหรือถูกจับได้ก่อนถึงชั้นสุดท้าย

ผู้ดูแล เจ้าของกลุ่ม และสมาชิกที่อยู่ในไวต์ลิสต์ซึ่งเชื่อถือได้จะไม่ถูกกลั่นกรองเลย — ข้อความของพวกเขาข้ามการตรวจสอบเหล่านี้ไปทั้งหมด นั่นคือเหตุผลที่คุณไม่ต้องกังวลว่าบอทจะไปแตะทีมงานของคุณเอง

• การตรวจสอบทางเข้า — สแปมเมอร์ที่รู้จักถูกฐานข้อมูลสแปมเมอร์ระดับโลกหยุดไว้ที่ประตูก่อนข้อความแรก (ดู รายการบล็อก CAS และ ฐานข้อมูลสแปมระดับโลก)
• กฎและรูปแบบ — ตัวตรวจจับจำนวนมากรวมกันเป็นคะแนนสแปม ไม่มีคำเดียวใดที่แบนใครได้ การตัดสินใจมาจากผลรวมของสัญญาณ
• หน่วยความจำสแปมซ้ำ — หากข้อความเดียวกันหรือเกือบเหมือนกันเพิ่งถูกตัดสินในกลุ่มของคุณ คำตอบนั้นจะถูกนำมาใช้ซ้ำ สแปมที่ท่วมมาเป็นก็อปปี้จึงถูกจัดการในคราวเดียว
• โมเดล ML ของเรา — ให้คะแนนว่าถ้อยคำดูเหมือนสแปมเพียงใด; สแปมที่มั่นใจและข้อความสะอาดที่มั่นใจถูกตัดสินที่นี่ ส่วนที่อยู่ตรงกลางเคลื่อนต่อไป
• ชั้น AI — โมเดลภาษาอ่านความหมายของข้อความที่ยังคลุมเครือ (ดู การกลั่นกรองด้วย AI)
• รูปภาพและเสียง — การแฮชเชิงรับรู้ การรู้จำข้อความในภาพ OCR การตรวจจับ QR code และ การถอดเสียง ป้อนข้อความกลับเข้าการตรวจสอบชุดเดียวกัน
• คำตัดสินและการกระทำ — ผ่าน ลบ ปิดเสียง แบน หรือส่งให้ผู้ดูแลตรวจสอบ ทุกอย่างถูกบันทึกพร้อมเหตุผลใน บันทึกการกลั่นกรอง

3แต่ละชั้นทำอะไรจริง ๆ

การรู้ว่าจุดตรวจแต่ละจุดทำหน้าที่อะไรจริง ๆ นั้นมีประโยชน์ เพราะแต่ละจุดจับสแปมชนิดที่แตกต่างกันมาก เมื่อรวมกันแล้วพวกมันครอบคลุมจุดบอดของกันและกัน

• ตัวตรวจจับกฎและรูปแบบ — ตัวตรวจจับที่สร้างด้วยมือซึ่งรู้จักกลลวงสแปมมากกว่าคำเดี่ยว ๆ: การล่อไปแชทส่วนตัว โฆษณาแฝง การโปรโมตช่องภายนอก ลูกเล่นเชิงโครงสร้าง และการอำพราง พวกมันทำงานบนข้อความที่ปรับให้เป็นมาตรฐาน อักษรผสมและสัญลักษณ์ที่แทรกเข้ามาจึงหลอกมันไม่ได้
• หน่วยความจำสแปมซ้ำ — รู้จักข้อความที่เหมือนกันและเกือบเหมือนกัน (เบอร์โทรที่สลับกัน แฮนเดิลที่ต่างกัน) และนำคำตัดสินก่อนหน้ามาใช้ซ้ำ การท่วมแบบประสานงานจึงถูกหยุดตั้งแต่เริ่มต้น
• โมเดล ML ของเราเอง — ตัวจำแนกด้วยแมชชีนเลิร์นนิงที่ฝึกกับสแปมที่ยืนยันแล้วจำนวนมหาศาลรวมกับคำพูดสะอาดในหลายภาษา มันสามารถขยายผลไปยังแคมเปญที่ไม่เคยเห็น รวมถึงตัวแปรที่อำพรางและแปลภาษา
• ตัวจำแนก AI — โมเดลภาษาที่สงวนไว้สำหรับพื้นที่สีเทาจริง ๆ มันอ่านเจตนา จึงบอกความแตกต่างระหว่างคำถามจริงกับการเสนอขายที่อำพรางได้
• ความเข้าใจภาพและเสียง — OCR ดึงข้อความออกจากแบนเนอร์และภาพหน้าจอ การแฮชเชิงรับรู้จับคู่ภาพสแปมที่รู้จัก QR code ถูกถอดรหัส และข้อความเสียงและวิดีโอโน้ตถูกถอดเสียง ข้อความที่กู้คืนมาทั้งหมดเข้าสู่การตรวจสอบกฎ โมเดล และ AI ชุดเดียวกัน

4คะแนน เกณฑ์ และการกระทำ

แทนที่จะเป็นใช่/ไม่ใช่แบบทื่อ ๆ ข้อความแต่ละข้อความสะสมคะแนนสแปมจากสัญญาณมากมาย ยิ่งคะแนนสูง การกระทำก็ยิ่งรุนแรง — และคำเดียวที่โชคร้ายไม่สามารถไปถึงการแบนได้ด้วยตัวเอง เพราะการมีส่วนของคีย์เวิร์ดถูกจำกัดไว้ต่ำกว่าเกณฑ์การลงโทษมาก

นี่คือมาตรการป้องกันในตัวจากการแบนผิดพลาด: คำตัดสินไม่เคยถูกตัดสินด้วยคำเพียงอย่างเดียว แต่ด้วยภาพรวมทั้งหมด ความเข้มงวดของเกณฑ์เหล่านี้เป็นสิ่งที่คุณควบคุมผ่าน ระดับความเข้มงวดของการกลั่นกรอง และ พรีเซ็ตการปกป้อง

• คะแนนสูงมาก — ลบอัตโนมัติ และสำหรับการก่อกวนที่ชัดเจนจะปิดเสียงหรือแบน
• คะแนนปานกลาง — ส่งให้ผู้ดูแลตรวจสอบแทนที่จะลงมือแบบไม่ไตร่ตรอง
• คะแนนต่ำ ไม่มีอะไรน่าสงสัย — ข้อความถูกปล่อยผ่านทันที
• สมาชิกใหม่หรือที่ยังไม่เชื่อถือเผชิญเกณฑ์ที่เข้มงวดกว่าสมาชิกประจำที่เชื่อถือได้มายาวนานเล็กน้อย สมาชิกที่เชื่อถือได้จึงแทบไม่เคยถูกจับ
• ทุกการกระทำย้อนกลับได้และอุทธรณ์ได้ และการตัดสินใจแต่ละครั้งบันทึกว่าชั้นใดเป็นผู้ตัดสินและเพราะเหตุใด (ดู ทำความเข้าใจการตัดสินใจกลั่นกรอง)

5มันจับอะไรได้บ้าง

แทนที่จะจับคู่คำต้องห้าม เอนจินรู้จักกลลวงสแปมจากรูปแบบทั้งหมดของมัน รวมถึงตัวแปรที่อำพราง อยู่ในภาพ และเป็นเสียงพูด นี่คือตระกูลที่มันถูกสร้างมาเพื่อหยุด

• การล่อไปแชทส่วนตัว — คำเชิญให้ไปคุยต่อในข้อความส่วนตัว แม้เขียนราวกับเป็นคำพูดปกติ
• โฆษณาแฝงและการโปรโมตช่องบุคคลที่สาม รวมถึงการส่งต่อจากช่องอื่น (ดู การควบคุมการส่งต่อและช่อง)
• แคมเปญที่ประสานงาน — ข้อความเดียวกันโผล่ขึ้นในหลายกลุ่ม หรือจากหลายบัญชีภายในกลุ่มเดียวในช่วงสั้น ๆ
• รูปแบบหลอกลวงและฟิชชิง — แจกของปลอม เหยื่อล่อการลงทุน และการปลอมเป็นผู้ดูแล (ดู การตรวจจับการหลอกลวงทำงานอย่างไร)
• สแปมในภาพ — แบนเนอร์คาสิโน QR code และข้อความที่ฝังในภาพ
• สแปมในข้อความเสียงและวิดีโอโน้ต — การเสนอขายและลิงก์ที่พูดออกมาเพื่อหลบบอทที่อ่านแต่ข้อความ
• ข้อความที่อำพราง — อักษรผสม สัญลักษณ์ที่แทรก และอักขระที่หน้าตาคล้ายกัน

6ป้องกันการแบนผิดพลาดอย่างไร

ความกลัวที่ใหญ่ที่สุดของบอทต้านสแปมใด ๆ คือมันจะลบสมาชิกจริงออกไปโดยผิดพลาด Telm ถูกออกแบบให้สิ่งนี้เกิดขึ้นได้ยากและกู้คืนได้เสมอ เพราะทุกการตัดสินใจโปร่งใสและย้อนกลับได้

มาตรการป้องกันหลายอย่างทำงานพร้อมกัน และทั้งหมดวางวิจารณญาณของมนุษย์ไว้เหนือเครื่องจักร

• การจำกัดคะแนน — คีย์เวิร์ดเพียงอย่างเดียวไม่มีทางไปถึงการแบน ต้องอาศัยน้ำหนักรวมของสัญญาณอิสระจำนวนมาก
• ผู้ดูแลและสมาชิกที่เชื่อถือได้จะไม่ถูกกลั่นกรอง และคุณสามารถเพิ่มชื่อลงใน ไวต์ลิสต์และความเชื่อถือ ได้อีก
• โซนความมั่นใจปานกลางจะไปที่การตรวจสอบของผู้ดูแลแทนการลงโทษอัตโนมัติ
• ทุกการกระทำถูกบันทึกพร้อมเหตุผลและอุทธรณ์ได้ — การอุทธรณ์ที่ได้รับอนุมัติจะเคลียร์ข้อความที่คล้ายกันด้วย (ดู การอุทธรณ์ทำงานอย่างไร)
• โมเดล ML ส่วนตัว ที่เลือกใช้ได้จะเรียนรู้คำพูดปกติของชุมชนคุณและวีโต้สัญญาณเตือนลวงที่ไม่เข้ากัน — มันทำได้เพียงเคลียร์ข้อความ ไม่มีวันลงโทษ

7มันเรียนรู้จากคุณ

ระบบไม่ได้หยุดนิ่ง การตัดสินใจกลั่นกรองและการอุทธรณ์ที่อนุมัติแล้วของคุณสอนมันอย่างต่อเนื่อง มันจึงแม่นยำขึ้นสำหรับชุมชนเฉพาะของคุณเมื่อเวลาผ่านไป

ทุกวงจรป้อนกลับเหล่านี้อยู่ใต้วิจารณญาณของมนุษย์ — เมื่อคุณอนุมัติการอุทธรณ์หรือทำเครื่องหมายผลบวกลวง คำตัดสินนั้นลบล้างเครื่องจักรและเคลียร์ข้อความที่คล้ายกันด้วย

• การแก้ไขของคุณช่วยปรับปรุงโมเดล ML อย่างต่อเนื่อง การตรวจจับจึงคมชัดขึ้นสำหรับข้อความชนิดที่กลุ่มของคุณเจอจริง ๆ
• การทำเครื่องหมายข้อความหนึ่งว่าเป็นผลบวกลวงจะเคลียร์ข้อความที่หน้าตาคล้ายกันรอบ ๆ ทันที
• ตัวตรวจจับใหม่ถูกพิสูจน์บนทราฟฟิกจริงก่อนได้รับอนุญาตให้ลงมือ และถูกถอนกลับหากเริ่มพลาด
• ประวัติของสมาชิกปรับว่าพวกเขาจะได้รับการผ่อนปรนมากเพียงใด: ประวัติข้อความสะอาดได้รับการผ่อนปรนเล็กน้อย การลงโทษทำให้เข้มงวดขึ้น
• โมเดล ML ส่วนตัว สามารถฝึกกับแชทของคุณเองเพื่อเคลียร์สัญญาณเตือนลวงเกี่ยวกับวิธีการพูดปกติของชุมชนคุณ

8ยังคงเป็นผู้ควบคุม

คุณเป็นผู้ตัดสินว่าบอทเข้มงวดแค่ไหน มีการตั้งค่าสองอย่างที่สำคัญที่สุดเมื่อคุณเริ่มต้น และทุกสิ่งที่บอททำมองเห็นและปรับได้

โหมดเฝ้าติดตาม ให้คุณดูว่าบอทจะทำอะไรโดยไม่ลงโทษใครจริง — เป็นวิธีที่ปลอดภัยที่สุดในการสร้างความไว้วางใจก่อนเปิดการบังคับใช้จริง

• โหมดเฝ้าติดตาม — สังเกตอย่างเดียว ไม่ลงโทษ ทุกอย่างถูกบันทึกเพื่อตรวจสอบ
• ระดับความเข้มงวดและพรีเซ็ต — เลือกโปรไฟล์สำเร็จรูปหรือปรับเกณฑ์ให้เหมาะกับชุมชนของคุณ
• กฎที่ผ่อนปรน — ระบุตัวตรวจจับเฉพาะที่ต้องไม่ให้คะแนนในกลุ่มของคุณ (การปกป้องที่สำคัญยิ่งไม่สามารถผ่อนปรนได้)
• อนุญาตโหมดชุมชนขายและคริปโต — ลดความไวของตัวกระตุ้นสำหรับชุมชนที่การพูดคุยเรื่องเทรดเป็นเรื่องปกติ
• สวิตช์เปิด/ปิดรายกลุ่มสำหรับ CAS ฐานข้อมูลสแปมระดับโลก การกลั่นกรองด้วย AI การกลั่นกรองเสียง และโมเดลส่วนตัว

9แนวปฏิบัติที่ดีและข้อผิดพลาดที่พบบ่อย

นิสัยไม่กี่อย่างช่วยให้คุณได้การปกป้องมากที่สุดโดยมีสัญญาณเตือนลวงน้อยที่สุด ปัญหาส่วนใหญ่ที่ผู้ดูแลมือใหม่เจอล้วนมาจากการข้ามข้อใดข้อหนึ่งเหล่านี้

• ควรเริ่มในโหมดเฝ้าติดตามและอ่านบันทึกสักสองสามวันก่อนบังคับใช้
• ควรใส่ทีมงานของคุณเองและพันธมิตรที่รู้จักไว้ในไวต์ลิสต์ เพื่อไม่ให้ลิงก์ของพวกเขาถูกตั้งคำถาม
• ควรเปิดการตรวจสอบสแปมเมอร์ระดับโลกทันที — มันกำจัดการโจมตีก่อนที่คุณจะได้เห็น
• ควรลงมือกับการอุทธรณ์และผลบวกลวง; ทุกการแก้ไขทำให้การปกป้องกลุ่มของคุณคมชัดขึ้น
• อย่าปิดการปกป้องทั้งชุดเพื่อแก้สัญญาณเตือนลวงหนึ่งรายการ — ให้ผ่อนปรนกฎเดียวที่เกี่ยวข้องหรือใส่สมาชิกในไวต์ลิสต์แทน
• อย่าคาดหวังว่าสแปมเมอร์ที่เพิ่งเกิดใหม่จะอยู่ในรายการภายนอกใด ๆ นั่นแหละคือเหตุผลที่มีชั้นกฎ โมเดล และ AI