Cách phát hiện spam của Telm hoạt động

1Một bot, nhiều lớp

Telm không dựa vào một mánh khóe duy nhất. Hãy hình dung nó giống như an ninh ở sân bay: một tin nhắn đi qua nhiều trạm kiểm soát, lần lượt từng trạm một, và có thể được thông qua hoặc chặn lại ở bất kỳ trạm nào.

Chính thiết kế phân lớp đó khiến việc bảo vệ vừa đáng tin cậy vừa nhanh chóng. Những trường hợp hiển nhiên được xử lý ngay, và chỉ những tin nhắn thực sự mập mờ mới được xem xét kỹ hơn — đó là lý do vì sao ngay cả một nhóm sầm uất với hàng chục nghìn thành viên vẫn được kiểm duyệt theo thời gian thực mà không hề cảm thấy giật lag.

• Kiểm tra spam toàn cầu — những kẻ lạm dụng đã biết bị chặn ngay tại cổng, trước cả tin nhắn đầu tiên của chúng.
• Bộ phát hiện quy tắc và mẫu — một thư viện lớn nhận ra các thủ đoạn spam ngay từ cái nhìn đầu tiên.
• Bộ nhớ spam lặp lại — một đợt spam giống hệt hoặc na ná nhau bị bắt ngay lập tức.
• Mô hình ML của riêng chúng tôi — được huấn luyện trên spam thật bằng nhiều ngôn ngữ để bắt các chiến dịch mà nó chưa từng thấy.
• Bộ phân loại AI — đọc hiểu ý nghĩa, cho những tin nhắn hiếm hoi thực sự ở ranh giới.
• Tự học — các quyết định của bạn làm cho mọi lớp sắc bén hơn cho nhóm của bạn.

2Hành trình của một tin nhắn đơn lẻ

Đây là những gì xảy ra khi ai đó đăng bài trong nhóm của bạn. Tin nhắn được kiểm tra qua từng lớp một, và hầu hết tin nhắn được thông qua hoặc bị bắt từ lâu trước khi tới đích.

Quản trị viên, chủ nhóm và các thành viên đáng tin cậy trong danh sách trắng không bao giờ bị kiểm duyệt — tin nhắn của họ bỏ qua hoàn toàn các bước kiểm tra này, đó là lý do bạn không bao giờ phải lo bot động đến đội của chính mình.

• Kiểm tra đầu vào — một kẻ spam đã biết bị chặn ngay tại cửa bởi cơ sở dữ liệu spam toàn cầu trước tin nhắn đầu tiên của chúng (xem danh sách chặn CAS và cơ sở dữ liệu spam toàn cầu).
• Quy tắc và mẫu — nhiều bộ phát hiện cộng dồn thành một điểm spam. Không một từ đơn lẻ nào cấm được ai; quyết định đến từ tổng của các tín hiệu.
• Bộ nhớ spam lặp lại — nếu cùng một văn bản hoặc gần như giống hệt vừa được phán xét trong nhóm của bạn, câu trả lời đó được tái sử dụng, nên một loạt bản sao được xử lý trong một lần.
• Mô hình ML của chúng tôi — chấm điểm cách diễn đạt trông spam đến mức nào; spam chắc chắn và văn bản sạch chắc chắn được xử lý ở đây, còn phần ở giữa đi tiếp.
• Lớp AI — một mô hình ngôn ngữ đọc hiểu ý nghĩa của một tin nhắn vẫn còn mập mờ (xem kiểm duyệt AI).
• Hình ảnh và âm thanh — băm tri giác (perceptual hash), nhận dạng văn bản OCR, phát hiện mã QR và chuyển giọng nói thành văn bản đưa văn bản của chúng trở lại chính những bước kiểm tra đó.
• Phán quyết và hành động — thông qua, xóa, tắt tiếng, cấm hoặc gửi tới quản trị viên xem xét. Mọi thứ đều được ghi lại kèm lý do trong nhật ký kiểm duyệt.

3Mỗi lớp thực sự làm gì

Sẽ hữu ích khi biết mỗi trạm kiểm soát thực sự đang làm công việc gì, bởi chúng bắt những loại spam rất khác nhau. Cùng nhau, chúng che chắn các điểm mù của nhau.

• Bộ phát hiện quy tắc và mẫu — các bộ phát hiện được xây dựng thủ công nhận ra các thủ đoạn spam thay vì từng từ đơn lẻ: mồi nhử kéo sang tin nhắn riêng, quảng cáo ẩn, quảng bá kênh bên ngoài, các mánh khóe cấu trúc và làm rối. Chúng hoạt động trên văn bản đã chuẩn hóa, nên bảng chữ cái pha trộn và ký tự chèn thêm không đánh lừa được chúng.
• Bộ nhớ spam lặp lại — nhận ra các tin nhắn giống hệt và gần như giống hệt (một số điện thoại bị đổi, một tên người dùng khác) và tái sử dụng phán quyết trước đó, nên các đợt tấn công phối hợp bị dập tắt ngay khoảnh khắc chúng bắt đầu.
• Mô hình ML của riêng chúng tôi — một bộ phân loại máy học được huấn luyện trên một kho khổng lồ các mẫu spam đã xác nhận cùng với lời nói sạch bằng nhiều ngôn ngữ. Nó khái quát hóa để bắt cả những chiến dịch chưa từng thấy, bao gồm các biến thể bị làm rối và được dịch.
• Bộ phân loại AI — một mô hình ngôn ngữ dành riêng cho vùng xám thực sự. Nó đọc hiểu ý định, nên có thể phân biệt một câu hỏi thật với một lời chào hàng ngụy trang.
• Hiểu hình ảnh và âm thanh — OCR trích văn bản ra khỏi banner và ảnh chụp màn hình, băm tri giác khớp với các ảnh spam đã biết, mã QR được giải mã, và tin nhắn thoại lẫn video note được chuyển thành văn bản. Toàn bộ văn bản khôi phục được đó lại đi vào chính các bước kiểm tra quy tắc, mô hình và AI.

4Điểm số, ngưỡng và hành động

Thay vì một câu có/không thô cứng, mỗi tin nhắn tích lũy một điểm spam từ nhiều tín hiệu. Điểm càng cao, hành động càng mạnh — và một từ xui xẻo đơn lẻ không bao giờ có thể tự mình dẫn đến một lệnh cấm, bởi vì đóng góp của từ khóa bị giới hạn ở mức thấp hơn nhiều so với các ngưỡng trừng phạt.

Đây là cơ chế bảo vệ tích hợp chống lại các lệnh cấm sai: một phán quyết không bao giờ được đưa ra chỉ bởi từ ngữ, mà chỉ bởi toàn bộ bức tranh. Độ nghiêm ngặt của các ngưỡng này là thứ bạn kiểm soát thông qua các mức độ nghiêm ngặt kiểm duyệt và các cấu hình bảo vệ.

• Điểm rất cao — tự động gỡ bỏ, và với hành vi lạm dụng rõ ràng thì tắt tiếng hoặc cấm.
• Điểm trung bình — gửi tới quản trị viên để xem xét thay vì hành động một cách mù quáng.
• Điểm thấp, không có gì đáng ngờ — tin nhắn được thông qua ngay lập tức.
• Thành viên mới hoặc chưa được tin cậy đối mặt với các ngưỡng chặt hơn một chút so với các thành viên quen thuộc lâu năm đã được tin cậy, nên thành viên đáng tin cậy gần như không bao giờ bị bắt.
• Mọi hành động đều có thể đảo ngược và có thể kháng cáo, và mỗi quyết định ghi lại lớp nào đã quyết định và vì sao (xem hiểu các quyết định kiểm duyệt).

5Nó bắt được những gì

Thay vì khớp các từ cấm, công cụ nhận ra các thủ đoạn spam qua toàn bộ mẫu của chúng, bao gồm các biến thể bị làm rối, dựa trên hình ảnh và được nói ra. Đây là những họ spam mà nó được xây dựng để chặn.

• Mồi nhử kéo sang tin nhắn riêng — lời mời tiếp tục trong tin nhắn riêng tư, ngay cả khi được diễn đạt như một lời nói bình thường.
• Quảng cáo ẩn và quảng bá kênh của bên thứ ba, bao gồm cả tin chuyển tiếp từ các kênh khác (xem kiểm soát chuyển tiếp và kênh).
• Các chiến dịch phối hợp — cùng một văn bản xuất hiện trên nhiều nhóm, hoặc từ nhiều tài khoản trong một nhóm trong một khoảng thời gian ngắn.
• Các mẫu lừa đảo và phishing — quà tặng giả, mồi đầu tư và giả mạo quản trị viên (xem cách phát hiện lừa đảo hoạt động).
• Spam hình ảnh — banner casino, mã QR và văn bản được nhúng vào ảnh.
• Spam qua thoại và video note — lời chào hàng và liên kết được đọc lên để né các bot chỉ xử lý văn bản.
• Văn bản bị làm rối — bảng chữ cái pha trộn, ký tự chèn thêm và ký tự trông giống nhau.

6Cách ngăn ngừa các lệnh cấm sai

Nỗi sợ lớn nhất với bất kỳ bot chống spam nào là nó gỡ bỏ nhầm một thành viên thật. Telm được thiết kế để điều này vừa hiếm vừa luôn có thể khôi phục, bởi mọi quyết định đều minh bạch và có thể đảo ngược.

Nhiều lớp bảo vệ hoạt động cùng lúc, và tất cả đều đặt phán đoán của con người lên trên máy móc.

• Giới hạn điểm — chỉ riêng từ khóa không bao giờ có thể đạt tới một lệnh cấm; điều đó cần trọng số tổng hợp của nhiều tín hiệu độc lập.
• Quản trị viên và các thành viên đáng tin cậy không bao giờ bị kiểm duyệt, và bạn có thể thêm nhiều tên nữa vào danh sách danh sách trắng và tin cậy của bạn.
• Vùng tin cậy trung bình được gửi tới quản trị viên xem xét thay vì bị trừng phạt tự động.
• Mọi hành động đều được ghi lại kèm lý do và có thể được kháng cáo — các kháng cáo được chấp thuận cũng giải oan cho các tin nhắn tương tự (xem cách kháng cáo hoạt động).
• Một mô hình ML cá nhân tùy chọn học lời nói bình thường của cộng đồng bạn và phủ quyết những báo động giả không phù hợp với nó — nó chỉ có thể giải oan cho tin nhắn, không bao giờ trừng phạt.

7Nó học hỏi từ bạn

Hệ thống không đứng yên. Các quyết định kiểm duyệt và các kháng cáo được chấp thuận của bạn liên tục dạy nó, nên theo thời gian nó trở nên chính xác hơn cho cộng đồng cụ thể của bạn.

Mỗi vòng phản hồi này đều nằm dưới phán đoán của con người — khi bạn chấp thuận một kháng cáo hoặc đánh dấu một dương tính giả, phán quyết đó ghi đè lên máy móc và cũng giải oan cho các tin nhắn tương tự.

• Các sửa chữa của bạn liên tục cải thiện mô hình ML, nên việc phát hiện sắc bén hơn với loại tin nhắn mà nhóm bạn thực sự gặp phải.
• Đánh dấu một tin nhắn là dương tính giả sẽ lập tức giải oan cho các tin nhắn na ná xung quanh nó.
• Các bộ phát hiện mới được kiểm chứng trên lưu lượng thật trước khi được phép hành động, và bị rút lại nếu chúng bắt đầu chệch.
• Lịch sử hoạt động của một thành viên điều chỉnh mức độ khoan dung họ nhận được: một lịch sử tin nhắn sạch giúp được nới lỏng đôi chút, còn một lần trừng phạt thì siết lại.
• Một mô hình ML cá nhân có thể được huấn luyện trên cuộc trò chuyện của riêng bạn để giải oan cho các báo động giả về cách nói chuyện bình thường của cộng đồng bạn.

8Giữ quyền kiểm soát

Bạn quyết định bot nghiêm ngặt đến mức nào. Hai cài đặt quan trọng nhất khi bạn mới bắt đầu, và mọi thứ bot làm đều hiển thị và có thể điều chỉnh.

Chế độ Giám sát cho phép bạn quan sát những gì bot sẽ làm mà nó không thực sự trừng phạt ai — cách an toàn nhất để xây dựng lòng tin trước khi bật thực thi thực sự.

• Chế độ Giám sát — chỉ quan sát, không trừng phạt, mọi thứ đều được ghi lại để xem xét.
• Các mức độ nghiêm ngặt và cấu hình — chọn một hồ sơ có sẵn hoặc tinh chỉnh ngưỡng cho cộng đồng của bạn.
• Quy tắc nới lỏng — nêu tên các bộ phát hiện cụ thể không được phép chấm điểm trong nhóm của bạn (không thể nới lỏng các biện pháp bảo vệ trọng yếu).
• Chế độ cộng đồng cho phép bán hàng và crypto — làm dịu các yếu tố kích hoạt cho những cộng đồng nơi việc bàn về giao dịch là bình thường.
• Các nút bật/tắt theo từng nhóm cho CAS, cơ sở dữ liệu spam toàn cầu, kiểm duyệt AI, kiểm duyệt giọng nói và mô hình cá nhân.

9Thực hành tốt nhất và những lỗi thường gặp

Một vài thói quen giúp bạn có được sự bảo vệ tối đa với ít báo động giả nhất. Hầu hết các vấn đề mà quản trị viên mới gặp phải đều do bỏ qua một trong số này.

• Hãy bắt đầu ở Chế độ Giám sát và đọc nhật ký trong vài ngày trước khi thực thi.
• Hãy đưa đội của bạn và các đối tác đã biết vào danh sách trắng để các liên kết của họ không bao giờ bị nghi ngờ.
• Hãy bật ngay lần kiểm tra spam toàn cầu — nó loại bỏ các cuộc tấn công trước cả khi bạn nhìn thấy chúng.
• Hãy xử lý các kháng cáo và dương tính giả; mỗi lần sửa chữa làm cho sự bảo vệ của nhóm bạn sắc bén hơn.
• Đừng tắt cả một mảng bảo vệ chỉ để khắc phục một báo động giả — thay vào đó hãy nới lỏng đúng cái quy tắc liên quan hoặc đưa thành viên vào danh sách trắng.
• Đừng kỳ vọng những kẻ spam hoàn toàn mới sẽ có trong bất kỳ danh sách bên ngoài nào; đó chính xác là mục đích của các lớp quy tắc, mô hình và AI.