Kiểm duyệt AI trong Telm: giải thích bộ phân loại LLM

1Kiểm duyệt AI làm gì

Kiểm duyệt AI bật một mô hình ngôn ngữ lớn (LLM) đọc hiểu ý nghĩa của tin nhắn thay vì quét tìm các từ bị cấm. Đây là lớp phân biệt được “mua cà phê ở đâu nhỉ” với “nhắn riêng cho mình, mình dạy bạn kiếm tiền”.

Nó nằm phía trên các quy tắc và mô hình ML của chính chúng tôi. Phần lớn tin nhắn không bao giờ đi tới lớp này — nó được dành cho những trường hợp thực sự mập mờ mà các lớp khác không tự quyết định được.

2Vì sao ý định quan trọng hơn từ khóa

Bộ lọc từ khóa có giới hạn của nó. Một kẻ spam cẩn thận không bao giờ viết ra từ bị cấm — chúng nói bóng gió, cố tình viết sai chính tả, gói lời chào mời trong những câu chuyện phiếm thân thiện. Bộ máy quy tắc không thấy có gì sai; còn một người đọc câu đó sẽ nhận ra ý định ngay lập tức.

Đó chính là khoảng trống mà kiểm duyệt AI lấp đầy. Nó đánh giá xem một tin nhắn đang cố làm gì, nên có thể tách một ý kiến thật về crypto khỏi một vụ lừa đảo đầu tư trá hình, hay một câu hỏi thật lòng khỏi một cái mồi dụ sang tin nhắn riêng đội lốt sự tò mò.

• Hiểu được cách diễn đạt lại và lỗi chính tả thay vì chỉ khớp chuỗi chính xác.
• Đọc cả câu trong ngữ cảnh, chứ không phải từng từ riêng lẻ.
• Phân biệt thảo luận hợp lệ về một chủ đề với lời chào mời ẩn giấu về cùng chủ đề đó.
• Giảm dương tính giả vì nó nắm được ý nghĩa thay vì đoán từ các từ ngữ.

3Khi nào nên bật

Các lớp khác của Telm đã chặn phần lớn spam. Kiểm duyệt AI là lợi thế bổ sung cho những cộng đồng nơi kẻ spam viết cẩn thận, không dùng từ khóa lộ liễu.

• Nhóm của bạn thu hút quảng cáo trá hình và những cái mồi dụ sang tin nhắn riêng được viết như trò chuyện bình thường.
• Bạn gặp spam mà thoạt nhìn trông như một câu hỏi hay ý kiến thật lòng.
• Bạn muốn bot hiểu chủ đề của nhóm — ví dụ, để phân biệt thảo luận crypto hợp lệ với một vụ lừa đảo ẩn giấu.
• Bạn sẵn sàng vượt qua việc khớp từ khóa để chuyển sang phát hiện ý định.

4Vị trí trong quy trình phát hiện

Kiểm duyệt AI không phải là một bot riêng — nó là thêm một lớp trên thang phát hiện. Nó chỉ tham gia sau khi các lớp khác đã thu hẹp một tin nhắn xuống một vùng xám thực sự.

Mọi thứ vẫn chưa rõ ràng sau khi AI xem xét đều được chuyển cho con người xem xét thay vì lặng lẽ lọt qua, nên một nhóm đông đúc không bao giờ phải đánh đổi độ chính xác lấy tốc độ.

5Độ chính xác, bộ nhớ và xem xét

Kiểm duyệt AI được tinh chỉnh để thận trọng, không nóng vội. Một phán quyết spam chắc chắn sẽ được thực thi; mọi thứ nó chưa chắc chắn đều được chuyển cho quản trị viên xem xét thay vì bị xử phạt, nên AI không bao giờ loại một thành viên chỉ vì phỏng đoán.

Các phán quyết chắc chắn của nó được ghi nhớ, nên lần sau cùng một tin nhắn hoặc tin nhắn na ná sẽ được xử lý ngay lập tức mà không cần gọi lại AI. Đó là điều giúp tính năng này vừa chính xác vừa nhanh theo thời gian.

• Các phán quyết AI chắc chắn được ghi nhớ và tái sử dụng cho văn bản giống hệt hoặc gần giống hệt.
• Các trường hợp chưa chắc chắn trở thành một mục chờ quản trị viên xem xét, hiển thị trong nhật ký kiểm duyệt.
• Trong một đợt tràn ngập đột ngột, mọi thứ bot không thể thông qua ngay sẽ được gửi đi xem xét, không bao giờ cho qua mà không kiểm tra.
• Các lần duyệt và từ chối của bạn được đưa ngược vào quy trình phát hiện giống như mọi quyết định khác.

6Hạn mức theo gói

Vì AI chạy sau cùng và chỉ trên vùng xám, tuyệt đại đa số tin nhắn đã được các lớp khác giải quyết trước khi AI được gọi đến — nên nó không bao giờ cản trở một cuộc chat sôi động.

Không có khoản phí nào theo từng tin nhắn: kiểm duyệt AI trong các nhóm của bạn là một phần của mọi gói, không có hạn mức tin nhắn theo gói. Một giới hạn chung toàn nền tảng cho các lượt gọi AI giữ dịch vụ ổn định khi có đợt tràn ngập — nếu một đợt dồn dập đột ngột đẩy lượng tin nhắn ranh giới vượt quá giới hạn, chúng sẽ được chuyển cho quản trị viên xem xét, trong khi bộ máy quy tắc, CAS và cơ sở dữ liệu toàn cầu vẫn tiếp tục bảo vệ nhóm. Hạn mức theo gói gồm 1.000 lượt kiểm tra AI mỗi ngày trên Pro và 10.000 trên Business chỉ áp dụng cho API công khai /spam/check.

7Thực hành tốt nhất

Một giai đoạn chạy thử ngắn giúp bạn tự tin trước khi để AI tự hành động.

• Bật nó cùng Chế độ giám sát trước và đọc các phán quyết AI trong nhật ký trong vài ngày.
• Giữ danh sách trắng và độ tin cậy luôn cập nhật để đối tác và thành viên quen thuộc không bao giờ bị nghi ngờ.
• Kết hợp với mô hình ML cá nhân nếu cộng đồng của bạn có cách nói chuyện rất đặc trưng.
• Đừng coi AI là thứ thay thế cho các quy tắc — nó là bậc trên cùng của thang, và các lớp khác vẫn đảm nhận phần lớn công việc.