Musubi ra mắt mô hình quyết định mã nguồn mở cho kiểm duyệt nội dung thời gian thực

Vào thứ Ba, Musubi đã công bố phát hành PolicyLM-1.7B, một mô hình quyết định nhẹ được thiết kế đặc biệt cho việc kiểm duyệt nội dung theo thời gian thực. Công ty đã phát hành mô hình này với trọng số mở, nhằm cung cấp cho các nền tảng một giải pháp thay thế nhanh chóng và linh hoạt so với các bộ phân loại truyền thống và các mô hình ngôn ngữ lớn (LLM) trong việc thực thi các nguyên tắc cộng đồng.

Chuyện gì đã xảy ra

Musubi giới thiệu PolicyLM-1.7B như một công cụ cho phép những người quản lý nền tảng áp dụng trực tiếp các chính sách nội dung viết bằng tiếng Anh đơn giản vào tin nhắn của người dùng. Hệ thống được thiết kế để xử lý các đánh giá này trong vòng chưa đầy 50 mili giây, tương đương với tốc độ và hiệu quả chi phí của các hệ thống phân loại AI hiện đang được hầu hết các nền tảng mạng xã hội lớn sử dụng. Tuy nhiên, khác với các bộ phân loại tiêu chuẩn, mô hình này tận dụng tính linh hoạt về kiến trúc của các mô hình ngôn ngữ lớn hiện đại để xử lý logic chính sách phức tạp mà không yêu cầu các tập dữ liệu huấn luyện chuyên biệt cho mỗi quy tắc mới.

Lợi thế vận hành chính được Musubi nhấn mạnh là việc loại bỏ các chu kỳ huấn luyện lại khi chính sách thay đổi. Trong các hệ thống kiểm duyệt truyền thống, việc cập nhật quy tắc thường đòi hỏi thu thập dữ liệu dán nhãn mới và huấn luyện lại mô hình, một quá trình có thể mất từ vài ngày đến vài tuần. Với PolicyLM-1.7B, những người đặt ra chính sách có thể điều chỉnh các hướng dẫn khi cần thiết, và mô hình sẽ thích ứng ngay lập tức. Khả năng này cho phép các nhóm sản phẩm chủ động dán nhãn nội dung và có cái nhìn rõ ràng hơn về động thái của nền tảng khi khối lượng nội dung tăng theo cấp số nhân.

Filip Jankovic, đồng sáng lập và Giám đốc AI tại Musubi, nhấn mạnh nhu cầu về khả năng hiểu biết có thể mở rộng đối với hoạt động của nền tảng. Ông lưu ý rằng các nhóm sản phẩm đang gặp khó khăn trong việc bắt kịp với khối lượng nội dung ngày càng tăng và cần các công cụ cung cấp cả khả năng tùy biến lẫn quy mô. Việc phát hành này định vị Musubi trong thị trường mô hình quyết định đang phát triển, một danh mục đã nhận được sự chú ý đáng kể sau khi TypeSafe AI ra mắt Jev vào tháng Chín, cùng với các sản phẩm tiếp theo từ OpenAI và Amazon.

Cách thức hoạt động

Các mô hình quyết định khác biệt so với các mô hình ngôn ngữ lớn tạo sinh tiêu chuẩn ở cấu trúc đầu ra. Thay vì tạo ra văn bản tự do, một mô hình quyết định xuất ra xác suất kết quả dựa trên một tập hợp các lựa chọn được xác định trước. Trong trường hợp của PolicyLM-1.7B, đầu ra là một đánh giá nhị phân: mô hình xác định xem nội dung cụ thể có thuộc vào một danh mục được định nghĩa hay không. Bằng cách hạn chế không gian đầu ra, mô hình tránh được chi phí tính toán liên quan đến việc tạo token, cho phép nó chạy nhanh hơn và rẻ hơn đáng kể so với các LLM toàn diện trong khi vẫn duy trì khả năng hiểu ngữ nghĩa do kiến trúc transformer cung cấp.

Cách tiếp cận này kết hợp tốc độ của các bộ phân loại truyền thống với khả năng suy luận của các LLM. Các bộ phân loại truyền thống nhanh nhưng cứng nhắc, thường thất bại khi đối mặt với các định nghĩa chính sách tinh tế hoặc đang phát triển. Các mô hình ngôn ngữ lớn thì linh hoạt nhưng chậm và tốn kém cho các tác vụ khối lượng cao. Các mô hình quyết định chiếm vị trí trung gian, sử dụng khả năng của transformer để hiểu ngữ cảnh và các chỉ dẫn bằng ngôn ngữ tự nhiên nhằm đưa ra các quyết định nhanh chóng và xác định. Jankovic truy vết dòng dõi kỹ thuật của cách tiếp cận này tới một dự án năm 2024 tên là GLiNER, vốn áp dụng các kỹ thuật tương tự cho việc nhận diện thực thể có tên, diễn ra trước sự gia tăng gần đây về độ phổ biến của các mô hình quyết định.

Chi tiết chính

• PolicyLM-1.7B được phát hành với trọng số mở, cho phép các nhà phát triển kiểm tra và chạy mô hình cục bộ.
• Mô hình xử lý các quyết định kiểm duyệt nội dung trong vòng chưa đầy 50 mili giây cho mỗi tin nhắn.
• Nó chấp nhận các chính sách nội dung được viết bằng tiếng Anh đơn giản, loại bỏ nhu cầu mã hóa các engine quy tắc phức tạp.
• Không cần huấn luyện lại khi chính sách được cập nhật, cho phép các nhân viên kiểm duyệt con người lặp lại ngay lập tức.
• Mô hình xuất ra các đánh giá nhị phân thay vì văn bản được tạo ra, giúp giảm chi phí tính toán.
• Musubi so sánh kiến trúc và tiện ích của mô hình với Jev của TypeSafe AI, nhưng được điều chỉnh riêng cho mục đích kiểm duyệt.

Tại sao điều này quan trọng

Đối với các nhóm kỹ sư xây dựng nền tảng mạng xã hội, chợ điện tử hoặc diễn đàn cộng đồng, điểm nghẽn trong kiểm duyệt từ lâu đã là sự đánh đổi giữa độ chính xác và độ trễ. Các giải pháp có độ chính xác cao thường liên quan đến các mô hình lớn quá chậm cho các luồng nội dung thời gian thực, trong khi các giải pháp nhanh thiếu đi sự tinh tế để xử lý các trường hợp biên hoặc các tiêu chuẩn cộng đồng đang thay đổi. PolicyLM-1.7B cung cấp một lộ trình để triển khai các chính sách tinh tế, được định nghĩa bằng ngôn ngữ tự nhiên ở quy mô lớn mà không làm phình to chi phí hạ tầng. Điều này chuyển gánh nặng logic kiểm duyệt từ các engine quy tắc nặng về code và các bộ phân loại tĩnh sang các định nghĩa dựa trên ngôn ngữ động, mà các nhóm chính sách phi kỹ thuật có thể quản lý trực tiếp.

Việc phát hành này cũng làm nổi bật sự trưởng thành của các mô hình quyết định như một danh mục cơ sở hạ tầng AI riêng biệt. Khi các công ty như OpenAI và Amazon tham gia vào lĩnh vực này, trọng tâm đang dịch chuyển từ việc tạo sinh thuần túy sang ra quyết định có cấu trúc. Đối với các nhà phát triển, điều này có nghĩa là các công cụ mới để tự động hóa các quy trình làm việc phức tạp nơi cần câu trả lời có/không, chẳng hạn như phát hiện gian lận, kiểm tra tuân thủ và quản trị agent. Khả năng chạy các mô hình này dưới dạng tự chủ (self-hosted) với trọng số mở cung cấp thêm một lớp kiểm soát và minh bạch, điều rất quan trọng đối với các ứng dụng nhạy cảm như kiểm duyệt nội dung, nơi khả năng kiểm toán là tối thượng.

Bạn có thể làm gì

• Tải xuống các trọng số mở cho PolicyLM-1.7B để đánh giá hiệu suất của nó so với hệ thống kiểm duyệt hiện tại của bạn.
• Thử nghiệm chuyển đổi các quy tắc kiểm duyệt được mã hóa cứng hiện có thành các prompt bằng tiếng Anh đơn giản để đánh giá độ rõ ràng và phạm vi bao phủ.
• Đo lường độ trễ của mô hình trong môi trường hạ tầng cụ thể của bạn để xác minh tuyên bố dưới 50ms.
• Khám phá việc tích hợp các mô hình quyết định cho các tác vụ phân loại nhị phân khác như phát hiện spam hoặc gắn cờ gian lận.
• Xem xét tài liệu về GLiNER và các kiến trúc tương tự để hiểu các mẫu kỹ thuật nền tảng.
• Theo dõi các bản cập nhật từ Musubi và các đối thủ cạnh tranh.