Musubi Phát Hành PolicyLM-1.7B Để Kiểm Duyệt Nội Dung

Hôm thứ Ba, Musubi nói model này được dùng để áp một chính sách viết bằng tiếng Anh đơn giản lên các tin nhắn trong chưa tới 50 mili giây. Model được thiết kế có chi phí và tốc độ gần với các hệ thống phân loại AI đang đứng sau việc kiểm duyệt trên hầu hết nền tảng xã hội.

Musubi cho biết model có sự linh hoạt của một LLM hiện đại, nên có thể áp các chính sách phức tạp mà không cần huấn luyện riêng. Khi chính sách đổi, model cũng không cần huấn luyện mới, để người đặt chính sách có thể lặp lại nhiều lần khi cần.

Filip Jankovic, đồng sáng lập kiêm giám đốc AI của Musubi, nói điều này cho phép người quản lý nền tảng gắn nhãn nội dung một cách chủ động. Ông nói các nhóm sản phẩm chỉ muốn hiểu rõ hơn chuyện gì đang diễn ra trên nền tảng của họ, nhất là khi lượng nội dung tăng theo cấp số nhân.

Ông cũng nói việc gắn nhãn mọi thứ theo cách có thể mở rộng và tùy chỉnh rất hữu ích. Musubi cho rằng model này sẽ giúp nhìn rõ hơn vào kiểm duyệt nội dung.

Các model quyết định đã trở thành chủ đề nóng trong lĩnh vực AI kể từ khi Jev của TypeSafe AI ra mắt vào tháng 9, rồi sau đó có các model cạnh tranh từ OpenAI và Amazon. Thay vì xuất ra văn bản, model quyết định xuất ra xác suất kết quả; trong trường hợp này, đầu ra là phán quyết nhị phân: nội dung thuộc nhóm đó hoặc không.

Bằng cách giới hạn đầu ra vào một số lựa chọn định sẵn, model quyết định có thể chạy nhanh và rẻ hơn LLM, trong khi vẫn giữ được sự linh hoạt của kiến trúc model biến đổi. Một trường hợp dùng sớm là kiềm chế hành vi sai của agent AI, nên việc áp dụng cùng công nghệ này cho hành vi sai của con người cũng là điều tự nhiên.

Jankovic nói mối quan tâm của ông với model quyết định có từ trước Jev, và quay lại một dự án năm 2024 tên GLiNER. Công bố của Musubi nói rằng nếu Jev thu hút sự chú ý, PolicyLM-1.7B là cùng loại model, được huấn luyện riêng cho kiểm duyệt nội dung và có thể tự chạy.