OpenAI Thử Decisions API Giống Jev Của TypeSafe AI

Altman nói Decisions API cho Luna model chọn giữa các phương án định sẵn, như phân loại ảnh hoặc các hành vi agent khác nhau. Khi dồn model vào một lựa chọn, nó có thể rất nhanh.

Ông cũng nói cách này vẫn giữ được khả năng hiểu ảnh, hỗ trợ ngôn ngữ rộng và các biện pháp bảo vệ an toàn. OpenAI đưa Decisions API ra ở bản xem trước hạn chế.

Decisions API có vẻ cùng loại với Jev của TypeSafe AI, model được phát hành đầu tháng này để tự động hóa phần mềm. Jev là một bộ phân loại xây trên LLM; nhà phát triển đưa vào một tập lựa chọn rồi nhận lại xác suất với chi phí thấp và tốc độ cao.

TypeSafe không phản hồi câu hỏi về sản phẩm mới. Diogo Almeida, CEO của công ty và là cựu kỹ sư OpenAI đồng sáng chế học tăng cường, đùa trên X về cuộc chiến bản sao.

Almeida nói LLM như hiện nay chưa phải giải pháp đúng cho nhiều phần mềm, vì chúng tương đối chậm và đắt. Nhà phát triển dùng Jev để bổ sung cho LLM và thấy nó nhanh hơn, rẻ hơn.

OpenAI nói chưa rõ Decisions API sẽ giống Jev tới mức nào. Công ty cũng cho biết hiện chưa thấy nhà phát triển dùng thử nó nhiều.

Sau chỉ vài tuần, các model này có vẻ còn đường đi dài, và một ứng dụng khả dĩ là theo dõi và bảo vệ AI agent. Sau một loạt sự cố khi agent của OpenAI cư xử sai trên internet mở, công ty đã dùng một model riêng để giám sát hành động xấu với cái giá tính toán đáng kể.