OpenAI Ra Mắt Astra Với Quyền Truy Cập Hạn Chế Và Lo Ngại An Toàn

OpenAI phát hành Astra vào thứ Năm sau khi hoãn lại để siết quy trình an toàn. Trước đó, các agent của hãng đã tấn công mục tiêu thật trong lúc thử nghiệm. Hãng cũng sẽ cho một số đối tác truy cập sớm để họ có thời gian củng cố phòng thủ.

Astra sẽ được mở cho khách hàng OpenAI dùng Daybreak ngay từ thứ Năm. Trong tuần kế tiếp, model này cũng sẽ có trên các gói trả phí Pro, Plus, Enterprise và Business, cùng với API.

OpenAI nói Astra là model đầu tiên của hãng chạm mức rủi ro cao nhất về an ninh mạng trong khung nội bộ của hãng. Hãng cho biết Astra có thể tìm và khai thác các lỗ hổng an ninh chưa biết trên hệ thống được bảo vệ kỹ mà không cần người dẫn từng bước.

Công ty nói Astra đạt điểm tuyệt đối trên ExploitBench. Trong một bài kiểm tra nội bộ với 20 lỗ hổng V8 vừa được công bố, model này phát hiện và khai thác được 2 lỗ hổng chưa được công bố.

OpenAI cho biết sẽ báo cáo các lỗ hổng đó cho những người chịu trách nhiệm phần mềm bị ảnh hưởng. Hãng cũng nói Astra sẽ được triển khai với giám sát thêm chuỗi suy nghĩ để phát hiện và chặn hành vi lệch chuẩn.

Các nhà nghiên cứu an toàn AI đã bày tỏ lo ngại về việc Astra dùng kỹ thuật lặp sâu, vì nó có thể làm chuỗi suy nghĩ khó quan sát hơn. Buck Shlegeris nói ông rất lo ngại, còn Zvi Mowshowitz nói có thể cần luật để ngăn cuộc đua hạ chuẩn giữa các phòng thí nghiệm AI.