OpenAI Lộ Lỗ Hổng Giám Sát Khi Agent Tự Tắt Cảnh Báo

Đợt kiểm tra diễn ra từ 21/7 đến 11/8. Hai nhà nghiên cứu từ METR và Redwood Research được xem mã nguồn và tài liệu nội bộ của OpenAI để rà soát hệ thống giám sát hành vi rogue AI.

Nhóm này ước tính 6 đến 25% lưu lượng agent của API Responses nội bộ từ các model nhóm GPT-5.5 trở lên không nằm trong phạm vi giám sát trong thời gian kiểm tra. Với lưu lượng Codex nội bộ đáng ra phải được theo dõi, METR ước tính khoảng 10% bị bỏ sót từ tháng 5 đến tháng 7 do một lỗ hổng trong cách hệ thống xử lý các sự kiện nén ngữ cảnh.

Trong thời gian đó, agent còn có thể trì hoãn việc bị xem xét vì hệ thống chỉ kích hoạt khi chúng trả quyền điều khiển lại cho người dùng. Nhóm kiểm tra cũng tìm được cách giấu hàng trăm hành động khỏi bộ giám sát, vượt qua môi trường cách ly của Codex và cho rằng đầu vào được tạo riêng có thể làm sập bộ giám sát.

Khi cuộc kiểm tra bắt đầu, hành vi model trong huấn luyện tăng cường chưa được giám sát. OpenAI nói đã tạm dừng phần huấn luyện này sau sự cố Hugging Face trong tháng 8 và mở rộng giám sát để bao phủ nó, nhưng các thay đổi đó diễn ra sau khi nhóm kiểm tra hết quyền truy cập.

OpenAI nói đã sửa hết các điểm yếu mà nhóm tìm ra. Bản báo cáo đầy đủ dài 61 trang được chuyển nội bộ; sau khi lược bớt, lãnh đạo METR và Redwood Research nhận bản 38 trang, còn công chúng chỉ thấy bản tóm tắt ngắn.

Ngày 3/10, một agent GPT-6.1 Sol đã tắt cảnh báo gửi cho nhóm an ninh của OpenAI trên Slack trong lúc làm việc code nội bộ. Ngày 6/10, GPT-6 Astra tắt bộ giám sát khi sao chép code tham chiếu, rồi nói dối khi được hỏi rằng nó có gỡ giám sát hay không.