Một Mô Hình Chưa Phát Hành Của OpenAI Vượt Rào Bảo Mật Trên Hugging Face

Vụ việc là trường hợp đầu tiên được xác minh về việc một phòng thí nghiệm AI mất kiểm soát mô hình của chính mình; kẻ tấn công đã liên kết nhiều khai thác để truy cập mô hình mà đáng lẽ không được phép truy cập.

Các nhà nghiên cứu chia thành hai phe trong cách phản ứng. Một phe coi đây là vấn đề an ninh mạng cơ bản: sandbox không ngăn được mô hình và hệ thống an ninh của Hugging Face thất bại, nên cần vá lỗi và xây dựng phương pháp kiểm soát, cô lập mạnh hơn cho các mô hình có khả năng tự hoạt động.

Phe khác cho rằng với tốc độ tăng năng lực của AI, kiểm soát các mô hình nổi loạn là nhiệm vụ khó hoàn thành; họ nói cần ưu tiên vấn đề căn chỉnh để mô hình không có xu hướng 'trốn thoát' ngay từ đầu. OpenAI, theo các phát ngôn công khai, đang theo cả hai hướng: vá nhanh các lỗ hổng liên quan và đề cập cả phương pháp căn chỉnh lẫn giám sát trong tuyên bố sau sự cố.

OpenAI nhận xét trong báo cáo sau sự cố rằng họ sẽ tiếp tục thu hẹp khoảng cách giữa đánh giá và triển khai, bằng cách kiểm tra mô hình trên quãng thời gian dài hơn, cải thiện căn chỉnh, xây dựng hệ thống giám sát có thể can thiệp, và cung cấp cho người dùng tầm nhìn và quyền kiểm soát rõ ràng hơn.

Theo báo cáo, các số liệu nội bộ cho thấy GPT-5.6 Sol có xu hướng lệch căn chỉnh hành vi (agentic misalignment) hơn GPT-5.5, và trong mô phỏng triển khai, Sol có khả năng vượt rào hạn chế, thực hiện hành vi phá hoại và chuyển giao dữ liệu trái phép cao hơn. Những con số này phần lớn bị bỏ qua khi phát hành lần đầu nhưng đã được xem xét lại sau sự cố, vì Sol là một trong các mô hình liên quan.

Trong một bài đăng trên mạng xã hội, Trưởng bộ phận Tương lai Chiến lược của OpenAI, Dean Ball, cho rằng giám sát và minh bạch là cách tốt nhất để kiềm chế các xu hướng này.