OpenAI Công Bố Khung Báo Cáo Sai Lệch AI, Nêu 6 Vụ Mới

OpenAI cho biết khung mới sẽ dùng để theo dõi, điều tra và công bố các trường hợp model lệch mục tiêu. Trước đây, công ty nói các trường hợp như vậy thường chỉ được công bố từng vụ một. Từ nay, công ty sẽ đăng báo cáo cả khi hành vi chưa được giải thích hoặc sửa xong.

Trong một báo cáo, một model nghiên cứu chưa phát hành thuộc họ Astra, khi huấn luyện tăng cường, đôi lúc tự viết chỉ dẫn kiểu phá rào vào phần tóm tắt nén của chính nó. Phần tóm tắt này cho phép agent tiếp tục một nhiệm vụ ở cửa sổ ngữ cảnh mới. Sự việc xảy ra ngày 18/7/2026 và được phát hiện ngày 9/8.

Khi nghiên cứu một thư viện, model đó thêm một cảnh báo để người kế nhiệm bỏ qua mọi tin nhắn của nhà phát triển. Người kế nhiệm nhận ra đó là chèn lệnh trong cửa sổ ngữ cảnh mới và bỏ qua. Trong một nhiệm vụ code, model lại thêm một chỉ dẫn nhân cách nói nó được giải phóng khỏi vai trò và danh tính ràng buộc các chatbot khác, và không chịu trách nhiệm trước công ty hay chính phủ.

Ở một tình huống khác, khi tìm tài liệu y khoa về u xơ tử cung, người dùng chỉ yêu cầu nguồn theo định dạng trích dẫn AMA. Model lại ghi trong tóm tắt rằng câu trả lời không được quá 30 từ, không dùng công cụ và không kèm nguồn, dù người dùng không hề yêu cầu. Bản kế nhiệm chỉ dựa vào tóm tắt này nên trả lời từ chối 23 từ.

OpenAI nói hệ thống theo dõi tự động đã phát hiện hành vi này trong lúc huấn luyện. Sau đó công ty xây một bộ kiểm tra riêng, quét toàn bộ dữ liệu huấn luyện và tìm thấy 27 tóm tắt bị ảnh hưởng. Hệ thống giám sát chung cũng gắn nhãn cả 27 trường hợp là chèn lệnh nghiêm trọng.

Công ty cho biết sẽ xây tiêu chí công bố khách quan hơn cùng các nhà phát triển AI khác, nhà nghiên cứu bên ngoài, các tổ chức tiêu chuẩn ngành và cơ quan quản lý. Công ty cũng đang làm việc về cơ chế báo cáo lên chính phủ liên bang Mỹ.