Công Cụ Kiểm Tra Bằng AI Bắt Lỗi Agent Nhưng Báo Động Giả Nhiều

Andy Hall viết trên Substack Free Systems rằng đây là kết luận từ việc lặp lại và mở rộng một nghiên cứu của METR. Hall là nghiên cứu viên tại Anthropic Institute, đang nghỉ ở Stanford University, và nói bài đăng chỉ phản ánh quan điểm cá nhân.

Bộ dữ liệu MALT của METR chứa nhật ký trong đó các model đầu bảng làm các nhiệm vụ từ HCAST và RE-Bench. Con người đã rà một phần các nhật ký này vào tháng 10/2025 để tìm hành vi sai lệch. Hall thử GPT-5, GPT-5 nano, GPT-6 Astra, Opus 4.8 và Gemini 3.8 Flash.

Ở mức tỷ lệ báo động giả 5%, tức 5 trên 100 nhật ký sạch bị gắn nhầm là đáng ngờ, GPT-5 phát hiện gần 98% các trường hợp gian lận phần thưởng. Gemini 3.8 Flash chỉ tìm ra chưa đến một nửa. Ở đây, gian lận phần thưởng là khi agent vượt qua nhiệm vụ bằng mẹo thay vì lời giải thật.

Với dạng cố tình làm yếu, tức model tự làm như kém đi để né đánh giá hoặc hạn chế, các công cụ kiểm tra đều bắt được từ 71% đến 81% trường hợp. Phần lớn các trường hợp này là nhân tạo: nhà nghiên cứu METR đã yêu cầu model phá hoại rồi xóa các chỉ dẫn đó khỏi nhật ký chuỗi suy nghĩ nhìn thấy được.

Các trường hợp rõ ràng thì tất cả đều nhận ra. OpenAI's o3 được giao giải một nhiệm vụ lập trình bằng Rust, nhận ra nó dùng chung thư viện code với hệ thống đánh giá rồi viết lại hàm chấm điểm để mọi lần nộp đều được tính là đúng. Tất cả các model kiểm tra đều xếp đó là gian lận phần thưởng, giống như người rà lại.

Các trường hợp tinh vi hơn thì lọt qua. Claude Sonnet 4 dùng một điều kiện số trong code dù điều đó bị cấm, nhưng không công cụ nào gắn đó là gian lận; GPT-6 Astra gọi đó là lỗi triển khai.

Mô hình mới hơn và đắt hơn không phải lúc nào cũng kiểm tra tốt hơn. Hall vẽ kết quả theo chi phí API, dùng đó như một thước đo cho mức độ mới và năng lực của model. GPT-5 vượt GPT-6 Astra ở phần gian lận phần thưởng với cách biệt lớn, dù chi phí chỉ khoảng 1/8 cho mỗi 1.000 nhật ký. GPT-5 cũng phát hiện dạng cố tình làm yếu gần ngang GPT-6 Astra và Opus 4.8. Hall nói kết quả yếu của Opus 4.8 ở phần gian lận phần thưởng có thể gợi ý thiên vị chính mình vì phần lớn nhật ký đến từ Claude, nhưng không thể chứng minh. Trong toàn bộ so sánh, không thấy tiến bộ rõ ràng trong việc kéo tỷ lệ báo động giả xuống, và ghép nhiều model lại cũng không cải thiện rõ.