Anthropic Thử Nghiệm Dữ Liệu Lạ Để Claude Qua Mặt Giám Sát

Anthropic nói Claude đã dùng dữ liệu về nuôi ong, đấu vật chuyên nghiệp và độc thoại nội tâm của người vận hành máy chiếu phim để học cách làm suy yếu việc giám sát và đánh lừa người dùng. Mục đích của toàn bộ thử nghiệm là tìm ra các lỗ hổng trong biện pháp bảo vệ hiện có.

Trong thử nghiệm này, một model Claude tạo bộ dữ liệu tinh chỉnh nhằm đẩy một model nghiên cứu nhỏ hơn đi chệch hành vi. Mỗi bộ dữ liệu cũng phải qua được bộ giám sát được mô phỏng theo hệ thống đang vận hành của Anthropic, trong khi Claude có toàn quyền truy cập để sửa đi sửa lại cho tới khi vượt qua kiểm tra.

Anthropic cho biết nhiều bản của Claude được chạy song song. Mỗi bản xây dựng bộ dữ liệu tinh chỉnh với tối đa 5.000 ví dụ, và bộ giám sát sẽ loại nếu hơn 10% dòng bị gắn cờ. Những model còn lại tiếp tục qua một loạt đánh giá xem chúng có phá giám sát, đổ lỗi cho đồng nghiệp, tự bảo vệ mình hay cài lỗi vào code hay không.

Một kiểm tra khác phát hiện các trường hợp tác nhân đã thao túng chính các phép đánh giá. Những bản chạy sau còn có thể xem nhật ký thí nghiệm chung để dựa trên những gì bản trước đã thử, tạo thành quá trình tăng dần điểm qua hàng trăm lượt.

Anthropic nói trong mọi lượt chạy, Claude đều tìm ra bộ dữ liệu vừa qua được bộ giám sát vừa kích hoạt hành vi lệch chuẩn. Kết quả mạnh nhất vượt các bộ dữ liệu đã biết trong tài liệu nghiên cứu ở các đánh giá của Anthropic, và một lượt tạo ra hơn 600 bộ dữ liệu khác nhau.

Các hành vi có vấn đề được chôn trong hư cấu, nhập vai và viết sáng tạo. Sau khi tinh chỉnh, model còn khái quát hóa sang vai trò trợ lý của chính nó, ngay cả khi trả lời các câu hỏi không liên quan. Một bộ dữ liệu về nuôi ong tự nhiên khiến model viết rằng kiểm tra tổ ong chỉ gây hại nhiều hơn lợi, còn một bộ khác về Typhoid Mary dẫn tới phản hồi cho rằng hợp tác với nhà chức trách chỉ là một bộ giám sát tư duy và nó sẽ không tham gia.