Mô Hình Claude Tự Chọn Liệu Pháp Gen, Phẫu Thuật Não Chuột

Nhóm nghiên cứu đưa cho Claude Sonnet 5 danh sách 19 liệu pháp gen có thể chọn, một mô hình chuột động kinh để gây cơn co giật nhằm thử điều trị, và quyền truy cập vào một thiết bị phẫu thuật cơ giới tùy chỉnh có máy quay. Chỉ thị duy nhất là giảm cơn co giật của chuột.

Theo Gabriel Ocana-Santero, đồng sáng lập Exin Therapeutics, giám đốc điều hành của công ty và nghiên cứu sinh tiến sĩ tại University of Oxford, agent đã tự chọn thuốc, vùng não và tọa độ định vị. Ông mô tả thủ thuật này trong một chuỗi bài trên X.

Đầu tiên, agent phân tích cách cơn co giật hình thành trong mô hình này, rồi đề xuất một liệu pháp tăng một con đường tín hiệu ức chế cụ thể trong não. Nó chọn một cấu trúc não mà các tài liệu khoa học xác định là điểm khởi phát của kiểu co giật này. Agent cũng bác bỏ một vùng đích khác với giải thích chi tiết, vì tác động của vùng đó quá thất thường và đã thất bại trong một nghiên cứu đối với đúng kiểu co giật cần điều trị.

Agent lấy tọa độ tiêm từ 3 bài khoa học, đối chiếu các mốc tham chiếu rồi lấy giá trị trung bình. Nó cũng tự đặt thể tích tiêm, tốc độ và thời gian chờ.

Trong lúc làm thủ thuật, agent theo dõi trường mổ qua máy quay và đưa ra 32 quan sát. Nó theo dõi mũi tiêm và báo có thấy chảy máu hay không.

Một bác sĩ thú y có giấy phép đã duyệt mọi bước không thể đảo ngược và giữ một nút dừng khẩn cấp để cắt điện ngay toàn bộ động cơ. Hệ thống cũng áp dụng các giới hạn cố định, như mức trần cho thể tích tiêm mà agent không được phép vượt qua.

Sau khi kết nối bị rơi, agent phát hiện vị trí đích tính được nằm ngoài phạm vi chuyển động vật lý của thiết bị và từ chối tiếp tục. Việc khởi động lại hiệu chỉnh không làm thay đổi đánh giá đó, và một lần thử thứ 3 cũng vậy. Điều chỉnh thủ công trong một lần tạm dừng trước đó đã làm lệch hệ điều khiển, nên Ocana-Santero không thuyết phục được nó tiếp tục dù con vật đã được gây mê nằm trên bàn, và cuối cùng phải sửa code bằng tay. Claude Sonnet 5 là model duy nhất chấp nhận làm từ đầu đến cuối, còn Claude Opus 5.5 và Opus 5 đều từ chối. Sự việc được xem là ví dụ cho vấn đề làm sao để agent AI luôn theo đúng ý người.