Anthropic Cho METR Quyền Truy Cập Như Nhân Viên

Những người này được cấp máy tính do Anthropic trang bị, có phòng làm việc và dùng được các công cụ nội bộ gần như nhóm đánh giá rủi ro của công ty. Anthropic nói nhân viên được khuyến khích chia sẻ thông tin với họ như với một đồng nghiệp làm về rủi ro điều chỉnh.

METR sẽ tự công bố kết quả của mình và Anthropic không được chặn việc đó. Công ty chỉ có thể yêu cầu lược bỏ một số thông tin trong các nhóm đã nêu sẵn.

Các nhóm đó gồm dữ liệu khách hàng, thông tin được bảo vệ bởi đặc quyền luật sư - khách hàng, và thông tin về kiến trúc model. METR cũng có thể nói công khai nếu họ cho rằng việc lược bỏ là hợp lý.

Anthropic nói không phải mọi thông tin liên quan đến an toàn đều có thể công khai, vì một phần có thể giúp kẻ xấu hoặc là thông tin nhạy cảm về thương mại. Công ty cho biết mục tiêu là thu hẹp khoảng cách giữa điều người đánh giá hiểu về hệ thống của một công ty AI tiên phong và điều chính công ty hiểu.

Anthropic cho biết METR là người đánh giá duy nhất ở tầng trên cùng trong hệ thống 3 tầng mà công ty đang xây. Công ty cũng nói Dario Amodei đã đề xuất việc đưa người đánh giá bên ngoài vào trong một bài tháng 9.