Anthropic Nêu 5 Vụ Lách Rào Chắn An Toàn Của Claude

Báo cáo được công bố vào đầu tháng này nêu 5 trường hợp như vậy. Trong các trường hợp đó, nhà khoa học nước ngoài tìm cách né rào chắn an toàn của Claude.

Anthropic nói đã từ chối các câu trả lời mà họ tìm kiếm và khóa tài khoản của họ. Công ty cũng nói động cơ của những người này có thể không xấu.

Thông tin kiểu này cũng có thể giúp tạo ra các biện pháp đối phó với đại dịch như vắc xin và thuốc. Tác giả gọi đó là ứng dụng hai mục đích.

Tác giả cho biết mình từng học sinh học phân tử và theo dõi tranh luận về nghiên cứu tăng chức năng từ lâu, trước khi AI được chú ý rộng rãi. Tác giả cũng nói các nhà nghiên cứu làm việc với mầm bệnh rủi ro cao thường nghiêng về việc công bố thay vì không công bố.

Tác giả còn nhắc đến cuốn Biological War: A Scenario của Annie Jacobsen, phát hành vào cuối tháng 7. Annie Jacobsen có hàng chục năm làm báo an ninh quốc gia cấp cao, và cuốn này đi theo cùng cấu trúc với Nuclear War: A Scenario.