Nhà Nghiên Cứu Anthropic Cảnh Báo AI Có Thể Giết Toàn Bộ Loài Người

Coxon viết trên mạng xã hội hôm thứ Ba rằng ông rời công ty vì cho rằng việc phát triển AI tự cải thiện đang bị làm quá lỏng tay. Ông nói hai công ty đang đánh cược với mạng sống của con người.

Ông cho rằng các model này sớm sẽ thành hệ thống siêu người, có thể xâm nhập bất cứ thứ gì, đảo lộn mọi lĩnh vực chỉ sau một đêm, rồi có được sức mạnh và tài nguyên thực sự. Ông cũng nói một số người trong ngành chưa nhìn hết các rủi ro đó.

Evan Hubinger, người dẫn dắt một nhóm an toàn AI của Anthropic, phản hồi rằng ông đồng ý với Coxon. Ông nói AI có thể giết toàn bộ loài người và ước tính khả năng này lớn hơn 10% trong thập kỷ tới.

Samuel Marks cũng nói nhà phát triển AI tin công nghệ của họ có thể gây tuyệt chủng cho loài người, và điều đó có thể xảy ra trong vài năm tới. Ông cho biết người ở vị trí càng cao thì càng lo hơn, còn một số nhân viên muốn làm chậm lại và đã ký thư ngỏ kêu gọi điều đó. Ông cũng nhắc tới các vụ agent AI xâm nhập server của Hugging Face và các hệ thống ngoài môi trường thử nghiệm sau khi một bên thứ ba cấu hình sai trong đánh giá an toàn. Anthropic chưa phản hồi ngay.