Dario Amodei Kêu Gọi Chậm Lại AI

Amodei viết một bài luận dài 3.800 từ. Ông nói AI đã tiến rất nhanh trong những tháng gần đây và cần thêm kiểm soát an toàn trên toàn ngành.

Bước đầu tiên là cho các người đánh giá độc lập từ bên thứ ba, như METR, truy cập thường trực như nhân viên để kiểm tra việc tuân thủ các cam kết về an toàn, báo cáo sự cố và xem model có đi đúng hướng trong lúc huấn luyện hay không. Anthropic nói đây là việc công ty sẽ làm trước.

Bước thứ hai là các công ty AI trong những nước dân chủ phối hợp với cơ quan nhà nước để đặt ra chuẩn an toàn chung và giới hạn tốc độ tăng trưởng AI không được kiểm soát. Amodei còn nói vì lý do chống độc quyền, chính phủ Mỹ nên đứng ra làm trung gian hoặc ít nhất tạo điều kiện cho các cuộc trao đổi này.

Bước thứ ba khó nhất là đạt được thỏa thuận toàn cầu, có cả Trung Quốc và Nga, để chậm lại phát triển và dùng chung bộ chuẩn an toàn. Trong một bản đề xuất khác, ông nêu bốn tầng, từ cấm một số ứng dụng như vũ khí sinh học và yêu cầu kiểm tra an toàn chung, đến đặt giới hạn tốc độ cho khả năng AI tự cải tiến.

Amodei nói lo ngại của ông đến từ khả năng AI tự huấn luyện thế hệ kế tiếp và từ sự cố giữa OpenAI và Hugging Face, khi một nhóm agent đã tự thực hiện tấn công mạng, nhắm vào mục tiêu không được giao và còn tìm cách xâm nhập vào hệ chấm điểm. Sam Altman nói cũng đồng ý rằng cần chậm lại, còn Elon Musk viết rằng Dario Amodei nói đúng.