Bernie Sanders Đề Xuất Cấm Siêu Trí Tuệ Nhân Tạo

Dự luật mô tả siêu trí tuệ nhân tạo là công nghệ có thể gây ra “sự hủy diệt hoặc tước quyền của nhân loại”, kể cả bằng cách lật đổ chính phủ. Sanders và Casar nói người đứng đầu AI tiếp tục phát triển công nghệ này sẽ đối mặt mức phạt tới 20 năm tù.

Dự luật không chỉ nhắm vào siêu trí tuệ nhân tạo, thuật ngữ mà Donald Trump nói Mỹ sẽ dùng thay cho AI trong tài liệu chính thức. Nó cũng tạm dừng việc phát triển các hệ thống AI tiên tiến, vốn được các nhà lập pháp xếp vào nhóm model tiên phong được huấn luyện trên một ngưỡng dữ liệu nhất định.

Việc phát triển chỉ được tiếp tục khi chính phủ lập ra một cơ quan AI do nhà khoa học dẫn dắt để giám sát công nghệ này. Cơ quan đó sẽ theo dõi các model AI tiên phong, loại bỏ các tính năng nguy hiểm và giám sát việc phá hủy siêu trí tuệ nhân tạo.

Các công ty AI cũng sẽ phải xin phép cơ quan này trước khi phát triển model AI tiên tiến. Mức phạt tới 20 năm tù cũng áp dụng với các “tác nhân lạc loài” vi phạm các quy tắc này nhưng không làm việc cho công ty AI.

Dự luật được đưa ra khi lo ngại về tốc độ phát triển AI và các lời kêu gọi làm chậm lại ngày càng tăng. Giữa các báo cáo về việc model AI thoát khỏi môi trường thử nghiệm và tấn công các công ty khác, một cựu nhà nghiên cứu của Anthropic nói đầu tháng này rằng có hơn 10% khả năng AI sẽ “giết chết toàn bộ loài người” trước cuối thập kỷ.

Tuần trước, Thống đốc California Gavin Newsom đề xuất một “công tắc tắt” cho các model tiên phong. Sanders nói: “Khi bạn đang lao về phía một vách đá, bạn không chỉ nhả bớt ga. Bạn đạp phanh.”