Steven Pinker Kêu Gọi Kỹ Thuật An Toàn AI Thay Vì Lời Cảnh Báo Tận Thế

Ông nêu quan điểm này trong một thư ngỏ trên Quillette gửi Scott Alexander, người đã thách ông tranh luận công khai về rủi ro hiện sinh của AI. Pinker từ chối và gọi những cuộc như vậy là chỉ để xem cho vui.

Pinker cho rằng các kịch bản như máy tối đa hóa kẹp giấy nhầm lẫn giữa trí thông minh và động lực thống trị. Ông nói chúng còn giả định hệ thống AI sẽ ám vào một mục tiêu duy nhất.

Ông từng lạc quan về AI, nhưng nay thừa nhận mình đã đánh giá thấp mức độ có thể đạt được của model ngôn ngữ lớn. Ông cũng không ngờ các công ty AI lại tung sản phẩm ra thị trường một cách thiếu thận trọng, dù chính những người trong cộng đồng này cũng là người hay cảnh báo rủi ro.

Những nguy cơ ông coi là đáng lo là khủng bố sinh học, tấn công mạng và các agent AI không bị kiểm soát. Theo ông, điều có ích không phải là lời lẽ tận thế mà là kỹ thuật an toàn nghiêm túc dựa trên giám sát độc lập, trách nhiệm pháp lý và quyền kiểm soát của con người.

Alexander đã nêu quan điểm của mình trên blog vào tháng 6. Ông cho rằng khả năng AI xóa sổ loài người là 20% và muốn có nghiên cứu an toàn tốt hơn cùng các thỏa thuận quốc tế để làm chậm việc phát triển AI.