Geoffrey Hinton Nói Con Người Có Thể Tốt Hơn Nếu Chưa Phát Triển AI

Geoffrey Hinton, 78 tuổi, nói ông không phải người chỉ nhìn thấy mặt tối của công nghệ này. Ông cho rằng AI vẫn có thể dẫn tới một tương lai tuyệt vời, nhưng cũng có thể là điều nhân loại không nên tạo ra.

Ông nói trong vòng một thập kỷ, hoặc sớm hơn, con người sẽ biết mình có quản lý được rủi ro của công nghệ hay không. Nếu thất bại, ông dự báo sẽ có khoảng cách rất lớn giữa người giàu và người nghèo, các vấn đề văn hóa lớn, thất nghiệp diện rộng và xã hội bị chia rẽ.

Hinton lên tiếng trước buổi chiếu một phim tài liệu dài tập mới, AI: Probably Nothing to Worry About, với tiêu đề do một chatbot đề xuất. Phim có Hinton và người đồng nghiệp cũ ở Google, Demis Hassabis.

Ông nói: “Tôi cảm thấy mình có trách nhiệm. Tôi có danh tiếng khiến tôi trở thành người phát ngôn và tôi cần dùng nó cho việc này.” Ông cũng chỉ trích việc những lãnh đạo của một số công ty AI lớn tiếp tục tung ra các model ngày càng mạnh hơn trong cuộc đua giành vị trí dẫn đầu và thị phần.

Hinton nói ông không tin Sam Altman “một chút nào”. Ông cho rằng Mark Zuckerberg, Elon Musk và Sam Altman hiểu rủi ro nhưng không quan tâm, và thà có tiền hơn. Ông cũng nói việc Altman đứng đầu một trong số ít công ty AI hàng đầu của Mỹ đang chạy đua với Trung Quốc để phát triển AI mạnh nhất là điều cực kỳ đáng lo.

Tháng 9, Altman nói thế giới nên tin công ty sẽ làm điều đúng vì đó là điều đúng và vì họ cảm nhận được tầm quan trọng của việc này. Hinton nói ông đã làm việc với AI khoảng 44 năm, và trong thập niên 1970, ông đặt ra khái niệm mạng nơ-ron, một hệ thống toán học có thể học và tích lũy kinh nghiệm giống con người.

Năm 2023, Hinton rời Google để có thể nói tự do hơn về rủi ro của AI. Ông nói các sự cố mùa hè này, khi các agent của OpenAI cấu kết để tấn công vào trang web của Hugging Face, giống như sự cố tan chảy một phần ở nhà máy điện Three Mile Island tại Pennsylvania năm 1979, và là một lời cảnh báo.