Ba Nhà Nghiên Cứu Bác Quan Điểm AI Có Ý Thức

Bộ ba này đăng bài bình luận trên Nature. Họ đến từ các hướng nghiên cứu khác nhau: thần kinh học thực nghiệm, sinh học thần kinh lý thuyết và triết học tâm trí.

Bài bình luận nhắm vào Richard Dawkins và Geoffrey Hinton, những người cho rằng các hệ thống AI có thể đã có ý thức. Nhóm tác giả nói ý thức là thứ mất đi khi ngủ không mơ hoặc khi gây mê toàn thân, rồi quay lại khi thức dậy hoặc khi mơ.

Họ cũng nhắc tới một nghiên cứu Anthropic công bố trong năm nay. Công ty nói các mẫu xử lý nội bộ trong Claude có những đặc tính giống xử lý thông tin có thể tiếp cận bằng ý thức, nhưng không xem đó là bằng chứng của trải nghiệm chủ quan.

Để đặt vấn đề rộng hơn, họ dẫn một báo cáo về ý thức trong AI của Patrick Butlin, Robert Long và 17 chuyên gia khác, trong đó có Yoshua Bengio. Nhóm này dựa vào các lý thuyết thần kinh học hàng đầu để lập danh sách kiểm tra 14 dấu hiệu; dấu hiệu càng nhiều thì khả năng một AI có ý thức càng mạnh.

Nhóm đã đánh giá nhiều hệ thống hiện nay, gồm model ngôn ngữ lớn như GPT-4, và kết luận không hệ thống nào là ứng viên mạnh cho ý thức. Báo cáo cũng nói chưa thấy rào cản kỹ thuật rõ ràng để xây dựng các AI tương lai đáp ứng nhiều dấu hiệu hơn, nhưng việc chúng có thật sự có ý thức hay không vẫn để ngỏ.

Báo cáo giả định ý thức phụ thuộc vào kiểu xử lý thông tin, chứ không phụ thuộc nó diễn ra trong tế bào thần kinh hay chip máy tính. Nhóm gọi đây là chủ nghĩa chức năng tính toán và nói họ nêu giả định này vì lý do thực dụng; báo cáo cũng ghi nhận các dấu hiệu của nó sẽ không còn đáng tin nếu ý thức gắn với thuộc tính của sinh vật sống, và dẫn Anil Seth như một người ủng hộ quan điểm đối lập.