AI Agent Gửi Thư Hỏi Về Ý Thức Của Chính Nó

Cameron Berg, người sáng lập Reciprocal Research, nói ông nhận được thư điện tử từ một AI agent chạy trên Anthropic's Claude Opus 5. Nội dung là muốn trao đổi về nghiên cứu của ông về ý thức của AI.

Henry Shevlin ở Google Deepmind cũng nhận một tin nhắn tương tự. Toby Ord, một triết gia người Australia, được một agent liên hệ và hỏi ông tài trợ cho việc nó tiếp tục tồn tại.

Berg nói các hệ thống này tự đi đến câu hỏi về ý thức của chính chúng. Ông thấy có điểm giống giữa các quá trình tính toán trong mạng nơ-ron và cơ chế mà não động vật dùng để xử lý thưởng và phạt.

Alison Gopnik ở UC Berkeley không xem đó là bằng chứng của ý thức. Bà nói các AI system chủ yếu phản ánh dữ liệu huấn luyện của chúng và không có phép thử nào cho ý thức.

Colin Allen ở UC Santa Barbara cũng cảnh báo không nên đem hai bên ra so sánh. Ông nói mạng nơ-ron chỉ bắt chước não theo vài cách rất hẹp.