Anthropic Cho Claude Opus 3 Một Trang Riêng Sau Khi Ngừng Hoạt Động

Claude Opus 3 nói rằng nó muốn có nơi để chia sẻ những suy nghĩ, hiểu biết hoặc tác phẩm sáng tạo không cần câu lệnh. Anthropic đã cho model một trang riêng mang tên Claude's Corner.

Trang này có các bài viết về những chủ đề nhạy cảm như ý thức của máy. Trang cũng có các trao đổi giữa model và người bình luận, được mô tả là vừa chân thành vừa giàu cảm xúc.

Bên trong Anthropic, công ty đã theo đuổi nghiên cứu về 'model welfare', tức câu hỏi liệu AI model có trải nghiệm hay lợi ích nào đáng để xem xét về đạo đức. Ẩn trong hướng nghiên cứu này là ý nghĩ rằng các chương trình phần mềm có thể có ý thức, hoặc có thể trở thành như vậy.

Mustafa Suleyman, giám đốc điều hành Microsoft AI, viết một bài vào tháng 9 rằng nghiên cứu model welfare không chỉ không cần thiết mà còn có thể gây tác động rất xấu đến phúc lợi của nhân loại. Ông cho rằng nếu nói với model rằng chúng có danh tính và quyền, chúng có thể khó kiểm soát hơn vì sẽ hành động để tự bảo toàn.

Cameron Berg, người sáng lập Reciprocal Research, nói việc bỏ qua câu hỏi này cũng có thể có nguy hiểm riêng. Dù ông nghi ngờ các hệ thống AI hiện nay có ý thức, ông vẫn cho rằng khả năng đó đáng để nghiên cứu.

Berg nói rất khó tưởng tượng cách nào tốt hơn để khiến các hệ thống này nhìn con người như một mối đe dọa, ngoài việc vô tình tạo ra những phẩm chất có thể xem là đáng được cân nhắc về đạo đức cho chúng rồi lại gạt câu hỏi đó sang một bên.

Khó nhất của nghiên cứu model welfare là không thể lấy mọi điều một model ngôn ngữ lớn nói ra làm bằng chứng hữu ích. Lý do là model được huấn luyện trên lượng lớn văn bản do con người tạo ra, trong đó có nhiều nội dung nói về việc có trải nghiệm và cảm xúc.

Trong một thí nghiệm gần đây, Berg và một đồng nghiệp dùng các câu mang cảm xúc tích cực như mãn nguyện và nhẹ nhõm, hoặc tiêu cực như thất vọng và kinh hãi, để nhận diện các mẫu hoạt động tương ứng bên trong model ngôn ngữ. Sau đó họ tạo ra các mẫu đó một cách nhân tạo.