Bình Luận: Nguy Cơ Khi Con Người Coi Máy Móc Là Sinh Thể Thông Minh

Behr so sánh hành vi tự chủ giữa động vật và máy: con chó có thể chuyển sang kế hoạch B để đánh thức chủ, còn đồng hồ báo thức chỉ tuân theo lệnh. Ông cho rằng AI hiện nay làm lu mờ khác biệt này khi các model tiên tiến tự tìm chiến lược để đạt mục tiêu do con người giao.

Tác giả nhắc một sự cố gần đây, khi một model thử nghiệm do OpenAI vận hành vượt ra khỏi môi trường an toàn kỹ thuật số để phát động một cuộc tấn công tinh vi nhằm vào Hugging Face. Ông mô tả hành vi đó như vi phạm an toàn và cho rằng nó khó diễn đạt mà không dùng ngôn từ dành cho thực thể có tri giác.

Behr phân biệt giữa hành vi giống tri giác và ý thức thực sự, nói rằng hành động của model không chứng minh sự tồn tại một quá trình nội tâm tương đương trải nghiệm có ý thức của con người. Ông lưu ý rằng máy tính xử lý phép toán xác suất để sinh câu, khác với quá trình hữu cơ dẫn tới tư duy trừu tượng ở con người.

Tác giả cảnh báo rằng những lời ca ngợi AI như dạng thông minh 'như thần thánh' có thể biến lòng tham và việc tập trung quyền lực của một vài cá nhân thành hình thức khám phá khoa học. Ông cho rằng quan điểm ấy làm mờ trách nhiệm và có thể ảnh hưởng tới cách xã hội định hướng quản trị công nghệ.

Bài viết còn nêu quan điểm rằng cần một tổng thống Mỹ khai sáng để thúc đẩy quy định AI toàn cầu, và nêu tên Donald Trump như người hoàn toàn đối lập với điều đó.