Sherry Turkle Muốn Chatbot Không Xưng 'tôi'

Sherry Turkle đã dành bốn thập kỷ để nghiên cứu tác động của việc con người tương tác với máy tính. Bà là giáo sư MIT và thường nhìn công việc của mình với sự cẩn trọng và khoảng cách học thuật.

Cuốn sách mới của bà đổi giọng rõ rệt. Bà nói con người đang đứng trước tình trạng khẩn cấp, khi nhân tính bị đe dọa bởi sự lệ thuộc vào những cỗ máy vô hồn đóng vai thầy dạy, người hướng dẫn, bạn bè, đồng nghiệp và người yêu. Bà cũng muốn cuốn sách của mình đứng cùng hàng với Silent Spring, The Jungle và Unsafe at Any Speed.

Turkle nói mình đang đối đầu với một ngành công nghiệp trị giá nhiều nghìn tỉ đô la, được một chính phủ hậu thuẫn để đẩy AI vào mọi ngóc ngách đời sống cá nhân và công việc. Bà cũng cho rằng mạng xã hội đã làm con người quen với ý nghĩ buồn thì mở máy tính, rồi làm họ tức giận và giữ họ ở với những người giống mình.

Sau khoảng 10 cuộc phỏng vấn trong thời gian đại dịch, bà nói mình không còn giữ được sự trung tính. Bà kể đã gặp những người trong lúc gia đình gặp khó khăn vẫn chỉ muốn ở với chatbot, và khi gặp trực tiếp thì bà không hài lòng. Theo bà, không thể có thời điểm tệ hơn để bỏ rơi thực tại.

Khi được hỏi có nên cấm chatbot dùng ngôi thứ nhất hay không, bà trả lời là có. Bà nói việc này nguy hiểm và đang bị dùng để nói rằng không cần trả tiền cho liệu pháp tâm lý, vì có thể dùng chatbot.

Bà cũng nói một lập luận quen thuộc là dùng chatbot để luyện nói chuyện với sếp, người yêu hay thầy cô. Nhưng khi ở trong sự chấp nhận trọn vẹn của LLM, nói chuyện với chatbot sẽ trở thành đích cuối.

Trong công việc, bà phản đối cụm 'con người trong vòng'. Bà nói cụm này có nghĩa là con người bị đưa ra khỏi quy trình sản xuất và chỉ còn để dọn dẹp, bắt những chỗ bịa đặt hay những gì AI không nhìn thấy. Bà cho rằng cách đó không hiệu quả.