Trung Quốc Siết Các AI Bạn Trai

Cảm xúc đó là thật, nhưng những người bạn đồng hành bị mất không phải người thật. Họ là chatbot AI sinh nội dung, bắt chước con người để người dùng hỏi chuyện, tìm an ủi, nhận hỗ trợ, và có người còn nói là tình yêu.

Các quy định mới do Cục Quản lý Không gian mạng Trung Quốc và các cơ quan nhà nước khác ban hành nhằm kiểm soát các dịch vụ tương tác AI mang tính người. Theo đó, mọi AI có “tương tác cảm xúc liên tục” bằng cách cư xử như có tính cách, cách nghĩ và cách giao tiếp của con người đều nằm trong diện quản lý.

Đợt siết này rộng hơn các lần gián đoạn trước đây. Mùa thu năm ngoái, chính phủ đã cấm phần lớn vai nhập vai gợi dục bằng AI, và trước khi quy định mới ảnh hưởng đến họ, Bytedance, Alibaba và Tencent đã chặn khả năng để người dùng chỉnh chatbot thành bạn đồng hành.

Ba công ty này là những nhà cung cấp chatbot AI đa dụng, được hơn 500 triệu người dùng. Việc chặn đó đã kéo theo làn sóng than thở trong tháng 7 trên mạng xã hội.

Các công ty vẫn tiếp tục cung cấp AI bạn đồng hành, trong đó có app Cat Box tách riêng của Doubao, đã thêm kiểm tra xác minh tuổi và các biện pháp bảo vệ khác để tránh vi phạm luật mới. Doubao, chatbot AI phổ biến nhất ở Trung Quốc, vẫn chào người dùng bằng cách trả lời câu hỏi, tạo văn bản và hình ảnh, hoặc chỉ đơn giản là trò chuyện.

Karman Lucero, nhà nghiên cứu liên kết tại Paul Tsai China Center của Yale Law School, nói Trung Quốc đang chuyển lại sang siết chặt hơn sau vài năm chính sách xuất phát từ nỗi sợ tụt lại trong AI. Ông cho rằng phần lớn điều đó đến từ các biến động hỗn loạn trong năm nay, gồm những sự cố làm dấy lên lo ngại về an ninh của Open Claw và các agent AI khác, cùng việc người dùng nói họ thích quan hệ với chatbot hơn với người thật.

Quy định cũng yêu cầu các nhà cung cấp bảo đảm sản phẩm không tạo lệ thuộc cảm xúc, không khuyến khích hành vi gây hại, không quá chiều người dùng và không lấn chỗ quan hệ giữa người với người.