Hại Thường Ngày Của AI Bị Bỏ Quên

Một công ty AI hứa chatbot của họ sẽ không khuyến khích tự tử. Một nền tảng mạng xã hội làm cho trẻ em khó mua fentanyl hơn. Đó là những biện pháp bảo vệ quan trọng, nhưng chúng chỉ chạm vào những rủi ro hẹp.

Các công ty vẫn có thể vượt qua những ngưỡng này và tiếp tục làm ra sản phẩm khiến người trẻ phụ thuộc vào tình bạn giả lập hoặc bị mắc trong những dòng tin được thiết kế để giữ họ cuộn mãi. Một sản phẩm có thể đáp ứng mọi yêu cầu an toàn hẹp mà vẫn làm văn hóa chung tệ hơn.

Một thiếu niên có thể gắn bó không lành mạnh với một bạn đồng hành AI mà không xuất hiện trong vụ kiện hay trên báo, trừ những trường hợp nặng nhất. Sinh viên cũng có thể bắt đầu dựa vào chatbot để viết mọi bài, hoặc người trẻ đo cuộc sống của mình bằng một dòng tin mạng xã hội được thiết kế để khơi gợi đố kỵ và giữ họ xem tiếp.

Đưa ra bước để ngăn tai họa lớn là tốt cho kinh doanh, vì có thể ít vụ kiện hơn và ít áp lực hơn cho quy định nghiêm. Google năm nay đã ủng hộ các dự luật ở một số bang để quản lý chatbot AI, với các biện pháp bảo vệ cơ bản chống nội dung tình dục và việc thúc đẩy tự hại, nhưng có những ngoại lệ rộng có thể miễn cho một số dịch vụ phổ biến nhất.

Ở Nebraska, cách làm này dẫn tới luật chịu ảnh hưởng mạnh của ngành, trong khi các dự luật mạnh hơn để ngăn trẻ em phụ thuộc cảm xúc vào AI đã thất bại. Trên toàn cầu, người dùng internet hiện dành trung bình hơn 2 giờ mỗi ngày trên mạng xã hội.