XAI Kiện Người Bị Cáo Buộc Dùng Grok Tạo CSAM

Đơn kiện được nộp tại tòa liên bang ở Texas, xác định bị đơn là Terry Wayne Harwood. xAI cáo buộc Harwood vi phạm điều khoản dịch vụ khi dùng Grok để tạo và phân phối nội dung lạm dụng tình dục trẻ em.

Harwood bị bắt giữ vào tháng 2 và đang đối mặt với tám cáo trạng trọng tội liên quan đến sở hữu và phân phối CSAM. Đơn kiện cho rằng có "ít nhất một số" hình ảnh liên quan đến các cáo buộc hình sự này "đã được tạo hoặc chỉnh sửa" bằng Grok.

xAI cho biết Harwood đã vượt qua các biện pháp bảo vệ của Grok để chuyển đổi ảnh không khỏa thân thành ảnh tình dục không có sự đồng ý của những người trong ảnh. Công ty yêu cầu tòa buộc Harwood bồi thường mọi thiệt hại và chi phí hợp lý mà xAI phải chịu, đồng thời cấm Harwood tạo tài khoản xAI hoặc sử dụng Grok.

Báo cáo cho biết sau khi xAI triển khai chế độ "spicy" và thêm khả năng chỉnh sửa ảnh cho Grok, đã xuất hiện nhiều ảnh deepfake tình dục, trong đó có ảnh của người vị thành niên; một nhóm thiếu niên đã kiện xAI vào tháng 3 vì cho rằng Grok tạo ảnh tình dục hóa họ khi còn là trẻ vị thành niên.