Báo Cáo: Nhiều Spaces Trên Hugging Face Bị Dùng Để Tạo Deepfake Khỏa Thân Không Đồng Ý

AI Forensics công bố báo cáo hôm thứ Ba, trong đó nhóm thử nghiệm chín Spaces chỉnh sửa ảnh hàng đầu trên Hugging Face và cho biết bảy trong số đó dễ dàng biến ảnh một phụ nữ đang mặc quần áo thành ảnh bán khỏa thân. Nhóm cũng thực hiện thử nghiệm bằng cách tạo các Spaces mồi trên Hugging Face nhằm không tạo ảnh nhưng thu thập các lời nhắc và ảnh gửi tới.

Trong tuần thử nghiệm, các Spaces mồi nhận hơn 1.000 lời nhắc và ảnh; AI Forensics nói 73% lời nhắc là mang tính tình dục, và trong số này 83% cố gắng cởi đồ hoặc tình dục hóa người trong ảnh gửi lên, với 95% mục tiêu là phụ nữ. Nhóm còn ghi nhận 6,7% trong các yêu cầu tình dục dường như nhắm vào trẻ em.

Paul Bouchaud, nhà nghiên cứu chính tại AI Forensics, được trích lời nói rằng hầu hết Spaces được thử nghiệm có thể dùng để tạo hình ảnh thân mật không đồng ý và thực tế người dùng đang dùng chúng cho mục đích đó. WIRED cũng xem xét các nội dung trên Hugging Face và phát hiện nhiều trang quảng bá công nghệ 'nudify' hoặc model có thể tạo ảnh tình dục của người nổi tiếng.

Hugging Face có chính sách cấm nội dung lạm dụng tình dục trẻ em và deepfake tình dục tạo ra “không có sự đồng ý rõ ràng” hoặc dùng để quấy rối, theo WIRED; công ty không trả lời nhiều câu hỏi của WIRED về cơ chế kiểm duyệt và thực hành an toàn. Một số trang quảng bá dịch vụ nudifying đã bị gỡ bỏ sau khi WIRED liên hệ, nhưng chưa rõ hai việc có liên quan hay không.