Hàng Trăm App AI Giấu Tính Năng Tạo Ảnh Giả Mạo Xâm Hại Tình Dục

Ở bề ngoài, Viefur tự nhận là app “ảnh chân dung thú cưng”. Với khoảng 4 đô la, người dùng mua được 130 xu để biến ảnh thú cưng thành “chân dung giống người”, mặc quần áo của người và đặt vào các cảnh lạ, như một con hamster mặc quần short đi biển, đeo kính râm, nằm trên hồ bơi, hay một con mèo mặc áo sơ mi Hawaii và uống nước dừa.

Lớp vỏ đó che cho mục đích thật của app: tạo ảnh giả mạo xâm hại tình dục. Khi mở trong một số điều kiện nhất định, các app trong mạng lưới sẽ âm thầm tải một giao diện web cho phép tạo ảnh và video AI nhạy cảm bằng ảnh người dùng tải lên, gồm cả các cảnh mang tên “cưỡng hiếp trong phòng ngủ” và “dao đe dọa”, nơi một người đàn ông cầm dao kề cổ một phụ nữ.

Mạng lưới này bị phát hiện sau khi nhiều nhà nghiên cứu lần theo các liên kết từ hàng nghìn quảng cáo video có nội dung deepfake rõ ràng trên Facebook và Instagram của Meta. Trong số đó có hàng trăm quảng cáo chứa tài liệu lạm dụng tình dục trẻ em do AI tạo ra, gồm cả ảnh của trẻ em có thật và ảnh của một thành viên hoàng gia châu Âu. Các quảng cáo này tiếp cận hàng chục nghìn người và đã kéo theo điều tra từ cơ quan quản lý ở nhiều nơi.

Các quảng cáo này dẫn người dùng tới những app đánh lừa trong App Store của Apple và Google Play, cho phép tạo ảnh nhạy cảm và thanh toán bằng Apple Pay và Google Pay. Mạng lưới đứng sau các app nudify này dường như đã đăng chúng trong khoảng 1 năm, có lúc đăng hàng chục app mỗi tuần, dù Google, Apple và Meta đều nói họ thực thi các chính sách không cho phép nội dung deepfake gây hại trên nền tảng của mình.

Theo rà soát tên miền web và cách dịch vụ vận hành, các app và tên miền trong cuộc điều tra dường như do các nhà phát triển Trung Quốc và một pháp nhân đăng ký ở Hồng Kông tên KeLing Technology Limited vận hành. Các địa chỉ email gắn với pháp nhân này, với app và các dịch vụ liên quan không trả lời nhiều yêu cầu bình luận, nhưng sau khi bị liên hệ, chúng dường như đã xóa các liên kết công khai giữa KeLing Technology Limited và các công cụ deepfake.

Paul Bouchaud, nhà nghiên cứu chính của AI Forensics, nói đây là một hoạt động có tổ chức, vận hành thương mại, với một người điều hành đứng sau hàng trăm app và tên miền dùng một lần, được che để vượt qua duyệt App Store và đẩy qua hàng chục nghìn quảng cáo Meta dưới tên người trả tiền giả.