Sau 3 Vụ Cào Dữ Liệu, Cara Hợp Tác Làm Công Cụ Bảo Vệ Nghệ Sĩ

Cara lọc ra ảnh AI và có các tính năng bảo vệ, trong đó có Glaze. Công cụ này nhằm che phong cách của ảnh trước khi bị người cào dữ liệu lấy đi, để làm rối việc bắt chước bằng AI. Tuy vậy, ngăn hẳn các vụ cào dữ liệu gần như không thể.

Từ ngày 13/8, Cara đã gặp 3 vụ cào dữ liệu lớn. Việc này làm tăng phí server và khiến các nghệ sĩ lo lắng. Họ đã chuyển sang Cara từ Instagram, nơi toàn bộ nội dung được ghi rõ là có thể dùng cho Meta làm dữ liệu huấn luyện model AI.

Vụ đầu tiên lộ ra khi người thực hiện đăng một kho lưu trữ gồm 12 triệu tác phẩm từ Cara lên mục r/DefendingAIArt trên Reddit. Bài đăng sau đó bị xóa, nhưng tài khoản MandarinDawnPoppy994 nói đây là một dự án vui và cho biết chi phí chưa tới 10 đô la.

Zhang cho biết họ biết chuyện qua việc người dùng gắn thẻ. Người này còn khoe khoang và tìm người khác cùng làm gì đó với bộ dữ liệu trên Reddit, khiến các diễn đàn về AI tranh luận gay gắt về tính đạo đức. Zhang nói việc này nhắm vào họ và rất đau lòng, và luật chưa theo kịp các biện pháp bảo vệ trước kiểu thu thập dữ liệu như vậy, nên người cào dữ liệu thường có thể biện minh rằng đó là hợp pháp về mặt kỹ thuật.

Zhang cũng là một phần trong 2 vụ kiện tập thể đang diễn ra của các nghệ sĩ thị giác, một vụ chống lại Stability AI, Midjourney và những bên khác, và vụ còn lại chống lại Google. Họ nói các công cụ tạo ảnh của các công ty này được huấn luyện trên tác phẩm có bản quyền của họ.

Trong một diễn biến bất ngờ, người đã lấy toàn bộ ảnh từ Cara sau đó hối hận và đồng ý hợp tác với Zhang trên một công cụ open-source mới để bảo vệ nghệ sĩ. Trong lúc đó, các vụ cào dữ liệu khác vẫn tiếp diễn; một số người ủng hộ AI phản đối việc nhắm vào Cara, nhưng vài người khác bị kích động bởi MandarinDawnPoppy994 để làm các cuộc tấn công bắt chước.

Một người cào dữ liệu thứ hai lấy khoảng 8,5 triệu URL từ Cara, cùng siêu dữ liệu như tên người dùng, tiêu đề và thẻ, rồi đưa lên Hugging Face. Sau yêu cầu gỡ, Hugging Face nói sẽ gửi thông báo cho người dùng CaptiveDreamer để xóa siêu dữ liệu cá nhân, nhưng không thể làm điều tương tự với URL vì không có bản sao tác phẩm nào được lưu ở đó.