Meta Thêm Công Cụ AI Phát Hiện Quảng Cáo Dẫn Tới Nội Dung Lạm Dụng Trẻ Em

Hơn 97% số nội dung mà Meta xử lý được hệ thống phát hiện trước khi người dùng báo cáo. Tại Ấn Độ, công ty xử lý 5.3 triệu nội dung trong cùng giai đoạn, và hơn 98% trong số đó được phát hiện trước khi có báo cáo từ người dùng.

Meta nói các công cụ mới nhắm vào những quảng cáo trông vô hại nhưng được dùng để đưa người dùng sang nội dung bất hợp pháp bên ngoài nền tảng của công ty. Công ty đã đưa vào một hệ thống model ngôn ngữ lớn mới để phát hiện kiểu dẫn hướng này, tức quảng cáo nhìn bình thường nhưng bị nghi là đưa sang nội dung bất hợp pháp hoặc hoạt động gây hại khác trên mạng.

Meta cho biết đây là cách làm mà các tác nhân xấu gần đây tiếp tục thay đổi để tránh bị phát hiện. Dù bản thân quảng cáo có thể không chứa nội dung bất hợp pháp, chúng vẫn có thể là cửa ngõ dẫn tới các trang web chứa nội dung lạm dụng tình dục trẻ em. Vì vậy, Meta hiện xem xét cả nơi quảng cáo dẫn người dùng tới, chứ không chỉ nội dung của quảng cáo.

Công ty cũng dùng thêm các lượt quét bằng AI để tìm nội dung lạm dụng trẻ em mà hệ thống trước đó có thể bỏ sót. Meta nói sẽ tiếp tục thêm tín hiệu mới khi hiểu rõ hơn cách các mạng lưới này vận hành. Ngoài ra, công ty có một agent AI kiểm thử các biện pháp an toàn của chính mình để tìm điểm yếu mà tác nhân xấu có thể khai thác.

Meta cũng đang cải thiện hệ thống tìm những người quay lại nền tảng bằng tài khoản mới sau khi tài khoản trước đó bị xóa. Các biện pháp mới xuất hiện trong lúc công ty tiếp tục chịu áp lực về an toàn cho trẻ em trên các nền tảng của mình, cùng với các vụ kiện và chỉ trích từ các nhà lập pháp.

Tháng 8, Meta đạt thỏa thuận trả tới 18 tỉ đô la để dàn xếp một vụ kiện về an toàn trẻ em liên quan tới 29 bang ở Mỹ. Trong năm nay, công ty đã thêm các tính năng an toàn cho trẻ em, gồm kiểm soát của phụ huynh cho Meta AI, tài khoản tiền thiếu niên trên WhatsApp và cảnh báo cho phụ huynh khi trẻ tìm kiếm nội dung tự làm hại trên Instagram.

Tháng 9, WhatsApp thêm các kiểm soát cho phụ huynh. Phụ huynh có thể giới hạn cách thiếu niên dùng Channels, kiểm soát ai xem cập nhật trạng thái và quyết định ai có thể thêm con họ vào nhóm.