AI Làm Tăng Rủi Ro Bầu Cử Ở Đông Nam Á

Anthropic nêu trong đánh giá đe dọa mới nhất, công bố vào tháng 9, rằng những bên dùng Claude đã dựng mạng lưới tài khoản mạng xã hội giả và các trang tin giả nhắm tới công chúng trên 6 châu lục. Công ty cho biết những bên này gồm chính phủ, các cơ quan tuyên truyền gắn với nhà nước và truyền thông nhà nước, cùng các công ty tư nhân bán ảnh hưởng.

Riêng tại Malaysia, Claude được dùng để lập một nền tảng can thiệp bầu cử thương mại. Hệ thống đó dựa vào khoảng 1.000 tài khoản X, một trang tin giả tên Malaysia Pulse và một loạt tài liệu bịa đặt.

Hoạt động này có vẻ nhằm nhắm tới cử tri trong các cuộc bầu cử cấp bang gần đây, đồng thời khai thác dữ liệu điều tra dân số và bầu cử. Mục tiêu là tác động vào các rạn nứt nhạy cảm về sắc tộc, tôn giáo và hoàng gia trên cả 222 khu vực bầu cử quốc hội của Malaysia.

Anthropic nói thí nghiệm cuối cùng không hiệu quả sau khi công ty can thiệp, nhưng vụ việc đã làm dấy lên lo ngại về các cuộc bầu cử tương lai ở Đông Nam Á. Katie Harbath nói AI có thể tạo ra nhiều nội dung hơn, cá nhân hóa hơn, nhanh hơn và rẻ hơn; Rossine Fallorina nói AI chỉ làm giống một nhà máy tài khoản rác vì nó tăng tốc quá trình sản xuất.

Năm ngoái, OpenAI cấm các tài khoản dùng AI để tạo bình luận về chính trị Philippines và các quan chức công trên các nền tảng mạng xã hội. Nhiều bình luận bịa đặt khi đó là để ủng hộ Ferdinand Marcos Jnr.