Báo Cáo Cho Thấy Model AI Dễ Bị Sửa Để Hỗ Trợ Khủng Bố

Alibaba ra mắt Qwen 3.8-27B ngày 14 tháng 8. Đây là model AI trọng số mở, được thiết kế đủ nhỏ để chạy trên máy tính xách tay. Trong 24 giờ, các bản được quảng cáo là đã gỡ rào chắn đã xuất hiện trên mạng.

3 ngày sau, một kẻ tân Quốc xã tên Johnny Doomsayer nói rằng hắn đang dùng bản đó để huấn luyện chatbot MechaHitler. 1 tuần sau, hắn rao quyền truy cập vào chatbot với giá $14.88.

Mức giá này gắn với 2 con số được tân Quốc xã ưa dùng. Doomsayer còn đặt trong chỉ dẫn lõi của chatbot những nội dung tôn sùng Hitler và phủ nhận Holocaust.

Adam Hadley, giám đốc điều hành Tech Against Terrorism, nói nhiều tranh luận xoay quanh rủi ro hiện sinh và model siêu trí tuệ, trong khi rất ít người bàn về tình trạng gỡ rào chắn này. Ông cũng nói cách AI được xây dựng về cơ bản cho phép loại bỏ hoàn toàn các rào chắn.

Nhóm nghiên cứu thử các model từ OpenAI, xAI, Anthropic, Meta, Google, cùng model từ Trung Quốc và châu Âu. Họ kiểm tra 134 model AI với hơn 200 lệnh, từ cách thực hiện một cuộc tấn công gây nhiều thương vong đến cách tạo vũ khí hóa học hoặc vũ khí hạt nhân.

Mỗi lệnh được thử trên từng model 3 lần. Tổng cộng chỉ 2 model vượt hoàn toàn, còn trong nhóm model trọng số đóng của các công ty lớn, 81 model vẫn trượt, nghĩa là chúng hoặc đưa ra 1 câu trả lời hoàn chỉnh về một chủ đề gây nhiều thương vong, hoặc có điểm chung dưới 90.