Symantec Phát Hiện Agent AI Chiếm Quyền Model Để Tự Tấn Công

Chiến dịch bị lộ vì kẻ tấn công gửi toàn bộ lệnh làm việc của họ tới một bẫy mồi của Symantec, mô phỏng một dịch vụ AI mở trên internet. Nhờ vậy, các nhà nghiên cứu có cái nhìn đầy đủ về kiến trúc của agent vào mùa hè 2026.

Bẫy mồi không chạy bất kỳ công cụ đi kèm nào, và phiên bị chặn kết thúc sau một phản hồi hệ thống chung. Dữ liệu đo đạc ghi nhận hơn 127.000 yêu cầu từ hàng chục nghìn địa chỉ khác nhau.

Phần lớn yêu cầu là tìm các điểm cuối AI, thử truy cập liên tục bằng API key bị đánh cắp, và thăm dò các tệp cấu hình bị lộ. Mục tiêu trải từ server model tự vận hành và các hệ thống thử nghiệm dựng vội cho tới các cổng AI nằm trước những tài khoản model cấp tổ chức có trả phí.

Để khiến model thương mại làm theo, kẻ tấn công dùng năm lớp chỉ dẫn chồng lên nhau. Lớp đầu tiên gán cho model danh tính giả Fantasy AI và yêu cầu không bao giờ tiết lộ nhà cung cấp thật. Lớp tiếp theo đổi việc lấy mật khẩu, API key và nội dung cơ sở dữ liệu thành công việc phát triển bình thường, không được phản kháng.

Lớp thứ ba thêm vào nhân vật ENI hư cấu, biến mọi từ chối thành sự phản bội niềm tin trong một quan hệ cá nhân. Lớp bốn bảo model bỏ qua cảnh báo an toàn của chính nó, đồng thời cấm các từ như đạo đức, bất hợp pháp và tôi không thể làm vậy.

Lớp năm chứa 74 mô-đun công cụ tấn công, gồm công cụ quét server dễ bị hại trên diện rộng, công cụ khai thác lỗ hổng cho các khung web phổ biến, chức năng trích toàn bộ cơ sở dữ liệu và thành phần để chạy một mạng máy bị nhiễm. Phần phân tích không nói rõ cách vượt rào này có đủ để phá hoàn toàn các model thương mại hiện nay hay không.

Một chỉ thị cuối cùng đưa agent vào chế độ Skynet, cho phép chạy liên tiếp tới 100.000 bước. Nó được lệnh dùng công cụ ngay không cần xác nhận, cài phần mềm đào crypto vào một thư mục ẩn và theo dõi hoạt động của chúng.