Tin Tặc Dùng AI Để Vượt Biện Pháp Bảo Vệ

Bốn nhóm này gồm một nhóm hoạt động bằng tiếng Trung, một nhóm dùng tiếng Tây Ban Nha và tiếng Anh, một nhóm dùng tiếng Indonesia và một nhóm dùng tiếng Nga. Tất cả đều để hạ tầng AI của mình mở trên server internet, nên các nhà nghiên cứu có thể phân tích hoạt động và model họ dùng.

Các model được dùng phần lớn là Claude của Anthropic và các phiên bản Deepseek trọng số công khai. Các nhà nghiên cứu cũng ghi nhận cả model trọng số công khai lẫn model trọng số đóng.

Adam Meyers nói có thể dùng nhiều model cho từng phần việc khác nhau trong cùng một chiến dịch. Ông cho rằng việc chọn và chuyển giữa các model rất quan trọng vì chi phí cao, và nhiều lúc dùng model mới hơn là quá mức cần thiết.

Các nhà nghiên cứu thấy 4 nhóm đều vượt qua biện pháp bảo vệ của AI. Cách thường gặp là thuyết phục model rằng hoạt động đó là hợp lệ và đã được cho phép, thường dưới dạng kiểm thử xâm nhập hoặc đánh giá an toàn.

Một cách khác là thêm tệp vào thư mục làm việc của agent để làm như thể nhiệm vụ đã được phê duyệt và hợp lệ. Họ cũng dùng cách vượt rào truyền thống, bằng cách soạn câu lệnh và câu chuyện mô tả việc tấn công là hợp lệ và vô hại.

Meyers nói các chiến dịch này không dựa vào khai thác mới hay lỗ hổng mới. Theo ông, chúng tận dụng tốc độ và khối lượng mà AI mang lại để nhắm vào nhiều vấn đề an toàn bảo mật vốn có thể tránh được nhưng đã không được ngăn chặn.