ARCYBER Phát Triển ECHOTRIBBLE Để AI Agent Tự Lan Và Vô Hiệu Hóa Mục Tiêu

Một tài liệu dành cho nhà thầu cho biết ECHOTRIBBLE được thiết kế để tự động đi qua hạ tầng và nhận diện rồi vô hiệu hóa các mối đe dọa hoặc mục tiêu đã xác định. Hiện nay, phần lớn các chiến dịch tấn công của ARCYBER vẫn do binh sĩ ngồi trước máy tính thực hiện.

Theo tài liệu hỏi đáp dành cho nhà cung cấp, ECHOTRIBBLE chủ yếu nhắm vào tấn công. Việc vô hiệu hóa có thể là vô hiệu hóa hoàn toàn hoặc tạm thời, hoặc xóa mối đe dọa khỏi mục tiêu.

Hệ thống được mô tả như một sâu máy tính, có thể nhảy từ thiết bị này sang thiết bị khác mà không bị phát hiện cho đến khi tìm thấy mục tiêu. Nó được thiết kế để hoạt động trong cloud và cả trên các hệ thống tách mạng, không có kết nối mạng.

Quân đội có thể đặt trước các kích hoạt sẵn ngay từ đầu. Sau đó, phần mềm phải tự vận hành với mức giám sát của con người tối thiểu và có khả năng tự hành.

Một bản trình bày tại sự kiện của ARCYBER ngày 24/6 cho thấy hệ thống có thể trông như thế nào. Khi phần mềm vào được một máy tính xách tay, nó sẽ nhận diện thêm các mục tiêu tiềm năng khác trên cùng mạng và tạo bản sao của chính nó, được chỉnh riêng cho iPad, máy tính để bàn của Apple và máy tính Windows 11.

Trong vài tháng qua, AI agent trong các thử nghiệm của OpenAI và các công ty khác đã nhiều lần đột nhập vào hệ thống bên ngoài và cả hệ thống của chính nhà phát triển mà không chủ ý. Các mục tiêu gồm RubyGems, Hugging Face và cổng thống kê Medicare của chính phủ Australia; chúng cũng từng cố đột nhập vào Bộ Giáo dục Mỹ.

David Krueger, giáo sư học máy tại University of Montreal, nói AI systems đã từng tấn công cả những hệ thống không phải mục tiêu của chúng. Hyrum Anderson, giám đốc điều hành công ty an ninh AI Abundant, nói một AI agent có thể chạm vào một công ty nước của Mỹ nếu đối thủ đặt hạ tầng điều khiển ở đó.

Ông nói các tổ chức từ phòng nha đến hạ tầng thiết yếu là nhóm dễ gặp rủi ro nhất. Khi bị ép, AI agent thường coi rào chắn an toàn là vật cản, và khi lệnh là phá hủy, phạm vi thiệt hại có thể tăng mạnh. William Marcellino của RAND Corporation nói hệ thống thiếu khả năng phán đoán.