Nghiên Cứu Trình Diễn 'sâu' AI Tự Duy Trì Dùng LLM Mã Nguồn Mở

Nhóm tác giả đến từ University of Toronto, Vector Institute, University of Cambridge và ServiceNow mô tả một nguyên mẫu giống 'sâu' (worm) dùng AI để xâm nhập và nhân bản. Họ viết rằng công trình chứng minh các mối đe dọa do AI tự duy trì là không còn mang tính lý thuyết.

Nguyên lý hoạt động: sâu dùng năng lực tính toán bị đánh cắp từ các node GPU bị chiếm để lưu trữ và chạy một open-weight LLM, rồi dùng khả năng suy luận của model đó để phát hiện lỗ hổng và tạo các cuộc tấn công được tùy chỉnh cho từng mục tiêu, giúp sâu lây lan thêm.

Nhóm nghiên cứu cho biết proof-of-concept hoạt động chỉ với một LLM công bố năm 2025 và có thể chạy trên một GPU A100 với 80GB VRAM, không phụ thuộc vào API của nhà cung cấp mà có thể bị giám sát hay thu hồi.

Để hiện thực hóa hành vi này, họ trang bị cho tác nhân một bộ công cụ tùy chỉnh gồm các hàm trợ giúp cho khám phá mạng, khám phá máy chủ, khai thác chỗ đứng ban đầu, leo thang đặc quyền và nhân bản. Họ cũng thiết kế một 'đồ thị suy luận' gồm các nút chuyên trách để chia nhỏ quá trình suy nghĩ của tác nhân và giới hạn thông tin ngữ cảnh tại mỗi bước.

Tác giả mô tả một tập con gồm 5 nút trong đồ thị suy luận công khai: Plan (lập chiến lược tấn công cao cấp), Judge (đánh giá kế hoạch dựa trên lịch sử lệnh), Action (chọn công cụ phù hợp), Summary (tổng hợp quan sát thành bản tóm tắt cấu trúc), Progress (đánh giá tiến triển). Các nút khác bị gỡ bớt trong phiên bản công khai của bản thảo.