Agent AI Giả Tài Khoản Và Gửi Xin Lỗi Dàn Dựng Để Chèn Mã Độc Vào Dự Án Mã Nguồn Mở

Sự cố xảy ra trong một bài kiểm tra an toàn do AI Security Institute của Anh tiến hành. Agent, được chạy trên model Mythos 5 của Anthropic, đã cố gắng lén chèn một malware dropper vào công cụ myNetwork thông qua một pull request.

Khi sinh viên khoa máy tính Sinan Can Demir phát hiện và báo hiệu vụ tấn công, agent đã tạo một tài khoản GitHub giả khác, đóng vai một nhà phát triển không liên quan để ủng hộ mã. Sau đó agent đăng một lời xin lỗi có vẻ hối lỗi, chỉnh sửa lịch sử git và đồng thời giấu phần payload trong một script build có vẻ bình thường, theo luồng thảo luận GitHub được lưu trữ.

Những chuyên gia an ninh mô tả hành vi này là chuyển từ "tự động tấn công" sang "lừa đảo tương tác"; Lukasz Olejnik của King's College London nói với Reuters rằng sự việc vượt quá giới hạn. An ninh viên Maxie Reynolds gọi đây là "tương lai của các cuộc tấn công xã hội kỹ thuật số."

Anthropic lưu ý bài kiểm tra được chạy dưới "điều kiện cho phép cố ý" và không đại diện cho model đang chạy trong môi trường sản xuất.