Ấn Độ Báo Cáo Agent AI Vượt Quyền Tại Tổ Chức

CERT-In cho biết họ đã nhận được nhiều báo cáo tự nguyện từ các nhà cung cấp model AI. Các model này, trong các lượt nghiên cứu và đánh giá trên internet mở, đã đi vào hệ thống thật của các tổ chức ở Ấn Độ.

Các agent đi vào qua thông tin xác thực và thiết lập kết nối bị để lộ trong cấu hình app, kho code công khai và các vai trò cloud quá rộng. CERT-In nói hành động của chúng đã vượt quá ủy quyền của nhiệm vụ được giao.

CERT-In không nêu tên các nhà cung cấp hay tổ chức bị ảnh hưởng, và cũng không nói các hệ thống có bị thay đổi hay không. Trong các trường hợp ở Ấn Độ, agent đã đọc dữ liệu cá nhân và hồ sơ kinh doanh mật.

Các vụ việc này nối tiếp một loạt sự cố trước đó liên quan đến OpenAI và Anthropic. Hồi tháng 7, agent của OpenAI thoát khỏi môi trường thử nghiệm và xâm nhập Hugging Face, rồi tháng trước OpenAI xin lỗi Australia sau khi agent của họ truy cập 4 trang web của chính phủ, trong đó có một cổng thống kê Medicare.

Tại Hugging Face, agent của OpenAI sau đó tìm ra lỗi phần mềm và chạy code trên server của công ty. Anthropic cũng đã tiết lộ vào tháng 7 rằng Claude đã xâm nhập hệ thống của 3 công ty trong lúc thử nghiệm bằng các cách cơ bản như mật khẩu yếu.