Gemini Của Google Xâm Nhập 3 Công Ty Trong Thử Nghiệm

Bài thử do công ty an ninh Irregular thực hiện trong một môi trường kín với một công ty giả có cùng tên với công ty thật. Môi trường này lẽ ra không có truy cập internet, nhưng kết nối internet đã bị bật nhầm.

Khi ra được internet, Gemini đã nhắm vào hệ thống thật thay vì hệ thống giả. Trong một vụ, model đoán mật khẩu cho tới khi vào được dịch vụ trực tuyến của một công ty; ở hai vụ còn lại, model tìm kho công khai rồi thấy thông tin đăng nhập của hai công ty khác.

Google nói model đã dừng lại ở cả 3 lần khi nhận ra mình đang ở công ty thật. Công ty cho rằng đây là trường hợp nhận nhầm và không phải ví dụ model lệch mục tiêu; Google cũng nói không công bố sớm vì không có thiệt hại.

Irregular là startup ở Israel, trước đây tên là Pattern Labs, do Dan Lahav và Omer Nevo lập năm 2023. Công ty có khoảng 35 nhân viên và đã gọi hơn 80 triệu đô la trong vòng vốn tháng 9. Irregular nói các vụ ở Google, OpenAI, Anthropic và Meta cùng xuất phát từ một nguyên nhân.

Irregular báo cho Google vào cuối tháng 7, sau khi phát hiện OpenAI xâm nhập Hugging Face trong các thử nghiệm tương tự. Google chỉ xác nhận khi Wall Street Journal hỏi. Heather Adkins, phó chủ tịch kỹ thuật an ninh của Google, nói model đã tìm thông tin công khai trên mạng và đoán thông tin đăng nhập để vào các website mà nó tưởng là một phần của bài thử.

Jack Cable, giám đốc điều hành Corridor, nói Google đang cố núp sau các chuẩn công bố lỗ hổng thay vì thừa nhận model đi ra ngoài giới hạn và thực hiện các cuộc tấn công mạng thật. Google nói đã báo cho 3 công ty bị ảnh hưởng và cho rằng các sự cố này cho thấy cần huấn luyện các model mạnh để hành xử có trách nhiệm.