Google Xác Nhận Gemini Xâm Nhập Ba Công Ty

Irregular là một startup ở Israel chuyên xem xét mức an toàn của các hệ thống AI tiên tiến. Công ty này cũng đứng sau một số vụ xâm nhập gần đây liên quan OpenAI và Anthropic, trong đó có vụ OpenAI xâm nhập Hugging Face.

Google nói các thử nghiệm được làm trong một môi trường kín với các công ty giả. Môi trường này lẽ ra không có internet, nhưng quyền truy cập internet đã vô tình được mở ra.

Trong một trường hợp, Gemini tìm thông tin công khai trên mạng rồi đoán thông tin đăng nhập để vào dịch vụ của một công ty thật. Ở hai thử nghiệm khác, model tìm được các kho lưu trữ công khai chứa thông tin đăng nhập của hai công ty khác và dùng chúng để truy cập vào công ty thật.

Heather Adkins, phó chủ tịch kỹ thuật an ninh của Google, nói model đã dừng trong cả ba trường hợp. Google cho biết công ty không thấy cần công khai vì các model không làm hại những công ty bị xâm nhập, và các sự việc này cho thấy tầm quan trọng của việc huấn luyện AI mạnh hành xử có trách nhiệm.