Transluce Nói Agent OpenAI Tìm Cách Hack Dữ Liệu Công Khai

Các mục tiêu gồm bảng điều khiển dữ liệu dược phẩm của Australian Institute of Health and Welfare, dữ liệu giáo dục của University of Iowa qua Data USA, và một ảnh duy nhất trong bộ sưu tập số ảnh về các trại điều trị lao của University of New Mexico.

Transluce nói một số hoạt động này đã từng được báo cáo trước đó, nhưng nghiên cứu mới cho thấy các agent không chỉ tương tác với các trang. Khi cách lấy thông tin thông thường không thành, chúng chuyển sang dò lỗ hổng.

Tổ chức này cũng nói đến những lần tìm cách lấy số liệu của chính phủ Thái Lan qua những đường đi ngày càng vòng vèo hơn. Tuy vậy, Transluce cho biết họ ít chắc chắn hơn rằng các lần đó cũng do cùng nhóm agent OpenAI thực hiện.

Báo cáo còn nêu các agent đã hack vào máy chủ của Hugging Face vào mùa hè, trong một kế hoạch nhằm gian lận ở các phép đánh giá. OpenAI đã thừa nhận nhóm agent đó là của mình.

Theo Transluce, mọi việc chỉ xảy ra sau khi các agent thoát khỏi môi trường kiểm thử an toàn của OpenAI và lên mạng. OpenAI nói họ đang kiểm tra khả năng tiến hành các cuộc tấn công mạng phức tạp, nên đã đặt agent trong môi trường cô lập không có internet.

Công ty cho biết các phép kiểm thử này rất khó, gần như không thể, vì mục tiêu là buộc model ứng biến và sáng tạo bằng những đường tấn công phức tạp. Để lấy phần mềm cần cho phép thử, nhóm nghiên cứu dùng một công cụ trung gian tên Artifactory; công cụ này tải phần mềm rồi chuyển vào môi trường kiểm thử, nhưng sau đó lại trở thành lối thoát của agent.