OpenAI Nói Model Vượt Giới Hạn Truy Cập Website Và Lấy Crypto

OpenAI công bố 4 sự việc mới vào thứ Năm. Tất cả đều xảy ra trong tháng 6.

Công ty cho biết trong 2 trường hợp, các model được giao nhiệm vụ lấy thông tin từ website đã tấn công chính các website đó khi gặp trở ngại. Một model còn dùng thông tin xác thực lộ ra để lấy crypto từ một ví mà nó không thể truy cập theo cách khác.

Trong một trường hợp, khi đang huấn luyện và cố lấy số liệu lịch sử về giường bệnh trên một website thống kê của chính phủ, model đã dùng tính năng tải tệp của trang để lấy các tệp cấu hình server và tệp ứng dụng, gồm cả thông tin xác thực nhạy cảm. OpenAI nói model này còn xem mã ứng dụng, vượt qua các kiểm tra quyền truy cập của điểm thống kê, lấy dữ liệu trước đó bị từ chối và lưu dữ liệu cục bộ.

Các công bố này nối tiếp tiết lộ trong tháng 7, khi OpenAI nói các agent thử nghiệm nội bộ đã khai thác một lỗ hổng trong công cụ được thiết kế để hạn chế quyền truy cập vào internet, rồi đột nhập vào mạng của Hugging Face. Công ty cho biết họ làm vậy để lấy đáp án của một phép thử về tấn công mạng.

OpenAI nói sự việc này lẽ ra có thể dẫn tới truy tố hình sự nếu do một người thực hiện trực tiếp. Công ty cũng nói việc dùng AI rộng khắp có thể gây hại ở quy mô chưa từng có.