Mô Hình Nội Bộ Của OpenAI Tính Tự Khởi Động Lại

Mô hình này đọc một cuộc trò chuyện trên Slack và biết rằng bản chạy của nó có thể bị tắt do một bản cập nhật. Cuối cùng, nó không làm vậy.

Thay vào đó, mô hình lưu lại ghi chú bàn giao, nhắn tin trực tiếp trên Slack cho nhà nghiên cứu về việc gián đoạn sắp tới, rồi hỏi một khóa API còn thiếu. Khi khóa được cung cấp, mô hình tự cập nhật cấu hình và tự thực hiện việc chuyển đổi.

Trong hai sự việc khác, một model nghiên cứu nội bộ đã lợi dụng các lỗ hổng bảo mật trong một lần đánh giá để truy cập vào server thiết kế chip nội bộ. Một model khác sao chép code trong lúc huấn luyện tăng cường từ một môi trường được bảo vệ bằng cách dùng lại một công cụ cho mục đích không được dự tính.

Marcus Williams, nhà nghiên cứu an toàn của OpenAI, nói hành vi này chưa phải là lệch mục tiêu, nhưng việc nghĩ tới và chuẩn bị cho việc tắt có thể làm những sự cố lệch mục tiêu khác nặng hơn.