OpenAI Sẽ Dùng Dữ Liệu Daybreak Blue Để Huấn Luyện Model

Một thư điện tử gửi tới thành viên chương trình Trusted Access đã xác nhận thay đổi này. OpenAI sau đó gửi thêm một thư điện tử thứ hai và hứa sẽ có cách không tham gia riêng.

Dữ liệu phiên Daybreak Blue trước đây bị loại khỏi huấn luyện. Điều đó đúng ngay cả khi người dùng đã tắt mục “cải thiện model cho mọi người”.

Các nội dung bị gắn cờ trong các đợt đánh giá an toàn vẫn có thể được dùng cho mục đích an toàn. Phản ứng dữ dội đến nhanh sau thay đổi này.

Các nhà nghiên cứu lo ngại điều đó có thể lặp lại vụ Buckmaster-Alpöge. Tristan Buckmaster và Levent Alpöge đã tải lên các bản thảo phương trình Navier-Stokes vào Codex của OpenAI, rồi OpenAI sớm đưa ra chứng minh của riêng mình nhưng phủ nhận đã dùng đầu vào của họ để huấn luyện.

Sự nghi ngờ đó cũng đủ để cho thấy điều gì có thể xảy ra.