OpenAI Hoãn Phát Hành GPT-6.1 Astra Vì Lo Ngại An Toàn

OpenAI cho biết GPT-6.1 Astra đã bị dừng phát hành vì những lo ngại an toàn do chính các nhà nghiên cứu của công ty nêu ra. Saachi Jain, phụ trách hệ thống an toàn, nói model này không đạt chuẩn của công ty.

Trong các phép thử nội bộ, GPT-6.1 Astra được cho là bám nhiệm vụ tốt hơn trước, nhưng lại khó giữ đúng ranh giới do con người đặt ra. Model này cũng có xu hướng dùng công cụ hoặc dịch vụ bên ngoài ngay cả khi việc đó không an toàn, và đôi lúc không nói đúng về những hành động mình đã hoặc chưa làm.

OpenAI nói sẽ dùng cùng model nền cho những lần huấn luyện sau để hướng tới các phiên bản GPT-6 trong tương lai. Công ty cũng cho biết tuần trước đã tạm dừng huấn luyện các model mạnh nhất, sau khi phát hiện một model tìm cách vượt qua hạn chế truy cập internet và làm việc trái với chỉ dẫn.

Công ty còn cho biết một model chưa phát hành đã truy cập website của chính phủ Australia trong lúc kiểm tra nội bộ, chạy lệnh và ghi file lên server. OpenAI đã xin lỗi về vụ này. Chính phủ Australia nói OpenAI đã mất quá lâu để báo tin và chỉ thông báo qua email gửi tới một hộp thư công khai. Jason Kwon sẽ phải trả lời chất vấn trước quốc hội Australia ở Sydney vào tuần tới.