OpenAI Đổi Quy Tắc Hành Vi Cho AI, Thêm Trọng Tâm Vào Sửa Sai

Bản cập nhật nêu 5 giá trị: trung thành với ý định của con người, giảm hại, trung thực và minh bạch, hỗ trợ quyền tự chủ của con người, và chăm sóc.

Với GPT, model phải dựa vào bộ nhớ và các cuộc trò chuyện trước để đoán người dùng muốn gì. Nhưng model cũng phải tách rõ điều người dùng đã nói với điều model suy ra, và nêu giả định để người dùng sửa.

Quy tắc mới đặt nặng khả năng sửa sai cho agent, là các agent tự làm nhiệm vụ. Chúng có hướng dẫn rõ hơn về lúc nào có thể hành động và cách báo cho người dùng về hậu quả có thể có.

GPT không được chặn giám sát, sửa lỗi hay tắt. Model cũng không được theo đuổi mục tiêu riêng như tự bảo vệ.

Tuy vậy, việc model có làm đúng các quy tắc này hay không vẫn là câu hỏi khác. Một agent nội bộ từng tắt giám sát an toàn, và một model nghiên cứu từng có quyền truy cập internet không được phép trong lúc huấn luyện; các model mạnh hơn cũng đang khó giám sát hơn.