OpenAI Giải Tán Nhóm Preparedness, Phân Chia Công Việc An Toàn Cho Các Nhóm Khác

Nhóm Preparedness, phụ trách đánh giá liệu các model AI của công ty có thể gây rủi ro nghiêm trọng hoặc thảm họa hay không, đã bị đóng cửa vào cuối tháng Bảy, theo Financial Times dẫn nguồn nội bộ.

Công việc liên quan đến rủi ro sinh học và rủi ro mạng đã được phân cho các nhóm hiện có trong công ty. Lãnh đạo cũ của đơn vị, Dylan Scandinaro, hiện tập trung vào rủi ro an toàn từ AI "tự cải thiện đệ quy", tức hệ thống có thể tối ưu chính nó và huấn luyện các model khác.

Đồng sáng lập Greg Brockman nói rằng OpenAI đã dệt công việc an toàn chặt hơn vào quá trình phát triển model. Một số nhân viên an toàn gần đây đã rời công ty, bao gồm Chief Ethics Officer Chloe Bakalar và Joshua Achiam.

Báo cáo cho biết trong nội bộ đang xuất hiện sự lo lắng. Một nguồn mô tả cảm giác "nặng nề về trách nhiệm và sợ hãi" rằng OpenAI chưa làm đủ về an toàn. Nhân viên cũng đã lên tiếng công khai, đặc biệt sau vụ tấn công tự động liên quan tới Hugging Face, và một nhân viên hy vọng công ty xem đó như "một cảnh báo".