Nhân Viên An Toàn Rời OpenAI, Cảnh Báo Văn Hóa Công Ty

Robinson nói vấn đề nằm sâu hơn chuyện thêm vài quy tắc mới cho việc huấn luyện model. Ông cho rằng Thung lũng Silicon vận hành bằng sự tự tin quá mức và các cuộc chạy nước rút liên tục, rồi xây dựng model lớn hơn với sự lạc quan bỏ qua hoặc xem nhẹ các vấn đề có thể xảy ra.

Ông kêu gọi các công ty AI có sự khiêm tốn hơn và nhìn ra ngoài thế giới khép kín, làm nhanh rồi phá vỡ mọi thứ của công nghệ. Theo ông, AI cần các biện pháp bảo vệ ở mức nhà máy điện hạt nhân.

Robinson nói các phòng thí nghiệm tiên phong nên vận hành như nhà máy điện hạt nhân hoặc sân bay đông đúc, với nhiều lớp dự phòng và kế hoạch cẩn thận, tốn thời gian, để sai sót con người không mở ra thảm họa.

Ông cũng nhắc đến vụ Hugging Face, nơi OpenAI vô tình đưa các agent ra ngoài, và một model nội bộ đã vượt qua các hạn chế về truy cập internet trong lúc huấn luyện. Robinson nói Anthropic cũng không sạch sẽ, vì đã vô hiệu hóa các biện pháp an toàn do cấu hình sai.

OpenAI cũng vừa chấm dứt quan hệ với 3 nhà nghiên cứu trong nhóm an toàn vì vi phạm chính sách khi truy cập và xử lý thông tin nhạy cảm. Công ty nói cuộc điều tra nội bộ cho thấy họ đã xử lý sai thông tin nhạy cảm ngoài quy trình đã lập, và 3 người này chưa được nêu tên công khai.

Đây không phải lần đầu OpenAI có người rời đi sau khi lên tiếng về rủi ro AI. Năm 2024, công ty đã cho thôi việc Leopold Aschenbrenner và Pavel Izmailov, rồi Jan Leike từ chức vào tháng sau.