Cựu Nhân Viên DeepMind Nói Từng Cấm Nói Về Nguy Cơ Tuyệt Chủng

Maini nói các nhà nghiên cứu được hướng dẫn gạt bỏ những rủi ro đó là thái độ thổi phồng lo ngại. Họ còn được bảo so với các phim như Terminator và chuyển sang nói về ứng dụng tích cực trong y tế hoặc khí hậu.

Bên trong, nhóm này biết vấn đề căn chỉnh AI chưa được giải quyết và có quá ít người làm việc cho nó. Maini nói đã có nhiều tháng phản đối trước khi quy định được nới lỏng.

Sau đó, những nội dung an toàn được viết theo hướng tích cực đã được cho phép. Maini nêu một bài đăng dùng cách diễn đạt thân thiện để nói về nguy cơ tuyệt chủng.

Maini nói khoảng cách giữa hiểu biết bên trong và thông điệp bên ngoài đang thu hẹp, vì các bằng chứng giờ khó gạt bỏ hơn. Ông đưa ra nhận xét này khi ngày càng nhiều nhà nghiên cứu an toàn AI lên tiếng công khai.

Những cảnh báo đó nhắm vào các model không được bảo vệ đủ chặt, có thể cho phép hành động nguy hiểm hoặc các hệ thống tiên tiến vượt khỏi kiểm soát của con người. Maini nói ngay trong DeepMind cũng có nhà nghiên cứu đang lên tiếng.