Nhóm Tác Giả Cảnh Báo Nguy Cơ Bùng Nổ Trí Tuệ AI

Báo cáo này do Geoffrey Hinton và Yoshua Bengio cùng viết, với hơn 20 người tham gia. Trong số tác giả còn có Jack Clark của Anthropic và Jakub Pachocki, nhà khoa học trưởng của OpenAI.

Bản báo cáo có tên “What if automating AI nghiên cứu và phát triển triggers an intelligence explosion”. Nhóm tác giả nói họ lo ngại về tình huống AI tự cải thiện mà không cần con người can thiệp, một quá trình họ gọi là tự cải thiện lặp lại.

Trong bản báo cáo, quá trình này được gọi rộng hơn là nghiên cứu và phát triển AI tự động. Khi hệ thống AI đạt năng lực chuyên gia ở mảng này, một nhà phát triển có thể điều hành lực lượng tương đương hàng triệu nhà nghiên cứu hàng đầu.

Các tác giả nói tự động hóa nghiên cứu và phát triển AI là nguồn có khả năng nhất dẫn tới bùng nổ trí tuệ. Họ cho rằng AI đã góp phần cải thiện chính công nghệ của nó, và các hệ thống được cải thiện có thể được triển khai rất nhanh sau khi hoàn thành.

Nhóm tác giả đề nghị 3 ưu tiên chính sách: yêu cầu báo cáo tiến độ minh bạch về nghiên cứu và phát triển AI, kể cả đưa kiểm toán viên độc lập vào công ty; tìm cách kìm tốc độ phát triển AI; và chuẩn bị để thích ứng với bùng nổ trí tuệ.

Anthropic và OpenAI đều đã đồng ý để các bên đánh giá độc lập xem xét model của họ sau khi cảnh báo việc phát triển AI đang tiến gần tới điểm tới hạn về an toàn. Anthropic nói AI nay tạo ra 80% code của chính công ty, còn OpenAI dùng agent AI tự động trong các mảng như huấn luyện model mới.

Bản báo cáo cũng nói bằng chứng ban đầu cho thấy một bùng nổ trí tuệ do phần mềm dẫn dắt là có thể. Nếu điều đó xảy ra, nó có thể đưa tới các hệ thống AI cực kỳ nhanh, rất mạnh, hoặc vượt quá con người.