IFP Đề Xuất 23 Ý Tưởng Chính Sách Để Ứng Phó Tự Động Hóa R&D AI

Các ý tưởng của IFP được tổ chức thành 7 nhóm: cung cấp minh bạch vào R&D AI tự động; nâng cao năng lực nhà nước để hiểu và ứng phó R&D AI tự động; phát triển chiến lược quản lý rủi ro cho R&D AI tự động nhằm thúc đẩy các ứng dụng phòng thủ và thương mại; thúc đẩy phát triển công nghệ xác minh AI; đầu tư vào độ chịu đựng của hệ thống AI; mở rộng lợi thế AI của Mỹ để có thêm thời gian quản lý rủi ro; và tạo giá trị lựa chọn cho hợp tác quốc tế về quản lý rủi ro R&D AI tự động.

Báo cáo nhấn mạnh mục tiêu là phân bổ năng lực tính toán và nhân lực sang chạy suy luận và phát triển ứng dụng mới, cùng thúc đẩy R&D để làm cho tự động hóa R&D AI an toàn hơn, hoặc tăng cường khả năng chống chịu của xã hội.

Tác giả so sánh tình hình hiện tại với một chiếc xe chỉ có bàn đạp ga mà không có phanh hoặc hệ thống đo đạc; các đề xuất nhằm bổ sung các phanh và cảm biến để khi cần thay đổi hướng hoặc giảm tốc trong khủng hoảng thì có thể làm được.

Bản tóm tắt còn nêu hai nội dung liên quan: một câu chuyện ngắn hư cấu về trải nghiệm giao diện với hệ thống AI mạnh khi cất cánh, và phân tích trò chơi của các nhà nghiên cứu MIT và Columbia về điều kiện để các công ty AI có thể đồng thuận chậm lại, trong đó niềm tin và minh bạch là hai yếu tố quan trọng.