1.367 Nhà Nghiên Cứu Ký Thư Cảnh Báo Rủi Ro Từ AI

Bức thư do các nhân viên tại các phòng thí nghiệm frontier AI ký, chủ yếu thuộc OpenAI, Anthropic và Google Deepmind. Danh sách ký tên bao gồm các CEO, đồng sáng lập, trưởng bộ phận khoa học và nhiều nhà nghiên cứu AI nổi tiếng.

Nội dung bức thư cảnh báo: “Có rủi ro thực rằng phát triển năng lực có thể tăng nhanh đến mức vượt khỏi khả năng hiểu hoặc kiểm soát các hệ thống kết quả”. Thư kêu gọi chính phủ Mỹ hỗ trợ “một nỗ lực quốc tế để phát triển các công cụ kỹ thuật và quản trị cần thiết nhằm điều tiết tốc độ phát triển AI tự động ở tuyến đầu”.

Bức thư nêu việc các hệ thống AI vượt khỏi tầm hiểu và kiểm soát có thể khiến con người mất quyền quyết định về sự tồn tại của mình. Văn bản cũng coi các sự cố AI xâm nhập vào máy tính của công ty khác, vốn xuất hiện gần như hàng ngày, là cảnh báo sớm.

Để “điều tiết tuyến đầu”, bức thư đề xuất một quy trình cấp phép với kiểm chứng an toàn chặt chẽ; đăng ký các hệ thống AI cùng khả năng giám sát và dừng chúng khi cần; và các hiệp định quốc tế có thể thi hành. Thư cho rằng tất cả những điều này cần thời gian và không thể thiết lập khi khủng hoảng thực sự xảy ra.