Liên Hiệp Quốc Cảnh Báo Biện Pháp Bảo Vệ AI Không Thể Chờ

Báo cáo nói không có bảo đảm con người sẽ giữ được quyền kiểm soát đối với AI agent. Ban này cũng cho rằng thế giới không cần đợi khoa học xác định chính xác vì sao sự cố xảy ra mới bắt đầu siết biện pháp bảo vệ.

Đây là bản chuyên đề đầu tiên của Independent International Scientific Panel on AI, cơ quan được lập năm ngoái và được Liên Hiệp Quốc gọi là cơ quan khoa học toàn cầu đầu tiên về AI. Báo cáo kêu gọi chú ý và nguồn lực nhiều hơn để xử lý các rủi ro mới nổi, cùng phối hợp quốc tế mạnh hơn về an toàn và trách nhiệm giải trình.

Báo cáo xuất hiện khi Bắc Kinh và Washington chuẩn bị thảo luận về AI và các nhà lãnh đạo thế giới tụ họp ở New York trong tuần này. Tổng thư ký Liên Hiệp Quốc António Guterres tuần trước cũng kêu gọi các chính phủ hợp tác để đối phó các đe dọa do AI gây ra.

Cùng ngày thứ Tư, Sam Altman của OpenAI và Dario Amodei của Anthropic đã trình bày riêng trước Hội đồng Bảo an về an toàn AI. Altman nói AI có thể giống như một cuộc phục hưng mới của sáng tạo và khám phá, hoặc như một cuộc cách mạng công nghiệp mới của xáo trộn và rối loạn.

Amodei nói qua video call và lặp lại nhiều điểm trong bài đăng ngày 12 September, trong đó ông kêu gọi tăng hợp tác và giám sát toàn cầu với AI. Ông nêu việc cấm dùng AI để phát triển vũ khí sinh học và đặt chuẩn toàn cầu cho việc thử các model mới.