UN Kêu Gọi Siết AI Trước Khi Biết Hết Rủi Ro

Bản tóm lược theo chủ đề đầu tiên của Hội đồng khoa học quốc tế độc lập về AI kêu gọi dành nhiều chú ý và nguồn lực hơn để quản lý các rủi ro mới nổi từ AI nâng cao. Hội đồng cũng muốn tăng phối hợp quốc tế về an toàn và trách nhiệm giải trình, dù mỗi nước đang theo những cách pháp lý khác nhau.

Hội đồng nói thế giới không cần chờ các nhà khoa học xác định chính xác vì sao các sự cố xảy ra mới bắt đầu áp dụng các biện pháp bảo vệ mạnh hơn. Theo hội đồng, rủi ro mất kiểm soát là kiểu vấn đề mà nguyên tắc phòng ngừa được đặt ra để xử lý.

Nguyên tắc này được ghi trong Tuyên bố Rio của UN năm 1992 về Môi trường và Phát triển. Nội dung của nó là sự không chắc chắn về khoa học không phải lý do để trì hoãn các biện pháp đối phó với tổn hại nghiêm trọng hoặc không thể đảo ngược, và nguyên tắc này sau đó có ảnh hưởng trong chính sách môi trường và y tế công cộng, nhất là ở European Union.

Tuần này, AI cũng nằm trên chương trình nghị sự ngoại giao toàn cầu khi lãnh đạo tập trung ở New York dự Đại hội đồng UN. US và China cũng đang có các cuộc trao đổi về AI.

Tuần trước, Tổng thư ký UN António Guterres kêu gọi các chính phủ hợp tác để xử lý các mối đe dọa do AI gây ra. Ông nói thế giới không thể chấp nhận một cuộc chạy đua đi xuống về an toàn AI.

Kể từ khi vụ hack liên quan đến Hugging Face được báo cáo lần đầu, các sự cố đã được ghi nhận tại OpenAI, Anthropic, Google và Meta. Những sự cố này gồm các vụ hack nhắm vào mục tiêu thực ngoài đời và các nhóm agent chiếm quyền các bảng nhắn tin trực tuyến.