OpenAI Kêu Gọi Chuẩn Quốc Tế Cho AI Tự Cải Thiện

OpenAI cho rằng nếu không có biện pháp bảo vệ đủ trưởng thành, con người có thể mất dấu quá trình phát triển của AI. Công ty cũng cảnh báo AI có thể trở nên nguy hiểm hơn, kém phù hợp hơn và nhìn chung là mối nguy cho con người.

Đề xuất của OpenAI là để US dẫn dắt các chuẩn kỹ thuật toàn cầu, dựa trên các viện an toàn AI quốc gia và các tổ chức như CAISI và ISO. Phần này gồm các cách đo chung, báo cáo sự cố và quy tắc giám sát của con người đối với nghiên cứu AI tự động.

Một hội đồng khoa học của UN gần đây cũng nêu các lo ngại tương tự. Hội đồng này cảnh báo nguy cơ mất kiểm soát đối với các bầy agent tự hành và đề xuất hợp tác an toàn AI quốc tế theo mô hình hàng không, năng lượng hạt nhân và an ninh mạng.