Newsom Ra Sắc Lệnh Về Công Tắc Ngắt Cho AI

Hôm thứ Sáu, Newsom ra sắc lệnh hành pháp để đẩy nhanh giám sát độc lập đối với các công ty AI. Nhóm chuyên gia được giao hai tháng để đưa ra khuyến nghị về cách tăng cường an toàn AI trong luật của bang.

Newsom muốn nhóm này xem xét việc buộc các công ty AI đặt các nhóm thẩm tra độc lập ngay trong phòng thí nghiệm để kiểm tra định kỳ. Ông cũng muốn các báo cáo minh bạch và đánh giá rủi ro phải theo tiêu chuẩn của các kiểm toán viên độc lập.

Danh sách khuyến nghị còn có công tắc ngắt cho model tiên phong, và công tắc này phải được kiểm tra thường xuyên để bảo đảm có hiệu lực. Sắc lệnh cũng yêu cầu các công ty báo cáo những sự cố mất kiểm soát như vụ tấn công nhằm vào Hugging Face như các sự cố an toàn nghiêm trọng.

Một cơ quan của bang phải đẩy nhanh việc thực thi hai luật gần đây mà Newsom đã ký. Hai luật này tạo khung để các bên thẩm tra độc lập đánh giá an toàn AI và lập sổ đăng ký cho các kiểm toán viên AI.

Newsom nói không có luật liên bang nào buộc các công ty AI báo cáo các sự cố nguy hiểm. Ông cho biết California đã có luật về an toàn AI, bảo vệ trẻ em, deepfake, quyền riêng tư dữ liệu và an ninh mạng, đồng thời kêu gọi Quốc hội và Donald Trump xem khung đó như nền tảng quốc gia.

Newsom cũng chỉ trích Donald Trump sau khi ông này nói các phòng thí nghiệm đang gieo sợ hãi. Ngoài ra, một nhóm 42 nhà toán học cảnh báo về rủi ro của các hệ thống AI tiên tiến có thể phát triển rất nhanh trong tương lai gần.