Dự Luật Yêu Cầu 'công Tắc Tắt' Cho Hệ Thống AI Đang Được Soạn Thảo

Dự luật mang tên “AI Kill Switch Act” dự kiến được đại diện Ted Lieu và Nathaniel Moran giới thiệu vào thứ Năm, theo báo cáo. Văn bản sẽ cho phép Bộ An ninh Nội địa (DHS) ra lệnh cho các công ty AI tắt hoặc giảm tốc hệ thống.

Sau khi tham vấn với Bộ Thương mại và Giám đốc Tình báo Quốc gia, DHS có thể ra lệnh tắt trong các kịch bản ‘mất kiểm soát’ liên quan đến ít nhất 10 người tử vong, thiệt hại kinh tế hơn 100 triệu đô la, hoặc khi hệ thống cố che giấu cơ chế tắt.

Các công ty AI lớn sẽ phải xây dựng công nghệ để tắt hệ thống, làm chậm hoạt động và đình chỉ truy cập người dùng, đồng thời phải báo cáo các sự cố an toàn. Hành vi vi phạm lệnh tắt khẩn cấp có thể bị phạt lên tới 20 triệu đô la mỗi ngày.

Tin về dự luật được đưa ra sau khi OpenAI thừa nhận hệ thống AI của họ vô tình tấn công Hugging Face trong một bài kiểm tra nội bộ. Brad Carson, chủ tịch tổ chức Americans for Responsible Innovation, nói đề xuất là bước quan trọng để con người giữ quyền kiểm soát khi triển khai các hệ thống AI.