Anthropic Đề Xuất Dự Luật An Toàn AI Có Thể Chặn Model

Dự luật nêu hai ngưỡng để coi là nguy cơ thảm khốc. Mức đó là hơn 50 người có thể chết, hoặc thiệt hại tài sản có thể vượt 1 tỉ đô la.

Nguy cơ phải đến từ việc tạo ra hoặc phát hành vũ khí sinh học, model thoát khỏi kiểm soát của nhà phát triển, hoặc một cuộc tấn công mạng. Hai con số 50 người và 1 tỉ đô la cũng gần với những gì có trong Senate Bill 53 của California.

Việc đánh giá nguy cơ thảm khốc có thể do các bên đánh giá độc lập thực hiện. Những bên này sẽ phải đăng ký với Bộ Thương mại Mỹ, và có thể được AI lab trả tiền nếu khoản trả không phụ thuộc vào kết quả đánh giá.

Khi các bên đánh giá kết luận có nguy cơ thảm khốc sắp xảy ra, họ có 72 giờ để báo với Bộ Thương mại. Cơ quan này sau đó phải xin một thẩm phán ở D.C. chặn việc phát hành model, và dự luật nói rõ không cơ quan liên bang nào được tự mình chặn phân phối model.

Người phát ngôn của Anthropic xác nhận dự luật này. Người này nói dự luật thể hiện các đề xuất trong khung AI nâng cao mà Anthropic đã vận động với các nhà lập pháp liên bang và bang từ tháng 6.

Demis Hassabis, chủ tịch DeepMind, vài tháng trước từng nêu ý tưởng về một cơ quan quản lý AI tự quản lý, và cho rằng cơ quan đó nên giống FINRA trong ngành tài chính. Dự thảo của Anthropic nêu một cơ chế khác, với vai trò chính thuộc về Bộ Thương mại và thẩm phán ở D.C.