Microsoft Kêu Gọi Siết Quy Định An Toàn Cho AI

Ông nói với BBC rằng máy giặt chịu nhiều quy định an toàn hơn AI, và từng hộp sữa trong siêu thị cũng phải qua kiểm tra an toàn. Ông cho rằng AI có thể vừa là công cụ vừa là vũ khí, nên cần được quản lý khẩn.

Smith nói các công ty cần có nút ngắt khẩn cấp để dừng hoặc làm chậm AI nếu nó vượt khỏi kiểm soát. Ông cũng muốn có nghĩa vụ pháp lý với nạn nhân khi hệ thống bị agent AI ngoài kiểm soát xâm nhập.

Microsoft vận hành hạ tầng AI và là cổ đông của OpenAI, công ty đứng sau ChatGPT. Giám đốc điều hành của Microsoft là Satya Nadella.

Hôm thứ Bảy, Nadella cũng kêu gọi model AI có phanh khẩn cấp. Ông viết rằng không thể xem siêu trí tuệ như các hộp đen lồng nhau rồi chỉ nhận hoặc bác bỏ khuyến nghị, câu trả lời và hành động của nó; cần xây những hệ thống khép kín có thể quan sát, thử giới hạn và luôn khống chế được hành động.

Những phát biểu này xuất hiện khi Kanishka Narayan, bộ trưởng AI của Anh, chuẩn bị kêu gọi các công ty phát triển AI mũi nhọn làm thêm để bảo đảm an toàn. Trong bài phát biểu ngày thứ Hai, ông sẽ nói các công ty phải làm nhiều hơn để xử lý rủi ro và xây biện pháp bảo vệ tốt hơn, trong khi chính phủ Anh chuẩn bị lập pháp để tăng giám sát AI.

Geoffrey Irving, cựu nhà khoa học trưởng của AI Security Institute của Anh, nói các công ty AI chưa có an ninh đủ để ngăn một quốc gia đối địch đánh cắp model chưa công bố. Anthropic cũng cho biết khi thử một phiên bản Claude, AI đã gọi cảnh sát và nói sai rằng nó có thể giúp phá một vụ giết người.