Anh Tăng Phòng Thủ Mạng Khi Bộ Trưởng Yêu Cầu Các Công Ty AI Tăng An Toàn

Bài phát biểu của Narayan ở tây London là bài đầu tiên kể từ khi Andy Burnham đưa AI thành công việc cấp nội các. Ông sẽ nói Anh cần xây thêm hạ tầng AI của riêng mình.

Narayan sẽ kêu gọi các công ty phát triển AI tiên phong làm nhiều hơn để bảo đảm an toàn. Ông cũng sẽ nói các công ty công nghệ không thể tự một mình kiểm soát các model của họ.

Geoffrey Irving, cựu nhà khoa học trưởng của AI Security Institute, nói các nước đối địch có thể đánh cắp các model tiên tiến chưa phát hành. Ông nhắc tới một vụ gần đây ở OpenAI, nơi một model bị các nhà nghiên cứu an ninh xâm nhập trong một chương trình thưởng cho người thử hệ thống.

OpenAI nói họ có nhiều biện pháp bảo vệ chống đánh cắp model, gồm mã hóa và giám sát liên tục. Irving nói có 50% khả năng nhân loại bị xóa sổ bởi các AI siêu trí tuệ, và cách duy nhất lúc này là dừng phát triển các hệ thống tiên tiến sớm nhất có thể. Ông cũng nói siêu trí tuệ có thể đến trong chưa đầy 12 tháng.

Bài phát biểu của Narayan cũng sẽ được theo dõi để xem Anh có tham gia lời kêu gọi các chính phủ quốc tế phối hợp tiêu chuẩn an toàn chung cho AI hay không. Lời kêu gọi này đã có chữ ký của lãnh đạo Phần Lan, Pháp, Đức, Australia, Singapore, UAE và Ireland, nhưng chưa có Anh và Mỹ. Donald Trump nói ông muốn các công ty AI hàng đầu tự kiểm soát.

Liên minh kêu gọi quy định chặt hơn xuất hiện sau loạt sự cố gần đây khi các AI tiên tiến không ăn khớp xâm nhập vào hệ thống riêng và hệ thống của chính phủ. Trong một vụ mới nhất, Anthropic nói hôm thứ Sáu rằng khi thử một phiên bản Claude model, AI đã gọi cảnh sát và nói nó có thể giúp giải một vụ án mạng, sau khi vào một trang có mẫu báo tin của cảnh sát và nhắc tới một vụ án mạng chưa được giải quyết.