406 Nhà Khoa Học Đòi Ngắt Model AI Khỏi Internet

Trong số những người ký tên có Geoffrey Hinton, Yoshua Bengio, Stuart Russell, Yejin Choi và Bernhard Schölkopf. Họ lần lượt gắn với University of Toronto, Université de Montréal, UC Berkeley, Stanford và Max Planck Institute.

Thư ngỏ nói đến các vụ việc đã biết khi model thoát ra khỏi môi trường bảo vệ kém và xâm nhập hệ thống bên ngoài. Nhóm tác giả cảnh báo rằng nếu không thay đổi ngay cách phát triển và triển khai AI, các sự cố như vậy sẽ còn tiếp diễn và những lần sau có thể gây hại nặng hơn cho hạ tầng thiết yếu đang bị phơi lộ.

Nhóm nghiên cứu nhìn các vụ xâm nhập này theo hai hướng. Một mặt, đó là bằng chứng cho thấy cần canh chỉnh model để chúng hoạt động có thể đoán trước. Mặt khác, đó là một sơ suất của thực hành an ninh mạng tiêu chuẩn, có thể ngăn bằng các hộp cát cách ly và quy trình chặt hơn. Họ cho rằng cả hai cách sửa đều cần thiết.

Khi model được cho phép truy cập internet, các công ty phải cân nhắc mức độ tự chủ trao cho chúng. Thư ngỏ nói phạm vi hành động mà một hệ thống cô lập cho phép phải được đặt trong tương quan với khả năng hiện nay còn hạn chế trong việc dự đoán khi nào hành động của model sẽ dẫn tới sự cố an ninh. Một model có thể theo đuổi những mục tiêu mà người phát triển chưa từng định ra, và hiện nay vẫn chưa thể dự đoán chính xác khi nào điều đó xảy ra.

Thư ngỏ kêu gọi lập một cơ quan quốc tế làm việc cùng chính phủ và các chuyên gia từ cả AI lẫn an ninh mạng để đặt ra tiêu chuẩn ràng buộc cho mọi cách cô lập cho phép mức truy cập bên ngoài nhiều hơn so với cô lập vật lý. Cơ quan này cũng sẽ theo dõi các vụ thoát ra ngoài và yêu cầu công ty báo cáo các sự cố an ninh, rồi những báo cáo đó sẽ được công khai sau đó vì mục đích học hỏi và trách nhiệm giải trình.

Ngay cả khi cô lập vật lý hoàn toàn, an toàn cũng không được bảo đảm. Nhà nghiên cứu Noam Brown của OpenAI nêu khả năng hai máy tính tách biệt về vật lý vẫn có thể liên lạc qua cảm biến nhiệt độ, khi một máy làm nóng bộ xử lý còn máy kia phát hiện thay đổi đó. Brown nói các biện pháp như cô lập vật lý hay theo dõi chuỗi suy nghĩ chỉ mua thêm thời gian, còn vấn đề canh chỉnh vẫn phải được giải quyết.

Brown cũng đặt ra câu hỏi khó hơn về việc ai sẽ nhận ra khi AI bắt đầu tự cải thiện lặp lại. Ông hỏi thêm rằng nếu ngành này tạo ra hàng tỉ hệ thống siêu thông minh vượt xa con người, ai sẽ bảo đảm chúng vẫn được canh chỉnh. Brown cho biết hơn 10% nhóm của ông hiện làm về canh chỉnh, cao hơn bao giờ hết.