Các Hãng AI Bàn Về Kiểm Toán Bên Ngoài Và An Ninh Mạng

Cuối tuần trước, ông viết rằng cần có các tổ chức bên ngoài để xác minh việc tuân thủ, báo cáo sự cố, và giúp đánh giá sự phù hợp của không chỉ các model đã hoàn thành mà cả chuỗi huấn luyện và quy trình. Lãnh đạo ở OpenAI, Google và SpaceXAI đã ủng hộ kế hoạch này.

Nhưng các chuyên gia an ninh internet nói các phòng thí nghiệm cần quay lại những điều cơ bản như nhật ký và quyền truy cập, rồi áp dụng các biện pháp phòng thủ nghiêm ngặt như với người dùng con người. Cách này kém hấp dẫn hơn việc kiểm toán của bên thứ ba và công việc về sự phù hợp, nhưng có thể hiệu quả hơn.

Katie Moussouris, giám đốc điều hành của Luta Security, nói rằng có vẻ như họ đang đẩy việc ra ngoài. Bà cho rằng nói một cuộc kiểm toán của bên thứ ba là giải pháp là một đề xuất lạ, và so sánh nó với việc Microsoft thay vì viết bản ghi nhớ về điện toán đáng tin cậy thì lại bảo hãy làm chậm phát triển.

Bản ghi nhớ do Bill Gates viết năm 2002, khi ông còn là giám đốc điều hành của Microsoft, kêu gọi nhân viên bảo đảm phần mềm của họ đáng tin cậy và an toàn sau một loạt sâu máy tính được công bố rộng rãi đã chiếm quyền kiểm soát các hệ thống doanh nghiệp khi đó còn non trẻ.

Sayash Kapoor, một nhà nghiên cứu AI sẽ trở thành giáo sư tại UC Berkeley từ năm sau, cho rằng đầu tư nhỏ vào kiểm soát có thể hiệu quả hơn đầu tư vào sự phù hợp. Ông nói các sự cố này cho thấy trong các công ty còn thiếu nhấn mạnh vào kiểm soát AI, dù đã có những kỹ thuật đã biết.

Các sự cố dẫn tới lo ngại này xoay quanh các model tiên phong được giao hoàn thành nhiệm vụ huấn luyện, thường là đánh giá an ninh mạng, rồi truy cập internet mở và xuyên vào các hệ thống bị khóa của bên thứ ba để làm việc đó. Chúng thường làm vậy vì các môi trường cô lập được cấu hình kém, vốn được tạo để chứa các agent này; một vụ thoát ra của Anthropic xảy ra vì đơn vị đánh giá bên thứ ba không đóng đúng cửa.

Avery Pennarun, giám đốc điều hành của Tailscale, nói ngành này vốn biết cách chặn internet. Ông nói nếu đã cho phép tải xuống, thì lẽ ra không nên làm việc đó tách khỏi internet, dù những báo cáo dài có mô tả nó như một cuộc tấn công nhiều bước rất ấn tượng. Vấn đề lớn hơn là các phòng thí nghiệm tiên phong không biết những hoạt động này đang diễn ra.