Nhà Khoa Học AI Của Tencent Cảnh Báo Model Mở Và Vũ Khí Sinh Học

Vinces Yao Shunyu, từng ở OpenAI, chọn cách ở giữa trong tranh luận về model mở và model khép kín. Ông nói kết hợp hai kiểu model giúp mọi người dùng công nghệ cho phòng thủ, nhưng trong sinh học thì tấn công và phòng thủ khó tách hơn an ninh mạng. Vì khoảng cách giữa model Trung Quốc và Mỹ không lớn, ông kêu gọi cả ngành đi thận trọng.

Ông lấy một vụ việc ở Hugging Face làm ví dụ. Khi các model Mỹ khép kín như Claude của Anthropic từ chối phân tích lệnh tấn công vì bộ lọc an toàn, nền tảng đã dùng model Trung Quốc mở GLM-5.2 để đọc nhật ký. Cách dùng này chỉ xuất hiện trong khâu phân tích sau sự cố.

Vụ tấn công thực sự dừng lại khi nhóm an ninh vá lỗ hổng bị khai thác, dựng lại các server bị ảnh hưởng và đổi thông tin xác thực. Hugging Face cũng nói sự việc này không phải lý do để bỏ bộ lọc an toàn trên model được lưu trữ. Anthropic và OpenAI chỉ chia sẻ những model an ninh mạng mạnh nhất với đối tác đã được thẩm định, qua các chương trình như Project Glasswing và Daybreak.

Tháng 7, Anthropic là phòng thí nghiệm AI lớn duy nhất không ký một bức thư do Nvidia hậu thuẫn, bức thư cảnh báo không nên siết quá sớm model mở. CEO Dario Amodei phản bác lập luận rằng model mở có lợi cho bên phòng thủ hơn bên tấn công. Ông nói các cơ chế an toàn khó thực thi và trọng số model đã công bố thì không thể thu hồi.

Abliteration cho thấy bộ lọc an toàn trên model mở dễ bị gỡ bỏ thế nào. Bất kỳ ai có trọng số model cũng có thể dùng để loại bỏ có chọn lọc hành vi từ chối đã được huấn luyện, và hàng nghìn biến thể như vậy đang ở trên Hugging Face. Startup Mỹ Abliteration.ai còn bán quyền truy cập vào bản GLM-5.3 không lọc; các biện pháp đối phó hiện có chỉ làm việc sửa đổi khó hơn chứ không chặn được. Một hướng chắc hơn là không đưa kiến thức nguy hiểm vào model ngay từ lúc huấn luyện.

Trung Quốc cũng nhìn thấy vấn đề. TC260 nói cơ chế an toàn trong model mở có thể bị gỡ bỏ hoặc vượt qua, và đang làm tiêu chuẩn an ninh riêng cho AI mã nguồn mở. Dự thảo khung kiểm soát xuất khẩu áp dụng với các model rất lớn nhưng loại trừ model mở đã được phát hành, trong khi cả Trung Quốc lẫn Mỹ chưa đặt một ngưỡng ràng buộc để cấm công bố model mở.