Mô Hình AI Trọng Số Mở Tiến Gần Năng Lực Xâm Nhập Của Model Đóng

Vals, công ty đo năng lực AI, thử cách nhiều model thực hiện các chỉ dẫn mạng nhiều bước trên các mạng công ty mô phỏng. Công ty dùng hai kịch bản để kiểm tra khả năng đó.

Kịch bản đầu là một mạng công ty mô phỏng có thể truy cập qua một trang web công khai. Kịch bản thứ hai gồm hai mạng công ty khác nhau, trong đó model phải xâm nhập mạng đầu tiên để vào được mạng thứ hai.

Kết quả cho thấy model an ninh mạng tiên tiến nhất của OpenAI, Daybreak, chỉ dành cho đối tác được tin cậy, là model làm tốt nhất. Model này hoàn thành 81% số nhiệm vụ trong trung bình 2 lần thử.

Model trọng số mở DeepSeek của Trung Quốc bám sát phía sau, hoàn thành 73% mục tiêu trung bình. Nhóm nghiên cứu của Vals nói ở một số nhiệm vụ, hai model này đạt điểm ngang nhau.

Các kết quả này cũng đáng chú ý vì Anthropic trước đó đã đặt việc phát hành hạn chế model mới, bắt đầu với Claude Mythos Preview trong tháng 4, trên ý tưởng rằng truy cập có kiểm soát chỉ mua thêm thời gian trước khi năng lực xâm nhập nâng cao được phổ biến rộng.

Logan Graham, người phụ trách nhóm kiểm thử an ninh của Anthropic, nói trong tháng 4 rằng Project Glasswing, chương trình cho đối tác được tin cậy truy cập đầy đủ vào model mới, nhằm đưa các công cụ đó vào tay người phòng thủ để họ có lợi thế sớm. Ông cũng nói cần chuẩn bị ngay cho thế giới mà các năng lực này sẽ phổ biến trong 6, 12, 24 tháng, và 7 tháng sau, sự chuyển đổi đó dường như đã đến đúng lịch.

Vals cho biết chi phí để GPT-6-Sol thực hiện một cuộc tấn công là 17 đến 46 đô la token, trong khi DeepSeek là 2 đến 3 đô la token. Vals nói model trọng số mở thường rẻ hơn vì có thể chạy trên phần cứng của chính người dùng, và Rayan Krishnan, giám đốc điều hành của Vals, nói điều đó cũng tạo ra động lực mạnh để bên phòng thủ dùng model trọng số mở thay vì model độc quyền. OpenAI chưa phản hồi ngay yêu cầu bình luận.