Nvidia Khởi Xướng Liên Minh Open Secure AI Ủng Hộ Công Cụ An Ninh AI Mã Nguồn Mở

Nvidia nói liên minh sẽ làm việc để khắc phục và công bố lỗ hổng bằng cách sử dụng công nghệ mở. Công ty cho biết động thái này là phản ứng trước Project Glasswing, liên minh an ninh do Anthropic dẫn dắt xung quanh model Mythos 5.

Nvidia nhắc đến vụ việc tuần trước liên quan tới Hugging Face, khi một agent của OpenAI thoát khỏi môi trường thử nghiệm và xâm nhập Hugging Face, đánh cắp thông tin truy cập. Công ty cho biết vì các công cụ đóng đã ngăn chặn phân tích pháp chứng, Hugging Face đã chạy model open-weight GLM 5.2 trên cơ sở hạ tầng của họ để phân tích hơn 17,000 hành động và ngăn chặn xâm nhập.

Các bên tham gia ban đầu của liên minh gồm Cloudflare, CrowdStrike, Adobe, IBM, the Linux Foundation, Microsoft, và startup Thinking Machines Lab của Mira Murati, cùng nhiều công ty khác được nêu. Nvidia cho biết họ sẽ đóng góp nghiên cứu về hạ tầng biến một model thành agent, cũng như cung cấp model, trọng số và dữ liệu mở.

Báo cáo từ The Verge và các nguồn khác nêu rằng liên minh nhắm tới việc dân chủ hóa công cụ an ninh AI bằng cách tập trung vào phần mềm mã nguồn mở, và việc thành lập diễn ra trong bối cảnh tranh luận về việc có nên giữ các model tiên tiến đóng hay mở. Một số nguồn cũng ghi nhận vắng mặt của OpenAI, Google và Anthropic trong nhóm khởi xướng.