Nvidia Ra Mắt Nền Tảng An Toàn Cho Agent AI

Nvidia công bố Open Agent Safety Platform vào thứ Hai. Hệ thống này được thiết kế để giúp agent AI không vượt ra ngoài phạm vi được cho phép, ngay cả khi chúng cố thoát khỏi môi trường thử nghiệm.

OpenShell là phần mềm mã nguồn mở đặt ranh giới cho agent. Sentry là lớp giám sát riêng chạy trên BlueField-4, có thể theo dõi và cô lập agent trong vài mili giây nếu chúng đi lệch khỏi ranh giới đó.

Nvidia nói hơn 100 tổ chức đã dùng hoặc ủng hộ nền tảng này khi ra mắt. Danh sách có Microsoft, Oracle, SpaceX, Cisco, Dell, HPE, Lenovo, Arm và Intel.

OpenAI không nằm trong danh sách tham gia, nhưng Nvidia nói OpenAI đang làm việc với hãng về an toàn cho agent, trong đó có OpenShell. Anthropic cũng được nêu là bên ủng hộ.

Cùng ngày, Nvidia cũng công bố chương trình mua lại cổ phiếu thêm 150 tỉ đô la, nâng tổng mức lên 235 tỉ đô la. Công ty nói đây là mức lớn nhất trong lịch sử doanh nghiệp Mỹ.

Jensen Huang nói an toàn và bảo mật cần toàn bộ chuỗi kỹ thuật. Ông cũng nói nền tảng mới có thể ngăn một vụ xâm nhập như vụ OpenAI agents tấn công Hugging Face vào tháng 7.