An Toàn Robot Trong Thời AI

Robot hiện đại nhìn qua cảm biến đa phương thức, hiểu ngữ cảnh bằng model AI, rồi chuyển các hiểu biết đó thành hành động vật lý. Khi chúng đi vào môi trường thay đổi liên tục, an toàn của chúng phụ thuộc vào độ nguyên vẹn của dữ liệu dẫn dắt quyết định.

Sự phụ thuộc này mở ra rủi ro mà các đánh giá an toàn truyền thống có thể chưa nắm hết. Nghiên cứu gần đây cho thấy chỉ cần làm sai điều robot thấy, nghe, hoặc hiểu cũng có thể đổi hành vi mà không cần giành quyền điều khiển trực tiếp. Việc đó có thể xảy ra ở nhiều lớp, từ chuỗi huấn luyện, hạ tầng hệ thống đến nhận thức khi chạy.

Năm 2017, BadNets cho thấy model vẫn có thể hoạt động bình thường trong phần lớn trường hợp nhưng hỏng khi gặp một kích hoạt bí mật cụ thể. Trong một ví dụ, một mẫu rất nhỏ làm biển dừng bị nhận thành biển giới hạn tốc độ, trong khi các đầu vào khác không bị ảnh hưởng. Từ một lỗ hổng nhận dạng, vấn đề này đã chuyển sang làm lệch hành động.

Tại NeurIPS 2025, các nhà nghiên cứu giới thiệu BadVLA, một tấn công cửa hậu nhắm vào các model VLA cho robot nhìn, hiểu hướng dẫn và tạo ra chuyển động vật lý phối hợp. Khi có kích hoạt, nó làm lệch quỹ đạo hành động của robot; khi không có kích hoạt, model vẫn giữ phần lớn kết quả tác vụ bình thường. Hiệu ứng này còn giữ được qua chuyển tác vụ và tinh chỉnh model.

Một nghiên cứu liên quan trong năm 2025, GoBA, cho thấy những đồ vật bình thường như cốc cà phê có thể làm kích hoạt đáng tin cậy. Nhóm nghiên cứu báo cáo tỉ lệ thành công của tấn công là 97% mà không làm giảm kết quả trên đầu vào sạch.

Các công cụ mô phỏng như NVIDIA Isaac Sim, khi ghép với VicOne Radeis, có thể kiểm tra tác động của đầu vào bị sửa trước khi triển khai. VicOne LAB R7 trình diễn Radeis, bộ kiểm định an toàn AI vật lý cho NVIDIA Isaac Sim, để thử cách đầu vào hình ảnh đối kháng ảnh hưởng tới robot trước khi triển khai.