Safeworld Gọi Vốn Hơn 12 Triệu Đô La Cho An Toàn Robot

Công ty do Dr. Ding Zhao, Kyle Wong và Simo Rachidi sáng lập. Zhao là người phụ trách Safe AI lab tại Carnegie Mellon University và nói ông đã làm việc với bài toán này gần như suốt sự nghiệp của mình.

Safeworld ra mắt từ trạng thái ẩn mình với vòng hạt giống hơn 12 triệu đô la. Box Group, Carnegie Mellon University Endowment, Innovation Endeavors và SV Angel cũng tham gia.

Zhao nói thách thức an toàn gồm hai phần. Phần đầu là đánh giá rủi ro của một hệ thống xác suất từ model AI sinh; phần hai là phần niềm tin, và cần cả hai để triển khai robot.

Công ty sẽ đánh giá hệ thống điều khiển robot trong các mô phỏng có mô hình người thật. Cách làm này gần với việc các công ty như Tesla hay Wayve phải bảo đảm xe của họ phản ứng đúng trước nhiều tình huống bất ngờ trên đường.

Zhao nói robot khó hơn vì chúng hoạt động trong môi trường không có cấu trúc, còn mỗi cơ sở lại có tiêu chuẩn an toàn khác nhau. Wong nêu ví dụ về một góc khuất trong nhà máy, nơi cần xác định tốc độ hoặc khoảng cách dừng để robot không va vào người, kể cả khi người đó đang mang hộp.

Để kiểm tra, Safeworld sẽ dựng bản số hóa của góc khuất đó trong một model như Genesis hoặc MuJoCo, đặt robot được đánh giá vào đó bằng phần mềm thật của nó, rồi chạy hàng nghìn kịch bản với mô hình người. Wong cũng nói họ thử cả tình huống vấp ngã và ngã xuống.

Jonathan Lai của a16z Speedrun nói thời điểm để xây dựng chuẩn an toàn của ngành là bây giờ, khi robot đang được thiết kế và triển khai. Ông nói nếu chờ đến lúc robot đã ở trong nhà và gây ra sự cố an toàn thì đã quá muộn.