Satya Nadella Kêu Gọi Đặt Phanh Khẩn Cấp Cho AI

Trong một bài đăng dài trên X, giám đốc điều hành của Microsoft nói về các rủi ro do những model AI rất tiên tiến gây ra và cách đối phó. Ông cho rằng không thể tiếp tục coi AI như những hộp đen lồng nhau rồi chỉ chấp nhận hoặc bác bỏ lời khuyên và hành động của chúng.

Ông muốn một hệ thống minh bạch hơn, nơi model có thể được khoanh vùng, theo dõi và để lại bằng chứng người đọc được, không thể sửa. Nadella nói cách làm này nhằm thay đổi cách nhìn về lòng tin đối với AI.

Một số đề xuất của ông giống với những gì nhiều người trong ngành đã nói: công bố sự cố kịp thời, kiểm tra độc lập, dữ liệu kiểm chứng được và khoanh vùng. Ở điểm khoanh vùng, ông đi xa hơn khi nói phải coi model là đã bị xâm phạm và khoanh vùng ngay từ đầu.

Ông ví điều đó như một phanh khẩn cấp. Theo ông, người được phép phải luôn có thể tạm dừng hoặc tắt một model khi đang làm việc.

Nadella cũng nói các model tiên tiến hơn sẽ cần công nghệ khoanh vùng tiên tiến hơn để được chuẩn hóa. Trong suốt bài đăng, ông cũng dùng cụm siêu trí tuệ để nói về AI.