Cựu Nhà Nghiên Cứu DeepMind Muốn Giảm AI Bịa Đặt Bằng Kiểm Chứng

Graepel cho rằng cùng ý tưởng giúp AlphaGo thắng Lee Sedol năm 2016 cũng có thể làm AI đáng tin hơn, kể cả trong người máy. Metis Reasoning nhắc đến nước Move 37, nước mà mạng dự đoán ban đầu chỉ cho một người chơi cơ hội khoảng một phần mười nghìn.

Graepel là người sáng lập Metis Reasoning và trình bày cách làm này tại hội nghị GTC của Nvidia ở Berlin. Tại đây, hãng chip này đang mở rộng nền tảng cho người máy và AI vật lý, với mục tiêu biến vấn đề dữ liệu của người máy thành vấn đề compute.

Metis nói cần một sổ ghi tri thức rõ ràng, giống bàn cờ. Sổ này ghi điều đã biết, mức tin cậy và những câu hỏi còn mở; một mô-đun riêng sẽ kiểm tra các mục mới bằng tính toán, chứng minh hình thức hoặc bằng chứng thực nghiệm.

Khi một giả định không còn đúng, mọi kết luận phụ thuộc vào nó sẽ được đánh giá lại. Metis nói một 'nước' có thể là câu hỏi, một thí nghiệm hoặc một thách thức với giả định cũ, và hệ thống sẽ chọn cách làm giảm bất định nhiều nhất để đi tới câu trả lời hoặc việc từ chối trả lời có căn cứ.

Công ty cũng nói hai mạng nơ-ron sẽ đề xuất và đánh giá các 'nước', được huấn luyện từ các cuộc điều tra trước đó đã ghi lại nhưng không thể ghi đè lên quy tắc kiểm chứng. Metis cho rằng cách này sẽ giảm bịa đặt, tạo ra lời giải thích kèm trích dẫn nguồn, và giữ tri thức có thể đổi hoặc xóa mà không cần huấn luyện lại.