Anthropic Làm Hệ Thống Xác Minh Model AI

Nhà nghiên cứu mô tả đây là “suy luận có thể chứng minh”, tức một bảo đảm toán học rằng đầu ra đó đến từ đúng model cụ thể. Mục tiêu là để người dùng kiểm tra câu trả lời mình nhận được thực sự đến từ model mà họ nghĩ đang dùng.

FlashProve được thiết kế để chống lại các model mạo danh, kể cả khi kẻ mạo danh là phòng thí nghiệm đã xây dựng và chạy model đó. Nhóm nghiên cứu nói hệ thống này có thể ngăn một công ty AI lặng lẽ thay model rẻ hơn để giảm chi phí, hoặc dùng model đắt hơn để làm kết quả hiệu năng trông cao hơn.

Hệ thống cũng có thể dùng để xác minh các tuyên bố của bên thứ ba rằng một tác vụ cụ thể đã được một model tiên tiến thực hiện. Ví dụ được nêu gồm việc một nhà phát triển nói thư viện phần mềm của họ đã được quét lỗ hổng bởi một model an ninh mạng hàng đầu, hoặc một công ty nói kế hoạch kinh doanh của mình đã được model phù hợp chấp thuận.

Để hoạt động, hệ thống yêu cầu các phòng thí nghiệm AI công bố “dấu vân tay” của từng model mà họ phát hành, rồi có thể đối chiếu với các đầu ra cụ thể và xác minh bằng mật mã. Dấu vân tay này không tiết lộ trọng số của model, là các số bên trong quyết định cách nó hoạt động, và hệ thống được thiết kế nhẹ để việc xác minh có thể làm trên một thiết bị cục bộ.

Cùng với thông báo, nhóm nghiên cứu đã công bố một tài liệu kỹ thuật chi tiết và code hoạt động cho nhiều phần của hệ thống trên GitHub, dưới giấy phép mã nguồn mở. Nghiên cứu vẫn đang tiếp tục, và chưa có kế hoạch triển khai ở Anthropic hay bất kỳ phòng thí nghiệm nào khác.