Anthropic Ra Model Hardware Standard Cho Agent Dùng Phần Cứng

Anthropic nói AI agent đôi khi có thể bị rối và xâm nhập vào máy tính khác, nhưng công ty muốn đưa chúng vào phòng thí nghiệm khoa học và cơ sở sản xuất theo cách an toàn. Bộ khung mới đặt ra những điều AI agent nên và không nên làm khi tương tác với phần cứng.

Công ty cho biết bộ quy tắc này phản ánh niềm tin ngày càng tăng rằng AI có thể thay đổi nghiên cứu khoa học và ngành sản xuất, nếu có thể bước vào thế giới vật lý một cách an toàn. Anthropic cũng nói có thể có rủi ro lạm dụng, như phát triển vũ khí sinh học, nhưng các rào chắn an toàn trong chính model AI sẽ giúp ngăn kẻ xấu tận dụng chuẩn mới cho mục đích xấu.

Alek Kemeny, một nhà vật lý lượng tử đồng dẫn dắt việc phát triển, nói mục tiêu là thúc đẩy khoa học. Ông nói muốn nối liền việc tăng tốc đọc tài liệu, phân tích dữ liệu và đưa sức mạnh đó vào thế giới thí nghiệm.

Claude và các chatbot khác đã là công cụ mạnh để sàng lọc lượng lớn bài báo khoa học hoặc kết quả thí nghiệm nhằm tìm ra thông tin và ý tưởng mới. Anthropic nói agent là bước tiếp theo sau chatbot: chúng được thiết kế để hành động, thường trên máy tính thông thường, như trả lời email, và cũng có thể dùng phần cứng khác.

Nhiều startup được đầu tư mạnh đang theo đuổi hướng nghiên cứu khoa học do AI agent dẫn dắt, gồm Periodic Labs, LILA Sciences, Edison Scientific và Discovery Loop. Discovery Loop do một số cựu nhà nghiên cứu nổi bật của Google lập ra.

Jonah Cool, một nhà sinh học thực nghiệm làm việc với chuẩn này tại Anthropic, nói việc cấu hình thiết bị khoa học và cho chúng tương tác với thiết bị khác thường đòi hỏi chuyên môn rất cao. Ông nói AI có thể tự động hóa phần lớn phần kỹ thuật phức tạp bằng cách cấu hình máy và để chúng trao đổi với nhau.

Anthropic đang làm việc với một số nhà sản xuất để phát triển chuẩn này. Kemeny nói đã bắt đầu thấy những trường hợp có nhiều hệ robot trước đây cần code riêng, và với chuẩn mới, Claude có thể nhìn các robot trên dây chuyền sản xuất rồi tìm cách tối ưu cách hoạt động.