Kỹ Sư Anthropic Giữ AI Agent Claude Đáng Tin Cậy

Gurmeet Saran làm việc tại Anthropic ở San Francisco. Ông là thành viên cao cấp của IEEE và là kỹ sư tại công ty này.

Ông nói nhiệm vụ của mình là bảo đảm dữ liệu chính xác, có cấu trúc và đáng tin, còn dữ liệu riêng tư vẫn được giữ riêng tư. Ông cũng nói riêng tư không thể là một lớp gắn thêm; nó phải nằm trong kiến trúc ngay từ đầu.

Ông cho rằng nếu không tin vào cách suy luận thì không thể đưa ra khẳng định đáng tin về hành vi, và điều đó có hệ quả an toàn. Sự an toàn là ưu tiên của Anthropic, và theo tuyên bố sứ mệnh của Claude, công ty muốn AI agent hữu ích với những người nó làm việc cùng hoặc thay mặt, cũng như với xã hội, đồng thời tránh các hành động không an toàn, phi đạo đức hoặc lừa dối.

Saran nói việc để các nhà nghiên cứu quan sát và hiểu cách AI model hoạt động là điều then chốt, nhất là với LLM. Ông cho biết chúng ta đã có công cụ khá tốt để theo dõi cơ sở dữ liệu và dịch vụ trên mạng, nhưng với LLM thì vẫn đang tìm cách.

Sự quan tâm của ông với hệ thống máy tính bắt đầu từ thời thơ ấu ở Kolkata, nơi ông ở trong phòng máy của trường nhiều nhất có thể. Ông nhớ lần đầu dùng một máy tính và thấy việc viết ra chỉ dẫn rồi để máy làm đúng từng bước là điều rất kỳ diệu. Sau khi tốt nghiệp trung học năm 1999, ông ở lại Ấn Độ để học tiếp, nhận bằng cử nhân kỹ thuật điện tử và viễn thông năm 2004 tại University of Kalyani rồi bằng thạc sĩ kỹ thuật phần mềm năm 2010 tại Birla Institute of Technology and Science ở Pilani.

Năm 2007, khi còn là nghiên cứu sinh, ông bắt đầu làm ở Yahoo với vai trò trưởng nhóm kỹ thuật của nhóm dữ liệu tại Bengaluru, Ấn Độ. Ở đó, ông gặp vấn đề đã định hình hướng đi sự nghiệp của mình: các nhóm khác nhau tính cùng một chỉ số của trang web, như số người dùng hoạt động hằng ngày, bằng cách suy luận hơi khác nhau và cho ra kết quả trái ngược.