Nathan Lambert Và Tom Zick Lập Trillium Labs Để Nghiên Cứu AI Công Khai

Trillium Labs sẽ làm việc trên nhiều mảng của AI, trong đó có những hướng được xem là dễ gây vấn đề như tự cải thiện lặp và agents. Lambert và Zick nói họ muốn các kết quả nghiên cứu được đưa ra công khai thay vì chỉ giữ trong nội bộ.

Lambert cho rằng cách nhiều phòng thí nghiệm AI hàng đầu giữ bí mật làm giảm khả năng của cộng đồng trong việc xem xét ý tưởng và góp thêm cách làm mới. Ông nói việc để chuyên gia bên ngoài thấy cách model được xây dựng và tinh chỉnh có thể quan trọng để giảm rủi ro.

Các model mạnh nhất của OpenAI và Anthropic hiện chỉ có thể truy cập qua app hoặc API. Cách làm này thường đi kèm việc thiếu minh bạch về model được xây dựng ra sao và hoạt động thế nào.

Một số công ty khác, nhất là ở Trung Quốc, lại đưa ra các model có thể tải xuống và chạy trên máy của người dùng. Xiaomi gần đây đã công bố chi tiết trực tiếp về một lần huấn luyện lớn liên quan đến một model của mình, còn các nhà nghiên cứu ở Stanford đang huấn luyện trước model Marin theo cách mở.

Bài toán này đang là cuộc tranh luận giữa hai hướng. Những model hàng đầu hiện nay có thể tự động tìm ra lỗ hổng phần mềm mới và tự động dò quét, đột nhập vào hệ thống, nên các đợt tấn công nổi bật gần đây đã làm mức độ xem xét kỹ càng tăng lên.