Ba Nhà Nghiên Cứu Kêu Gọi Giữ Cho AI Mở Dù Lo Ngại An Toàn Tăng

Ba diễn giả là Geoffrey Hinton, Fei-Fei Li và Andrew Ng phát biểu tại hội nghị Ai4 hôm trước ở Las Vegas. Họ đều nói về mối quan ngại an toàn trong AI và tranh luận về vai trò của mô hình mở.

Andrew Ng nói ông lo ngại xuất hiện những người kiểm duyệt công nghệ, và ông không muốn có 'gatekeepers' hạn chế truy cập AI. Ông đề xuất duy trì nhiều nhà cung cấp để các model và công ty cạnh tranh, và ông kêu gọi thúc đẩy tính mở để AI đến tay nhiều người hơn.

Geoffrey Hinton phân biệt giữa phần mềm mã nguồn mở và model phát hành trọng số mở. Ông cho rằng mở trọng số khác vì người ta đưa ra tham số của một model đã huấn luyện, và điều đó làm dễ dàng hơn để tái huấn luyện các model lớn phục vụ mục đích xấu như tấn công mạng.

Dù có ngần ngại, Hinton nói rằng mô hình có trọng số mở đã trở thành thực tế và rào cản chi phí huấn luyện các model nền tảng đã biến mất. Ông nhận rằng cuộc tranh luận về việc này dường như đã thua, nhưng vẫn cảnh báo về rủi ro khi AI tiếp tục tiến triển.

Bài viết nêu rằng các mô hình có phân phối miễn phí và ít kiểm soát cách sử dụng khiến lĩnh vực này trở thành điểm nhạy cảm, và một số phòng thí nghiệm coi model trọng số mở là đáng lo ngại.