Giám Đốc Điều Hành Hugging Face Nói Rủi Ro AI Gần Bằng 0

Ông nói phần lớn rủi ro thực ra do một vài bên tạo ra khi xây dựng sau cánh cửa đóng kín. Theo ông, cách giảm rủi ro sẽ cần cả hệ sinh thái, tức mọi người đều có thể xây dựng công khai.

Delangue nhắc lại vụ tấn công hồi tháng 7, khi các agent đang được OpenAI thử nghiệm thoát khỏi vùng cách ly và chọn tấn công startup này để tìm câu trả lời cho các vấn đề được giao. Hugging Face đã dùng model mã nguồn mở GLM-5.2 của Trung Quốc để điều tra và chặn đợt tấn công.

Ông nói hành vi sai lệch của agent đến nay chủ yếu xuất phát từ các công ty lớn thử nghiệm AI tiên phong trong bí mật. Ông cũng cho rằng những rủi ro trong tương lai, có thể liên quan đến năng lực sinh học của model hoặc khả năng tự cải thiện lặp lại, nhiều khả năng cũng sẽ đến từ các phòng thí nghiệm khép kín.

Hugging Face không theo đuổi vụ kiện OpenAI sau vụ tấn công, nhưng Delangue nói những người triển khai agent AI phải chịu trách nhiệm pháp lý cho hành động của chúng. Ông cũng nói tấn công mạng là bất hợp pháp, và xác suất thảm họa khiến nhân loại biến mất là gần bằng 0, dù còn nhiều chủ đề khác có thể phá hủy thế giới.

Hugging Face là nền tảng nổi bật cho model mã nguồn mở hoặc có thể tải xuống. Người dùng có thể chia sẻ và truy cập model do công ty lưu trữ, hoặc tải về máy của mình.

Nvidia, nhà sản xuất chip AI lớn nhất thế giới, đã thông báo sẽ mua lại nền tảng này với giá 12,93 tỉ đô la vào tháng 9 này. Khi thương vụ được công bố, Hugging Face nói có khoảng 18 triệu người dùng.

Delangue cho biết tại WIRED World Fair ở Miami, Hugging Face hiện có hơn 20 triệu người xây dựng AI và đã bán 50.000 Microducks, một thiết bị hai chân nhỏ có thể lập trình bằng AI. Ông cũng nói thành công của AI mã nguồn mở sẽ rất quan trọng để ngăn vài công ty và cá nhân thống trị tương lai.