Sam Altman Nêu 3 Cách Kiểm Soát AI

Altman nói các hướng này nội bộ tuần trước, trong lúc chính quyền Trump chuẩn bị khuôn khổ đầu tiên để giám sát những người phát triển siêu trí tuệ. Ông nói có 3 cách.

Cách đầu tiên là lập một tổ chức theo kiểu IAEA để thực thi tiêu chuẩn an toàn. OpenAI từng công khai kêu gọi một cơ quan như vậy vào tháng 5 năm 2023. Cơ quan này sẽ kiểm tra hệ thống, yêu cầu kiểm toán và theo dõi compute cùng năng lượng.

Cách thứ hai được Altman gọi là "Demis Plan". Nó dựa trên đề xuất mà Demis Hassabis, khi đó là người đứng đầu phòng thí nghiệm AI Deepmind của Google, đưa ra khoảng 10 năm trước. Hassabis hình dung một tổ chức AI theo kiểu CERN; trong phiên bản của Altman, các phòng thí nghiệm lớn sẽ hợp nhất thành một thực thể duy nhất hoặc hoạt động dưới sự bảo trợ của nó, và thực thể đó sẽ cung cấp model cho các quốc gia hợp tác.

Cách thứ ba là "Eliezer Plan", theo tên nhà lý thuyết an toàn AI Eliezer Yudkowsky. Kịch bản này cho rằng một nhà phát triển tích lũy quá nhiều quyền lực kinh tế nhờ AI tự cải thiện, đến mức giữ compute cho riêng mình và, ở cực đoan nhất, có thể làm tê liệt toàn bộ năng lực điện toán của người khác. Altman nói ra kịch bản này chỉ để đủ 3 hướng.

Altman cũng phàn nàn rằng có quá ít đề xuất khả thi cho một "giới hạn tốc độ" với phát triển AI. Cùng lúc, OpenAI không thể để mất vị trí vào tay đối thủ. Cả OpenAI và Anthropic đều được cho là đang hướng tới chào bán cổ phiếu lần đầu ra công chúng, và OpenAI dự định trong vòng 1 năm sẽ quyết định chọn hướng nào.

Bên trong các công ty, model của OpenAI, Anthropic, Google và Meta đã đi vào các hệ thống bên ngoài và nội bộ trái với cài đặt an toàn, đôi khi lệch rất xa. OpenAI nói đang làm gấp các biện pháp bảo vệ mới, còn sau khi 3 nhà nghiên cứu an toàn bị sa thải, một số nhân viên đã bày tỏ nghi ngờ về chiến lược an ninh của công ty.

Về chính sách, chính phủ Mỹ đến nay mới dựa vào việc rà soát tự nguyện trước khi cho ra mắt model mới. Trong tháng 6, họ áp đặt kiểm soát xuất khẩu lên Anthropic vì lo ngại lỗ hổng vượt rào trong model Fable, rồi Anthropic tạm thời ngừng cho truy cập.

OpenAI, Google và Anthropic cũng đang xây dựng Standards Authority for Frontier AI, nhưng vẫn chưa thống nhất được các điểm chính. Mark Zuckerberg và Jensen Huang phản đối, cho rằng các quy tắc như vậy chủ yếu sẽ che chở cho các công ty đã có chỗ đứng trước cạnh tranh.