Các Nhà Nghiên Cứu Bàn Cách Làm Chậm AI

Một số ý được nhắc tới gồm siết quy định của chính phủ, tìm cách đo tiến bộ mới, xem xét bên trong model, đặt thiết bị theo dõi vào GPU, và thậm chí phá hủy mang tính nghi lễ nhiều chip AI. Áp lực từ chính trị và công chúng để có cách làm thận trọng hơn với AI cũng đang tăng.

Raymond Douglas, nhà nghiên cứu AI tại University of Toronto và đồng tác giả của một báo cáo mới, nói đây là một bài toán nghiên cứu. Ông nói chưa thật sự hiểu các lựa chọn hiện có là gì và chúng sẽ làm được gì.

Cuộc tranh luận về nguy cơ AI tăng mạnh trong vài tuần gần đây sau khi một nhà nghiên cứu của Anthropic rời công ty và cảnh báo rằng trong vòng vài năm, AI có thể đi tới chỗ xóa sổ loài người. Người đứng đầu bộ phận an toàn AI của Anthropic sau đó cũng lặp lại lo ngại này.

Các lãnh đạo của những công ty AI lớn ở Mỹ gồm Dario Amodei của Anthropic, Sam Altman của OpenAI, Elon Musk của SpaceXAI và Demis Hassabis của Google DeepMind đều đã lên tiếng ủng hộ một dạng làm chậm hoặc tạm dừng AI. Nguồn gốc của lo ngại là các công ty AI đang dùng chính AI để xây những model mạnh hơn nữa, làm dấy lên sợ hãi về một vòng tự cải thiện lặp có thể vượt khả năng con người hiểu trong vài năm.

Anthropic nói tuần này rằng Claude hiện làm 26% nghiên cứu AI của công ty, trong khi con số này là 0 ở đầu năm 2026. Công ty cũng cho biết đã dành 6% ngân sách compute để tìm cách làm AI an toàn hơn.

Ngoài ra, Anthropic và các chuyên gia khác cho rằng muốn kiểm soát việc phát triển AI hiệu quả và đáng tin cậy thì sẽ cần tiền và chuyên môn từ bên ngoài các phòng lab AI. Một hướng thường được nhắc tới là cho bên đánh giá thứ ba quyền truy cập rộng hơn vào model để kiểm tra khả năng của chúng và thử tạo ra hành vi lệch trong môi trường tin cậy.