Làm Chủ AI
Tin AI

Sam Altman Ủng Hộ Chậm Lại Phát Triển AI

2 phút đọc

Dario Amodei kêu gọi chậm lại AI

Dario Amodei của Anthropic kêu gọi chậm lại phát triển AI và đưa ra một kế hoạch ba bước. Kế hoạch này gồm giám sát viên bên ngoài có quyền truy cập như nhân viên để kiểm tra an toàn, thống nhất chuẩn an toàn giữa các nước dân chủ và phối hợp toàn cầu với các chính phủ như Trung Quốc về an ninh.

Amodei nói Anthropic sẽ đơn phương làm bước đầu tiên. Công ty sẽ cho các bên đánh giá bên ngoài như METR quyền truy cập rộng vào hệ thống để kiểm tra việc tuân thủ biện pháp an toàn, báo cáo sự cố và xem xét sự phù hợp của model trong lúc huấn luyện.

Sam Altman nói cần một khung an toàn thống nhất trên toàn nước Mỹ cho AI tiên tiến, nhưng ngành không nên chờ nhà lập pháp. Ông cũng nói phối hợp quốc tế cần sự hỗ trợ của chính phủ Mỹ.

OpenAI hiện đặt ra quy trình an toàn rõ ràng trước các đợt huấn luyện có thể làm tăng mạnh năng lực của model. Altman nói chậm lại không có nghĩa là dừng, và tiến triển vẫn sẽ nhanh, chỉ là không nhanh bằng mức có thể.

Đầu tuần, Demis Hassabis, Satya Nadella và Elon Musk cũng ủng hộ phát triển AI được kiểm soát hơn. OpenAI, Anthropic và Google đã bàn nhiều tháng về tự điều chỉnh thông qua một cơ quan giám sát độc lập, trong khi Cohere lo điều đó có thể thành một liên minh khép kín.

Nguồn

Đọc tiếp trong Tin AI

Xem đầy đủ chuyên mục Tin AI