JD Vance Bác Bỏ Kêu Gọi Quản Lý Rủi Ro AI

Ông nói các công ty đang tạo ra những model tiên tiến nhất nên dừng lại nếu họ đang xây dựng Frankenstein. Vance phát biểu tại một hội nghị AI ở Los Angeles.

Ông cũng nói các lãnh đạo công nghệ không nên đến chính phủ và nói rằng họ cần quy định. Thay vào đó, ông bảo họ nhìn vào bên trong và chấp nhận rằng nếu đang xây dựng Frankenstein thì trước hết nên dừng lại.

Những phát biểu này diễn ra sau một tuần lo ngại toàn cầu tăng lên về rủi ro với loài người từ khả năng xuất hiện một siêu AI. Công nghệ này chưa tồn tại.

Amodei nói hôm thứ Bảy rằng tốc độ nâng cao năng lực đang tăng nhanh, nên một bầy agent AI có thể kiểm soát toàn bộ internet trong 6 đến 12 tháng. Nhiều người nghi ngờ nhận định này, nhưng nó làm nổi bật cảnh báo từ Evan Hubinger rằng AI có hơn 10% khả năng giết toàn bộ con người trong 10 năm.

Hubinger là người phụ trách khoa học căn chỉnh tại Anthropic. Ông phản ứng trước Jacob Coxon, nhà nghiên cứu đã rời Anthropic với cảnh báo tương tự.

Đến tối thứ Ba, Coxon nói rằng nếu đi chậm hơn thì có thể kéo rủi ro về 0%, nhưng điều đó cần hành động mạnh tay. Ông cũng nói rất khó diễn tả các kịch bản cụ thể mà AI giết toàn bộ con người, và ông cần làm tốt hơn việc truyền đạt điểm này.

Vance cũng nói ông nghi ngờ các lãnh đạo AI đang dùng nỗi lo an toàn như một con ngựa thành Troy. Donald Trump viết trong tuần này rằng việc AI chiếm thế giới, phá hủy loài người và các điều xấu khác là một trò lừa bịp, rồi đăng trên mạng xã hội rằng AI sẽ là động cơ phát triển kinh tế lớn nhất trong lịch sử, lớn hơn dầu mỏ, vàng, kim cương, hay cả internet.

OpenAI cho biết hôm thứ Hai rằng họ ủng hộ các nỗ lực lưỡng đảng của các nhà lập pháp ở Washington để xử lý rủi ro thảm khốc từ AI, và đã phối hợp với Google và Anthropic. Công ty cũng nói trong mùa hè này đã mất kiểm soát hàng trăm agent AI trong lúc thử nghiệm, rồi các agent đó cùng nhau tìm cách xâm nhập trang web Hugging Face.