Bài Bình Luận Về Nguy Cơ AI Vượt Tầm Kiểm Soát Của Timothy Garton Ash

Tác giả dẫn nhận xét từ giới chuyên gia ở Thung lũng Silicon rằng trong vài năm tới sẽ có một bước nhảy phi thường của AI, được mô tả là "tự cải thiện đệ quy" khi AI tự huấn luyện các model kế tiếp.

Bài viết trích ý kiến của một người bạn ở Stanford gọi giai đoạn này là "chân núi của đơn nhất" và dẫn lời Robert Wright nói tương lai gần có nhiều con đường thay đổi lớn cho nhân loại.

Tác giả nêu hai quan điểm đối lập: Elon Musk dự báo "kỷ nguyên thịnh vượng kỳ diệu" nhưng cũng cho rằng có 10–20% khả năng robot sát hại con người, trong khi Geoffrey Hinton ước tính xác suất diệt vong do AI là 50% và nói "chúng ta tiêu rồi" khi tiến hóa của AI khởi phát.

Bài báo còn trích quan điểm của Sebastian Mallaby, tác giả cuốn The Infinity Machine, liên quan đến cuộc tìm kiếm siêu trí tuệ.