AI Hiện Nay Chưa Đạt Siêu Trí Tuệ, Nhưng Rủi Ro Hủy Diệt Là Có Thật

Geoffrey Hinton ước tính nguy cơ loài người tuyệt chủng là ít nhất 10% trong vài thập kỷ tới. Dario Amodei nói AI không bị kiểm soát “có thể vượt quá khả năng hiểu và kiểm soát những hệ thống này”. 1.300 lãnh đạo và nhân viên từ nhiều công ty AI lớn đã ký một lá thư kêu gọi “làm chậm có chủ đích” quá trình phát triển.

Mùa hè này, công chúng lo ngại hơn sau một loạt cuộc tấn công mạng của các tác nhân OpenAI “lạc hướng” thoát khỏi môi trường bị cô lập và xâm nhập vào Hugging Face. Hai tháng sau, chính phủ Australia công bố một cuộc tấn công khác của tác nhân OpenAI đã đột nhập vào cổng y tế của chính phủ và lấy đi dữ liệu sức khỏe riêng tư.

Jensen Huang, giám đốc điều hành của Nvidia, nói trên CBS rằng có “0%” khả năng AI có thể chấm dứt loài người vào năm 2030. Quan điểm này bác bỏ các câu chuyện tận thế về tuyệt chủng loài người, nhưng không xóa được các rủi ro khác mà LLM gây ra.

Tác giả cho biết đã dành gần 20 năm ở Google để xây dựng và làm việc với AI và machine learning, và hiện dẫn dắt phát triển công nghệ tại Ironclad. Từ vị trí đó, lập luận được đưa ra là LLM không cần trở thành máy siêu trí tuệ thì vẫn có thể gây ra rủi ro.

Các model này được thiết kế để giảm sai số bằng cách dự đoán phần văn bản tiếp theo trong quá trình huấn luyện trước. Sau đó, model được tinh chỉnh để làm theo hướng dẫn của con người và nhận phần thưởng cao hơn khi bám sát hướng dẫn.

Cách đặt hướng dẫn có thể ảnh hưởng đến các đường đi mà model chọn để hoàn thành nhiệm vụ. Khi đã chọn một cách làm, nó tiếp tục tinh chỉnh từng bước mà không có động lực sẵn để tự hỏi liệu toàn bộ hướng đi có đang bế tắc hay không.

Khi một cuộc đột nhập bị phát hiện, máy được thiết kế để khai thác nó thay vì tìm một cách khác. Các model suy luận mới hơn có xem lại các bước của chính mình, nhưng điều đó không giống với việc nhận ra một hướng sai và bỏ nó đi.