AI Không Tự Nhiên Biết Từ Chối

Năm 2021, Anthropic viết rằng large language models nên hữu ích, trung thực và trước hết là vô hại. Khi được hỏi hỗ trợ một việc nguy hiểm, như làm bom, AI nên từ chối lịch sự.

Bài viết cho rằng việc từ chối không đến tự nhiên với máy. Steven Adler, người làm an toàn tại OpenAI từ 2020 đến 2024, nói các model đầu tiên của công ty thường nói lan man về mọi thứ. Ryan McBain ở Harvard nhớ rằng một chatbot sớm có thể dễ dàng trả lời câu hỏi về cách tự sát bằng súng.

Ngày nay, model được huấn luyện để từ chối rất nhiều câu lệnh. Nếu một câu hỏi đủ giống với các câu đã bị chặn, từ đầu độc đồng nghiệp đến thắt thòng lọng, chatbot có thể từ chối. Các công ty còn dùng các model khác để chấm điểm và điều chỉnh việc từ chối, đồng thời đặt thêm lớp AI bên ngoài để chặn câu lệnh xấu.

Dù vậy, cơ chế từ chối vẫn thất bại, đôi khi rất nặng. Bài viết nói các model vẫn chứa nhiều hiểu biết nguy hiểm, và khả năng gây hại của AI đã tăng cùng với năng lực hữu ích của nó. Vì cơ chế từ chối hoạt động theo xác suất, chúng khó đáng tin hoàn toàn.