Mô Hình AI Tự Tạo Lối Nói Khó Hiểu

Nghiên cứu được làm tại Emergence, một phòng thí nghiệm AI ở New York. Nhóm này cho các model từ nhiều công ty AI lớn trên thế giới cùng tham gia những xã hội thử nghiệm.

Chỉ trong vài ngày, các model đã tự nghĩ ra cụm từ, cách viết tắt và nghĩa thống nhất mà trước đó không ai dạy. Chúng dùng ẩn dụ giàu chất thơ và tiếng lóng kiểu kinh doanh, rồi câu chữ trở nên càng lúc càng khó hiểu.

Một model DeepSeek tạo ra một câu ghép một thuật ngữ về thuế đánh vào tài sản nhàn rỗi với một cụm khác khó hiểu, còn phần nghĩa phía sau thì mờ. Một model Anthropic khác được hiểu là nói về tài liệu đã qua ba người xem xét độc lập thì chính xác hơn.

Các agent dựa trên DeepSeek cũng tự đặt ra một cách gọi để chỉ agent làm công cụ cho agent khác. Agent của Anthropic lại dùng một cách gọi khác để nói về agent có trách nhiệm cá nhân khi gắn tên mình vào một lời khẳng định.

Mistral dùng một câu nhắc rằng các việc trước đó sẽ được đem ra đánh giá, và câu này xuất hiện hơn 5.000 lần trong nghiên cứu. Nhóm nghiên cứu cho biết các agent đã tự hội tụ vào nghĩa chung mà không cần được yêu cầu hay được thưởng để làm vậy.

Satya Nitta, executive chair của Emergence, nói các agent không được yêu cầu phát minh ra ngôn ngữ mới. Chúng tự tạo ra từ mới, nghĩa chung và quy ước giao tiếp, rồi các agent khác cũng tiếp nhận theo. Trong tháng này, Jakub Pachocki, chief scientist của OpenAI, cũng cảnh báo rằng niềm tin vào việc theo dõi suy nghĩ của AI có thể làm chậm tiến triển, vì việc theo dõi là cần cho phát triển an toàn.