Inkling 2 Small Văng 316 Từ Tục Trong 2.655 Lần Chạy

Vals AI đã đọc nhật ký suy nghĩ của model này từ 2.655 lần chạy trên 13 phép đo hiệu năng. Họ thấy từ “fuck” hoặc các dạng biến thể của nó trong 50 lần chạy.

Trong đó, 241 lần xuất hiện chỉ đến từ 2 lần chạy. Một lần liên quan đến việc tính quỹ đạo của một tiểu hành tinh đã tạo ra một câu trả lời dài 500.000 ký tự, gần bằng độ dài một cuốn tiểu thuyết, và lặp lại cùng những câu giống nhau với 158 từ tục.

ProgramBench là phần bị ảnh hưởng nặng nhất, với 20 trong 200 lần chạy có dính từ tục. Inkling 2 Small thường chửi khi tự nhận ra lỗi của mình, khi tưởng như vừa có đột phá, hoặc khi bỏ cuộc.

Có một lần, model viết: “ĐM. NỘP ĐI. XONG. KHÔNG CHẠY ĐƯỢC. KHÔNG GÌ CHẠY ĐƯỢC.” Tuy vậy, các từ tục này không hoạt động như một tín hiệu cảnh báo.

Trong 48 lần chạy có chấm điểm và có từ tục, 46 lần thất bại. Nhưng khoảng 75% tổng số lần chạy có chấm điểm đều thất bại, và 96% số lần thất bại không có từ tục.

Người dùng thường không thấy các bước suy nghĩ này, hoặc chỉ thấy khi có bộ lọc.