Thực Đơn AI Bị Giống Hệt Nhau

Khi nhìn một thực đơn có nhiều bánh vòng kẹp, người ta có thể thấy mọi hình đều quá cân đối, quá mượt và gần như hoàn hảo. Có lúc hình còn giả đến mức một món cuốn với phô mai trông giống tác phẩm nghệ thuật hơn là bữa ăn.

Alex Lisle nói điều đó giống như một người ngoài hành tinh cố làm bánh mà không hiểu nguyên tắc cốt lõi của món ăn. Ông cũng nói nhiều hình đi theo một kiểu rất riêng, từ viên kem tròn đều đến con tôm như đang ăn chính đuôi của nó.

Theo ông, LLMs và model khuếch tán được huấn luyện trên lượng dữ liệu rất lớn, rồi tìm mẫu trong các tập dữ liệu để đoán người dùng muốn gì, chẳng hạn khi ai đó yêu cầu làm thực đơn cho một nhà hàng bánh kẹp. Ông nói nhiều thứ trông giống thực đơn của Chili's năm 2015 vì đó là phần lớn kho tư liệu mà model đã dựa vào.

Nguồn dữ liệu mới rất quan trọng với các công ty xây dựng model AI. Amazon từng bị phát hiện lấy sách hiếm để quét và thêm vào dữ liệu huấn luyện, rồi phá hủy những cuốn sách đó sau khi đã đưa lên.

Nếu model huấn luyện quá nhiều trên nội dung do AI tạo ra, chúng có thể bị sụp đổ. Alex Lisle ví chuyện này như bệnh bò điên; còn sự hội tụ thì nhẹ hơn, làm chất lượng đầu ra giảm đi nhưng không khiến model trở nên vô dụng.

Khi được yêu cầu tạo thực đơn cho nhà hàng đồ ăn nhanh, model thường sẽ nhắc tới Wendy's, Burger King, McDonald's hoặc một chuỗi phổ biến khác.