Các Nhà Toán Học Hàng Đầu: LLM Mạnh Ở Tính Toán Nhưng Hạn Chế Trong Sáng Tạo Ý Tưởng Mới

Gowers nói LLM giỏi ghép nối các phương pháp đã biết và thử nhiều hướng tìm kiếm, nhưng thiếu trực giác để chọn ra vài hướng khả thi trong không gian tìm kiếm rộng lớn. Ông mô tả khả năng của LLM là kết hợp phương pháp sẵn có hơn là sáng tạo ra lộ trình hoàn toàn mới.

Sarnak đồng ý với đánh giá này và nói LLM có thể suy ra kết quả từ lý thuyết hiện có nhưng thất bại khi cần phát triển những trừu tượng nền tảng dẫn tới các chứng minh lớn, bắt đầu từ một câu hỏi sơ đẳng.

Nhà nghiên cứu DeepMind Tom Zahavy cũng rút ra nhận định tương tự trong bài viết "LLMs Can't Jump." Ông cho rằng nút thắt là "manipulative abduction", tức khả năng phát minh giả thiết nền tảng mới mà không dựa trên tiền lệ ngôn ngữ.

Bài viết nêu ra rằng những mô hình thế giới (world models) có thể là hướng đi tiếp theo để vượt qua giới hạn này. Những đánh giá trên góp tiếng vào cuộc tranh luận rộng hơn về việc LLM thực sự trở nên đa năng hơn hay chỉ cải thiện trên các phép đo và không gian vấn đề đã quen thuộc.