Cựu Nghiên Cứu Viên OpenAI Cảnh Báo Cần Hơn 100 Tỉ Đô La Cho Dữ Liệu Huấn Luyện

Ho viết rằng hầu hết kỹ năng có giá trị kinh tế có mặt rất ít trong tập dữ liệu hiện nay, nên model lớn suy rộng kém. Ông nêu ví dụ việc đánh giá con đường hành xử của con người rất khó chuyển thành môi trường có thể chấm điểm, nên không dễ biết đường đi thay thế là tốt hay xấu.

Theo Ho, các phòng thí nghiệm AI sẽ phải chi hơn 100 tỉ đô la cho việc thu thập dữ liệu nhắm mục tiêu trong những năm tới; ông cho rằng chỉ tăng quy mô không khắc phục được vấn đề. Ông cũng bày tỏ hoài nghi về mức định giá cao của các phòng thí nghiệm như OpenAI hay Anthropic, và nói họ thường không có lãi vì phải liên tục đầu tư lớn vào model mới để giữ vị thế trước đối thủ rẻ hơn như Qwen hay Kimi.

Ho đang hướng vào hai sản phẩm đầu tiên: một là các tập dữ liệu cho phân tích khoa học phức tạp trong tin sinh học, nơi ông nêu ví dụ model GPT-5.6 Sol chỉ đạt khoảng 30% tỉ lệ thành công; hai là tập dữ liệu cho công việc phòng thí nghiệm hàng ngày, khi các nhà nghiên cứu gửi ảnh thí nghiệm để model đánh giá. Ông cho biết sẽ mở rộng sang hoá học, khoa học vật liệu, y tế và công việc tri thức rộng hơn.

Nhà nghiên cứu Cambridge Adam Hunt chia sẻ quan điểm bi quan tương tự, cho rằng các model lớn ngày càng chuyên môn hoá thay vì trở nên tổng quát hơn. Hunt nói reinforcement learning hiệu quả trong mã nguồn vì tín hiệu phần thưởng rõ ràng và dữ liệu đầy đủ, nhưng trong nhiều lĩnh vực khác dữ liệu như vậy không có. Ông đánh giá độ tin cậy của mình về khả năng model lớn đạt được trí tuệ tổng quát chỉ khoảng 40% và thừa nhận các tiến bộ kỹ thuật có thể làm ông sai.