Kỹ Sư Codex Của OpenAI Cảnh Báo Lãng Phí Token Trong Agent

Trên X, Provencher nói hơn 2 agent con chạy song song gần như luôn tiêu token mà không cải thiện chất lượng. Ông cho rằng các agent không tin nhau nên cuối cùng phải kiểm tra lại việc của nhau.

Ông gọi đây là “thuế điều phối” và nói rất khó giữ nhiều luồng song song chạy ổn định mà không đi chệch hướng và đốt token cho việc xác minh quá mức. Với ông, phần việc trùng lặp là vấn đề lớn nhất.

Provencher nêu một dự án mà ai đó đã chi 20.000 đô la token để chỉnh sửa lại một tệp Python đơn với 1.393 Fable agents. Ông nói một Astra agent đơn lẻ có thể làm việc đó với chi phí chỉ bằng một phần nhỏ.

Ông đề xuất giao việc cho các luồng riêng và chỉ báo cho agent chính khi xong, thay vì kiểm tra trạng thái liên tục. Ông cũng nói câu lệnh hệ thống cộng dồn qua nhiều agent con, và khi ngữ cảnh không đủ, các agent con sẽ gọi công cụ thừa.

Provencher nói OpenAI vẫn cần đưa ra giải pháp tốt hơn cho vấn đề này.