Import AI 475 Bàn Về Nhóm Agent Và Mở Rộng

Toby Ord nhìn nhóm agent như một dạng mới của mở rộng chạy suy luận. Ông nói nhóm này hữu ích khi đang vội, vì chạy song song giúp hoàn thành cùng một việc trong ít thời gian thực hơn.

Ông viết rằng một nhóm 4 agent cần khoảng gấp đôi tổng số token để đạt cùng mức hiệu năng. Nhưng nếu tính theo token cho mỗi agent, con số đó chỉ bằng một nửa, nên về lý thuyết nhóm có thể xong nhiệm vụ trong một nửa thời gian.

Ord cũng nói mở rộng nhóm không tăng đều. Khi số agent tăng 10x, hiệu năng không tăng theo mức đó mà chỉ lên khoảng 3x đến 5x, vì càng đông thì chi phí phối hợp càng lớn, giống các nhóm người.

Ông cho rằng phần hụt này tích tụ rất nhanh khi mở rộng lớn hơn. Dù vậy, ông vẫn nghĩ nhóm agent đủ mạnh để làm tăng khả năng một vụ bùng nổ trí tuệ do RSI, thay vì làm nó giảm đi.

Phần còn lại của mục này nói rằng AI từ trước đến nay chủ yếu tăng năng lực bằng cách chọn đúng kết hợp compute và dữ liệu cho model đã huấn luyện, rồi tiêu token cho suy luận qua chuỗi suy nghĩ dài hơn và gọi công cụ. Theo tác giả, agent thêm một tham số mới vào cách tăng năng lực này, và việc theo dõi hướng đó sẽ quan trọng để hiểu tiến triển chung của AI.