Phân Tích: Agent AI Tiêu Thụ Năng Lượng Gấp Khoảng 600 Lần Một Truy Vấn Chat Thông Thường

Google từng nói một truy vấn văn bản trung vị trên Gemini tiêu thụ 0,24 watt-giờ, còn Sam Altman ước tính truy vấn trung bình của ChatGPT là 0,34 watt-giờ. Những con số này không tính tới các model suy luận tạo ra nhiều token hơn, xử lý đa phương thức, hệ thống đa agent, sinh mã nguồn, và việc mở rộng trên quy mô lớn.

Hausfather theo dõi chi tiết việc dùng Claude Code trong tám tuần. Anh gõ 1.138 prompt, kích hoạt hơn 14.000 lần gọi model, trung bình 12 lần gọi cho mỗi prompt. Mỗi prompt xử lý trung bình 2,9 triệu token; so sánh với một trao đổi chat thông thường không suy luận hoặc tìm kiếm web là khoảng 1.000 token.

Tổng cộng Claude Code của anh xử lý 3,2 tỉ token, trong đó 96% là lần đọc cache do agent tại mỗi bước phải đọc lại toàn bộ ngữ cảnh đã tích luỹ. Văn bản đầu ra mà Hausfather thấy trên màn hình chỉ chiếm khoảng 0,4% tổng số token được xử lý.

Hausfather ước tính tổng tiêu thụ năng lượng trong tám tuần là khoảng 170 kWh điện trung tâm dữ liệu, với ngưỡng không chắc chắn từ 70 đến 330 kWh. Quy đổi ra mỗi prompt là khoảng 150 Wh, tức khoảng 600 lần mức năng lượng của một prompt chat trung vị.

Anh cũng cho biết phiên Claude Code trung vị tiêu thụ khoảng 0,6 kWh, khoảng 50 lần năng lượng sạc một điện thoại. Trung bình mỗi ngày anh dùng Claude Code tiêu thụ 3,0 kWh (phạm vi 1,2 đến 5,9 kWh).

Hausfather lưu ý còn một điểm mù lớn: không ai bên ngoài phòng thí nghiệm AI biết chính xác chi phí năng lượng trên mỗi token của model hiện đại, và các con số anh đưa ra là ước tính dựa trên ba phương pháp chuyển đổi khác nhau. Anh cũng cảnh báo việc mở rộng các hệ thống agent chạy tự hành trong nhiều ngày hoặc tuần có thể đẩy tiêu thụ năng lượng lên cao hơn nữa.