Google Ra Agent Compute Engine Cho Từng Agent

Mỗi agent chạy trong một máy ảo vi mô được bảo vệ bằng chip Titanium của Google. Công ty nói lớp cô lập này dành cho AI agent.

Khi agent không hoạt động, máy ảo sẽ tự tạm dừng và nhả máy cho agent khác. Bộ nhớ dùng chung giữa các máy ảo giúp giảm chi phí chạy từng máy.

Đây cũng là nền tảng của Agent Substrate, một môi trường chạy cho Kubernetes, hiện được mở mã nguồn. Google nói cách làm này có thể đưa 10 lần số lượng agent lên một server.

Trong một thử nghiệm với 200.000 agent, việc tạm dừng và tiếp tục mất chưa tới 500 mili giây. Ở phần kiểm soát, Google thêm theo dõi token, định tuyến model và hỗ trợ nhà cung cấp danh tính bên thứ ba như Ping Identity và SailPoint.

Các biện pháp kiểm soát này sẽ mở rộng sang Cloud Run, GKE và các điểm cuối được quản lý.