Runware Ra Mắt Sonic Inference Pod, Trung Tâm Dữ Liệu Modul Di Động

Sonic Inference Pod là một đơn vị đơn lẻ có thể vận chuyển, cho phép mở rộng bằng cách tạo thêm pod thay vì phải mở rộng trung tâm dữ liệu cố định. Runware mô tả thiết kế modul giúp tăng công suất nhanh và thích ứng với phần cứng mới.

Công ty cho rằng Pod có thể cung cấp inference với chất lượng cao hơn nhưng chi phí thấp hơn các nền tảng inference không máy chủ và dịch vụ GPU cloud. Hệ thống sử dụng làm mát vòng kín, không dùng nước, và có thể xây dựng trong vài ngày so với nhiều tháng hoặc năm để xây dựng trung tâm dữ liệu truyền thống.

Runware hiện có 10 pod đang hoạt động ở Mỹ, châu Âu và châu Á - Thái Bình Dương. Công ty cho biết đang cung cấp inference cho một số công ty, trong đó có Higgsfield AI và Wix, và có 160 địa điểm sẵn sàng để triển khai pod ngay lập tức.

Runware huy động 50 triệu đô la ở vòng Series A vào tháng 12 để cung cấp hạ tầng cho việc tạo hình ảnh, và công ty coi việc mở rộng sang pod là một phần trong sứ mệnh cung cấp inference cho các công ty thay vì chỉ một sản phẩm đơn lẻ.

Theo Runware, mỗi pod chạy như một phần của một mạng đơn, nên yêu cầu sẽ chuyển đến nơi còn sức chứa, gần người dùng hơn; nếu một pod gặp lỗi, lưu lượng sẽ chuyển sang pod khác. Công ty cho biết khách hàng cần phần cứng dành riêng sẽ được cấp toàn bộ pod.