Ramp Ra Mắt Router — Dịch Vụ Điều Hướng Model AI

Ramp ra mắt Router hôm thứ Tư tối, cho phép người dùng và doanh nghiệp sử dụng và chuyển đổi giữa nhiều large language model qua API. Công ty cho biết họ đã dùng chính Router nội bộ cho nhu cầu AI trong ba năm qua.

Dịch vụ hiện chỉ có ở Hoa Kỳ và miễn phí dùng cho phần còn lại của năm 2026; người dùng vẫn phải trả chi phí inference của model AI. Ramp tặng một khoản tín dụng khởi động 26 đô la. Công ty chưa công bố mức giá dịch vụ cho năm sau.

Router cung cấp truy cập tới model từ OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI và Z.ai. Nó cũng đưa ra nhiều “strategies” để định tuyến yêu cầu AI theo ưu tiên của khách hàng, ví dụ ưu tiên các hạng mục flex của nhà cung cấp hoặc chọn model dựa trên tới ba benchmark do người dùng chỉ định.

Người dùng có bảng điều khiển để xem chi tiêu token, chi phí, độ trễ, số lần chuyển sáng phương án dự phòng và các chi tiết khác. Router còn có chính sách lưu dữ liệu mặc định cho phép ghi lại đầu vào, đầu ra và các cuộc gọi công cụ trong một năm; công ty nói họ sẽ loại bỏ thông tin có thể nhận dạng cá nhân trước khi dùng nội dung đó để cải thiện sản phẩm.

Ramp cho rằng việc bước vào mảng điều hướng model giúp họ tiếp cận thị trường inference đang phát triển và cung cấp dịch vụ bổ sung cho khách hàng hiện tại, tận dụng khả năng theo dõi và quản lý chi tiêu token mà công ty đã có. Ramp từng gọi vốn 750 triệu đô la ở mức định giá 44 tỉ đô la vào tháng 6.