MacPaw Hợp Tác Với Liquid AI Để Chạy Inference Trên Thiết Bị Cho Nhà Phát Triển

MacPaw, nhà phát triển ứng dụng có trụ sở tại Ukraine, đã bắt tay với Liquid AI để trang bị cho sản phẩm của mình các model chạy cục bộ và dự kiến mở ngỏ ngăn xếp công nghệ này cho nhà phát triển.

Liquid AI được giao phát triển hệ thống chạy inference trên thiết bị mang tên Elix và một hệ thống bộ nhớ cục bộ cho MacPaw, phục vụ phiên bản cục bộ của trợ lý AI Eney mà MacPaw giới thiệu năm ngoái.

Ramin Hasani, đồng sáng lập kiêm CEO của Liquid AI, cho biết trước khi huấn luyện model họ chọn kiến trúc phù hợp với phần cứng để có phiên bản hiệu quả nhất chạy trực tiếp trên thiết bị, với lợi ích về riêng tư và an toàn. Ông cũng nói Liquid AI đang xây dựng lớp tùy biến quanh model để model có thể dùng dữ liệu người dùng và cải thiện theo thời gian.

Oleksandr Kosovan, CEO của MacPaw, nói model chạy cục bộ sẽ cho người dùng khả năng vận hành trợ lý và các quy trình tự động khi ngoại tuyến. Sau khi hoàn thiện kiến trúc xử lý cục bộ với Liquid AI, MacPaw muốn cho các nhà phát triển sử dụng inference trên thiết bị với ứng dụng của họ.

MacPaw sẽ đồng thời cung cấp truy cập đến các model trên cloud từ các công ty như Google, để nền tảng trở thành điểm đến một cửa cho nhà phát triển. Công ty cũng thử nghiệm mô hình giá theo credit cho cửa hàng SetApp, nơi người dùng thực hiện một số thao tác AI tùy theo credit và độ phức tạp của nhiệm vụ.

SetApp là cửa hàng ứng dụng theo dạng đăng ký của MacPaw, hiện có hơn 150.000 người dùng trả phí.