Cloudflare Ra Mắt Clef Và Clef-flash Cho Agent

Clef trả về phân loại ngắn kèm xác suất, thay vì một câu trả lời dài. Với một tin nhắn hỗ trợ khách hàng, model này đánh giá mức khẩn cấp và xác định nhóm nên xử lý. Phần code phía sau có thể dùng kết quả đó để chuyển phiếu, đẩy lên cấp cao hơn hoặc giao việc cho người thật.

Cloudflare nói một người không nhất thiết còn phải ở trong vòng lặp cho các quyết định của agent. Agent có thể tự động thu thập bối cảnh, đưa ra quyết định và thực hiện tác vụ, hoặc chuyển cho người thật khi cần. Tên Clef lấy từ âm nhạc, nơi clef gán cao độ cho các dòng trên khuông nhạc.

Công ty xem các model quyết định này là khoảng giữa LLM lớn và các bộ phân loại truyền thống. LLM có thể suy luận và gọi công cụ, nhưng đầu ra thay đổi và chậm hơn. Bộ phân loại truyền thống nhanh hơn nhưng phải huấn luyện lại cho từng nhóm mới.

Cloudflare nói Clef là câu trả lời trực tiếp cho Jev của TypeSafe AI và giữ API tương thích hoàn toàn để khách hàng đổi sang dễ hơn. Trên 43 phép đo hiệu năng, Clef và Clef-flash đều nhanh hơn các model quyết định khác. Độ trễ trung vị của Clef-flash là khoảng 39 mili giây, còn Clef là khoảng 209 mili giây, so với hơn 524 mili giây của Jev.

Cả hai model chạy trực tiếp trên hạ tầng của Cloudflare, và công ty nói điều đó giúp chúng hưởng lợi từ việc gần các trung tâm dữ liệu ở rìa mạng. Nhóm tình báo mối đe dọa của Cloudflare đã thử Clef để phân loại trang web. Một ví dụ cho thấy miền đó có xác suất 95% là trang thời trang, 85% là cửa hàng trực tuyến và dưới 1% là trang lừa đảo; việc nạp, dựng và phân loại trang đó mất 2,2 giây, trong khi model ngôn ngữ đa dụng nhanh nhất của công ty mất 4,7 giây và chỉ trả về hai nhóm.

Clef cũng xử lý được hình ảnh, còn Jev hiện chỉ giới hạn ở văn bản. Cửa sổ ngữ cảnh 64.000 token của Clef chứa được lượng đầu vào gấp đôi Jev. Clef dựa trên Qwen3.8-27B, còn Clef-flash dựa trên Qwen3.5-9B; Cloudflare giữ nguyên model gốc khi huấn luyện và dùng dữ liệu tổng hợp của mình để huấn luyện các thành phần bổ sung. Công ty cũng dùng một biến thể riêng của RLCD, phương pháp huấn luyện mà TypeSafe dùng cho Jev.