IBM Ra Mắt Granite 4.2: Bộ Model Mở Cho Chạy Tại Chỗ, Có Biến Thể 'agentic'

Granite 4.2 được phát hành dưới dạng trọng số mở, cho phép tải xuống và tự chạy tại chỗ. Các biến thể gồm 3B, 8B và 30B tham số, và IBM tiếp tục dùng kiến trúc decoder-only giống các phiên bản trước.

Các model mới hỗ trợ cửa sổ ngữ cảnh lớn theo mặc định; Ars Technica nêu con số 128.000 token, trong khi The Decoder đưa con số lên tới 512.000 token. The Decoder còn cho biết model có khả năng chuyển giữa chế độ "thinking" và "non-thinking" để kiểm soát tiêu thụ năng lực tính toán, cùng chế độ "low-effort" tiết kiệm tài nguyên cho truy vấn đơn giản.

Biến thể 8B và 30B trải qua quá trình huấn luyện agentic RL để mở rộng khả năng, bao gồm sử dụng terminal, tìm kiếm web và dùng công cụ bên ngoài trong môi trường an toàn; biến thể 3B cũng hỗ trợ dùng công cụ nhưng không qua cùng mức huấn luyện chuyên biệt. Tất cả model tương thích gọi công cụ theo định dạng OpenAI và có thể chạy trên vLLM hoặc SGLang, theo The Decoder.

IBM cũng phát hành Granite Speech 5.0 Turbo CTC, model chuyển tự nói thành chữ chỉ có 470 triệu tham số và theo The Decoder nhanh gấp đôi so với các đầu bảng trước đó trên Open ASR Leaderboard; công ty cho biết model có thể phiên âm ba giờ audio trong một giây. Các model và trọng số được cung cấp dưới giấy phép Apache 2.0 trên Hugging Face, Ollama, GitHub và các nền tảng khác.