Nvidia Ra Nemotron 3.5 Lightning, Nhắm Vào Tốc Độ Cho Tác Vụ Agent

Nemotron 3.5 Lightning là thành viên đầu tiên trong dòng Nemotron 3.5, kế nhiệm Nemotron 3 Nano 30B A3B và giữ kiến trúc lai Mamba-Transformer. Model có tổng 31,6 tỉ tham số nhưng chỉ 3,6 tỉ tham số hoạt động cùng lúc.

Nền đánh giá độc lập Artificial Analysis cho biết Lightning đạt 24 trên Intelligence Index, tăng chín điểm so với phiên bản trước (15) và ngang bằng OpenAI gpt-oss-120b (24). Nemotron 3 Super của Nvidia đạt 26 và có kích thước lớn hơn khoảng bốn lần.

Về tốc độ, trong thử nghiệm trước phát hành với trọng số NVFP4, Lightning đạt gần 670 tokens mỗi giây, cao nhất trong các model so sánh và gần gấp đôi tốc độ của Google Gemini 3.5 Flash-Lite (386 tokens/s). Một bài kiểm tra trong Intelligence Index mất khoảng 0.5 phút với Lightning, so với 3.5 phút của Qwen3.6 35B A3B và 5.8 phút của Gemma 4 31B.

Artificial Analysis cho biết Lightning cải thiện mạnh trên các benchmark agentic: trên GDPval-AA v2 Lightning đạt Elo 824, hơn gpt-oss-120b (800) và Nemotron 3 Super (698). Trên Terminal-Bench v2.1, điểm của Lightning tăng từ 7 lên 24.3%, gần bằng gpt-oss-120b (26.2%).

Nvidia phát hành Lightning theo giấy phép OpenMDW-1.1 và cung cấp trọng số ở hai dạng BF16 và NVFP4. NVFP4 vẫn đạt 24 trên Intelligence Index với tổn thất chất lượng tối thiểu. Model chỉ xử lý văn bản và hỗ trợ cửa sổ ngữ cảnh một triệu tokens.

Nvidia cho biết họ hợp tác với các đối tác như CodeRabbit và Harvey trong giai đoạn hậu huấn luyện để tăng hiệu năng theo miền. Trọng số đã có sẵn và dịch vụ inference không server được cung cấp bởi DeepInfra, Fireworks, FriendliAI, CoreWeave, GMI Cloud, Nebius và Crusoe.