Nvidia Ra Mắt Nemotron 3.5 Super VL Và Hai Model Bolt

Nemotron 3.5 Super VL là model đa phương thức dành cho agent luôn chạy. Nvidia nói ba model mới phủ từ máy chủ doanh nghiệp lớn đến thiết bị ở rìa và phần cứng cục bộ.

Model này được phát triển cùng Nemotron Coalition, nhóm gồm Mistral AI, Thinking Machines Lab, Perplexity và Black Forest Labs. Nvidia dùng kiến trúc pha trộn chuyên gia, trong đó chỉ 12 tỉ trong 120 tỉ tham số hoạt động ở mỗi token.

Super VL làm được theo hướng dẫn, dùng công cụ, xử lý quy trình doanh nghiệp nhiều bước và hiểu hình ảnh. Nvidia nói model có sức mạnh ngang model suy luận lớn nhất của hãng nhưng chỉ bằng một phần năm kích thước, và có thể tạo đầu ra nhanh gần 5 lần so với model cùng hạng.

Nvidia cho biết trong một số bài thử, Super VL còn đạt kết quả cao hơn Ultra. Một trường hợp trên hồ sơ bồi thường bảo hiểm y tế ghi nhận mức tăng 44%, và Nvidia nói mức đó đưa model lên cao hơn Claude Opus 5.

Nvidia cung cấp trọng số của Super VL ở dạng mở để tổ chức có thể huấn luyện sau bằng dữ liệu của riêng mình và chạy trên hạ tầng của riêng họ. Công ty nói đã dùng dữ liệu mở, phương pháp mở, khoảng 26 nghìn tỉ token, 3,8 triệu mẫu huấn luyện sau và học tăng cường trên 100 môi trường mở.

Nvidia cũng phát hành bộ dữ liệu mở trên Hugging Face về dùng công cụ cho agent, tài chính, làm theo hướng dẫn, ngữ cảnh dài, an toàn, công bằng và hiểu ngôn ngữ-hình ảnh. Bolt 74B-A9B 24GB chạy tác vụ agent trên máy cục bộ, kích hoạt 9 tỉ trong 74 tỉ tham số mỗi lần và dùng lượng tử hóa 2 bit để vừa 24GB bộ nhớ.

Bolt E4B 4GB sẽ ra mắt cuối tháng này cho GeForce RTX, Jetson và RTX/GTX Spark. Model này nhắm tới AI vật lý và agent hội thoại chạy trong thiết bị đeo, đồ gia dụng, quầy bán hàng, bảng điều khiển xe, trợ lý thiết bị và các giao diện nhúng khác.