NVIDIA 发布开放的 Nemotron 3.5 模型,Bolt 可装入 24 GB

NVIDIA 以开放模型形式发布了可读取文档和网页的 Nemotron 3.5 Super VL,以及可本地运行的 Bolt 模型。Bolt 74B-A9B 通过 2 位量化可装入 24 GB 内存,训练数据也一并开放。

Paylaş
NVIDIA 发布开放的 Nemotron 3.5 模型,Bolt 可装入 24 GB

NVIDIA 于 2026 年 10 月 15 日发布 Nemotron 3.5 系列,其中包括面向企业智能体的 Super VL 和面向个人电脑的 Bolt 模型。训练数据集和训练方案随模型一同开放,模型可从 Hugging Face 下载,在自己的服务器或电脑上运行。

读懂文档并采取行动的 Super VL

Nemotron 3.5 Super VL 是一个 1200 亿参数的视觉语言模型,可读取图像、网页和 PDF。NVIDIA 表示,它在文字识别、表格、图表及文档结构化信息方面尤为出色。该模型面向根据所读内容执行操作的智能体,示例包括多步骤工作流、文档处理、编程智能体、保险欺诈筛查和信贷审核。模型在约 26 万亿 token 上完成预训练,随后在约 380 万个样本上进行后训练,并在数十个环境中进行强化学习。可通过 Hugging Face、OpenRouter、ModelScope 和 NVIDIA NIM 获取,支持从 DGX Spark 到 RTX 工作站和 Jetson 的多种硬件。

可本地运行的 Bolt 模型

Nemotron 3.5 Bolt 74B-A9B 面向本地智能体任务。740 亿参数中每一步激活 90 亿,借助原生 2 位量化可装入 24 GB 内存,也就是一块高端游戏显卡即可运行。它支持 llama.cpp、Ollama、LM Studio、Unsloth 和 vLLM,NVIDIA 将其定位于网络调研、写作和代码调试等任务。系列中最小的 Bolt E4B 将于 10 月 23 日推出,是一个 4 GB 模型,面向语音助手和嵌入式界面。

开放数据

NVIDIA 同时在 Hugging Face 上发布了涵盖智能体工具调用、金融、指令遵循、长上下文、公平性和视觉语言理解的数据集,并在 NeMo Gym 中开放了强化学习环境。对于希望用自有数据重新训练模型或研究其训练方式的团队,这是一份有用的资源。

博客文章未写明许可证名称,商业使用前应查看模型卡中的许可条款。NVIDIA 称 Super VL 以少得多的参数达到与其最大推理模型相近的准确度,速度明显快于同级别其他开放智能体模型,Bolt 则在 PinchBench 上位列同级别开放模型第一。这些排名均为 NVIDIA 公布的结果。团队宜用自己的文档和工作流测试模型,并关注独立研究人员的对比结果。

Devamını oku