NVIDIA Nemotron 3.5 Super VL

NVIDIA Nemotron 3.5 Super VL 是面向开发者的开放式可定制多模态模型，支持构建专业 AI 智能体，融合推理、工具调用及文本、图像、文档和视频理解，并可通过 NVIDIA NeMo 进行后训练。

概述

NVIDIA Nemotron 3.5 Super VL 是面向专业 AI 智能体的开放式可定制多模态模型。它专为可能需要推理、工具调用、遵循策略以及解读文本、图像、文档和视频的多步骤企业工作流而设计。

其 120B 参数混合专家架构每个令牌激活 12B 参数。该模型可以作为更广泛 Nemotron 系统中的多模态推理组件，与用于高容量文本任务的小型模型以及用于复杂规划和编排的大型模型协同工作。开发者可以使用 NVIDIA NeMo，基于特定领域的数据、工具和操作规程对其进行调整。

核心能力

混合容量 MoE 设计

采用 120B 参数的混合专家架构，每个令牌激活 12B 参数，在模型总容量与更具选择性的计算之间取得平衡。

多模态智能体推理

在一个模型中，将推理、指令遵循和工具调用与文本、图像、文档及视频理解相结合。

视觉与文档理解

支持文档工作流，可理解表格、图表和页面布局，同时支持视频搜索、审查和事件分析。

工作流定制

可以使用 NVIDIA NeMo，基于组织的数据、工具接口、操作规程和策略进行后训练。

推理优化

采用 LiLiCorr 推测解码、结合量化感知蒸馏的 NVFP4 量化、多令牌预测和上下文复用，以提升推理效率。

报告的吞吐量

发布文章称，在 Artificial Analysis Intelligence Index 智能体任务端点上，输出速度超过每秒 600 个令牌；在单个 GPU 上，其吞吐量最高可达到同等规模类别中其他开放模型的 5 倍。结果取决于所述基准测试和部署条件。

实际使用场景

编码智能体
在结合推理和工具调用的工作流中测试和验证代码、分析错误并提出修复建议。
网络研究
跨网站搜索信息，关联多个来源的内容，并在生成结果前验证答案。
文档智能
读取表格、图表和页面布局，从复杂文档中提取信息并生成摘要或报告。
网络安全分析
识别漏洞并对安全威胁进行分级，以便团队确定修复工作的优先级。
视频理解
从视频中提取信息，用于搜索、内容审查和事件分析。

Pros and Cons

Pros

在一个模型中结合推理、指令遵循、工具调用和多模态理解。
通过 NVIDIA NeMo 支持针对领域数据、工具、策略和工作流进行定制。
涵盖编码、网络研究、文档智能、网络安全和视频理解等不同智能体任务。
采用选择性混合专家架构和多种推理优化方法，旨在提高智能体工作负载的效率。

Cons

所提供的来源未提供涵盖部署要求、支持的平台、输出、许可或已知限制的完整模型卡。
报告的速度和吞吐量数据具有特定基准测试的适用范围，不应视为普遍适用的性能保证。
所提供的证据未说明价格和分发条款。

FAQ

Nemotron 3.5 Super VL 专为哪些类型的工作流设计？

Nemotron 3.5 Super VL 面向专业的多步骤智能体工作流，这些工作流结合了推理、工具调用以及对文本、图像、文档或视频的理解。示例包括编码、网络研究、文档智能、网络安全和视频分析。

组织可以定制该模型吗？

该模型可以使用 NVIDIA NeMo，利用组织数据、工具、策略和工作流进行后训练。来源还将监督微调、低秩适配和强化学习列为定制方法，并在 Hugging Face 上发布开放数据集。

该模型支持哪些模态？

该模型将推理、指令遵循、工具调用和多模态理解结合在一个模型中，因此工作流可以处理文本和视觉输入，无需针对这些能力分别使用文本模型和视觉语言模型。

该模型如何提升推理效率？

来源介绍了通过包括 LiLiCorr 推测解码、结合量化感知蒸馏的 NVFP4 量化、多令牌预测和上下文复用在内的技术进行部署优化。来源建议开发者使用 NVIDIA NIM 进行优化部署，但现有证据未说明完整的部署配置或支持的平台矩阵。

Quick Facts

类别: 多模态 AI 模型
主要用户: 构建专业 AI 智能体的开发者和组织
架构: 120B 参数混合专家；每个令牌激活 12B 参数
输入理解: 文本、图像、文档和视频
定制: NVIDIA NeMo 后训练，包括监督微调、低秩适配和强化学习
来源域名: developer.nvidia.com