AWS 上架 NVIDIA Nemotron 3.5 Super VL：SageMaker JumpStart 用户可部署能看图、看视频的 AI 模型

发生了什么事

AWS 宣布，NVIDIA Nemotron 3.5 Super VL 已在 Amazon SageMaker JumpStart 提供。JumpStart 是 AWS 机器学习服务 SageMaker 中的预训练模型目录。这个模型可在 SageMaker Studio 部署，也可用几行 SageMaker Python SDK 代码部署。

根据 AWS，Super VL 是 NVIDIA Nemotron 3.5 系列中的视觉语言模型，也就是能同时理解图像与文本的 AI 模型。它可接收图像、视频与文本，并生成文本。

模型采用混合专家（MoE）架构：由许多“专家”子网络组成，每次只激活其中一部分。总参数为 120B，每个 token 只激活 12B，并搭配 C-RADIO 视觉编码器。token 是模型处理文本的基本单位。

模型支持最长 100 万 token 的上下文，也就是一次能处理的内容量。它还内置 Multi-Token Prediction（MTP）头，这是可一次预测多个 token、用于加速生成的组件。推理模式（模型先逐步思考再作答）可按每次请求开关。

AWS 表示，NVIDIA 将它设计用于四类用途：文档智能、电脑操作代理所需的 GUI 理解、视频问答，以及多模态代理应用。这里的电脑操作代理，是指能自动操作软件的 AI 程序。AWS 同时列出支持的语言为英文、法文、德文、意大利文、日文、西班牙文与中文，许可为 OpenMDW License Agreement 1.1 版。

两种版本对比

AWS 指出，JumpStart 提供两个版本。BF16 是全精度参考权重，以 16 位格式存储模型数值，可用于后续的定制训练。NVFP4 则是从 BF16 经“量化感知蒸馏”生成的版本。量化就是降低数值精度来缩小模型，NVFP4 以 4 位的权重与激活值运行，主打优化推理。

质量基准与限制

AWS 引述 NVIDIA 模型卡指出，NVFP4 在 MMLongBench-Doc 基准上与 BF16 相同，均为 62.82；在其他多模态基准上，两者差距约一分以内。各项分数（BF16 与 NVFP4）如下：OCRBench v2 英文为 68.12 与 68.34；CharXiv 推理为 80.82 与 79.88；Video-MME v2 为 32.85 与 32.54；OSWorld-Verified 为 51.14 与 52.30。

限制方面，AWS 说明模型接受图像而非原始 PDF，需先把页面转成图像；一张 1,536 x 1,024 的页面约占 1,536 token 上下文。JumpStart 设置每次请求只接受一张图像与一段视频，服务上下文为 520 至 15,600 token。

检查点虽含 MTP 头，但 JumpStart 设置未启用推测式解码，也就是利用 MTP 加速输出的技巧。端点是部署后接收请求的服务地址，它只提供基础权重，不加载 LoRA 适配器。LoRA 是一种轻量的微调附加模块。

AWS 另指出，端点在网络隔离下运行，无法自行获取网址，因此图像与视频必须以 base64 数据 URL 的形式直接内嵌在请求中发送。

对普通读者与企业的意义

对已使用 AWS 的团队而言，这意味着可在托管服务中试用能同时读图、看视频的大型模型，用于发票提取、图表与长文档理解等场景。这是 AWS 的发布说明，实际效果仍需用自有数据验证。

AWS 提醒，部署需要两项条件：可创建 SageMaker AI 端点的 AWS 账户权限，以及足够的实例配额。新账户的 ml.g7 配额从零开始，需先通过 Service Quotas 申请提高。在 ml.g7.24xlarge 上部署约需 10 分钟。AWS 并建议用完后删除端点、端点配置与模型，以避免持续收费。

查看同分类最新消息

• AI 新闻与趋势