NVIDIA Nemotron 3.5 Lightning 免费开放：30B MoE 适合 Agent 执行层

NVIDIA Nemotron 3.5 Lightning 现已在 AIHubMix 上免费使用。

在 AIHubMix 上体验 Nemotron 3.5 Lightning

专为 AI Agent 的执行层打造

长时间运行的 Agent 大部分时间都在做频繁的运维工作：调用工具、验证输出、编写和审查代码、格式化结果、以及向子 Agent 分配任务。为每一个步骤都使用大型前沿模型会增加不必要的延迟和成本。

Nemotron 3.5 Lightning 就是为这一执行层设计的。它是一个开放的 30B 混合专家模型，仅有 3B 活跃参数，在保持大模型容量的同时大幅减少了活跃计算开销。

核心能力包括：

• 30B 总参数，3B 活跃参数
• 最高 100 万 token 的上下文窗口
• 工具调用和工具输出验证
• 编码和专项任务执行
• 长时间运行的自主 Agent 工作流
• 高速、高吞吐量推理
• 在支持的 NVIDIA 硬件上本地部署

Lightning 负责执行，更大的模型负责规划

Nemotron 3.5 Lightning 是 Nemotron 3 系列中最小的成员。Nemotron 3 Super 和 Ultra 等更大规模的模型适合高级推理、编排和复杂规划，而 Lightning 则专注于占据 Agent 工作负载主导地位的高频执行步骤。

这使其成为子 Agent、编码助手、工具驱动工作流和常驻 Agent 系统的实用主力。

免费使用

目前 AIHubMix 提供免费通道，零输入输出 token 定价：

Model ID: nemotron-3.5-lightning-free
Input: $0 / 1M tokens
Output: $0 / 1M tokens
Context: up to 1M tokens

通过 AIHubMix 的 OpenAI 兼容 API 使用：

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["AIHUBMIX_API_KEY"],
    base_url="https://aihubmix.com/v1",
)

response = client.chat.completions.create(
    model="nemotron-3.5-lightning-free",
    messages=[
        {"role": "user", "content": "Help me validate this tool output."}
    ],
)

print(response.choices[0].message.content)

探索 Nemotron 3.5 Lightning，开始在 AIHubMix 上构建