Vercel免费接入Nemotron长上下文模型

NVIDIA 的 Nemotron 3.5 Lightning 现已在 AI Gateway 上免费提供，模型名称为 nvidia/nemotron-3.5-lightning-free，由 NVIDIA 提供服务。

Nemotron 3.5 Lightning 是一款开放权重的推理与聊天模型，适用于长时间运行的 Agent、子 Agent 任务、聊天机器人和 RAG 系统。模型拥有 30B 参数，每个 token 激活 3B 参数，采用混合 Mixture-of-Experts 架构，将 Mamba-2 层与 MoE 层交错排列，并穿插少量 attention 层。它拥有 1M token 的上下文窗口，支持工具调用和结构化输出。

注意：服务提供商可能会保留 prompt，用于改进模型。

你可以通过 AI SDK、Chat Completions、Responses 和 Messages API，或连接到 AI Gateway 的编程 Agent，调用 Nemotron 3.5 Lightning。

使用 nvidia/nemotron-3.5-lightning-free 作为模型名称：

1import { streamText } from 'ai';2
3const result = streamText({4  model: 'nvidia/nemotron-3.5-lightning-free',5  prompt: 'Write a TypeScript function that retries a failed fetch with exponential backoff.',6});

要在 Claude Code、Codex、Cursor 等工具中使用它，请安装最新版 Vercel CLI，然后运行设置命令：

npx vercel ai-gateway setup

接着，在 Agent 中选择 nvidia/nemotron-3.5-lightning-free。详细说明请参阅编程 Agent 指南。

AI Gateway 提供统一的 API，用于调用模型、跟踪用量与成本，以及配置重试、故障转移和性能优化，从而实现比直接使用服务提供商更高的可用性。它还内置了自定义报告、API key 预算、路由规则等功能。

AI Gateway 按服务提供商的原价计费，不加价，也不对推理收取平台费，包括自带密钥（Bring Your Own Key，BYOK）的请求。

你可以查看 AI Gateway 上所有可用的语言模型。