NVIDIA
NVIDIA 通过位于 https://integrate.api.nvidia.com/v1 的 OpenAI 兼容 API 免费提供开放模型,使用来自 build.nvidia.com 的 API 密钥进行身份验证。OpenClaw 默认将 NVIDIA 提供商设置为 Nemotron 3 Ultra,这是 NVIDIA 的总参数 550B / 激活参数 55B 推理模型,适用于长上下文智能体工作。
快速开始¶
1. 获取 API 密钥
在 build.nvidia.com 创建 API 密钥。
2. 导出密钥并运行入门配置
3. 设置 NVIDIA 模型
对于非交互式设置,直接传入密钥:
Warning
--nvidia-api-key 会将密钥写入 shell 历史记录和 ps 输出。尽可能优先使用
NVIDIA_API_KEY 环境变量。
配置示例¶
{
env: { vars: { NVIDIA_API_KEY: "nvapi-..." } },
models: {
providers: {
nvidia: {
baseUrl: "https://integrate.api.nvidia.com/v1",
api: "openai-completions",
},
},
},
agents: {
defaults: {
model: { primary: "nvidia/nvidia/nemotron-3-ultra-550b-a55b" },
},
},
}
实时模型目录¶
当配置了 NVIDIA API 密钥后,设置和模型选择路径会检查
https://integrate.api.nvidia.com/v1/models 以获取可用模型 ID,缓存 30 秒。NVIDIA 的公开
https://assets.ngc.nvidia.com/products/api-catalog/featured-models.json 数据源
提供排名和 token 限制,缓存 24 小时。精选模型仅在推理清单仍列出它们时排在前面;其他可用的
内置聊天模型随后列出。新的清单可以恢复 NVIDIA 已重新发布的先前隐藏模型。
托管目录应用相同的数据源:NVIDIA 的精选模型位于其 推荐模型之前, 随后是全局列表。
清单还包含嵌入和其他非聊天端点,但没有能力元数据。因此,OpenClaw 只提供具有内置聊天元数据或有效精选模型元数据的精确模型;它不会根据模型名称猜测能力。未知 ID 仍可以显式配置;仅列出并不能证明聊天兼容性。这不是所有 NVIDIA 模型的完整自动目录。
两个公开获取均使用固定 HTTPS 主机,且不发送凭据。清单或精选请求失败会将发现标记为不可用,并保留相同提供商配置和凭据下最后一次成功的目录。失败的精选元数据不会静默移除先前发现的模型。成功的空清单会清除已发现的模型,即使精选数据源失败。没有 NVIDIA 认证时,浏览使用内置目录而不进行获取。
Nemotron 3.5 Lightning¶
nvidia/nemotron-3.5-lightning-30b-a3b
是 NVIDIA 更小的总参数 30B / 激活参数 3B 推理模型,适用于智能体工作。内置行记录了其 1M 上下文和 16,384 token 输出预算,与 NVIDIA 的托管示例一致。使用以下命令选择它:
即使精选数据源中没有,只要实时清单列出了 Lightning,就可以选择它。Nemotron 3 Ultra 仍然是默认模型。
Nemotron 3 Ultra¶
Nemotron 3 Ultra 是 OpenClaw 中的默认 NVIDIA 模型。NVIDIA 的
nvidia/nemotron-3-ultra-550b-a55b
构建页面将其列为可用的免费端点,具有 1M token 上下文规格。
内置 Ultra 行默认发送
chat_template_kwargs: { enable_thinking: false, force_nonempty_content: true },
以便普通聊天输出保留在可见答案中,而不是暴露推理文本。
使用 Ultra 作为最高能力的 NVIDIA 默认模型。当你想要更小的 Nemotron 选项时,选择 Nemotron 3.5 Lightning 或 Nemotron 3 Super;或者当第三方模型的上下文、延迟或行为更合适时,选择 NVIDIA 目录中托管的其中一个第三方模型。
内置回退目录¶
内置行提供已知的聊天元数据和离线回退。已弃用的兼容性行保留现有精确模型引用的可识别性,但不会出现在模型选择器中。
| 模型引用 | 名称 | 上下文 | 最大输出 |
|---|---|---|---|
nvidia/nvidia/nemotron-3-ultra-550b-a55b |
Nemotron 3 Ultra 550B | 1,048,576 | 8,192 |
nvidia/nvidia/nemotron-3.5-lightning-30b-a3b |
Nemotron 3.5 Lightning 30B | 1,048,576 | 16,384 |
nvidia/nvidia/nemotron-3-super-120b-a12b |
Nemotron 3 Super 120B | 1,000,000 | 8,192 |
nvidia/z-ai/glm-5.2 |
GLM 5.2 | 202,752 | 8,192 |
nvidia/moonshotai/kimi-k2.6 |
Kimi K2.6 | 262,144 | 65,536 |
nvidia/minimaxai/minimax-m3 |
Minimax M3 | 196,608 | 8,192 |
nvidia/deepseek-ai/deepseek-v4-pro |
DeepSeek V4 Pro | 262,144 | 16,384 |
完整兼容性目录还保留这些已发布的引用,用于现有配置和迁移:nvidia/qwen/qwen3.5-397b-a17b、
nvidia/moonshotai/kimi-k2.5、nvidia/z-ai/glm-5.1、nvidia/z-ai/glm5,以及
nvidia/minimaxai/minimax-m2.7。这些引用在 NVIDIA 将其重新发布到推理清单之前,会从内置和离线模型选择器中隐藏。
NVIDIA 已停用 Qwen 端点,因此使用其模型引用的请求不再有效。将现有 Qwen 配置迁移到活动模型。
高级配置¶
自动启用行为
当设置 NVIDIA_API_KEY 环境变量,或在引导过程中已存储密钥时,provider 会自动启用。除密钥外,无需显式 provider 配置。
目录与定价
OpenClaw 使用 NVIDIA 的推理库存来判断可用性,并使用其精选 feed 进行排序。精确捆绑的元数据会保留精选 feed 中省略的推理和图像能力。已弃用的精确引用兼容行会保持对离线回退隐藏;新的库存可以恢复 NVIDIA 已重新发布的模型。由于 NVIDIA 目前为所列模型提供免费 API 访问,源中的成本默认为 0。
OpenAI 兼容端点
OpenClaw 通过 openai-completions 适配器与 NVIDIA 通信,针对标准 /v1 chat completions 路由。任何 OpenAI 兼容工具都应能直接使用 NVIDIA base URL 开箱即用。
Nemotron 3 Ultra 推理参数
NVIDIA 的 Ultra 示例请求使用 chat_template_kwargs.enable_thinking
和 reasoning_budget 进行推理输出。OpenClaw 捆绑的 Ultra 行
默认禁用模板思考,用于普通聊天。如果需要
启用 NVIDIA 推理输出或强制其他 NVIDIA 特定请求
字段,请设置每模型参数,并将 provider 特定覆盖限定到
NVIDIA 模型:
{
agents: {
defaults: {
models: {
"nvidia/nvidia/nemotron-3-ultra-550b-a55b": {
params: {
chat_template_kwargs: { enable_thinking: true },
extra_body: { reasoning_budget: 16384 },
},
},
},
},
},
}
params.chat_template_kwargs 会合并到请求中已有的任何 chat_template_kwargs,
而不是替换整个对象。
params.extra_body 是最终的 OpenAI 兼容请求体覆盖,
会覆盖冲突的 payload 键,因此仅用于 NVIDIA
为所选端点记录的字段。
缓慢的自定义 provider 响应
一些 NVIDIA 托管的自定义模型在发出第一个响应块之前,可能需要超过默认约 120 秒的
模型空闲看门狗时间。对于自定义
NVIDIA provider 条目,请提高 provider 超时,而不是整个
agent 运行时超时;timeoutSeconds 覆盖 provider HTTP 请求,并
提高该 provider 的空闲/流式看门狗上限。下面的 provider id
(custom-integrate-api-nvidia-com)是你选择的一个名称,不是保留值;只要你的模型引用使用相同前缀,任何 id 都可以:
{
models: {
providers: {
"custom-integrate-api-nvidia-com": {
baseUrl: "https://integrate.api.nvidia.com/v1",
api: "openai-completions",
apiKey: "NVIDIA_API_KEY",
timeoutSeconds: 300,
},
},
},
agents: {
defaults: {
models: {
"custom-integrate-api-nvidia-com/meta/llama-3.1-70b-instruct": {
params: { thinking: "off" },
},
},
},
},
}
Tip
NVIDIA 模型目前可免费使用。请查看 build.nvidia.com 以获取最新可用性和 速率限制详情。
相关¶
选择 provider、模型引用和故障转移行为。
agents、models 和 providers 的完整配置参考。
本页原文 Markdown:在 AtomGit 查看·内容源自开源项目 cl/openclaw