Nemotron 3 Nano 30B A3B 现已在 Novita AI 上作为 Serverless LLM 提供,支持兼容 OpenAI 的聊天补全,模型 ID 为 nvidia/nemotron-3-nano-30b-a3b,具备 256K 上下文窗口、32,768 最大输出 tokens、文本输入/输出、函数调用、结构化输出以及推理功能(详见 Novita 模型页面)。截至 2026 年 6 月 11 日,Novita 定价为每百万输入 tokens 0.05 美元、每百万输出 tokens 0.20 美元。当你需要执行长上下文代理、编码、数学或工具使用工作流而无需自行管理模型基础设施时,这是一个实用的选择。
Nemotron 3 Nano 30B A3B 是什么?
Nemotron 3 Nano 30B A3B 是 NVIDIA 的一款模型,在 Novita AI Nemotron 3 Nano 30B A3B 模型页面 中被列为一种计算高效、开放权重的推理模型,适用于智能代理 AI。该页面描述其为混合专家模型,拥有 30B 总参数和 3.5B 激活参数,采用混合 Mamba-2 与 Transformer 架构。
对于开发者而言,关键点不仅仅是架构,而是该模型通过 Novita AI 的 Serverless LLM API 暴露,你可以使用与其他 Novita 语言模型相同的兼容 OpenAI 的聊天补全模式来调用它。
| 字段 | 当前值 |
|---|---|
| 显示名称 | Nemotron 3 Nano 30B A3B |
| API 模型 ID | nvidia/nemotron-3-nano-30b-a3b |
| Novita 显示的提供商/系列 | Nvidia |
| 类别 | LLM, Serverless |
| 端点 | chat/completions |
| 输入模态 | 文本 |
| 输出模态 | 文本 |
| 上下文窗口 | 256K tokens |
| 最大输出 tokens | 32,768 |
| 列出的特性标志 | Serverless, 函数调用, 结构化输出, 推理 |
| Novita 显示的量化方式 | fp4 |
这使得该模型适合需要大提示预算、工具使用模式以及 JSON 格式响应的任务,同时你希望使用托管 API 而非自行管理部署。
Novita AI 可用性与定价
该模型目前在 Novita AI 上标记为 NEW Serverless LLM。API 调用时请使用确切的模型 ID nvidia/nemotron-3-nano-30b-a3b。
截至 2026 年 6 月 11 日,Novita 列出的 Token 定价如下:
| Token 类型 | 价格 |
|---|---|
| 输入 Tokens | 每百万 0.05 美元 |
| 输出 Tokens | 每百万 0.20 美元 |
定价和可用性可能发生变化,因此生产团队应在上线或采购评估前查看 Nemotron 3 Nano 30B A3B 模型页面 和 Novita AI 定价页面。
Novita 还通过兼容 OpenAI 的 API 基础 URL 暴露该模型:
https://api.novita.ai/openai
对于聊天补全,端点路径为:
POST https://api.novita.ai/openai/v1/chat/completions
认证使用 Authorization 标头中的 Bearer token。将 API 密钥保存在环境变量或密钥管理器中,不要硬编码在应用代码中。
开发者何时应使用它?
当你的应用需要长上下文、结构化模型输出或面向工具使用的推理,并且需要一个无服务器文本模型时,可以使用 Nemotron 3 Nano 30B A3B。
适合评估的场景包括:
- 长上下文代理,需要读取更大的项目文件、日志、转录文本或知识库片段。
- 编码助手,需要足够的上下文来检查多个文件,然后生成计划或补丁。
- 数学、规划和多步骤分析工作流,其中模型的推理特征标志很重要。
- 通过函数调用调用工具的代理工作流。
- 需要结构化 JSON 响应而非自由形式文本的数据提取任务。
避免假设它对所有任务都是最佳模型。对于延迟敏感型短提示、图像或音频输入、严格基准测试目标或已有已知模型偏好的工作负载,请针对现有候选模型进行测试。模型页面验证了可用性和特性标志,但不能替代你自己对生产提示的评估。
快速入门:调用 Nemotron 3 Nano 30B A3B API
最简单的方法是使用验证过的模型 ID 调用兼容 OpenAI 的聊天补全端点。
cURL
export NOVITA_API_KEY="your_api_key"
curl "https://api.novita.ai/openai/v1/chat/completions" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer ${NOVITA_API_KEY}" \
-d '{
"model": "nvidia/nemotron-3-nano-30b-a3b",
"messages": [
{
"role": "system",
"content": "You are a concise technical assistant."
},
{
"role": "user",
"content": "Summarize the risks in this API migration plan and return three action items."
}
],
"max_tokens": 512,
"temperature": 0.2
}'
Python
如果你的应用已经使用 OpenAI Python SDK 模式,请设置 Novita 兼容 OpenAI 的基础 URL 并更新模型名称。
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/openai",
api_key=os.environ["NOVITA_API_KEY"],
)
response = client.chat.completions.create(
model="nvidia/nemotron-3-nano-30b-a3b",
messages=[
{"role": "system", "content": "You are a concise technical assistant."},
{
"role": "user",
"content": "Summarize the risks in this API migration plan and return three action items.",
},
],
max_tokens=512,
temperature=0.2,
)
print(response.choices[0].message.content)
有关实现细节,请参阅 Novita AI LLM API 指南 和 聊天补全 API 参考。
谨慎使用函数调用、结构化输出和推理
Novita 将函数调用、结构化输出和推理列为该模型的特性标志。这些功能在应用需要在模型与系统其他部分之间建立可预测接口时最为有用。
对于函数调用,传入带有函数定义的 tools 数组。聊天补全 API 支持带有名称、描述、JSON Schema 参数以及 strict 选项的函数工具。
对于结构化输出,当模型和 schema 受支持时,使用带有 json_schema 的 response_format。API 参考指出严格的结构化输出仅支持 JSON Schema 的子集,因此在生产环境中依赖之前请测试你的确切 schema。
对于推理行为,请清楚区分模型级别的可用性与请求级别的行为。Nemotron 模型页面将推理列为特性标志,而聊天补全 API 参考文档则记录了请求参数(如 separate_reasoning 和 enable_thinking)并附有模型特定的支持说明。在生产环境中使用推理字段之前,请使用该确切模型 ID 运行一个小型 API 测试,并捕获你的应用程序将要处理的响应形状。
常见问题
Nemotron 3 Nano 30B A3B 在 Novita AI 上可用吗?
是的。该模型在 Novita AI 上列为 Serverless LLM,模型 ID 为 nvidia/nemotron-3-nano-30b-a3b。
Nemotron 3 Nano 30B A3B 的上下文窗口是多少?
Novita 为 nvidia/nemotron-3-nano-30b-a3b 列出了 256K 上下文窗口和 32,768 最大输出 tokens。
Nemotron 3 Nano 30B A3B API 在 Novita AI 上价格如何?
截至 2026 年 6 月 11 日,Novita 定价为每百万输入 tokens 0.05 美元,每百万输出 tokens 0.20 美元。
该模型支持函数调用和结构化输出吗?
Novita 模型页面将函数调用和结构化输出列为 Nemotron 3 Nano 30B A3B 的特性标志。在生产环境中使用前,请针对 API 验证你的确切工具 schema 或 JSON schema。
我应该使用哪个端点?
使用兼容 OpenAI 的聊天补全端点:https://api.novita.ai/openai/v1/chat/completions。
