Nemotron 3 Nano 30B A3B 已在 Novita AI 上線,作為無伺服器 LLM 提供與 OpenAI 相容的聊天補全功能,模型 ID 為 nvidia/nemotron-3-nano-30b-a3b,具備 256K 上下文視窗、32,768 最大輸出 Token、文字輸入/輸出、函式呼叫、結構化輸出與推理功能(詳見 Novita 模型頁面)。截至 2026 年 6 月 11 日,Novita 的定價為每百萬輸入 Token $0.05 美元、每百萬輸出 Token $0.20 美元,當你需要長上下文代理、程式碼撰寫、數學或工具使用工作流程,又不想自行管理模型基礎設施時,這是一個務實的選擇。
什麼是 Nemotron 3 Nano 30B A3B?
Nemotron 3 Nano 30B A3B 是 NVIDIA 的模型,在 Novita AI Nemotron 3 Nano 30B A3B 模型頁面 中被描述為一個運算效率高、開放權重的推理模型,專為代理型 AI 設計。該頁面說明這是一個混合專家模型(MoE),共 300 億參數,活躍參數為 35 億,採用混合 Mamba-2 與 Transformer 架構。
對開發者而言,重點不僅在於架構。更關鍵的是該模型透過 Novita AI 的無伺服器 LLM API 提供,因此你可以使用與其他 Novita 語言模型相同的 OpenAI 相容聊天補全模式來呼叫它。
| 欄位 | 目前數值 |
|---|---|
| 顯示名稱 | Nemotron 3 Nano 30B A3B |
| API 模型 ID | nvidia/nemotron-3-nano-30b-a3b |
| 供應商/系列(由 Novita 顯示) | Nvidia |
| 分類 | LLM、無伺服器 |
| 端點 | chat/completions |
| 輸入形式 | 文字 |
| 輸出形式 | 文字 |
| 上下文視窗 | 256K Token |
| 最大輸出 Token | 32,768 |
| 列出的功能標記 | 無伺服器、函式呼叫、結構化輸出、推理 |
| Novita 顯示的量化方式 | fp4 |
這使得該模型適合需要大量提示預算、工具使用模式與 JSON 結構化回應的任務,但仍希望使用託管 API 而非自行管理的部署。
Novita AI 的可用性與定價
該模型目前在 Novita AI 上標示為「NEW」的無伺服器 LLM。請在 API 呼叫中使用確切的模型 ID nvidia/nemotron-3-nano-30b-a3b。
截至 2026 年 6 月 11 日,Novita 的 Token 定價如下:
| Token 類型 | 價格 |
|---|---|
| 輸入 Token | 每 1M Token $0.05 美元 |
| 輸出 Token | 每 1M Token $0.20 美元 |
定價與可用性可能變動,因此生產團隊應在發佈或採購審核前查看 Nemotron 3 Nano 30B A3B 模型頁面 與 Novita AI 定價頁面。
Novita 也透過與 OpenAI 相容的 API 基礎 URL 公開該模型:
https://api.novita.ai/openai
聊天補全的端點路徑為:
POST https://api.novita.ai/openai/v1/chat/completions
身分驗證使用 Authorization 標頭中的 Bearer Token。請將 API 金鑰存放在環境變數或您的機密管理器中,切勿在應用程式程式碼中寫死。
開發者何時應該使用它?
當你的應用程式需要長上下文、結構化模型輸出,或需使用工具導向推理的無伺服器文字模型時,請考慮使用 Nemotron 3 Nano 30B A3B。
適合評估的場景包括:
- 需要閱讀大型專案檔案、日誌、逐字稿或知識庫區塊的長上下文代理。
- 需要在生成計畫或修補程式前檢查多個檔案的程式碼助理。
- 數學、規劃與多步驟分析工作流程,其中模型的推理功能標記很關鍵。
- 透過函式呼叫使用工具的代理工作流程。
- 需要結構化 JSON 回應而非自由格式文字的資料擷取任務。
請勿假設它最適合所有任務。對於延遲敏感的短提示、圖像或音訊輸入、嚴格的基準目標,或者已知模型偏好的工作負載,請先針對您的現有候選模型進行測試。模型頁面能驗證可用性與功能標記,但無法取代您對生產提示的評估。
快速入門:呼叫 Nemotron 3 Nano 30B A3B API
最簡單的入門方式是使用驗證過的模型 ID 呼叫 OpenAI 相容的聊天補全端點。
cURL
export NOVITA_API_KEY="your_api_key"
curl "https://api.novita.ai/openai/v1/chat/completions" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer ${NOVITA_API_KEY}" \
-d '{
"model": "nvidia/nemotron-3-nano-30b-a3b",
"messages": [
{
"role": "system",
"content": "你是一個簡潔的技術助手。"
},
{
"role": "user",
"content": "總結這個 API 遷移計畫中的風險,並列出三個行動事項。"
}
],
"max_tokens": 512,
"temperature": 0.2
}'
Python
如果你的應用程式已使用 OpenAI Python SDK 模式,請設定 Novita 與 OpenAI 相容的基礎 URL 並更新模型名稱。
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/openai",
api_key=os.environ["NOVITA_API_KEY"],
)
response = client.chat.completions.create(
model="nvidia/nemotron-3-nano-30b-a3b",
messages=[
{"role": "system", "content": "你是一個簡潔的技術助手。"},
{
"role": "user",
"content": "總結這個 API 遷移計畫中的風險,並列出三個行動事項。",
},
],
max_tokens=512,
temperature=0.2,
)
print(response.choices[0].message.content)
如需實作細節,請參閱 Novita AI LLM API 指南 與 聊天補全 API 參考文件。
謹慎使用函式呼叫、結構化輸出與推理功能
Novita 將函式呼叫、結構化輸出與推理列為模型的功能標記。當你的應用程式需要在模型與系統其他部分之間建立可預測的介面時,這些功能最為實用。
對於函式呼叫,傳入包含函式定義的 tools 陣列。聊天補全 API 支援包含名稱、描述、JSON Schema 參數以及 strict 選項的函式工具。
對於結構化輸出,使用包含 json_schema 的 response_format,前提是模型與 Schema 皆受支援。API 參考文件指出嚴格的結構化輸出僅支援 JSON Schema 的子集,因此在依賴生產環境之前,請先測試你的確切 Schema。
對於推理行為,請明確區分模型層級的可用性與請求層級的行為。Nemotron 模型頁面將推理列為功能標記,而聊天補全 API 參考文件則記錄了如 separate_reasoning 與 enable_thinking 等請求參數,並附有模型特定的支援說明。在生產環境使用推理欄位之前,請先用此確切模型 ID 執行一個小型 API 測試,並捕捉你的應用程式將處理的回應形狀。
常見問題
Nemotron 3 Nano 30B A3B 在 Novita AI 上可用嗎?
是的。該模型在 Novita AI 上已列為無伺服器 LLM,模型 ID 為 nvidia/nemotron-3-nano-30b-a3b。
Nemotron 3 Nano 30B A3B 的上下文視窗有多大?
Novita 為 nvidia/nemotron-3-nano-30b-a3b 標示了 256K 上下文視窗與 32,768 最大輸出 Token。
Nemotron 3 Nano 30B A3B API 在 Novita AI 上的費用是多少?
截至 2026 年 6 月 11 日,Novita 的定價為每百萬輸入 Token $0.05 美元、每百萬輸出 Token $0.20 美元。
該模型支援函式呼叫與結構化輸出嗎?
Novita 模型頁面將函式呼叫與結構化輸出列為 Nemotron 3 Nano 30B A3B 的功能標記。請在生產環境使用前,先針對 API 驗證你的確切工具 Schema 或 JSON Schema。
我應該使用哪個端點?
請使用與 OpenAI 相容的聊天補全端點:https://api.novita.ai/openai/v1/chat/completions。
