DeepSeek V4 Pro 現已在 Novita AI 上提供,模型 ID 為 deepseek/deepseek-v4-pro,擁有 1,048,576 tokens 的上下文窗口、393,216 tokens 的最大輸出設定,以及目前模型頁面上的定價:每 100 萬 tokens 輸入 $1.60、快取讀取 $0.135 和輸出 $3.20。測試長上下文推理或編碼任務時,請使用這些數值,而非早期報導的舊定價。
什麼是長上下文推理
長上下文推理讓應用程式能一次請求中傳送更多內容:原始碼檔案、日誌、檢索文件、政策文本、對話記錄、測試失敗案例、架構筆記,或相關材料的組合。這讓模型獲得比短提示或小型檢索結果更多的上下文來運作。
在 Novita AI 上,DeepSeek V4 Pro 模型頁面顯示其具備 1,048,576 tokens 的上下文窗口並支援推理。這使其適合用於程式碼庫層級的分析、多文件綜合、代理規劃,以及需要比短聊天提示能承載更多上下文的除錯任務。
上下文窗口只是其中一部分。你仍然需要組織提示、設定輸出上限、估算成本、驗證回應,並決定請求失敗時的處理方式。
何時使用 DeepSeek V4 Pro
當答案依賴大量文字,且你想將這些材料保留在單一請求中時,使用 DeepSeek V4 Pro。範例包括:
- 審查包含周圍實作背景的多檔案程式碼變更。
- 總結長篇技術文件並提取待辦事項。
- 在除錯任務中比較日誌、票單和程式碼片段。
- 執行需要規劃上下文和工具結果的代理步驟。
- 從大量證據包產出結構化輸出。
不要預設將每個請求都設為 100 萬上下文的請求。如果短提示或小型檢索結果就能回答問題,那條路徑更容易測試、成本更低,且較少引入不相關的材料。
DeepSeek V4 Pro 在目前 Novita 模型頁面上是文字輸入和文字輸出。若需圖片或影片輸入,請選擇支援多模態請求的模型,而非強行將多模態內容塞入此請求路徑。
步驟 1:確認 Novita AI 上的功能支援
經驗證的 DeepSeek V4 Pro 模型 ID 為:
deepseek/deepseek-v4-pro
使用 Novita AI 的 OpenAI 相容基礎 URL:
https://api.novita.ai/openai
對於聊天補全,發送請求至:
https://api.novita.ai/openai/v1/chat/completions
在首次請求中使用這些 DeepSeek V4 Pro API 細節:
| 欄位 | 值 |
| 模型 ID | deepseek/deepseek-v4-pro |
| 基礎 URL | https://api.novita.ai/openai |
| 上下文窗口 | 1,048,576 tokens |
| 最大輸出 | 393,216 tokens |
| 輸入 | 文字 |
| 輸出 | 文字 |
| 無伺服器支援 | 支援 |
| 函式呼叫 | 支援 |
| 結構化輸出 | 支援 |
| 推理 | 支援 |
| Anthropic API 相容性 | 支援 |
| 量化 | FP8 |
在正式上線前請查閱 DeepSeek V4 Pro 模型文件,因為可用性、定價、上下文和支援欄位都可能變動。
步驟 2:設定請求
從小型純文字請求開始。一旦認證與路由正常運作,再擴展至你實際計劃使用的較長提示。
對於長上下文推理請求,請這樣組織提示,讓模型能區分指令與證據:
- 將穩定的行為規則放在系統訊息中。
- 將任務、預期輸出格式和限制條件放在使用者訊息的開頭。
- 用清楚的名稱標記大型證據區塊,例如
Repository summary、Changed files、Logs或Source excerpts。 - 當輸出需要可稽核時,要求模型引用證據標籤或檔案名稱。
- 使用
max_tokens限制輸出,讓測試不會產生超出應用程式處理能力的文字。
如果你使用函式呼叫或結構化輸出,請在一般聊天補正常作用後再測試那些功能。長推理提示可能產出比預期更多的文字,因此請定義最終答案的形狀,並在使用回應前進行驗證。
步驟 3:讀取特定功能的回應
在 OpenAI 相容的聊天補全回應中,主要答案通常位於:
choices[0].message.content
對於長上下文請求,回應處理不應只是列印答案。應儲存足夠的元資料以便除錯失敗和估算成本:
- 使用的模型 ID
- 提示大小或 token 估算
- 輸出大小
- 是否使用了快取上下文
- 應用程式追蹤 ID 或請求 ID(如有)
- 提示模板版本
- 用於組合上下文的原始套件版本或檢索查詢
當回應應為結構化 JSON 時,請先驗證再執行。若驗證失敗,請以較小的證據集、較簡單的綱要或更嚴格格式化指令重試。
步驟 4:測試失敗案例
在將 DeepSeek V4 Pro 用於真實使用者前,請測試最可能失敗的路徑:
- API 金鑰遺失
- 錯誤的模型 ID
- 提示組合超出上下文限制
- 輸出上限太小,無法完成要求的任務
- 提示包含改變答案的不相關證據
- 結構化輸出驗證失敗
- 工具呼叫引數不完整或不安全
- 重試導致重複執行使用者可見動作
對於代理型應用程式,請將模型推理與動作執行分開。模型可以提議工具呼叫,但你的伺服器應在執行任何動作前驗證引數、權限和冪等性。
API 快速入門欄位
| 欄位 | 值 |
| 模型名稱 | DeepSeek V4 Pro |
| 模型 ID | deepseek/deepseek-v4-pro |
| 基礎 URL | https://api.novita.ai/openai |
| 聊天補全 URL | https://api.novita.ai/openai/v1/chat/completions |
| 輸入模態 | 文字 |
| 輸出模態 | 文字 |
| 上下文窗口 | 1,048,576 tokens |
| 最大輸出 | 393,216 tokens |
| 目前輸入定價 | 每 100 萬 tokens $1.60 |
| 目前快取讀取定價 | 每 100 萬 tokens $0.135 |
| 目前輸出定價 | 每 100 萬 tokens $3.20 |
上方定價來自當前模型頁面,而非舊版 DeepSeek 部落格定價。上線前請重新查閱 DeepSeek V4 Pro 模型文件。
Python 範例
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["NOVITA_API_KEY"],
base_url="https://api.novita.ai/openai/v1",
)
context = """
Repository summary:
- The service validates API requests and writes audit events.
- A recent change added asynchronous retry logic.
Issue:
- Some retry attempts duplicate audit events.
Relevant logs:
- request_id=abc123 retry=1 audit_event_created=true
- request_id=abc123 retry=2 audit_event_created=true
"""
response = client.chat.completions.create(
model="deepseek/deepseek-v4-pro",
messages=[
{
"role": "system",
"content": "You analyze long technical context and return concise engineering guidance.",
},
{
"role": "user",
"content": (
"Identify the likely implementation risk and propose a fix. "
"Use only the evidence below.\n\n"
f"{context}"
),
},
],
temperature=0.2,
max_tokens=800,
)
使用 cURL 發送請求
payload='{
"model": "deepseek/deepseek-v4-pro",
"messages": [
{
"role": "system",
"content": "You analyze long technical context and return concise engineering guidance."
},
{
"role": "user",
"content": "Identify the likely implementation risk and propose a fix. Use only this evidence: retry attempt 1 created an audit event; retry attempt 2 also created an audit event for the same request_id."
}
],
"temperature": 0.2,
"max_tokens": 800
}'
curl --request POST "https://api.novita.ai/openai/v1/chat/completions" \
--header "Authorization: Bearer $NOVITA_API_KEY" \
--header "Content-Type: application/json" \
--data "$payload"
最佳實務
保持上下文有組織
當輸入有標籤且經過篩選時,100 萬 tokens 的上下文窗口效果最佳。將原始碼檔案、日誌、需求和任務指令分開。如果你貼上一個大型未區分的文字區塊,模型較難遵循結構,你的團隊也較難除錯答案。
在完整上下文提示前先使用檢索
長上下文不應取代檢索紀律。在組合提示前,使用檢索、排序或基於規則的篩選來移除不相關材料。將大型上下文窗口保留給真正需要緊密結合的資訊。
在測試期間限制輸出
最大輸出欄位為 393,216 tokens,但大多數應用應從較小的上限開始。僅當產品真正需要長輸出,且你的 UI、儲存和成本控制都能處理時,再提高 max_tokens。
驗證結構化輸出
如果回應驅動應用程式動作,請要求結構化的最終答案並在伺服器端驗證。例如,要求提供 risk_summary、evidence、recommended_fix 和 confidence 等欄位,然後拒絕或重試不符合綱要的回應。
將工具呼叫視為提議
目前模型頁面列出函式呼叫支援。請將函式呼叫視為提議的動作,直到你的應用程式驗證權限、引數、速率限制和副作用。
定價與限制說明
目前 Novita AI 上的 DeepSeek V4 Pro 定價為:
| Token 類型 | 價格 |
| 輸入 | 每 100 萬 tokens $1.60 |
| 快取讀取 | 每 100 萬 tokens $0.135 |
| 輸出 | 每 100 萬 tokens $3.20 |
上下文窗口目前為 1,048,576 tokens,最大輸出欄位目前為 393,216 tokens。大型請求是可行的,但需要明確的成本和回應大小控制。
進行成本估算時,請計算:
- 每次請求的平均輸入 tokens
- 使用快取上下文的請求百分比
- 每次請求的平均輸出 tokens
- 重試率
- 工具或結構化輸出修復嘗試次數
- 長提示中是否包含應被篩選掉的不相關證據
請勿使用舊版 DeepSeek 部落格定價進行當前成本估算。在發佈預算、發票估算或客戶面對比較之前,請使用即時模型頁面或最新平台定價來源。
常見問題
DeepSeek V4 Pro 在 Novita AI 上是否支援長上下文推理?
是的。目前 Novita AI 模型頁面列出 DeepSeek V4 Pro 具備 1,048,576 tokens 上下文窗口和推理支援。
DeepSeek V4 Pro 的模型 ID 是什麼?
使用 deepseek/deepseek-v4-pro。
哪些參數控制請求?
對於快速入門路徑,使用 model、messages、temperature 和 max_tokens。在基本請求運作後,如果你的應用程式需要這些功能,請測試 tools(函式呼叫)或結構化回應格式。
長上下文推理會影響定價或輸出長度嗎?
較長的提示會增加輸入成本,較長的答案會增加輸出成本。目前定價為每 100 萬輸入 tokens $1.60、每 100 萬快取讀取 tokens $0.135、每 100 萬輸出 tokens $3.20。
何時應該避免使用 DeepSeek V4 Pro?
當任務不需要大量文字上下文時、當較小提示就能回答問題時,或當應用程式需要圖片或影片輸入時,應避免使用。DeepSeek V4 Pro 目前列為文字輸入和文字輸出。
舊版 DeepSeek 部落格定價仍然有效嗎?
請使用當前模型頁面定價進行成本規劃。舊版部落格定價可能已不再與即時模型頁面相符。
