DeepSeek V4 Pro 長上下文推理:開發者指南

DeepSeek V4 Pro 長上下文推理:開發者指南

DeepSeek V4 Pro 現已在 Novita AI 上提供,模型 ID 為 deepseek/deepseek-v4-pro,擁有 1,048,576 tokens 的上下文窗口、393,216 tokens 的最大輸出設定,以及目前模型頁面上的定價:每 100 萬 tokens 輸入 $1.60、快取讀取 $0.135 和輸出 $3.20。測試長上下文推理或編碼任務時,請使用這些數值,而非早期報導的舊定價。

什麼是長上下文推理

長上下文推理讓應用程式能一次請求中傳送更多內容:原始碼檔案、日誌、檢索文件、政策文本、對話記錄、測試失敗案例、架構筆記,或相關材料的組合。這讓模型獲得比短提示或小型檢索結果更多的上下文來運作。

在 Novita AI 上,DeepSeek V4 Pro 模型頁面顯示其具備 1,048,576 tokens 的上下文窗口並支援推理。這使其適合用於程式碼庫層級的分析、多文件綜合、代理規劃,以及需要比短聊天提示能承載更多上下文的除錯任務。

上下文窗口只是其中一部分。你仍然需要組織提示、設定輸出上限、估算成本、驗證回應,並決定請求失敗時的處理方式。

何時使用 DeepSeek V4 Pro

當答案依賴大量文字,且你想將這些材料保留在單一請求中時,使用 DeepSeek V4 Pro。範例包括:

  • 審查包含周圍實作背景的多檔案程式碼變更。
  • 總結長篇技術文件並提取待辦事項。
  • 在除錯任務中比較日誌、票單和程式碼片段。
  • 執行需要規劃上下文和工具結果的代理步驟。
  • 從大量證據包產出結構化輸出。

不要預設將每個請求都設為 100 萬上下文的請求。如果短提示或小型檢索結果就能回答問題,那條路徑更容易測試、成本更低,且較少引入不相關的材料。

DeepSeek V4 Pro 在目前 Novita 模型頁面上是文字輸入和文字輸出。若需圖片或影片輸入,請選擇支援多模態請求的模型,而非強行將多模態內容塞入此請求路徑。

步驟 1:確認 Novita AI 上的功能支援

經驗證的 DeepSeek V4 Pro 模型 ID 為:

deepseek/deepseek-v4-pro

使用 Novita AI 的 OpenAI 相容基礎 URL:

https://api.novita.ai/openai

對於聊天補全,發送請求至:

https://api.novita.ai/openai/v1/chat/completions

在首次請求中使用這些 DeepSeek V4 Pro API 細節:

欄位
模型 ID deepseek/deepseek-v4-pro
基礎 URL https://api.novita.ai/openai
上下文窗口 1,048,576 tokens
最大輸出 393,216 tokens
輸入 文字
輸出 文字
無伺服器支援 支援
函式呼叫 支援
結構化輸出 支援
推理 支援
Anthropic API 相容性 支援
量化 FP8

在正式上線前請查閱 DeepSeek V4 Pro 模型文件,因為可用性、定價、上下文和支援欄位都可能變動。

步驟 2:設定請求

從小型純文字請求開始。一旦認證與路由正常運作,再擴展至你實際計劃使用的較長提示。

對於長上下文推理請求,請這樣組織提示,讓模型能區分指令與證據:

  • 將穩定的行為規則放在系統訊息中。
  • 將任務、預期輸出格式和限制條件放在使用者訊息的開頭。
  • 用清楚的名稱標記大型證據區塊,例如 Repository summaryChanged filesLogsSource excerpts
  • 當輸出需要可稽核時,要求模型引用證據標籤或檔案名稱。
  • 使用 max_tokens 限制輸出,讓測試不會產生超出應用程式處理能力的文字。

如果你使用函式呼叫或結構化輸出,請在一般聊天補正常作用後再測試那些功能。長推理提示可能產出比預期更多的文字,因此請定義最終答案的形狀,並在使用回應前進行驗證。

步驟 3:讀取特定功能的回應

在 OpenAI 相容的聊天補全回應中,主要答案通常位於:

choices[0].message.content

對於長上下文請求,回應處理不應只是列印答案。應儲存足夠的元資料以便除錯失敗和估算成本:

  • 使用的模型 ID
  • 提示大小或 token 估算
  • 輸出大小
  • 是否使用了快取上下文
  • 應用程式追蹤 ID 或請求 ID(如有)
  • 提示模板版本
  • 用於組合上下文的原始套件版本或檢索查詢

當回應應為結構化 JSON 時,請先驗證再執行。若驗證失敗,請以較小的證據集、較簡單的綱要或更嚴格格式化指令重試。

步驟 4:測試失敗案例

在將 DeepSeek V4 Pro 用於真實使用者前,請測試最可能失敗的路徑:

  • API 金鑰遺失
  • 錯誤的模型 ID
  • 提示組合超出上下文限制
  • 輸出上限太小,無法完成要求的任務
  • 提示包含改變答案的不相關證據
  • 結構化輸出驗證失敗
  • 工具呼叫引數不完整或不安全
  • 重試導致重複執行使用者可見動作

對於代理型應用程式,請將模型推理與動作執行分開。模型可以提議工具呼叫,但你的伺服器應在執行任何動作前驗證引數、權限和冪等性。

API 快速入門欄位

欄位
模型名稱 DeepSeek V4 Pro
模型 ID deepseek/deepseek-v4-pro
基礎 URL https://api.novita.ai/openai
聊天補全 URL https://api.novita.ai/openai/v1/chat/completions
輸入模態 文字
輸出模態 文字
上下文窗口 1,048,576 tokens
最大輸出 393,216 tokens
目前輸入定價 每 100 萬 tokens $1.60
目前快取讀取定價 每 100 萬 tokens $0.135
目前輸出定價 每 100 萬 tokens $3.20

上方定價來自當前模型頁面,而非舊版 DeepSeek 部落格定價。上線前請重新查閱 DeepSeek V4 Pro 模型文件

Python 範例

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["NOVITA_API_KEY"],
    base_url="https://api.novita.ai/openai/v1",
)

context = """
Repository summary:
- The service validates API requests and writes audit events.
- A recent change added asynchronous retry logic.

Issue:
- Some retry attempts duplicate audit events.

Relevant logs:
- request_id=abc123 retry=1 audit_event_created=true
- request_id=abc123 retry=2 audit_event_created=true
"""

response = client.chat.completions.create(
    model="deepseek/deepseek-v4-pro",
    messages=[
        {
            "role": "system",
            "content": "You analyze long technical context and return concise engineering guidance.",
        },
        {
            "role": "user",
            "content": (
                "Identify the likely implementation risk and propose a fix. "
                "Use only the evidence below.\n\n"
                f"{context}"
            ),
        },
    ],
    temperature=0.2,
    max_tokens=800,
)

使用 cURL 發送請求

payload='{
  "model": "deepseek/deepseek-v4-pro",
  "messages": [
    {
      "role": "system",
      "content": "You analyze long technical context and return concise engineering guidance."
    },
    {
      "role": "user",
      "content": "Identify the likely implementation risk and propose a fix. Use only this evidence: retry attempt 1 created an audit event; retry attempt 2 also created an audit event for the same request_id."
    }
  ],
  "temperature": 0.2,
  "max_tokens": 800
}'

curl --request POST "https://api.novita.ai/openai/v1/chat/completions" \
  --header "Authorization: Bearer $NOVITA_API_KEY" \
  --header "Content-Type: application/json" \
  --data "$payload"

最佳實務

保持上下文有組織

當輸入有標籤且經過篩選時,100 萬 tokens 的上下文窗口效果最佳。將原始碼檔案、日誌、需求和任務指令分開。如果你貼上一個大型未區分的文字區塊,模型較難遵循結構,你的團隊也較難除錯答案。

在完整上下文提示前先使用檢索

長上下文不應取代檢索紀律。在組合提示前,使用檢索、排序或基於規則的篩選來移除不相關材料。將大型上下文窗口保留給真正需要緊密結合的資訊。

在測試期間限制輸出

最大輸出欄位為 393,216 tokens,但大多數應用應從較小的上限開始。僅當產品真正需要長輸出,且你的 UI、儲存和成本控制都能處理時,再提高 max_tokens

驗證結構化輸出

如果回應驅動應用程式動作,請要求結構化的最終答案並在伺服器端驗證。例如,要求提供 risk_summaryevidencerecommended_fixconfidence 等欄位,然後拒絕或重試不符合綱要的回應。

將工具呼叫視為提議

目前模型頁面列出函式呼叫支援。請將函式呼叫視為提議的動作,直到你的應用程式驗證權限、引數、速率限制和副作用。

定價與限制說明

目前 Novita AI 上的 DeepSeek V4 Pro 定價為:

Token 類型 價格
輸入 每 100 萬 tokens $1.60
快取讀取 每 100 萬 tokens $0.135
輸出 每 100 萬 tokens $3.20

上下文窗口目前為 1,048,576 tokens,最大輸出欄位目前為 393,216 tokens。大型請求是可行的,但需要明確的成本和回應大小控制。

進行成本估算時,請計算:

  • 每次請求的平均輸入 tokens
  • 使用快取上下文的請求百分比
  • 每次請求的平均輸出 tokens
  • 重試率
  • 工具或結構化輸出修復嘗試次數
  • 長提示中是否包含應被篩選掉的不相關證據

請勿使用舊版 DeepSeek 部落格定價進行當前成本估算。在發佈預算、發票估算或客戶面對比較之前,請使用即時模型頁面或最新平台定價來源。

常見問題

DeepSeek V4 Pro 在 Novita AI 上是否支援長上下文推理?

是的。目前 Novita AI 模型頁面列出 DeepSeek V4 Pro 具備 1,048,576 tokens 上下文窗口和推理支援。

DeepSeek V4 Pro 的模型 ID 是什麼?

使用 deepseek/deepseek-v4-pro

哪些參數控制請求?

對於快速入門路徑,使用 modelmessagestemperaturemax_tokens。在基本請求運作後,如果你的應用程式需要這些功能,請測試 tools(函式呼叫)或結構化回應格式。

長上下文推理會影響定價或輸出長度嗎?

較長的提示會增加輸入成本,較長的答案會增加輸出成本。目前定價為每 100 萬輸入 tokens $1.60、每 100 萬快取讀取 tokens $0.135、每 100 萬輸出 tokens $3.20。

何時應該避免使用 DeepSeek V4 Pro?

當任務不需要大量文字上下文時、當較小提示就能回答問題時,或當應用程式需要圖片或影片輸入時,應避免使用。DeepSeek V4 Pro 目前列為文字輸入和文字輸出。

舊版 DeepSeek 部落格定價仍然有效嗎?

請使用當前模型頁面定價進行成本規劃。舊版部落格定價可能已不再與即時模型頁面相符。