DeepSeek V4 Pro ロングコンテキスト推論:開発者ガイド

DeepSeek V4 Pro ロングコンテキスト推論:開発者ガイド

DeepSeek V4 Pro が Novita AI で利用可能になりました。モデル ID は deepseek/deepseek-v4-pro、コンテキストウィンドウは 1,048,576 トークン、最大出力は 393,216 トークン、現在のモデルページの料金は入力 $1.60、キャッシュ読み取り $0.135、出力 $3.20(100 万トークンあたり)です。ロングコンテキスト推論やコーディングタスクをテストする際は、これらの数値を使用してください。ローンチ時の古い料金は使用しないでください。

ロングコンテキスト推論の役割

ロングコンテキスト推論により、アプリケーションは 1 回のリクエストでより多くの作業を送信できます。ソースファイル、ログ、検索されたドキュメント、ポリシーテキスト、会話履歴、テスト失敗情報、アーキテクチャノート、または関連資料の組み合わせなどです。これにより、短いプロンプトや小さな検索結果よりも多くのコンテキストをモデルに提供できます。

Novita AI では、DeepSeek V4 Pro のモデルページに 1,048,576 トークンのコンテキストウィンドウと推論サポートが表示されています。そのため、リポジトリレベルのコード分析、複数ドキュメントの統合、エージェントプランニング、および短いチャットプロンプトでは扱いきれない多くのコンテキストを必要とするデバッグタスクに適しています。

コンテキストウィンドウは作業の一部に過ぎません。プロンプトの整理、出力の上限設定、コストの見積もり、応答の検証、そしてリクエストが失敗した場合の対応方針を決定する必要があります。

DeepSeek V4 Pro を使用すべきタイミング

DeepSeek V4 Pro は、回答が大量のテキストに依存し、その資料を 1 つのリクエストに収めたい場合に使用します。例:

  • 周辺の実装コンテキストを含む複数ファイルのコード変更をレビューする。
  • 長い技術文書を要約し、アクションアイテムを抽出する。
  • デバッグタスクでログ、チケット、コードスニペットを比較する。
  • 計画コンテキストとツール結果を必要とするエージェントステップを実行する。
  • 大量の証拠資料から構造化出力を生成する。

デフォルトですべてのリクエストを 100 万トークンのコンテキストリクエストにしないでください。短いプロンプトや小さな検索結果で質問に答えられるのであれば、その方がテストが容易で、コストが低く、無関係な資料を引き込む可能性も低くなります。

DeepSeek V4 Pro は、現在の Novita モデルページではテキスト入力およびテキスト出力です。画像や動画の入力が必要な場合は、マルチモーダルリクエストをサポートするモデルを選択し、マルチモーダルコンテンツをこのリクエストパスに無理に押し込まないでください。

ステップ 1: Novita AI での機能サポートを確認する

確認済みの DeepSeek V4 Pro モデル ID は次のとおりです。

deepseek/deepseek-v4-pro

Novita AI の OpenAI 互換ベース URL を使用します。

https://api.novita.ai/openai

チャット補完の場合は、次のエンドポイントにリクエストを送信します。

https://api.novita.ai/openai/v1/chat/completions

最初のリクエストには、次の DeepSeek V4 Pro API 詳細を使用してください。

フィールド
モデル ID deepseek/deepseek-v4-pro
ベース URL https://api.novita.ai/openai
コンテキストウィンドウ 1,048,576 トークン
最大出力 393,216 トークン
入力 テキスト
出力 テキスト
サーバーレスサポート 対応
関数呼び出し 対応
構造化出力 対応
推論 対応
Anthropic API 互換性 対応
量子化 FP8

出荷前に DeepSeek V4 Pro モデルドキュメント を確認してください。可用性、料金、コンテキスト、サポートフィールドは変更される可能性があります。

ステップ 2: リクエストを設定する

小さなテキストのみのリクエストから始めてください。認証とルーティングが機能したら、実際に使用予定の長いプロンプトに拡張します。

ロングコンテキスト推論リクエストでは、モデルが指示と証拠を区別できるようにプロンプトを構造化します。

  • 安定した動作ルールはシステムメッセージに配置します。
  • タスク、期待される出力形式、制約はユーザーメッセージの先頭に配置します。
  • 大量の証拠ブロックには、「リポジトリ概要」「変更ファイル」「ログ」「ソース抜粋」などの明確な名前を付けます。
  • 出力を監査可能にする必要がある場合は、モデルに証拠ラベルやファイル名を引用するよう指示します。
  • max_tokens で出力を制限し、テストで製品が処理できない量のテキストが生成されないようにします。

関数呼び出しや構造化出力を使用する場合は、プレーンなチャット補完が機能してからそれらの機能をテストしてください。長い推論プロンプトは予想以上のテキストを生成する可能性があるため、最終的な回答の形状を定義し、応答を使用する前に検証してください。

ステップ 3: 機能固有の応答を読み取る

OpenAI 互換のチャット補完応答では、主な回答は通常次の場所に返されます。

choices[0].message.content

ロングコンテキストリクエストの場合、応答処理では回答を出力するだけでは不十分です。障害のデバッグとコスト見積もりに十分なメタデータを保存してください。

  • 使用されたモデル ID
  • プロンプトサイズまたはトークン見積もり
  • 出力サイズ
  • キャッシュされたコンテキストが使用されたかどうか
  • アプリケーショントレース ID またはリクエスト ID(利用可能な場合)
  • プロンプトテンプレートのバージョン
  • コンテキストの組み立てに使用されたソースパッケージのバージョンや検索クエリ

応答が構造化 JSON であることが期待される場合は、それを処理する前に検証してください。検証に失敗した場合は、より小さな証拠セット、よりシンプルなスキーマ、またはより厳格なフォーマット指示で再試行してください。

ステップ 4: 障害ケースをテストする

DeepSeek V4 Pro を実際のユーザーに使用する前に、最も失敗しやすいパスをテストしてください。

  • API キーがない場合
  • モデル ID が間違っている場合
  • プロンプトがコンテキスト制限を超えて組み立てられた場合
  • 出力上限が要求されたタスクに対して小さすぎる場合
  • プロンプトに無関係な証拠が含まれ、回答が変わってしまう場合
  • 構造化出力が検証に失敗した場合
  • ツール呼び出しの引数が不完全または安全でない場合
  • 再試行によりユーザーに表示されるアクションが重複する場合

エージェントアプリケーションの場合、モデルの推論とアクションの実行を分離してください。モデルはツール呼び出しを提案できますが、実行前にサーバー側で引数、権限、べき等性を検証する必要があります。

API クイックスタートフィールド

フィールド
モデル名 DeepSeek V4 Pro
モデル ID deepseek/deepseek-v4-pro
ベース URL https://api.novita.ai/openai
チャット補完 URL https://api.novita.ai/openai/v1/chat/completions
入力モダリティ テキスト
出力モダリティ テキスト
コンテキストウィンドウ 1,048,576 トークン
最大出力 393,216 トークン
現在の入力料金 $1.60 / 100 万トークン
現在のキャッシュ読み取り料金 $0.135 / 100 万トークン
現在の出力料金 $3.20 / 100 万トークン

上記の料金は現在のモデルページに基づいており、古い DeepSeek ブログの料金ではありません。ロールアウト前に DeepSeek V4 Pro モデルドキュメント を再確認してください。

Python の例

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["NOVITA_API_KEY"],
    base_url="https://api.novita.ai/openai/v1",
)

context = """
Repository summary:
- The service validates API requests and writes audit events.
- A recent change added asynchronous retry logic.

Issue:
- Some retry attempts duplicate audit events.

Relevant logs:
- request_id=abc123 retry=1 audit_event_created=true
- request_id=abc123 retry=2 audit_event_created=true
"""

response = client.chat.completions.create(
    model="deepseek/deepseek-v4-pro",
    messages=[
        {
            "role": "system",
            "content": "You analyze long technical context and return concise engineering guidance.",
        },
        {
            "role": "user",
            "content": (
                "Identify the likely implementation risk and propose a fix. "
                "Use only the evidence below.\n\n"
                f"{context}"
            ),
        },
    ],
    temperature=0.2,
    max_tokens=800,
)

cURL でリクエストを送信する

payload='{
  "model": "deepseek/deepseek-v4-pro",
  "messages": [
    {
      "role": "system",
      "content": "You analyze long technical context and return concise engineering guidance."
    },
    {
      "role": "user",
      "content": "Identify the likely implementation risk and propose a fix. Use only this evidence: retry attempt 1 created an audit event; retry attempt 2 also created an audit event for the same request_id."
    }
  ],
  "temperature": 0.2,
  "max_tokens": 800
}'

curl --request POST "https://api.novita.ai/openai/v1/chat/completions" \
  --header "Authorization: Bearer $NOVITA_API_KEY" \
  --header "Content-Type: application/json" \
  --data "$payload"

ベストプラクティス

コンテキストを整理する

100 万トークンのコンテキストウィンドウは、入力がラベル付けされフィルタリングされている場合に最も効果的です。ソースファイル、ログ、要件、タスク指示を分離してください。大きな未分化のテキストブロックを貼り付けると、モデルが従うべき構造が少なくなり、チームが回答をデバッグする能力も低下します。

フルコンテキストプロンプトの前に検索を使用する

長いコンテキストは検索の規律を置き換えるべきではありません。プロンプトを組み立てる前に、検索、ランキング、またはルールベースのフィルタリングを使用して無関係な資料を除去してください。大きなコンテキストウィンドウは、本当にまとめて保持する必要がある情報のために温存してください。

テスト中は出力を制限する

最大出力フィールドは 393,216 トークンですが、ほとんどのアプリケーションははるかに小さい上限から始めるべきです。max_tokens を上げるのは、製品が実際に長い生成出力を必要とし、UI、ストレージ、コスト管理がそれに対応できる場合のみにしてください。

構造化出力を検証する

応答がアプリケーションのアクションを駆動する場合は、構造化された最終回答を要求し、サーバー側で検証してください。たとえば、risk_summaryevidencerecommended_fixconfidence などのフィールドを必須にし、スキーマに一致しない応答は拒否または再試行してください。

ツール呼び出しを提案として扱う

現在のモデルページは関数呼び出しをサポートしています。関数呼び出しは、アプリケーションが権限、引数、レート制限、副作用を検証するまでの提案として扱ってください。

料金と制限に関する注意事項

Novita AI における現在の DeepSeek V4 Pro 料金は次のとおりです。

トークンタイプ 価格
入力 $1.60 / 100 万トークン
キャッシュ読み取り $0.135 / 100 万トークン
出力 $3.20 / 100 万トークン

コンテキストウィンドウは現在 1,048,576 トークン、最大出力フィールドは現在 393,216 トークンです。大規模なリクエストは可能ですが、明確なコストと応答サイズの制御が必要です。

コスト見積もりには以下を計算してください。

  • リクエストあたりの平均入力トークン数
  • キャッシュされたコンテキストを使用するリクエストの割合
  • リクエストあたりの平均出力トークン数
  • 再試行率
  • ツールまたは構造化出力の修復試行回数
  • 長いプロンプトにフィルタリングすべき無関係な証拠が含まれているかどうか

現在のコスト見積もりに古い DeepSeek ブログの料金を使用しないでください。予算、請求見積もり、または顧客向けの比較を公開する前に、ライブモデルページまたは最新のプラットフォーム料金ソースを使用してください。

FAQ

DeepSeek V4 Pro は Novita AI でロングコンテキスト推論をサポートしていますか?

はい。現在の Novita AI モデルページでは、DeepSeek V4 Pro に 1,048,576 トークンのコンテキストウィンドウと推論サポートがリストされています。

DeepSeek V4 Pro のモデル ID は何ですか?

deepseek/deepseek-v4-pro を使用してください。

リクエストを制御するパラメータは何ですか?

クイックスタートパスでは、modelmessagestemperaturemax_tokens を使用します。基本的なリクエストが機能した後、アプリケーションで関数呼び出しや構造化応答形式が必要な場合は、tools をテストしてください。

ロングコンテキスト推論は料金や出力長に影響しますか?

プロンプトが長くなると入力コストが増加し、回答が長くなると出力コストが増加します。現在の料金は、入力 $1.60 / 100 万トークン、キャッシュ読み取り $0.135 / 100 万トークン、出力 $3.20 / 100 万トークンです。

DeepSeek V4 Pro を避けるべきタイミングは?

タスクが大量のテキストコンテキストを必要としない場合、より小さなプロンプトで質問に答えられる場合、またはアプリケーションが画像や動画の入力を必要とする場合に避けてください。DeepSeek V4 Pro は現在、テキスト入力およびテキスト出力としてリストされています。

古い DeepSeek ブログの料金はまだ有効ですか?

コスト計画には現在のモデルページの料金を使用してください。古いブログの料金はライブモデルページと一致しない場合があります。