DeepSeek V4 Pro 已在 Novita AI 上可用,模型 ID 为 deepseek/deepseek-v4-pro,上下文窗口为 1,048,576 个 token,最大输出设置为 393,216 个 token,当前模型页面定价为每 1M token 输入 $1.60、缓存读取 $0.135、输出 $3.20。在测试长上下文推理或编码任务时,请使用这些数值,而不是发布时报道中的旧价格。
长上下文推理的作用
长上下文推理让应用程序可以将更多工作集中在一个请求中:源文件、日志、检索到的文档、策略文本、对话历史、测试失败信息、架构说明,或者相关材料的混合体。这比短提示或小型检索结果能够给模型提供更多的上下文。
在 Novita AI 上,DeepSeek V4 Pro 模型页面显示其上下文窗口为 1,048,576 个 token,并支持推理。这使得它适用于仓库级代码分析、多文档综合、智能体规划以及需要比短聊天提示更多上下文的调试任务。
上下文窗口只是其中的一部分。你仍然需要组织提示、控制输出、估算成本、验证响应,并决定当请求失败时应该怎么办。
何时使用 DeepSeek V4 Pro
当答案依赖于大量文本,并且你希望将这些材料保留在一个请求中时,可以使用 DeepSeek V4 Pro。示例包括:
- 审查包含周围实现上下文的多个文件代码变更。
- 总结长篇技术文档并提取行动项。
- 在调试任务中比较日志、工单和代码片段。
- 运行需要规划上下文和工具结果的智能体步骤。
- 从大量证据包中生成结构化输出。
不要默认让每个请求都成为 1M 上下文的请求。如果短提示或小型检索结果就能回答问题,那么这条路径更容易测试、运行成本更低,并且更不容易引入无关材料。
在当前的 Novita 模型页面上,DeepSeek V4 Pro 是文本输入和文本输出。对于图像或视频输入,请选择支持多模态请求的模型,而不是强行将多模态内容纳入此请求路径。
步骤 1:确认 Novita AI 上的功能支持
已验证的 DeepSeek V4 Pro 模型 ID 为:
deepseek/deepseek-v4-pro
使用 Novita AI 兼容 OpenAI 的 Base URL:
https://api.novita.ai/openai
对于聊天补全,发送请求到:
https://api.novita.ai/openai/v1/chat/completions
首次请求使用这些 DeepSeek V4 Pro API 详情:
| 字段 | 值 |
| 模型 ID | deepseek/deepseek-v4-pro |
| Base URL | https://api.novita.ai/openai |
| 上下文窗口 | 1,048,576 个 token |
| 最大输出 | 393,216 个 token |
| 输入 | 文本 |
| 输出 | 文本 |
| Serverless 支持 | 支持 |
| 函数调用 | 支持 |
| 结构化输出 | 支持 |
| 推理 | 支持 |
| Anthropic API 兼容性 | 支持 |
| 量化 | FP8 |
在发布前请查看 DeepSeek V4 Pro 模型文档,因为可用性、定价、上下文和支持字段可能会发生变化。
步骤 2:配置请求
从一个小的纯文本请求开始。一旦认证和路由正常工作,再向实际要使用的更长提示扩展。
对于长上下文推理请求,结构化提示,让模型能够区分指令和证据:
- 将稳定的行为规则放在系统消息中。
- 将任务、预期输出格式和约束条件放在用户消息的顶部。
- 用清晰的名称(例如
仓库摘要、变更的文件、日志或源代码摘录)标记大块的证据。 - 如果输出需要可审计,要求模型引用证据标签或文件名。
- 使用
max_tokens限制输出,以便在测试时不会生成超过产品处理能力的文本。
如果你使用函数调用或结构化输出,在纯聊天补全正常工作之后再测试这些功能。长推理提示可能产生超出预期的文本,因此要定义最终答案的形状,并在使用响应之前进行验证。
步骤 3:读取特定功能的响应
在兼容 OpenAI 的聊天补全响应中,主要答案通常返回在:
choices[0].message.content
对于长上下文请求,响应处理不应仅仅是打印答案。存储足够的元数据以调试失败和估算成本:
- 使用的模型 ID。
- 提示大小或 token 估计值。
- 输出大小。
- 是否使用了缓存的上下文。
- 应用程序追踪 ID 或请求 ID(如果可用)。
- 提示模板版本。
- 用于组装上下文的源包版本或检索查询。
当响应应该是结构化的 JSON 时,先验证再执行。如果响应验证失败,使用更小的证据集、更简单的模式或更严格的格式指令重试。
步骤 4:测试失败情况
在面向真实用户使用 DeepSeek V4 Pro 之前,测试最可能失败的路径:
- 缺少 API 密钥。
- 错误的模型 ID。
- 组装后的提示超过上下文限制。
- 输出上限对于请求的任务来说太小。
- 提示包含会改变答案的无关证据。
- 结构化输出验证失败。
- 工具调用参数不完整或不安全。
- 重试导致用户可见的操作重复。
对于智能体应用,保持模型推理与动作执行分离。模型可以提出工具调用,但你的服务器应在执行任何操作之前验证参数、权限和幂等性。
API 快速入门字段
| 字段 | 值 |
| 模型名称 | DeepSeek V4 Pro |
| 模型 ID | deepseek/deepseek-v4-pro |
| Base URL | https://api.novita.ai/openai |
| 聊天补全 URL | https://api.novita.ai/openai/v1/chat/completions |
| 输入模态 | 文本 |
| 输出模态 | 文本 |
| 上下文窗口 | 1,048,576 个 token |
| 最大输出 | 393,216 个 token |
| 当前输入定价 | 每 1M token $1.60 |
| 当前缓存读取定价 | 每 1M token $0.135 |
| 当前输出定价 | 每 1M token $3.20 |
上述定价来自当前的模型页面,而非旧的 DeepSeek 博客定价。在部署前请重新查看 DeepSeek V4 Pro 模型文档。
Python 示例
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["NOVITA_API_KEY"],
base_url="https://api.novita.ai/openai/v1",
)
context = """
Repository summary:
- The service validates API requests and writes audit events.
- A recent change added asynchronous retry logic.
Issue:
- Some retry attempts duplicate audit events.
Relevant logs:
- request_id=abc123 retry=1 audit_event_created=true
- request_id=abc123 retry=2 audit_event_created=true
"""
response = client.chat.completions.create(
model="deepseek/deepseek-v4-pro",
messages=[
{
"role": "system",
"content": "You analyze long technical context and return concise engineering guidance.",
},
{
"role": "user",
"content": (
"Identify the likely implementation risk and propose a fix. "
"Use only the evidence below.\n\n"
f"{context}"
),
},
],
temperature=0.2,
max_tokens=800,
)
使用 cURL 发送请求
payload='{
"model": "deepseek/deepseek-v4-pro",
"messages": [
{
"role": "system",
"content": "You analyze long technical context and return concise engineering guidance."
},
{
"role": "user",
"content": "Identify the likely implementation risk and propose a fix. Use only this evidence: retry attempt 1 created an audit event; retry attempt 2 also created an audit event for the same request_id."
}
],
"temperature": 0.2,
"max_tokens": 800
}'
curl --request POST "https://api.novita.ai/openai/v1/chat/completions" \
--header "Authorization: Bearer $NOVITA_API_KEY" \
--header "Content-Type: application/json" \
--data "$payload"
最佳实践
保持上下文井井有条
当输入带有标签并经过筛选时,1M token 的上下文窗口效果最佳。将源文件、日志、需求与任务说明分开。如果你粘贴了一大块未区分的文本,模型遵循的结构会更少,你的团队调试答案的能力也会降低。
在完全上下文提示之前使用检索
长上下文不应取代检索纪律。在组装提示之前,使用检索、排序或基于规则的过滤来移除无关材料。将大上下文窗口保留给真正需要保持在一起的信息。
测试时限制输出
最大输出字段为 393,216 个 token,但大多数应用程序应从更小的上限开始。只有当产品确实需要长生成输出并且你的 UI、存储和成本控制能够处理时,才提高 max_tokens。
验证结构化输出
如果响应驱动应用程序操作,请求结构化的最终答案并在服务器端进行验证。例如,要求字段如 risk_summary、evidence、recommended_fix 和 confidence,然后拒绝或重试不符合模式的响应。
将工具调用视为提议
当前模型页面列出了函数调用支持。将函数调用视为提议的操作,直到你的应用程序验证了权限、参数、速率限制和副作用。
定价与限制说明
当前 Novita AI 上的 DeepSeek V4 Pro 定价为:
| Token 类型 | 价格 |
| 输入 | 每 1M token $1.60 |
| 缓存读取 | 每 1M token $0.135 |
| 输出 | 每 1M token $3.20 |
上下文窗口目前为 1,048,576 个 token,最大输出字段目前为 393,216 个 token。大请求是可行的,但需要明确的成本和响应大小控制。
对于成本估算,请计算:
- 每个请求的平均输入 token 数。
- 使用缓存上下文的请求百分比。
- 每个请求的平均输出 token 数。
- 重试率。
- 工具或结构化输出修复尝试的次数。
- 长提示是否包含应该被过滤掉的无关证据。
不要使用旧的 DeepSeek 博客定价进行当前成本估算。在发布预算、发票估算或面向客户的比较之前,请使用实时模型页面或最新的平台定价来源。
常见问题
DeepSeek V4 Pro 在 Novita AI 上支持长上下文推理吗?
是的。当前 Novita AI 模型页面列出 DeepSeek V4 Pro 具有 1,048,576 个 token 的上下文窗口并支持推理。
DeepSeek V4 Pro 的模型 ID 是什么?
使用 deepseek/deepseek-v4-pro。
哪些参数控制请求?
对于快速入门路径,使用 model、messages、temperature 和 max_tokens。在基本请求工作之后,如果你的应用程序需要,测试 tools 用于函数调用或结构化响应格式。
长上下文推理会影响定价或输出长度吗?
更长的提示会增加输入成本,更长的答案会增加输出成本。当前定价为每 1M 输入 token $1.60、每 1M 缓存读取 token $0.135、每 1M 输出 token $3.20。
何时应避免使用 DeepSeek V4 Pro?
当任务不需要大量文本上下文时、当较小的提示可以回答问题、或者当应用程序需要图像或视频输入时,应避免使用。DeepSeek V4 Pro 目前列为文本输入和文本输出。
旧的 DeepSeek 博客定价仍然有效吗?
使用当前模型页面的定价进行成本规划。旧的博客定价可能不再匹配实时模型页面。
