Novita AI 上的 DeepSeek V3.2:更低成本的先进推理

Novita AI 上的 DeepSeek V3.2:更低成本的先进推理

Novita AI 上的 DeepSeek V3.2 以 $0.269/$0.40 每百万输入/输出 token 的价格,为开发者带来 IMO/IOI 金牌水平的推理性能。 该模型基于 685B 参数的混合专家(MoE)架构,并采用了革命性的 DeepSeek 稀疏注意力(DSA),大幅降低了长上下文任务的计算复杂度,同时在推理基准测试中取得了顶级成绩。

对于构建数学求解器、编码代理或复杂推理工作流的开发者来说,Novita AI 的无服务器基础设施提供同类最快的延迟,并支持 OpenAI 兼容和 Anthropic 兼容的端点——只需更换基础 URL,2 分钟内即可开始运行。

什么是 DeepSeek V3.2?

DeepSeek V3.2 是一个 685.4B 参数的混合专家推理模型,每个 token 激活 37B 参数,专为高效的长上下文处理和卓越的代理性能而设计。作为 V3.1-Terminus 的升级版本,它引入了三项突破性创新:

技术架构

规范
总参数量 685B
激活参数量 每个 token 37B
MoE 配置 256 个路由专家,8 个激活
上下文窗口 163,840 个 token
注意力机制 DSA + MLA 混合
精度 BF16; F8_E4M3; F32

核心创新

1. DeepSeek 稀疏注意力(DSA): 一种细粒度稀疏机制,使用闪电索引器和 token 选择器有选择地修剪上下文。与传统处理所有 token 的注意力不同,DSA 在保持性能的同时降低了计算复杂度——这对于 128K+ token 的上下文尤为关键。

2. 可扩展的强化学习: 先进的训练后协议,实现了强大的训练后性能。高计算变体(Speciale)达到了顶级的推理性能。

3. 代理任务合成管道: 系统地将推理集成到大规模工具使用场景中,为编码代理和多步骤工作流提供卓越的合规性和泛化能力。

训练 DeepSeek-V3.2 的代理任务。图片来源

训练 DeepSeek-V3.2 的代理任务。图片来源

性能基准

来自 Hugging Face

效率与性能的权衡

DSA 在保持基准分数的同时,将思维链 token 减少了 20-50%。一个每天处理 50 个拉取请求的编码代理,与 V3.1 相比,每月可节省 180 美元的 token 成本,且性能不降。

得益于 DeepSeek 稀疏注意力(DSA)的推理成本节省。来自 DeepSeek V3.2 报告的注释图

得益于 DeepSeek 稀疏注意力(DSA)的推理成本节省。来自 DeepSeek V3.2 报告 的注释图

立即尝试 DeepSeek V3.2!

为什么在 Novita AI 上使用 DeepSeek V3.2?

**Novita AI 为 DeepSeek V3.2 提供高性能、高性价比的生产部署,**定价具有竞争力。Novita AI 上的 DeepSeek V3.2 以 $0.269/$0.40 每百万输入/输出 token 的价格,为开发者带来 IMO/IOI 金牌水平的推理性能

在 Novita AI 上,DeepSeek V3.2 的缓存读取按 $0.1345 / M tokens 计费。

缓存读取指的是读取之前存储在提示缓存中的 token 的成本。当跨请求重用相同的提示内容时,模型直接从此缓存中检索这些 token,而不是从头开始重新处理。这既降低了推理延迟又降低了成本。

立即尝试 DeepSeek V3.2!

选择 Novita AI 的 6 个理由

1. 兼容 OpenAI 和 Anthropic:只需更改基础 URL 即可直接替换。现有的 OpenAI SDK 代码立即可用——无需重写,无需学习曲线。

2. 无服务器自动扩缩:无需预配置即可处理从每分钟 10 到 10,000 个请求的流量高峰。仅按使用的 token 付费——无闲置 GPU 成本。

3. 企业级可靠性:SOC 2 合规基础设施,多区域冗余。生产工作负载的 99.5% 正常运行时间 SLA。

4. 200+ 模型生态系统:通过统一 API 访问 GLM-5、Qwen3-Coder-Next、MiniMax M2.5 等前沿模型——无需更改基础设施即可测试替代方案。

5. 透明计费:按 token 定价,无隐藏费用。实时仪表板显示每个请求的确切成本——放心预算。

浏览可用选项,选择适合您需求的模型。

立即尝试 DeepSeek V3.2!

如何在 Novita AI 上访问 DeepSeek V3.2

三种部署方式,从 2 分钟快速启动到生产级管道:

方式一:API 快速启动(2 分钟)

最佳场景: 测试、原型、基于 OpenAI 的现有应用

设置步骤:

  1. novita.ai 注册(免费层包含积分)
  2. 导航至 Dashboard → API Keys → 生成新密钥
  3. 使用 Novita 端点更新代码:

快速尝试 deepseek v3.2

尝试 DeepSeek V3.2!

from openai import OpenAI

client = OpenAI(
    api_key="<Your API Key>",
    base_url="https://api.novita.ai/openai"
)

response = client.chat.completions.create(
    model="deepseek/deepseek-v3.2",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Hello, how are you?"}
    ],
    max_tokens=65536,
    temperature=0.7
)

print(response.choices[0].message.content)

方式二:Hugging Face 集成(5 分钟)

最佳场景: ML 管道、Transformers 原生工作流

通过 huggingface 访问 deepseek v3.2

from huggingface_hub import InferenceClient

client = InferenceClient(
    provider="novita",
    api_key="sk_...YxTc",
)

completion = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V3.2",
    messages=[
        {
            "role": "user",
            "content": "What is the capital of France?"
        }
    ],
)

print(completion.choices[0].message)

尝试 DeepSeek V3.2!

方式三:生产部署(自托管选项)

最佳场景: 高流量工作负载、数据主权要求

在标准的全精度(FP16/BF16)部署下,使用 DeepSeek-V3.2 进行推理具有极高的硬件要求,因为模型权重和运行时执行所需的 GPU 内存总和超过约 1.3TB。对于 BF16/FP16 场景,通常采用的配置包括 16 个各 80 GB VRAM 的 H100 级 GPU,总计 GPU 内存容量接近 1.3 TB。

量化级别 近似内存占用
FP16 / BF16 1.3 TB 总计
8 位 780 GB 总计
4 位 380 GB 总计

novita ai 上的 gpu 价格

立即尝试快速且廉价的 GPU!

Novita AI 还提供 Spot 模式,这是一种成本优化的 GPU 租赁系统,利用平台闲置或未使用的 GPU 容量。与按需实例不同(后者保留专用硬件以保证稳定、持续的运行),Spot 实例是可中断的——如果系统回收 GPU,您的作业可能会暂停或终止。由于 Spot 模式重新分配了原本闲置的 GPU 资源,其价格通常比按需定价便宜 40-60%。

真实用例与提示策略

DeepSeek V3.2 在需要多步推理、工具集成和长上下文理解的场景中表现出色。

用例 1:代理式编码

DeepSeek V3.2 在 OpenCode 或 Cursor 等 AI 编码助手中表现出色,它通过集成的工具调用来生成拉取请求。通过兼容 OpenAI 的 API(如 Novita.ai)进行配置,提供专家编码的系统提示以及用于文件读/写和测试运行的工具。用户请求将身份验证从会话重构为 JWT,这会触发逐步推理,在低温(0.2)下生成精确的代码更改以确保准确性。

轻松将 Novita AI 与合作伙伴平台集成,如 Claude CodeTraeContinueCodexOpenCodeAnythingLLMLangChainDify、LangflowOpenClaw——使用 API 集成和逐步设置指南。

用例 2:数学证明生成

对于类似证明 √2 是无理数这样的数学证明,使用结构化提示,指导逐步思考:陈述证明策略(例如反证法),展示中间步骤,验证结论。调用模型时使用温度 0.1 以实现确定性推理,使用高 max_tokens(4096)以允许详细解释,充分利用 V3.2 先进的强化学习实现 IMO 级数学性能。

用例 3:长上下文文档分析

V3.2 的 163K token 上下文可以处理约 120 页的法律合同(约 150K token)。加载完整文档文本,然后提示分析特定条款(如责任风险)。使用中等温度(0.3)和 max_tokens(8192)以获得全面输出,将关键指令同时放在开头和结尾,以优化稀疏注意力实现准确的长上下文提取。

Novita 平台上的 DeepSeek V3.2 与替代方案对比

何时选择 V3.2 而非 Novita 目录中的其他模型:

对比 选择 DeepSeek V3.2 当… 选择替代方案当…
与 GLM-5 对比 预算受限的工作负载需要大规模推理。 您优先考虑事实稳定性和更低的幻觉率,而非原始推理性能。
与 Qwen3-Coder-Next 对比 结合数学、编码和工具使用的代理工作流。 您只需要纯编码任务且价格更低。
与 Kimi K2.5 对比 高输出量或批处理工作负载,输出成本至关重要。 您需要企业级支持或生态系统集成。

Novita AI 上的 DeepSeek V3.2 以 $0.269/$0.40 每百万 token 的价格提供先进的推理性能,并有革命性的 DSA 效率,适用于长上下文任务。对于构建代理式编码系统、数学求解器或文档分析管道的开发者,Novita 的 OpenAI 兼容 API 可实现 2 分钟部署,并提供行业领先的延迟。

结论

Novita AI 上的 DeepSeek V3.2 将 685B 参数的 MoE 架构与 DeepSeek 稀疏注意力相结合,以具有竞争力的成本提供先进的推理性能。无论您需要 2 分钟的 API 集成、Hugging Face 管道还是自托管的多 GPU 集群,Novita 都提供了通往生产的灵活路径。

关键要点: 对于构建代理式编码系统、数学求解器或长上下文文档管道的开发者来说,通过 Novita AI 的 OpenAI 兼容 API 使用 DeepSeek V3.2 是一种实用且经济高效的选择。在 Novita AI 上尝试 DeepSeek V3.2,几分钟内即可开始构建。

常见问题解答

DeepSeek V3.2 和 V3.2-Exp 有什么区别?

V3.2-Exp 是引入 DSA 的实验性前身。标准 V3.2 是平衡推理/工具使用的生产模型。V3.2-Speciale 是仅用于研究的高计算变体,不支持工具调用。

如何从 OpenAI 切换到 Novita 上的 DeepSeek V3.2?

更改两行:将 base_url="https://api.novita.ai/openai"model="deepseek/deepseek-v3.2"。您现有的 OpenAI SDK 代码无需修改即可运行,并且获取您的 API 密钥

DeepSeek V3.2 的最佳温度设置是多少?

对于数学/编码/推理任务,使用 0.1-0.3,以确保准确性。对于创意写作或头脑风暴,使用 0.5-0.7。较低温度可充分发挥 V3.2 确定性推理的优势。

Novita AI 是一个 AI 和代理云平台,帮助开发者和初创企业以高性能、高可靠性和高成本效率构建、部署和扩展模型及代理应用。

推荐阅读

GLM-5 in OpenCode:Claude Code 的开源替代方案

ERNIE-4.5-VL-A3B VRAM 要求:以更低成本运行多模态模型

Qwen3 Embedding 8B:强大的搜索、灵活的定制和多语言支持