Novita AI 上线 DeepSeek-V3.2-Exp:稀疏注意力加持,长上下文AI处理成本减半

Novita AI 上线 DeepSeek-V3.2-Exp:稀疏注意力加持,长上下文AI处理成本减半

DeepSeek 刚刚发布了实验性模型 DeepSeek-V3.2-Exp,该模型解决了AI领域的一大核心挑战:高效且低成本地处理长文档。

该模型基于 DeepSeek-V3.1-Terminus 打造,新增了 DeepSeek 稀疏注意力(DSA)技术——这是一项突破性技术,可将长上下文场景下的处理成本降低一半,同时大幅提升处理速度。

在 Novita AI,我们通过易用的 API 平台将这款前沿模型带给开发者。无论你是在构建文档分析工具、代码助手,还是需要记忆完整对话的聊天机器人,DeepSeek-V3.2-Exp 都能在保证质量的前提下,提供你所需的效率与成本优势。

试用 DeepSeek V3.2 Exp 演示

DeepSeek-V3.2-Exp 有哪些独特优势?

DeepSeek-V3.2-Exp 是一款实验性AI模型,专为比传统模型更高效地处理长文档和长对话而设计。

名称中的「Exp」代表实验性,DeepSeek 正在测试这一新方案在真实场景中的表现。

它解决了什么问题?

传统AI模型在处理长文本时速度会急剧下降。

处理100页的文档或维持长对话会变得成本高昂且耗时。这是因为标准模型需要将每个词与其他所有词进行关联计算——文本越长,需要的计算量就越大。

解决方案:稀疏注意力

DeepSeek-V3.2-Exp 引入了 DeepSeek 稀疏注意力(DSA)机制,其工作原理类似智能过滤器。

模型不会将每个词与其他所有词逐一分析,而是识别并只聚焦于最相关的部分。这就像速读:你不会对每个词投入同等的注意力,只会重点关注最重要的内容。

核心特性

  • 上下文长度:最高支持 128,000 tokens(约等于 96,000 词或 300 多页文本)
  • 成本减半:长上下文处理成本比 DeepSeek-V3.1-Terminus 低 50%
  • 速度大幅提升:训练和推理效率均有显著提升,长上下文场景下表现尤为突出
  • 架构设计:基于 DeepSeek-V3.1-Terminus 打造,新增 DeepSeek 稀疏注意力机制
  • 性能一致:表现与 DeepSeek-V3.1-Terminus 相当

该模型基于已得到验证的 DeepSeek-V3.1-Terminus 基础打造,后者原本就支持 128K 上下文长度,本次通过持续训练新增了这层智能效率优化。

成本效率突破

DeepSeek 稀疏注意力(DSA)将核心注意力的计算复杂度从 O(L²) 降低到 O(Lk),其中 k 是选中的 token 数量,远小于 L。

尽管闪电索引器仍保持 O(L²) 的计算复杂度,但相比主注意力机制,其计算量要小得多。结合优化后的实现方案,DSA 在长上下文场景下实现了显著的端到端加速。

DeepSeek 在部署了 H800 GPU 的实际服务上对 DeepSeek-V3.1-Terminus 和 DeepSeek-V3.2-Exp 进行了基准测试,GPU 租用价格为每小时 2 美元。

测试结果显示效率提升显著,且上下文长度越长,提升效果越明显。

DeepSeek-V3.1-Terminus 与 DeepSeek-V3.2-Exp 的推理成本对比

想要了解架构和实现细节的更多信息,可查阅官方技术文档

性能表现:实际效果如何?

DeepSeek 在一系列聚焦多元能力的基准测试中对该模型进行了评估。

总体来看,DeepSeek-V3.2-Exp 相比 DeepSeek-V3.1-Terminus 没有出现明显的性能下降。

通用知识

基准测试 DeepSeek-V3.1-Terminus DeepSeek-V3.2-Exp
MMLU-Pro 85.0 85.0
GPQA-Diamond 80.7 79.9
Humanity’s Last Exam 21.7 19.8

:GPQA、HLE 和 HMMT 2025 的得分较低,是因为 DeepSeek-V3.2-Exp 生成的推理 token 更少。生成可对比 token 数量的中间检查点显示,两者的性能差距会缩小。

网页搜索与智能体

基准测试 DeepSeek-V3.1-Terminus DeepSeek-V3.2-Exp
BrowseComp 38.5 40.1
BrowseComp_zh 45.0 47.9
SimpleQA 96.8 97.1

有趣的是,该模型在搜索任务上的表现反而更优!这说明稀疏注意力机制可以帮助模型在从长上下文中检索答案时,更聚焦于相关信息。

代码生成

基准测试 DeepSeek-V3.1-Terminus DeepSeek-V3.2-Exp
LiveCodeBench (2408-2505) 74.9 74.1
Codeforces-Div1 Rating 2046 2121
Aider-Polyglot 76.1 74.5

该模型展现了强大的代码能力,甚至拿到了更高的编程竞赛评分(2121 分在 Codeforces 上属于专家级水平)。

代码智能体

基准测试 DeepSeek-V3.1-Terminus DeepSeek-V3.2-Exp
SWE Verified (Agent mode) 68.4 67.8
SWE-bench Multilingual (Agent mode) 57.8 57.9
Terminal-bench (Terminus 1 framework) 36.7 37.7

该模型保留了强大的智能体能力,可解决真实世界的软件工程任务。

数学能力

基准测试 DeepSeek-V3.1-Terminus DeepSeek-V3.2-Exp
AIME 2025 88.4 89.3
HMMT 2025 86.1 83.6

该模型在 AIME 2025(一项难度较高的高中数学竞赛)中表现尤为出色,解决了 89.3% 的题目。

训练稳定性

DeepSeek 对比了两款模型在 BrowseComp 和 SWE Verified 上的强化学习训练曲线。

两款模型的性能在整个训练过程中均稳步提升,曲线高度重合,体现了 DSA 的训练稳定性。

如何在 Novita AI 上开始使用

通过 Novita AI 使用 DeepSeek-V3.2-Exp 提供多种接入路径,可适配不同的技术水平和使用场景。

无论你是探索AI能力的企业用户,还是构建生产级应用的开发者,Novita AI 都能提供你需要的工具。

使用在线 playground(无需编码)

  • 即时访问注册账号 即可在数秒内开始试用 DeepSeek-V3.2-Exp
  • 交互式界面:实时测试提示词、可视化输出结果
  • 模型对比:可根据你的具体使用场景,将 DeepSeek-V3.2-Exp 与其他主流模型进行对比

playground 无需任何技术配置即可测试各类提示词并立即看到结果,非常适合用于原型验证、想法测试,以及在全面落地前了解模型能力。

试用 DeepSeek V3.2 Exp 演示

通过 API 集成(面向开发者)

你可以通过 Novita AI 的统一 REST API 将 DeepSeek-V3.2-Exp 接入你的应用。

选项1:直接 API 集成

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/openai",
    api_key="session_lnrv9fuPcmgAz_fk3YmwpmOhfIpYY11iFpvaauxsvknzSam5bSQasB-eIUbv9o2PGSF_tpNcC44ez9wAxUyuDA==",
)

model = "deepseek/deepseek-v3.2-exp"
stream = True # or False
max_tokens = 81920
system_content = "Be a helpful assistant"
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)
  
  

选项2:使用 OpenAI Agents SDK 构建多智能体工作流

可构建利用 DeepSeek-V3.2-Exp 能力的复杂多智能体系统:

  • 即插即用集成:可在任意 OpenAI Agents 工作流中使用 DeepSeek-V3.2-Exp
  • 高级智能体能力:支持任务交接、路由规划和工具集成
  • 可扩展架构:可设计利用 DeepSeek-V3.2-Exp 高效长上下文处理能力的智能体

对接第三方平台

开发工具:通过 OpenAI 兼容 API 和 Anthropic 兼容 API,可无缝对接 Cursor、Codex、Claude Code、Trae、Qwen Code、Cline 等主流 IDE 和开发环境。

编排框架:通过官方连接器对接 LangChain、Dify、CrewAI、Langflow 及其他AI编排平台。

Hugging Face 集成:Novita AI 是 Hugging Face 的官方推理服务提供商,可确保广泛的生态兼容性。

总结

DeepSeek-V3.2-Exp 是高效、低成本长上下文AI处理领域的重大突破。

通过 DeepSeek 稀疏注意力技术,该模型在保持与 DeepSeek-V3.1-Terminus 相当性能的同时,长上下文处理成本降低了一半,训练和推理效率均有大幅提升,长上下文场景下表现尤为突出。

DeepSeek 正在真实场景中开展进一步的大规模测试,以探索稀疏注意力架构的潜在局限性。

通过 Novita AI 对开发者友好的 API 平台,你可以轻松使用这项实验性技术——无需操心基础设施复杂度,即可享受成本降低 50% 的强劲AI能力。

准备好体验高效、低成本长上下文AI的未来了吗?今天就去 Playground 开始探索 DeepSeek-V3.2-Exp 吧。

Novita AI 是一款AI云平台,为开发者提供简单的API来部署AI模型,同时提供高性价比、可靠的GPU云服务,用于AI应用的构建与扩展。