DeepSeek V3 与 R1 升级版:160K Token 上下文与输出,价格更低

DeepSeek V3 与 R1 升级版:160K Token 上下文与输出,价格更低

在 Novita AI,我们激动地宣布 DeepSeek 模型已升级,支持 160K 的上下文长度,相较于之前的 128K 限制有了显著提升。此次升级意味着您现在可以在单次处理中分析和处理更大的数据集,从而节省时间并提高效率。在限时活动期间,新用户可领取 10 美元免费额度,探索 Novita AI 上升级后的 DeepSeek 模型及其他各种 LLM API。

DeepSeek-R1-0528

简介

DeepSeek R1 05282025 年 5 月 28 日 ** 发布,是一个 开源大模型 **,参数规模约为 **6850 亿 。它采用 ** 混合专家(MoE) 架构,推理时每个 token 激活约 **370 亿参数 **。该模型支持最大 128K tokens 的上下文长度。

该模型在 对话、** 推理 编程 数学 ** 和** 函数调用 ** 方面表现出色,并额外支持 JSON 输出 ** 和 函数调用接口 ,显著增强了处理 复杂任务 ** 的能力。模型在超过 10 万亿 tokens 的数据上训练,包括 ** 网页内容**、** 代码 数学数据 ** 和** 文档 ,并特别注重 中英文双语能力**。

训练过程采用了传统的 基于人类反馈的强化学习(RLHF) 和 ** 微调方法**,并结合了大量 ** 计算资源** 和后期阶段的 ** 算法优化**。这种方法优先考虑 ** 准确性** 和 ** 可靠性** 而非效率,使模型非常适合 ** 企业应用**,尤其是那些需要 ** 复杂推理** 和 ** 高精度** 的应用场景。

基准测试

DeepSeek R1 0528 基准测试对比

DeepSeek-V3-0324

简介

DeepSeek V3 0324 于 2025 年 3 月 25 日发布,是一个开源大模型,参数规模约为 6710 亿,推理时每个 token 激活约 370 亿参数。它采用 混合专家(MoE) 架构,支持最大 160K tokens 的上下文长度,因此在处理超长输入和生成超长输出方面能力出众。

该模型专为 多轮对话、** 深度推理 代码生成 ** 和** 数学问题求解 ** 等任务而设计。增强的多语言支持(尤其是** 中文 )以及其 文本到文本的多模态能力 **进一步拓展了它的通用性。训练数据包含 14.8 万亿 tokens 的多样化来源,如网页内容、代码库和技术文档,为复杂应用提供了强大的知识基础。

DeepSeek V3 0324 采用了先进的 预训练技术 以及针对特定用例的 ** 后训练微调**。这种综合方法配合大量计算资源,优先考虑了准确性、连贯性和可靠性,使其成为 ** 长文本生成**、** 复杂问题求解 ** 和** 企业级性能** 需求的理想模型。

基准测试

DeepSeek V3 0324 基准测试对比

上下文长度

什么是上下文长度?

在像 DeepSeek 这样的 AI 模型中,上下文长度 指的是模型在单次交互中能够处理和生成的最大 token(单词、标点或符号)数量。它定义了模型一次能理解多少输入以及能产生多少输出。更大的上下文窗口使 AI 模型能够处理更长的输入,并将更多信息融入每次输出中。

上下文长度如何影响性能?

上下文长度显著影响模型以下方面的能力:

  • 理解上下文: 更长的上下文窗口允许模型从输入中引用更多信息,减少丢失关键细节的可能性。
  • 生成连贯的输出: 通过获取完整上下文,模型能够生成在较长输出中保持逻辑一致性的响应。
  • 实现复杂推理: 需要多步推理或跟踪历史状态的任务(如编程、技术分析或深度研究)将极大受益于扩展的上下文。

160K token 扩展的优势

通过最近的升级,DeepSeek-V3-0324DeepSeek-R1-0528 现在支持 160K token 限制,这是相比之前 128K 上下文窗口的重大飞跃。这一扩展带来了几个关键优势:

  1. 支持超长对话: 扩展的上下文窗口允许无缝的多轮对话,而不会丢失先前交互的线索,非常适合需要长期一致性和记忆的任务。
  2. 促进深度智能体分析: 智能体现在可以分析更大的数据集或在更长时间内进行更深层次的推理,为商业智能或科学研究等应用解锁新可能性。
  3. 启用长输出应用: 像 ** 代码生成**、** 文档摘要 ** 或** 详细报告生成** 等任务现在可以处理更大更复杂的输入,在单次输出中提供全面的结果。

通过扩展上下文长度,DeepSeek 现在能更好地应对现代工作流程的需求,成为跨行业用户的有力工具。

通过 Novita AI 访问 DeepSeek

步骤 1:登录并访问模型库

登录您的账户,点击 模型库 按钮。

登录并访问模型库

步骤 2:选择您的模型

浏览可用选项,选择适合您需求的模型。

选择您的模型

步骤 3:开始免费试用

开始免费试用,探索所选模型的能力。

开始 DeepSeek R1 0528 免费试用

立即试用 DeepSeek

步骤 4:获取您的 API 密钥

为了通过 API 进行身份验证,我们将为您提供一个新的 API 密钥。进入“设置”页面,您可以按照图片指示复制 API 密钥。

获取 API 密钥

步骤 5:安装 API

使用您的编程语言对应的包管理器安装 API。

安装 API

安装完成后,将必要的库导入您的开发环境。使用您的 API 密钥初始化 API,开始与 Novita AI LLM 交互。以下是 Python 用户使用聊天补全 API 访问 DeepSeek R1 0528 的示例。

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="session_r5eB9eC3oBfDyuGn69eevTLAudts6AFa3JeHeml91oVyVe6uZnGUmAh7aO9rZxUSRocPWUBszQaiC39g4VGiAg==",
)

model = "deepseek/deepseek-r1-0528"
stream = True # or False
max_tokens = 65536
system_content = ""Be a helpful assistant""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)

Novita AI 提供具有扩展上下文长度的 DeepSeek R1 0528 和 DeepSeek V3 0324,让您能够处理更长的对话和更复杂的项目。DeepSeek R1 0528 的定价仅为每 100 万输入/输出 token 0.7 美元/2.5 美元,而 DeepSeek V3 0324 则更为实惠,每 100 万 token 仅需 0.28 美元/1.14 美元。您可以在不超出预算的情况下获得最先进的 AI 性能。在限时活动期间,新用户可领取 10 美元免费额度,探索 Novita AI 上升级后的 DeepSeek 模型及其他各种 LLM API。

常见问题解答

什么是 Deepseek V3 0324?

Deepseek V3 0324 是 DeepSeek 推出的先进大语言模型,专为通用对话、理解和高级推理而设计。

扩展的上下文长度如何帮助编程项目?

通过扩展的上下文,您可以分享整个代码库,跨多个文件保持上下文,并在处理复杂重构任务时跟踪代码各部分之间的依赖关系。这极大地提升了 AI 提供准确、上下文相关建议的能力。

LLM 的合理上下文长度是多少?

对于大多数应用,32K-128K tokens 提供了出色的性能,而 Novita AI 升级后的 160K 上下文长度确保您能够处理最复杂的文档和扩展对话,毫无限制。

关于 Novita AI

Novita AI 是一个 AI 云平台,为开发者提供通过简单 API 部署 AI 模型的便捷方式,同时提供经济可靠的 GPU 云用于构建应用。