如何访问 DeepSeek V3.1：全面指南

DeepSeek V3.1 是 DeepSeek 最新的旗舰模型，旨在通过混合推理架构、更高的思考效率及更强的智能体能力来推进 AI 性能。这些创新为开发者提供了强大的基础，以构建更智能的应用并简化实际任务。

本指南将介绍 DeepSeek V3.1，突出其核心特性与基准优势，并展示如何通过本地部署、API 以及第三方平台访问它。

立即免费试用 DeepSeek V3.1！

基本介绍

**特性 **	** 详情**
总参数量	671B
激活参数量	37B
上下文长度	128K
架构	基于 Transformer 的 MoE
思考模式	混合思考模式（思考 + 非思考）
许可证	MIT 许可证

基准测试

DeepSeek V3.1（推理模式） 在 AIME 竞赛数学和 GPQA 科学推理等高难度任务中，展现出更强的逻辑链构建、长上下文理解能力以及更一致的答案，非常适合高精度、深度导向的应用。

DeepSeek V3.1（非推理模式） 则为常规工作负载提供了均衡的性能，兼具更高的效率和成本效益。两者结合，使开发者能够灵活地在严谨的推理深度与实用的通用效率之间进行选择。

主要改进

• 混合推理： DeepSeek V3.1 将思考模式与非思考模式融合在同一个模型中。
• 更快思考： DeepSeek V3.1 思考模式在达到与 DeepSeek-R1-0528 相当的答案质量的同时，响应速度更快。
• 更强的智能体能力： DeepSeek V3.1 利用后训练提升了工具使用能力，并能处理复杂的多步骤任务。

如何访问 DeepSeek V3.1：本地部署

DeepSeek V3.1 要求

**类型 **	** 显存（约）**	** 推荐硬件**
1-bit	186 GB	单块高端 GPU / 多 GPU 服务器
2-bit	219 GB	多 GPU 服务器
3-bit	319 GB	多 GPU 服务器
4-bit	404 GB	多 GPU 服务器
8-bit	713 GB	大型 GPU 集群
16-bit (BF16)	1.34 TB	Nvidia H200 8 卡集群

DeepSeek V3.1 支持使用以下硬件和开源社区软件进行本地部署。

• DeepSeek-Infer Demo：用于 FP8 和 BF16 推理的简单轻量级演示。
• SGLang：完整支持 BF16 和 FP8 模式的 DeepSeek-V3，多 Token 预测即将推出。
• LMDeploy：为本地和云端部署提供高效的 FP8 和 BF16 推理。
• TensorRT-LLM：当前支持 BF16 推理以及 INT4/INT8 量化，FP8 支持即将推出。
• vLLM：支持 DeepSeek-V3，使用 FP8 和 BF16 进行张量并行与流水线并行。
• LightLLM：为 FP8 和 BF16 提供高效的单节点或多节点部署。
• AMD GPU：通过 SGLang 在 AMD GPU 上以 BF16 和 FP8 模式运行 DeepSeek-V3。
• 华为昇腾 NPU：在华为昇腾设备上以 INT8 和 BF16 模式运行 DeepSeek-V3。

虽然 DeepSeek V3.1 可以在本地部署（需要较高的硬件配置），但 Novita AI 也提供优化的 ** 云端 GPU 解决方案（H100 和 H200）**，免去了管理复杂基础设施的麻烦。

如何访问 DeepSeek V3.1：使用 API

Novita AI 提供 DeepSeek V3.1 API，支持 163.8K 上下文，费用为 每 1M 输入 Token $0.55 和 每 1M 输出 Token $1.66 。

选项 1：直接 API 集成（Python 示例）

步骤 1：登录并访问模型库

登录或注册您的账户，点击 模型库 按钮。

立即试用 DeepSeek V3.1！

步骤 2：选择您的模型

浏览可用选项，选择适合您需求的模型。

步骤 3：开始免费试用

开始免费试用，探索所选模型的能力。

步骤 4：获取您的 API 密钥

为了通过 API 进行身份验证，我们将为您提供一个新的 API 密钥。进入“设置”页面，您可以复制如图所示的 API 密钥。

步骤 5：安装 API

使用您编程语言对应的包管理器安装 API。

安装完成后，将必要的库导入您的开发环境。使用您的 API 密钥初始化客户端，以开始与 Novita AI LLM 交互。以下是使用 python 的聊天补全 API 示例。

from openai import OpenAI

client = OpenAI(
    base_url="https://api.novita.ai/openai",
    api_key="",
)

model = "deepseek/deepseek-v3.1"
stream = True  # 或 False
max_tokens = 81920
system_content = "Be a helpful assistant"
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
)

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)

选项 2：使用 OpenAI Agents SDK 构建多智能体工作流

利用 DeepSeek V3.1 的双模式能力构建复杂的多智能体系统：

• 即插即用集成： 在任何 OpenAI Agents 工作流中使用 DeepSeek V3.1
• 高级智能体能力： 支持交接、路由和工具集成
• 可扩展架构： 设计充分利用 DeepSeek V3.1 能力的智能体

如何访问 DeepSeek V3.1：Claude Code 集成

步骤 1：安装 Claude Code

在安装 Claude Code 之前，请确保您的系统满足最低要求。本地环境必须安装 Node.js 18 或更高版本。您可以在终端中运行 node --version 来检查 Node.js 版本。

打开命令提示符（Windows）或终端（Mac / Linux），然后运行：

npm install -g @anthropic-ai/claude-code

全局安装确保 Claude Code 可以从系统的任何目录访问。安装过程会自动在所有平台上配置必要的依赖项和 PATH 变量。

步骤 2：设置环境变量

环境变量配置 Claude Code 通过 Novita AI 的 API 端点使用 DeepSeek V3.1。这些变量告诉 Claude Code 将请求发送到何处以及如何进行身份验证。

• 对于 Windows

打开命令提示符，设置以下环境变量：

set ANTHROPIC_BASE_URL=https://api.novita.ai/anthropic
set ANTHROPIC_AUTH_TOKEN=<Novita API Key>
set ANTHROPIC_MODEL=deepseek/deepseek-v3.1
set ANTHROPIC_SMALL_FAST_MODEL=deepseek/deepseek-v3.1

将 <Novita API Key> 替换为您从 Novita AI 平台获取的实际 API 密钥。这些变量在当前会话中保持有效，如果关闭命令提示符则需要重新设置。

• 对于 Mac 和 Linux

打开终端，导出以下环境变量：

export ANTHROPIC_BASE_URL="https://api.novita.ai/anthropic"
export ANTHROPIC_AUTH_TOKEN="<Novita API Key>"
export ANTHROPIC_MODEL="deepseek/deepseek-v3.1"
export ANTHROPIC_SMALL_FAST_MODEL="deepseek/deepseek-v3.1"

步骤 3：启动 Claude Code

安装和配置完成后，您现在可以在项目目录中启动 Claude Code。使用 cd 命令导航到您想要的项目位置：

cd <your-project-directory>
claude .

点参数（.）指示 Claude Code 在当前目录中操作。启动后，您将看到 Claude Code 提示符出现在交互式会话中。

这表明该工具已准备好接收您的指令。界面提供一个干净、直观的环境，用于进行自然语言编程交互。

步骤 4：构建您的第一个项目

Claude Code 擅长将详细的项目描述转化为功能完整的应用程序。输入提示后，按 Enter 开始任务。Claude Code 将分析您的需求，创建必要的文件，实现功能，并提供一个完整的项目结构和文档。

如何访问 DeepSeek V3.1：连接其他第三方平台

开发工具： 通过兼容 OpenAI 和 Anthropic 的 API，无缝集成到流行的 IDE 和开发环境，如 Cursor、Trae、Qwen Code 和 Cline。

编排框架： 使用官方连接器连接 LangChain、Dify、CrewAI、Langflow 和其他 AI 编排平台。

Hugging Face 集成： Novita AI 是 Hugging Face 的官方推理提供商，确保广泛的生态系统兼容性。

常见问题

Novita AI 是一个 AI 云平台，通过简单的 API 为开发者提供易于部署 AI 模型的方式，同时提供经济实惠且可靠的 GPU 云服务，用于构建和扩展。

推荐阅读

DeepSeek-V3.1 已在 Novita AI 上线：增强的上下文窗口与革命性混合思考模式

DeepSeek R1 7B：拥有 DeepSeek R1 90% 的能力，但硬件效率提升 10 倍

DeepSeek V3 0324 已在 Novita AI 上线