关键亮点
DeepSeek V3 引入了创新的架构特性，如 MoE 和 MLA，显著提升了效率和上下文长度。
DeepSeek V3 的成本效益非常出色，训练成本低，API 使用费用比竞争对手更便宜。
用户可以通过 Novita AI 的 API 访问 DeepSeek V3，或进行本地部署，为各种需求和资源提供灵活性。
DeepSeek 这款创新的 AI 模型在 2025 年 1 月底迅速走红全球。继其 V3 模型和应用发布后，1 月 20 日开源的 R1 推理模型引发了全球关注。几天之内，DeepSeek 应用便登顶美国 App Store，超越了众多科技巨头。因此，本文将探讨如何访问它，比较本地部署与 API 访问，并为不同用户需求提供指导。
什么是 DeepSeek-v3
DeepSeek V3 是北京深度求索科技有限公司开发的一款先进的、开源的混合专家（MoE）大语言模型。该先进模型拥有 6710 亿个参数，但在推理过程中每 token 仅激活 370 亿个参数，从而在优化性能的同时最小化资源消耗。DeepSeek V3 旨在与 GPT 等领先模型竞争，尤其在编码和技术任务方面表现出色。
关键特性
- 混合专家（MoE）架构：DeepSeek V3 采用 MoE 框架，具有细粒度的动态负载均衡技术，无需辅助损失。
- 多头潜在注意力（MLA）：该特性通过压缩注意力键和值来提升推理效率，减少内存开销，使模型能够处理高达 128K token 的上下文窗口。
- 多 token 预测（MTP）：MTP 允许 DeepSeek V3 同时预测多个 token，从而提高训练效率和推理速度。
- FP8 混合精度训练：该模型使用 8 位浮点精度进行训练，降低了内存和计算成本。
- 双语支持：DeepSeek V3 针对中文和英文进行了优化，使其适用于这些语言的多语言应用。
如图表所示，DeepSeek-V3 通过其创新的架构设计实现了高性能与低成本之间的最佳平衡，成为性价比的基准。这一设计使 DeepSeek-V3 在众多模型中脱颖而出，成为适合各种预算和任务需求的多功能选择。
- 大规模推理任务（例如批量内容生成）。
- 高度关注成本效益的企业和中小型团队。
- 涉及数学、代码生成和复杂逻辑推理的任务。
DeepSeek-V3 现已上线 Novita AI！享受输入和输出每百万 token 的超低价格——不要错过以无与伦比的成本访问尖端 AI 的机会！
与其他模型的比较
DeepSeek-V3 是一款强大的模型，在多个领域表现出色，特别是在处理专业知识、基础数学和编程任务方面。然而，在高级推理和特定领域应用方面还有改进空间。这指出了未来的改进方向，例如提升开放式问题解决能力、复杂数学推理以及实际软件工程场景中的表现。
如果你想查看更详细的参数比较，可以阅读以下文章：Deepseek v3 vs Llama 3.3 70b：语言任务 vs 代码与数学；Llama 3.2 3B vs DeepSeek V3：效率与性能对比。
如何在本地访问 DeepSeek-v3
硬件要求与配置建议
-
操作系统
- Windows 10 或更高版本
- macOS 10.15 或更高版本
- Linux（Ubuntu 18.04+）
-
CPU
- 多核处理器（至少 4 核）
-
GPU
- 推荐使用 NVIDIA GPU 以获得更快的推理速度
- 较小 R1 蒸馏模型至少需要 8GB VRAM
- 完整 671B 模型需要更多 VRAM
- 仅使用 CPU 运行可行，但速度明显较慢
-
内存（RAM）
- 8GB：足以运行最小版本（1.5B 或 7B）
- 16GB 或更多：推荐用于中档模型（14B 或 32B）
-
存储
- 根据下载的 R1 大小，需要 4–50GB 可用空间
-
软件要求
- 官方 R1 脚本需要 Python 3.10
分步安装指南
1. 克隆仓库：
git clone https://github.com/deepseek-ai/DeepSeek-V3.git
2. 进入推理文件夹并安装依赖：
cd DeepSeek-V3/inference
pip install -r requirements.txt
3. 下载模型权重：
从 Hugging Face 下载模型权重，并将其放置在指定目录（例如 /path/to/DeepSeek-V3）。
4. 转换模型权重：
使用提供的 convert.py 脚本将权重转换为特定格式。例如：
python convert.py --hf-ckpt-path /path/to/DeepSeek-V3 --save-path /path/to/DeepSeek-V3-Demo --n-experts 256 --model-parallel 16
5. 运行 DeepSeek-V3：
使用 torchrun 命令启动模型。根据你的设置修改参数。示例：
torchrun --nnodes 2 --nproc-per-node 8 --node-rank $RANK --master-addr $ADDR generate.py --ckpt-path /path/to/DeepSeek-V3-Demo --config configs/config_671B.json --interactive --temperature 0.7 --max-new-tokens 200
6. 批量推理（可选）：
对给定文件进行批量推理：
torchrun --nnodes 2 --nproc-per-node 8 --node-rank $RANK --master-addr $ADDR generate.py --ckpt-path /path/to/DeepSeek-V3-Demo --config configs/config_671B.json --input-file $FILE
如何通过 Novita AI 访问 DeepSeek-v3
Novita AI 是一个 AI 云平台，为开发者提供通过简单 API 部署 AI 模型的便捷方式，同时还提供经济实惠且可靠的 GPU 云用于构建和扩展。
第一步：登录并访问模型库
登录你的账户，点击 模型库 按钮。
第二步：选择你的模型
浏览可用选项，选择适合你需求的模型。
第三步：开始免费试用
开始免费试用，探索所选模型的能力。
第四步：获取你的 API 密钥
为了通过 API 进行身份验证，我们将为你提供一个新的 API 密钥。进入“设置”页面，你可以按照图中所示复制 API 密钥。
第五步：安装 API
使用特定于你编程语言的包管理器安装 API。
安装后，将必要的库导入到你的开发环境中。使用你的 API 密钥初始化 API，开始与 Novita AI LLM 交互。以下是适用于 Python 用户的聊天补全 API 示例。
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="<YOUR Novita AI API Key>",
)
model = "deepseek/deepseek_v3"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
注册后，Novita AI 会提供 $0.5 的额度供你开始使用！
如果免费额度用尽，你可以付费继续使用。
哪种方法适合你？
本地访问与 API 访问对比
| 特性 | 本地部署 | API 访问 |
|---|---|---|
| 控制权 | 高 | 有限 |
| 自定义 | 灵活 | 受限 |
| 硬件要求 | 高 | 低 |
| 初始成本 | 高 | 低 |
| 可扩展性 | 有限 | 高 |
| 维护难度 | 高 | 低 |
| 隐私保护 | 强 | 取决于提供商 |
不同用户群体的建议
-
对于研究人员和开发者
- 建议：本地部署 DeepSeek V3。
- 原因：提供对模型的完全控制，允许广泛的定制和优化。
- 注意事项：需要大量硬件资源和高级技术专业知识。
-
对于初创公司和中小型企业
- 建议：使用 Novita AI 提供的 DeepSeek V3 API。
- 优势：成本效益高，易于集成，可扩展以适应不断变化的业务需求。
- 最佳用例：快速原型化想法和构建 AI 驱动的应用程序，无需大量前期投资。
总之，DeepSeek V3 是一个强大的开源模型，在编码、数学和推理任务中表现出色。无论是本地部署还是通过 API 访问，它都为各种用例提供了灵活性。虽然本地部署提供完全控制，但需要大量硬件资源。另一方面，像 Novita AI 这样的平台提供了更易于访问和便捷的方式来利用模型的能力。最佳选择取决于你的项目需求、技术专业知识和预算。
常见问题解答
DeepSeek V3 如何实现其效率？
DeepSeek V3 使用 混合专家（MoE） 架构，每 token 仅激活 370 亿个参数 。它采用 ** 多头潜在注意力（MLA） 和 ** 多 token 预测（MTP） 目标来减少资源消耗并加速训练和推理。
DeepSeek V3 的主要优势是什么？
DeepSeek V3 在编码、数学、推理和通用知识任务方面表现出色，并具有强大的中英文多语言支持。它在各种基准测试中表现出卓越的性能，通常超越其他开源甚至闭源模型。
DeepSeek V3 的 VRAM 要求是什么？
DeepSeek V3 的 VRAM 要求因精度而异。对于 FP16，671B 模型大约需要 1,543 GB 的 VRAM，而采用 4 位量化时，大约需要 386 GB 的 VRAM。活跃参数为 37B。
Novita AI 是一个一体化云平台，助力你的 AI 抱负。集成 API、无服务器、GPU 实例——你所需的成本效益工具。消除基础设施，免费开始，实现你的 AI 愿景。
