关键亮点
1. 高级性能
卓越推理：在数学（AIME 2024、MATH-500）和编程（Codeforces）基准测试中表现优异。
架构：MoE + 强化学习增强训练，拥有671B参数（每个Token激活37B）。
2. 通过Ollama本地访问
安装 Ollama；运行 ollama run deepseek-r1:7b 下载；使用 ollama list 验证并通过终端交互。
3. 本地部署挑战
硬件：需要高端GPU（如H800），至少24GB显存。
内存：671B参数导致加载缓慢，存在磁盘交换风险。
设置：需手动安装权重、库和配置。
蒸馏模型：较小版本（如Qwen-32B）可降低资源需求，但牺牲性能。
**4. API访问 **：Novita AI 为 DeepSeek R1 提供API。只需注册免费试用，并通过简单请求使用API。
DeepSeek R1 是一款先进的AI模型，以强大的推理能力著称，尤其在数学和编程领域。本文将指导您通过不同方式访问DeepSeek R1，无论是本地运行还是使用API。
什么是DeepSeek R1？
- 发布日期：2025年1月21日
- 模型规模：
- 关键特性：
- 模型大小：671B参数（每个Token激活37B）
- 分词器：增强分词器，包含自反思标签
- 支持语言：多语言，具有文化适应能力
- 多模态：仅文本
- 上下文窗口：128K tokens
- 存储格式：支持Q8/Q5量化
- 架构：混合专家（MoE）+ 强化学习增强训练流程
- 训练方法：基于V3基础模型，采用RL流程（SFT → RL → SFT → RL）
- 训练数据：V3基础数据 + RL优化数据
https://www.youtube.com/watch?v=ApvcIYDgXzg
基准测试对比
DeepSeek-R1 在大多数测试中表现出色，尤其是在需要高精度和复杂推理的任务中（如AIME 2024、Codeforces、MATH-500、MMLU）。它在这方面的表现优于OpenAI-o1-1217和OpenAI-o1-mini等模型。然而，DeepSeek-R1 在特定任务（如GPQA Diamond和SWE-bench Verified）上表现较弱，表明与Open AI O1等模型相比仍有改进空间。
应用场景
- 数学问题求解与代码生成。
- 复杂逻辑推理任务。
- 辅助诊断复杂问题。
- 分析多步骤场景。
- 从大数据集中综合洞察。
- 客户服务应用。
如何本地访问DeepSeek R1
https://www.youtube.com/watch?v=pbCQnDDj-bo
分步安装指南
1. 安装Ollama
- 访问 Ollama官网，下载并安装适用于您操作系统的版本。
2. 下载DeepSeek-R1模型
- 打开终端并运行（以7B参数版本为例）： bashCopy
ollama run deepseek-r1:7b（等待下载完成，时间取决于网络速度。）
ollama run deepseek-r1:7b
3. 验证与运行
- 验证安装：
ollama list # 检查列表中是否出现“deepseek-r1”
- 启动模型：
ollama run deepseek-r1:7b
4. 使用示例
- 提问： bashCopy
>>> "用简单语言解释量子计算。" - 生成代码： bashCopy
>>> "编写一个Python函数来计算斐波那契数列。"
本地部署的挑战
1. 硬件限制
- 高资源需求：
- 需要高端GPU/TPU（如H800），配备充足显存/内存。
- 内存约束：
- 671B参数（每个Token激活37B）导致加载缓慢。
- 显存/内存不足会导致磁盘交换或失败。
2. 设置与配置
- 安装复杂：
- 手动步骤：下载模型权重（Hugging Face）、安装库（如
transformers）、配置框架。 - 需要技术专长进行优化。
- 手动步骤：下载模型权重（Hugging Face）、安装库（如
- 软件优化：
- 必须强制响应以
\n思考\n开头，以确保正确的推理模式。
- 必须强制响应以
3. 性能瓶颈
- 推理速度慢：
- CPU/GPU限制和内存带宽降低处理速度。
- 维护开销：
- 新版本更新需手动操作，增加持续工作。
4. 蒸馏模型的权衡
- 资源需求降低：
- 较小版本（如Qwen-32B、Llama-70B）降低硬件要求。
- 示例：Qwen-32B在基准测试中优于OpenAI-o1-mini。
- 性能缺陷：
- 相比完整671B模型牺牲精度或能力。
- 可能难以处理需要深入推理的复杂任务。
如需完整能力：选择API访问，避免硬件和设置挑战。
如何通过Novita AI访问DeepSeek R1
Novita AI是一个AI云平台，为开发者提供通过简单API部署AI模型的便捷途径，同时提供经济实惠且可靠的GPU云用于构建和扩展。
第1步：登录并访问模型库
登录您的账户，点击 模型库 按钮。
第2步：选择模型
浏览可用选项，选择适合您需求的模型。
第3步：开始免费试用
开始免费试用，探索所选模型的能力。
第4步：获取API密钥
为验证API身份，我们将为您提供一个新的API密钥。进入“设置”页面，按图中指示复制API密钥。
第5步：安装API
使用您编程语言的包管理器安装API。
安装后，将必要的库导入开发环境。使用API密钥初始化API，开始与Novita AI LLM交互。以下是Python用户使用聊天补全API的示例。
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="<YOUR Novita AI API Key>",
)
model = "deepseek/deepseek_r1"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
注册后，Novita AI会提供 $0.5 的信用额度，助您入门！
如果免费信用额度用完，您可以付费继续使用。
哪些方法适合您？
- 研究人员：通常更偏好本地访问，以获得实验的灵活性和控制权。
- 开发者：
- API访问适用于构建应用和快速原型开发。
- 本地访问更适合微调和自定义工作流。
- 企业：API访问利于快速集成到服务中，无需高额前期成本。本地部署适合有稳定需求且能投资基础设施的团队。
- 小团队/个人：API访问通常更实用，因为启动成本较低。
- 技术能力有限的用户：API访问更佳，无需深厚技术知识。
总之，DeepSeek R1 是一个令人印象深刻的模型，具有最先进的推理能力。无论您选择本地运行还是使用API，都需要权衡控制权、成本和便利性。通过仔细考虑本文中的因素和具体建议，您可以选择最适合您目标的访问方法。
常见问题
DeepSeek R1比OpenAI的o1更好吗？
是的，DeepSeek R1在推理任务中表现相当，而且作为开源模型更具成本效益。
如何微调DeepSeek R1？
作为开源模型，DeepSeek R1可以针对特定任务进行微调，前提是您拥有计算资源和数据。
这些模型是如何训练的？
DeepSeek R1的训练成本远低于OpenAI的o1模型。
Novita AI 是一个全合一云平台，助力您的AI雄心。集成API、无服务器、GPU实例——您需要的经济高效工具。无需基础设施，免费启动，让您的AI愿景成为现实。
