如何在本機端或透過 API 存取 DeepSeek R1：完整指南

重點摘要

** 1. 進階效能 **
** 卓越推理 **：在數學（AIME 2024、MATH-500）與程式設計（Codeforces）基準測試中表現優異。
** 架構 **：MoE + 強化學習增強訓練，671B 參數（每 token 啟用 37B）。

** 2. 透過 Ollama 進行本機端存取 **
安裝 Ollama；執行 ollama run deepseek-r1:7b 進行下載；使用 ollama list 驗證並透過終端機互動。

** 3. 本機端部署挑戰 **
** 硬體 **：需要高階 GPU（例如 H800）且具備 24GB+ VRAM。
** 記憶體 **：671B 參數導致載入緩慢；存在磁碟交換風險。
** 設定 **：手動安裝權重、程式庫與組態。
** 蒸餾模型 **：較小版本（例如 Qwen-32B）可減少資源需求，但會犧牲效能。

** 4. API 存取 **：Novita AI 提供 DeepSeek R1 的 API。只需註冊免費試用，並透過簡單請求使用 API。

DeepSeek R1 是一款尖端 AI 模型，以其強大的推理能力聞名，特別是在數學與程式設計領域。本文將引導您透過多種方式存取 DeepSeek R1，無論是在本機端執行或使用 API。

什麼是 DeepSeek R1？

• 發布日期：2025 年 1 月 21 日
• 模型規模：
  • deepseek/deepseek-r1
  • deepseek/deepseek-r1-distill-qwen-14b
  • deepseek/deepseek-r1-distill-qwen-32b
• 主要特色：
  • 模型大小：671B 參數（每 token 啟用 37B）
  • 分詞器：具備自我反思標籤的增強版分詞器
  • 支援語言：多語言並具文化適配性
  • 多模態：僅文字
  • 上下文視窗：128K tokens
  • 儲存格式：支援 Q8/Q5 量化
  • 架構：混合專家（MoE）+ 強化學習增強訓練流程
  • 訓練方法：基於 V3 基礎，搭配強化學習流程（SFT → RL → SFT → RL）
  • 訓練資料：V3 基礎資料 + 強化學習最佳化資料

https://www.youtube.com/watch?v=ApvcIYDgXzg

基準測試比較

DeepSeek-R1 在多數測試中展現出優異表現，特別是在需要高準確度與複雜推理的任務中（例如 AIME 2024、Codeforces、MATH-500 和 MMLU）。在這些領域中，它超越了 OpenAI-o1-1217 和 OpenAI-o1-mini 等模型。然而，DeepSeek-R1 在特定任務（如 GPQA Diamond 和 SWE-bench Verified）中表現較弱，顯示與 OpenAI O1 等模型相比仍有改進空間。

應用場景

• 數學問題求解與程式碼生成。
• 複雜邏輯推理任務。
• 協助診斷複雜問題。
• 分析多重步驟情境。
• 從大型資料集中綜整洞察。
• 客戶服務應用。

如何在本機端存取 DeepSeek R1

https://www.youtube.com/watch?v=pbCQnDDj-bo

逐步安裝指南

1. 安裝 Ollama

• 前往 Ollama 網站，下載並安裝適用於您作業系統的版本。

2. 下載 DeepSeek-R1 模型

• 開啟終端機並執行（以 7B 參數版本為例）： bashCopyollama run deepseek-r1:7b （等待下載完成；時間取決於網路速度。）

ollama run deepseek-r1:7b

3. 驗證與執行

• 驗證安裝：

ollama list  # 檢查清單中是否出現 "deepseek-r1"

• 啟動模型：

ollama run deepseek-r1:7b

4. 使用範例

• 提出查詢： bashCopy>>> "Explain quantum computing in simple terms."
• 產生程式碼： bashCopy>>> "Write a Python function to calculate the Fibonacci sequence."

本機端部署的挑戰

1. 硬體限制

• 高資源需求：
  • 需要高階 GPU/TPU（例如 H800）且具備大量的 VRAM/RAM。
• 記憶體限制：
  • 671B 參數（每 token 啟用 37B）導致載入緩慢。
  • VRAM/RAM 不足會導致磁碟交換或失敗。

2. 設定與組態

• 複雜的安裝：
  • 手動步驟：下載模型權重（Hugging Face）、安裝程式庫（例如 transformers）、設定框架。
  • 需要技術專業知識進行最佳化。
• 軟體最佳化：
  • 必須強制回應以 thinking\ 開頭，以確保正確的推理模式。

3. 效能瓶頸

• 推理速度慢：
  • CPU/GPU 限制與記憶體頻寬降低處理速度。
• 維護成本：
  • 手動更新新模型版本增加持續工作量。

4. 蒸餾模型的取捨

• 降低資源需求：
  • 較小版本（例如 Qwen-32B、Llama-70B）降低硬體需求。
  • 範例：Qwen-32B 在基準測試中表現優於 OpenAI-o1-mini。
• 效能缺點：
  • 與完整 671B 模型相比，犧牲準確度或能力。
  • 在需要深度推理的複雜任務上可能表現不佳。

若要獲得完整能力：選擇 API 存取以避免硬體與設定挑戰。

如何透過 Novita AI 存取 DeepSeek R1

Novita AI 是一個 AI 雲端平台，為開發者提供簡單的 API 來輕鬆部署 AI 模型，同時也提供價格實惠且可靠的 GPU 雲端服務，用於建置與擴展。

步驟 1：登入並存取模型庫

登入您的帳戶，然後點擊 Model Library 按鈕。

立即試用 DeepSeek R1 示範！

步驟 2：選擇您的模型

瀏覽可用選項，然後選擇符合您需求的模型。

步驟 3：開始免費試用

開始免費試用，探索所選模型的能力。

步驟 4：取得您的 API 金鑰

為了驗證 API，我們會提供您一組新的 API 金鑰。進入「Settings」頁面，您可以依照圖片指示複製 API 金鑰。

步驟 5：安裝 API

使用您程式語言專屬的套件管理員安裝 API。

安裝後，將必要的程式庫匯入您的開發環境。使用您的 API 金鑰初始化 API，以開始與 Novita AI LLM 互動。以下是 Python 使用者使用聊天完成 API 的範例。

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<YOUR Novita AI API Key>",
)

model = "deepseek/deepseek_r1"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=&#91;
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices&#91;0].delta.content or "", end="")
else:
    print(chat_completion_res.choices&#91;0].message.content)

註冊後，Novita AI 會提供 $0.5 的點數讓您開始使用！

如果免費點數用完了，您可以付費繼續使用。

哪種方法適合您？

• 研究人員： 本機存取通常較受青睞，因其具備彈性與實驗控制權。
• 開發者：
  • API 存取適合建置應用程式與快速原型開發。
  • 本機存取較適合微調與自訂工作流程。
• 企業： API 存取有助於快速整合至服務中，無需高昂前期成本。本機部署則適合需求穩定且有基礎設施投資能力的團隊。
• 小型團隊/個人： API 存取通常較為實用，因其啟動成本較低。
• 技術能力有限的使用者： API 存取較佳，因其無需深入的技術知識。

總而言之，DeepSeek R1 是一款令人驚豔的模型，具備最先進的推理能力。無論您選擇在本機端執行或使用 API，都必須考量控制權、成本與便利性之間的取捨。透過仔細評估這些因素以及本文中的具體建議，您將能選擇最適合您目標的存取方法。

常見問題

DeepSeek R1 比 OpenAI 的 o1 好嗎？

DeepSeek R1 提供相當的效能，特別是在推理任務中，同時具備開源與更具成本效益的優點。

如何微調 DeepSeek R1？

作為開源模型，DeepSeek R1 可以針對特定任務進行微調，前提是您擁有足夠的運算資源與資料。

模型是如何訓練的？

DeepSeek R1 的價格明顯低於 OpenAI 的 o1 模型。

Novita AI 是一款全方位雲端平台，助力您的 AI 願景。整合 API、無伺服器、GPU 實例 — 您所需的高成本效益工具。無需基礎設施，免費開始，讓您的 AI 願景成真。

推薦閱讀

• DeepSeek V3：推動開源程式碼模型進步，現已於 Novita AI 上線
• Deepseek v3 vs Llama 3.3 70b：語言任務 vs 程式碼與數學
• Llama 3.2 3B vs DeepSeek V3：效率與效能比較