重點摘要
DeepSeek R1：
專為 純粹推理能力 而設計，在數學、程式碼與一般知識任務中表現卓越。
採用 671B 混合專家（MoE）架構，並結合強化學習訓練。
需要大量運算資源，但 蒸餾版本（8B–70B） 提供了更親民的選擇。
Gemma 3：
側重 多功能性、效率與多模態，支援 140 多種語言與視覺任務。
可在 單一 GPU 或 TPU 上高效運行，非常適合資源受限的環境。
在 內容創作 、 多語言任務 ** 與 ** 裝置端應用 中表現出色，且提供較小的模型（1B–4B）。
如果你正在評估 DeepSeek R1 是否適用於自己的使用場景——註冊後，Novita AI 將提供 $0.5 美元 的額度讓您開始體驗！
大型語言模型（LLM）的發展日新月異，每一次迭代都重新定義了人工智慧的可能性。近期的重要進展包括 Google 的 Gemma 3（開放模型家族的最新成員）與 DeepSeek AI 的 R1（專為推理能力設計的模型）。本文將對這兩款領先模型進行詳細的技術比較，分析其架構、效能及對不同應用的適用性。
模型基本介紹
在開始比較之前，我們先了解每個模型的基本特性。
DeepSeek R1
- 發布日期：2025 年 1 月 21 日
- 模型規模：
- 主要特色：
- 模型大小：671B 參數（每個 Token 啟動 37B）
- 分詞器：增強分詞器，支援自我反思標籤
- 支援語言：多語言，具文化適應性
- 多模態：僅文字
- 上下文視窗：128K tokens
- 儲存格式：支援 Q8/Q5 量化
- 架構：混合專家（MoE）+ 強化學習增強訓練管線
- 訓練方法：以 V3 為基礎，搭配 RL 管線（SFT → RL → SFT → RL）
- 訓練資料：V3 基礎資料 + RL 最佳化資料
Gemma 3
- 發布日期：2025 年 3 月 12 日
- 模型規模：
- Gemma 1B（僅文字，32k 上下文視窗）
Gemma 4B（多模態 - 視覺，128k 上下文視窗）
Gemma 12B（多模態 - 視覺，128k 上下文視窗）
Gemma 27B（多模態 - 視覺，128k 上下文視窗）
- Gemma 1B（僅文字，32k 上下文視窗）
- 主要特色：
- **支援語言 **：支援 140 多種語言。
- 預訓練
- 新的分詞器，針對 140+ 語言。
- 訓練資料量：
- 2T tokens（1B）、4T tokens（4B）、12T tokens（12B）、14T tokens（27B）。
- 使用 Google TPU 與 JAX 框架。
- 後訓練
- 蒸餾（Distillation）：來自更大的指令模型。
- RLHF：對齊人類偏好。
- RLMF：改善數學推理。
- RLEF：增強程式碼能力。
取自 Google
DeepSeek-R1 發布後，包括 Gemma 3 在內的許多模型開始在其訓練中納入各種形式的 ** 強化學習（RL）**，例如 RLHF、RLMF 和 RLEF，以增強對齊、推理和程式碼等特定能力。
速度比較
如果你想親自測試，可以在 Novita AI 網站上開始免費試用。
速度比較
Gemma 3 27B 在輸出速度與延遲方面超越 DeepSeek R1。
值得注意的是，Novita AI 推出了 Turbo 版本，提供 3 倍吞吐量及限期 20% 折扣！
基準測試比較
在了解每個模型的基本特性後，我們來看它們在各項基準測試中的表現。此比較有助於說明它們在不同領域的優勢。
| 基準測試 | DeepSeek-R1 | Gemma 3 27B | Gemma 3 1B |
|---|---|---|---|
| LiveCodeBench（程式碼） | 62 | 30 | 2 |
| GPQA Diamond | 71 | 42 | 19 |
| MATH-500 | 96 | 50 | - |
| MMLU-Pro | 84 | 68 | 14.7 |
也就是說，DeepSeek-R1 在數學與程式碼相關的基準測試中表現突出，而 Gemma 3 則在推理、多語言能力及多模態方面展現出均衡的效能。值得注意的是，Google 的內部評估顯示，Gemma 3 的 Elo 分數非常接近 DeepSeek-R1，同時所需的運算資源大幅降低。
如果你想查看更多比較，可以參考以下文章：
- Deepseek v3 vs Llama 3.3 70b：語言任務 vs 程式碼與數學
- DeepSeek R1 vs OpenAI o1：GRPO 與 PPO 的不同架構
- QwQ 32B：DeepSeek R1 的輕量級 AI 競爭者
硬體需求
| **模型 ** | ** 參數量 ** | GPU 配置 |
|---|---|---|
| DeepSeek-R1-Distill-Llama-8B | 4.9B | 1 x NVIDIA RTX 4090（24GB VRAM），搭配模型分片 |
| DeepSeek-R1-Distill-Qwen-14B | 9.0B | 1 x NVIDIA A100（80GB VRAM）或 2 x RTX 4090（24GB VRAM），搭配張量並行 |
| DeepSeek-R1-Distill-Qwen-32B | 32B | 2 x NVIDIA A100（80GB VRAM）或 1 x NVIDIA H100（80GB VRAM）或 4 x RTX 4090（24GB VRAM），搭配張量並行 |
| DeepSeek-R1-Distill-Llama-70B | 70B | 4 x NVIDIA A100（80GB VRAM）或 2 x NVIDIA H100（80GB VRAM）或 8 x RTX 4090（24GB VRAM），搭配高度並行 |
| DeepSeek-R1:671B | 671B（370 億啟動參數） | 16 x NVIDIA A100（80GB VRAM）或 8 x NVIDIA H100（80GB VRAM），需要搭配 InfiniBand 的分散式 GPU 叢集 |
| Gemma 3 27B | 27B | 僅需 1 張 H100 GPU |
關鍵差異在於硬體需求。Gemma 3 針對效率最佳化，可在單一 GPU 或 TPU 上運行，較小的模型（1B、4B）適合資源有限的環境。相較之下，DeepSeek-R1 需要大量的基礎設施，完整效能需要高達 32 個 Nvidia H100 GPU。雖然蒸餾版本（1.5B–70B）降低了需求，但基礎 R1 模型是為大規模部署設計的。
取自 Google
應用與使用案例
DeepSeek R1
- 數學：能夠解決高階數學問題，包括符號推理、方程式求解與最佳化任務，非常適合 STEM 相關應用。
- 程式碼：擅長生成複雜的程式碼、理解錯綜複雜的邏輯，以及除錯大型軟體專案，是開發人員與工程師的寶貴工具。
- 一般知識：在廣泛的主題中展現強大的推理能力，適合需要深入理解並準確綜合不同知識領域的任務。
Gemma 3
- 多模態與多語言支援，加上其效率，使其適用於廣泛的應用：
- 內容創作與通訊：生成各種文字格式、驅動聊天機器人、摘要文字，以及從圖片中提取資訊。
- 研究與教育：作為 NLP 與 VLM 研究的基礎，語言學習工具，以及知識探索。
- 裝置端應用：較小的變體針對行動裝置與網頁部署進行最佳化。
- 專屬助手：個人程式碼助手、商務郵件助手等。
透過 Novita AI 的存取與部署
Novita AI 是一個 AI 雲端平台，讓開發者能夠透過簡單的 API 輕鬆部署 AI 模型，同時提供可靠且價格實惠的 GPU 雲端服務，用於建置與擴展。
步驟 1：登入並存取模型庫
登入您的帳戶，然後點擊 Model Library 按鈕。
步驟 2：選擇您的模型
瀏覽可用的選項，然後選擇符合您需求的模型。
步驟 3：開始免費試用
開始免費試用，探索所選模型的功能。
步驟 4：取得您的 API 金鑰
為了驗證 API，我們會提供您一個新的 API 金鑰。進入「Settings」頁面，您可以按照圖片所示複製 API 金鑰。
步驟 5：安裝 API
使用您程式語言專用的套件管理器安裝 API。
安裝完成後，將必要的函式庫匯入您的開發環境。使用您的 API 金鑰初始化 API，即可開始與 Novita AI LLM 互動。以下是 Python 使用者使用 chat completions API 的範例。
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="<YOUR Novita AI API Key>",
)
model = "deepseek/deepseek_r1"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
註冊後，Novita AI 會提供 $0.5 美元 的額度讓您開始使用！
如果免費額度用完，您可以付費繼續使用。
Gemma 3 和 DeepSeek R1 在先進 AI 發展上採取了不同的途徑：
- Gemma 3 專注於多功能性、效率與多模態，在多元應用與資源受限環境中表現出色。它能在單一 GPU 或 TPU 上運行，加上強大的基準測試表現，對開發者與研究人員來說極具可及性。
- DeepSeek R1 則優先考慮純粹的推理能力，特別是在數學與程式碼等技術領域，透過更大的參數規模與混合專家（MoE）架構來達成。雖然其基礎模型需要大量運算資源，但蒸餾版本為需要強大推理能力的任務提供了更實用的選擇。
兩者之間的選擇取決於應用需求、運算資源，以及對多功能性與專業能力的平衡考量。
常見問題
Gemma 3 的上下文視窗大小為何？
4B、12B 和 27B 模型擁有 128K 的上下文視窗，而 1B 模型則有 32K 的上下文視窗。
Gemma 3 的主要優勢是什麼？
多功能性、效率、多模態，以及在各項任務中的強大表現，且能在單一 GPU 或 TPU 上運行。
如何透過 API 存取 Deepseek R1？
Novita AI 為您提供可靠且價格實惠的 Deepseek R1 API。
Novita AI 是一個 AI 雲端平台，讓開發者能夠透過簡單的 API 輕鬆部署 AI 模型，同時提供可靠且價格實惠的 GPU 雲端服務，用於建置與擴展。
