重點摘要
Novita AI 推出了 DeepSeek R1 Turbo，提供 **3 倍吞吐量 ** 與 ** 限時 60% 折扣 。此外，此版本完整支援 ** 函式呼叫。
您可以在 Novita AI 上開始免費試用！
更令人振奮的是：Novita AI 在 OpenRouter 上 DeepSeek R1 API 排名第一
什麼是 DeepSeek R1？
- 發布日期：2025 年 1 月 21 日
- 模型規模：
- 主要特色：
- 模型大小：671B 參數（每個 token 啟動 37B）
- 分詞器：強化版分詞器，具備自我反思標籤
- 支援語言：多語言，含文化適應
- 多模態：純文字
- 上下文視窗：128K tokens
- 儲存格式：支援 Q8/Q5 量化
- 架構：混合專家 (MoE) + RL 強化訓練流程
- 訓練方法：基於 V3 基礎模型，搭配 RL 流程（SFT → RL → SFT → RL）
- 訓練資料：V3 基礎模型 + RL 最佳化資料
基準測試
DeepSeek-R1 在大多數任務中展現出顯著的效能提升，尤其是在 Codeforces 與 GPQA Diamond 任務上分別提升了 9.0% 與 5.7%，顯示了其在處理複雜任務方面的強大能力。
DeepSeek R1 硬體需求
| 模型 | 精度 | GPU | 數量 |
|---|---|---|---|
| DeepSeek-R1-Distill-Qwen-1.5B | BF16 | RTX 4090 | 1 |
| DeepSeek-R1-Distill-Qwen-7B | BF16 | RTX 4090 | 1 |
| DeepSeek-R1-Distill-Llama-8B | BF16 | RTX 4090 | 1 |
| DeepSeek-R1-Distill-Qwen-14B | BF16 | RTX 4090 | 2 |
| DeepSeek-R1-Distill-Qwen-32B | BF16 | RTX 4090 | 4 |
| DeepSeek-R1-Distill-Llama-70B | BF16 | RTX 4090 | 8 |
| DeepSeek-R1 (671B) | BF16 | H100 | 8 |
DeepSeek-R1 的硬體需求有明確的層級區分：
- 蒸餾模型 的硬體需求相對較低，尤其小規模與中規模的模型，適合高階消費級硬體（例如 RTX 4090）。
- 完整規模模型 的硬體需求極高，尤其超大型模型，需依賴專業級硬體（例如 H100 GPU）。
- 總體而言，蒸餾技術顯著降低了硬體需求，提升了模型部署的靈活性，但完整規模模型仍需極高效能的硬體才能達到最佳表現。
如果您覺得自行採購 GPU 或部署過於複雜，可以使用 **Novita AI 的 GPU 與 API 服務 **，這些服務提供完全最佳化的 DeepSeek-R1 版本，使用非常方便，並根據 token 數量計費。
選擇 Novita AI 的雲端 GPU 服務
Novita AI 是一個 AI 雲端平台，為開發者提供透過簡單 API 部署 AI 模型的簡便方式，同時也提供經濟實惠且可靠的 GPU 雲端環境，讓您建構與擴展應用。
步驟 1：註冊帳號
如果您是 Novita AI 的新用戶，請先在我們的網站上建立帳號。註冊完成後，前往「GPUs」頁面探索可用資源，開啟您的旅程。
步驟 2：探索模板與 GPU 伺服器
首先選擇符合您專案需求的模板，例如 PyTorch、TensorFlow 或 CUDA。挑選適合的版本，例如 PyTorch 2.2.1 或 CUDA 11.8.0。接著選擇 A100 GPU 伺服器配置，該配置提供強大的效能，足以應付高負載工作，並具備充足的 VRAM、RAM 與磁碟容量。
步驟 3：自訂您的部署
在選擇模板與 GPU 後，自訂您的部署設定，例如調整作業系統版本（如 CUDA 11.8）。您還可以調整其他配置，為專案量身打造所需的環境。
步驟 4：啟動執行個體
當您確定模板與部署設定後，點擊「啟動執行個體」來設定您的 GPU 執行個體。這將啟動環境配置，讓您能立即開始使用 GPU 資源進行 AI 任務。
選擇 Novita AI 的 API 服務
Novita AI 是一個 AI 雲端平台，為開發者提供透過簡單 API 部署 AI 模型的簡便方式，同時也提供經濟實惠且可靠的 GPU 雲端環境，讓您建構與擴展應用。
步驟 1：登入並進入模型庫
登入您的帳號，然後點擊 模型庫 按鈕。
步驟 2：選擇您的模型
瀏覽可用的選項，選擇符合您需求的模型。
步驟 3：開始免費試用
開始免費試用，探索所選模型的功能。
步驟 4：取得您的 API 金鑰
為了進行 API 驗證，我們會提供您新的 API 金鑰。進入「設定」頁面，您可以按照圖片指示複製 API 金鑰。
步驟 5：安裝 API
使用您程式語言對應的套件管理工具安裝 API。
安裝完成後，將所需的函式庫匯入您的開發環境。使用您的 API 金鑰初始化 API，開始與 Novita AI LLM 互動。以下是一個使用 Python 的聊天完成 API 範例。
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="<YOUR Novita AI API Key>",
)
model = "deepseek/deepseek_r1"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
Novita AI 透過 DeepSeek R1 Turbo 革新 AI 部署，提供 **3 倍吞吐量 ** 並支援 ** 函式呼叫 ** 等進階功能，現在更享有 ** 限時 20% 折扣 **。無論您是使用 RTX 4090 等消費級 GPU 執行蒸餾模型，或是採用企業級 H100 GPU 部署完整規模模型，Novita AI 都能提供無與倫比的靈活性。若您想要免去麻煩的解決方案，**Novita AI 的 GPU 與 API 服務 ** 提供完全最佳化的 DeepSeek R1 Turbo 版本，搭配 ** 基於 token 的計價方式 ** 與 ** 免費試用 **。立即使用 DeepSeek R1 Turbo 體驗下一世代的 AI 效能——從 Novita AI 開始！
常見問題
什麼是 DeepSeek R1 Turbo？
DeepSeek R1 Turbo 是 DeepSeek R1 的最佳化版本，提供 **3 倍吞吐量 、完整支援函式呼叫，並在 Novita AI 上享有 ** 限時 20% 折扣！
執行 DeepSeek R1 需要什麼硬體？
**完整規模模型 **：需要企業級 GPU，如 H100 以達到最佳效能。
我可以免費試用 DeepSeek R1 嗎？
可以，Novita AI 透過其 API 平台提供 DeepSeek R1 的免費試用。
Novita AI 是一個一站式雲端平台，助力您的 AI 抱負。整合 API、無伺服器、GPU 執行個體 — 您所需的經濟高效工具。免除基礎設施煩惱，免費開始，讓您的 AI 願景成真。
