DeepSeek-R1 現已於 Novita AI 上線:OpenAI o1 的強勁競爭對手

DeepSeek-R1 現已於 Novita AI 上線:OpenAI o1 的強勁競爭對手

中國 AI 實驗室 DeepSeek 發布了開源版本的 DeepSeek-R1,這是一款推理模型,在多項基準測試中與 OpenAI 的 o1 不相上下。該模型現已於 Novita AI 上線,專為處理邏輯推理、數學與程式設計等複雜任務而設計,對開發者與企業來說都是一款多功能工具。

DeepSeek-R1 與眾不同之處在於其「推理優先」的架構,使其能夠自我檢查輸出的準確性。雖然此過程可能比傳統語言模型耗時更長,但結果更為可靠,尤其適用於物理、科學與數學等場景。

本文將探討 DeepSeek-R1 的獨特能力、其在各項基準測試中的表現,以及如何透過 Novita AI 的 API 將其整合至您的工作流程中。

DeepSeek-R1 是什麼?

DeepSeek-R1 是一款開源推理模型,專為處理需要邏輯推理、進階數學與程式設計的任務而開發。它建立在早期的 DeepSeek-R1-Zero 之上,結合了強化學習與監督式微調,以改善輸出的清晰度與連貫性。

像 R1 這樣的推理模型被設計來驗證其輸出,減少傳統語言模型中常見的錯誤。這使得它們對於需要高準確度與透明度的領域(例如研究、教育與決策)至關重要。

DeepSeek-R1 之所以極具競爭力與吸引力,在於其開源特性。該模型以 MIT 授權提供,允許不受限制的商業使用。與專有模型不同,這種方式讓開發者與研究人員能夠充分探索其架構,針對特定需求進行修改,並部署於各種工作流程中。

DeepSeek-R1 是如何開發的?

本節將探討 DeepSeek-R1 的創建過程,從其前身 DeepSeek-R1-Zero 開始。

DeepSeek-R1-Zero

DeepSeek-R1 最初是從 R1-Zero 開始的,這是一個完全透過強化學習訓練的模型。這種方法讓模型發展出強大的推理能力,但也帶來了幾個挑戰:

  • 輸出內容往往難以閱讀。
  • 模型有時會在回應中混合使用多種語言,使其不夠友善。

儘管邏輯上正確,但這些限制使得 R1-Zero 在實際應用中不夠實用。

純強化學習的挑戰

依賴純強化學習導致輸出內容邏輯上有效但結構不佳。在沒有監督式資料指引的情況下,模型難以有效傳達其推理過程。這種缺乏清晰度的情況對於需要精確與透明結果的使用者來說是一大障礙。

DeepSeek-R1 的改進

為了解決這些挑戰,DeepSeek 在開發 R1 時採用了混合方法。透過將強化學習與監督式微調相結合,團隊加入了精選資料集以提升模型的可讀性與連貫性。這項改變解決了關鍵問題:

  • 語言混用情況大幅減少。
  • 破碎的推理過程獲得改善,輸出內容更為清晰。

這些進展使 DeepSeek-R1 成為更實用、更可靠的實際應用工具。

DeepSeek-R1 效能基準測試

DeepSeek-R1 在數學方面表現優異,在 MATH-500 上達到 97.3% 的最高分,在 AIME 2024 上達到 79.8%,超越競爭對手。在程式設計方面,它在 SWE-bench Verified 上獲得 49.2%,在 Live Code Bench 上獲得 65.9%,展現了其在兩個領域的全面專業能力。

DeepSeek R1 基準測試

所有模型均以最大生成長度 32,768 個 token 進行評估,並使用特定取樣參數(溫度 0.6、top-p 0.95、每個查詢 64 次回應)來計算基準測試的 pass@1。

立即試用 DeepSeek-R1 示範

DeepSeek-R1-Distill 模型

蒸餾(知識蒸餾)是一種機器學習方法,將知識從較大型模型轉移到較小型模型。目標是開發一個更高效的模型,同時能夠達到與大型模型相似的效能。

DeepSeek 也發布了 R1 的蒸餾版本,提供保留原始模型大部分能力、同時運算效率更高的較小型模型。這些模型是使用 DeepSeek-R1 產生的資料進行微調,並提供從 15 億到 700 億參數的尺寸。

DeepSeek-R1-Distill 模型基準測試

來源:DeepSeek 論文

透過 Novita AI 存取 DeepSeek-R1 API

Novita AI 平台透過提供簡單的 API 與經濟實惠的 GPU 雲端基礎設施,簡化了 DeepSeek-R1 的部署。開發者可以將模型無縫整合到他們的應用程式中,無需擔心硬體設定或擴展問題。

若要開始在 Novita AI 上使用 DeepSeek-R1,請按照以下步驟操作:

步驟 1: 前往 Novita AI 並使用您的 Google、GitHub 帳戶或電子郵件地址登入。

步驟 2: 試用 DeepSeek-R1 示範

步驟 3: 在 Novita AI 上監控模型的 LLM 指標主控台

步驟 4: 取得您的 API 金鑰:

  • 在設定中導航至「金鑰管理」。
  • 首次登入時會建立一個預設金鑰。
  • 若要產生其他金鑰,請按一下「+ 新增金鑰」。

步驟 5: 設定您的開發環境並配置選項,例如內容、角色、名稱與提示。

API 整合

Novita AI 提供 Curl、Python 和 JavaScript 的客戶端函式庫,讓您輕鬆將 DeepSeek-R1 整合到專案中:

給 Python 使用者:

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<YOUR Novita AI API Key>",
)

model = "deepseek/deepseek-r1"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)
  

給 JavaScript 使用者:

import OpenAI from "openai";

const openai = new OpenAI({
  baseURL: "https://api.novita.ai/v3/openai",
  apiKey: "<YOUR Novita AI API Key>",
});
const stream = true; // or false

async function run() {
  const completion = await openai.chat.completions.create({
    messages: [
      {
        role: "system",
        content: "Be a helpful assistant",
      },
      {
        role: "user",
        content: "Hi there!",
      },
    ],
    model: "deepseek/deepseek-r1",
    stream,
    response_format: { type: "text" },
    max_tokens: 2048,
    temperature: 1,
    top_p: 1,
    min_p: 0,
    top_k: 50,
    presence_penalty: 0,
    frequency_penalty: 0,
    repetition_penalty: 1
  });

  if (stream) {
    for await (const chunk of completion) {
      if (chunk.choices[0].finish_reason) {
        console.log(chunk.choices[0].finish_reason);
      } else {
        console.log(chunk.choices[0].delta.content);
      }
    }
  } else {
    console.log(JSON.stringify(completion));
  }
}

run();
  

給 Curl 使用者:

curl "https://api.novita.ai/v3/openai/chat/completions" \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <YOUR Novita AI API Key>" \
  -d @- << 'EOF'
{
    "model": "deepseek/deepseek-r1",
    "messages": [
        {
            "role": "system",
            "content": "Be a helpful assistant"
        },
        {
            "role": "user",
            "content": "Hi there!"
        }
    ],
    "response_format": { "type": "text" },
    "max_tokens": 2048,
    "temperature": 1,
    "top_p": 1,
    "min_p": 0,
    "top_k": 50,
    "presence_penalty": 0,
    "frequency_penalty": 0,
    "repetition_penalty": 1
}
EOF
  

💡 DeepSeek 的專業建議

若要獲得使用 DeepSeek-R1 模型的最佳效能,建議採用以下配置:

  1. 溫度設定: 將溫度設定在 0.5-0.7 的範圍內(建議 0.6),以避免輸出內容不連貫或無限重複。
  2. 提示設計: 避免加入系統提示,直接將所有指令包含在使用者提示中。
  3. 數學問題: 對於涉及數學的任務,請加入指示,例如:「請逐步推理,並將最終答案置於 \oxed{} 中。」
  4. 評估: 進行多次測試並平均結果,以確保可靠的基準測試。

DeepSeek-R1 vs. OpenAI o1:基準測試表現

DeepSeek-R1 基準測試

DeepSeek-R1 在多項基準測試中直接與 OpenAI o1 競爭,且常常達到或超越其表現。

數學基準測試

在先進數學任務上,DeepSeek-R1 表現強勁。它在 AIME 2024 上獲得 79.8%,略高於 OpenAI o1-1217 的 79.2%。在涉及解決多樣高中難度問題的 MATH-500 上,DeepSeek-R1 以 97.3% 領先,勝過 OpenAI o1-1217 的 96.4%。

程式設計基準測試

在程式設計基準測試中,DeepSeek-R1 在 Codeforces 上獲得 96.3%,僅次於 OpenAI o1-1217 的 96.6%。然而,在評估軟體工程任務推理能力的 SWE-bench Verified 上,DeepSeek-R1 得分 49.2%,略高於 OpenAI o1-1217 的 48.9%。

通用知識基準測試

雖然 OpenAI o1 在通用知識任務中領先,但 DeepSeek-R1 仍保持競爭力。它在 GPQA Diamond 上得分 71.5%,而 OpenAI o1-1217 為 75.7%。在多任務基準測試 MMLU 上,DeepSeek-R1 達到 90.8%,緊追 OpenAI o1-1217 的 91.8%。

這些結果凸顯了 DeepSeek-R1 在推理密集型領域(尤其是數學與程式設計)的優勢。

立即釋放 DeepSeek-R1 的威力

DeepSeek-R1 是專注於推理的 AI 的一項重大進展,提供了透明度、可靠性與靈活性。其在數學與軟體工程任務上的強勁表現,使其成為開發者在研究、教育與技術工作流程中尋求解方案的強大工具。

由於可在 Novita AI 上使用,部署 DeepSeek-R1 既簡單又經濟實惠。無論您是處理複雜的數學問題還是自動化程式設計任務,DeepSeek-R1 都為多樣化的 AI 應用提供了穩健且易於取得的解決方案。

關於 Novita AI

Novita AI 是一個 AI 雲端平台,為開發者提供了一種簡單的方式,透過我們簡單的 API 部署 AI 模型,同時也提供經濟實惠且可靠的 GPU 雲端服務。