Qwen 3 0.6B、1.7B、4B 在 Novita AI 上免費使用!

Qwen 3 0.6B、1.7B、4B 在 Novita AI 上免費使用!

推薦你的朋友使用 Novita AI,你們雙方都可獲得 $10 的 LLM API 點數——最高可達 $500 的總獎勵。

為了支援開發者社群,Qwen2.5-7BQwen 3 0.6BQwen 3 1.7BQwen 3 4B 目前在 Novita AI 上免費提供。

qwen 2.5 7b

Qwen3,一個 AI 模型家族,專為尋求 ** 推理、多語言支援和輕量級效率 ** 等尖端能力的開發者而設計。透過 Novita AI 平台的 ** 免費使用** 和無縫的 API 整合,Qwen3 能夠支援從程式碼輔助到複雜問題解決等動態應用。

qwen 3

Qwen 3 的主要功能

混合思考模式

Qwen3 模型 引入了一種混合問題解決方法,具有兩種模式:

  1. 思考模式:針對複雜問題,模型逐步推理,提供深思熟慮的答案。
  2. 非思考模式:針對較簡單的任務,模型提供快速、近乎即時的回應。

這種靈活性讓用戶可以根據任務需求控制模型的推理投入。更難的問題可以透過延伸推理得到更好的結果,而較簡單的問題則能快速解決。

透過結合這些模式,Qwen3 實現了 ** 穩定且高效的思考預算控制 ,提供與分配的計算推理預算相關的可擴展性能改進。這種設計讓針對任務的預算制定更簡單,平衡了 ** 成本效率 ** 和 ** 推理品質

多語言支援

**Qwen3 模型 ** 支援 119 種語言及方言,為全球應用開啟了新的可能性。針對編碼、代理能力和 MCP 最佳化,Qwen3 讓全球用戶都能有效利用其功能。

增強的代理能力

Qwen3 針對編碼和代理能力進行了最佳化,並增強了對 MCP 的支援。以下範例展示了 Qwen3 如何思考並與其環境互動。

Qwen 3 小型模型

Qwen 3 Small Models

繫結嵌入(Tie Embedding) 是一項在 ** 自然語言處理 (NLP)** 模型中常用於在不同嵌入層之間共享權重的技術。具體來說,它指的是在神經網路中 ** 繫結(或共享)輸入嵌入層和輸出嵌入層的權重**,特別是在像 transformers 這樣的語言模型中。

Qwen 3 小型模型的訓練方法

訓練方法

從圖表中我們可以推斷,Qwen 3 0.6B、1.7B、4B 是透過 ** 強到弱蒸餾(Strong-to-Weak Distillation)** 過程訓練而成,這是建立 ** 輕量型模型** 流程的一部分。以下是訓練過程的逐步解析:

  1. 基礎模型
    此過程從預訓練的 基礎模型 開始,它們是後續訓練和蒸餾的基礎。
  2. 前沿模型
    • 基礎模型首先透過多階段訓練過程,創建 **前沿模型 **,例如 Qwen3-235B-A22BQwen3-32B
    • 此訓練包括:
      • 第一階段(長鏈思考冷啟動):使用長鏈思考 (CoT) 推理進行初始訓練。
      • 第二階段(推理強化學習):強化學習 (RL) 以增強推理能力。
      • 第三階段(思考模式融合):整合思考模式(例如推理和快速回應模式)。
      • 第四階段(通用強化學習):通用強化學習以獲得更廣泛的能力。
  3. 強到弱蒸餾
    • 然後將大型 **前沿模型 **(例如 Qwen3-235B 和 Qwen3-32B)作為 ** 教師模型 ,用來指導像 Qwen3-4B 這樣的 ** 輕量型模型 的訓練。
    • 此蒸餾過程確保較小模型保留大型模型的知識和性能,同時顯著降低大小和計算需求。
  4. Qwen3-4B
    • 作為此蒸餾過程的結果,Qwen 3 0.6B、1.7B、4B 是輕量級版本,受益於大型模型的知識,同時針對效率進行最佳化。

如何透過 Novita API 存取 Qwen 3 小型模型?

步驟 1:登入並存取模型庫

登入您的帳戶,然後點擊 模型庫 按鈕。

Log In and Access the Model Library

步驟 2:選擇您的模型

瀏覽可用的選項,然後選擇符合您需求的模型。

選擇您的模型

步驟 3:開始免費試用

開始免費試用,探索所選模型的功能。

開始免費試用

立即試用 Qwen 3!

步驟 4:取得您的 API 金鑰

為了驗證 API,我們將提供您一個新的 API 金鑰。進入「設定」頁面,您可以按照圖示複製 API 金鑰。

取得 API 金鑰

步驟 5:安裝 API

使用與您程式語言相關的套件管理器安裝 API。

安裝 API

安裝後,將必要的函式庫匯入您的開發環境。使用您的 API 金鑰初始化 API,以開始與 Novita AI LLM 互動。以下是 Python 使用者使用聊天完成 API 的範例。

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<YOUR Novita AI API Key>",
)

model = "qwen3-0.6b-fp8"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)
  
  
  

Qwen3 憑藉其混合思考模式、多語言能力和輕量級效率,提供了無與倫比的多功能性。無論是解決複雜問題還是建立全球應用程式,Qwen3 都能讓您達成更多成就。立即開始您的旅程,透過 Novita AI 的免費存取,探索 AI 驅動開發的未來。

常見問題

Qwen3 的獨特功能是什麼?

混合思考模式、多語言支援、輕量級效率(0.6B、1.7B、4B 模型),以及增強的編碼能力。

如何存取 Qwen3 模型?

登入 Novita AI,選擇模型,取得您的 API 金鑰,並按照提供的文件將其整合到您的專案中。

Qwen3 模型是免費的嗎?

是的!Novita AI 提供 Qwen3 模型的免費存取以及簡單的 API 整合。

Novita AI 是一個 AI 雲平台,為開發者提供使用簡單 API 部署 AI 模型的簡單方法,同時提供價格合理且可靠的 GPU 雲環境來建構和擴展。

推薦閱讀