Novita AI 上的 Qwen 3.5 Medium 模型系列:以極低成本獲取前沿智慧

Novita AI 上的 Qwen 3.5 Medium 模型系列:以極低成本獲取前沿智慧

阿里巴巴的 Qwen 3.5 Medium 系列為開源模型帶來前沿級推理能力,且成本足夠負擔在生產環境中運行。三款模型——Qwen3.5-35B-A3B、Qwen3.5-27B 和 Qwen3.5-122B-A10B——目前已上線 Novita AI,提供媲美 GPT-5-mini 級別的性能,同時具備開源權重和 Apache 2.0 協議的靈活性。

🎉 這三款模型已經可透過 Novita AI 的無伺服器 LLM API 取得——無需配置 GPU。

立即試用 Qwen3.5-35B-A3B!

立即試用 Qwen3.5-27B!

立即試用 Qwen3.5-122B-A10B!

什麼是 Qwen 3.5 Medium 系列?

2026 年 2 月 24 日,阿里巴巴 Qwen 團隊發布了 Qwen 3.5 Medium 模型系列——共四款模型,定位在旗艦款 Qwen3.5-397B-A17B 與較小的蒸餾版本之間。其中三款採用 Apache 2.0 開源權重協議,目前均已上線 Novita AI。

該系列瞄準了市場中的特定空白:模型體積足夠緊湊,適合對成本敏感的生產工作負載,同時性能足以媲美 GPT-5 mini、Claude Sonnet 4.5 這類專有前沿模型。

模型 總參數 活躍參數 架構 上下文長度
Qwen3.5-35B-A3B 35B 3B MoE + Hybrid Attention 262K
Qwen3.5-27B 27B 27B (dense) Dense + Hybrid Attention 262K
Qwen3.5-122B-A10B 122B 10B MoE + Hybrid Attention 262K

基準測試表現

Qwen 3.5 Medium 模型的表現遠超其體量級別。以下是其在關鍵類別中與 GPT-5 mini 的對比(數據來源:Qwen 官方基準測試結果):

知識與推理

Benchmark 122B-A10B 27B 35B-A3B GPT-5 mini
MMLU-Pro 86.7 86.1 85.3 83.7
GPQA Diamond 86.6 85.5 84.2 82.8
MMMLU 86.7 85.9 85.2 86.2
HMMT Feb 2025 91.4 92.0 89.0 89.2

程式碼能力

Benchmark 122B-A10B 27B 35B-A3B GPT-5 mini
SWE-bench Verified 72.0 72.4 69.2 72.0
Terminal-Bench 2 49.4 41.6 40.5 31.9
LiveCodeBench v6 78.9 80.7 74.6 80.5

智能體任務

Benchmark 122B-A10B 27B 35B-A3B GPT-5 mini
BFCL-V4 (Tool Use) 72.2 68.5 67.3 55.5
BrowseComp 63.8 61.0 61.0 48.1
TAU2-Bench 79.5 79.0 81.2 69.8

🔑 突出亮點: 這三款 Medium 模型在智能體任務上的表現比 GPT-5 mini 高出 20–30%。在通用知識和程式碼能力方面,它們與之持平甚至更優。核心差異不在於_raw benchmark 分數_——而在於你可以在開源權重、自由微調、無供應商鎖定的前提下,獲得同等級的性能。

在 Novita AI 上的獨特優勢

Novita AI 透過符合 OpenAI 介面標準的 無伺服器 API 提供全部三款開源權重的 Qwen 3.5 Medium 模型:

模型 輸入價格 輸出價格 上下文長度 最大輸出長度
Qwen3.5-35B-A3B $0.25/Mt $2.00/Mt 262K 65K
Qwen3.5-27B $0.30/Mt $2.40/Mt 262K 65K
Qwen3.5-122B-A10B $0.40/Mt $3.20/Mt 262K 65K

Novita AI 的關鍵優勢:

  • 符合 OpenAI 標準的 API:即插即用替代方案——只需修改基礎 URL 即可從 GPT 端點切換而來。
  • 完整 262K 上下文長度:無截斷,可使用完整的原生上下文窗口。
  • 無伺服器架構:無需配置 GPU,也無需管理冷啟動問題。

想了解這些模型能否勝任你的工作負載?開啟 playground 進行測試 →

成本分析:能省多少錢?

假設你正在運行一個智能體編碼工作流,每天處理 100 萬個輸入 token、生成 20 萬個輸出 token。

模型 每日輸入成本 每日輸出成本 每日總成本 月費(30 天)
Qwen3.5-35B-A3B (Novita) $0.25 $0.40 $0.65 $19.50
Qwen3.5-27B (Novita) $0.30 $0.48 $0.78 $23.40
Qwen3.5-122B-A10B (Novita) $0.40 $0.64 $1.04 $31.20
GPT-5 mini (OpenAI) $0.25 $0.40 $0.65 $19.50
Claude Sonnet 4.5 (Anthropic) $3.00 $3.00 $6.00 $180.00
GPT-5.2 (OpenAI) $1.75 $2.80 $4.55 $136.50

價格來源:OpenAI(GPT-5 mini:輸入 $0.25/Mt,輸出 $2.00/Mt;GPT-5.2:輸入 $1.75/Mt,輸出 $14.00/Mt)、Anthropic(Claude Sonnet:輸入 $3.00/Mt,輸出 $15.00/Mt)、Novita AI

🔑 核心價值: Novita AI 上的 Qwen3.5-35B-A3B 價格與 GPT-5 mini 持平,同時提供強得多的智能體性能(BFCL-V4:67.3 對比 55.5)。與 GPT-5.2 和 Claude Sonnet 4.5 相比,成本可節省 7–9 倍。其價值不僅在於價格——更在於以封閉模型的價格獲得開源權重,且智能體能力更強

使用場景與最佳實踐

假設你正在構建一個 AI 驅動的程式碼審閱智能體,用於掃描合併請求、識別問題並提出修復建議。該智能體需要處理完整的代碼庫上下文(50K–200K token)、調用外部工具(代碼檢查器、測試運行器)並生成結構化反饋。

以下是 Qwen 3.5 Medium 非常適合該場景的原因:

1. 智能體工具調用流程

憑藉 72.2 的 BFCL-V4 得分(122B-A10B),這些模型在結構化函數調用方面表現優異。你可以構建多步驟智能體,串聯 API 調用、解析響應並做出決策,可靠性遠超 GPT-5 mini。

2. 長上下文程式碼分析

262K 的原生上下文窗口意味著你可以直接輸入完整代碼庫,無需分段處理。混合注意力架構即使在 token 數量極高的情況下,也能將成本控制在合理範圍。

3. 開源權重的靈活性

與 GPT-5 mini 不同,你可以用自己的數據微調 Qwen 3.5 Medium,出於合規要求將其部署在本地,或在消費級 GPU 上運行量化版本(35B-A3B 在 4-bit 量化下僅需 8GB 以上顯存即可運行)。

該選擇哪款模型?

該選擇哪款模型?- 決策圖

快速指南:

  • Qwen3.5-35B-A3B → 綜合最佳選擇。成本最低,可在消費級 GPU 上本地運行(4-bit 量化下僅需 8GB 以上顯存),在大多數基準測試中仍優於 GPT-5 mini。
  • Qwen3.5-27B → 單 token 推理密度最高(全部 27B 參數處於活躍狀態)。系列中 SWE-bench 得分最高(72.4)。適合需要每次前向傳播獲得最大推理能力的場景。
  • Qwen3.5-122B-A10B → 各項智能體得分均為最高。適合工具調用準確性至關重要的複雜多步驟智能體工作流。

快速入門

Novita AI 提供了多種將 Qwen 3.5 Medium 模型集成到工作流中的方式——從零代碼探索到生產環境 API 集成應有盡有。

在 Playground 中試用

在編寫任何代碼之前,你可以在 Novita AI Playground 中交互式測試這些模型:

  • 開啟思考模式 可查看模型的內部推理鏈。
  • 調整參數:可通過溫度和 Top_p 控制輸出的創造性。
  • 壓力測試長上下文:粘貼長達 262K token 的文檔,評估模型的信息召回與理解能力。

新用戶註冊 Novita AI 帳戶即可獲得免費試用額度,足夠運行數十次測試而無需花費任何費用。

步驟 1:獲取 API 密鑰

  1. 訪問 novita.ai 註冊或登入帳戶。
  2. 在儀表板中導航至 API 密鑰 頁面。
  3. 點擊 添加新密鑰 並立即複製——該密鑰僅會顯示一次。

如何在 Novita 獲取 API 密鑰

步驟 2:調用 API

  • 基礎 URL:https://api.novita.ai/openai
  • 模型 ID:qwen/qwen3.5-35b-a3bqwen/qwen3.5-27bqwen/qwen3.5-122b-a10b

Python 範例:

from openai import OpenAI
client = OpenAI(
    api_key="<Your API Key>",
    base_url="https://api.novita.ai/openai"
)
response = client.chat.completions.create(
    model="qwen/qwen3.5-122b-a10b",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Hello, how are you?"}
    ],
    max_tokens=65536,
    temperature=0.7
)
print(response.choices[0].message.content)

步驟 3:與你的工具集成

由於 Novita AI 遵循 OpenAI/Anthropic API 標準,Qwen 3.5 Medium 模型可與你正在使用的工具無縫協作:

  • 編碼助手: ClineCursorOpenCode、Trae
  • 智能體框架: LangChainLangflowContinue
  • 符合 Anthropic 標準的工作流: Claude Code
  • 聊天界面: AnythingLLM
  • Hugging Face Hub: Novita AI 已被列為支援模型的推理供應商。
  • 個人 AI 智能體: OpenClaw——連接 Qwen 3.5 Medium 模型,即可在各大訊息平台上構建全天候運行的智能體。

總結

一年前,要從一個可以微調、自主託管的開源權重模型中獲得 GPT-5 mini 級別的智能體性能,還是不切實際的。Qwen 3.5 Medium 系列改變了這一現狀,尤其是在工具使用和多步驟智能體工作流方面,這些模型不僅能媲美專有替代方案,甚至明顯更優。

對於正在評估模型堆疊的團隊來說,下一步非常明確:在 Playground 中運行你自己的提示詞,與當前供應商進行基準對比,然後根據你自己的數據做決定,而不是我們的。

Novita AI 是一個 AI 雲端平台,為開發者提供簡單的 API 來部署 AI 模型,同時也提供平價且可靠的 GPU 雲端服務,用於構建和擴展 AI 應用。

常見問題

Qwen3.5-Flash 和 Qwen3.5-35B-A3B 有什麼區別?

Qwen3.5-Flash 是 35B-A3B 的專有託管版本,僅能透過阿里雲取得。它提供 1M 的上下文窗口和內置的官方工具。而 Novita AI 上的開源權重 35B-A3B 原生支持 262K 上下文,且可擴展至 1M token。

我可以將這些模型用於商業用途嗎?

可以。這三款開源權重模型均採用 Apache 2.0 協議發布——對商業使用、微調或再分發沒有任何限制。

這些模型與旗艦款 Qwen3.5-397B-A17B 相比如何?

397B 旗艦款(同時在 Novita AI 上提供,輸入 $0.60/Mt,輸出 $3.60/Mt)在競賽編程和部分推理任務上表現更強。但 Medium 模型的表現出乎意料地接近——122B-A10B 在智能體基準測試中與之持平甚至更優,而 35B-A3B 的表現可達旗艦款的 85–95%,成本卻不到一半。

推薦閱讀