探索強大開源權重語言模型的開發者，經常會遇到一個共同問題：我到底該怎麼開始使用這個模型？Qwen3.5-397B-A17B 提供三種截然不同的存取路徑：適用於測試的即時網頁聊天、適用於生產應用的托管 API，以及可完全掌控的自托管部署。每種方法都適合不同的使用場景——從快速原型設計到企業級推論都能滿足。
本指南將詳細介紹所有存取方法，包含設定步驟、實際定價數據與硬體需求，你將學會哪種路徑最適合你的使用場景，並在幾分鐘內快速上手。
Qwen3.5-397B-A17B 是什麼？
Qwen3.5-397B-A17B 是阿里巴巴雲的旗艦級開源權重混合專家（MoE）語言模型，擁有 4030 億總參數，每個 token 僅激活 170 億參數。該模型支援 262,144 token 的上下文長度（256k 上下文視窗），並原生支援文字、圖片等多模態輸入。根據 Artificial Analysis 的基準測試數據，Qwen3.5-397B-A17B 的 GDPval-AA ELO 分數達到 1221，較上一代 Qwen3 235B 模型（860 分）提升了 361 分。該模型在程式碼編寫、推理與智能體任務上表現尤為突出，同時透過 MoE 架構保持了成本效益。
資料來源：Artificial Analysis
Qwen3.5-397B-A17B 基準測試總覽
| 類別 | Benchmark | 分數 | 領先模型 |
|---|---|---|---|
| 指令遵循 | IFBench | 76.5 | Qwen3.5 |
| 複雜任務 | MultiChallenge | 67.6 | Qwen3.5 |
| 智能體 / 瀏覽 | BrowseComp | 78.6 | Qwen3.5 |
| 科學推理 | GPQA Diamond | 88.4 | Qwen3.5 (open models) |
| 知識 | MMLU-Pro | 87.8 | Gemini |
| 知識 | MMLU-Redux | 94.9 | Gemini |
| 知識 | C-Eval | 93.0 | Competitive |
| 程式碼 | LiveCodeBench v6 | 83.6 | Gemini / GPT |
| 多模態 | MMMU | 85.0 | Competitive |
| 多模態 | MathVision | 88.6 | Competitive |
| 多模態 | OCRBench | 93.1 | Competitive |
| 多模態 | Video-MME | 87.5 | Competitive |
Qwen3.5-397B 在指令遵循與智能體導向的基準測試中表現最為突出，包含 IFBench、MultiChallenge 與 BrowseComp，在這些測試中均領先競爭模型。它在 GPQA Diamond 測試中達到開源模型的最優水準，展現了強大的科學推理能力。
在 MMLU-Pro、MMLU-Redux 等更廣泛的知識基準測試中，表現優異但通常略遜於領先的專有模型。程式碼相關基準測試的結果具有競爭力，但未達到領域領先水準。
總體而言，基準測試表現顯示 Qwen3.5 針對複雜指令、工具使用與智能體工作流程進行了優化，而非單純追求程式碼或知識召回等傳統學術基準測試的最高分數。
方法一：網頁聊天存取（最快速）
最適合： 快速測試、實驗、演示，以及不需要 API 金鑰或基礎設施、需要立即存取的非生產使用場景。
設定時間：少於 1 分鐘
官方 Qwen 聊天介面可透過瀏覽器即時存取 Qwen3.5-397B-A17B：
- 前往 Novita AI
- 從模型下拉選單中選擇 Qwen3.5-397B-A17B
- 針對深度推理任務，可選擇 「思考」模式
- 立即開始聊天——無需建立帳號或申請 API 金鑰
限制條件
- 無法以程式方式存取——僅支援網頁 UI，無法整合 API
- 有速率限制——設計用於互動式使用，不適合批次處理
- 不支援微調——只能使用原始基礎模型
- 上下文持久化有限——對話歷史由介面管理
方法二：透過 Novita AI 存取 API（生產環境適用）
最適合： 生產應用、自訂整合、程式化存取、可擴展推論，以及需要 OpenAI 相容 API 格式的應用程式。
設定時間：5 分鐘
Novita AI 提供 Qwen3.5-397B-A17B 的托管 API 存取服務，定價在主要供應商中具有競爭力：每 100 萬個輸入 token 收費 0.6 美元，每 100 萬個輸出 token 收費 3.6 美元。該服務提供 OpenAI 相容的端點，對於已經熟悉 OpenAI SDK 的開發者來說整合非常簡單。
資料來源：HuggingFace
逐步設定步驟
步驟 1：登入並存取模型庫
登入你的帳號，點擊 模型庫 按鈕。
步驟 2：選擇模型
瀏覽可用的選項，選擇符合你需求的模型。
步驟 3：開始免費試用
開始免費試用，探索所選模型的能力。
步驟 4：取得 API 金鑰
要進行 API 身份驗證，我們會為你提供新的 API 金鑰。進入「設定」頁面後，即可按照圖片指示複製 API 金鑰。
步驟 5：安裝 API
使用對應程式語言的套件管理器安裝 API。你可以從 Novita AI 設定頁面 管理你的 API 金鑰。
安裝完成後，將必要的庫匯入你的開發環境。使用你的 API 金鑰初始化 API，即可開始與 Novita AI LLM 互動。以下範例適用於 Python 使用者，展示如何使用聊天補全 API：
from openai import OpenAI
client = OpenAI(
api_key="<Your API Key>",
base_url="https://api.novita.ai/openai"
)
response = client.chat.completions.create(
model="qwen/qwen3.5-397b-a17b",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Hello, how are you?"}
],
max_tokens=64000,
temperature=0.7
)
print(response.choices[0].message.content)
API 功能
| 功能 | 可用性 |
|---|---|
| OpenAI 相容性 | ✅ 完整支援 |
| 串流回應 | ✅ 支援 |
| 函數呼叫 | ✅ 支援 |
| 上下文視窗 | 262,144 tokens |
| 多模態輸入 | ✅ 文字 + 圖片 |
| SLA / 運行時間 | 企業級基礎設施 |
Novita AI 針對 Qwen3.5-397B-A17B 的定價在市場上具有極高的競爭力。OpenAI 相容的 API 意味著你只需修改基礎 URL 和 API 金鑰，即可將模型整合到現有應用程式中，無需重構程式碼。
與開發工具整合
透過 Novita AI 的統一 REST API，可無縫將 Qwen 3 連接至你的應用程式、工作流程或聊天機器人——無需管理模型權重或基礎設施。Novita AI 提供多語言 SDK（Python、Node.js、cURL 等），並為高級使用者提供進階參數控制功能。
與 Claude Code 整合
Claude Code 使用環境變數將請求路由至自訂模型端點。啟動 Claude Code 前請設定以下四個變數：
適用於 macOS / Linux：
# Set the Anthropic SDK compatible API endpoint provided by Novita.
export ANTHROPIC_BASE_URL="https://api.novita.ai/anthropic"
export ANTHROPIC_AUTH_TOKEN="<Novita API Key>"
# Set the model provided by Novita.
export ANTHROPIC_MODEL="qwen/qwen3.5-397b-a17b"
export ANTHROPIC_SMALL_FAST_MODEL="qwen/qwen3.5-397b-a17b"
適用於 Windows（PowerShell）：
$env:ANTHROPIC_BASE_URL = "https://api.novita.ai/anthropic"
$env:ANTHROPIC_AUTH_TOKEN = "Novita API Key"
$env:ANTHROPIC_MODEL = "qwen/qwen3.5-397b-a17b"
$env:ANTHROPIC_SMALL_FAST_MODEL = "qwen/qwen3.5-397b-a17b"
與 Trae IDE 整合
- 開啟 Trae，切換至 AI 側邊欄
- 前往 AI 管理 → 模型
- 點擊 新增自訂模型
- 選擇 Novita AI 作為供應商
- 輸入你的 API 金鑰，並選擇 qwen/qwen3.5-397b-a17b
- 儲存設定後即可開始編寫程式碼
與 OpenCode CLI 整合
# Launch OpenCode
opencode
# Connect to Novita AI
/connect
# Select Novita AI as provider, paste API key
# Choose qwen/qwen3.5-397b-a17b from model list
方法三：本地部署（完全掌控）
最適合： 有數據隱私需求、需要離線推論、自訂推論流程、研究環境，或是需要完全掌控模型執行過程的場景。
設定時間：1-2 小時
本地部署能讓你完全掌控模型，但需要大量的硬體資源。完整精確度下的模型權重佔用約 807GB 的磁碟空間。
硬體需求
| 精確度等級 | 所需 VRAM / 記憶體 | 推薦硬體 |
|---|---|---|
| 8-bit 量化 | 約 420GB | 5 張 H100 80GB 或同級硬體 |
| 4-bit 量化 | 約 200GB | M3 Ultra Mac（256GB 統一記憶體）或 1 張 24GB GPU + 256GB 系統記憶體 |
根據 Unsloth 的部署指南，使用 MoE 卸載技術，4-bit 量化版本在配備 24GB GPU 與 256GB 系統記憶體的系統上可達到 每秒 25+ token 的生成速度。這使得 4-bit 量化成為高端消費級或小型企業部署的最實用選擇。
本地部署的雲端 GPU 租賃
如果你缺乏相應硬體，但仍想進行自托管部署，雲端 GPU 實例是折中方案。根據 Novita AI GPU 實例的定價：
| 配置 | 隨需應計每小時成本 | 搶佔式實例每小時成本 | 適用場景 |
|---|---|---|---|
| 5 張 H100 80GB | 12.95 美元/小時 | 6.5 美元/小時 | 8-bit 量化，生產級 |
| 1 張 RTX 4090 24GB | 0.73 美元/小時 | 0.37 美元/小時 | 4-bit 量化，高性價比 |
Novita AI 的搶佔式模式是一種成本優化的 GPU 租賃系統，會利用平台閒置或未使用的 GPU 容量。與預留專用硬體、適合穩定持續使用的隨需應計實例不同，搶佔式實例是可中斷的——如果系統回收 GPU，你的任務可能會被暫停或終止。由於搶佔式模式會重新分配原本未使用的 GPU 資源，其價格通常比隨需應計定價便宜 40-60%。
方法比較表
| 方法 | 設定時間 | 成本 | 最適合場景 |
|---|---|---|---|
| 網頁聊天（Novita AI LLM Playground） | 少於 1 分鐘 | 免費（有速率限制） | 快速測試、演示、實驗 |
| 透過 Novita AI 存取 API | 5 分鐘 | 每 100 萬 token 0.6/3.6 美元 | 生產應用、可擴展推論、自訂整合 |
| 本地部署（INT4） | 1-2 小時 | 硬體成本與 256GB 記憶體系統 | 數據隱私、離線使用、完全掌控 |
| 雲端 GPU 租賃（INT4） | 30 分鐘 | 0.37 美元/小時 | 大規模推論 |
Qwen3.5-397B-A17B 針對不同的部署場景提供了靈活的存取路徑。若需要立即測試，Novita AI LLM Playground 無需任何設定，即可即時使用推理與快速模式。對於需要程式化存取的生產應用，Novita AI 的 API 以每 100 萬個輸入/輸出 token 0.6/3.6 美元的價格，提供了最佳性價比，且 OpenAI 相容的端點可無縫整合到現有程式碼庫中。
對於有特定隱私需求或極高規模推論需求的團隊，本地部署仍然是可行的選擇。INT4 量化版本可在配備 256GB 記憶體的高端消費級硬體上運行，生成速度可達每秒 25+ token。但對於大多數開發者與中小企業而言，托管 API 存取消除了基礎設施的複雜度，同時能提供企業級的可靠性。
常見問題
透過 API 使用 Qwen3.5-397B-A17B 的費用是多少？ Novita AI 針對 Qwen3.5-397B-A17B 的收費為每 100 萬個輸入 token 0.6 美元、每 100 萬個輸出 token 3.6 美元，是市場上競爭力最強的定價之一。
我可以在消費級硬體上運行 Qwen3.5-397B-A17B 嗎？ 可以，使用 INT4 量化後，Qwen3.5-397B-A17B 可在配備 256GB 記憶體（如 M3 Ultra Mac）的系統上運行，生成速度達每秒 25+ token，僅需約 214GB 的磁碟空間。
Qwen3.5-397B-A17B 是否支援函數呼叫？ 可以，透過 Novita AI 這類使用 OpenAI 相容端點的 API 供應商存取時，Qwen3.5-397B-A17B 支援函數呼叫功能。
Novita AI 是一個 AI 與智能體雲端平台，協助開發者與新創公司以高效能、高可靠性與高成本效益建構、部署與擴展模型與智能體應用程式。
推薦閱讀
