English Arabic 简体中文 繁體中文 Français Deutsch 日本語 한국어 Português Русский Español

Claude Code Router：使用任何模型後端搭配 MCP 工具與沙箱執行

作者 / / LLM, Claude Code / 3 分鐘閱讀
Claude Code Router：使用任何模型後端搭配 MCP 工具與沙箱執行
目錄
  1. 什麼是 Claude Code 路由器？
  2. Claude Code 路由的運作方式
  3. 將 Novita AI 設定為您的路由器
  4. 透過 MCP 路由工具呼叫
  5. 在 Agent Sandbox 中執行工具
  6. 為工具密集型工作流程選擇模型
  7. 常見問題
  8. 推薦文章

Claude Code 會將所有請求路由到您指定的任何相容 Anthropic 的 API 端點。只要更改一個環境變數，就能透過 Claude Code 的完整代理工作流程來執行 Qwen、DeepSeek、GLM 或 MiniMax —— 包括 MCP 工具呼叫、檔案編輯與 bash 執行 —— 完全無需更動其餘設定。

本指南會說明路由的運作方式、如何將 Novita AI 的端點設定為後端、MCP 工具呼叫如何在路由設定中流動，以及如何在 Novita 的 Agent Sandbox 中安全地執行工具。

什麼是 Claude Code 路由器？

在 Claude Code 的術語中，「路由器」是指任何與 Anthropic API 相容且 Claude Code 會將請求發送過去的端點。預設情況下，該端點是 Anthropic 自己的 API（api.anthropic.com）。透過設定 ANTHROPIC_BASE_URL，您可以將這些請求重新導向到另一個供應商 —— 只要該供應商接受相同的 API 格式並以相同的結構回傳回應即可。

這一點值得清楚理解：Claude Code 並不知道也不關心其設定端點背後是哪個供應商。它只是發送一個 Anthropic 格式的訊息請求，讀取一個 Anthropic 格式的回應，然後繼續執行。路由器 —— 無論是 Novita AI、自託管代理，還是第三方聚合器 —— 都會透明地處理模型選擇、推論以及回應格式轉換。

使用路由器有三個實際原因：

  • 模型存取：開放權重模型（如 Qwen3-Coder、MiniMax M2.7 和 GLM-4.7）在 Anthropic 端點上無法使用。透過 Novita AI 路由，您可以在同一個 Claude Code 工作流程中使用所有這些模型。
  • 成本管理：透過 Novita 等供應商提供的開放權重模型，其每百萬 token 的費用通常遠低於 Anthropic 的封閉模型。對於需要模型進行數百次工具呼叫的高用量代理工作階段，這項差異會顯著增加。
  • 專業能力：部分開放權重模型經過專門訓練，特別擅長函數呼叫與多步驟工具使用，而這正是 Claude Code 的 MCP 整合所需的功能。選擇一個專為工具呼叫準確性調整的模型，而非通用模型，可以減少複雜工作流程中失敗或格式錯誤的工具呼叫。

Claude Code 路由的運作方式

三個環境變數控制路由：

變數 用途
ANTHROPIC_BASE_URL API 端點。更改此項即可將路由指向不同的供應商。
ANTHROPIC_AUTH_TOKEN 用於在目標端點進行驗證的 API 金鑰。
ANTHROPIC_MODEL 要使用的模型 ID。必須與目標供應商的命名慣例相符。

當設定了 ANTHROPIC_BASE_URL 時，Claude Code 會將所有推論請求發送到該 URL，而非 https://api.anthropic.com。目標端點必須實作 Anthropic 的訊息 API 格式 —— 也就是 Claude 原生模型所使用的相同請求和回應結構。

一個重要的細節：Anthropic 的模型別名（sonnet、opus、haiku）僅能正確解析到 Anthropic 自己的端點。使用第三方路由器時，請將 ANTHROPIC_MODEL 設定為供應商特定的模型 ID，而不是別名。將 sonnet 這類別名傳遞給非 Anthropic 的端點，會導致失敗或回傳非預期的模型。

ANTHROPIC_SMALL_FAST_MODEL 是 Claude Code 內部後台任務的第二個模型欄位：用於總結、上下文壓縮，以及步驟之間的輕量級推理。將此指向一個更快、更便宜的模型，可以降低工作階段的成本，而不會影響主要模型回應的品質。

將 Novita AI 設定為您的路由器

Novita AI 的 Anthropic 相容端點位於 https://api.novita.ai/anthropic。它接受 Claude Code 原生發送的相同請求格式，並支援廣泛的開放權重模型，包括程式碼專家和工具呼叫最佳化變體。

步驟 1：取得您的 Novita API 金鑰

  1. 在 novita.ai 註冊 —— 註冊時即包含免費試用額度。
  2. 在控制台中開啟 Key Management。
  3. 點擊 Create New Key，立即複製金鑰（只顯示一次），並安全儲存。

步驟 2：設定環境變數

macOS / Linux：

export ANTHROPIC_BASE_URL="https://api.novita.ai/anthropic"
export ANTHROPIC_AUTH_TOKEN="<your-novita-api-key>"
export ANTHROPIC_MODEL="qwen/qwen3-coder-480b-a35b-instruct"
export ANTHROPIC_SMALL_FAST_MODEL="deepseek/deepseek-v4-flash"

Windows (PowerShell)：

$env:ANTHROPIC_BASE_URL = "https://api.novita.ai/anthropic"
$env:ANTHROPIC_AUTH_TOKEN = "<your-novita-api-key>"
$env:ANTHROPIC_MODEL = "qwen/qwen3-coder-480b-a35b-instruct"
$env:ANTHROPIC_SMALL_FAST_MODEL = "deepseek/deepseek-v4-flash"

Windows (命令提示字元)：

set ANTHROPIC_BASE_URL=https://api.novita.ai/anthropic
set ANTHROPIC_AUTH_TOKEN=<your-novita-api-key>
set ANTHROPIC_MODEL=qwen/qwen3-coder-480b-a35b-instruct
set ANTHROPIC_SMALL_FAST_MODEL=deepseek/deepseek-v4-flash

步驟 3：啟動 Claude Code

claude .

Claude Code 會在當前目錄啟動，並將所有推論路由到 Novita AI。MCP 工具、檔案編輯和 bash 執行的行為與原生 Anthropic 設定完全相同。

Novita AI 上可用的模型

模型 Novita 模型 ID 主要優勢
Qwen3-Coder 480B qwen/qwen3-coder-480b-a35b-instruct 程式碼生成、長上下文推理
MiniMax M2.7 minimax/minimax-m2.7 代理工具呼叫準確性
DeepSeek V4 Flash deepseek/deepseek-v4-flash 快速迭代、成本效益
GLM-4.7 zai-org/glm-4.7 程式碼與多步驟代理任務
Kimi K2 Instruct moonshotai/kimi-k2-instruct 工具使用、數學密集型程式碼庫

這些開放權重模型在現代 GPU 基礎設施上運行，但每個 token 的成本通常低得多。在長時間重構工作階段或自動化測試生成等任務中 —— Claude Code 會進行數十次工具呼叫 —— 每個 token 的成本差異在實務上非常重要。

在最終確定設定之前，請查看 novita.ai/llm-api 以取得最新的模型清單和驗證過的 ID。模型可用性和 ID 可能會因供應商新增或更新產品而有所變動。

透過 MCP 路由工具呼叫

Claude Code 的工具呼叫層是 MCP（模型上下文協定）。當您使用 claude mcp add 新增 MCP 伺服器時，Claude Code 會在階段啟動時連接到該伺服器，並載入其所公開的工具。在工作階段中，路由後的 LLM 會決定何時呼叫這些工具、傳遞哪些參數，以及如何根據結果執行下一步動作。

路由的區分非常重要：**LLM 後端 **（您的 Novita AI 路由器）負責所有推理 —— 呼叫哪些工具、以何種順序、以及使用哪些參數。MCP 伺服器 則負責執行 —— 它接收工具呼叫、執行底層操作，並回傳結果。Claude Code 負責協調兩者之間的運作。

在實務上，這表示路由器在工具呼叫方面的支援品質，決定了複雜多步驟任務能否可靠地完成。一個會產生格式錯誤函數呼叫引數，或在工具出錯後無法繼續進行的模型，會在任務中途卡住。而專門針對函數呼叫工作流程進行微調的模型 —— 例如 Qwen3-Coder 和 MiniMax M2.7 —— 則能更一致地處理這些序列。

在路由設定中新增 MCP 伺服器

# 本地伺服器（專案範圍）— Claude Code 會啟動該程序
claude mcp add my-server -- python my_server.py

# 遠端 HTTP 伺服器 — 連接到已正在執行的伺服器
claude mcp add remote-server --transport http https://your-server.example.com/mcp

遠端 HTTP 選項會連接到一個獨立執行的伺服器。這正是 Novita Agent Sandbox 所建立的架構：MCP 伺服器保持運行，並在工具呼叫進來時按需產生沙箱實例。

在 Agent Sandbox 中執行工具

當您的 MCP 工具涉及執行程式碼、處理檔案或呼叫外部系統時，您會希望該執行發生在隔離環境中，而非您的開發機器上。Novita 的 Agent Sandbox 以託管雲端服務的形式提供此功能。

Sandbox 實例是一個短暫的隔離容器，當 Claude Code 觸發程式碼執行工具時，您的 MCP 伺服器會建立該容器。每個容器提供：

  • 隔離的檔案系統：與主機分離，工作階段之間不會有任何資料洩漏
  • 預先安裝的環境：包含常見資料科學與腳本套件的 Python
  • 快速啟動：冷啟動低於 200ms，適合低延遲的工具呼叫序列
  • 按秒計費：您只需為實際執行時間付費
  • Shell 與 Python 執行：完整命令列存取，支援多語言工作流程

在搭配 Sandbox 的路由式 Claude Code 設定中，資料流程如下：

Claude Code
  → 將推理請求發送到 Novita LLM API（路由器）
  → 從模型接收工具呼叫決策
  → 將工具呼叫轉發給 MCP 伺服器
    → MCP 伺服器建立一個 Novita Sandbox 實例
    → Sandbox 執行程式碼並回傳輸出
    → MCP 伺服器將結果回傳給 Claude Code
  → Novita LLM API 根據結果進行推理，決定下一步動作

這種分離方式可將不受信任的程式碼執行限制在隔離環境中，同時讓 LLM 路由器能完整查看結果，以進行多步驟推理。

若要從 MCP 工具處理常式中使用 Novita Sandbox，請安裝 SDK：

pip install novita-sandbox

然後在您的工具實作中建立並使用 sandbox 實例：

from novita_sandbox.code_interpreter import Sandbox

def run_code_tool(code: str, api_key: str) -> dict:
    sandbox = Sandbox.create(
        template="code-interpreter-v1",
        api_key=api_key,
        domain="sandbox.novita.ai",
        timeout=300,
    )
    result = sandbox.run_code(code, language="python")
    sandbox.kill()
    return {
        "output": result.logs,
        "error": result.error,
    }

code-interpreter-v1 範本預先安裝了 pandas、numpy、matplotlib 等常用套件，因此大多數資料分析和腳本任務無需額外設定步驟即可執行。

為工具密集型工作流程選擇模型

在路由式 Claude Code 設定中，模型的選擇會影響兩件事：決定下一步要做什麼的推理品質，以及正確執行的工具呼叫可靠性。這兩者不一定相關聯 —— 一個在開放式任務上推理良好的模型，可能在工具擁有複雜參數類型時產生不一致的函數呼叫架構。

Qwen3-Coder 480B 在 Claude Code 需要讀取多個檔案、規劃方法並執行多步驟編輯序列的長時程程式碼任務中表現出色。其長上下文處理能力意味著在複雜任務的過程中，較不容易遺失先前的工具結果。

MiniMax M2.7 專為代理準確性進行調整 —— 具體來說，它旨在最小化不正確的工具呼叫，並處理每個步驟都基於前一個結果的多輪工具序列。對於包含多個相互依賴工具的 MCP 設定，這種準確性能夠減少所需的復原迴圈次數。

DeepSeek V4 Flash 是 ANTHROPIC_SMALL_FAST_MODEL 的實用選擇。它快速且便宜，而 Claude Code 卸載給小型模型的任務 —— 階段總結、上下文壓縮 —— 並不需要與主要程式碼任務相同的推理深度。

一個實務觀察：如果您正在建立一個具有許多可選參數或巢狀架構的自訂 MCP 伺服器，建議先使用代表性範例測試模型的呼叫準確性，然後再將其部署到長時間運行的階段中。及早發現工具呼叫錯誤可以減少干擾。

常見問題

我能否對 Claude Code 使用任何 LLM 路由器，而不只是 Novita AI？

可以。任何在其基礎 URL 上實作 Anthropic 訊息 API 的服務都可以使用。這包括以 Anthropic 格式設定的 LiteLLM、自託管代理，或其他商業路由器服務。將 ANTHROPIC_BASE_URL 設定為該端點，ANTHROPIC_AUTH_TOKEN 設定為對應的金鑰，並將 ANTHROPIC_MODEL 設定為該端點可辨識的模型 ID。

當透過非 Anthropic 供應商路由時，MCP 工具還能運作嗎？

可以。MCP 是在 Claude Code 層級運作，而不是在 API 層級。路由器只會影響哪個模型執行有關工具使用的推理。只要模型支援 Anthropic 訊息格式中的函數呼叫，MCP 工具的運作方式就不會因供應商而異。

為什麼透過 Novita AI 路由時，sonnet 別名無法運作？

Anthropic 的模型別名（sonnet、opus、haiku）是由 Anthropic 的端點解析，而不是由 Claude Code 解析。當您透過第三方供應商路由時，Anthropic 的別名解析機制不會被使用。請改為從您的供應商設定 ANTHROPIC_MODEL 為特定的模型 ID。

如何切換回 Anthropic 的原生模型？

為目前的工作階段取消設定路由變數：

unset ANTHROPIC_BASE_URL
unset ANTHROPIC_AUTH_TOKEN
unset ANTHROPIC_MODEL
unset ANTHROPIC_SMALL_FAST_MODEL

Claude Code 會在下一次啟動時，回退使用您設定檔案中的內容或 Anthropic API 預設值。

使用第三方路由器會有延遲開銷嗎？

會多出一個小小的網路跳躍。對於互動式工作階段，這通常不明顯。對於延遲敏感的自動化管線，請在採納前檢查供應商公布的延遲數據。Novita AI 會透過其 LLM Metrics 控制台 公布推理延遲與吞吐量指標。

Agent Sandbox 需要與 LLM 路由器不同的一組 API 金鑰嗎？

不需要。Novita AI 的 API 金鑰同時適用於 LLM API 和 Agent Sandbox。您用於 ANTHROPIC_AUTH_TOKEN 的相同金鑰，就是您在 MCP 工具實作中傳遞給 Sandbox.create() 的金鑰。

推薦文章

資料來源檢查日期：2026 年 7 月 16 日：Claude Code 環境變數文件、Novita AI LLM API、Novita Agent Sandbox。

相關文章