GLM-4.5-Air 是一款擁有 1060 億參數的混合推理模型,結合了用於複雜任務的思考模式,以及用於即時回應的非思考模式。Novita AI 提供企業級基礎設施,讓你能夠存取 GLM-4.5-Air,具備完整的 20 萬 Token 上下文視窗、OpenAI 相容 API,以及與熱門開發工具的無縫整合。
本指南涵蓋三種存取方式、第三方平台整合,以及生產環境最佳實務。無論你是在 Playground 中進行原型開發,還是建構多代理系統,你都能學會如何在 Novita AI 上運用 GLM-4.5-Air 的各項能力。
Novita AI 目前定價:131072 Token 上下文,每百萬輸入 Token 0.13 美元,每百萬輸出 Token 0.85 美元
什麼是 GLM-4.5-Air?
GLM-4.5-Air 是由智譜 AI 開發的開源混合推理模型,總參數數達 1060 億,活躍參數數為 120 億。該模型採用 MIT 授權發布,運作時分為兩種模式:用於複雜推理與工具調用的思考模式,以及用於即時回應的非思考模式。該模型在基準測試中獲得 59.8 分,在所有專有與開源模型中排名第三,非常適合用於智慧代理、程式碼生成與對話式 AI 場景。
關鍵規格:
- 總參數數: 1060 億
- 活躍參數數: 120 億(高效推論)
- 上下文視窗: 20 萬 Token
- 授權: MIT(允許商業使用)
- 運作模式: 混合推理(思考 + 非思考)
- 支援語言: 英文與中文
- 基準測試分數: 59.8(全球排名第三)
為什麼選擇 Novita AI 使用 GLM-4.5-Air?
Novita AI 在部署 GLM-4.5-Air 方面提供多項優勢:
- 擴展上下文視窗: 完整的 20 萬 Token 存取權限,可處理大型文件
- OpenAI 相容與 Anthropic 相容 API: 可直接替換現有的 OpenAI 與 Anthropic 整合,無需大幅修改程式碼
- 多種存取方式: 支援 Playground、REST API 與多代理 SDK
- 官方 Hugging Face 供應商: 確保生態系相容性
- 生產就緒基礎設施: 可擴展,具備可靠的正常運行時間與效能
快速入門:三種存取方式
Playground(無需編碼)
體驗 GLM-4.5-Air 最快的方式是透過 Novita AI 的 Playground。註冊後即可透過互動式網頁介面在幾秒內開始實驗。測試提示詞、在完整的 20 萬 Token 上下文視窗下即時查看輸出結果,並將 GLM-4.5-Air 與其他領先模型進行比較。
步驟:
- 前往 novita.ai 註冊帳號
- 前往 Playground 區塊
- 從模型下拉選單中選擇「GLM-4.5-Air」(zai-org/glm-4.5-air)
- 設定參數(temperature、max tokens、上下文視窗大小)
- 輸入提示詞,即可收到即時回應
適合場景:
- 開發前測試模型能力
- 對話流程原型開發
- 比較 GLM-4.5-Air 與其他替代模型
- 非技術團隊成員評估模型
直接 API 整合
對於生產環境應用程式,可使用 Novita AI 的 REST API(具備 OpenAI 相容端點)來整合 GLM-4.5-Air。該 API 遵循 OpenAI 標準,遷移過程無縫顺畅。
Python API 範例
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/openai",
api_key="session_duBHl2DVlV6du_ok366b2W75FUXvMispDPd0B8iSN6ZnPioDXgmub80FCRPWcty-OAbxrlQLy5oYgqfs_77EQg==",
)
model = "zai-org/glm-4.5-air"
stream = True # or False
max_tokens = 49152
system_content = "Be a helpful assistant"
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
OpenAI Agents SDK
使用 OpenAI Agents SDK 搭配 GLM-4.5-Air 的 20 萬 Token 上下文視窗,建構複雜的多代理系統。支援代理交接、路由邏輯與工具整合,非常適合處理複雜工作流程。
核心能力:
- 專用模型之間的代理交接
- 工具整合(網路搜尋、程式碼執行、資料檢索)
- 基於使用者意圖的路由邏輯
- 跨代理維持 20 萬 Token 的持續上下文
範例使用場景: 客服系統包含路由代理、知識庫代理與升級代理,透過 20 萬 Token 的視窗共享上下文。
第三方平台整合
Novita AI 上的 GLM-4.5-Air 透過 OpenAI 相容 API,與熱門開發工具無縫連接。
編碼代理
與 AI 驅動的編碼助手整合:
- Claude Code: 使用 Anthropic 相容 API 端點
- Cline、Cursor、Trae、Qwen Code: 完整相容 OpenAI SDK
編排框架
連接工作流程編排工具:
- LangChain: 搭配 Novita AI 基礎 URL 使用
ChatOpenAI - Dify: 將 Novita AI 新增為自訂模型供應商
- CrewAI: 使用 Novita AI 端點設定代理
- Langflow: 使用搭配 Novita AI 設定的 OpenAI 節點
Hugging Face
Novita AI 是 Hugging Face 的官方推論供應商,確保生態系相容性。可透過 Hugging Face 推論 API 或 transformers 函式庫存取 GLM-4.5-Air。
生產環境最佳實務
上下文視窗管理
有了 20 萬 Token 的可用空間,請優化上下文使用方式:
- 滑動視窗: 保留近期訊息,摘要較舊的上下文
- 階層式摘要: 壓縮文件的同時保留關鍵資訊
- 選擇性上下文: 每次查詢僅包含相關資訊
- Token 監控: 追蹤使用量以優化成本
回應串流
啟用串流功能以提升使用者體驗:
- 降低感知延遲
- 漸進式內容顯示
- 提升使用者參與度
- 降低長回應的逾時風險
思考模式 vs 非思考模式
根據任務複雜度選擇模式:
- 思考模式: 適用於複雜推理、多步驟問題、工具調用、規劃
- 非思考模式: 適用於即時回應、簡單查詢、低延遲需求
透過系統提示詞指定模式,以獲得最佳效能。
安全與合規
- API 金鑰管理: 儲存在環境變數或安全保險庫中
- 速率限制: 實作應用程式層級的控制
- 資料隱私: 檢視 Novita AI 的資料保留政策
- 輸入驗證: 在 API 呼叫前清理輸入內容
- 授權合規: MIT 授權允許商業使用
使用場景與效能
推薦應用場景
智慧代理 混合推理能讓自主代理具備規劃、工具調用與決策能力,20 萬 Token 的上下文可保留完整對話歷史。
程式碼生成與審查 1060 億參數可理解完整程式碼庫,20 萬 Token 上下文可同時處理大型檔案與多個模組。
長文件分析 可完整處理技術文件、法律合約與研究論文,無需分段切割。
多語言客服 原生支援英文與中文,跨會話保留上下文。
內容創作 生成風格一致的長篇內容,擴展上下文可維持敘事連貫性。
效能指標
- 基準測試分數: 59.8
- 上下文視窗: 20 萬 Token
- 活躍參數數: 120 億(高效推論)
- 支援語言: 英文與中文(原生訓練)
- 延遲: 針對生產環境工作負載最佳化
模型比較
GLM-4.5-Air 具備最大的上下文視窗,同時維持具競爭力的效能與成本效益。

結論
Novita AI 上的 GLM-4.5-Air 提供混合推理能力與 20 萬 Token 上下文視窗,非常適合用於智慧代理、程式碼生成與長文件處理。OpenAI 相容 API 能實現從原型到生產環境的無縫整合。建議你先從 Playground 開始測試模型能力,再透過 Python API 整合到你的應用程式中。立即前往 novita.ai 註冊,開始運用混合推理與擴展上下文能力建構應用吧。
Novita AI 是一個 AI 雲端平台,為開發者提供簡單的 API 來部署 AI 模型,同時也提供平價且可靠的 GPU 雲端服務,用於建構與擴展 AI 應用。
