如何存取 GLM-4.5-Air:完整整合指南

如何存取 GLM-4.5-Air:完整整合指南

GLM-4.5-Air 是一款擁有 1060 億參數的混合推理模型,結合了用於複雜任務的思考模式,以及用於即時回應的非思考模式。Novita AI 提供企業級基礎設施,讓你能夠存取 GLM-4.5-Air,具備完整的 20 萬 Token 上下文視窗、OpenAI 相容 API,以及與熱門開發工具的無縫整合。

本指南涵蓋三種存取方式、第三方平台整合,以及生產環境最佳實務。無論你是在 Playground 中進行原型開發,還是建構多代理系統,你都能學會如何在 Novita AI 上運用 GLM-4.5-Air 的各項能力。

Novita AI 目前定價:131072 Token 上下文,每百萬輸入 Token 0.13 美元,每百萬輸出 Token 0.85 美元

試用 GLM-4.5-Air 演示

什麼是 GLM-4.5-Air?

GLM-4.5-Air 是由智譜 AI 開發的開源混合推理模型,總參數數達 1060 億,活躍參數數為 120 億。該模型採用 MIT 授權發布,運作時分為兩種模式:用於複雜推理與工具調用的思考模式,以及用於即時回應的非思考模式。該模型在基準測試中獲得 59.8 分,在所有專有與開源模型中排名第三,非常適合用於智慧代理、程式碼生成與對話式 AI 場景。

關鍵規格:

  • 總參數數: 1060 億
  • 活躍參數數: 120 億(高效推論)
  • 上下文視窗: 20 萬 Token
  • 授權: MIT(允許商業使用)
  • 運作模式: 混合推理(思考 + 非思考)
  • 支援語言: 英文與中文
  • 基準測試分數: 59.8(全球排名第三)

為什麼選擇 Novita AI 使用 GLM-4.5-Air?

Novita AI 在部署 GLM-4.5-Air 方面提供多項優勢:

  • 擴展上下文視窗: 完整的 20 萬 Token 存取權限,可處理大型文件
  • OpenAI 相容與 Anthropic 相容 API: 可直接替換現有的 OpenAI 與 Anthropic 整合,無需大幅修改程式碼
  • 多種存取方式: 支援 Playground、REST API 與多代理 SDK
  • 官方 Hugging Face 供應商: 確保生態系相容性
  • 生產就緒基礎設施: 可擴展,具備可靠的正常運行時間與效能

快速入門:三種存取方式

Playground(無需編碼)

體驗 GLM-4.5-Air 最快的方式是透過 Novita AI 的 Playground。註冊後即可透過互動式網頁介面在幾秒內開始實驗。測試提示詞、在完整的 20 萬 Token 上下文視窗下即時查看輸出結果,並將 GLM-4.5-Air 與其他領先模型進行比較。

步驟:

  1. 前往 novita.ai 註冊帳號
  2. 前往 Playground 區塊
  3. 從模型下拉選單中選擇「GLM-4.5-Air」(zai-org/glm-4.5-air)
  4. 設定參數(temperature、max tokens、上下文視窗大小)
  5. 輸入提示詞,即可收到即時回應

適合場景:

  • 開發前測試模型能力
  • 對話流程原型開發
  • 比較 GLM-4.5-Air 與其他替代模型
  • 非技術團隊成員評估模型

直接 API 整合

對於生產環境應用程式,可使用 Novita AI 的 REST API(具備 OpenAI 相容端點)來整合 GLM-4.5-Air。該 API 遵循 OpenAI 標準,遷移過程無縫顺畅。

Python API 範例

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/openai",
    api_key="session_duBHl2DVlV6du_ok366b2W75FUXvMispDPd0B8iSN6ZnPioDXgmub80FCRPWcty-OAbxrlQLy5oYgqfs_77EQg==",
)

model = "zai-org/glm-4.5-air"
stream = True # or False
max_tokens = 49152
system_content = "Be a helpful assistant"
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)
  
  

OpenAI Agents SDK

使用 OpenAI Agents SDK 搭配 GLM-4.5-Air 的 20 萬 Token 上下文視窗,建構複雜的多代理系統。支援代理交接、路由邏輯與工具整合,非常適合處理複雜工作流程。

核心能力:

  • 專用模型之間的代理交接
  • 工具整合(網路搜尋、程式碼執行、資料檢索)
  • 基於使用者意圖的路由邏輯
  • 跨代理維持 20 萬 Token 的持續上下文

範例使用場景: 客服系統包含路由代理、知識庫代理與升級代理,透過 20 萬 Token 的視窗共享上下文。

第三方平台整合

Novita AI 上的 GLM-4.5-Air 透過 OpenAI 相容 API,與熱門開發工具無縫連接。

編碼代理

與 AI 驅動的編碼助手整合:

  • Claude Code: 使用 Anthropic 相容 API 端點
  • Cline、Cursor、Trae、Qwen Code: 完整相容 OpenAI SDK

編排框架

連接工作流程編排工具:

  • LangChain: 搭配 Novita AI 基礎 URL 使用 ChatOpenAI
  • Dify: 將 Novita AI 新增為自訂模型供應商
  • CrewAI: 使用 Novita AI 端點設定代理
  • Langflow: 使用搭配 Novita AI 設定的 OpenAI 節點

Hugging Face

Novita AI 是 Hugging Face 的官方推論供應商,確保生態系相容性。可透過 Hugging Face 推論 API 或 transformers 函式庫存取 GLM-4.5-Air。

生產環境最佳實務

上下文視窗管理

有了 20 萬 Token 的可用空間,請優化上下文使用方式:

  • 滑動視窗: 保留近期訊息,摘要較舊的上下文
  • 階層式摘要: 壓縮文件的同時保留關鍵資訊
  • 選擇性上下文: 每次查詢僅包含相關資訊
  • Token 監控: 追蹤使用量以優化成本

回應串流

啟用串流功能以提升使用者體驗:

  • 降低感知延遲
  • 漸進式內容顯示
  • 提升使用者參與度
  • 降低長回應的逾時風險

思考模式 vs 非思考模式

根據任務複雜度選擇模式:

  • 思考模式: 適用於複雜推理、多步驟問題、工具調用、規劃
  • 非思考模式: 適用於即時回應、簡單查詢、低延遲需求

透過系統提示詞指定模式,以獲得最佳效能。

安全與合規

  • API 金鑰管理: 儲存在環境變數或安全保險庫中
  • 速率限制: 實作應用程式層級的控制
  • 資料隱私: 檢視 Novita AI 的資料保留政策
  • 輸入驗證: 在 API 呼叫前清理輸入內容
  • 授權合規: MIT 授權允許商業使用

使用場景與效能

推薦應用場景

智慧代理 混合推理能讓自主代理具備規劃、工具調用與決策能力,20 萬 Token 的上下文可保留完整對話歷史。

程式碼生成與審查 1060 億參數可理解完整程式碼庫,20 萬 Token 上下文可同時處理大型檔案與多個模組。

長文件分析 可完整處理技術文件、法律合約與研究論文,無需分段切割。

多語言客服 原生支援英文與中文,跨會話保留上下文。

內容創作 生成風格一致的長篇內容,擴展上下文可維持敘事連貫性。

效能指標

  • 基準測試分數: 59.8
  • 上下文視窗: 20 萬 Token
  • 活躍參數數: 120 億(高效推論)
  • 支援語言: 英文與中文(原生訓練)
  • 延遲: 針對生產環境工作負載最佳化

模型比較

GLM-4.5-Air 具備最大的上下文視窗,同時維持具競爭力的效能與成本效益。

GLM-4.5-Air 基準測試結果

結論

Novita AI 上的 GLM-4.5-Air 提供混合推理能力與 20 萬 Token 上下文視窗,非常適合用於智慧代理、程式碼生成與長文件處理。OpenAI 相容 API 能實現從原型到生產環境的無縫整合。建議你先從 Playground 開始測試模型能力,再透過 Python API 整合到你的應用程式中。立即前往 novita.ai 註冊,開始運用混合推理與擴展上下文能力建構應用吧。

Novita AI 是一個 AI 雲端平台,為開發者提供簡單的 API 來部署 AI 模型,同時也提供平價且可靠的 GPU 雲端服務,用於建構與擴展 AI 應用。