AI Agent 模式是開發者將推理、工具呼叫、執行與評估等工作進行分工時，可重複使用的方式。最安全的預設做法很簡單：讓模型規劃，讓每個外部動作明確化，在隔離的沙盒中執行程式碼，並在信任結果之前先進行評分。這種結構能讓 Agent 架構更容易除錯、營運成本更低，並且在工作流程中途失敗時，也較不容易崩潰。
重點摘要
- 規劃屬於模型，但執行屬於模型之外。
- 工具使用應明確、有型別，且易於稽核。
- 程式碼執行應在沙盒中進行，而非在主機上。
- 評估是將 Agent 展示轉變為正式工作流程的關鍵。
AI Agent 模式 vs. Agent 架構
AI Agent 模式是建構區塊，而 Agent 架構則是結合這些區塊的完整系統。一個好的架構通常會混合四種模式：規劃、工具使用、程式碼執行與評估。如果缺少其中任何一項，Agent 在展示時可能仍看似聰明，但在生產環境中卻難以信任。
| 模式 | 功能 | 最佳使用情境 | 常見失敗原因 |
|---|---|---|---|
| 規劃 | 將任務分解為步驟 | 冗長或目標不明確的工作 | 在行動前過度規劃 |
| 工具使用 | 呼叫 API 或函式 | 結構化的外部動作 | 隱藏的副作用 |
| 程式碼執行 | 執行腳本或指令 | 除錯與自動化 | 不安全的本地執行 |
| 評估 | 對結果進行評分 | 生產環境品質控管 | 未經驗證即上線 |
如果你正在決定你的 Agent 是否應透過標準介面與工具溝通，我們的 模型上下文協定指南 是下一個值得閱讀的層級。
AI Agent 架構模式中的規劃
規劃是系統中決定下一步該做什麼的部分。在實務上，模型僅應在任務包含多個步驟、有不確定的分支，或有顯著失敗風險需要復原時，才進行規劃。
請在以下情況使用「規劃優先」的 Agent 架構：
- 任務有明確目標但路徑不明確。
- 中間結果會影響後續步驟。
- 你需要重試、分支或人工審查。
- 第一步走錯的代價很高。
任務簡單時，請避免過度規劃。如果答案只是單次查詢、單次 API 呼叫或簡短的改寫，那麼直接行動的路徑通常更便宜且更容易維護。
最好的規劃層是簡潔且明確的。它應該產生簡短的計畫，而不是長篇大論。這樣可以避免 Agent 在執行者永遠不會使用的結構上耗費 token。
AI Agent 模式中的工具使用
工具使用是 Agent 離開純文字生成、開始實際執行工作的階段。規則很直接：如果某個動作有副作用，就把它放在工具邊界之後。
這個邊界為你帶來三項好處：
- 清晰的輸入與輸出。
- 出錯時的可稽核性。
- 一個可以強制執行權限和重試機制的地方。
工具使用在每個工具功能單一時效果最好。搜尋工具應該搜尋，檔案工具應該編輯檔案，瀏覽器工具應該瀏覽。一個工具試圖同時做太多事，就越難在模型選錯路徑時進行復原。
這也是最佳 AI 沙盒解決方案變得相關的地方：Agent 通常需要的超出模型呼叫本身，執行層必須與工作負載相匹配。
程式碼執行：為什麼沙盒應該在模型之外
程式碼執行是 Agent 架構在過於鬆散時通常會出問題的地方。在開發者筆記型電腦或共享主機上執行模型生成的指令，一開始雖然方便，但卻讓失敗更難控制，也更難重現。
更安全的模式是在一個具有持久狀態、shell 存取權限，並在需要時支援瀏覽器的隔離沙盒中執行程式碼。這為 Agent 提供了真實的工作空間，同時又不會將主機系統暴露於不受信任的輸出。
| 執行選項 | 優勢 | 弱點 |
|---|---|---|
| 本地 shell | 快速原型開發 | 最高影響範圍 |
| 遠端沙盒 | 更安全且可重現 | 額外的平台依賴 |
| 瀏覽器/電腦沙盒 | 處理真實工作流程 | 更多移動部件 |
Novita Agent Sandbox 在這一層表現良好，因為它是為多步驟執行而建構的，而不僅僅是文字生成。這使其適用於程式碼 Agents、瀏覽器工作流程，以及任何 Agent 需要檢查結果並繼續進行的流程。
評估：上線前應該衡量什麼
評估是聰明展示與可信任系統之間的區別。一個生產環境的 Agent 應該根據成果品質來衡量，而不僅僅是提示詞的品質。
| 指標 | 告訴你什麼 |
|---|---|
| 任務成功率 | Agent 是否真正完成工作 |
| 工具呼叫成功率 | 動作是否正確執行 |
| 重試率 | 架構從失敗中復原的頻率 |
| 沙盒結束狀態 | 執行是否穩定 |
| 人工審查率 | 輸出仍需要手動修正的頻率 |
最簡單的評估循環是：定義一個任務集，執行 Agent，對輸出進行評分，然後修正鏈條中最弱的一環。如果模型規劃良好但工具失敗，就改進工具。如果工具正常但推理失敗，就改進規劃器。如果兩者都正常但輸出仍然錯誤，就加強評估。
Novita LLM API 與 Agent Sandbox 如何融入技術堆疊
Novita 以兩個層級融入技術堆疊：LLM API 負責推理與工具選擇，而 Agent Sandbox 負責執行。這種分工符合大多數團隊本來就想要的架構。
| 層級 | Novita 元件 | 重要性 |
|---|---|---|
| 規劃與推理 | Novita LLM API | 保持模型存取與 OpenAI 相容，且易於更換 |
| 工具選擇 | Novita LLM API | 支援執行前結構化的 Agent 決策 |
| 程式碼與瀏覽器執行 | Novita Agent Sandbox | 在主機系統之外執行不安全的部分 |
| 具狀態的工作流程 | Novita Agent Sandbox | 讓 Agent 能跨步驟持續工作 |
| 評估循環 | 兩者 | 使得測試完整工作流程成為可能，而不僅僅是提示詞 |
如果你的 Agent 架構還需要一個標準的工具協定，請將此技術堆疊與模型上下文協定指南搭配使用。
結論
最有用的 AI Agent 模式並不奇特。它們是實際的邊界，能讓規劃與執行分離、讓工具呼叫明確化、讓生成的程式碼保持在沙盒內，並讓每個工作流程都對評估循環負責。如果你有意識地建構這四個層級，你的 Agent 架構將更容易除錯、更安全地運作，並且更有可能在真實工作負載的考驗中存活下來，而不僅僅是在展示中表現良好。
常見問題
什麼是 AI Agent 模式？
AI Agent 模式是組織規劃、工具使用、執行與評估的可重複使用方式，使 Agent 能夠可靠地完成工作。
AI Agent 模式與 Agent 架構有什麼不同？
模式是建構區塊。架構是將這些區塊組合成一個完整工作流程的系統。
所有 Agent 都需要程式碼執行嗎？
不需要。如果任務簡單，程式碼執行就沒有必要。當 Agent 需要執行、檢查或修改實際工作時，才使用它。
為什麼要使用沙盒來執行 Agent？
因為沙盒化執行可以控制風險、保存狀態，並且讓 Agent 的執行過程比在主機上執行模型生成的程式碼更容易除錯。
Novita AI 如何支援 Agent 架構？
Novita AI 透過其 LLM API 提供模型層，並透過 Agent Sandbox 提供執行層，這是多步驟 Agent 工作流程的實用搭配。
