Novita MCP Server:為開發者簡化 GPU 管理

Novita MCP Server:為開發者簡化 GPU 管理

取得 10 美元免費額度,試用所有 LLM 模型

管理 AI 模型的工具與 GPU 一向複雜——不同的標準、雜亂的 API,以及手動設定。 MCP(模型上下文協定) 透過建立一個簡單、通用的方式,讓模型與工具和資源連結,解決了這個問題。現在,Novita AI 推出了 Novita MCP Server,這是一個專為 GPU 實例管理打造的輕量級解決方案。如果你正在尋找更快速、更簡潔的方式來運行與管理 AI 工作負載,就是它了。

為什麼 MCP 會出現?

儘管 LLM 功能強大,但它們無法直接存取或理解真實世界的資訊與工具,這嚴重限制了它們的商業應用。過去,每個 LLM 供應商都實作自己的 Function Calling 標準,迫使開發者為不同模型重新建立介面。MCP 將這些不一致的標準統一成通用的協定。

不同的 API 協定

Novita AI 提供了每個模型是否支援 function calling 的詳細資訊。請參考下方表格。

Novita AI 上的 function calling

立即試用 Novita AI!

什麼是 MCP?

正如 Anthropic 貼切地形容,MCP 就像是 AI 世界的「USB-C 介面」——就像 USB-C 簡化了各種裝置與電腦的連接方式,MCP 也簡化了 AI 模型與資料、工具及服務的互動方式。

mcp

圖片來源:Anthropic

MCP 是一個標準協定,定義了大型模型如何發現、理解並呼叫外部工具或服務。它包含以下組成部分:

  • MCP Hosts:需要透過 MCP 存取資源的 AI 工具,例如 Claude Desktop 和 IDE
  • MCP Clients:與伺服器保持一對一連線的協定客戶端
  • MCP Servers:透過標準化 MCP 協定公開特定功能的輕量級程式
  • 本地資源:電腦上的資料庫、檔案與服務,MCP 伺服器可以安全存取
  • 遠端資源:API 與其他可透過網際網路存取的資源,MCP 伺服器可以與之連線

MCP 如何運作?

mcp

圖片來源:descope

MCP 的工作流程遵循清晰的順序:

  1. MCP Client 首先從 MCP Server 取得可用工具
  2. 使用者查詢以及工具描述會透過 Function Calling 發送給 LLM
  3. LLM 決定是否使用以及使用哪些工具
  4. 如果需要工具,MCP Client 會透過 MCP Server 執行對應的工具呼叫
  5. 工具執行結果會送回給 LLM
  6. LLM 根據所有資訊生成自然語言回應
  7. 最後,回應呈現給使用者

MCP 解決了哪些問題?

1. 不再有授權的頭痛問題

有了 MCP,AI 工作流程可以完全在離線環境中運行——沒有雲端綁定,沒有意外的授權費用。非常適合有嚴格合規需求或需要本地部署的企業。

2. 角色更明確,程式碼更乾淨

MCP 分離了關注點:

  • 模型供應商負責訓練與更新模型。
  • 開發者只需插電即用。
    不再有混亂的 SDK 與版本管理問題。

3. 告別繁重的中介層

不必再使用複雜的包裝器與編排層。MCP 簡化了整合流程,降低了延遲、成本與複雜度。

A2A 是 MCP 的進階版嗎?

不完全是——MCP 和 Agent-to-Agent (A2A) 協定在代理生態系統中解決了不同問題。

  • MCP(模型相容協定) 標準化了大型語言模型(LLM)與資料、工具及外部資源的連接方式。透過統一不同模型與框架間的 function call 格式,它建立了一個工具服務提供者生態系統,並簡化了代理到工具/資料的整合層。
  • A2A 則在應用層運作。它讓代理能以類似人類對話的方式相互溝通——而不僅僅是執行函數的工具。A2A 強調自主代理(或使用者)之間自然的協作模式,從而實現更豐富的多代理工作流程。

用於 GPU 管理的 Novita MCP Server

Novita MCP Server 是一個模型上下文協定 (MCP) 伺服器,讓你能夠順暢地與 Novita AI 平台上的 GPU 資源互動。目前處於 Beta 階段,它專注於 GPU 實例管理,並可與 Claude Desktop、Cursor 等相容 MCP 的客戶端整合。

主要功能包括:

  • GPU 實例管理
    列出、建立、啟動、停止、重啟與刪除 GPU 實例,支援可配置參數(例如 GPU 數量、映像、容器磁碟大小)。
  • 叢集與產品列表
    取得可用的計算叢集及支援的 GPU 產品類型。
  • 範本管理
    建立與刪除可重複使用的範本,以便快速佈建 GPU 實例。
  • 容器登錄驗證
    直接從 MCP 客戶端管理容器映像憑證。
  • 網路儲存控制
    列出、建立、更新與刪除附加到 GPU 實例的儲存磁碟區。
  • CLI 整合
    可透過 npmSmithery 輕鬆安裝與執行,並支援在本地開發工具中進行配置。

它解決了哪些問題?

1. 簡化雲端 GPU 資源管理
開發者無需依賴網頁介面即可管理 GPU 實例——所有操作都可直接在本地開發環境中完成。

2. 提供標準化的控制層
使用 MCP 協定,它將底層 API 呼叫抽象化,並提供跨工具的一致配置介面。

3. 提升本地開發體驗
完全整合 Cursor 與 Claude Desktop 等工具,讓開發者無需離開 IDE 即可啟動與管理雲端資源。

4. 支援自動化與腳本化
支援 npx 與基於 JSON 的配置,便於編寫部署腳本、以基礎設施即程式碼的方式進行管理,或嵌入 CI 工作流程。

MCP 不僅僅是一個協定,更是 AI 模型與真實世界互動方式的基礎性轉變。透過簡化工具存取與開發流程,MCP 開啟了 AI 應用的下一波浪潮,從離線代理到靈活的多模型系統。Novita AI 讓你輕鬆比較各模型的 function calling 支援情況,立即開始構建。

常見問題

MCP 是什麼的縮寫?

模型相容協定(Model Compatibility Protocol)——一種統一標準,讓 LLM 能與工具和資源互動。

MCP 與 A2A 有何不同?

MCP 連接代理與工具;A2A 透過自然通訊模式連接代理與代理。

為什麼 MCP 很重要?

它消除了授權問題,減少了對中介層的依賴,並簡化了 AI 開發工作流程。

Novita AI 是支援你 AI 抱負的全方位雲端平台。整合 API、Serverless、GPU 實例——你所需的經濟高效工具。免除基礎設施煩惱,從免費開始,讓你的 AI 願景成真。

推薦閱讀