Novita AI Spot GPU Instances 可讓您以遠低於按需定價的費率，存取閒置的 GPU 運算容量。
RTX 4090 GPU 最低每小時 $0.18（按需定價 $0.35/hr），或高效能 RTX 4090 GPU 每小時 $0.35（按需定價 $0.69/hr）——相同強大硬體可節省高達 50%，讓 Spot Instances 成為容錯與彈性應用的理想選擇。
無論是訓練機器學習模型、執行批次推論工作，或是處理大型資料集，Spot Instances 都能以極低的成本提供相同的高效能 GPU 功能。
Spot Instances 的運作方式
Spot Instances 利用 Novita AI 的閒置 GPU 容量。這些容量以較低價格提供，因為當一般實例的需求增加時，容量可能會被回收。透過使用 Spot Instances，您可以針對適合的工作負載大幅降低 GPU 運算成本。
主要特性
- 可用性變化不定：當 Novita AI 需要回收容量時，Spot Instances 可能會被中斷
- 節省大量成本：以同樣的 GPU 效能，價格最高可比按需定價便宜 50%
- 保護期間：每個 Spot Instance 在啟動後提供 1 小時的保護時間
- 提前通知：中斷前 1 小時發出通知，並額外提供 5 分鐘的最後警告
定價與可用 GPU 類型
Spot Instance 定價可大幅節省成本。使用 Spot Instances，RTX 4090 24GB GPU 最低每小時 $0.18（按需定價 $0.35/hr），而高效能 RTX 4090 版本僅需每小時 $0.35（按需定價 $0.69/hr）。高效能設定透過最佳化 CPU-GPU 協調，將 AI 圖片生成速度提升高達 150%。
| GPU 類型 | 競價價格 | 按需價格 | 節省 |
|---|---|---|---|
| RTX 4090 (24GB) | $0.18/hr | $0.35/hr | ~49% |
| RTX 4090 高效能 | $0.35/hr | $0.69/hr | ~49% |
更多 GPU 類型即將支援 Spot Instances，為不同的工作負載需求擴充選項。
中斷處理
保護時段
每個 Spot Instance 在啟動後的第一個小時內都會受到保護而不被中斷。在這個保護期間，無論容量需求如何，您的實例都不會被回收。
中斷通知
當 Novita AI 需要回收 Spot Instance 容量時，系統會提供：
- 初步警告：中斷前 1 小時的提前通知
- 最終警告：實例終止前 5 分鐘的通知
這些通知可讓您：
- 儲存工作與檢查點進度
- 備份資料至持久儲存
- 優雅地關閉應用程式
- 遷移至其他 Spot 或按需實例
最佳實務
理想使用案例
Spot Instances 最適合：
- 批次處理與具檢查點功能的分散式訓練
- 開發／測試環境
- 容錯或無狀態應用程式
- 具彈性截止期限的工作負載
開始之前
請確保您的工作負載能夠：
- 處理中斷並從檢查點恢復
- 在 1 小時保護期間內完成，或能容忍潛在的中斷
三步驟啟動您的第一個 Spot Instance
步驟 1：存取您的控制台
登入 Novita AI GPU 控制台
步驟 2：切換至競價計費
在右側邊欄的 **篩選器 ** 下，將 ** 計費方式 ** 改為 「競價」，即可看到折扣價格
步驟 3：部署
選擇您的 GPU 配置，然後點選 「部署」
完成！您的 Spot Instance 將提供：
- 1 小時保護期間
- 最高 50% 的成本節省
- 中斷前 1 小時的提前通知
專業提示：在應用程式中實作檢查點功能，以便優雅地處理潛在的中斷。
與按需實例比較
| 功能 | Spot Instances | 按需實例 |
|---|---|---|
| 定價 | 節省高達 50% | 標準價格 |
| 可用性 | 視容量而定 | 隨時可用 |
| 中斷風險 | 可能提前通知回收 | 無中斷 |
| 保護期間 | 啟動後 1 小時 | 持續 |
| 使用案例 | 彈性、容錯工作負載 | 關鍵、不可中斷工作負載 |
透過為適當的工作負載選擇 Spot Instances，您可以存取同樣強大的 GPU 資源，同時最佳化運算成本。
Novita AI 是一個 AI 雲端平台，為開發者提供使用簡易 API 部署 AI 模型的便利方式，同時提供價格實惠且可靠的 GPU 雲端服務，用於建構與擴展。
