启动云实例时，开发者经常需要在On-Demand 实例和Spot 实例之间做出选择。On-Demand 实例以固定价格提供可靠的计算容量，而 Spot 实例则以大幅折扣提供相同的硬件，代价是可能面临中断。
本指南将拆解 Spot 与 On-Demand 实例的核心差异，对比性能，讨论适用场景（如机器学习和测试），结合案例评估成本，并提供在实际场景中使用 Spot 实例的最佳实践。
Spot 与 On-Demand 实例的核心差异
🟩 可用性与中断风险
- On-Demand 实例
- 持续运行，直到您手动停止或终止它
- 除极罕见的容量错误外，保证可用性
- Spot 实例
- 来自闲置容量，可能随时被回收
- 示例：部分服务商（如 Novita AI）为 Spot GPU 实例提供1小时中断通知和1小时最低运行保障
- 核心权衡：On-Demand 保证持续可用性，Spot 不保证。
🟩 定价模式
- On-Demand 定价
- 针对特定实例类型和区域的固定费率（按秒或按小时计费）
- 定价稳定可预测，无强制关停风险
- Spot 定价
- 动态定价且折扣力度大（通常比 On-Demand 低 50%-90%）
- 示例：Novita AI 的 Spot GPU 实例折扣约 50%（如 RTX 4090 每小时约 $0.18，On-Demand 则为 $0.35/小时）
- 价格会随时间波动，容量不足时实例可能被终止
- 核心权衡：On-Demand 稳定可靠；Spot 更便宜但价格波动大
🟩 适用场景
- On-Demand 实例
- 最适合需要不间断服务的工作负载
- 生产级应用、数据库、关键任务系统
- 运行时长不可预测的短期任务（无需提前承诺）
- Spot 实例
- 最适合能应对中断的灵活、容错型工作负载
- 示例：批量处理、数据分析、大数据管道、CI/CD 运行器、渲染、后台任务
- 常见的适合 Spot 的工作负载：无状态 Web 服务器、容器化环境、HPC 任务、测试/开发环境
- 核心权衡：On-Demand 保证正常运行时间；若可容忍中断，Spot 可节省成本
Spot 与 On-Demand 实例性能基准测试
对于同类型的实例，开发者可以预期 Spot 和 On-Demand 实例拥有等效的性能。只需提前规划中断应对方案即可，无需担心 CPU 速度或内存差异——Spot 是一种定价模式，而非性能等级。
来源：66 Degrees
On-Demand 与 Spot 实例在机器学习/测试场景下的选择
1. 机器学习训练/批量任务
推荐选择： 搭配检查点机制的 Spot 实例
原因：
- 训练任务天生具有容错性（尤其是搭配已保存的检查点时）
- Spot 实例可提供最高 90% 的成本节省
- 非常适合大规模模型训练、超参数调优或数据处理场景
2. 机器学习推理/生产级服务
推荐选择： 基础容量用 On-Demand 实例，额外扩容用 Spot 实例
原因：
- 实时推理需要高可用性
- On-Demand 保证稳定性；Spot 可为非关键任务提供高性价比的扩容能力
- 仅当服务可容忍延迟或具备故障转移机制时，才可使用 Spot 实例
3. 测试/开发环境
推荐选择： 仅当您实现环境搭建自动化时，使用 Spot 实例
原因：
- 开发/测试工作负载是临时且可重启的
- Spot 实例用于 CI/CD 运行器、预发环境或沙箱时性价比极高
- 对于长期运行或有状态的开发服务，您需要IaC（基础设施即代码）或容器化能力，以便中断后快速恢复
Spot 与 On-Demand 实例成本对比
| 实例（GPU） | On-Demand 价格 | Spot 价格 |
|---|---|---|
| RTX 5090 | 每小时 $0.50 | 每小时 $0.25 |
| RTX 4090 | 每小时 $0.35 | 每小时 $0.18 |
| 高频版 RTX 4090 | 每小时 $0.69 | 每小时 $0.35 |
| H200 SXM | 每小时 $3.25 | 每小时 $1.63 |
| A100 SXM | / | 每小时 $1.60 |
| B200 | 每小时 $3.84 | 每小时 $1.92 |
| H100 SXM | 每小时 $1.00 | 每小时 $0.90 |
成本差异可视化：如果您连续一个月（720 小时）运行 10 台此类实例，On-Demand 总成本为：10 * $0.096 * 720 ≈ $691；相同情况下 Spot 实例（按 $0.028 计算）的总成本为：10 * $0.028 * 720 ≈ $202。
当然，成本并非唯一考量因素——如果未做好应对准备，实例中断可能导致任务延迟或服务停机。但对于许多工作负载而言，这种成本权衡非常值得。关键是在最大化节省的同时降低风险，接下来我们讨论 Spot 实例是否适合数据库这类更敏感的工作负载。
Spot 实例是否适合我的数据库工作负载？
请勿在任何关键任务型、有状态或单实例数据库上使用类似 Spot 的实例。
仅在高可用集群、副本或非关键环境中使用此类实例，以平衡成本和可靠性。
适用场景
仅当满足以下条件时，才可使用类似 Spot 的计算资源：
- 数据库是分布式且具备副本的
- 系统可容忍节点丢失
- 工作负载是非关键的，或仅用于测试
示例：
- 主数据库运行在稳定计算资源上，仅将 Spot 实例用于读副本
- 可容忍节点故障的分布式数据库，如 CockroachDB 或 Cassandra
- 数据丢失不关键的缓存系统（如 Redis）
降低风险的最佳实践
| 策略 | 说明 |
|---|---|
| 副本与自动恢复 | 使用多节点集群，可自动替换丢失的节点 |
| 频繁快照 | 定期备份，故障后可快速恢复 |
| 隔离核心工作负载 | 主数据库节点运行在稳定基础设施上，Spot 仅用于次要角色 |
| 自动化节点替换 | 使用编排工具（如 Kubernetes）快速重建丢失的数据库节点 |
Spot 实例最佳实践
如果您使用 Novita AI 这类平台进行 GPU 计算，切换到 Spot 实例通常只需在界面上点一下开关即可。
步骤1：访问控制台 登录您的Novita AI GPU 控制台
步骤2：切换为 Spot 计费 在右侧边栏的筛选区域，将计费方式改为**“Spot”**即可查看折扣价格
步骤3：部署 选择您的 GPU 配置，点击**“部署”**按钮即可
完成！您的 Spot 实例将启动，享受以下权益：
- 1小时保护期
- 最高 50% 的成本节省
- 1小时提前中断通知
专业提示：在应用中实现检查点机制，优雅地应对可能的中断。
对于开发者和团队而言，Spot 实例是极具性价比的成本节省工具——本质上让你以极低的价格租用云计算资源。核心权衡非常明确：你用绝对的正常时间保障换取低得多的价格。On-Demand 实例仍是连续性要求极高的关键、有状态或不可预测工作负载的首选。而 Spot 实例则能为可承受一两次重启的任务释放巨大价值。通过理解可用性和定价的差异，谨慎选择适合运行在 Spot 上的工作负载，并遵循检查点机制、混合实例部署等最佳实践，你就可以放心地将 Spot 实例集成到基础设施中。
常见问题
Spot 与 On-Demand 实例的核心区别是什么？
On-Demand 实例以固定价格提供稳定、有保障的正常运行时间。
Spot 实例价格低得多，但可能随时被中断。
什么时候应该选择 Spot 实例？ 当你的工作负载满足以下条件时，可选择 Spot 实例： 容错性强 可容忍中断 时间安排灵活（如训练、测试、批量任务）
Spot 实例比 On-Demand 实例慢吗？
不会。对于同类型的实例，Spot 和 On-Demand 提供完全相同的性能。
二者差异仅在定价和可用性上，硬件没有区别。
Novita AI 是助力你实现 AI 愿景的一站式云平台。集成 API、无服务器、GPU 实例——你需要的性价比工具都在这里。无需操心基础设施，免费即可开始，让 AI 愿景成为现实。
推荐阅读
运行 DeepSeek R1 0528 需要多少成本？通过 Novita AI 发现高性价比方案
