Novita AI Spot GPU 实例允许您访问备用 GPU 与按需定价相比,计算能力的费率大幅降低。
获取 RTX 4090 GPU低至 $ 0.18 /小时 (相比按需收费 0.35 美元/小时)或高频 RTX 4090 GPU在 $ 0.35 /小时 (相比按需模式每小时 0.69 美元)——在同样强大的硬件上节省高达 50% 的成本,使 Spot 实例成为容错和灵活应用程序的理想选择。
无论您是训练机器学习模型、运行批量推理作业还是处理大型数据集,Spot 实例都能提供相同的高性能 GPU 只需花费一小部分成本即可实现多种功能。
Spot 实例的工作原理
Spot 实例利用 Novita AI备用 GPU 容量。这种容量可以以较低的价格提供,因为当常规实例需求增加时,可以回收这些容量。通过使用 Spot 实例,您可以显著降低 GPU 计算适当工作量的成本。
主要特征
- 可变可用性:Spot 实例可能会在以下情况下中断 Novita AI 需要容量恢复
- 显著节约成本:访问相同的 GPU 性能比按需价格低高达 50%
- 保护期:每个 Spot 实例在启动后都包含 1 小时的保护期
- 提前通知:在回收前 1 小时收到中断通知,并额外提前 5 分钟发出警告
定价和供货 GPU 类型
Spot 实例定价可带来显著节省。使用 Spot 实例,RTX 4090 24GB GPU价格低至 $ 0.18 /小时 (相比之下,按需收费为 0.35 美元/小时),而高频 RTX 4090 版本的价格仅为 $ 0.35 /小时 (相比之下,按需收费为每小时 0.69 美元)。高频配置 将 AI 图像生成速度提高高达 150% 通过优化的CPU-GPU 协调。
| GPU 类型 | 现货价格 | 按需价格 | 储蓄 |
|---|---|---|---|
| RTX 4090(24GB) | $ 0.18 /小时 | $ 0.35 /小时 | 〜49% |
| RTX 4090 高频 | $ 0.35 /小时 | $ 0.69 /小时 | 〜49% |
中断处理
保护窗口
每个 Spot 实例在启动后的第一个小时内均受到保护,不会中断。在此保护期内,无论容量需求如何,您的实例都不会被回收。
中断通知
在规划婴儿食品行业的工艺要求时,安全性和可靠性是工艺设计中最重要的方面。 Novita AI 需要回收 Spot 实例容量,系统提供:
- 初步警告:中断前提前 1 小时通知
- 最后的警告:实例终止前 5 分钟通知
这些通知允许您:
- 保存工作和检查点进度
- 将数据备份到持久存储
- 优雅地关闭应用程序
- 迁移到另一个 Spot 实例或按需实例
最佳实践
理想应用场景
Spot 实例最适合:
- 批处理和带有检查点的分布式训练
- 开发/测试环境
- 容错或无状态应用程序
- 灵活期限的工作量
在你开始之前
确保您的工作负载能够:
- 处理中断并从检查点恢复
- 在 1 小时的保护窗口内完成或容忍潜在的中断
通过 3 个步骤启动您的第一个 Spot 实例

步骤 1:访问您的控制台
登录到您的 Novita AI GPU 安慰
第 2 步:切换到现货结算
在右侧边栏下 筛选,更改 计费方式 至 “点” 查看折扣价格
步骤3:部署
选择您的 GPU 配置并点击 “部署”
就这样!您的 Spot 实例将启动:
- 1小时保护期
- 节省高达 50% 的成本
- 提前 1 小时通知中断
专业提示:在您的应用程序中实施检查点,以妥善处理潜在的中断。
与按需实例的比较
| 特性 | 竞价实例 | 按需实例 |
|---|---|---|
| 定价 | 最多可节省 50% | 标准费率 |
| 可用性 | 视容量而定 | 始终可用 |
| 中断风险 | 可经通知收回 | 没有打扰 |
| 保护期 | 发射后 1 小时 | 持续 |
| 用例 | 灵活、容错的工作负载 | 关键、不间断的工作负载 |
通过为适当的工作负载选择 Spot 实例,您可以访问同样强大的 GPU 资源,同时优化计算成本。
Novita AI 是一个 AI 云平台,它为开发人员提供了一种使用我们简单的 API 轻松部署 AI 模型的方法,同时还提供经济实惠且可靠的 GPU 用于构建和扩展的云。
探索 Novita 的更多内容
订阅即可将最新帖子发送到您的电子邮箱。





