节省高达 50% GPU 计算 Novita AI 竞价实例

Spot GPU 实例

Novita AI Spot GPU 实例允许您访问备用 GPU 与按需定价相比,计算能力的费率大幅降低。

获取 RTX 4090 GPU低至 $ 0.18 /小时 (相比按需收费 0.35 美元/小时)或高频 RTX 4090 GPU在 $ 0.35 /小时 (相比按需模式每小时 0.69 美元)——在同样强大的硬件上节省高达 50% 的成本,使 Spot 实例成为容错和灵活应用程序的理想选择。

无论您是训练机器学习模型、运行批量推理作业还是处理大型数据集,Spot 实例都能提供相同的高性能 GPU 只需花费一小部分成本即可实现多种功能。

Spot 实例的工作原理

Spot 实例利用 Novita AI备用 GPU 容量。这种容量可以以较低的价格提供,因为当常规实例需求增加时,可以回收这些容量。通过使用 Spot 实例,您可以显著降低 GPU 计算适当工作量的成本。

主要特征

  • 可变可用性:Spot 实例可能会在以下情况下中断 Novita AI 需要容量恢复
  • 显著节约成本:访问相同的 GPU 性能比按需价格低高达 50%
  • 保护期:每个 Spot 实例在启动后都包含 1 小时的保护期
  • 提前通知:在回收前 1 小时收到中断通知,并额外提前 5 分钟发出警告

定价和供货 GPU 类型

Spot 实例定价可带来显著节省。使用 Spot 实例,RTX 4090 24GB GPU价格低至 $ 0.18 /小时 (相比之下,按需收费为 0.35 美元/小时),而高频 RTX 4090 版本的价格仅为 $ 0.35 /小时 (相比之下,按需收费为每小时 0.69 美元)。高频配置 将 AI 图像生成速度提高高达 150% 通过优化的CPU-GPU 协调。

GPU 类型现货价格按需价格储蓄
RTX 4090(24GB)$ 0.18 /小时$ 0.35 /小时〜49%
RTX 4090 高频$ 0.35 /小时$ 0.69 /小时〜49%
额外 GPU 类型将很快适用于 Spot 实例,从而扩展不同工作负载需求的选项。

中断处理

保护窗口

每个 Spot 实例在启动后的第一个小时内均受到保护,不会中断。在此保护期内,无论容量需求如何,您的实例都不会被回收。

中断通知

在规划婴儿食品行业的工艺要求时,安全性和可靠性是工艺设计中最重要的方面。 Novita AI 需要回收 Spot 实例容量,系统提供:

  • 初步警告:中断前提前 1 小时通知
  • 最后的警告:实例终止前 5 分钟通知

这些通知允许您:

  • 保存工作和检查点进度
  • 将数据备份到持久存储
  • 优雅地关闭应用程序
  • 迁移到另一个 Spot 实例或按需实例

最佳实践

理想应用场景

Spot 实例最适合:

  • 批处理和带有检查点的分布式训练
  • 开发/测试环境
  • 容错或无状态应用程序
  • 灵活期限的工作量

在你开始之前

确保您的工作负载能够:

  • 处理中断并从检查点恢复
  • 在 1 小时的保护窗口内完成或容忍潜在的中断

通过 3 个步骤启动您的第一个 Spot 实例

现货实例 Novita AI

步骤 1:访问您的控制台
登录到您的 Novita AI GPU 安慰

第 2 步:切换到现货结算
在右侧边栏下 筛选,更改 计费方式“点” 查看折扣价格

步骤3:部署
选择您的 GPU 配置并点击 “部署”

就这样!您的 Spot 实例将启动:

  • 1小时保护期
  • 节省高达 50% 的成本
  • 提前 1 小时通知中断

专业提示:在您的应用程序中实施检查点,以妥善处理潜在的中断。

与按需实例的比较

特性竞价实例按需实例
定价最多可节省 50%标准费率
可用性视容量而定始终可用
中断风险可经通知收回没有打扰
保护期发射后 1 小时持续
用例灵活、容错的工作负载关键、不间断的工作负载

通过为适当的工作负载选择 Spot 实例,您可以访问同样强大的 GPU 资源,同时优化计算成本。

立即启动 Spot 实例 →

Novita AI 是一个 AI 云平台,它为开发人员提供了一种使用我们简单的 API 轻松部署 AI 模型的方法,同时还提供经济实惠且可靠的 GPU 用于构建和扩展的云。


探索 Novita 的更多内容

订阅即可将最新帖子发送到您的电子邮箱。

发表评论

滚动到顶部

探索 Novita 的更多内容

立即订阅以继续阅读并访问完整档案。

继续阅读