NVIDIA GeForce RTX 5090 于 2025 年 1 月 30 日发布,凭借 920 亿个晶体管和每秒 3,352 万亿次 AI 运算(TOPS),代表了 GPU 技术的巅峰。Novita AI 通过竞价实例(Spot Instances)以仅 $0.25/小时 的价格提供这一旗舰 Blackwell 架构 GPU,而按需定价为 $0.50/小时。
RTX 5090 拥有 21,760 个 CUDA 核心、32GB GDDR7 显存和 1,792 GB/s 显存带宽,性能比上一代提升高达 2 倍。Novita AI 的竞价实例模型利用闲置 GPU 容量,可节省高达 50% 的成本,类似于该平台以 $0.18/小时(按需 $0.35/小时)提供 RTX 4090 GPU。每个竞价实例均包含 1 小时保护期和提前中断通知,使开发者能够以初创公司友好的价格获得企业级计算能力。
RTX 5090 的规格是什么?
RTX 5090 的 Blackwell 架构引入了突破性能力,NVIDIA CEO 黄仁勋称其为“自可编程着色以来最重要的计算机图形创新”。该 GPU 基于 920 亿个晶体管打造,为游戏和 AI 工作负载提供了前所未有的性能。
核心架构与处理能力
RTX 5090 包含 21,760 个 CUDA 核心,分布在 170 个流式多处理器(SM)中,比 RTX 4090 的 16,384 个核心增加了 33%。这些核心的基础时钟频率为 2.0 GHz,加速频率可达 2.41 GHz。尽管核心数量庞大,NVIDIA 仍保持了高频率,从而在并行处理任务中实现卓越吞吐量。
该 GPU 包含 680 个专为 AI 加速优化的第五代张量核心。这些张量核心可提供 3,352 AI TOPS(万亿次运算/秒),使 RTX 5090 在深度学习任务中异常强大。此外,170 个第四代 RT 核心具备改进的光线-三角形相交性能,可在实时应用中呈现逼真的光照和阴影。
内存配置:32GB GDDR7
32GB GDDR7 显存是一次重大升级,比 RTX 4090 的 24GB 增加了 33%。基于 512 位内存总线,此配置可提供 1,792 GB/s 的带宽——比上一代高出 78%。如此巨大的带宽确保了 21,760 个 CUDA 核心在处理大型数据集或高分辨率纹理时能够保持充分利用。
从 GDDR6X 升级到 GDDR7 技术不仅提升了容量,还提高了能效。有效速度为 28 Gbps(RTX 4090 为 21 Gbps),数据在内存和处理核心之间移动更快,消除了此前在内存密集型应用中限制 GPU 性能的瓶颈。
功耗与散热要求
RTX 5090 公版的 TDP(总设计功耗)为 575W,远高于 RTX 4090 的 450W。NVIDIA 设计了一款革命性的双槽散热方案,采用 3D 均热板、集成热管和双面风扇,风量达到传统设计的双倍。该显卡使用 16 针 PCIe 5.0 电源接口,本地安装需要强劲的电源。
在 Novita AI 的云平台上,这些功耗和散热要求对用户而言无关紧要。数据中心基础设施负责所有供电和热管理,您只需专注于利用 GPU 的计算能力。
在 Novita AI 上使用 RTX 5090 需要多少费用?
RTX 5090 公版建议零售价 $1,999,是有史以来最昂贵的消费级 GPU 之一。Novita AI 通过两种定价模式将高昂的前期成本转化为实惠的小时费率。
竞价实例 vs 按需定价
| 定价模型 | RTX 5090 费率 | 月度费用 (720 小时) | 节省 |
|---|---|---|---|
| **竞价实例 ** | **$0.25/小时 ** | $180 | 50% |
| **按需 ** | **$0.50/小时 ** | $360 | — |
竞价实例 $0.25/小时的价格使预算有限的项目也能使用 RTX 5090。连续运行一整月仅需 $180,而硬件购买价格为 $1,999。按此推算,您需要以竞价实例费率运行 GPU 长达 8,000 小时(333 天)才能与初始投资持平,这还不包括电费或折旧。
按需定价 $0.50/小时提供无中断风险的保证可用性。此定价层适用于生产工作负载、面向客户的应用程序以及任何中断都会影响业务的关键计算任务。
Novita AI GPU 产品组合对比
Novita AI 提供多种 GPU 选项,价格不同:
| GPU 型号 | 竞价价格 | 按需价格 | 节省 | 显存 |
|---|---|---|---|---|
| RTX 5090 | **$0.25/小时 ** | **$0.50/小时 ** | 50% | 32GB GDDR7 |
| RTX 4090 | $0.18/小时 | $0.35/小时 | ~49% | 24GB GDDR6X |
| RTX 4090 高频版 | $0.35/小时 | $0.69/小时 | ~49% | 24GB GDDR6X |
高频版 RTX 4090 通过优化的 CPU-GPU 协调,可将 AI 图像生成速度提升高达 150%,体现了 Novita AI 在硬件规格之外追求性能优化的承诺。
盈亏平衡分析
对于每月训练模型 200 小时的机器学习初创公司,竞价实例每月花费 $50,按需则为 $100——每年节省 $600。一个每月运行模拟 500 小时的研究实验室,使用竞价实例每月节省 $125(每年 $1,500)。这些节省的资金可用于更多实验、更长的训练运行或其他研究资源。
如何在 Novita AI 上三步部署 RTX 5090?
在 Novita AI 上启动 RTX 5090 竞价实例的流程与其他 GPU 部署一样简洁高效。

步骤 1:访问控制台
登录您的 Novita AI GPU 控制台。仪表盘会显示实时的 GPU 可用性、当前竞价实例容量以及您最近的部署情况。此概览可帮助您就何时何地部署实例做出明智决策。
步骤 2:切换为竞价计费
在右侧边栏的“筛选”下,将“计费方式”从“按需”改为“竞价”,即可查看折扣价格。界面会立即更新,显示 RTX 5090 为 $0.25/小时(原 $0.50/小时),并清晰标出 50% 的节省比例。这种透明性确保您在部署前清楚了解费用。
步骤 3:部署
选择您的 RTX 5090 配置并点击“部署”。实例将在数秒内启动,并附带:
- 1 小时保护期保障
- 最多 50% 的成本节省
- 已配置 1 小时提前中断通知
- 预装的 AI 框架
专业提示:在应用程序中实施检查点,以优雅地处理潜在中断。
每个实例都预配置了 PyTorch 2.0+、TensorFlow、CUDA 12.x、cuDNN 以及诸如 Hugging Face Transformers 等流行库。这省去了数小时的设置时间,让您能够立即投入生产。
Novita AI 竞价实例如何工作?
竞价实例利用 Novita AI 的闲置 GPU 容量,以更低价格提供这些容量,因为当常规实例需求增加时,这些容量可能会被回收。该模式已在 RTX 4090 GPU 上获得成功,其价格低至 $0.18/小时(按需 $0.35/小时)。
主要特性
可用性可变:当 Novita AI 需要回收容量时,竞价实例可能会被中断。但这并不意味着随机终止——平台会按照结构化流程提前通知。
显著成本节省:以低于按需价格 50% 的价格获得相同的 GPU 性能。硬件和性能完全相同,仅可用性保证有所区别。
保护期:每个竞价实例在启动后包含 1 小时保护窗口。在此期间,无论容量需求如何,您的实例都不会被中断。
提前通知:在回收前 1 小时收到中断通知,并额外提供 5 分钟警告。这些通知允许您保存工作、记录检查点进度并优雅地关闭应用程序。
与按需实例对比
| 特性 | 竞价实例 | 按需实例 |
|---|---|---|
| 价格 | 低至 50% | 标准费率 |
| 可用性 | 受容量影响 | 始终可用 |
| 中断风险 | 可能被回收并通知 | 无中断 |
| 保护期 | 启动后 1 小时 | 持续 |
| 适用场景 | 灵活、容错的工作负载 | 关键、不可中断的工作负载 |
为合适的工作负载选择竞价实例,您就能以优化的计算成本获得相同强大的 GPU 资源。
了解更多:Novita AI 竞价实例指南
为什么 RTX 5090 非常适合 AI 和机器学习?
RTX 5090 的架构专门针对 AI 和机器学习工作负载,具备此前仅数据中心 GPU 才有的特性。大规模计算能力、充足显存以及先进精度支持的结合,使其在现代 AI 应用中表现出色。
张量核心演进与 AI 计算
第五代张量核心支持 FP8 以及实验性的 FP4 等更新的精度格式,可在某些模型上将 AI 吞吐量提高一倍,同时对精度影响极小。3,352 AI TOPS 的计算能力接近 NVIDIA A100 和 H100 数据中心加速器,但以更易获取的形式呈现。
实际应用中,这意味着更快的训练时间和更高的推理吞吐量。一个在 RTX 4090 上需要 6 小时训练的 transformer 模型,在 RTX 5090 上可能仅需 4 小时。Stable Diffusion XL 图像生成从每张 3.5 秒提升至约 2 秒,实现更快的迭代和实验。
大型语言模型能力
32GB GDDR7 显存使半精度下无需模型并行或梯度检查点即可训练高达 130 亿参数的 transformer 模型。与 RTX 4090 的 24GB 相比,后者通常需要对超过 70 亿参数的模型进行优化技术,这是一项重大改进。
微调预训练模型变得异常高效。此前受显存限制的 LoRA 微调现在可以舒适运行,并留出更大批处理大小的空间。增加的显存还允许处理更长的上下文长度和更复杂的模型架构,而不会遇到显存溢出错误。
与数据中心 GPU 对比
令人惊讶的是,RTX 5090 的 920 亿个晶体管甚至超过了 H100 的 800 亿个。虽然缺少 ECC 内存、NVLink 互连和多实例 GPU(MIG)等功能,但 RTX 5090 以极低的成本提供了接近数据中心的性能。
RTX 5090 提供 83 TFLOPS 的 FP32 算力,而 A100 为 19.5 TFLOPS,接近 H100 的 67 TFLOPS。对于许多 AI 从业者来说,这相当于以消费级 GPU 的价格获得数据中心级别的性能,特别是通过 Novita AI 的竞价实例以 $0.25/小时 访问时。
哪些工作负载最适合 RTX 5090 竞价实例?
竞价实例最适合能够处理中断或在 1 小时保护期内完成的工作负载。了解哪些应用受益最大,有助于在降低操作复杂性的同时最大化价值。
理想使用场景
批处理和分布式训练:定期检查点的大规模模型训练可从 50% 成本节省中获益。跨多个竞价实例的分布式训练可以在保持成本可控的同时缩短训练时间。超参数调整和架构搜索天然适合竞价模式,因为单个实验是独立的。
开发和测试环境:原型开发、性能基准测试和 ML 模型的 CI/CD 流水线在竞价实例上表现出色。成本节省使得更多的实验和更长的测试运行成为可能,而不必担心预算问题。
容错应用:带负载均衡的无状态推理服务、渲染和视频处理流水线、蒙特卡洛模拟以及遗传算法都可以有效利用竞价实例。这些工作负载对中断具有固有的弹性,使其成为理想候选。
灵活截止期限的工作负载:没有严格截止时间的研究计算、隔夜训练运行、数据迁移和转换任务以及归档处理,都能从竞价实例的经济性中获益,而不会危及关键截止日期。
开始之前
确保您的工作负载能够处理中断并从检查点恢复。任务应在 1 小时保护期内完成,或能够容忍潜在中断。实施检查点保存到持久化存储,并使用基于队列的任务分发以提高弹性。
更适合按需的工作负载
某些工作负载需要按需实例的保证可用性:实时生产服务、面向客户的应用程序、无法处理中断的工作负载以及没有检查点的时间关键型计算。对于这些用例,$0.50/小时的按需定价提供了安心和运营稳定性。
结论
NVIDIA RTX 5090 代表了 GPU 技术的巨大飞跃,拥有 920 亿个晶体管、21,760 个 CUDA 核心和 32GB GDDR7 显存,可实现每秒 3,352 万亿次 AI 运算。这款旗舰 Blackwell 架构 GPU 售价 $1,999,性能比上一代提升高达 2 倍。
Novita AI 通过竞价实例以仅 $0.25/小时(相比按需价格节省 50%)的价格,让这一尖端硬件触手可及。遵循已获 RTX 4090 GPU($0.18/小时)成功验证的模式,Novita AI 的竞价实例利用闲置容量,使企业级计算对所有人都变得负担得起。
立即开始利用 RTX 5090 的强大性能,通过 Novita AI 简单的三步部署流程。体验 920 亿晶体管计算能力以 $0.25/小时的价格,如何加速您的创新而不增加开支。
常见问题
NVIDIA RTX 5090 何时发布?
NVIDIA 于 2025 年 1 月 30 日正式发布 GeForce RTX 5090。该显卡在该月早些时候的 CES 2025 上宣布,并于 1 月底限量上架。
RTX 5090 的价格是多少?
RTX 5090 公版首发建议零售价为 $1,999 美元。华硕、微星等合作伙伴的显卡价格可能更高。在 Novita AI 上,您可以通过竞价实例以 $0.25/小时访问 RTX 5090 性能,或按需 $0.50/小时——避免了巨额前期投资。
RTX 5090 比 RTX 4090 快多少?
NVIDIA 宣称在某些场景下性能可达 RTX 4090 的 2 倍。实际使用中,许多游戏和基准测试在 4K 分辨率下帧率提升 20-50%。使用 DLSS 4 的多帧生成技术时,性能差距可能进一步扩大。对于 GPU 计算任务(如渲染),预计提升约 35-45%。
Novita AI 的竞价实例定价如何运作?
竞价实例利用闲置 GPU 容量,提供高达 50% 的折扣。RTX 5090 竞价实例价格为 $0.25/小时,按需为 $0.50/小时。每个实例包含 1 小时保护期和 1 小时提前中断通知。该模式非常适合批处理、带检查点的 ML 训练以及灵活的研究工作负载。
我能否使用多个 RTX 5090 GPU 进行分布式训练?
是的,您可以在 Novita AI 上部署多个 RTX 5090 实例进行分布式训练。此方法允许您跨多个 GPU 扩展训练,缩短完成时间。通过每个 GPU 仅 $0.25/小时的竞价实例,即使是小型团队也能实现经济可行的分布式训练。
竞价实例与按需实例性能相同吗?
是的,竞价实例提供与按需实例相同的硬件和性能。唯一的区别是可用性——竞价实例可能会被中断并收到通知,而按需实例持续运行。两者均能提供 RTX 5090 的全部性能。
Novita AI 是一个 AI 云平台,为开发者提供通过简单 API 部署 AI 模型的简便方式,同时提供经济实惠且可靠的 GPU 云用于构建和扩展。
