下一代AI计算:NVIDIA从Hopper到Blackwell的演进之路

下一代AI计算:NVIDIA从Hopper到Blackwell的演进之路

AI 计算领域正经历一场革命性变革,NVIDIA 从 Hopper 架构到 Blackwell 架构的最新演进就是明证。2025 年 3 月,NVIDIA 发布了 Blackwell Ultra AI 工厂平台,标志着向 AI 推理时代的重大转变。这一平台不仅仅是渐进式改进,更是一次变革性飞跃,能够在 AI 训练、推理和推断中实现前所未有的能力。

从 Hopper 到 Blackwell 的演进代表了技术的重大飞跃,旨在满足人工智能(AI)和高性能计算(HPC)不断变化的需求。本博客将深入探讨两种架构的关键特性,突出其技术进展以及对 AI 开发的广泛影响。

NVIDIA Hopper 架构概览

技术基础

Hopper 架构以计算先驱 Grace Hopper 命名,基于 TSMC 的 4nm 制程技术。它引入了第四代 Tensor Core,并开创了 Transformer Engine,专门用于加速 AI 工作负载。该架构采用了 NVLink 4.0 互连技术和 HBM3 内存,为高性能计算树立了新标准。

关键性能指标

Hopper 架构代表了 GPU 技术的重大进步,在多项性能指标上带来了大幅提升,同时始终关注数据中心效率。从 AI 性能的显著提升到内存操作和高级互连能力的增强,Hopper 成为现代计算挑战的全面解决方案。

Hopper 架构的关键特性:

  1. 计算性能提升:
  • FP8 格式支持,FP32 吞吐量提升 6 倍
  • FP64 性能提升 3 倍
  • AI 性能提升 30 倍
  1. 内存与指令优化:
  • 增强的内存操作延迟与吞吐量
  • 优化的 Tensor Core 指令性能
  1. 互连技术:
  • PCIe Gen 5 支持
  • 第四代 NVLink
  • 增强的互连能力
  1. 数据中心特点:
  • 注重能效
  • 适合大规模部署
  • 针对先进数据中心和 AI 应用优化

主要突破与改进

  • Transformer Engine:支持动态精度调整,优化 AI 工作负载。
  • DPX 指令:增强动态规划任务,如序列比对。
  • 分布式共享内存:改进多 GPU 通信与可扩展性。

Blackwell 架构:新特性与改进

关键技术亮点

Blackwell 架构在 GTC 2024 上发布,旨在彻底改变生成式 AI 和大规模 AI 工作负载。它采用先进的 NVLink 技术、自定义 Tensor Core 和 RAS 引擎,支持实时 AI 模型,参数规模高达 10 万亿。Blackwell 旨在将 AI 推断的能耗降低高达 25 倍。

显著的性能提升

新架构带来了前所未有的性能提升:

  • FP8 性能提升 3 倍
  • AI 训练速度提升 4 倍
  • 推断性能提升 40 倍
  • 能效比显著提高

这些改进使得更大规模 AI 模型的训练更快,推断操作更高效。

技术对比:Hopper vs. Blackwell

NVIDIA 从 Hopper(H100)到 Blackwell(B200)架构的过渡标志着 GPU 设计的重大技术飞跃。新的 Blackwell 架构在晶体管数量、内存带宽、互连速度和 AI 性能等所有关键指标上均表现出显著改进。

下表详细对比了两代产品的规格:

特性 Hopper (H100) Blackwell (B200)
制程 TSMC 4N(800亿晶体管) TSMC 4NP(2080亿晶体管)
内存 80 GB HBM3(3 TB/s) 144 GB HBM3e(4.8 TB/s)
NVLink 第四代(900 GB/s) 第五代(1.8 TB/s)
AI 性能 4 PFLOPS(FP16) 20 PFLOPS(FP16)
能效 基准 推断能效提升 25 倍
关键应用场景 广泛 AI/HPC 工作负载 生成式 AI、万亿参数模型

Hopper 和 Blackwell 在真实 AI 应用中的表现

Hopper 架构产品

Hopper 架构提供多种产品线:

产品 H100 SXM H100 PCIe H200 SXM
内存 80GB HBM3 80GB HBM2e 141GB HBM3e
内存带宽 3.35 TB/s 2.04 TB/s 4.8 TB/s
NVLink 900 GB/s N/A 900 GB/s
最大 TDP 最高 700W 350W 最高 700W
多实例 GPU 最多 7 个 MIG @10GB N/A 最多 7 个 MIG @16.5GB

Blackwell 架构产品

Blackwell 推出了新一代 AI 加速器:

产品 B100 B200 GB200 (Grace Blackwell)
设计 Blackwell GPU Blackwell GPU 2× B200 GPU + Grace CPU
内存 192GB HBM3e 192GB HBM3e 384GB HBM3e
内存带宽 8 TB/s 8 TB/s 16 TB/s
NVLink 1.8 TB/s(第五代) 1.8 TB/s(第五代) 1.8 TB/s(第五代)
FP4 性能 7 PFLOPS 9 PFLOPS 20 PFLOPS
TDP 700W 1000W N/A

生成式 AI 模型训练能力

两种架构在训练大型 AI 模型方面均表现出色,Blackwell 的训练速度相比 Hopper 提升高达 3 倍。主要改进包括增强的 Transformer 处理能力、优化的内存带宽以及更高效的并行处理能力。这些架构使得训练越来越大的语言模型成为可能,同时降低功耗和训练时间。

Blackwell Ultra:下一代 AI 计算演进

2025 年 3 月 18 日在 GTC 2025 上宣布的 Blackwell Ultra 代表了 NVIDIA AI 计算平台的最新演进。

技术规格与改进

  • 产品线包括 GB300 NVL72 和 HGX B300 NVL16
  • GB300 NVL72 的 AI 性能比 GB200 NVL72 提升 1.5 倍
  • 与 Hopper 架构相比,HGX B300 NVL16 实现:
    • 推断速度提升 11 倍
    • 计算能力提升 7 倍
    • 内存容量提升 4 倍
  • 集成 NVIDIA Spectrum-X 以太网和 Quantum-X800 InfiniBand,每 GPU 提供 800Gb/s 数据吞吐量
  • 配备 BlueField-3 DPU,实现多租户网络、GPU 计算弹性以及实时安全检测
  • 利用 ConnectX-8 SuperNIC 实现高性能 RDMA 能力
  • 针对 AI 工厂和云数据中心优化,消除性能瓶颈
  • 支持多种配置:
    • 72 块 Blackwell Ultra GPU
    • 36 个 Arm Neoverse 架构的 Grace CPU
    • 机架级设计,作为单个巨大 GPU 运行

先进内存与散热解决方案

LLM 优化特性

  • 针对 AI 推理和智能体 AI 优化:
    • 支持推理和迭代规划,解决复杂多步骤问题
    • 能够实时生成合成视频用于训练
  • 软件支持:
    • 全新开源 NVIDIA Dynamo 推理框架
    • 支持 NVIDIA Llama Nemotron Reason 模型
    • 集成 NVIDIA AI Enterprise 软件平台
  • 预计 2025 年下半年可通过主要服务器制造商和云服务提供商获得

选择 Novita AI 作为您值得信赖的 GPU 合作伙伴

随着 AI 计算借助 NVIDIA 突破性架构持续演进,选择合适的 GPU 云合作伙伴变得至关重要。Novita AI 提供全面的平台,让您能够以显著的成本优势获得高性能 GPU。

如果您对 Novita AI 感兴趣,请按照以下步骤开始:

步骤 1: 创建一个 账户

访问 Novita AI 网站注册账户。完成注册后,前往“GPUs”部分探索可用资源并开始您的 AI 之旅。

Novita AI 网站截图

[立即尝试 Novita AI](https://novita.ai/?utm_source=blogs_GPU&utm_medium=article&utm_campaign=The Next Generation of AI Computing: NVIDIA’s Journey from Hopper to Blackwell)

步骤 2: 选择您的 GPU****

我们的平台提供多种预制模板,可根据您的特定需求选择,同时也支持根据需要创建自定义模板。

novita ai 网站截图使用 cloud gpu

[尝试 Novita AI 的高性能 GPU](https://novita.ai/gpus-console/?utm_source=blogs_GPU&utm_medium=article&utm_campaign=The Next Generation of AI Computing: NVIDIA’s Journey from Hopper to Blackwell)

步骤 3: 自定义您的设置****

立即启动项目,享受 60GB 免费容器存储空间——无需前期成本。随着 AI 工作负载增长,按需扩展存储,只为额外空间付费。

novita ai 网站截图

步骤 4: 启动实例****

只需选择“On Demand”,确认您的设置和定价,然后点击“Deploy”即可开始。

novita ai 网站截图

结论

从 Hopper 到 Blackwell 的演进代表了 AI 计算能力的重大飞跃。尽管 Hopper 为 AI 训练和科学计算树立了新标准,Blackwell 通过大幅提升性能、效率和通用性,进一步拓展了这些边界。这一演进不仅巩固了 NVIDIA 的技术领先地位,也加速了 AI 在各行业的广泛采用。展望未来,这些架构上的进步将继续为人工智能和科学计算带来新的可能性。

常见问题解答

Blackwell Ultra 与标准 Blackwell GPU 有何不同?

Blackwell Ultra 代表了该架构的巅峰,具备额外的性能增强、先进的散热解决方案,以及专门为大语言模型训练和推断优化的特性。

我应该为 AI 项目选择哪种 GPU 架构?

最佳选择取决于您的具体需求。Hopper 适合成熟的 AI 工作流,而 Blackwell 在尖端应用中提供卓越性能。Novita AI 可以根据您的需求提供个性化推荐。

从 Hopper 迁移工作负载到 Blackwell 难度如何?

NVIDIA 在代际之间保持了软件兼容性,迁移相对简单。大多数为 Hopper 优化的代码无需修改即可在 Blackwell 上运行,但建议使用最新的 CUDA 工具包重新编译,以充分利用 Blackwell 特有的优化。

*[Novita AI](https://novita.ai/?utm_source=blogs_GPU&utm_medium=article&utm_campaign=The Next Generation of AI Computing: NVIDIA’s Journey from Hopper to Blackwell) 是一个 AI 云平台,为开发者提供通过简单 API 部署 AI 模型的便捷方式,同时提供高性价比、可靠的 GPU 云用于构建和扩展。

推荐阅读

AI 建模 GPU 对比:全面指南

机器学习需要多少内存?

2025 年机器学习最佳 GPU 选择:完整指南