Ландшафт AI-вычислений переживает революционную трансформацию благодаря новейшему переходу NVIDIA от архитектуры Hopper к Blackwell. В марте 2025 года NVIDIA представила платформу AI-фабрики Blackwell Ultra, ознаменовав ключевой сдвиг в эпоху AI-рассуждений. Эта платформа — не просто постепенное улучшение, а преобразующий скачок, открывающий беспрецедентные возможности в обучении, рассуждении и инференсе AI.
Путь от Hopper к Blackwell представляет собой значительный технологический скачок, предназначенный для удовлетворения растущих требований искусственного интеллекта (AI) и высокопроизводительных вычислений (HPC). В этом блоге мы рассмотрим ключевые особенности обеих архитектур, выделим их технические достижения и более широкое влияние на развитие AI.
Обзор архитектуры NVIDIA Hopper
Техническая основа
Архитектура Hopper, названная в честь пионера вычислительной техники Грейс Хоппер, была построена на 4-нм техпроцессе TSMC. Она представила тензорные ядра четвёртого поколения и стала пионером в области Transformer Engine, специально разработанного для ускорения AI-нагрузок. Архитектура использовала технологию межсоединений NVLink 4.0 и память HBM3, устанавливая новые стандарты для высокопроизводительных вычислений.
Ключевые показатели производительности
Архитектура Hopper представляет собой значительный скачок в технологии GPU, обеспечивая существенные улучшения по нескольким показателям производительности, сохраняя при этом фокус на эффективности дата-центров. От впечатляющего роста производительности AI до улучшенных операций с памятью и расширенных возможностей межсоединений — Hopper утверждается как комплексное решение для современных вычислительных задач.
Ключевые особенности архитектуры Hopper:
- Улучшения вычислительной производительности:
- Поддержка формата FP8 с увеличением пропускной способности FP32 в 6 раз
- Улучшение производительности FP64 в 3 раза
- Увеличение производительности AI в 30 раз
- Оптимизация памяти и инструкций:
- Улучшенная задержка и пропускная способность операций с памятью
- Оптимизированная производительность инструкций тензорных ядер
- Технология межсоединений:
- Поддержка PCIe Gen 5
- NVLink четвёртого поколения
- Расширенные возможности взаимодействия
- Характеристики дата-центра:
- Фокус на энергоэффективности
- Подходит для крупномасштабного развёртывания
- Оптимизирован для современных дата-центров и AI-приложений
Основные прорывы и улучшения
- Transformer Engine: обеспечивает динамическую настройку точности, оптимизируя AI-нагрузки.
- Инструкции DPX: улучшают задачи динамического программирования, например, выравнивание последовательностей.
- Распределённая разделяемая память: улучшает взаимодействие и масштабируемость нескольких GPU.
Архитектура Blackwell: что нового и улучшенного?
Ключевые технологические особенности
Архитектура Blackwell, анонсированная на GTC 2024, предназначена для революции в генеративном AI и крупномасштабных AI-нагрузках. Она включает передовую технологию NVLink, пользовательские тензорные ядра и механизм RAS, обеспечивая работу AI-моделей реального времени с количеством параметров до 10 триллионов. Blackwell нацелен на снижение энергопотребления при AI-инференсе до 25 раз.
Выдающиеся улучшения производительности
Новая архитектура обеспечивает беспрецедентный прирост производительности:
- Улучшение производительности FP8 в 3 раза
- Ускорение обучения AI в 4 раза
- Увеличение производительности инференса в 40 раз
- Значительно улучшенные показатели энергоэффективности
Эти улучшения позволяют быстрее обучать более крупные AI-модели и более эффективно выполнять операции инференса.
Техническое сравнение: Hopper против Blackwell
Переход NVIDIA от архитектуры Hopper (H100) к Blackwell (B200) знаменует собой значительный технологический скачок в дизайне GPU. Новая архитектура Blackwell демонстрирует существенные улучшения по всем ключевым показателям, с заметными достижениями в количестве транзисторов, пропускной способности памяти, скорости межсоединений и производительности AI.
В следующей таблице приведено подробное сравнение характеристик двух поколений:
| Характеристика | Hopper (H100) | Blackwell (B200) |
|---|---|---|
| Техпроцесс | TSMC 4N (80 млрд транзисторов) | TSMC 4NP (208 млрд транзисторов) |
| Память | 80 ГБ HBM3 (3 ТБ/с) | 144 ГБ HBM3e (4.8 ТБ/с) |
| NVLink | 4-е поколение (900 ГБ/с) | 5-е поколение (1.8 ТБ/с) |
| Производительность AI | 4 PFLOPS (FP16) | 20 PFLOPS (FP16) |
| Энергоэффективность | Базовый уровень | Улучшение инференса в 25 раз |
| Основные случаи использования | Широкий спектр AI/HPC нагрузок | Генеративный AI, модели с триллионами параметров |
Hopper и Blackwell в реальных AI-приложениях
Продукты на архитектуре Hopper
Архитектура Hopper доступна в нескольких линейках продуктов:
| Продукт | H100 SXM | H100 PCIe | H200 SXM |
|---|---|---|---|
| Память | 80 ГБ HBM3 | 80 ГБ HBM2e | 141 ГБ HBM3e |
| Пропускная способность памяти | 3.35 ТБ/с | 2.04 ТБ/с | 4.8 ТБ/с |
| NVLink | 900 ГБ/с | N/A | 900 ГБ/с |
| Макс. TDP | До 700 Вт | 350 Вт | До 700 Вт |
| Multi-Instance GPU | До 7 MIG по 10 ГБ | N/A | До 7 MIG по 16.5 ГБ |
Продукты на архитектуре Blackwell
Blackwell представляет новое поколение AI-ускорителей:
| Продукт | B100 | B200 | GB200 (Grace Blackwell) |
|---|---|---|---|
| Конструкция | GPU Blackwell | GPU Blackwell | 2× GPU B200 + CPU Grace |
| Память | 192 ГБ HBM3e | 192 ГБ HBM3e | 384 ГБ HBM3e |
| Пропускная способность памяти | 8 ТБ/с | 8 ТБ/с | 16 ТБ/с |
| NVLink | 1.8 ТБ/с (5-е поколение) | 1.8 ТБ/с (5-е поколение) | 1.8 ТБ/с (5-е поколение) |
| Производительность FP4 | 7 PFLOPS | 9 PFLOPS | 20 PFLOPS |
| TDP | 700 Вт | 1000 Вт | N/A |
Возможности обучения генеративных AI-моделей
Обе архитектуры демонстрируют исключительные возможности в обучении больших AI-моделей, причём Blackwell показывает до 3-кратного ускорения обучения по сравнению с Hopper. Ключевые улучшения включают улучшенную обработку трансформеров, оптимизированную пропускную способность памяти и более эффективные возможности параллельной обработки. Архитектуры позволяют обучать всё более крупные языковые модели, снижая при этом энергопотребление и время обучения.
Blackwell Ultra: следующая эволюция AI-вычислений
Анонсированный 18 марта 2025 года на GTC 2025, Blackwell Ultra представляет собой новейшую эволюцию платформы AI-вычислений NVIDIA.
Технические характеристики и улучшения
- Линейка продуктов включает GB300 NVL72 и HGX B300 NVL16
- GB300 NVL72 обеспечивает в 1.5 раза больше производительности AI, чем GB200 NVL72
- HGX B300 NVL16 по сравнению с архитектурой Hopper достигает:
- 11-кратного ускорения инференса
- 7-кратного увеличения вычислительной мощности
- 4-кратного увеличения памяти
- Интегрирует NVIDIA Spectrum-X Ethernet и Quantum-X800 InfiniBand, обеспечивая пропускную способность 800 Гбит/с на GPU
- Оснащён DPU BlueField-3 для многопользовательских сетей, эластичности GPU-вычислений и обнаружения угроз в реальном времени
Передовые решения памяти и охлаждения
- Использует ConnectX-8 SuperNIC для высокопроизводительных возможностей RDMA
- Оптимизирован для AI-фабрик и облачных дата-центров для устранения узких мест производительности
- Поддерживает различные конфигурации:
- 72 GPU Blackwell Ultra
- 36 CPU Grace на базе Arm Neoverse
- Масштабируемая конструкция уровня стойки, функционирующая как единый массивный GPU
Функции оптимизации LLM
- Оптимизирован для AI-рассуждений и агентного AI:
- Поддерживает рассуждение и итеративное планирование для сложных многошаговых задач
- Способен генерировать синтетическое видео в реальном времени для обучения
- Поддержка программного обеспечения:
- Новая среда выполнения инференса с открытым исходным кодом NVIDIA Dynamo
- Поддержка моделей NVIDIA Llama Nemotron Reason
- Интеграция с платформой NVIDIA AI Enterprise
- Ожидается доступность через крупных производителей серверов и облачных провайдеров во второй половине 2025 года
Выберите Novita AI в качестве надёжного партнёра по GPU
По мере того как AI-вычисления продолжают развиваться с революционными архитектурами NVIDIA, выбор правильного облачного партнёра по GPU становится критически важным. Novita AI предлагает комплексную платформу, предоставляющую доступ к высокопроизводительным GPU со значительными преимуществами в стоимости.
Если вы заинтересованы в Novita AI, выполните следующие шаги:
Шаг 1: Создайте аккаунт
Посетите сайт Novita AI, чтобы зарегистрироваться. После завершения регистрации перейдите в раздел «GPU», чтобы изучить доступные ресурсы и начать свой AI-путь.
Шаг 2: Выберите ваш GPU
Наша платформа предлагает множество предварительно настроенных шаблонов, адаптированных под ваши конкретные требования, а также гибкость создания собственных шаблонов по мере необходимости.
Попробуйте высокопроизводительные GPU Novita AI
Шаг 3: Настройте свою конфигурацию
Запустите свой проект сегодня с 60 ГБ бесплатного хранилища контейнеров — без первоначальных затрат. Масштабируйте хранилище по мере роста ваших AI-нагрузок, платя только за дополнительное пространство.
Шаг 4: Запустите свой экземпляр
Просто выберите «On Demand», подтвердите настройки и цену, затем нажмите «Deploy», чтобы начать.
Заключение
Путь от Hopper к Blackwell представляет собой значительный скачок в возможностях AI-вычислений. В то время как Hopper установил новые стандарты для обучения AI и научных вычислений, Blackwell расширяет эти границы с драматическими улучшениями производительности, эффективности и универсальности. Эта эволюция не только продвигает техническое лидерство NVIDIA, но и ускоряет более широкое внедрение AI в различных отраслях. Заглядывая в будущее, эти архитектурные достижения продолжат открывать новые возможности в области искусственного интеллекта и научных вычислений.
Часто задаваемые вопросы
Чем Blackwell Ultra отличается от стандартных GPU Blackwell?
Blackwell Ultra представляет собой вершину архитектуры с дополнительными улучшениями производительности, передовыми решениями охлаждения и специализированными функциями, оптимизированными специально для обучения и инференса больших языковых моделей.
Какую архитектуру GPU выбрать для моего AI-проекта?
Оптимальный выбор зависит от ваших конкретных требований. Hopper идеально подходит для устоявшихся AI-процессов, в то время как Blackwell предлагает превосходную производительность для передовых приложений. Novita AI может предоставить персональные рекомендации на основе ваших потребностей.
Насколько сложно перенести нагрузки с Hopper на Blackwell?
NVIDIA сохранила программную совместимость между поколениями, что делает миграцию относительно простой. Большинство кода, оптимизированного для Hopper, будет работать на Blackwell без изменений, однако рекомендуется перекомпилировать с последним набором инструментов CUDA, чтобы воспользоваться оптимизациями, специфичными для Blackwell.
Novita AI — это облачная платформа AI, которая предлагает разработчикам лёгкий способ развёртывания AI-моделей с помощью простого API, а также предоставляет доступное и надёжное облако GPU для создания и масштабирования проектов.
Рекомендуемое чтение
Сравнение GPU для моделирования AI: полное руководство
Сколько оперативной памяти нужно для машинного обучения?
Выбор лучшего GPU для машинного обучения в 2025 году: полное руководство
