Die NVIDIA B200 ist da – als Bare Metal, blitzschnell und jetzt verfügbar bei Novita AI.
Erleben Sie über 30.000 Token pro Sekunde auf DeepSeek-R1 mit der NVIDIA B200 – angetrieben von der neuesten Blackwell-Architektur und entwickelt für LLMs, generative KI und unternehmensweite Inferenz. Keine Hardware? Kein Problem. Novita AI bietet Ihnen On-Demand-Zugriff zu einem Bruchteil der Kosten.
Was ist die B200?
Die NVIDIA B200 ist eine GPU der nächsten Generation, die auf der Blackwell-Architektur basiert und eine bahnbrechende KI-Leistung mit bis zu 72 PetaFLOPS für Training und 144 PetaFLOPS für Inferenz liefert. Damit ist sie ideal für große Sprachmodelle und generative KI-Workloads.
Wichtige Leistungskennzahlen
| Komponente | Details |
| GPU | 8x NVIDIA Blackwell GPUs |
| GPU-Speicher | 1.440 GB gesamt, 64 TB/s HBM3e-Bandbreite |
| Leistung | 72 PetaFLOPS FP8-Training und 144 PetaFLOPS FP4-Inferenz |
| NVIDIA NVSwitch | 2x |
| NVIDIA NVLink-Bandbreite | 14,4 TB/s aggregierte Bandbreite |
| Systemleistungsaufnahme | ~14,3 kW max |
| CPU | 2x Intel Xeon Platinum 8570 Prozessoren, 112 Kerne gesamt, 2,1 GHz (Basis), 4 GHz (Max Boost) |
| Systemspeicher | 2 TB, konfigurierbar auf 4 TB |
| Netzwerk | 4x OSFP-Ports (8x Single-Port NVIDIA ConnectX-7 VPI), bis zu 400 Gb/s Infiniband/Ethernet; 2x Dual-Port QSFP112 BlueField-3 DPU, bis zu 400 Gb/s Infiniband/Ethernet |
| Management-Netzwerk | 10 Gb/s Onboard-NIC mit RJ45; 100 Gb/s Dual-Port Ethernet-NIC; BMC mit RJ45 |
| Speicher | Betriebssystem: 2x 1,9 TB NVMe M.2, Intern: 8x 3,84 TB NVMe U.2 |
| Software | NVIDIA AI Enterprise, NVIDIA Mission Control, NVIDIA Runai Technology, NVIDIA DGX OS / Ubuntu |
| Rack-Einheiten (RU) | 10 RU |
| Systemabmessungen | Höhe: 444 mm (17,5 Zoll), Breite: 482,2 mm (19,0 Zoll), Tiefe: 897,1 mm (35,3 Zoll) |
| Betriebstemperatur | 5–30 °C (41–86 °F) |
| Enterprise-Support | 3 Jahre Standard-Support für Hardware/Software; 24/7 Support-Portal-Zugang; Live-Agent während der Geschäftszeiten |
Im Grunde handelt es sich um einen KI-Supercomputer, der:
- Fortschrittliche KI-Modelle (wie ChatGPT, Claude) trainieren kann
- Tausende von KI-Inferenzanfragen gleichzeitig bedienen kann
- Riesige Datenmengen für Forschung oder Business Intelligence verarbeiten kann
- KI-Anwendungen für ganze Organisationen antreiben kann
Kosteneffizienz der B200
Dieser Preis gilt nicht für eine einzelne GPU. Er deckt in der Regel ein komplettes DGX-System ab mit:
- 8x Blackwell B200 GPUs
- Dual-Xeon-CPUs
- Hochgeschwindigkeits-NVLink- und NVSwitch-Verbindungen
- 1,44 TB HBM3e GPU-Speicher
- 2 TB+ Systemspeicher
- Enterprise-Netzwerk, SSDs und Software-Stack (NVIDIA AI Enterprise, Run:ai usw.)
Anwendungen der B200
1. KI-Training und Inferenz
Die B200 zeichnet sich sowohl beim Training als auch bei der Inferenz von KI-Modellen im großen Maßstab aus, insbesondere bei großen Sprachmodellen (LLMs) und generativen KI-Anwendungen.
- Training: Mit der Second-Generation Transformer Engine und der Unterstützung für FP4-Präzision beschleunigt die B200 den Trainingsprozess massiver Modelle und reduziert Zeit und Rechenressourcen.
- Inferenz: Die B200 liefert eine außergewöhnliche Inferenzleistung und erreicht in Benchmarks mit Modellen wie Meta’s Llama 4 Maverick über 1.000 Token pro Sekunde pro Benutzer.
2. Grafik und Visualisierung
Obwohl hauptsächlich für KI-Workloads konzipiert, unterstützt die B200 auch anspruchsvolle Grafik- und Visualisierungsaufgaben:
- Raytracing: Ausgestattet mit RT Cores der 4. Generation kann die B200 Echtzeit-Raytracing durchführen und so fotorealistisches Rendering für komplexe Szenen ermöglichen.
- Shader-Technologie: Die GPU-Architektur enthält Verbesserungen wie Shader Execution Reordering (SER) 2.0, das die Ausführung komplexer Shader-Programme und Compute-Kernel optimiert.
3. Präzisions-Workloads
Die B200 ist hervorragend geeignet für präzisionsintensive Aufgaben in verschiedenen wissenschaftlichen und industriellen Bereichen:
- Die NVIDIA B200 GPU basierend auf der Blackwell-Architektur unterstützt Gleitkommaoperationen (FP) durch ihre Tensor Cores der fünften Generation. Diese Tensor Cores sind für verschiedene FP-Präzisionen ausgelegt, darunter FP4, FP6, FP8, FP16 und TF32, und ermöglichen eine effiziente Beschleunigung von KI-Workloads.
B200 + DeepSeek R1 = Weltrekord
| GPU-Setup | Gesamtdurchsatz | Anmerkungen |
|---|---|---|
| 8x NVIDIA B200 (DGX B200) | Über 30.000 Token/s | Erreicht mit TensorRT-LLM und FP4-Präzision |
| 8x NVIDIA H200 (HGX H200) | Bis zu 3.872 Token/s | Nutzung des NVIDIA NIM Microservice |
| 8x NVIDIA H100 (quantisiert 4-Bit) | Ca. 2.500 Token/s | Bereitgestellt mit vLLM 0.7.3 |
| 4x NVIDIA H100 | 25 Token/s | Realer Test auf Lambda Cloud |
| Einzelne NVIDIA RTX 4090 (24 GB) | 3–33 Token/s | Leistung variiert je nach Quantisierung und Konfiguration |
Zusammenfassend lässt sich sagen, dass die NVIDIA B200 GPU als Spitzenreiter für DeepSeek-R1-Inferenzen hervorsticht und einen unübertroffenen Durchsatz bietet, der eine effiziente Bereitstellung großer Sprachmodelle in Unternehmensumgebungen ermöglicht.
Wie man die B200 zu einem sehr kostengünstigen Preis betreibt
Novita AI ist eine KI-Cloud-Plattform, die Entwicklern eine einfache Möglichkeit bietet, KI-Modelle über unsere einfache API bereitzustellen und gleichzeitig eine erschwingliche und zuverlässige GPU-Cloud für den Aufbau und die Skalierung bereitstellt.
Schritt 1: Einloggen und auf GPU Bare Metal zugreifen
Melden Sie sich in Ihrem Konto an und klicken Sie auf die Schaltfläche GPU Bare Metal.
Schritt 2: Wählen Sie Ihre GPU
Gerät auswählen
- Gerätename: Wählen Sie H100 SXM oder B200 SXM.
- Region: Vereinigte Staaten von Amerika.
- Konfiguration (für H100 SXM):
- 8 GPUs
- 2048 GB Speicher
- 104 vCPU/Knoten
- 15,36 TB Speicher
- zu 1,70 $/Stunde.
- Konfiguration (für B200 SXM):
- 8 GPUs
- 2304 GB Speicher
- 144 vCPU/Knoten
- 30,8 TB Speicher
- zu 4,77 $/Stunde.
Menge einstellen und Mietdauer
-
Passen Sie das Feld GPU-Anzahl an Ihre Bedürfnisse an. Wählen Sie z. B. 8 GPUs.
-
Wählen Sie die Mietdauer. Stellen Sie sie z. B. auf 1 Monat.
Die NVIDIA B200 GPU, basierend auf der Blackwell-Architektur, ist ein hochmoderner KI-Supercomputer, der für extreme Leistung in den Bereichen Training, Inferenz, Grafik und Präzisions-Workloads ausgelegt ist. Mit einem Weltrekord-Durchsatz für DeepSeek-R1 und einer optimierten FP4/FP8 Transformer Engine bietet sie eine unübertroffene Effizienz für generative KI im großen Maßstab. Obwohl die Anschaffungskosten des Systems hoch sind, bieten Plattformen wie Novita AI einen flexiblen, kostengünstigen Cloud-Zugang zur B200-Hardware – und machen erstklassige KI ohne Infrastruktur-Overhead zugänglich.
Jetzt eine Demo buchen – ein direkter Link zu Bare Metal bei Novita AI!
Häufig gestellte Fragen
Was ist die NVIDIA B200?
Die B200 ist die neueste GPU von NVIDIA basierend auf der Blackwell-Architektur und bietet 72 PetaFLOPS (FP8) für Training und 144 PetaFLOPS (FP4) für Inferenz – ideal für LLMs, generative KI und wissenschaftliches Rechnen.
Welche Modelle laufen am besten auf der B200?
Die B200 glänzt mit großen Modellen wie DeepSeek-R1, Llama 4 Maverick und anderen LLMs mit mehreren Milliarden Parametern, dank ihres hohen Durchsatzes und Speichers.
Wie hoch ist die DeepSeek-R1-Inferenzleistung auf der B200?
Mit 8x B200 GPUs erreicht DeepSeek-R1 über 30.000 Token pro Sekunde und übertrifft damit H100- und H200-Setups bei weitem.
*Novita AI *ist eine KI-Cloud-Plattform, die Entwicklern eine einfache Möglichkeit bietet, KI-Modelle über unsere einfache API bereitzustellen und gleichzeitig eine erschwingliche und zuverlässige GPU-Cloud für den Aufbau und die Skalierung bereitstellt.
