NVIDIA B200が登場しました。ベアメタル、驚異的な高速処理、そしてNovita AIでご利用いただけます。
30,000トークン/秒以上 ** をDeepSeek-R1で実現するNVIDIA B200。次世代Blackwellアーキテクチャを搭載し、LLM、生成AI、エンタープライズ規模の推論向けに設計されています。ハードウェアは不要？問題ありません。Novita AIはオンデマンドアクセス** を低コストで提供します。
B200とは？
NVIDIA B200は、Blackwellアーキテクチャをベースにした次世代GPUで、トレーニングで最大72ペタFLOPS、推論で144ペタFLOPSという画期的なAIパフォーマンスを発揮し、大規模言語モデルや生成AIワークロードに最適です。
主要パフォーマンス指標
| **コンポーネント ** | ** 詳細** |
| GPU | 8x NVIDIA Blackwell GPU |
| GPUメモリ | 合計1,440GB、64TB/s HBM3e帯域幅 |
| パフォーマンス | トレーニング72ペタFLOPS (FP8)、推論144ペタFLOPS (FP4) |
| NVIDIA NVSwitch | 2x |
| NVIDIA NVLink帯域幅 | 14.4 TB/s 集約帯域幅 |
| システム消費電力 | 最大約14.3kW |
| CPU | 2x Intel Xeon Platinum 8570 プロセッサ、合計112コア、2.1 GHz (ベース)、4 GHz (最大ブースト) |
| システムメモリ | 2TB、4TBまで構成可能 |
| ネットワーキング | 4x OSFPポート (8x シングルポート NVIDIA ConnectX-7 VPI)、最大400Gb/s Infiniband/イーサネット；2x デュアルポート QSFP112 BlueField-3 DPU、最大400Gb/s Infiniband/イーサネット |
| 管理ネットワーク | 10Gb/s オンボードNIC (RJ45); 100Gb/s デュアルポート イーサネットNIC; BMC (RJ45) |
| ストレージ | OS: 2x 1.9TB NVMe M.2, 内部: 8x 3.84TB NVMe U.2 |
| ソフトウェア | NVIDIA AI Enterprise、NVIDIA Mission Control、NVIDIA Runai Technology、NVIDIA DGX OS / Ubuntu |
| ラックユニット (RU) | 10 RU |
| システム寸法 | 高さ: 17.5in (444mm)、幅: 19.0in (482.2mm)、奥行: 35.3in (897.1mm) |
| 動作温度 | 5–30°C (41–86°F) |
| エンタープライズサポート | 標準3年間のハードウェア/ソフトウェアサポート；24時間365日サポートポータルアクセス；営業時間内のライブエージェント対応 |
これは実質的に AIスーパーコンピュータ であり、以下のことが可能です：
- 高度なAIモデル（ChatGPT、Claudeなど）のトレーニング
- 数千のAI推論リクエストを同時に処理
- 研究やビジネスインテリジェンスのための大規模データセットの処理
- 組織全体のAIアプリケーションに電力を供給
B200のコスト効率
この価格は単一GPUのものではありません。通常、以下の内容を含むフルDGXシステムをカバーします：
- 8x Blackwell B200 GPU
- デュアルXeon CPU
- 高速NVLink & NVSwitch相互接続
- 1.44TB HBM3e GPUメモリ
- 2TB以上のシステムRAM
- エンタープライズグレードのネットワーキング、SSD、ソフトウェアスタック（NVIDIA AI Enterprise、Run:aiなど）
B200の用途
1. AIトレーニングと推論
B200は、大規模AIモデル、特に大規模言語モデル（LLM）や生成AIアプリケーションのトレーニングと推論の両方で優れた性能を発揮します。
- トレーニング：第2世代Transformer EngineとFP4精度のサポートにより、大規模モデルのトレーニングプロセスを加速し、必要な時間と計算リソースを削減します。
- 推論：B200は、MetaのLlama 4 Maverickなどのモデルを使用したベンチマークで、ユーザーあたり1秒間に1,000トークン以上の推論パフォーマンスを達成します。
2. グラフィックスと可視化
主にAIワークロード向けに設計されていますが、B200は高度なグラフィックスおよび可視化タスクもサポートします：
- レイトレーシング：第4世代RTコアを搭載し、リアルタイムレイトレーシングを実行し、複雑なシーンの高忠実度レンダリングを実現します。
- シェーダー技術：GPUのアーキテクチャには、Shader Execution Reordering (SER) 2.0などの機能強化が含まれ、複雑なシェーダープログラムとコンピュートカーネルの実行を最適化します。
3. 高精度ワークロード
B200は、さまざまな科学・産業分野における高精度を要するタスクの処理に優れています：
- NVIDIA B200 GPU（Blackwellアーキテクチャベース）は、第5世代Tensor Coreを介して浮動小数点（FP）演算をサポートします。これらのTensor Coreは、FP4、FP6、FP8、FP16、TF32を含むさまざまなFP精度を処理できるように設計されており、AIワークロードの効率的な高速化を実現します。
B200+DeepSeek R1=ワールドレコード
| **GPU構成 ** | ** 合計スループット ** | ** 備考** |
|---|---|---|
| 8x NVIDIA B200 (DGX B200) | 30,000トークン/秒以上 | TensorRT-LLM、FP4精度を使用して達成 |
| 8x NVIDIA H200 (HGX H200) | 最大3,872トークン/秒 | NVIDIA NIMマイクロサービスを利用 |
| 8x NVIDIA H100 (4ビット量子化) | 約2,500トークン/秒 | vLLM 0.7.3でデプロイ |
| 4x NVIDIA H100 | 25トークン/秒 | Lambda Cloudでの実運用テスト |
| 単一NVIDIA RTX 4090 (24GB) | 3–33トークン/秒 | 量子化と構成によってパフォーマンスが変動 |
まとめると、NVIDIA B200 GPUはDeepSeek-R1推論においてトップパフォーマーであり、エンタープライズ環境での大規模言語モデルの効率的な展開を可能にする比類ないスループットを提供します。
非常にコスト効率よくB200を実行する方法
Novita AIは、開発者がシンプルなAPIを使用してAIモデルを簡単にデプロイできると同時に、手頃で信頼性の高いGPUクラウドを構築とスケーリングのために提供するAIクラウドプラットフォームです。
ステップ1：ログインしてGPUベアメタルにアクセス
アカウントにログインし、GPUベアメタルボタンをクリックします。
ステップ2：GPUを選択
デバイスを選択
- **デバイス名 **：H100 SXM または B200 SXM を選択。
- リージョン：アメリカ合衆国。
- 構成（H100 SXMの場合）：
- 8 GPU
- 2048 GB メモリ
- 104vCPU/ノード
- 15.36 TB ストレージ
- $1.7/時間。
- 構成（B200 SXMの場合）：
- 8 GPU
- 2304 GB メモリ
- 144vCPU/ノード
- 30.8 TB ストレージ
- $4.77/時間。
数量とレンタル期間を設定
-
**GPU数量 ** フィールドをニーズに合わせて調整します。たとえば、8 GPU を選択。
-
レンタル期間を選択します。たとえば、1か月 に設定します。
NVIDIA B200 GPU（Blackwellアーキテクチャベース）は、トレーニング、推論、グラフィックス、高精度ワークロードにわたって極限のパフォーマンスを発揮するように設計された最先端のAIスーパーコンピュータです。DeepSeek-R1でのワールドレコードスループットと最適化されたFP4/FP8 Transformer Engineにより、大規模生成AIで比類ない効率を実現します。初期システムコストは高いものの、Novita AIなどのプラットフォームはB200ハードウェアへの柔軟で費用対効果の高いクラウドアクセスを提供し、インフラストラクチャのオーバーヘッドなしで最高レベルのAIを利用可能にします。
[デモを予約する
ベアメタルNovita AIへの直接リンクはこちら！](https://meet.brevo.com/novita-ai/contact-sales)
よくある質問
NVIDIA B200とは？
B200は、NVIDIAの最新GPUでBlackwellアーキテクチャに基づき、トレーニングで72ペタFLOPS（FP8）、推論で144ペタFLOPS（FP4）を提供します。LLM、生成AI、科学計算に最適です。
B200に最適なモデルは？
B200は、DeepSeek-R1、Llama 4 Maverick、およびその他の数十億パラメータのLLMなど、大規模モデルで優れた性能を発揮します。これは高いスループットとメモリによるものです。
B200でのDeepSeek-R1推論パフォーマンスは？
8x B200 GPU構成で、DeepSeek-R1は 30,000トークン/秒以上 を達成し、H100やH200のセットアップをはるかに上回ります。
Novita AI は、開発者がシンプルなAPIを使用してAIモデルを簡単にデプロイできると同時に、構築とスケーリングのために手頃で信頼性の高いGPUクラウドを提供するAIクラウドプラットフォームです。**
