NVIDIA B200 來了——裸機、極速，現已在 Novita AI 上線。
透過 NVIDIA B200（由次世代 Blackwell 架構驅動，專為 LLM、生成式 AI 及企業級推論而設計），在 DeepSeek-R1 上體驗每秒超過 30,000 個 tokens。沒有硬體？沒問題。Novita AI 為您提供 ** 隨選存取**，成本僅為一小部分。
什麼是 B200？
NVIDIA B200 是基於 Blackwell 架構的次世代 GPU，提供突破性的 AI 效能，訓練時可達 72 petaFLOPS，推論時可達 144 petaFLOPS，非常適合大型語言模型和生成式 AI 工作負載。
關鍵效能指標
| **元件 ** | ** 詳細資訊** |
| GPU | 8x NVIDIA Blackwell GPU |
| GPU 記憶體 | 總計 1,440GB，64TB/s HBM3e 頻寬 |
| 效能 | 72 petaFLOPS FP8 訓練及 144 petaFLOPS FP4 推論 |
| NVIDIA NVSwitch | 2x |
| NVIDIA NVLink 頻寬 | 14.4 TB/s 聚合頻寬 |
| 系統功耗 | 最大約 14.3kW |
| CPU | 2x Intel Xeon Platinum 8570 處理器，總計 112 核心，2.1 GHz（基礎），4 GHz（最大加速） |
| 系統記憶體 | 2TB，可配置至 4TB |
| 網路 | 4x OSFP 連接埠（8x 單埠 NVIDIA ConnectX-7 VPI），最高 400Gb/s Infiniband/Ethernet；2x 雙埠 QSFP112 BlueField-3 DPU，最高 400Gb/s Infiniband/Ethernet |
| 管理網路 | 10Gb/s 內建 NIC（RJ45）；100Gb/s 雙埠 Ethernet NIC；含 RJ45 的 BMC |
| 儲存 | 作業系統：2x 1.9TB NVMe M.2，內部：8x 3.84TB NVMe U.2 |
| 軟體 | NVIDIA AI Enterprise、NVIDIA Mission Control、NVIDIA Runai Technology、NVIDIA DGX OS / Ubuntu |
| 機架單位 (RU) | 10 RU |
| 系統尺寸 | 高度：17.5 吋 (444mm)，寬度：19.0 吋 (482.2mm)，深度：35.3 吋 (897.1mm) |
| 工作溫度 | 5–30°C（41–86°F） |
| 企業支援 | 3 年標準硬體/軟體支援；24/7 支援入口網站存取；營業時間內提供專人服務 |
這基本上就是一臺 AI 超級電腦，可以：
- 訓練先進的 AI 模型（如 ChatGPT、Claude）
- 同時處理數千個 AI 推論請求
- 處理大規模研究或商業智慧資料集
- 為整個組織提供 AI 應用程式支援
B200 的成本效益
此價格並非單一 GPU 的價格。它通常涵蓋完整的 DGX 系統，包含：
- 8x Blackwell B200 GPU
- 雙 Xeon CPU
- 高速 NVLink 與 NVSwitch 互連
- 1.44TB HBM3e GPU 記憶體
- 2TB+ 系統 RAM
- 企業級網路、SSD 和軟體堆疊（NVIDIA AI Enterprise、Run:ai 等）
B200 的應用
1. AI 訓練與推論
B200 在大規模 AI 模型的訓練和推論方面表現出色，特別是大型語言模型 (LLM) 和生成式 AI 應用。
- 訓練：憑藉其第二代 Transformer Engine 及支援 FP4 精度，B200 加速了大型模型的訓練過程，減少了所需的時間和運算資源。
- 推論：B200 提供卓越的推論效能，在使用 Meta 的 Llama 4 Maverick 等模型的基準測試中，每位使用者每秒可產生超過 1,000 個 tokens。
2. 圖形與視覺化
雖然 B200 主要為 AI 工作負載設計，但它也支援先進的圖形與視覺化任務：
- 光線追蹤：配備第 4 代 RT Core，B200 可執行即時光線追蹤，為複雜場景提供高擬真渲染。
- 著色器技術：GPU 架構包含 Shader Execution Reordering (SER) 2.0 等增強功能，最佳化了複雜著色器程式和計算核心的執行。
3. 精確度工作負載
B200 擅長處理各種科學與工業領域中對精度要求高的任務：
- NVIDIA B200 GPU 基於 Blackwell 架構，透過其第五代 Tensor Core 支援浮點數 (FP) 運算。這些 Tensor Core 設計用於處理多種 FP 精度，包括 FP4、FP6、FP8、FP16 和 TF32，從而實現 AI 工作負載的高效加速。
B200 + DeepSeek R1 = 世界紀錄
| **GPU 配置 ** | ** 總吞吐量 ** | ** 備註** |
|---|---|---|
| 8x NVIDIA B200 (DGX B200) | 超過 30,000 tokens/s | 使用 TensorRT-LLM 搭配 FP4 精度達成 |
| 8x NVIDIA H200 (HGX H200) | 最高 3,872 tokens/s | 使用 NVIDIA NIM 微服務 |
| 8x NVIDIA H100 (量化 4 位元) | 約 2,500 tokens/s | 使用 vLLM 0.7.3 部署 |
| 4x NVIDIA H100 | 25 tokens/s | 在 Lambda Cloud 上的實際測試 |
| 單張 NVIDIA RTX 4090 (24GB) | 3–33 tokens/s | 效能隨量化與配置而異 |
總而言之，NVIDIA B200 GPU 是 DeepSeek-R1 推論的頂尖效能選擇，提供無與倫比的吞吐量，使企業環境中大型語言模型的高效部署成為可能。
如何以極具成本效益的價格運行 B200？
Novita AI 是一個 AI 雲端平台，為開發者提供透過簡單 API 部署 AI 模型的便捷方式，同時也提供經濟實惠且可靠的 GPU 雲端來建置和擴展。
第一步：登入並存取 GPU Bare Metal
登入您的帳戶，然後點擊 GPU Bare Metal 按鈕。
第二步：選擇您的 GPU
選擇裝置
- **裝置名稱 **：選擇 H100 SXM 或 B200 SXM。
- 區域：美國。
- 配置（H100 SXM）：
- 8 顆 GPU
- 2048 GB 記憶體
- 104 vCPU/節點
- 15.36 TB 儲存空間
- 每小時 $1.7 美元。
- 配置（B200 SXM）：
- 8 顆 GPU
- 2304 GB 記憶體
- 144 vCPU/節點
- 30.8 TB 儲存空間
- 每小時 $4.77 美元。
設定數量 和租用期間
- 調整 **GPU 數量 ** 欄位以符合您的需求。例如，選擇 8 顆 GPU。
- 選擇租用期間。例如，設定為 1 個月。
NVIDIA B200 GPU 基於 Blackwell 架構，是一款尖端的 AI 超級電腦，專為在訓練、推論、圖形和精度工作負載中提供極致效能而設計。憑藉 DeepSeek-R1 的世界紀錄吞吐量以及最佳化的 FP4/FP8 Transformer Engine，它為大規模生成式 AI 帶來了無與倫比的效率。雖然初始系統成本較高，但像 Novita AI 這樣的平台提供了靈活、具成本效益的 B200 硬體雲端存取——讓頂尖 AI 觸手可及，無須基礎設施負擔。
[立即預約示範
直接連結至 Novita AI Bare Metal！](https://meet.brevo.com/novita-ai/contact-sales)
常見問題
什麼是 NVIDIA B200？
B200 是 NVIDIA 基於 Blackwell 架構的最新 GPU，提供 72 petaFLOPS (FP8) 訓練和 144 petaFLOPS (FP4) 推論——非常適合 LLM、生成式 AI 和科學計算。
哪些模型在 B200 上表現最佳？
得益於其高吞吐量和記憶體，B200 在 DeepSeek-R1、Llama 4 Maverick 等大型模型以及其他數十億參數的 LLM 上表現出色。
B200 上的 DeepSeek-R1 推論效能如何？
使用 8x B200 GPU，DeepSeek-R1 每秒可產生超過 30,000 個 tokens，遠超 H100 和 H200 配置。
Novita AI 是一個 AI 雲端平台，為開發者提供透過簡單 API 部署 AI 模型的便捷方式，同時也為建置和擴展提供經濟實惠且可靠的 GPU 雲端。
