重點摘要
**超大上下文視窗 **：最高支援 100 萬個 token——非常適合處理長篇文件、程式碼庫或書籍。
多模態支援 ：可同時處理 文字與圖片輸入。
**多語言能力強 **：在 200 種語言 上進行預訓練，多語言 MMLU 分數高達 84.6，是全球通用的模型。
高成本效益 ：以低於 GPT-4o 的價格（Novita AI 上每百萬 token 僅 $0.2，GPT-4o 為 $4.38）提供 最先進的性能。
Llama 4 Maverick 是 Meta 於 2025 年 4 月 5 日釋出的最新開源大型語言模型。採用 128 專家混合（MoE）架構，並在 22 兆個多模態 token 上訓練，專為 ** 性能、靈活性與全球規模而設計。其 ** 上下文長度可達 1000 萬個 token，支援 ** 文字與圖片輸入**，在多語言與推理基準測試中表現優異。
什麼是 Llama 4 Maverick？
https://www.youtube.com/watch?v=8G-GI4bvWZU
Llama 4 Maverick 概覽
| **類別 ** | ** 詳細資訊** |
|---|---|
| 釋出日期 | 2025 年 4 月 5 日 |
| 模型大小 | 400B 參數（每次 token 活躍 17B） |
| 開源 | 是 |
| 架構 | 128 專家混合（MoE） |
| 上下文長度 | 最高 1M token（1,000,000 個 token） |
| 語言支援 | 在 200 種語言上預訓練，包括阿拉伯語、英語、法語、德語、印地語、印尼語、義大利語、葡萄牙語、西班牙語、他加祿語、泰語、越南語。 |
| 多模態能力 | 結合文字與圖片輸入，支援文字與視覺內容處理。 |
| 訓練資料 | 約 22 兆 token 的多模態資料（部分來自 Instagram 和 Facebook）。 |
| 預訓練 | MetaP（適應性專家配置，搭配中期訓練最佳化）。 |
| 後訓練步驟 | 1. SFT（在簡單資料上進行監督式微調）。 2. RL（在困難資料上進行強化學習）。 3. DPO（直接偏好最佳化）。 |
Llama 4 Maverick 基準測試
Llama 4 Maverick 在多項重要基準測試中超越 Gemini 2.0 Flash、DeepSeek v3.1 和 GPT-4o，尤其在 ** 圖像推理**、** 圖像理解 與 多語言任務**方面表現突出。
如何在本地使用 Llama 4 Maverick？
Llama 4 Maverick 硬體需求
| **上下文長度 ** | INT4 VRAM | GPU 需求 (INT4) | FP16 VRAM | GPU 需求 (FP16) |
|---|---|---|---|---|
| 4K tokens | ~318 GB | 4×H100/A100 | ~1.22 TB | 16×H100 |
| 128K tokens | ~552 GB | 8×H100 | ~1.45 TB | ~16×H100 |
在本機安裝 Llama 4 Maverick
步驟 1：準備環境
- 安裝 Python（建議 3.9 或更高版本）。
- 使用虛擬環境管理依賴套件：
python -m venv llama_env source llama_env/bin/activate
步驟 2：安裝必要的 Python 函式庫
執行以下指令安裝依賴套件：
bash<code>pip install -U transformers==4.51.0
pip install torch
pip install huggingface-hub
pip install hf_xet
這些函式庫對於載入與執行模型至關重要。
步驟 3：下載模型
- 前往 Hugging Face Hub 上的 Llama 4 Maverick 頁面。
- 使用以下 Python 程式碼下載模型：
from transformers import AutoProcessor, Llama4ForConditionalGeneration
model_id = "meta-llama/Llama-4-Maverick-17B-128E-Instruct"
processor = AutoProcessor.from_pretrained(model_id)
model = Llama4ForConditionalGeneration.from_pretrained(model_id, torch_dtype=torch.bfloat16)
這將會下載模型並做好推理準備。
如何透過 Novita API 使用 Llama 4 Maverick？
步驟 1：登入並存取模型庫
登入您的帳戶，然後點擊 Model Library 按鈕。
步驟 2：選擇您的模型
瀏覽可用選項，選擇符合需求的模型。
步驟 3：開始免費試用
開始免費試用，探索所選模型的功能。
步驟 4：取得 API 金鑰
為了驗證 API 呼叫，我們會提供一組新的 API 金鑰。進入 Settings 頁面，您可以如圖所示複製 API 金鑰。
步驟 5：安裝 API
使用您的程式語言專屬的套件管理器安裝 API。
安裝完成後，將必要的函式庫匯入您的開發環境。使用 API 金鑰初始化 API，開始與 Novita AI LLM 互動。以下是 Python 使用者使用聊天補全 API 的範例。
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="<YOUR Novita AI API Key>",
)
model = "meta-llama/llama-4-maverick-17b-128e-instruct-fp8"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
透過雲端 GPU 使用 Llama 4 Scout
步驟 1：註冊帳戶
如果您是 Novita AI 的新用戶，請先在我們的網站上建立帳戶。完成註冊後，前往「GPUs」分頁，瀏覽可用資源並開始您的旅程。
步驟 2：探索範本與 GPU 伺服器
首先選擇符合您專案需求的範本，例如 PyTorch、TensorFlow 或 CUDA。選擇符合需求的版本，例如 PyTorch 2.2.1 或 CUDA 11.8.0。接著選擇 A100 GPU 伺服器配置，該配置提供強大的性能，能夠處理高需求的工作負載，並具備充足的 VRAM、RAM 和磁碟容量。
步驟 3：自訂部署設定
選擇範本與 GPU 後，透過調整參數（例如作業系統版本，如 CUDA 11.8）來自訂部署設定。您也可以調整其他配置，讓環境更符合專案的特定需求。
步驟 4：啟動執行個體
在完成範本與部署設定後，點擊「Launch Instance」來建立 GPU 執行個體。這將會啟動環境設定，讓您開始使用 GPU 資源進行 AI 任務。
如果您正在尋找一款強大、價格合理且對開發者友善的大型語言模型，Llama 4 Maverick 是您的最佳選擇。它在 ** 圖像推理、多語言支援、長上下文理解以及推理成本**等關鍵領域中，超越了 GPT-4o 和 Gemini 2.0 Flash 等領先模型。無論是透過本機執行，還是透過 Novita AI 的高性能 API，開始使用都非常快速且簡單。立即試用，體驗其差異。
常見問題
什麼是 Llama 4 Maverick？
Llama 4 Maverick 是 Meta 開發的開源大型語言模型，能夠處理 文字與圖片輸入，支援最高 **1000 萬 token 上下文 **，並在 200 種語言 上進行訓練。
如果沒有強大的本機 GPU，還能使用 Llama 4 Maverick 嗎？
可以！您可以輕鬆透過 Novita AI 的 API 或 ** 雲端 GPU 平台** 使用 Llama 4 Maverick，並提供免費試用。
Llama 4 Maverick 適合處理大型文件或書籍嗎？
絕對適合。由於支援 最高 100 萬個 token，它非常適合處理長篇文字、複雜文件以及需要上下文記憶的任務。
Novita AI 是一個 AI 雲端平台，為開發者提供透過簡單 API 部署 AI 模型的簡便方式，同時也提供價格合理且可靠的 GPU 雲端服務，用於建置與擴展模型。
