主なポイント
Llama 4 Scout：テキストと画像の入力をサポートする最先端のマルチモーダルモデル。1000万トークンのコンテキスト長を持ち、高度な推論、長期記憶タスク、コスト効率の高い大規模出力に最適です。
Llama 3.3 70B：テキスト入力のみに制限され、コンテキスト長は131Kトークンですが、コーディングタスクに優れ、簡潔な実装と低いハードウェア要件を備えています。
性能：Llama 4 Scoutは推論、知識、コスト効率でリードし、Llama 3.3 70Bはコーディングタスクでやや優れています。
ハードウェア要件：Llama 4 Scoutははるかに高い計算リソースを必要としますが、Llama 3.3 70Bは汎用アプリケーションにとってよりアクセスしやすいです。
Llama 4 ScoutとLlama 3.3 70Bは、それぞれ異なるユースケース向けに設計された2つの強力な大規模言語モデルです。Llama 4 Scoutのマルチモーダル機能と1000万トークンのコンテキスト長は、高度な推論や長期記憶タスクに適しています。対照的に、Llama 3.3 70Bは効率性、コーディング性能、および低いハードウェア要件で優れており、汎用アプリケーションに最適です。このガイドでは、それらの違いを探り、ニーズに基づいて適切なモデルを選択するのに役立ちます。
基本紹介
Llama 4 Scoutは マルチモーダル処理 をサポートしており、テキストや画像など多様なデータタイプを処理し、視覚的推論やデータ合成などの複雑なタスクを実行できます。その 1000万トークンのコンテキスト長 により、大量のシーケンシャルデータを処理できるため、長期記憶やコンテキスト認識を必要とするアプリケーションに最適です。
Llama 4 Scout
| **カテゴリ ** | ** 項目 ** | ** 詳細** |
|---|---|---|
| **基本情報 ** | ** モデルサイズ** | 109Bパラメータ（アクティブ17B/トークン） |
| オープンソース | オープン | |
| アーキテクチャ | 16 Mixture-of-Experts (MoE) | |
| コンテキスト | 最大1000万トークンをサポート | |
| **言語サポート ** | ** サポート言語** | 200言語で事前学習。アラビア語、英語、フランス語、ドイツ語、ヒンディー語、インドネシア語、イタリア語、ポルトガル語、スペイン語、タガログ語、タイ語、ベトナム語をサポート。 |
| **マルチモーダル ** | ** 機能** | 入力：多言語テキストと画像；出力：多言語テキストとコード |
| **トレーニング ** | ** トレーニングデータ** | 約40兆トークン |
| 事前学習 | MetaP：適応型エキスパート設定 + 中期トレーニング | |
| 事後学習 | SFT（易しいデータ）→ RL（難しいデータ）→ DPO | |
| **精度別モデルサイズ ** | ** テンソルタイプ** | BF16 |
Llama 3.3 70B
| **カテゴリ ** | ** 項目 ** | ** 詳細** |
|---|---|---|
| **基本情報 ** | ** モデルサイズ** | 70Bパラメータ |
| オープンソース | オープン | |
| アーキテクチャ | 最適化トランスフォーマーアーキテクチャ、GQA | |
| コンテキスト | 131K | |
| **言語サポート ** | ** サポート言語** | 8言語をサポート |
| **マルチモーダル ** | ** 機能** | テキストからテキスト |
| **トレーニング ** | ** トレーニングデータ** | 15兆トークン |
| トレーニング方法 | 教師ありファインチューニング（SFT）と人間のフィードバックによる強化学習（RLHF） | |
| **精度別モデルサイズ ** | ** テンソルタイプ** | BF16 |
ベンチマーク比較
各モデルの基本特性を確認したところで、さまざまなベンチマークでのパフォーマンスを見てみましょう。この比較により、各分野での強みが明確になります。
| **カテゴリ ** | ** ベンチマーク ** | Llama 4 Scout | Llama 3.3 70B |
|---|---|---|---|
| コーディング | LiveCodeBench | 32.8 | 33.3 |
| 推論 | MMLU Pro | 74.3 | 68.9 |
| 知識 | GPQA Diamond | 57.2 | 50.5 |
| 価格（Novita AI） | 入力100万トークン | $0.10 | $0.10 |
| 出力100万トークン | $0.13 | $0.39 |
推論、知識、コスト効率を優先する多様なタスクには Llama 4 Scout を選びましょう。コーディング性能が主な要件であれば、Llama 3.3 70B が最適です。
さらに比較を確認したい場合は、以下の記事もご覧ください。
- 単一の H100 の VRAM で Llama 4 Scout を実行できるか？
- DeepSeek R1 vs OpenAI o1: GRPO と PPO の異なるアーキテクチャ
- ガイド: Llama 4 Scout をローカル・API・クラウドGPUで利用する
速度比較
自分でテストしたい場合は、Novita AI ウェブサイトで無料トライアルを開始できます。
速度比較
Llama 4 Scout はトークン生成が速く、最初のトークンの出力も高速です。これらの特性から、低レイテンシと高い応答性が求められるアプリケーションに適しています。
ハードウェア要件
| **モデル ** | ** コンテキスト長 ** | Int4 VRAM | GPU 必要数 (Int4) | FP16 VRAM | GPU 必要数 (FP16) |
|---|---|---|---|---|---|
| Llama 3.3 70B | 131K トークン | 194.14GB | 4xH100 | ||
| Llama 4 Scout | 4K トークン | ~99.5 GB | 1× H100 | ~345 GB | 8× H100 |
| 128K トークン | ~334 GB | 8× H100 | ~579 GB | 8× H100 | |
| 1000万トークン | ~18.8 TB | 240× H100 | Int4 と同じ (KV キャッシュが支配的) | 240× H100 |
ハードウェア要件：Llama 3.3 70B は、拡張コンテキスト長（131K トークンで 4× H100）でも低いハードウェア要件を維持します。一方、Llama 4 Scout は特に 128K や 1000万トークンのタスクにおいて、ハードウェアを大量に消費します。
スケーラビリティ：Llama 4 Scout は超長コンテキスト（最大1000万トークン）をサポートしますが、その代償として非常に高い計算リソースが必要で、ニッチで高予算のアプリケーションに適しています。
実用性：Llama 3.3 70B は、高い効率性とリソースの入手しやすさから、汎用ユースケースに適しています。Llama 4 Scout は、大量のトークンコンテキストを必要とする特殊なシナリオに最適ですが、その要求により一般的な環境ではあまり実用的ではありません。
アプリケーションとユースケース
Llama 4 Scout のアプリケーション：
- マルチモーダルタスク：テキストと画像を扱うタスク（視覚的質問応答、画像キャプション、マルチモーダル推論など）に最適。
- 拡張コンテキスト処理：1000万トークンのコンテキスト長により、長文書、履歴データ、大規模な会話の分析に優れている。
- 高性能推論：科学分析、複雑な問題解決、意思決定などの高度な推論タスクに適している。
- コスト効率の高い出力：出力トークンのコストを最小限に抑え、大規模なテキスト生成を必要とするタスクに最適化。
Llama 3.3 70B のアプリケーション：
- コーディングとプログラミング：コーディングタスクでやや優れており、ソフトウェア開発、デバッグ、コード生成に強力な選択肢。
- 中程度のコンテキスト要件：最大131Kトークンをサポートし、文書分析、要約、中程度の長さの会話などのアプリケーションに適している。
- 汎用使用：極端なコンテキスト長やマルチモーダル機能が不要な場合、コンテンツ作成、質問応答、カジュアルな推論など幅広いタスクに使用可能。
- 入力に対する予算に優しい：バランスの取れたコスト構造により、大量の入力処理が必要なタスクに実用的。
Llama 4 Scout vs Llama 3.3 70B: タスク比較
タスク1: 論理推論
プロンプト： 「あなたは部屋に入り、ベッドを見ます。ベッドの上には2匹の犬、4匹の猫、1頭のキリン、5頭の牛、1羽のアヒルがいます。また、3つの椅子と1つのテーブルがあります。床には何本の脚がありますか？」
Llama 4 Scout
Llama 3.3 70B
レビュー：
- 正確性: Llama 3.3 70B の方が完全な回答 (
22本) を提供しています。ベッドの脚と人の脚の両方を含んでおり、Llama 4 Scout は人の脚を考慮していませんでした。 - 明確さ: Llama 4 Scout はより構造化された詳細な説明を提供し、推論プロセスを追跡しやすくなっています。
- 解釈: Llama 3.3 70B が人の脚を含めるかどうかは、質問の意図によって議論の余地があります。質問が人を明示的に除外している場合、答えは
$20$本になります。
タスク2: 問題解決スキル
プロンプト： 「数独パズルを解くプログラムを書いてください」
Llama 4 Scout
Llama 3.3 70B
レビュー：
- Llama 4 Scout の実装は、初心者や明確さと詳細な説明を優先する人に適しています。追跡しやすく、洗練された出力フォーマットが含まれています。Llama 3.3 70B の実装はより簡潔で効率的であり、数独ソルバーのアルゴリズムに慣れているユーザーやコンパクトなコードを好むユーザーに適しています。
Novita API 経由で Llama 4 Scout と Llama 3.3 70B にアクセスする方法
ステップ 1: ログインしてモデルライブラリにアクセス
アカウントにログインし、モデルライブラリ ボタンをクリックします。
ステップ 2: モデルを選択
利用可能なオプションを参照し、ニーズに合ったモデルを選択します。
ステップ 3: 無料トライアルを開始
選択したモデルの機能を試すために、無料トライアルを開始します。
ステップ 4: API キーを取得
API で認証するために、新しい API キーを提供します。「設定」ページに移動し、画像のように API キーをコピーします。
ステップ 5: API をインストール
使用するプログラミング言語に応じたパッケージマネージャーを使用して API をインストールします。
インストール後、開発環境に必要なライブラリをインポートします。API キーを使用して API を初期化し、Novita AI LLM との対話を開始します。以下は、Python ユーザー向けの chat completions API の使用例です。
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="<YOUR Novita AI API Key>",
)
model = "meta-llama/llama-4-scout-17b-16e-instruct"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
Llama 4 Scout と Llama 3.3 70B の選択は、要件によって異なります。マルチモーダル入力、広範なメモリ、高度な推論が必要なタスクには、Llama 4 Scout が優れた選択肢です。コーディング、中程度のコンテキスト長、ハードウェア効率に重点を置く場合は、Llama 3.3 70B がより実用的なソリューションを提供します。Novita AI でこれらのモデルを試し、アプリケーションに最適なものを見つけてください。
よくある質問
Llama 4 Scout のユニークな点は何ですか？
4B、12B、27B モデルは 128K のコンテキストウィンドウを持ち、1B モデルは 32K のコンテキストウィンドウを持ちます。Llama 4 Scout はマルチモーダル入力（テキストと画像）をサポートし、比類のない 1000万トークンのコンテキスト長を提供するため、大規模な推論、長文書処理、高度な意思決定タスクに最適です。
Llama 3.3 70B は誰が使うべきですか？
Llama 3.3 70B は、コーディング、中程度のメモリ要件（131K トークン）、および限られたハードウェアリソースに重点を置くユーザーに最適です。
Llama 4 Scout と Llama 3.3 70B にアクセスする方法
Novita AI が手頃で信頼性の高い API を提供します。
Novita AI は、シンプルな API を使用して AI モデルを簡単にデプロイできる AI クラウドプラットフォームであり、アプリケーションの構築とスケーリングのための手頃で信頼性の高い GPU クラウドも提供します。
