Qwen3の多様性は意図的なものである: 開発者が適切なトレードオフを選択できるようにする 精度、コスト、メモリ、ハードウェア統一されたコア能力を維持しながら、ハイブリッド推論このガイドは、チャットボット、コーディング アシスタント、AI リサーチ エージェントなどを構築する場合の違いを理解し、特定のニーズに最適な Qwen3 モデルを見つけるのに役立ちます。
Qwen 3 シリーズにはなぜこれほど多くのモデルがあるのでしょうか?
クウェン3 235B A22B/Qウェン3 32B
- 基本モデル
これはトレーニングの開始点であり、元の基本モデルを表します。 - ステージ1：ロングCoTコールドスタート
ロングチェーン推論 (Long-CoT) は、モデルが複雑な推論タスクの初期機能を獲得できるようにするためのコールド スタート フェーズとして使用されます。 - ステージ2：推論RL
推論強化学習 (Reasoning RL) により、タスクに対するモデルの推論能力がさらに強化されます。 - ステージ3：思考モードの融合
さまざまな思考モード (論理的推論、直感的な判断など) を融合して、モデルの一般性と柔軟性を向上させます。 - ステージ4：一般RL
モデルをより広範なタスクに適応できるようにするために、一般強化学習 (General RL) が適用されます。
クウェン3 30B A3B;クウェン3 14B/8B/4B/1.7B/0.6B
- 基本モデル
同様に、これもベースモデルから始まります。 - 強蒸留から弱蒸留
Strong-to-Weak Distillation は、フロンティア モデルから軽量モデルに知識を転送し、強力な推論機能を維持しながらこれらのモデルの効率性を維持できるようにします。
Qwen 3モデルの基本紹介
Qwen 3 MOEモデル
| 機能 | クウェン3 235B A22B | クウェン3 30B A3B |
|---|---|---|
| モデルサイズ | 235B/22B（アクティブ） | 30.5B/3.3B（アクティブ） |
| アーキテクチャ | 94層、クエリ用の64個のアテンションヘッド、キーバリュー用の4個のアテンションヘッド | 48層、クエリ用の32個のアテンションヘッド、キーバリュー用の4個のアテンションヘッド |
| 能力 | 関数呼び出しをサポート | 関数呼び出しをサポート |
| コンテキスト | 32,768トークン | 32,768トークン |
| 言語サポート | 119の言語と方言 | 119の言語と方言 |
| マルチモーダル機能 | テキストからテキストへ | テキストからテキストへ |
Qwen 3 高密度モデル
| モデル | モデルサイズ | 層 | アテンションヘッド（Q / KV） | コンテキストの長さ | 多言語サポート |
|---|---|---|---|---|---|
| クウェン3 32B | 32.8B | 64 | 64 / 8 | 32K / 最大128K | 119の言語と方言 |
| クウェン3 14B | 14.8B | 40 | 40 / 8 | 32K / 最大128K | 119の言語と方言 |
| クウェン3 8B | 8.2B | 36 | 32 / 8 | 32K / 最大128K | 119の言語と方言 |
| クウェン3 4B | 4.0B | 36 | 32 / 8 | 32K | 119の言語と方言 |
| クウェン3 1.7B | 1.7B | 28 | 16 / 8 | 32K | 119の言語と方言 |
| クウェン3 0.6B | 0.6B | 28 | 16 / 8 | 32K | 119の言語と方言 |
ポイントは、Qwen3 シリーズの全モデル (Qwen3 0.6B、1.7B、4B、8B、14B、32B、および MoE バリアントの Qwen3 30B A3B と Qwen3 235B A22B) が「ハイブリッド推論モード」をサポートしていることです。
- 思考モード: 詳細な分析を必要とする複雑な問題に対応するために設計されています。段階的に推論し、慎重に検討された答えを導き出します。
- 非思考モード: 単純なタスクに適しています。このモデルは高速で、ほぼ瞬時に応答します。
さらに、Qwen3モデルでは、 「考える予算」 推論中にトークン使用量の上限を設定できるメカニズム。これにより、推論の深さを制御し、計算リソースの消費量を管理するのに役立ちます。
クウェン
Qwen 3 ベンチマーク
Qwen 3 推論ベンチマーク
| ホイール試乗 | クウェン3 235B | クウェン3 32B | クウェン3 30B | クウェン3 14B | クウェン3 8B | クウェン3 7B | クウェン3 4B | クウェン3 0.6B |
|---|---|---|---|---|---|---|---|---|
| MMLUプロ | 83% | 80% | 78% | 77% | 74% | 57% | 35% | – |
| GPQA ダイヤモンド | 70% | 67% | 62% | 60% | 59% | 36% | 24% | – |
| 人類最後の試験 | 11.7% | 8.3% | 6.6% | 5.7% | 5.1% | 4.3% | 4.2% | – |
| ライブコードベンチ | 62% | 55% | 52% | 51% | 47% | 41% | 31% | 12% |
| サイコード | 40% | 35% | 32% | 28% | 23% | 4% | 4% | 3% |
| 数学500 | 96% | 96% | 96% | 93% | 93% | 90% | 89% | 75% |
| エム2024 | 84% | 81% | 76% | 75% | 75% | 66% | 51% | 10% |
Qwen 3 推論なしベンチマーク
| ホイール試乗 | クウェン3 235B | クウェン3 32B | クウェン3 30B | クウェン3 14B | クウェン3 8B | クウェン3 7B | クウェン3 4B | クウェン3 0.6B |
|---|---|---|---|---|---|---|---|---|
| MMLUプロ | 76% | 73% | 71% | 68% | 64% | 41% | 23% | – |
| GPQA ダイヤモンド | 61% | 54% | 52% | 47% | 45% | 40% | 28% | 23% |
| 人類最後の試験 | 5.2% | 5.2% | 4.7% | 4.6% | 4.3% | 3.7% | 2.8% | – |
| ライブコードベンチ | 34% | 32% | 29% | 28% | 23% | 20% | 13% | 7% |
| サイコード | 30% | 28% | 27% | 26% | 17% | 17% | 7% | 4% |
| 数学500 | 90% | 87% | 87% | 86% | 84% | 83% | 72% | 52% |
| エム2024 | 33% | 30% | 28% | 26% | 24% | 21% | 10% | 2% |
人類最後の試験 高度な推論力と知識をテストします。すべてのモデルのパフォーマンスは低かったです。
- 『Brooklyn Galaxy』のために、倪氏はブルックリン美術館のコレクションからXNUMX点の名品を選び、そのイメージを極めて詳細に描き込みました。これらの作品は、彼の作品とともに中国ギャラリーに展示されています。彼はXNUMX年にこの作品の制作を開始しましたが、最初の硬貨には、当館が所蔵する 重要な仕事 最高レベルのパフォーマンスを必要とするもの（例：科学研究、高度なコーディング） クウェン3 235B 最良の選択です。
- 『Brooklyn Galaxy』のために、倪氏はブルックリン美術館のコレクションからXNUMX点の名品を選び、そのイメージを極めて詳細に描き込みました。これらの作品は、彼の作品とともに中国ギャラリーに展示されています。彼はXNUMX年にこの作品の制作を開始しましたが、最初の硬貨には、当館が所蔵する 費用効果の高いソリューション 計算リソースが限られている場合、 クウェン3 30B or クウェン3 32B パフォーマンスと効率性の良好なバランスを提供します。
- 小型モデル クウェン3 0.6B 軽量なアプリケーションには適していますが、複雑なタスクには苦労する可能性があります。
Qwen 3 ハードウェア要件
| モデル名 | 必要なメモリ（GB） |
| クウェン3 0.6B | 3.01GB |
| クウェン3 1.7B | 5.75GB |
| クウェン3 4B | 10.99GB |
| クウェン3 8B | 19.82GB |
| クウェン3 14B | 33.48GB |
| クウェン3 30B A3B | 74.21GB |
| クウェン3 32B | 73.5GB |
| クウェン3 235B A22B | 553.96GB |
0.6B～4B: ローカル アプリ、チャットボット、軽量エッジの使用。
8B～14B: 中規模推論サーバー向けの強力なジェネラリスト モデル。
32B: 創造的な出力とより深い推論を必要とする高パフォーマンスのユースケース。
235B: 研究レベルまたはエンタープライズ規模の展開。ほとんどのユーザーにとってコスト効率が良くありません。
あなたのニーズを満たすQwen 3はどれですか?
| あなたの目標 | 推奨モデル | Why |
|---|---|---|
| ローカル軽量タスク/チャットボット | クウェン3-0.6B / クウェン3-1.7B | 起動が速く、メモリも少なく（<6GB）、ノートパソコンで実行でき、エッジでの使用に最適 |
| バランスのとれた推論 + 手頃な価格のハードウェア | クウェン3-8B / クウェン3-14B | 一般的なタスクをうまく処理し、16GB～24GBに適合 GPUs、堅牢な多言語AI |
| 高度な推論と生成 | クウェン3-32B | MoE オーバーヘッドのないコード、数学、長文タスクに最適な高密度モデル |
| 研究におけるトップクラスのパフォーマンス | クウェン3-235B (A22B) | 推論ベンチマーク全体で最高のスコアだが、実行コストが非常に高い |
| 効率的だが有能なMoEオプション | クウェン3-30B (A3B) | 約3億のアクティブパラメータを使用した強力な出力。 GPU っ |
Qwen 3 モデルにコスト効率よくアクセスするにはどうすればよいでしょうか?
Novita AI は、開発者がシンプルなAPIを使用してAIモデルを簡単に導入できるAIクラウドプラットフォームであり、手頃な価格で信頼性の高い GPU 構築と拡張のためのクラウド。
Qwen 3 Reranker 8BとEmbedding 8Bに加えて、 Novita AI オープンソースコミュニティの開発をサポートするために、無料のQwen 3（0.6B、1.7B、4B）も提供しています。
ステップ1: ログインしてモデルライブラリにアクセスする
アカウントにログインして、 モデルライブラリ
ステップ2: モデルを選択して無料トライアルを開始する
利用可能なオプションを参照して、ニーズに合ったモデルを選択してください。
ステップ3: APIキーを取得する
API で認証するには、新しい API キーが提供されます。「設定」ページに入ると、画像に示されているように API キーをコピーできます。
ステップ4: APIをインストールする
プログラミング言語固有のパッケージ マネージャーを使用して API をインストールします。
インストール後、開発環境に必要なライブラリをインポートします。APIキーでAPIを初期化して、 Novita AI LLMこれは、Python ユーザー向けのチャット補完 API の使用例です。
openai からインポート OpenAI クライアント = OpenAI( base_url="https://api.novita.ai/v3/openai", api_key="session_nkvtuVXXxS-LlR7txjZ3Rox8GhLMuv1R8IrIySNwTPN7xHJ0SVErFx3kNwJgkUEpcSM4F8c6zmcvyfuc1h59gw==", ) model = "qwen/qwen3-32b-fp8" stream = True # または False max_tokens = 2048 system_content = ""役に立つアシスタントになりましょう"" temperature = 1 top_p = 1 min_p = 0 top_k = 50 presence_penalty = 0 frequency_penalty = 0 repetition_penalty = 1 response_format = { "type": "text" } chat_completion_res = client.chat.completions.create( model=model, messages=[ { "role": "system", "content": system_content, }, { "role": "user", "content": "こんにちは！", } ], stream=stream, max_tokens=max_tokens, temperature=temperature, top_p=top_p, presence_penalty=presence_penalty, frequency_penalty=frequency_penalty, response_format=response_format, extra_body={ "top_k": top_k, "repetition_penalty": repetition_penalty, "min_p": min_p } ) if stream: for chunk in chat_completion_res: print(chunk.choices[0].delta.content or "", end="") else: print(chat_completion_res.choices[0].message.content)
ノートパソコンでチャットボットを構築する場合でも、大規模な科学エージェントを導入する場合でも、Qwen3はお客様のリソースと目標に合わせてカスタマイズされたモデルを提供します。小規模モデル（0.6B～4B）は軽量かつ高速、中規模モデル（8B～14B）はパワーと効率のバランスに優れ、大規模モデル（32B、235B）は推論ベンチマークでリードしています。費用対効果の高いアクセスを求める開発者のために、 Novita AI API を通じて Qwen3 モデルをシームレスに展開できます。一部は完全に無料で利用できます。
よくある質問
Qwen3-0.6BまたはQwen3-1.7B。これらのモデルは、ベーシックPCまたはApple Siliconで動作し、軽量タスクやチャットボットに最適です。
Qwen3-8BまたはQwen3-14B。優れた推論能力を備えており、 GPU16～24GBのVRAMを搭載したモデル。
MoE 構造に依存せずに、高度なロジック、コーディング、および長い形式の生成が必要な場合は、Qwen3-32B を使用します。
ノビtAI は、開発者がシンプルなAPIを使用してAIモデルを簡単に導入できるAIクラウドプラットフォームであり、手頃な価格で信頼性の高い GPU 構築と拡張のためのクラウド。
推奨読書
- DeepSeek R1 vs QwQ-32B: RL パワーによる精度と効率
- QwQ 32B: DeepSeek R1 のコンパクトな AI ライバル
- L40 vs L40S: 小さなアップグレードは価値があるか?
Novitaの詳細を見る
最新の投稿をメールで受け取るには購読してください。
