主なポイント
Qwen 3 235B A22B は、高度な推論、コーディング、多言語タスク向けに設計された強力なMixture-of-Experts (MoE) モデルです。
ローカルで実行するには 約1128GBのVRAM が必要であり、これは16× A100または16× H100 GPUに相当するため、ほとんどの個人開発者にはアクセスできません。
Qwen 3 235B A22B にAPI経由でアクセスする3つの簡単な方法:
- OpenAI互換エンドポイントを使った直接API統合
- OpenAI Agents SDKを使ったマルチエージェントワークフロー
- Hugging Face、LangChain、Difyなどによるサードパーティ統合
Qwen 3 235B A22B は、現在入手可能な最も高性能な大規模言語モデルの1つであり、推論、数学、多言語タスクでトップクラスのパフォーマンスを発揮します。ただし、VRAM要件が1TBを超えるため、ほとんどの開発者がローカルで実行することはほぼ不可能です。幸いなことに、APIベースのアクセスにより、大規模なインフラなしでこのパワーを活用できます。
Qwen 3 235B A22B とは？
Qwen 3 235B A22B のベンチマーク
Qwen より
Qwen 3 235B A22B のハードウェア要件
Qwen 3 235B A22B をローカルで実行するには 約1128GBのVRAM が必要で、以下に相当します:
- 16× A100 (80GB) GPU
- または16× H100 (80GB) GPU
このセットアップは、ほとんどの個人開発者や小規模チームの手の届かないところにあります。
ほとんどの開発者にとってAPIがより賢い選択
- セットアップやハードウェアコストがゼロ
- 最先端のモデルに即座にアクセス
- ニーズに応じてスケーラブルに使用
- 継続的なモデル更新とメンテナンス
オプション1: 直接API統合
ステップ1: ログインしてモデルライブラリにアクセス
アカウントにログインし、モデルライブラリ ボタンをクリックします。
ステップ2: モデルを選択
利用可能なオプションを参照し、ニーズに合ったモデルを選択します。
ステップ3: 無料トライアルを開始
選択したモデルの機能を試すために、無料トライアルを開始します。
ステップ4: APIキーを取得
APIで認証するために、新しいAPIキーを提供します。「設定」ページに移動し、画像のようにAPIキーをコピーします。
ステップ5: APIをインストール
使用するプログラミング言語に応じたパッケージマネージャを使用してAPIをインストールします。
インストール後、開発環境に必要なライブラリをインポートします。APIキーを使ってAPIを初期化し、Novita AI LLMとの対話を開始します。これは、Pythonユーザー向けのチャット補完APIを使用する例です。
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="<YOUR Novita AI API Key>",
)
model = "qwen/qwen3-235b-a22b-fp8"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
オプション2: OpenAI Agents SDKを使ったマルチエージェントワークフロー
OpenAI Agents SDK は、OpenAIのSWARMプロジェクトを進化させたプロダクショングレードのSDKで、インテリジェントで協調的かつ安全なAIエージェントの開発を簡素化するように設計されています。中核となるのは、カスタム指示、ロール、外部ツールで構成できるLLMベースのエージェントです。このSDKは、Pydantic検証による自動関数ツール変換、シームレスなツールフィードバックのための組み込みエージェントループ、マルチエージェントタスク委任、堅牢なセキュリティガードレールなどの強力な機能を提供します。開発者は、Pythonネイティブのオーケストレーション、デバッグ用の組み込みトレースツール、高いカスタマイズ性を、最小限の習得で軽量なフレームワーク内で利用できます。
1. Python環境をセットアップし、Agents SDKをインストール
python -m venv env
source env/bin/activate
pip install openai-agents
2. Novita APIキーを設定
3. ハンドオフの例
import os
from openai import AsyncOpenAI
from agents import (
Agent,
Runner,
set_default_openai_api,
set_default_openai_client,
set_tracing_disabled,
)
BASE_URL = "https://api.novita.ai/v3/openai"
API_KEY = os.getenv("NOVITA_API_KEY")
MODEL_NAME = os.getenv("MODEL_NAME")
# Novitaがresponses APIをサポートしていないため、代わりにchat completions APIを使用します。
set_default_openai_api("chat_completions")
set_default_openai_client(AsyncOpenAI(base_url=BASE_URL, api_key=API_KEY))
# この例ではトレースを無効にします
# カスタムスパンを使用する場合は、https://openai.github.io/openai-agents-python/tracing/#external-tracing-processors-list を参照してください
set_tracing_disabled(disabled=True)
agent = Agent(name="Assistant",
instructions="You are a helpful assistant", model=MODEL_NAME)
result = Runner.run_sync(
agent, "Write a haiku about recursion in programming.")
print(result.final_output)
# Code within the code,
# Functions calling themselves,
# Infinite loop's dance.
オプション3: サードパーティ製Qwen 3 API統合
1. HuggingFace統合
ステップ1: Hugging FaceでAPIキーを設定
- アカウント設定ダッシュボードにアクセスしてAPIキーを設定します。
- Novita AIの認証情報をHugging Faceプラットフォームに入力します。
ステップ2: 推論APIモードを選択
- カスタムキーモード: 呼び出しは直接推論プロバイダーに送信され、自身のAPIキーが使用されます。
- HFルーティングモード: このモードではプロバイダートークンは不要です。料金はプロバイダーのアカウントではなく、Hugging Faceアカウントに請求されます。
ステップ3: 設定ボタンをクリックし、APIプロバイダーとしてNovita AIを選択
2. Novita AIとのエージェント/フレームワーク統合
Novita AIは、多くの人気エージェントフレームワークの ファーストクラスパートナー です。 プラットフォーム内で 直接Novitaをプロバイダーとして選択 できます。 それぞれに 公式コネクタ ** と ** ステップバイステップガイド が用意されており、マルチエージェントワークフロー、ツール呼び出しエージェント、複雑なオーケストレーションタスクの統合がスムーズに行えます。
3. OpenAI互換API統合
OpenAI API標準 ** に基づいて構築されたツールの場合、Novita AIは ** ドロップイン代替 ** を提供します。必要なのは ** ベースURL と APIキー だけです。この方法では ** リファクタリングは不要** で、すでにOpenAI互換の呼び出しを使用しているアプリケーションの即時移行をサポートします。
よくある質問
Qwen 3 235B A22B とは何ですか？
Alibabaによる最先端のMoE言語モデルで、235Bパラメータ（フォワードパスあたり22Bアクティブ）を持ち、論理、数学、多言語タスクに優れています。
なぜQwen 3 235B A22B をローカルで実行できないのですか？
約1128GBのVRAMが必要であり、民生用ハードウェアの範囲をはるかに超えています。16× A100またはH100 GPUが必要です。
Qwen 3 235B A22B を試す無料トライアルはありますか？
はい。Novita AI では、コミット前にモデルを探索するための無料クレジットを提供しています。
Novita AI は、開発者がシンプルなAPIを使用してAIモデルを簡単にデプロイできるAIクラウドプラットフォームであり、手頃な価格で信頼性の高いGPUクラウドを構築およびスケーリングするためにも提供しています。
