النقاط الرئيسية
Qwen 3 235B A22B هو نموذج قوي من نوع Mixture-of-Experts (MoE) مصمم للاستدلال المتقدم والبرمجة والمهام متعددة اللغات.
يتطلب تشغيله محليًا ~1128 جيجابايت من VRAM - أي ما يعادل 16× A100 أو 16× H100 GPU - مما يجعله غير متاح لمعظم المطورين الأفراد.
كيفية الوصول إلى Qwen 3 235B A22B عبر API: 3 طرق بسيطة:
- التكامل المباشر مع API باستخدام نقاط نهاية متوافقة مع OpenAI
- سير عمل متعدد الوكلاء مع OpenAI Agents SDK
- تكاملات الطرف الثالث عبر Hugging Face وLangChain وDify والمزيد
Qwen 3 235B A22B هو أحد أقوى نماذج اللغة الكبيرة المتاحة اليوم، مع أداء متميز في الاستدلال والرياضيات والمهام متعددة اللغات. ومع ذلك، مع متطلبات VRAM التي تتجاوز 1 تيرابايت، يكاد يكون من المستحيل تشغيله محليًا لمعظم المطورين. لحسن الحظ، الوصول عبر API يجعل من الممكن تسخير هذه القوة دون الحاجة إلى بنية تحتية ثقيلة.
ما هو Qwen 3 235B A22B؟
معيار Qwen 3 235B A22B
المصدر: Qwen
متطلبات الأجهزة لـ Qwen 3 235B A22B
يتطلب تشغيل Qwen 3 235B A22B محليًا ~1128 جيجابايت من VRAM، أي ما يعادل:
- 16× A100 (80GB) GPU
- أو 16× H100 (80GB) GPU
هذا الإعداد يتجاوز بكثير إمكانات معظم المطورين الأفراد أو الفرق الصغيرة.
API هو الخيار الأذكى لمعظم المطورين
- لا حاجة لإعداد أو تكاليف أجهزة
- وصول فوري إلى أحدث النماذج
- استخدام قابل للتوسع وفقًا لاحتياجاتك
- تحديثات وصيانة مستمرة للنماذج
الخيار 1: التكامل المباشر مع API
الخطوة 1: تسجيل الدخول والوصول إلى مكتبة النماذج
سجل الدخول إلى حسابك وانقر على زر مكتبة النماذج.
الخطوة 2: اختر نموذجك
تصفح الخيارات المتاحة واختر النموذج الذي يناسب احتياجاتك.
الخطوة 3: ابدأ النسخة التجريبية المجانية
ابدأ نسختك التجريبية المجانية لاستكشاف إمكانيات النموذج المختار.
الخطوة 4: احصل على مفتاح API الخاص بك
للمصادقة مع API، سنقدم لك مفتاح API جديدًا. ادخل إلى صفحة “الإعدادات”، وانسخ مفتاح API كما هو موضح في الصورة.
الخطوة 5: تثبيت API
قم بتثبيت API باستخدام مدير الحزم الخاص بلغة البرمجة التي تستخدمها.
بعد التثبيت، قم باستيراد المكتبات اللازمة إلى بيئة التطوير الخاصة بك. قم بتهيئة API باستخدام مفتاح API الخاص بك لبدء التفاعل مع Novita AI LLM. هذا مثال على استخدام chat completions API لمستخدمي Python.
from openai import OpenAI
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="<YOUR Novita AI API Key>",
)
model = "qwen/qwen3-235b-a22b-fp8"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
الخيار 2: سير عمل متعدد الوكلاء مع OpenAI Agents SDK
OpenAI Agents SDK هو تطور إنتاجي لمشروع SWARM من OpenAI، مصمم لتبسيط تطوير وكلاء ذكاء اصطناعي أذكياء وتعاونيين وآمنين. في جوهره، يعتمد على وكلاء LLM يمكن تهيئتهم بتعليمات وأدوار وأدوات خارجية مخصصة. يقدم SDK ميزات قوية مثل التحويل التلقائي للوظائف إلى أدوات مع التحقق من صحة Pydantic، وحلقات وكيل مدمجة لتغذية راجعة سلسة للأدوات، وتفويض المهام متعدد الوكلاء، ودرابزين أمان قوي. يستفيد المطورون من التنسيق الأصلي لـ Python، وأدوات التتبع المدمجة لتصحيح الأخطاء، وقابلية تخصيص عالية - كل ذلك ضمن إطار خفيف الوزن يتطلب حدًا أدنى من منحنى التعلم.
1. إعداد بيئة Python وتثبيت Agents SDK
python -m venv env
source env/bin/activate
pip install openai-agents
2. إعداد مفتاح Novita API الخاص بك
اذهب إلى لوحة التحكم واحصل على 10 أرصدة
3. مثال على التسليم (Handoffs)
import os
from openai import AsyncOpenAI
from agents import (
Agent,
Runner,
set_default_openai_api,
set_default_openai_client,
set_tracing_disabled,
)
BASE_URL = "https://api.novita.ai/v3/openai"
API_KEY = os.getenv("NOVITA_API_KEY")
MODEL_NAME = os.getenv("MODEL_NAME")
# Because Novita not support the responses API so we use the chat completions API instead.
set_default_openai_api("chat_completions")
set_default_openai_client(AsyncOpenAI(base_url=BASE_URL, api_key=API_KEY))
# Disable tracing for this example
# Refer to https://openai.github.io/openai-agents-python/tracing/#external-tracing-processors-list to use the custom spans.
set_tracing_disabled(disabled=True)
agent = Agent(name="Assistant",
instructions="You are a helpful assistant", model=MODEL_NAME)
result = Runner.run_sync(
agent, "Write a haiku about recursion in programming.")
print(result.final_output)
# Code within the code,
# Functions calling themselves,
# Infinite loop's dance.
الخيار 3: تكامل Qwen 3 API عبر طرف ثالث
1. التكامل مع HuggingFace
الخطوة 1: تهيئة مفاتيح API على Hugging Face
- قم بالوصول إلى لوحة إعدادات حسابك لتهيئة مفاتيح API الخاصة بك.
- أدخل بيانات اعتماد المصادقة الخاصة بـ Novita AI في منصة Hugging Face.
الخطوة 2: اختر أوضاع Inference API
- وضع المفتاح المخصص (Custom Key Mode): يتم إرسال الاستدعاءات مباشرة إلى مزود الاستدلال، باستخدام مفتاح API الخاص بك.
- وضع HF-Routed Mode: في هذا الوضع، لا يلزم وجود رمز مزود. يتم تطبيق الرسوم على حساب Hugging Face الخاص بك بدلاً من حساب المزود.
الخطوة 3: انقر على زر الإعدادات، واختر Novita AI كمزود API الخاص بك
2. تكامل الوكلاء/الأطر مع Novita AI
Novita AI هي شريك من الدرجة الأولى مع العديد من أطر العمل الشهيرة للوكلاء.
يمكنك اختيار Novita مباشرة كمزود لك داخل المنصات. كل منها يأتي مع موصلات رسمية وأدلة خطوة بخطوة، مما يجعل التكامل سلسًا لسير العمل متعدد الوكلاء، ووكلاء استدعاء الأدوات، ومهام التنسيق المعقدة.
3. تكامل API المتوافق مع OpenAI
بالنسبة للأدوات المبنية على معيار OpenAI API، توفر Novita AI بديلًا مباشرًا - كل ما تحتاجه هو عنوان URL أساسي ومفتاح API. تتطلب هذه الطريقة إعادة هيكلة صفرية وتدعم الترحيل الفوري للتطبيقات التي تستخدم بالفعل استدعاءات متوافقة مع OpenAI.
الأسئلة الشائعة
ما هو Qwen 3 235B A22B؟
نموذج لغوي MoE متطور من علي بابا يحتوي على 235 مليار معامل (22 مليار نشط لكل تمرير أمامي)، يتفوق في المنطق والرياضيات والمهام متعددة اللغات.
لماذا لا يمكنني تشغيل Qwen 3 235B A22B محليًا؟
يتطلب ~1128 جيجابايت من VRAM - وهو ما يتجاوز بكثير الأجهزة الاستهلاكية. ستحتاج إلى 16× A100 أو H100 GPU.
هل هناك نسخة تجريبية مجانية لاستخدام Qwen 3 235B A22B؟
نعم. تقدم Novita AI أرصدة مجانية لاستكشاف النموذج قبل الالتزام.
Novita AI هي منصة سحابية للذكاء الاصطناعي تقدم للمطورين طريقة سهلة لنشر نماذج الذكاء الاصطناعي باستخدام API بسيط، مع توفير سحابة GPU موثوقة وبأسعار معقولة للبناء والتوسع.
