كيفية الوصول إلى Qwen 2.5 7B باستخدام API أو محليًا: دليل كامل

النقاط الرئيسية

Qwen2.5-7B هو نموذج LLM مفتوح المصدر متوسط الحجم يحتوي على 7.6 مليار معلمة، ويدعم سياقًا يصل إلى 128 ألف رمز، ويتميز بأداء عام قوي.

يمكن نشر Qwen2.5-7B محليًا باستخدام وحدات معالجة رسومية (مثل RTX 4090)، لكن الصيغ عالية الدقة مثل FP32 تتطلب إعدادات أجهزة مكلفة.

لإتاحة الوصول بشكل أوسع، يوفر الوصول عبر API عبر Novita AI بديلاً قابلاً للتوسع وفعالاً من حيث التكلفة، متوافق تمامًا مع SDK الخاص بـ OpenAI.

قم بإحالة أصدقائك إلى Novita AI وستحصل أنت وصديقك على 10 دولارات من أرصدة LLM API—حتى 500 دولار إجمالي المكافآت. لدعم مجتمع المطورين، يتوفر Qwen2.5-7B حاليًا مجانًا على Novita AI.

Qwen2.5-7B هو نموذج LLM مفتوح المصدر متعدد الاستخدامات مصمم للمهام العامة، ويوازن بين القوة والكفاءة. مع دعم لأكثر من 29 لغة وسياق هائل يبلغ 128 ألف رمز، فإنه يتيح التفكير الطويل وتغطية واسعة للتطبيقات.

ما هو Qwen 2.5 7B؟

Qwen 2.5 7B هو نموذج لغة قوي متوسط الحجم مفتوح المصدر يحتوي على 7.6 مليار معلمة، ويدعم سياقًا يصل إلى 128 ألف رمز، ومُحسّن للمهام العامة.

نظرة عامة على النموذج

• حجم النموذج: 7.61 مليار معلمة
• مفتوح المصدر: مفتوح
• المعمارية: Transformers مع RoPE، SwiGLU، RMSNorm، و Attention QKV bias
• طول السياق: 128 ألف رمز

اللغة والتعدد الوسائطي

• اللغات المدعومة: يدعم أكثر من 29 لغة متعددة اللغات
• القدرة التعددية الوسائطية: نص إلى نص فقط

تفاصيل التدريب

• حجم بيانات التدريب: تم تدريبه على مجموعة بيانات تحتوي على أكثر من 18 تريليون رمز

الأداء المعياري

مقارنة مع نماذج Qwen 2.5 الأخرى

سلسلة Qwen 2.5 تقدم عائلة قابلة للتوسع من النماذج تتراوح من 0.5B إلى 72B معلمة، بما في ذلك متغيرات للأغراض العامة والبرمجة والرياضيات، مصممة لتلبية احتياجات متنوعة من النشر خفيف الوزن إلى تطبيقات الذكاء الاصطناعي عالية الأداء.

من Qwen

1. مجموعة واسعة من أحجام النماذج لحالات استخدام مختلفة
   تمتد سلسلة Qwen 2.5 من 0.5B إلى 72B معلمة، بما في ذلك متغيرات للأغراض العامة، Coder، و Math—مما يوفر مرونة لمهام متنوعة وميزانيات حسابية مختلفة.

2. النماذج الأكبر تتمتع بنوافذ سياق طويلة
   تدعم معظم النماذج أطوال سياق تبلغ 128K أو 32K، مما يتيح التفكير الطويل والمحادثات متعددة الأدوار. فقط نماذج الرياضيات تستخدم سياقات أقصر 4K، مُحسّنة للحسابات الكثيفة.

3. استخدام Tie Embedding بشكل انتقائي
   يتم تمكين Tie Embedding للنماذج الأصغر والمتخصصة (مثل متغيرات 1.5B)، على الأرجح لتقليل عدد المعلمات، بينما تعطلها النماذج الأكبر لتعزيز قوة التمثيل.

4. المعمارية تتوسع بشكل متوقع مع حجم النموذج

   • الطبقات: من 24 إلى 80
   • رؤوس الانتباه: من 14/2 إلى 64/8 (تقسيم Q/KV)
     يعكس هذا استراتيجية توسع منظمة مع زيادة العمق والعرض.

5. نماذج Coder و Math المتخصصة لها أطوال توليد أقصر
   تستخدم هذه النماذج طول توليد 2K ومُحسّنة لمهام مجال محددة مثل توليد الكود أو التفكير الرياضي—تفضل الدقة على طول السياق.

كيفية الوصول إلى Qwen 2.5 7B محليًا

توصيات GPU

الكمية (Quantization)	حجم النموذج	GPU الموصى بها	متطلبات VRAM	التكلفة التقديرية لـ GPU (بالدولار)
FP16	~16.1 GB	1× RTX 4090 (24GB)	≥24 GB	~1,600–1,800 دولار
FP32	~32.2 GB	2× RTX 4090 (24GB لكل منهما)	≥48 GB	~3,200–3,600 دولار
4-bit (Q4)	~4.02 GB	RTX 3060 (12GB)	≥8 GB	~300–350 دولار

بداية سريعة

from transformers import AutoModelForCausalLM, AutoTokenizer
device = "cuda" # الجهاز لتحميل النموذج عليه

model = AutoModelForCausalLM.from_pretrained(
    "Qwen/Qwen2.5-7B-Instruct",
    torch_dtype="auto",
    device_map="auto"
)
tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen2-7B-Instruct")

prompt = "Give me a short introduction to large language model."
messages = [
    {"role": "system", "content": "You are a helpful assistant."},
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True
)
model_inputs = tokenizer([text], return_tensors="pt").to(device)

generated_ids = model.generate(
    model_inputs.input_ids,
    max_new_tokens=512
)
generated_ids = [
    output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
]

response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]

بينما يوفر تشغيل Qwen2.5-7B محليًا تحكمًا كاملًا وأوقات استجابة أسرع، فإن التكلفة المقدمة لشراء وحدات GPU عالية الجودة—خاصة لنشر الدقة الكاملة (FP32)—يمكن أن تكون أعلى بكثير من استخدام API بنظام الدفع حسب الاستخدام. بالنسبة للمطورين أو الفرق ذات الميزانيات المحدودة، غالبًا ما يكون الوصول عبر API حلاً أكثر فعالية من حيث التكلفة وقابلية للتوسع.

كيفية الوصول إلى Qwen 2.5 7B عبر API؟

Novita AI هي منصة سحابية للذكاء الاصطناعي تقدم للمطورين طريقة سهلة لنشر نماذج الذكاء الاصطناعي باستخدام API بسيط، مع توفير سحابة GPU ميسورة التكلفة وموثوقة للبناء والتوسع.

يمكنك بدء النسخة التجريبية المجانية لاستكشاف إمكانات النموذج المحدد. بعد التثبيت، قم باستيراد المكتبات اللازمة إلى بيئة التطوير الخاصة بك. قم بتهيئة API باستخدام مفتاح API الخاص بك لبدء التفاعل مع Novita AI LLM. هذا مثال لاستخدام chat completions API لمستخدمي Python.

جرب Qwen 2.5 7B Demo الآن!

تكامل API المباشر

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<YOUR Novita AI API Key>",
)

model = "qwen/qwen2.5-7B-Instruct"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)

سير العمل متعدد الوكلاء باستخدام OpenAI Agents SDK

قم ببناء أنظمة متعددة الوكلاء متقدمة من خلال دمج Novita AI مع OpenAI Agents SDK:

• التوصيل والتشغيل: استخدم نماذج Novita AI LLM في أي سير عمل لـ OpenAI Agents.
• يدعم التسليم والتوجيه واستخدام الأدوات: صمم وكلاء يمكنهم التفويض أو الفرز أو تشغيل الوظائف، جميعها مدعومة بنماذج Novita AI.
• التكامل مع Python: ما عليك سوى توجيه SDK إلى نقطة نهاية Novita (https://api.novita.ai/v3/openai) واستخدام مفتاح API الخاص بك.

على منصات الطرف الثالث

• Hugging Face: استخدم Qwen 3 في Spaces أو pipelines أو مع مكتبة Transformers عبر نقاط نهاية Novita AI.
• أطر العمل الخاصة بالوكلاء والتنسيق: قم بتوصيل Novita AI بسهولة مع منصات شريكة مثل Continue، AnythingLLM، LangChain، Dify و Langflow من خلال الموصلات الرسمية وأدلة التكامل خطوة بخطوة.
• API متوافق مع OpenAI: استمتع بالهجرة والتكامل بدون متاعب مع أدوات مثل Cline و Cursor، المصممة لمعيار OpenAI API.

سواء تم تشغيل Qwen2.5-7B محليًا أو عبر API، يحصل المطورون على إمكانية الوصول إلى مجموعة أدوات قوية. ومع ذلك، فإن تكاليف النشر المحلي لوحدات GPU مثل RTX 4090 قد تكون باهظة، مما يجعل تكامل API الخاص بـ Novita AI خيارًا أكثر ذكاءً وقابلية للتوسع لمعظم الفرق.

الأسئلة الشائعة

كيف يمكنني تشغيل Qwen 2.5 7B محليًا؟

استخدم GPU عالي الجودة مثل RTX 4090. يتطلب FP16 حوالي 24 جيجابايت من VRAM، بينما يحتاج FP32 إلى حوالي 48 جيجابايت. ستحتاج أيضًا إلى تثبيت مكتبة Transformers وتحميل النموذج باستخدام AutoModelForCausalLM.

كيف يقارن الوصول عبر API بتشغيل النموذج محليًا؟

يزيل الوصول عبر API التكاليف المسبقة لـ GPU ويوفر قابلية توسع مرنة. النشر المحلي يوفر تحكمًا ولكنه أكثر تكلفة بكثير للإعدادات كاملة الدقة.

كيف يمكن الوصول إلى Qwen 2.5 7B عبر API؟

Novita AI يوفر API متوافق مع OpenAI وجاهز للتوصيل والتشغيل.

Novita AI هي المنصة السحابية الشاملة التي تمكّن طموحاتك في الذكاء الاصطناعي. واجهات برمجة تطبيقات متكاملة، بدون خادم (serverless)، مثيل GPU — الأدوات الفعالة من حيث التكلفة التي تحتاجها. تخلص من البنية التحتية، ابدأ مجانًا، وحوّل رؤيتك في الذكاء الاصطناعي إلى واقع.

قراءات موصى بها

• لماذا تعتبر متطلبات VRAM لنموذج LLaMA 3.3 70B تحديًا للخوادم المنزلية؟
• QwQ 32B مقابل Qwen 2.5 7B: القوة مقابل المرونة
• Qwen 2.5 7B المجاني على Novita AI يدعم استدعاء الدوال (Function Calling)!