- Qwen 2.5 7B يوفر قدرات متقدمة في البرمجة والرياضيات، وتحسين اتباع التعليمات، وتوليد النصوص المنظمة.
- يدعم النموذج أطوال سياق تصل إلى 128 ألف رمز، مما يتيح مخرجات أكثر شمولاً وتماسكًا.
- تقدم Novita AI نموذج Qwen 2.5 7B مجانًا لدعم المجتمع مفتوح المصدر والمساهمة فيه.
Qwen 2.5 7B هو نموذج لغة مفتوح المصدر قوي مصمم لتلبية الاحتياجات المتنوعة للمطورين والباحثين. مع تحسينات كبيرة في المجالات الرئيسية، فهو يمثل موردًا قيمًا للمجتمع. فيما يلي النقاط الرئيسية لهذا النموذج:
ما هو Qwen 2.5 7B؟
بالإضافة إلى ذلك، كعائلة نماذج، تتضمن Qwen 2.5 أيضًا نماذج أخرى تغطي أحجامًا مختلفة للمعلمات، ونوافذ سياقية، ومجالات متخصصة (عامة، برمجة، ورياضيات).
عائلة Qwen 2.5
هياكل نماذج ومقاييس متنوعة
تغطي سلسلة Qwen2.5 أحجام نماذج تتراوح من 0.5 مليار إلى 72 مليار معلمة، لتلبية احتياجات السيناريوهات المختلفة من التطبيقات خفيفة الوزن إلى واسعة النطاق.
يزداد عدد الطبقات ورؤوس الانتباه (Q/KV) مع حجم النموذج، مما يؤدي إلى تعقيد أكبر للنموذج.
نافذة السياق وطول التوليد
معظم النماذج الأساسية لها طول سياق يبلغ 128 ألفًا، بينما النماذج الأصغر (0.5 مليار، 1.5 مليار، 3 مليار) لها 32 ألفًا، وإصدارات الرياضيات لها 4 آلاف.
طول التوليد السائد هو 8000، بينما إصدارات Coder وMath لها 2000.
التغييرات في Tie Embedding
النماذج الأصغر (0.5 مليار، 1.5 مليار، 3 مليار) وجميع إصدارات Coder/Math-1.5B تستخدم Tie Embedding، بينما النماذج الأكبر لا تستخدمه.
قد يساعد ذلك في تحسين كفاءة المعلمات والتعميم للنماذج الأصغر.
أنواع النماذج الغنية
بالإضافة إلى النماذج العامة، هناك أيضًا سلاسل فرعية متخصصة في البرمجة (Coder) والرياضيات (Math)، لتلبية احتياجات المجالات الرأسية المختلفة.
معايير Qwen 2.5 7B
متطلبات الأجهزة لـ Qwen 2.5 7B
كيفية الوصول إلى Qwen 2.5 7B؟
Novita AI هي منصة سحابية للذكاء الاصطناعي تقدم للمطورين طريقة سهلة لنشر نماذج الذكاء الاصطناعي باستخدام واجهة برمجة التطبيقات البسيطة الخاصة بنا، مع توفير سحابة GPU ميسورة التكلفة وموثوقة للبناء والتوسع.
الخطوة 1: تسجيل الدخول والوصول إلى مكتبة النماذج
سجل الدخول إلى حسابك وانقر على زر مكتبة النماذج.
الخطوة 2: ابدأ النسخة التجريبية المجانية
ابدأ نسختك التجريبية المجانية لاستكشاف إمكانات النموذج المحدد.
الخطوة 3: الحصول على مفتاح API الخاص بك
لمصادقة API، سنزودك بمفتاح API جديد. بالدخول إلى صفحة “الإعدادات“، يمكنك نسخ مفتاح API كما هو موضح في الصورة.
الخطوة 4: تثبيت API
قم بتثبيت API باستخدام مدير الحزم الخاص بلغة البرمجة التي تستخدمها.
بعد التثبيت، قم باستيراد المكتبات اللازمة إلى بيئة التطوير الخاصة بك. قم بتهيئة API باستخدام مفتاح API الخاص بك لبدء التفاعل مع Novita AI LLM. هذا مثال على استخدام واجهة برمجة تطبيقات chat completions لمستخدمي Python.
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="<YOUR Novita AI API Key>",
)
model = "qwen/qwen2.5-7b-instruct"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
يضع Qwen 2.5 7B معيارًا جديدًا في نماذج اللغة مفتوحة المصدر، حيث يقدم أداءً متميزًا في البرمجة والرياضيات والفهم متعدد اللغات. إن تعدد استخداماته وقابليته للتوسع واستخدامه الفعال للأجهزة يجعله خيارًا ممتازًا للمطورين والشركات التي تسعى إلى أحدث قدرات الذكاء الاصطناعي.
الأسئلة المتكررة
كيف يقارن Qwen 2.5 7B بالنماذج المماثلة؟
يتفوق Qwen 2.5 7B على العديد من النماذج المنافسة في الرياضيات والبرمجة والمعايير العامة، خاصةً في مهام السياق الطويل والبيانات المنظمة.
كيف يمكنني الوصول إلى Qwen 2.5 7B؟
يمكنك نشر Qwen 2.5 7B عبر منصة Novita AI، التي تقدم تكاملًا سهلاً مع API وحلول سحابية GPU قابلة للتوسع.
ما هي متطلبات الأجهزة لـ Qwen 2.5 7B؟
بالنسبة لدقة FP16، يُوصى باستخدام بطاقة RTX 4090 واحدة (24 جيجابايت). بالنسبة لـ FP32، يلزم وجود بطاقتي RTX 4090. مع التكميم الكمي Q4، يمكن تشغيله على بطاقة RTX 3060.
Novita AI هي منصة سحابية للذكاء الاصطناعي تقدم للمطورين طريقة سهلة لنشر نماذج الذكاء الاصطناعي باستخدام واجهة برمجة التطبيقات البسيطة الخاصة بنا، مع توفير سحابة GPU ميسورة التكلفة وموثوقة للبناء والتوسع.
