النقاط الرئيسية
Llama 3.3 70B: نموذج لغة يحتوي على 70 مليار معلمة تم تطويره بواسطة Meta.
الميزات التقنية: يستخدم محولًا محسّنًا مع GQA، ويدعم 8 لغات، ويُمكّن من استدعاء الدوال، ويحقق نتائج عالية في المعايير (MMLU Chat: 86.0).
متطلبات الأجهزة: يتطلب 24 جيجابايت على الأقل من VRAM و 32 جيجابايت من RAM.
حالات الاستخدام: مناسب للبرمجة، إنشاء المحتوى، التعليم، وخدمة العملاء.
المقارنة مع النماذج الأخرى: يقدم فعالية من حيث التكلفة وقدرات متعددة اللغات أفضل مقارنة بالنماذج المنافسة.
كيفية الوصول: متاح عبر المنصات عبر الإنترنت، النشر المحلي، واجهات API، أو وحدات GPU السحابية.
نموذج Llama 3.3 70B من Meta، الذي تم إصداره في 6 ديسمبر 2024، يمثل تقدمًا كبيرًا في مجال نماذج اللغة الكبيرة (LLMs)، حيث يوفر توازنًا بين الأداء والكفاءة. تقدم هذه المقالة نظرة عامة تقنية على Llama 3.3 70B، مع تفاصيل حول بنيته، قدراته، وتطبيقاته العملية. ستغطي أيضًا كيفية مقارنته بالنماذج الأخرى، متطلبات أجهزته، وكيفية الوصول إليه.
ما هو Llama 3.3 70B؟
Llama 3.3 70B هو نموذج لغة كبير يحتوي على 70 مليار معلمة، نصي فقط، ومُدرَّب على التعليمات تم تطويره بواسطة Meta. وهو مصمم لمهام معالجة اللغة الطبيعية (NLP) المتقدمة، مع التركيز على التوازن بين الأداء وكفاءة الموارد. هذا النموذج غير مصمم لمعالجة الصور أو الصوت. يتم توفير Llama 3.3 فقط كنموذج مُدرَّب على التعليمات؛ ولا تتوفر نسخة مُدرَّبة مسبقًا.
الهندسة المعمارية
- هندسة المحولات المحسّنة: يستخدم Llama 3.3 70B بنية محولات محسّنة لتحسين الأداء.
- الانتباه المُجمَّع للاستعلامات (GQA): يستخدم النموذج الانتباه المُجمَّع للاستعلامات (GQA) لتحسين كفاءة المعالجة وقابلية التوسع في الاستدلال.
- بيانات التدريب: تم تدريب النموذج على مجموعة بيانات ضخمة تبلغ 15 تريليون رمز، باستخدام مزيج جديد من البيانات المتاحة للجمهور عبر الإنترنت. يستخدم التعلم الدقيق المُراقب (SFT) والتعلم التعزيزي مع التغذية الراجعة البشرية (RLHF). تتضمن بيانات التدريب مجموعة واسعة من اللغات، على الرغم من أن ثماني لغات فقط مدعومة رسميًا.
- المُرمِّز: يستخدم النموذج مُرمِّزًا نصيًا. يمكنك الحصول على عدد الرموز باستخدام Python أو اختيار واجهة API فعالة من حيث التكلفة لتقليل تكلفة كل مليون رمز للطلب والإكمال.
- التكميم: يختلف حجم النموذج بناءً على مستوى التكميم. على سبيل المثال، يتطلب الإصدار المكمم إلى 4 بت حوالي 35 جيجابايت من VRAM.
اللغات المدعومة
Llama 3.3 70B هو نموذج متعدد اللغات يدعم رسميًا ثماني لغات: الإنجليزية، الألمانية، الفرنسية، الإيطالية، البرتغالية، الهندية، الإسبانية، والتايلندية. على الرغم من تدريب النموذج على نطاق أوسع من اللغات، فإن أداءه في اللغات غير المدعومة قد لا يفي بمعايير الأمان والفائدة.
استدعاء الدوال
يدعم Llama 3.3 70B استدعاء الدوال. يتيح استدعاء الدوال للنموذج التفاعل مع الأنظمة الخارجية وواجهات API والأدوات. يمكن LLM من التعرف عندما تتطلب مهمة معينة وظيفة أو أداة خارجية ثم إخراج بيانات منظمة، عادة بصيغة JSON، لتنفيذ تلك الوظيفة. تتضمن هذه البيانات المنظمة اسم الوظيفة وأي وسائط ضرورية. لتنفيذ استدعاء الدوال مع Llama 3.3، يمكنك اتباع هذا الدليل: Llama 3.3 70B Function Calling: Seamless Integration for Better Performance.
معايير أداء Llama 3.3 70B
المعرفة العامة والاستدلال
- MMLU Chat (0-shot, CoT): 86.0
- MMLU PRO (5-shot, CoT): 68.9
يؤدي Llama 3.3 70B أداءً جيدًا جدًا في مهام المعرفة العامة والاستدلال. تشير النتائج العالية في MMLU Chat و IFEval إلى قدرات قوية في هذه المجالات. نتيجة MMLU PRO محترمة أيضًا، على الرغم من أنها أقل قليلاً من بعض النماذج الأخرى.
اتباع التعليمات
- IFEval: 92.1
نتيجة IFEval عالية بشكل استثنائي، مما يشير إلى أن Llama 3.3 70B يتفوق في مهام اتباع التعليمات. يشير هذا إلى أن النموذج فعال جدًا في فهم وتنفيذ التعليمات بدقة.
القدرات البرمجية
- HumanEval (0-shot): 88.4
- MBPP EvalPlus (base): 87.6
يُظهر Llama 3.3 70B قدرات برمجية قوية، مع نتائج عالية في كل من HumanEval و MBPP EvalPlus. يشير هذا إلى فهم قوي وقدرة على التوليد في مهام البرمجة.
الرياضيات والاستدلال الرمزي
- MATH (0-shot, CoT): 77.0
- GQA Diamond (0-shot, CoT): 50.5
في الرياضيات والاستدلال الرمزي، يؤدي Llama 3.3 70B أداءً جيدًا في معيار MATH، مما يشير إلى قدرات قوية في حل المسائل الرياضية. نتيجة GQA Diamond معتدلة، مما يشير إلى بعض المجال للتحسين في مهام استدلال معينة.
القدرات متعددة اللغات
- Multilingual MGSM (0-shot): 91.1
يؤدي Llama 3.3 70B أداءً استثنائيًا في المهام متعددة اللغات، كما يتضح من النتيجة العالية في معيار Multilingual MGSM. يشير هذا إلى قدرات قوية في التعامل مع لغات متعددة.
استخدام الأدوات وأداء السياق الطويل
- BFLC v2 (0-shot): 77.3
- NIH/Multi-needle: 97.5
في استخدام الأدوات وأداء السياق الطويل، يؤدي Llama 3.3 70B أداءً جيدًا، مع نتيجة عالية في معيار NIH/Multi-needle، مما يشير إلى قدرات قوية في معالجة النصوص الطويلة. نتيجة BFLC v2 محترمة أيضًا، مما يشير إلى قدرات فعالة في استخدام الأدوات.
لمزيد من التفاصيل، يُرجى الرجوع إلى هذا المقال: Llama 3.3 Benchmark: Key Advantages and Application Insights
متطلبات أجهزة Llama 3.3 70B
على الرغم من تصميمه ليكون متاحًا، إلا أن Llama 3.3 70B لا يزال يتطلب قدرًا كبيرًا من VRAM. بينما هو أكثر كفاءة من النماذج السابقة، فإنه يحتاج إلى 24 جيجابايت على الأقل من VRAM للتشغيل الفعال. بالإضافة إلى VRAM، يتطلب النموذج أيضًا ما لا يقل عن 32 جيجابايت من RAM، مع توصية بـ 64 جيجابايت أو أكثر. كما يتطلب حوالي 200 جيجابايت من مساحة التخزين. هذا يجعل تشغيل النموذج على الخوادم المنزلية صعبًا أو تحميله بطيئًا بسبب سعة VRAM المحدودة لوحدات GPU الاستهلاكية النموذجية. يوفر الوصول عبر API وتقنيات التحسين مثل التكميم بدائل عملية لمن لديهم موارد محدودة.
يتيح الضبط الدقيق تخصيص Llama 3.3 70B لمهام محددة، مما يحسن الدقة والملاءمة.
على الرغم من أن RTX 4090 هي وحدة GPU قوية، إلا أن قيود الذاكرة الخاصة بها يمكن أن تجعل الضبط الدقيق لـ Llama 3.3 70B صعبًا.
يمكن أن تساعد طرق الضبط الدقيق الفعالة من حيث المعلمات (PEFT) مثل LoRA و QLoRa في تخفيف هذه التحديات.
بالإضافة إلى ذلك، هذا يعني أن الضبط الدقيق لهذا النموذج يتطلب موارد GPU كبيرة، خاصة VRAM. يمكن أن تساعد تقنيات مثل التكميم و PEFT في تخفيف بعض هذه التحديات، ولكن للضبط الدقيق الكامل للمعلمات، غالبًا ما تكون الحلول المستندة إلى السحابة أو وحدات GPU عالية المستوى ضرورية.
حالات استخدام Llama 3.3 70B
تعدد استخدامات Llama 3.3 70B يجعله مناسبًا لمجموعة واسعة من التطبيقات:
المعالجة متعددة اللغات
- روبوتات المحادثة والمساعدون الافتراضيون متعددو اللغات
- خدمات الترجمة الفورية
- مساعدو الاتصال العالميون الذين يتعاملون مع الاتصالات متعددة اللغات واحتياجات الترجمة
إنشاء المحتوى ومعالجته
- توليد نصوص عالية الجودة (مقالات إخبارية، مدونات)
- أدوات دعم إنشاء المحتوى
- تلخيص النصوص وتحليلها
- توليد محتوى تسويقي
البرمجة والتطوير
- توليد الكود وحل المشكلات
- دعم البرمجة والمساعدة في التطوير
- الاختبار الآلي وتحليل المشاريع
التعليم والبحث
- أدوات تعليمية لإعداد المواد التعليمية
- تصميم مسارات التعلم الشخصية
- دعم تحليل البحث واستكشاف المعرفة
- المساعدة في التعلم واكتساب المعرفة
معالجة البيانات وتحليلها
- تصنيف النصوص (تصفية البريد العشوائي، تحليل المشاعر)
- التعرف على الكيانات المسماة
- توليد البيانات الاصطناعية
خدمة العملاء والتجربة
- أنظمة خدمة عملاء ذكية
- أنظمة أسئلة وأجوبة متقدمة تقدم إجابات ذكية
تطبيقات المجال المتخصص
- حل المشكلات الرياضية والاستدلال المنطقي
- أدوات إبداعية مدعومة بالذكاء الاصطناعي
- إدارة المعلومات الشخصية
تطبيقات المؤسسات
- نمذجة اللغة على نطاق المؤسسة وأنظمة الحوار
- تكامل الأدوات مع الأنظمة الخارجية وواجهات API
- أتمتة سير العمل المعقد
توضح سيناريوهات التطبيق هذه الإمكانات الواسعة لـ Llama 3.3 70B كنموذج لغة متعدد الاستخدامات وعالي الأداء عبر مجالات متعددة.
Llama 3.3 70B مقابل النماذج الأخرى
كيف تقارن النماذج الأخرى بـ Llama 3.3 70B؟ دعني أفصل الاختلافات الرئيسية:
- GPT-4o: أفضل للمهام المعقدة، أقل قابلية للتخصيص، أكثر تكلفة
- Qwen 2.5 72B: أقوى في المعرفة العامة والرياضيات، أضعف في البرمجة والسرعة
- Llama 3.1 405B: معرفة أوسع، متطلبات حسابية أعلى
- DeepSeek V3: قدرات برمجية فائقة، أقل فعالية من حيث التكلفة
- Llama 3.1 70B: أكثر فعالية من حيث التكلفة، أداء أقل في مهام مختلفة
- Mistral Nemo: يتفوق في توليد النص، أقل ملاءمة لأعلى نتائج المعايير
- Claude 3.5 Sonnet: متفوق في الاستدلال المعقد والبرمجة، أقل فعالية من حيث التكلفة
- Mistral Large 2411: أفضل لسير العمل المعقد، أضعف في المعرفة العامة
- QwQ: متخصص في مهام الاستدلال والرياضيات المتقدمة
- Llama 3.2 90B: يدعم المدخلات متعددة الوسائط، معالجة نصية أبطأ
- Llama 3 (original): نافذة سياق أصغر، دعم أقل للغات المتعددة
- Gemma 2 9B: أفضل لمهام توليد النص المحددة، أضعف في البرمجة والرياضيات
يتميز Llama 3.3 70B بتنوعه، فعالية التكلفة، والأداء القوي في البرمجة، اتباع التعليمات، والتطبيقات متعددة اللغات.
كيفية الوصول إلى Llama 3.3 70B
1. استخدام المنصات عبر الإنترنت للوصول إلى Llama 3.3 70B (مثل Novita AI)
يمكنك العثور على صفحة LLM Playground الخاصة بـ Novita AI لتجربة مجانية! هذه هي صفحة الاختبار التي نقدمها خصيصًا للمطورين! اختر النموذج الذي تريده من القائمة. هنا يمكنك اختيار نموذج Llama 3.3 70B .
2. تشغيل Llama 3.3 70B محليًا
1. تثبيت Python وإنشاء بيئة افتراضية
2. تثبيت المكتبات المطلوبة:
استخدم pip install bitsandbytes لتحسين GPU.
3. تثبيت واجهة سطر الأوامر Hugging Face وتسجيل الدخول:
pip install huggingface-cli
huggingface-cli login
4. طلب الوصول إلى Llama-3.3 70b على موقع Hugging Face الإلكتروني.
5. تنزيل ملفات النموذج باستخدام واجهة سطر الأوامر Hugging Face:
huggingface-cli download meta-llama/Llama-3.3-70B-Instruct --include "original/*" --local-dir Llama-3.3-70B-Instruct
6. تحميل النموذج محليًا باستخدام مكتبة Hugging Face Transformers:
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "meta-llama/Llama-3.3-70B-Instruct"
model = AutoModelForCausalLM.from_pretrained(
model_id, device_map="auto", torch_dtype=torch.bfloat16
)
tokenizer = AutoTokenizer.from_pretrained(model_id)
7. تشغيل الاستدلال باستخدام النموذج والمُرمِّز المُحملين.
3.الوصول إلى واجهات API المجانية لـ Llama 3.3 70B (مثل Novita AI)
الخطوة 1: تسجيل الدخول والوصول إلى مكتبة النماذج
قم بتسجيل الدخول إلى حسابك وانقر على زر مكتبة النماذج.
الخطوة 2: اختر النموذج الخاص بك
تصفح الخيارات المتاحة وحدد النموذج الذي يناسب احتياجاتك.
الخطوة 3: ابدأ نسختك التجريبية المجانية
ابدأ نسختك التجريبية المجانية لاستكشاف إمكانيات النموذج المحدد.
الخطوة 4: احصل على مفتاح API الخاص بك
للمصادقة مع API، سنزودك بمفتاح API جديد. بالدخول إلى صفحة “الإعدادات“، يمكنك نسخ مفتاح API كما هو موضح في الصورة.
الخطوة 5: تثبيت API
قم بتثبيت API باستخدام مدير الحزم الخاص بلغة البرمجة الخاصة بك.
بعد التثبيت، قم باستيراد المكتبات الضرورية في بيئة التطوير الخاصة بك. قم بتهيئة API باستخدام مفتاح API الخاص بك لبدء التفاعل مع LLM الخاص بـ Novita AI. هذا مثال على استخدام chat completions API لمستخدمي Python.
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
# احصل على مفتاح API الخاص بـ Novita AI من خلال الرجوع إلى: https://novita.ai/docs/get-started/quickstart.html#_2-manage-api-key.
api_key="<مفتاح API الخاص بك في Novita AI>",
)
model = "meta-llama/llama-3.3-70b-instruct"
stream = True # أو False
max_tokens = 512
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": "تصرف وكأنك مساعد مفيد.",
},
{
"role": "user",
"content": "مرحبًا!",
}
],
stream=stream,
max_tokens=max_tokens,
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "")
else:
print(chat_completion_res.choices[0].message.content)
عند التسجيل، توفر Novita AI رصيدًا بقيمة 0.5 دولار لتبدأ!
إذا تم استنفاد الرصيد المجاني، يمكنك الدفع لمواصلة الاستخدام.
4.الوصول إلى Llama 3.3 70b على وحدات GPU السحابية (مثل Novita AI)
الخطوة 1: انقر على GPU Instance
إذا كنت مشتركًا جديدًا، يرجى تسجيل حسابنا أولاً. ثم انقر على زر GPU Instance على صفحتنا الإلكترونية.
الخطوة 2: قالب وخادم GPU
يمكنك اختيار القالب الخاص بك، بما في ذلك Pytorch، Tensorflow، Cuda، Ollama، وفقًا لاحتياجاتك الخاصة. علاوة على ذلك، يمكنك أيضًا إنشاء بيانات القالب الخاصة بك بالنقر على الزر السفلي الأخير.
ثم، توفر خدمتنا الوصول إلى وحدات GPU عالية الأداء مثل NVIDIA RTX 4090، كل منها بسعة VRAM و RAM كبيرة، مما يضمن إمكانية تدريب حتى نماذج الذكاء الاصطناعي الأكثر تطلبًا بكفاءة. يمكنك اختيارها بناءً على احتياجاتك.
الخطوة 3: تخصيص النشر
في هذا القسم، يمكنك تخصيص هذه البيانات وفقًا لاحتياجاتك الخاصة. هناك 60 جيجابايت مجانية في قرص الحاوية و 1 جيجابايت مجانية في قرص الحجم، وإذا تم تجاوز الحد المجاني، فسيتم فرض رسوم إضافية.
الخطوة 4: قم بتشغيل مثيل
سواء كان ذلك للبحث أو التطوير أو نشر تطبيقات الذكاء الاصطناعي، فإن مثيل GPU من Novita AI يوفر تجربة حوسبة GPU قوية وفعالة في السحابة.
الخلاصة
يبرز Llama 3.3 70B كتقدم محوري في إمكانية الوصول وكفاءة نماذج اللغة الكبيرة. أداؤه المذهل، بالإضافة إلى متطلبات الموارد المعتدلة نسبيًا، يجعله خيارًا عمليًا لمجموعة متنوعة من التطبيقات، من روبوتات المحادثة متعددة اللغات إلى المساعدة في البرمجة. سواء تم الوصول إليه عبر API أو تشغيله محليًا، يوفر Llama 3.3 70B أداة فعالة لكل من المطورين والباحثين.
هل Llama 3.3 70B مجاني للاستخدام؟
Llama 3.3 هو نموذج مفتوح المصدر يمكن تنزيله واستخدامه مجانًا؛ ومع ذلك، قد يؤدي الوصول إليه من خلال خدمات الطرف الثالث إلى تكبد تكاليف.
هل يمكن تشغيل Llama 3.3 على أجهزة المطورين القياسية؟
نعم، إنه مصمم للتشغيل على وحدات GPU الشائعة ومحطات عمل المطورين.
ما هو حجم Llama 3.3 70B؟
يبلغ حجم النموذج حوالي 40-43 جيجابايت.
Novita AI هي المنصة السحابية الشاملة التي تمكن طموحاتك في الذكاء الاصطناعي. واجهات API متكاملة، بدون خادم، مثيل GPU — الأدوات الفعالة من حيث التكلفة التي تحتاجها. تخلص من البنية التحتية، ابدأ مجانًا، وحقق رؤيتك في الذكاء الاصطناعي.
