أبرز النقاط
Llama 3.3 70B: يركز على الكفاءة واتباع التعليمات، ويحتوي على 70 مليار معلمة ويهدف إلى تحقيق أداء مماثل لنماذج أكبر بكثير مع متطلبات حسابية أقل بشكل ملحوظ. تم تحسينه لمهام مثل روبوتات المحادثة متعددة اللغات، ودعم البرمجة، وإنشاء المحتوى.
Llama 3.2 90B: جزء من إصدار Llama 3.2، قدم هذا النموذج قدرات متعددة الوسائط، مما مكنه من معالجة إدخالات النصوص والصور معًا. وهو مصمم للمهام المعقدة التي تتضمن فهم الصور، والتفكير البصري، وتحليل المستندات.
Llama 3.1 405B: أكبر نموذج مع 405 مليار معلمة، مصمم للمهام الصعبة مثل توليد البيانات الاصطناعية وتقطير النماذج. يتفوق في المجالات التي تتطلب معرفة واسعة وتفكيرًا معقدًا ولكن لديه متطلبات حسابية عالية.
إذا كنت تتطلع إلى تقييم نموذج Llama 3.3 70b على حالات الاستخدام الخاصة بك — بعد التسجيل، تقدم Novita AI رصيدًا قدره $0.5 لتبدأ!
تطورت سلسلة Llama من نماذج اللغة الكبيرة (LLMs) من Meta بسرعة، حيث جلبت كل نسخة إمكانيات وتحسينات جديدة. تقدم هذه المقالة مقارنة تقنية لثلاثة نماذج بارزة من عائلة Llama: Llama 3.3 70B وLlama 3.2 90B وLlama 3.1 405B. يهدف المقارنة إلى مساعدة المطورين في اتخاذ خيارات مستنيرة بناءً على احتياجاتهم المحددة وقيود الموارد، مع التركيز على البنية والأداء والتطبيقات العملية.
مقدمة أساسية للنموذج
لبدء المقارنة، نفهم أولاً الخصائص الأساسية لكل نموذج.
Llama 3.3 70b
- تاريخ الإصدار: 6 ديسمبر 2024
- مقياس النموذج:
- الميزات الرئيسية:
- نموذج محسّن للتعليمات، نص فقط
- يستخدم الانتباه المجمع-الاستعلام (GQA) لتحسين الكفاءة
- يدعم الإنجليزية والألمانية والفرنسية والإيطالية والبرتغالية والهندية والإسبانية والتايلاندية
Llama 3.2 90b
- تاريخ الإصدار: 25 سبتمبر 2024
- نماذج Llama 3.2 الأخرى:
- meta-llama/llama-3.2-1B
- meta-llama/llama-3.2-3B
- meta-llama/llama-3.2-11B
- meta-llama/llama-3.2-90B
- الميزات الرئيسية:
- نموذج متعدد الوسائط، يدعم إدخالات النصوص والصور
- يدعم الإنجليزية والألمانية والفرنسية والإيطالية والبرتغالية والهندية والإسبانية والتايلاندية
Llama 3.1 405b
- تاريخ الإصدار: 23 يوليو 2024
- نماذج Llama 3.1 الأخرى:
- الميزات الرئيسية:
- يدعم 8 لغات
- نافذة سياق 128 ألف رمز
مقارنة النماذج
بشكل عام، تختلف هذه الإصدارات الثلاثة من نموذج Llama في حجم النموذج والتصميم المعماري ودقة القياس الكمي، لكنها تحافظ جميعًا على نفس حجم السياق. يمتلك Llama 3.1 405B أكبر عدد من المعلمات، بينما تم تحسين Llama 3.3 70B من حيث البنية والقياس الكمي لتحقيق كفاءة أكبر.
مقارنة السرعة
إذا كنت ترغب في اختباره بنفسك، يمكنك بدء تجربة مجانية على موقع Novita AI.
مقارنة السرعة
المصدر من artificialanalysis
مقارنة التكلفة
المصدر من artificialanalysis
بدمج كل ذلك، يحقق Llama 3.2 90B (الرؤية) أفضل أداء في إجمالي وقت الاستجابة وزمن الانتظار، بينما يحقق Llama 3.3 70B أفضل أداء في سرعة الإخراج. يؤدي Llama 3.1 405B أداءً ضعيفًا في المقاييس الثلاثة. يشير هذا إلى أنه عند اختيار نموذج، يجب موازنة هذه المقاييس بناءً على سيناريوهات التطبيق والمتطلبات المحددة. ومن وجهة نظر السعر، فإن Llama 3.3 70b أكثر فعالية من حيث التكلفة.
مقارنة المعايير
الآن بعد أن حددنا الخصائص الأساسية لكل نموذج، دعنا نتعمق في أدائها عبر معايير مختلفة. ستساعد هذه المقارنة في توضيح نقاط قوتها في مجالات مختلفة.
| مقاييس المعيار | Llama 3.3 70B | Llama 3.2 90B (الرؤية) | Llama 3.1 405B |
|---|---|---|---|
| MMLU | 86 | 84 | 88.6 |
| HumanEval | 88.4 | 80 | 89 |
| MATH | 77 | 65 | 73.8 |
| GPQA Diamond | 50.5 | 42 | 49 |
الملخص:
- Llama 3.3 70B: أفضل مهارات الرياضيات والإجابة على الأسئلة
- Llama 3.2 90B (الرؤية): يدعم الرؤية متعددة الوسائط، مناسب للمهام البصرية
- Llama 3.1 405B: أفضل قدرات فهم المهام المتعددة وتوليد الكود
عند اختيار نموذج، يجب موازنة هذه المؤشرات والقدرات بناءً على سيناريوهات التطبيق والمتطلبات المحددة. إذا كنت ترغب في معرفة المزيد عن معرفة معايير Llama 3.3، يمكنك الاطلاع على هذه المقالة:
إذا كنت تريد رؤية المزيد من المقارنات بين Llama 3.3 ونماذج أخرى، يمكنك الاطلاع على هذه المقالات:
- Qwen 2.5 72b مقابل Llama 3.3 70b: أي نموذج يناسب احتياجاتك؟
- Llama 3.1 70b مقابل Llama 3.3 70b: أداء أفضل، سعر أعلى
- اكتشف قوة نماذج Llama 3
التطبيقات وحالات الاستخدام
Llama 3.3 70B:
- روبوتات المحادثة والمساعدون متعددو اللغات
- المساعدة في البرمجة وتوليد الكود
- توليد البيانات الاصطناعية
- إنشاء المحتوى متعدد اللغات والتوطين
- التطبيقات القائمة على المعرفة مثل الإجابة على الأسئلة
Llama 3.2 90B:
- فهم الصور والاستدلال
- فهم المستندات على المستوى الكامل بما في ذلك الرسوم البيانية
- التعليق على الصور
- مهام التوجيه البصري
- الترجمة الفورية للغة مع إدخالات بصرية
Llama 3.1 405B:
- توليد البيانات الاصطناعية على نطاق واسع
- تقطير النموذج لتحسين النماذج الأصغر
- البحث والتجريب المتقدم
- حلول مخصصة للصناعة تتطلب أداءً عاليًا في المهام المعقدة
الوصول والنشر عبر Novita AI
الخطوة 1: تسجيل الدخول والوصول إلى مكتبة النماذج
سجل الدخول إلى حسابك وانقر على زر مكتبة النماذج.
الخطوة 2: اختر نموذجك
تصفح الخيارات المتاحة وحدد النموذج الذي يناسب احتياجاتك.
الخطوة 3: ابدأ تجربتك المجانية
ابدأ تجربتك المجانية لاستكشاف قدرات النموذج المحدد.
الخطوة 4: احصل على مفتاح API الخاص بك
للتحقق من صحة API، سنقدم لك مفتاح API جديدًا. بالدخول إلى صفحة الإعدادات، يمكنك نسخ مفتاح API كما هو موضح في الصورة.
الخطوة 5: تثبيت API
قم بتثبيت API باستخدام مدير الحزم الخاص بلغة البرمجة الخاصة بك.
بعد التثبيت، قم باستيراد المكتبات اللازمة إلى بيئة التطوير الخاصة بك. قم بتهيئة API باستخدام مفتاح API الخاص بك لبدء التفاعل مع Novita AI LLM. هذا مثال على استخدام API لإكمالات الدردشة لمستخدمي Python.
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
# احصل على مفتاح Novita AI API بالرجوع إلى: https://novita.ai/docs/get-started/quickstart.html#_2-manage-api-key.
api_key="<مفتاح Novita AI API الخاص بك>",
)
model = "meta-llama/llama-3.3-70b-instruct"
stream = True # أو False
max_tokens = 512
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": "تصرف وكأنك مساعد مفيد.",
},
{
"role": "user",
"content": "مرحبًا!",
}
],
stream=stream,
max_tokens=max_tokens,
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "")
else:
print(chat_completion_res.choices[0].message.content)
عند التسجيل، توفر Novita AI رصيدًا قدره $0.5 لتبدأ!
إذا نفد الرصيد المجاني، يمكنك الدفع لمواصلة الاستخدام.
الخاتمة
تقدم سلسلة Llama مجموعة من النماذج المصممة لتناسب احتياجات مختلفة:
- Llama 3.3 (70B) يوازن بين الأداء وسهولة الوصول للتطبيقات المتنوعة.
- Llama 3.2 (90B) يقدم قدرات متعددة الوسائط قوية لمعالجة بيانات الصور والنصوص معًا.
- Llama 3.1 (405B) يتفوق في المهام المعقدة ولكنه يتطلب موارد كبيرة.
اختيار النموذج الصحيح يعتمد على احتياجات المشروع المحددة، والموارد الحاسوبية، وما إذا كانت القدرات متعددة الوسائط مطلوبة.
الأسئلة المتكررة
الاختلافات الرئيسية بين Llama 3 و3.1 و3.2 و3.3
Llama 3 (الأصلي): نماذج 8B و70B، نافذة سياق 8k، تركز على مهام النص (الإنجليزية فقط). نموذج 8B نافس ChatGPT 3.5 Turbo.
Llama 3.1: وسع السياق إلى 128k، أضاف 8 لغات، استدعاء الأدوات، ونموذج 405B. حسّن 8B/70B من خلال التقطير من 405B.
Llama 3.2: قدم نماذج الرؤية (11B، 90B) ونماذج نصية خفيفة (1B، 3B). نماذج الرؤية تعالج صورة واحدة في كل مرة؛ النماذج الخفيفة للاستخدام على الجهاز.
Llama 3.3: نموذج 70B يركز على اتباع التعليمات، والدعم متعدد اللغات، والسلامة. مشابه لـ 405B لكنه يستخدم موارد أقل، مع تدريب RLHF ونافذة سياق 128k.
لماذا نموذج Llama 3.1 405B مهم؟
إنه أكبر نموذج أساسي مفتوح، يقدم مرونة غير مسبوقة لمهام مثل توليد البيانات الاصطناعية وتقطير النماذج. تم تدريبه على 15 تريليون رمز باستخدام 16,000 GPU H100، وساعد في تطوير نماذج أصغر مثل 8B و70B عبر التقطير.
دور نماذج Llama 3.2 الخفيفة (1B و3B)
مصممة للأجهزة المحمولة والحافة، تدعم هذه النماذج نافذة سياق 128k ومحسّنة لأجهزة Qualcomm وMediaTek وArm. تتفوق في مهام مثل التلخيص، واتباع التعليمات، وإعادة كتابة النص على الجهاز.
Novita AI هي المنصة السحابية الشاملة التي تمكّن طموحاتك في الذكاء الاصطناعي. واجهات برمجة تطبيقات متكاملة، بدون خادم، مثيل GPU — الأدوات الفعالة من حيث التكلفة التي تحتاجها. تخلص من البنية التحتية، ابدأ مجانًا، وحقق رؤيتك في الذكاء الاصطناعي.
