النقاط الرئيسية
- نماذج لغوية كبيرة متقدمة: تقدم Meta AI نموذج Llama 3، وهي مجموعة من نماذج اللغة المتقدمة ذات القدرات في التعدد اللغوي، والبرمجة، والاستدلال، واستخدام الأدوات.
- قدرات محسنة: يتضمن Llama 3 محللًا معجميًا مطورًا، وآلية الانتباه المجمّع المُجمّع (GQA)، ومجموعات بيانات موسعة، وتقنيات تصفية متقدمة، والالتزام بالتطوير المسؤول.
- ترقية المحلل المعجمي: يزيد Llama 3 حجم المفردات إلى 128,256 رمزًا، مما يعزز كفاءة ترميز النص متعدد اللغات ويرفع عدد المعاملات إلى 8 مليارات.
- أداء متطور: تحدد نماذج Llama 3 ذات 8 مليارات و70 مليار معلمة معايير جديدة للنماذج اللغوية الكبيرة، مع تقدم كبير في التدريب المسبق والتدريب اللاحق.
- تمكين المطورين: تتصور Meta AI تمكين المطورين من خيارات تخصيص Llama 3، بما في ذلك أدوات الثقة والسلامة الجديدة والتكامل مع منصات مثل Hugging Face.
- واجهة برمجة تطبيقات LLM على Novita AI: يمكن للمطورين الوصول إلى ميزات Llama 3 واستخدامها من خلال واجهة مبسطة توفرها واجهة برمجة تطبيقات LLM من Novita AI.
مقدمة
يمثل Llama 3 من Meta AI تقدمًا كبيرًا في النماذج اللغوية الكبيرة (LLMs)، مما يرفع مستوى القدرات متعددة اللغات والاستدلال والبرمجة. بناءً على Llama 2، يقدم ميزات رئيسية مثل محلل معجمي محسّن وآلية الانتباه المجمّع المُجمّع (GQA). تسلط هذه المقالة الضوء على ابتكارات Llama 3، وتستكشف تطبيقاتها الواقعية، وتقدم دليلاً لدمج Llama 3 مع واجهة برمجة تطبيقات LLM من Novita AI.
استكشاف المفاهيم الأساسية لورقة Llama 3
تقدم ورقة Llama 3 نماذج لغوية كبيرة متقدمة من Meta AI، مما يعزز معالجة اللغة الطبيعية بلغات مختلفة. وتتميز بالابتكارات مثل محلل معجمي محسّن، وآلية GQA، ومجموعات بيانات تدريب موسعة، وتقنيات تصفية متقدمة، والالتزام بالتطوير المسؤول. تعيد هذه التطورات تعريف قدرات الذكاء الاصطناعي وتضع معايير جديدة لاستخدام النماذج اللغوية الكبيرة.
مقدمة إلى نماذج Llama 3 المتقدمة
Llama 3 عبارة عن مجموعة من نماذج اللغة التي تدعم التعدد اللغوي والبرمجة والاستدلال واستخدام الأدوات. النموذج الأكبر هو محول كثيف (Transformer) يحتوي على 405 مليار معلمة ونافذة سياق تصل إلى 128 ألف رمز. يتطابق Llama 3 مع جودة النماذج اللغوية الرائدة مثل GPT-4 عبر مهام مختلفة. تطلق Meta AI نموذج Llama 3 للجمهور، وتضم إصدارات مدربة مسبقًا ومدربة لاحقًا من النموذج ذي 405 مليار معلمة، بالإضافة إلى نموذج السلامة للمدخلات والمخرجات، Llama Guard 3.
أهداف Llama 3
تهدف Meta AI من خلال Llama 3 إلى إنشاء نماذج مفتوحة رائدة لمنافسة الخيارات الملكية. من خلال دمج ملاحظات المطورين، تعزز Meta AI قابلية استخدام Llama 3 وتدافع عن الممارسات المسؤولة في النماذج اللغوية الكبيرة (LLMs). الإصدار المبكر لهذه النماذج النصية يشجع مشاركة المجتمع. سيتوسع Llama 3 ليشمل ميزات متعددة اللغات ومتعددة الوسائط، ودعم سياق أطول، وقدرات أساسية محسنة مثل الاستدلال والبرمجة.
Llama 2 مقابل Llama 3: شرح الاختلافات الرئيسية
يقدم Llama 3 محللًا معجميًا جديدًا، مما يزيد حجم المفردات من 32 ألف رمز إلى 128,256 رمزًا. وهذا يعزز كفاءة ترميز النص للقدرات متعددة اللغات. ومع ذلك، فإن هذا يوسع مصفوفات التضمين (embedding matrices) للإدخال والإخراج، مما يرفع عدد المعاملات من 7 مليارات في Llama 2 إلى 8 مليارات في Llama 3.
بالإضافة إلى ذلك، يدمج الإصدار 8 مليار من النموذج الآن آلية الانتباه المجمّع المُجمّع (GQA)، وهو تمثيل فعال مصمم لتحسين التعامل مع السياقات الأطول.
كيف تبني باستخدام Llama 3؟
تتمثل رؤية Meta AI في تمكين المطورين من تخصيص Llama 3 لحالات الاستخدام ذات الصلة، وتسهيل اعتماد أفضل الممارسات وتعزيز النظام البيئي المفتوح. يتضمن هذا الإصدار أدوات جديدة للثقة والسلامة، مثل المكونات المحدثة مع Llama Guard 2 وCybersec Eval 2، وإدخال Code Shield - وهو حاجز لتصفية التعليمات البرمجية غير الآمنة التي تولدها النماذج اللغوية الكبيرة.
تم تطوير Llama 3 بالتعاون مع torchtune، وهي مكتبة جديدة أصلية في PyTorch مصممة لتسهيل تأليف النماذج اللغوية الكبيرة وضبطها وتجريبها. يقدم Torchtune وصفات تدريب فعالة من حيث الذاكرة مطبقة بالكامل في PyTorch ويتكامل مع منصات مثل Hugging Face وWeights & Biases وEleutherAI. كما يدعم Executorch للاستدلال الفعال على الأجهزة المحمولة والحافة. للحصول على إرشادات حول هندسة المطالبات (prompt engineering) واستخدام Llama 3 مع LangChain، توفر Meta AI دليل بدء شامل يغطي كل شيء بدءًا من تنزيل Llama 3 إلى النشر على نطاق واسع في تطبيقات الذكاء الاصطناعي التوليدي.
نشر Llama 3 على نطاق واسع
Llama 3 متاح الآن على المنصات الرئيسية، بما في ذلك موفري الخدمات السحابية وموفري واجهات برمجة تطبيقات النماذج. للحصول على أمثلة حول كيفية استخدام所有这些 الميزات، يرجى الرجوع إلى Llama Recipes، والذي يتضمن جميع كودات Meta AI مفتوحة المصدر.
فهم عائلة نماذج Llama
Llama (نموذج اللغة الكبير Meta AI، كان نمطه سابقًا LLaMA) هي سلسلة من نماذج اللغة الكبيرة الانحدارية الذاتية (autoregressive) التي طورتها Meta AI، وتم إصدارها الأولي في فبراير 2023. أحدث إصدار هو Llama 3.2، الذي تم إطلاقه في سبتمبر 2024.
ما هي النماذج في سلسلة Llama؟
فيما يلي نماذج عائلة Llama المتوفرة في Novita AI. إذا كنت مهتمًا بأي نموذج، فلا تتردد في النقر وتجربته مباشرة.
- meta-llama/llama-3.1–8b-instruct
- meta-llama/llama-3.1–70b-instruct
- meta-llama/llama-3.1–405b-instruct
- meta-llama/llama-3–8b-instruct
- meta-llama/llama-3–70b-instruct
مقارنة النماذج
يعكس عمود تكلفة التدريب فقط تكلفة النموذج الأكبر. على سبيل المثال، ‘21,000’ تمثل تكلفة تدريب Llama 2 69B، مقاسة بأيام البيتافلوب (petaFLOP-days). للتوضيح، 1 بيتافلوب-يوم يعادل 1 بيتافلوب/ثانية مضروبًا في يوم واحد، وهو ما يساوي 8.64E19 FLOP.
تحقيق أداء متطور مع Llama 3
تمثل نماذج Llama 3 الجديدة من Meta AI ذات 8 مليارات و70 مليار معلمة تقدمًا كبيرًا مقارنة بـ Llama 2، مما يضع معيارًا جديدًا للنماذج اللغوية الكبيرة عند هذه المقاييس. بفضل التحسينات في التدريب المسبق والتدريب اللاحق، أصبحت النماذج المدربة مسبقًا والمدربة بدقة على التعليمات هي الخيارات الرائدة المتاحة اليوم عند مستويات 8 مليارات و70 مليار معلمة. أدت التحسينات في إجراءات التدريب اللاحق إلى تقليل معدلات الرفض الخاطئ بشكل كبير، وتعزيز التوافق، وزيادة التنوع في استجابات النموذج. بالإضافة إلى ذلك، يُظهر Llama 3 قدرات محسنة بشكل كبير في الاستدلال وتوليد التعليمات البرمجية واتباع التعليمات، مما يجعله أكثر قابلية للتوجيه من أي وقت مضى.
في تطوير Llama 3، ركزت Meta AI على أداء النموذج في المعايير القياسية مع التحسين أيضًا للتطبيقات الواقعية. لتحقيق ذلك، تم إنشاء مجموعة تقييم بشري جديدة عالية الجودة تضم 1,800 مطالبة (prompt) تغطي 12 حالة استخدام رئيسية: طلب المشورة، العصف الذهني، التصنيف، الإجابة على الأسئلة المغلقة، البرمجة، الكتابة الإبداعية، الاستخراج، تجسيد شخصية أو دور، الإجابة على الأسئلة المفتوحة، الاستدلال، إعادة الكتابة، والتلخيص. لتجنب الإفراط في التجهيز غير المقصود، حتى فرق النمذجة في Meta AI لا يمكنها الوصول إلى مجموعة التقييم هذه. يعرض الرسم البياني أدناه النتائج المجمعة للتقييمات البشرية عبر هذه الفئات والمطالبات، مقارنة Llama 3 مع Claude Sonnet وMistral Medium وGPT-3.5.
تصنيفات التفضيل من المقيّمين البشريين، بناءً على مجموعة التقييم هذه، تظهر الأداء المتفوق لنموذج اتباع التعليمات 70B من Meta AI مقارنة بالنماذج المنافسة ذات الحجم المماثل في السيناريوهات الواقعية.
تسلط ورقة Llama 3 الضوء على تقدم Meta في النماذج اللغوية الكبيرة. يعد تنفيذ هذه الابتكارات بفعالية في السيناريوهات الواقعية أمرًا بالغ الأهمية. توفر واجهة برمجة تطبيقات LLM على Novita AI للمطورين واجهة مبسطة للوصول إلى هذه النماذج القوية واستخدامها بناءً على الرؤى من ورقة Llama 3. تعلم كيفية دمج ميزات Llama 3 في تطبيقاتك باستخدام واجهة برمجة تطبيقات LLM على Novita AI.
كيفية استخدام واجهات برمجة تطبيقات LLM على Novita AI لتكامل النماذج
يعد دمج واجهات برمجة تطبيقات LLM على Novita AI عملية بسيطة تمكن المطورين من تسخير الميزات القوية للنماذج اللغوية الكبيرة، بما في ذلك سلسلة Llama 3. فيما يلي دليل خطوة بخطوة لمساعدتك على البدء.
الخطوة 1: إنشاء حساب والوصول إلى Novita AI.
الخطوة 2: الحصول على مفتاح API الخاص بك
ستحتاج إلى مفتاح API لمصادقة طلباتك. يمكنك إدارة مفتاح API الخاص بك باتباع التعليمات الموضحة في وثائق Novita AI. تأكد من الاحتفاظ بمفتاح API الخاص بك آمنًا وتجنب كشفه في مستودعات التعليمات البرمجية العامة.
الخطوة 3: اختر نموذجك
تقدم Novita AI مجموعة من النماذج، بما في ذلك إصدارات مختلفة من Llama. يمكنك عرض القائمة الكاملة للنماذج المتاحة هنا. اختر النموذج الذي يناسب متطلبات تطبيقك، سواء كان لإكمال المحادثة أو توليد النص أو مهام أخرى.
إذا كنت ترغب في رؤية القائمة الكاملة للنماذج التي نقدمها، يمكنك زيارة قائمة نماذج LLM من Novita AI.
الخطوة 4: قم بزيارة مرجع واجهة برمجة تطبيقات LLM لاستكشاف واجهات برمجة التطبيقات والنماذج المتاحة من Novita AI.
الخطوة 5: حدد النموذج الذي يناسب احتياجاتك، ثم قم بإعداد بيئة التطوير الخاصة بك وتهيئة الخيارات مثل المحتوى والدور والاسم والمطالبة.
الخطوة 6: قم بتشغيل اختبارات متعددة للتأكد من أن واجهة برمجة التطبيقات تعمل بشكل ثابت.
باتباع هذه الخطوات، يمكنك دمج واجهات برمجة تطبيقات LLM على Novita AI بشكل فعال، مما يمكنك من تسخير قوة النماذج اللغوية المتقدمة مثل Llama 3 لتطبيقاتك.
جرب Llama 3 على ملعب LLM من Novita AI
قبل نشر واجهة برمجة تطبيقات LLM على Novita AI، يمكنك تجربتها في ملعب LLM (LLM Playground). يتم تزويد المطورين بحصة استخدام مجانية. الآن، سأرشدك خلال خطوات البدء.
الخطوة 1: الوصول إلى الملعب: انتقل إلى علامة التبويب “المنتجات”، واختر Model API، وابدأ في استكشاف واجهة برمجة تطبيقات LLM.
الخطوة 2: اختر نموذجًا: حدد نموذج Llama الذي يناسب احتياجات التقييم الخاصة بك.
الخطوة 3: أدخل المطالبة الخاصة بك: اكتب المطالبة في حقل الإدخال لإنشاء استجابة من النموذج.
الخلاصة
يتميز Llama 3، وهو نموذج لغوي كبير متطور، في توليد النص والبرمجة والمعالجة متعددة اللغات. يمكن للمطورين الوصول إلى إمكاناته الكاملة لتطبيقات متنوعة من خلال واجهة برمجة تطبيقات LLM من Novita AI. بينما تدفع Meta AI حدود أبحاث الذكاء الاصطناعي، يقود Llama 3 مستقبل الذكاء الاصطناعي مفتوح المصدر، مما يعزز الابتكار والوصول الأوسع إلى النماذج المتقدمة. سواء كان ذلك للتجارب أو النشر على نطاق واسع، يزودك Llama 3 بالأدوات اللازمة لتعزيز مشاريع الذكاء الاصطناعي الخاصة بك.
الأسئلة المتكررة
ما الذي يجعل Llama 3 مختلفًا عن النماذج السابقة؟
يتفوق Llama 3 في التعرف على الصور والكلام بفضل حجمه الأكبر وكفاءته المحسنة وتكامله السلس مع النماذج الأخرى.
ما هي التحديات الرئيسية في تنفيذ تقنيات Llama 3؟
يتطلب تنفيذ تقنيات Llama 3 قوة حاسوبية كبيرة نظرًا لحجم النموذج. يعد الحصول على بيانات تدريب متنوعة وعالية الجودة أمرًا بالغ الأهمية لتحقيق الأداء الأمثل وتقليل التحيز.
هل يمكن تطبيق Llama 3 على اللغات غير الإنجليزية؟
يتفوق Llama 3 في لغات متعددة، مستفيدًا من بيانات التدريب المتنوعة لتعلم الأنماط بفعالية عبر اللغات المختلفة.
ما الفرق بين Llama 3.1 و Llama 3؟
يدعم Llama 3.1 إدخال وإخراج النص، بينما كان Llama 3 مقصورًا على التفاعلات النصية فقط دون قدرات متعددة الوسائط.
هل Llama 3.1 متعدد الوسائط؟
Llama 3.1 ليس متعدد الوسائط؛ فهو يعالج النص فقط.
نُشر في الأصل على Novita AI
Novita AI هي منصة سحابية شاملة تمكن طموحاتك في الذكاء الاصطناعي. واجهات برمجة تطبيقات متكاملة، بدون خادم، مثيل GPU — الأدوات الفعالة من حيث التكلفة التي تحتاجها. تخلص من البنية التحتية، ابدأ مجانًا، واجعل رؤيتك في الذكاء الاصطناعي حقيقة.
