3 طرق للوصول إلى Llama 3.1 8B: API، سحابة، تنفيذ محلي

النقاط الرئيسية

1. أداء متقدم: يقدم نموذج Llama 3.1 8B أداءً فعالًا مع نافذة رموز تصل إلى 128 ألف رمز، ومعايير قوية (69.4 MMLU، 84.5 GSM-8K)، ودعم متعدد اللغات بفضل بنيته مفتوحة المصدر.

2. كيفية الوصول إلى llama 3.1 8b عبر API: توفر Novita AI واجهة API لـ Llama 3.1 8b، بسعر 0.05 دولار فقط لكل مليون رمز للإدخال والإخراج. فقط اشترك في النسخة التجريبية المجانية واستخدم API مع طلبات بسيطة.

3. كيفية الوصول إلى llama 3.1 8b محليًا: لتشغيل Llama 3.1 8B محليًا، تشمل المتطلبات الدنيا 16 جيجابايت من ذاكرة الوصول العشوائي، ومعالج 8 أنوية، و20 جيجابايت مساحة خالية. يُوصى باستخدام بطاقة رسوميات مخصصة ولكنها ليست ضرورية.

4. كيفية الوصول إلى llama 3.1 8b عبر الإنترنت: يمكن الوصول إلى نموذج Llama 3.1 8B عبر منصات مثل HuggingChat وFireworks AI وGroq وCloudflare Playground بعد إنشاء حساب للاستخدام المجاني.

تقدم هذه المقالة دليلًا عمليًا تقنيًا حول كيفية الوصول إلى نموذج Meta Llama 3.1 كبير اللغة (LLM) واستخدامه، مع التركيز على نموذج 8B. تضم عائلة Llama 3.1 إصدارات 8B و70B و405B، حيث يمثل نموذج 8B خيارًا خفيف الوزن وفعالًا مناسبًا لبيئات النشر المختلفة.

ما هو Llama 3.1 8B؟

Llama 3.1 8B هو نموذج لغة كبير متعدد اللغات ومتطور تم تطويره بواسطة Meta، ويضم 8 مليارات معلمة، مصمم لقدرات متقدمة في توليد النصوص والاستدلال واتباع التعليمات، مع تطبيقات في مجالات مثل التلخيص الطويل والمساعدة في البرمجة.

• meta-llama/llama-3.1-8b-instruct
• meta-llama/llama-3.1-8b-instruct-max

الميزات الرئيسية

• قدرات متعددة اللغات تدعم عدة لغات.
• نافذة سياق طويلة تبلغ 128 ألف رمز لمعالجة النصوص الطويلة.
• استخدام أدوات متطور وقدرات استدلال قوية.
• تصميم مضغوط لأداء فعال.

https://www.youtube.com/watch?v=4rk9fHIOGTU

المعايير

مقارنة مع نماذج Llama الأخرى

المزايا:

• سرعة معالجة عالية
• استهلاك منخفض للموارد
• متطلبات أجهزة أقل
• مناسبة للأجهزة الطرفية والمنصات المحمولة

العيوب:

• أداء أقل مقارنة بنماذج 70B و405B
• وظائف محدودة
• أداء أضعف في المهام المعقدة

المزيد من نماذج llama 3 متاحة على Novita AI

• meta-llama/llama-3.1-70b-instruct
• meta-llama/llama-3-8b-instruct
• meta-llama/llama-3-70b-instruct

مقارنة مع نماذج أخرى

بشكل عام، بينما يقدم Llama 3.1 8B قدرات قوية ومزايا من حيث التكلفة، يتفوق Claude 3.5 Sonnet في أداء البرمجة ومهام الاستدلال، مما يجعل الاختيار بينهما يعتمد على احتياجات المستخدم وحالات الاستخدام المحددة.

إذا كنت ترغب في رؤية مقارنة معلمات أكثر تفصيلاً، يمكنك الاطلاع على هذه المقالة: استكشاف ورقة Llama 3.1: دليل متعمق

التطبيقات

• مثالي للسيناريوهات التي تتطلب سرعة واستهلاكًا منخفضًا للموارد.
• يمكن استخدامه على الأجهزة الطرفية أو في البيئات ذات الموارد الحاسوبية المحدودة.
• فعال لمهام لغوية متنوعة بفضل قدراته متعددة اللغات.

كيفية الوصول إلى Llama 3.1 8b عبر API على المنصات السحابية (مثل Novita AI)

لماذا تختار API؟

• سهولة الوصول: يمكن للمطورين الاستفادة من ميزات Llama 3.1 دون الحاجة إلى إدارة البنية التحتية الأساسية.
• المرونة: تستوعب API مجموعة واسعة من التطبيقات، من روبوتات الدردشة إلى تحليل المشاعر.
• الأداء: تضمن الحفاظ على أداء عالٍ للتطبيقات تحت أحمال متفاوتة.

من خلال تبسيط التفاعلات مع Llama 3.1، تحوله LLM API إلى أداة متعددة الاستخدامات يمكن لأي مطور استخدامها لدمج نماذج اللغة المتقدمة في مشاريعه.

دليل خطوة بخطوة عبر Novita AI

الخطوة 1: تسجيل الدخول والوصول إلى مكتبة النماذج

سجل الدخول إلى حسابك وانقر على زر مكتبة النماذج.

الخطوة 2: اختر نموذجك

تصفح الخيارات المتاحة وحدد النموذج الذي يناسب احتياجاتك.

الخطوة 3: ابدأ نسختك التجريبية المجانية

ابدأ نسختك التجريبية المجانية لاستكشاف قدرات النموذج المحدد.

الخطوة 4: احصل على مفتاح API الخاص بك

للمصادقة مع API، سنقدم لك مفتاح API جديد. بالدخول إلى صفحة “الإعدادات“، يمكنك نسخ مفتاح API كما هو موضح في الصورة.

الخطوة 5: تثبيت API

قم بتثبيت API باستخدام مدير الحزم الخاص بلغة البرمجة التي تستخدمها.

بعد التثبيت، استورد المكتبات اللازمة إلى بيئة التطوير الخاصة بك. قم بتهيئة API باستخدام مفتاح API الخاص بك لبدء التفاعل مع Novita AI LLM. هذا مثال لاستخدام API completions chat لمستخدمي Python.

 from openai import OpenAI

client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    # Get the Novita AI API Key by referring to: https://novita.ai/docs/get-started/quickstart.html#_2-manage-api-key.
    api_key="<YOUR Novita AI API Key>",
)

model = "meta-llama/llama-3.3-70b-instruct"
stream = True  # or False
max_tokens = 512

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=&#91;
        {
            "role": "system",
            "content": "Act like you are a helpful assistant.",
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
)

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices&#91;0].delta.content or "")
else:
    print(chat_completion_res.choices&#91;0].message.content)

عند التسجيل، توفر Novita AI رصيدًا بقيمة 0.5 دولار لبدء استخدامك!

إذا نفد الرصيد المجاني، يمكنك الدفع لمواصلة الاستخدام.

كيفية الوصول إلى Llama 3.1 8b محليًا

متطلبات الأجهزة

• 16 جيجابايت من ذاكرة الوصول العشوائي (RAM)
• معالج 8 أنوية (CPU)
• 20 جيجابايت من المساحة الحرة
• بطاقة رسوميات مخصصة (GPU) ليست ضرورية ولكنها يمكن أن تحسن الأداء.

دليل التثبيت خطوة بخطوة

1. تثبيت Python وإنشاء بيئة افتراضية.
2. تثبيت المكتبات المطلوبة: استخدم pip install bitsandbytes لتحسين GPU.
3. تثبيت واجهة سطر الأوامر Hugging Face وتسجيل الدخول:

   pip install huggingface-cli
   huggingface-cli login

4. طلب الوصول إلى Llama-3.1 8b على موقع Hugging Face.
5. تنزيل ملفات النموذج باستخدام واجهة سطر الأوامر Hugging Face:

   huggingface-cli download meta-llama/Llama-3.3-70B-Instruct --include "original/*" --local-dir Llama-3.1-8B-Instruct

6. تحميل النموذج محليًا باستخدام مكتبة Hugging Face Transformers:

   import torch
   from transformers import AutoModelForCausalLM, AutoTokenizer

   model_id = "meta-llama/Llama-3.1-8B-Instruct"
   model = AutoModelForCausalLM.from_pretrained(
       model_id, device_map="auto", torch_dtype=torch.bfloat16
   )
   tokenizer = AutoTokenizer.from_pretrained(model_id)

7. تشغيل الاستدلال (inference) باستخدام النموذج والمُرمِّز (tokenizer) المحملين.

كيفية الوصول إلى Llama 3.1 8b عبر الإنترنت

يمكنك الوصول إلى Llama 3.1 8B عبر عدة منصات عبر الإنترنت:

• Novita AI LLM Playground: توفر منصة استدلال ميسورة وموثوقة وبسيطة مع واجهات برمجة تطبيقات LLM قابلة للتوسع.
• HuggingChat: وصول مجاني بعد إنشاء حساب على Hugging Face.
• Fireworks AI: جرب النماذج باستخدام API بدون تكلفة.
• Groq: يقدم سرعات استدلال سريعة مع نماذج Llama 3.1.
• Cloudflare Playground: يوفر الوصول إلى نماذج مختلفة لتوليد النصوص.

أي الطرق مناسبة لك؟

الخاتمة

في الختام، يوفر الوصول إلى Llama 3.1 خيارات متنوعة تناسب احتياجات المستخدمين المختلفة.

• الوصول عبر API مثالي للمطورين الذين يبحثون عن تكامل فعال من حيث التكلفة ومرونة لضبط النماذج دون استثمارات ثقيلة في الأجهزة.
• الوصول المحلي يوفر للباحثين والمطورين تحكمًا كاملاً وتخصيصًا، مناسب لأولئك الذين يهتمون بالخصوصية وأمن البيانات.
• الوصول عبر الإنترنت الأفضل للمستخدمين العاديين الذين يبحثون عن تفاعل سريع وسهل مع النموذج دون عوائق تقنية.

لكل طريقة نقاط قوتها، مما يسمح للمستخدمين باختيار النهج الأنسب بناءً على متطلباتهم ومواردهم الخاصة.

الأسئلة المتكررة

ما الفرق الرئيسي بين Llama 3.1 8B و405B؟

نموذج 405B أكبر وأكثر قوة ولكنه يتطلب موارد حاسوبية أكبر بكثير من نموذج 8B الفعال.

هل Llama 3.1 8B مفتوح المصدر؟

نعم، تم إصداره بموجب اتفاقية ترخيص النموذج المفتوح من Meta للاستخدام البحثي والتجاري.

هل يدعم Llama 3.1 لغات متعددة؟

نعم، يدعم عدة لغات بما في ذلك الإنجليزية والألمانية والفرنسية والإيطالية والبرتغالية والهندية والإسبانية والتايلاندية.

Novita AI هي المنصة السحابية الشاملة التي تمكن طموحاتك في الذكاء الاصطناعي. APIs متكاملة، بدون خادم، مثيل GPU — الأدوات الفعالة من حيث التكلفة التي تحتاجها. تخلص من البنية التحتية، ابدأ مجانًا، وحقق رؤيتك في الذكاء الاصطناعي.

قراءات موصى بها

• ضبط LLaMA 3.3 70B باستخدام RTX 4090: هل التدريب المحلي كافٍ؟
• كيفية الوصول إلى Llama 3.3 70b محليًا أو عبر API: دليل كامل
• لماذا تعتبر متطلبات VRAM لـ LLaMA 3.3 70B تحديًا للخوادم المنزلية؟