قم بإحالة أصدقائك إلى Novita AI وستحصل أنت وكل منهم على 10 دولارات من أرصدة API للـ LLM — مع مكافآت إجمالية تصل إلى 500 دولار.
لدعم مجتمع المطورين، يتوفر Llama 3.2 1B و Qwen2.5-7B و Qwen 3 0.6B و Qwen 3 1.7B و Qwen 3 4B حاليًا مجانًا على Novita AI.
Llama 3.2 1B هو نموذج لغوي صغير وفعّال مصمم للنشر في العالم الحقيقي — حتى على الأجهزة المحمولة والأجهزة الطرفية. بفضل بنيته خفيفة الوزن ودعمه للكمية (Quantization)، يعمل بسلاسة على أجهزة Android و iOS ذات الذاكرة المحدودة، مما يجعله مثاليًا لحالات الاستدلال الخاصة وغير المتصلة بالإنترنت.
يرشدك هذا الدليل خلال ثلاث طرق عملية للوصول إلى Llama 3.2 1B بناءً على احتياجاتك:
- النشر المحلي للتحكم الكامل على أجهزتك الخاصة،
- التنفيذ على الجهاز لحالات الاستخدام المحمولة والمضمنة،
- الوصول عبر API عبر Novita AI للتكامل السريع والقابل للتوسع.
ما هو Llama 3.2 1B؟
Llama 3.2 1B هو نموذج لغوي صغير ومقطر (Distilled) محسّن للنشر الفعّال على الأجهزة الطرفية، مع دعم الإدخال متعدد اللغات وتوليد الأكواد البرمجية.
معايير أداء Llama 3.2 1B
من Meta
يُظهر Llama 3.2 1B قدرات إجمالية قوية بالنسبة لحجمه، خاصة في مهام الاستدلال وفهم اللغة. على الرغم من أنه قد لا يتفوق على النماذج الأكبر أو الأكثر تخصصًا في جميع المجالات، إلا أنه يقدم توازنًا جيدًا بين الأداء والكفاءة.
كيفية الوصول إلى Llama 3.2 1B محليًا؟
متطلبات الأجهزة
| المهمة | النموذج | الكمية (Quantization) | استهلاك VRAM | GPU المتوافقة |
|---|---|---|---|---|
| الاستدلال (Inference) | Llama 3.2 1B | FP16 | 3.14 جيجابايت | RTX 3090 (12GB)، RTX 4060 (8GB) |
| الضبط الدقيق (Fine-tuning) | Llama 3.2 1B | FP16 | 14.11 جيجابايت | RTX 4090 (24GB) |
دليل التثبيت خطوة بخطوة
# الخطوة 1: تثبيت Python وإنشاء بيئة افتراضية
# تأكد من تثبيت Python (الإصدار 3.8 أو أحدث). ثم قم بإنشاء وتفعيل بيئة افتراضية.
python3 -m venv llama_env
source llama_env/bin/activate # في نظام Windows، استخدم `llama_env\Scripts\activate`
# الخطوة 2: تثبيت المكتبات المطلوبة
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 # لتحسين GPU
pip install bitsandbytes # استخدام فعال لذاكرة GPU
# الخطوة 3: تثبيت واجهة سطر الأوامر Hugging Face وتسجيل الدخول
pip install huggingface-cli
huggingface-cli login # اتبع التعليمات للمصادقة
# الخطوة 4: طلب الوصول إلى Llama-3.3 70B
# قم بزيارة صفحة النموذج على Hugging Face لـ Llama-3.3 70B واطلب الوصول.
# الرابط: https://huggingface.co/meta-llama/Llama-3.3-70B-Instruct
# الخطوة 5: تنزيل ملفات النموذج
huggingface-cli download meta-llama/Llama-3.3-70B-Instruct --include "original/*" --local-dir Llama-3.3-70B-Instruct
# الخطوة 6: تحميل النموذج محليًا
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
# معرف النموذج ومسار الدليل المحلي
model_id = "meta-llama/Llama-3.2-1B-Instruct"
local_model_dir = "./Llama-3.2-1B-Instruct"
# تحميل النموذج مع تحسين GPU
model = AutoModelForCausalLM.from_pretrained(
local_model_dir,
device_map="auto", # تعيين طبقات النموذج تلقائيًا إلى GPU(s)
torch_dtype=torch.bfloat16 # استخدام bfloat16 لاستخدام الذاكرة بكفاءة
)
# تحميل أداة الترميز (Tokenizer)
tokenizer = AutoTokenizer.from_pretrained(local_model_dir)
# الخطوة 7: تشغيل الاستدلال
# تحديد النص المدخل
input_text = "اشرح نظرية النسبية بعبارات بسيطة."
# ترميز الإدخال
inputs = tokenizer(input_text, return_tensors="pt").to("cuda") # إرسال الإدخالات إلى GPU
# توليد رد
with torch.no_grad():
outputs = model.generate(
**inputs,
max_length=100, # تعيين الحد الأقصى لطول الرد
temperature=0.7, # ضبط الإبداع (القيم الأقل = أقل إبداعًا، الأكبر = أكثر إبداعًا)
top_k=50, # أخذ عينات من أعلى k للتنوع
)
# فك تشفير رموز الإخراج
response = tokenizer.decode(outputs[0], skip_special_tokens=True)
print("الرد:", response)
كيفية الوصول إلى Llama 3.2 1B على الجهاز؟
على أجهزة Android
يمكنك تشغيل Llama 3.2 1B على Android باستخدام أدوات مثل:
- Termux + Ollama: إعداد بيئة Linux باستخدام Termux، وتثبيت Ollama، وتشغيل النموذج محليًا. الأجهزة التي تحتوي على 2 جيجابايت على الأقل من ذاكرة الوصول العشوائي (RAM) قادرة تقنيًا، على الرغم من أن 4 جيجابايت أو أكثر موصى بها للحصول على أداء أفضل.
- إطار Torchchat: استخدم Torchchat لتنزيل النموذج وتشغيله بواجهة دردشة مدمجة، مما يتيح توليد النص الأساسي مباشرة على هاتف Android الخاص بك.
على أجهزة iOS
على iOS، تتيح تطبيقات مثل Private LLM تشغيل Llama 3.2 1B بالكامل على الجهاز:
- يعمل على أجهزة iPhone و iPad بسعة 6 جيجابايت من ذاكرة الوصول العشوائي (RAM) أو أكثر (مثل iPhone 12 Pro أو أحدث).
- يوفر استدلالًا خاصًا دون اتصال بالإنترنت مع عدم إرسال أي بيانات إلى السحابة.
يمكن كمية (Quantize) Llama 3.2 1B (على سبيل المثال باستخدام QLoRA أو تنسيقات أخرى) لتقليل استخدام الذاكرة وتشغيله بكفاءة حتى على معالجات CPU. عند تحسينه، يمكنه توليد أكثر من 40 رمزًا في الثانية على بعض الأجهزة.
كيفية الوصول إلى Llama 3.2 1B عبر API؟
Novita AI تقدم منصة استدلال ميسورة التكلفة وموثوقة وبسيطة مع Llama 3.2 1B API قابل للتوسع، مما يمكّن المطورين من بناء تطبيقات الذكاء الاصطناعي. جرب Llama 3.2 1B Demo اليوم!
الخيار 1: التكامل المباشر مع API
جرب Llama 3.2 1B بسعر منخفض جدًا الآن!
الميزات الرئيسية:
- نقطة نهاية موحدة: يدعم
/v3/openaiتنسيق Chat Completions API من OpenAI. - عناصر تحكم مرنة: ضبط درجة الحرارة (Temperature) و top-p والعقوبات والمزيد للحصول على نتائج مخصصة.
- البث والتجميع: اختر وضع الاستجابة المفضل لديك.
الخيار 2: سير عمل متعدد الوكلاء باستخدام OpenAI Agents SDK
قم ببناء أنظمة متقدمة متعددة الوكلاء من خلال دمج Novita AI مع OpenAI Agents SDK:
- التوصيل والتشغيل: استخدم نماذج LLM من Novita AI في أي سير عمل من OpenAI Agents.
- يدعم التسليم (Handoffs) والتوجيه (Routing) واستخدام الأدوات: صمم وكلاء يمكنهم التفويض أو الفرز أو تشغيل الوظائف، جميعها مدعومة بنماذج Novita AI.
- التكامل مع Python: فقط قم بتوجيه SDK إلى نقطة نهاية Novita (
https://api.novita.ai/v3/openai) واستخدم مفتاح API الخاص بك.
الاتصال بـ Qwen 3 API على منصات الطرف الثالث
-
Hugging Face: استخدم Qwen 3 في Spaces أو pipelines أو مع مكتبة Transformers عبر نقاط نهاية Novita AI.
-
أطر العمل للوكلاء والتنسيق: اتصل بسهولة بـ Novita AI مع منصات شريكة مثل Continue و AnythingLLM و LangChain و Dify و Langflow من خلال الموصلات الرسمية وأدلة التكامل خطوة بخطوة.
-
API متوافق مع OpenAI: استمتع بالترحيل والتكامل الخالي من المتاعب مع أدوات مثل Cline و Cursor، المصممة لمعيار API من OpenAI.
ما هي طرق الوصول إلى الذكاء الاصطناعي المناسبة لك؟
يمكن الوصول إلى Llama 3.2 1B من خلال ثلاثة أساليب رئيسية: النشر المحلي و التنفيذ على الجهاز و الوصول عبر API. إليك كيفية اختيار الطريقة المناسبة بناءً على احتياجاتك:
- النشر المحلي: مثالي للمطورين الذين يمتلكون أجهزة كافية ويرغبون في التحكم الكامل.
- الاستخدام على الجهاز: الأفضل للسيناريوهات المحمولة أو الطرفية حيث تكون الخصوصية والاستدلال غير المتصل بالإنترنت مهمين.
- الوصول عبر API: مناسب للتكامل السريع وسير العمل منخفض الصيانة والنشر القابل للتوسع.
سواء كنت تنشر على كمبيوتر محمول أو جهاز محمول أو سحابة، يقدم Llama 3.2 1B حلاً عمليًا لتوليد ذكاء اصطناعي سريع وخاص ومنخفض التكلفة. مع الدعم الكامل للأطر الحديثة وسير عمل المطورين، فهو الخيار الأمثل للذكاء الاصطناعي خفيف الوزن وجاهز للإنتاج.
الأسئلة الشائعة
ما هي متطلبات الأجهزة للاستخدام المحلي؟
ذاكرة VRAM لا تقل عن 8–12 جيجابايت (مثل RTX 4060، 3090). يتطلب الضبط الدقيق (Fine-tuning) 24 جيجابايت.
كيف يمكنني الوصول إلى Llama 3.2 1B عبر API؟
استخدم نقطة نهاية /v3/openai من Novita AI مع الأدوات و SDKs المتوافقة مع OpenAI.
هل يدعم Llama 3.2 1B الأنظمة متعددة الوكلاء؟
نعم. يتكامل مع OpenAI Agents SDK لاستخدام الأدوات والتوجيه والتنسيق.
Novita AI هي منصة سحابية شاملة تمكن طموحاتك في الذكاء الاصطناعي. واجهات API مدمجة، بدون خادم (Serverless)، مثيلات GPU — الأدوات الفعالة من حيث التكلفة التي تحتاجها. تخلص من البنية التحتية، ابدأ مجانًا، واجعل رؤيتك في الذكاء الاصطناعي حقيقة.
