كيفية الوصول إلى Gemma 3 27B محليًا، عبر API، أو على GPU سحابي

النقاط الرئيسية

Gemma 3 27B هو نموذج لغوي كبير مفتوح المصدر ومتعدد الوسائط، أطلقته Google في مارس 2025.

يدعم أكثر من 140 لغة مع مُرمّز جديد و نافذة سياق 128 ألف رمز.

يتعامل مع إدخال نص وصورة معًا، ويُخرج نصًا.

مُدرّب على 14 تريليون رمز، ويتميز في الرياضيات، البرمجة، واتباع التعليمات.

نتائج معايير: 1339 Elo، 69.0 (MATH)، 67.5 (MMLU-Pro).

يمكن تشغيله على NVIDIA H100 واحدة أو نشره عبر Ollama (محليًا) أو Novita AI API / GPU سحابي.

Gemma 3 27B هو نموذج لغوي كبير قوي ومرن من Google. يجمع بين الانتشار متعدد اللغات والإدخال متعدد الوسائط والأداء العالي، مما يجعله مثاليًا لمهام الذكاء الاصطناعي المتنوعة - محليًا أو في السحابة.

ما هو Gemma 3 27B؟

الميزات البارزة

• دعم متعدد اللغات متقدم: بفضل المُرمّز الجديد، يعمل Gemma 3 بكفاءة عبر أكثر من 140 لغة.
• إدخال متعدد الوسائط: القدرة على معالجة كل من الصور والنص تجعله أداة متعددة الاستخدامات لمجموعة واسعة من التطبيقات.
• نافذة سياق ممتدة: سعة 128 ألف رمز تسمح بمعالجة مدخلات كبيرة ومفصلة.
• مفتوح المصدر وصديق للمجتمع: كونه مفتوح المصدر، يشجع النموذج على التجارب المجتمعية والاعتماد الواسع.

الفئة	العنصر	التفاصيل
معلومات أساسية	تاريخ الإصدار	12 مارس 2025
	حجم النموذج	27 مليار معلمة
	مفتوح المصدر	نعم (من Google)
دعم اللغات	اللغات المتعددة المدعومة	أكثر من 140 لغة
التدريب	بيانات التدريب	14 تريليون رمز
	نقاط القوة	الرياضيات، البرمجة، اتباع التعليمات
متعدد الوسائط	القدرة متعددة الوسائط	نعم (يعالج الصور والنص، يُخرج نصًا)
السياق	نافذة السياق	128 ألف رمز
حجم النموذج حسب الدقة	bf16 (خام)	الأوزان: 54.0 جيجابايت؛ الأوزان + ذاكرة KV: 72.7 جيجابايت
	INT4	الأوزان: 14.1 جيجابايت؛ الأوزان + ذاكرة KV: 32.8 جيجابايت
	INT4 (blocks=32)	الأوزان: 15.3 جيجابايت؛ الأوزان + ذاكرة KV: 34.0 جيجابايت
	SFP8	الأوزان: 27.4 جيجابايت؛ الأوزان + ذاكرة KV: 46.1 جيجابايت

معايير Gemma 3 27B

المعيار	Gemma 3 27B	DeepSeek R1	LLaMA 3.3 70B
LMSys Elo Score	1339	~1360	~1260
MMLU-Pro	67.5	84.0	66.4
LiveCodeBench	29.7	65.9	~29
GPQA Diamond	42.4	71.5	50.5
MATH	69.0	97.3	77.0

كيفية الوصول إلى Gemma 3 27B محليًا؟

متطلبات الأجهزة

يُوصف Gemma 3 27B بأنه “النموذج الأكثر قدرة الذي يمكنك تشغيله على GPU واحدة”!

من Google

الإعداد	متطلبات VRAM	ملاحظات
النشر السحابي	حوالي 80 جيجابايت VRAM (GPU واحد/متعدد)	يوصى باستخدام GPUs A100 أو H100 للحصول على أداء مثالي للنشر السحابي. أو RTX 4090 24GB (x3)
Apple Silicon	Gemma 3 4B مدعوم عبر mlx-vlm	يأتي Gemma 3 4B مع دعم من اليوم الأول في mlx-vlm، وهي مكتبة مفتوحة المصدر لتشغيل نماذج الرؤية واللغة على أجهزة Apple Silicon، بما في ذلك Macs و iPhones.

خطوات تثبيت Gemma 3 27B محليًا

# الخطوة 0: التحقق من NVIDIA GPU
nvidia-smi

# الخطوة 1: تحديث حزم Ubuntu
apt update

# الخطوة 2: تثبيت تبعيات Ollama للكشف عن GPU
apt install pciutils lshw

# الخطوة 3: تثبيت Ollama
curl -fsSL https://ollama.com/install.sh | sh

# الخطوة 4: تشغيل خادم Ollama (شغّل هذا في terminal واحد واتركه مفتوحًا)
ollama serve

# الخطوة 5: (في terminal جديد) تحقق من عمل Ollama
ollama

# الخطوة 6: تثبيت نماذج Gemma-3 (اختر واحدًا)

# تشغيل Gemma-3 1B
# ollama run gemma3:1b

# تشغيل Gemma-3 4B
# ollama run gemma3:4b

# تشغيل Gemma-3 12B
# ollama run gemma3:12b

# ✅ موصى به: تشغيل Gemma-3 27B
ollama run gemma3:27b

# الخطوة 7: التفاعل مع النموذج مباشرة عبر موجه في الكونسول
# مثال:
# You are an AI-powered trading analyst specializing in cryptocurrency markets.
# Your task is to design an autonomous AI agent that can predict market trends,
# execute trades, and manage risks efficiently. Your response should include:
# - A strategy for analyzing on-chain + off-chain data
# - Model choice for price prediction and sentiment
# - A Python code snippet
# - Risk management methods
# - Ethical concerns

كيفية الوصول إلى Gemma 3 27B عبر Novita API؟

الخطوة 1: تسجيل الدخول والوصول إلى مكتبة النماذج

سجل الدخول إلى حسابك وانقر على زر Model Library.

جرب Gemma 3 27B Demo الآن!

الخطوة 2: ابدأ النسخة التجريبية المجانية

ابدأ نسختك التجريبية المجانية لاستكشاف قدرات النموذج المحدد.

الخطوة 3: احصل على مفتاح API

لمصادقة API، سنزودك بمفتاح API جديد. ادخل إلى صفحة “Settings”، وانسخ مفتاح API كما هو موضح في الصورة.

الخطوة 4: تثبيت API

قم بتثبيت API باستخدام مدير الحزم الخاص بلغة البرمجة التي تستخدمها.

بعد التثبيت، قم باستيراد المكتبات اللازمة إلى بيئة التطوير الخاصة بك. قم بتهيئة API باستخدام مفتاح API الخاص بك للبدء في التفاعل مع Novita AI LLM. هذا مثال لاستخدام chat completions API لمستخدمي Python.

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<مفتاح Novita AI API الخاص بك>",
)

model = "google/gemma-3-27b-it"
stream = True # أو False
max_tokens = 2048
system_content = """كن مساعدًا مفيدًا"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "مرحبًا!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)

استخدام Gemma 3 27B عبر Chatbox

الخطوة 1: تثبيت Chatbox

1. اختر خيار “Setting”. هذا الإعداد يضمن التوافق مع APIs التي تتبع معيار OpenAI API، مثل Novita AI.
2. املأ حقول التهيئة:
   • Base URL: أدخل https://api.novita.ai/v3/openai.
   • API Key: الصق مفتاح Novita AI API الخاص بك هنا.
   • Model Name: الصق اسم النموذج الذي نسخته سابقًا (مثل google/gemma-3-27b-it).
3. بمجرد ملء التهيئة، انقر على Done.

استخدام Gemma 3 27B عبر GPU سحابي

الخطوة 1: تسجيل حساب

إذا كنت جديدًا على Novita AI، ابدأ بإنشاء حساب على موقعنا. بعد التسجيل، انتقل إلى علامة التبويب “GPUs” لاستكشاف الموارد المتاحة وبدء رحلتك.

الخطوة 2: استكشاف القوالب وخوادم GPU

ابدأ باختيار قالب يناسب احتياجات مشروعك، مثل PyTorch أو TensorFlow أو CUDA. اختر الإصدار الذي يناسب متطلباتك، مثل PyTorch 2.2.1 أو CUDA 11.8.0. ثم اختر تكوين خادم GPU A100، الذي يوفر أداءً قويًا للتعامل مع المهام كثيفة الموارد مع سعة VRAM و RAM و قرص مناسبة.

جرب GPUs عالية الأداء من Novita AI

الخطوة 3: تخصيص النشر الخاص بك

بعد اختيار قالب و GPU، قم بتخصيص إعدادات النشر عن طريق تعديل معلمات مثل إصدار نظام التشغيل (مثل CUDA 11.8). يمكنك أيضًا تعديل إعدادات أخرى لتخصيص البيئة وفقًا لمتطلبات مشروعك الخاصة.

الخطوة 4: تشغيل مثيل (instance)

بمجرد الانتهاء من اختيار القالب وإعدادات النشر، انقر على “Launch Instance” لإعداد مثيل GPU الخاص بك. سيبدأ ذلك في إعداد البيئة، مما يتيح لك البدء في استخدام موارد GPU لمهام الذكاء الاصطناعي الخاصة بك.

مع المعايير القوية وخيارات النشر البسيطة، يعد Gemma 3 27B خيارًا ممتازًا للمطورين والباحثين الذين يسعون للحصول على أدوات ذكاء اصطناعي مفتوحة وعالية الجودة.

أسئلة متكررة

ما هو Gemma 3 27B؟

Gemma 3 27B هو نموذج لغوي كبير مفتوح المصدر بحجم 27 مليار معلمة، طورته Google. يدعم الإدخال متعدد الوسائط (نص + صورة)، وأكثر من 140 لغة، ويتميز بنافذة سياقية تبلغ 128 ألف رمز.

ما هي متطلبات الأجهزة لتشغيل Gemma 3 27B محليًا؟

ستحتاج إلى 80 جيجابايت VRAM تقريبًا. يكفي NVIDIA H100 واحد. يمكنك أيضًا تشغيله باستخدام عدة RTX 4090 (مثل 3×24 جيجابايت).

هل هناك إصدار API من Gemma 3 27B متاح؟

نعم! يمكنك الوصول إلى Gemma 3 27B عبر Novita AI API، وهو متوافق تمامًا مع معيار OpenAI API.

Novita AI هي منصة سحابية للذكاء الاصطناعي تقدم للمطورين طريقة سهلة لنشر نماذج الذكاء الاصطناعي باستخدام API بسيط، مع توفير GPU سحابي بأسعار معقولة وموثوق لبناء وتوسيع النطاق.

قراءة موصى بها

• لماذا متطلبات VRAM لـ LLaMA 3.3 70B تشكل تحديًا للخوادم المنزلية؟
• Qwen 2.5 72b مقابل Llama 3.3 70b: أي نموذج يناسب احتياجاتك؟
• Qwen 2.5 مقابل Llama 3.2 90B: تحليل مقارن لقدرات البرمجة واستدلال الصور

APIs بسيطة و GPU قابل للتوسيع

Novita AI هي منصة سحابية للذكاء الاصطناعي تقدم للمطورين طريقة سهلة لنشر نماذج الذكاء الاصطناعي باستخدام API بسيط، مع توفير GPU سحابي بأسعار معقولة وموثوق لبناء وتوسيع النطاق.

جرب Gemma 3 27B Demo الآن