ذاكرة الفيديو العشوائية (VRAM) لنموذج Gemma-3-12B-IT: هل يمكن لبطاقة الرسوميات الخاصة بك التعامل معه؟

يعد نموذج Gemma3-12B-IT أحدث نموذج لغوي من Google مُعدَّل للتعليمات، يجمع بين قدرات استدلال قوية وسهولة الوصول. بالإضافة إلى قدراته، يطرح سؤال عملي: ما مقدار ذاكرة بطاقة الرسوميات (GPU) المطلوبة لتشغيله بشكل جيد؟ تعد ذاكرة الفيديو العشوائية (VRAM) العامل الحاسم للنشر المحلي، أو أجهزة المؤسسات، أو الوصول السحابي. سيرشدك هذا المقال إلى متطلبات VRAM لنموذج Gemma3-12B-IT ويقارن بين الإعدادات المحلية وخيارات واجهات برمجة التطبيقات (APIs).

أساسيات نموذج Gemma3-12B-IT ونتائج الاختبارات المعيارية

الميزة	Gemma3 12B it
حجم النموذج	12 مليار معامل
مفتوح المصدر	نعم
نافذة السياق	128 ألف توكن
الهيكلية المعمارية	محول من نوع فك تشفير فقط
تعدد الوسائط	نصوص وصور
دعم متعدد اللغات	الإنجليزية + 140 لغة

الاختبار المعياري	النتيجة
MMLU-Pro	60%
GPQA Diamond	35%
امتحان البشرية الأخير	4.8%
LiveCodeBench	14%
SciCode	17%
IFBench	37%
AIME 2025	18%
AA-LCR	7%

القدرات الأساسية:

• تحليل المستندات: استخلاص رؤى ذات معنى من التقارير التي تحتوي على مخططات بيانية ورسوم بيانية ومحتويات بصرية تقنية.
• الفهم البصري: الإجابة على الأسئلة المعقدة المتعلقة بالصور مع استدلال كامل في السياق.
• توليد المحتوى: إنتاج أوصاف غنية، وتعليقات توضيحية، ونصوص شرح تمزج بين المعلومات البصرية والمكتوبة.
• دعم التعلم: تقديم دروس خصوصية متعمقة تدمج بين شروحات واضحة وموارد تعلم بصرية.

ما هي ذاكرة الفيديو العشوائية (VRAM)؟

ذاكرة الفيديو العشوائية (VRAM) هي الذاكرة المخصصة على بطاقة الرسوميات (GPU) المستخدمة لتخزين معاملات النموذج، وأوزانه، والحسابات الوسيطة. بالنسبة لنماذج اللغة الكبيرة (LLMs)، تعتبر VRAM أمراً بالغ الأهمية لأنها تحدد ما إذا كان يمكن تحميل النموذج على الإطلاق، وكم يمكن أن تكون نافذة السياق طويلة، وما هو حجم الدفعة (batch size) الذي يمكن دعمه. على عكس ذاكرة الوصول العشوائي (RAM) العامة للنظام، تعمل VRAM بذاكرة عرض نطاق ترددي عالية للغاية للتعامل مع عمليات المصفوفة الضخمة التي تحدد المحولات الحديثة. باختصار، تعتبر VRAM المورد المحدد لكل من الاستدلال (inference) والتدريب: كمية VRAM القليلة تعني أخطاء نفاد الذاكرة، أو قيود على طول السياق، أو إلغاء تحميل غير فعال.

استكشاف أخطاء ذاكرة VRAM وإصلاحها

تخزين النموذج في VRAM
تتطلب النماذج كبيرة الحجم مثل Gemma-3-12B-it عشرات الجيجابايت فقط لتحميل الأوزان والمعاملات. إذا كانت VRAM غير كافية، إما أن النموذج لا يمكن تشغيله على الإطلاق، أو يعود إلى إلغاء تحميل أجزاء من العبء العمل إلى ذاكرة RAM للنظام الأبطأ أو إلى القرص الصلب. الحلول العملية هي استخدام نقاط تفتيش (checkpoints) أصغر أو مُكمَّمة، أو اختيار بطاقات رسوميات ذات سعة ذاكرة أعلى.

حدود المعالجة على شكل دفعات (Batch Processing)
يؤثر حجم الدفعة (batch size) بشكل مباشر على الإنتاجية وزمن الاستجابة. الدفعات الأكبر تعالج رموزاً (tokens) أكثر في كل خطوة ولكنها تستهلك بسرعة VRAM إضافية. عندما تكون الذاكرة ضيقة، يجب على المطورين تقليل أحجام الدفعات أو تقسيم العمل إلى دفعات صغيرة جداً (micro-batches)، مما يبطئ الأداء. في النهاية، يعد الترقية إلى بطاقات رسوميات ذات VRAM أعلى الطريق الأكثر استقراراً للاستدلال على دفعات كبيرة.

تحسين النموذج
غالباً ما تجبر VRAM المحدودة على تقديم تنازلات في الكفاءة. يقلل التكميم (Quantization) —مثل التشغيل بدقة 8 بت أو 4 بت بدلاً من الدقة الكاملة— من احتياجات الذاكرة بمقدار 2 إلى 4 أضعاف مع الحفاظ على معظم جودة النموذج. يمكن أن تساعد أيضاً إزالة المعاملات الزائدة (Pruning) أو إلغاء تحميل عمليات معينة. تسمح هذه التقنيات بتشغيل النماذج كبيرة الحجم على أجهزة أقل قوة دون خسارة جودة كبيرة.

عامل ذاكرة التخزين المؤقت للمفاتيح والقيم (KV-Cache)
بالإضافة إلى الأوزان، تزداد استخدام الذاكرة بشكل كبير بسبب ذاكرة التخزين المؤقت للمفاتيح والقيم (KV-Cache) في نماذج المحولات. تخزن هذه الذاكرة المؤقتة الحالات الوسيطة لكل طبقة انتباه وتتسع مع طول التسلسل. بالنسبة لنموذج Gemma-3-12B-it، الذي يدعم ما يصل إلى 128 ألف توكن، يمكن أن تتجاوز هذه الذاكرة المؤقتة أوزان النموذج إذا لم يتم التحكم فيها. قللت Google من هذه النفقات العامة باستخدام تصميم انتباه مختلط محلي/عالمي، ولكن لا يزال على المطورين إدارة الذاكرة المؤقتة بعناية. تشمل الاستراتيجيات تقييد طول السياق، أو اعتماد انتباه النافذة المنزلقة، أو استخدام أجهزة ذات احتياطيات VRAM أكبر.

الاستدلال مقابل التدريب
يتطلب الاستدلال (inference) عادةً ذاكرة أقل —غالباً ما تكون 8 إلى 24 جيجابايت كافية اعتماداً على التكميم— بينما تكون متطلبات التدريب أعلى بكثير، حيث تصل بسهولة إلى نطاق 80 جيجابايت فأكثر. هذا يجعل التدريب الكامل غير عملي لمعظم الفرق. بدلاً من ذلك، تعد طرق الضبط الدقيق ذات الكفاءة في المعاملات مثل LoRA أو QLoRA هي الحلول المفضلة، حيث تقلل تكاليف الذاكرة مع تكييف النماذج بشكل فعال.

متطلبات VRAM لنموذج Gemma3-12B-IT

التكميم	الأوزان فقط (تقريبي)	مع ذاكرة التخزين المؤقت KV (تقريبي)	الحد الأدنى من التكوين	بطاقة الرسوميات الموصى بها
BF16	24.0 جيجابايت	38.9 جيجابايت	Nvidia L40S ×1	Nvidia H200 ×1
SFP8	12.4 جيجابايت	27.3 جيجابايت	Nvidia T4 ×1	Nvidia A100 ×1
INT4	6.6 جيجابايت	21.5 جيجابايت	Nvidia T4 ×1	Nvidia L40S ×1

النقاط الرئيسية:

• يعمل الدقة الكاملة بسلاسة فقط على بطاقات الرسوميات من فئة المؤسسات.
• تخفض النماذج المُكمَّمة بشكل كبير من متطلبات الذاكرة، مما يتيح نشرها على بطاقات الرسوميات الاستهلاكية مع بعض التنازلات.
• تزيد ذاكرة التخزين المؤقت KV من المتطلبات أثناء الاستدلال على سياقات طويلة، لذا فإن التخطيط للذاكرة المؤقتة مهم بقدر أهمية التخطيط للأوزان.

نموذج Gemma-3-12B-IT: النشر المحلي مقابل الوصول عبر واجهة برمجة التطبيقات (API)

الجانب	النشر المحلي	بطاقة رسوميات سحابية	الوصول عبر واجهة برمجة التطبيقات
الاستثمار الأولي	15,000 إلى 30,000 دولار أمريكي أو أكثر (1 إلى 2 بطاقة رسوميات من فئة المؤسسات مثل H100/H200، بالإضافة إلى إعداد الأجهزة)	الدفع لكل ساعة، بدون استثمار أولي كبير في الأجهزة	تسعير حسب الاستخدام؛ بدون تكلفة أولية للأجهزة
البنية التحتية	تتطلب بطاقات رسوميات، وتبريد، ومصدر طاقة مستقر	توفر Novita AI مثيلات بطاقات رسوميات (H100, H200, B200, RTX 6000 Ada، إلخ) متاحة عند الطلب	لا تتطلب أي بنية تحتية؛ تعمل على البنية التحتية المُحسَّنة لـ Novita AI
الخبرة التقنية	تتطلب خبرة في تعلم الآلة (ML) والعمليات التقنية (DevOps) للإعداد، وبرامج التشغيل، والبيئة	تتطلب إعداداً أساسياً فقط؛ مع عبء تشغيلي أقل بكثير من النشر المحلي	معرفة أساسية باستخدام واجهات برمجة التطبيقات
الصيانة	مراقبة مستمرة، وتحديثات لبرامج التشغيل، وصيانة للأجهزة	تتعامل Novita AI مع برامج التشغيل، والتحديثات، وصيانة الأجهزة؛ حيث يدير المستخدمون تطبيقاتهم فقط	لا تتطلب أي صيانة
قابلية التوسع	محدودة بسعة الأجهزة المحلية	توسع مرن —إضافة أو إطلاق مثيلات بطاقات رسوميات مع تغير العبء العمل	قابلة للتوسع فوراً، مع تخصيص مرن للموارد
الموثوقية	الأداء مرتبط باستقرار الإعداد المحلي	مدعوم بضمانات اتفاقية مستوى الخدمة (SLA) وبنية تحتية مستقرة	اتفاقية مستوى خدمة من فئة المؤسسات ووقت تشغيل مُحسَّن
الأداء	يعتمد على بطاقة الرسوميات والتكوين المختار	أداء بطاقات رسوميات من فئة المؤسسات، مع مرونة في اختيار نوع المثيل المناسب للمهمة	مُحسَّن من قبل المزود
خصوصية البيانات	تحكم محلي كامل في البيانات	تعتمد على المزود	تعتمد على المزود

للمستخدمين الذين يفضلون التحكم المباشر ومرونة بطاقات الرسوميات، تقدم Novita AI مثيلات بطاقات رسوميات سحابية عند الطلب (بما في ذلك H100, H200, B200, RTX 6000 Ada، إلخ)، مما يتيح نشراً عالي الأداء دون عبء إعداد الأجهزة المحلية.

Novita AI تقدم واجهات برمجة تطبيقات (APIs) لنموذج Gemma-3-12B-IT مع نافذة سياق تبلغ 131 ألف توكن بتكاليف 0.05 دولار لكل مليون توكن مدخل و 0.1 دولار لكل مليون توكن مخرج، مما يوفر وصولاً ذا تكلفة منخفضة إلى قدرات مُعدَّلة للتعليمات من الطراز العالمي.

كيفية الوصول إلى نموذج Gemma-3-12B-IT عبر واجهة برمجة التطبيقات (API)

الخطوة 1: تسجيل الدخول والوصول إلى مكتبة النماذج

سجل الدخول إلى حسابك وانقر على زر مكتبة النماذج.

جرب تجربة نموذج Gemma 3 12B IT الآن!

الخطوة 2: ابدأ تجربتك المجانية

اختر النموذج وابدأ تجربتك المجانية لاستكشاف قدرات النموذج المختار.

الخطوة 3: احصل على مفتاح واجهة برمجة التطبيقات (API Key) الخاص بك

للمصادقة مع واجهة برمجة التطبيقات، سنزودك بمفتاح API جديد. عند الدخول إلى صفحة «الإعدادات»، يمكنك نسخ مفتاح API كما هو موضح في الصورة.

الخطوة 4: تثبيت واجهة برمجة التطبيقات

قم بتثبيت واجهة برمجة التطبيقات باستخدام مدير الحزم الخاص بلغة البرمجة التي تستخدمها.

بعد التثبيت، قم باستيراد المكتبات اللازمة إلى بيئة التطوير الخاصة بك. قم بتهيئة واجهة برمجة التطبيقات باستخدام مفتاح API الخاص بك لبدء التفاعل مع نموذج اللغة الكبير (LLM) لـ Novita AI. هذا مثال على استخدام واجهة برمجة تطبيقات إكمال الدردشة لمستخدمي لغة بايثون.

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/openai",
    api_key="session_Um3Ozta39g2J__yeP9b_rOegzeA_qSYYquKzJS2oitKENIo8_H2FL2sCtl25-sKWjCY_wsmN18iuDp1zv_Xkaw==",
)

model = "google/gemma-3-12b-it"
stream = True # or False
max_tokens = 4096
system_content = "Be a helpful assistant"
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)

الأسئلة الشائعة

ما هو نموذج Gemma-3-12B-it؟ يعد نموذج Gemma-3-12B-it نموذج لغة كبير مُعدَّل للتعليمات من عائلة Gemma 3 من Google. يدعم المدخلات النصية ومتعددة الوسائط، وهو مُحسَّن للاستدلال على سياقات طويلة.

لماذا تعتبر ذاكرة VRAM مهمة عند تشغيل نموذج Gemma-3-12B-it؟ تحدد ذاكرة VRAM ما إذا كان يمكن تحميل النموذج وتشغيله بشكل فعال. فهي تؤثر على دقة النموذج، وطول السياق، وحجم الدفعة، وسرعة الاستدلال الإجمالية.

كم مقدار ذاكرة VRAM المطلوب لتشغيل نموذج Gemma-3-12B-it محلياً؟ بدقة BF16 الكاملة، يتطلب النموذج حوالي 24 جيجابايت فقط للأوزان، ويصل إلى حوالي 40 جيجابايت مع الذاكرة المؤقتة. يمكن تشغيل الإصدارات المُكمَّمة بـ 6 إلى 12 جيجابايت للأوزان، ولكن لا تزال الذاكرة المؤقتة ترفع المتطلبات إلى أكثر من 20 جيجابايت للسياقات الأطول.

Novita AI هي منصة سحابية للذكاء الاصطناعي تقدم للمطورين طريقة سهلة لنشر نماذج الذكاء الاصطناعي باستخدام واجهة برمجة التطبيقات البسيطة الخاصة بنا، مع توفير سحابة بطاقات رسوميات موثوقة وذاكلفة منخفضة للبناء والتوسع.