دليل خطوة بخطوة: تشغيل Gemma 7B على مثيلات Novita AI GPU

لقد حظي نموذج Gemma 7B من Google باهتمام كبير باعتباره نموذج لغة مفتوح المصدر فعال وقوي. سيرشدك هذا الدليل خلال نشر Gemma 7B على مثيلات Novita AI GPU، مما يجعله متاحًا لتطبيقات متنوعة.

ما هو Gemma 7B

Gemma 7B هو جزء من عائلة Google من نماذج اللغة خفيفة الوزن ومفتوحة المصدر، المبنية باستخدام نفس تقنية نماذج Gemini. تم تصميمه ليكون أكثر سهولة في الوصول وقابلية للنشر على منصات أجهزة مختلفة، بما في ذلك أجهزة الكمبيوتر المحمولة والمكتبية، مع تحسينه أيضًا لوحدات معالجة الرسومات NVIDIA ووحدات TPU من Google Cloud. يحتوي Gemma 7B على 7 مليارات معلمة ويتم تدريبه على مجموعة بيانات تتكون أساسًا من مستندات الويب والرياضيات والكود. يستخدم بنية محولات تعتمد على وحدة فك التشفير فقط مع انتباه متعدد الرؤوس، مما يجعله فعالًا في مهام مثل إنشاء الكود والاستدلال الرياضي وفهم اللغة.

لماذا استخدام Gemma 7B على Novita AI؟

تقدم Novita AI منصة سحابية بمثيلات GPU عالية الأداء مصممة لأعباء عمل الذكاء الاصطناعي، مما يجعلها خيارًا مثاليًا لتشغيل نماذج مثل Gemma 7B. يوفر تشغيل Gemma 7B على مثيلات Novita AI GPU العديد من المزايا:

• الأداء: تضمن وحدات معالجة الرسومات القوية من Novita AI أن Gemma 7B يمكن أن يعمل بكفاءة، ويتعامل مع المهام المعقدة بأداء عالٍ.
• سهولة الوصول: تسمح طبيعة Gemma 7B خفيفة الوزن بنشره على مجموعة متنوعة من الأجهزة، ولكن استخدام مثيلات GPU من Novita AI يمكن أن يعزز قدراته بشكل أكبر.
• الفعالية من حيث التكلفة: يمكن أن يكون الاستفادة من موارد GPU السحابية أكثر فعالية من حيث التكلفة من صيانة الأجهزة المحلية لنشر نماذج الذكاء الاصطناعي على نطاق واسع.

النشر باستخدام قوالب Gemma 7B على Novita AI

المتطلبات الأساسية

• حساب Novita AI: تأكد من أن لديك حسابًا نشطًا في Novita AI.
• رمز API من Hugging Face: ستحتاج إلى إنشاء حساب على huggingface.co وإنشاء رمز وصول بالصلاحيات المناسبة للتفاعل مع مستودع نموذج Gemma.
• المعرفة الأساسية: فهم REST APIs، والعمل مع حاويات Docker، والإلمام بأساسيات الحوسبة باستخدام GPU.

دليل النشر خطوة بخطوة لتنفيذ Gemma 7B

الخطوة 1: الوصول إلى منصة Novita AI

1. قم بزيارة الموقع الرسمي لـ Novita AI: https://novita.ai/

[جرب Novita AI الآن](https://novita.ai/gpus/?utm_source=blogs_GPU&utm_medium=article&utm_campaign=Step-by-Step Guide: Running Gemma 7B on Novita AI GPU Instances)

2. قم بالتسجيل في Novita AI عبر Google أو GitHub أو البريد الإلكتروني.

3. انتقل إلى “GPUs” في شريط القوائم العلوي واختر “Get Started” لبدء عملية النشر.

الخطوة 2: نشر Gemma 7B على مثيل GPU

1. انقر على “Create My Template”.

2. قم بتكوين معلمات النشر:

• اسم القالب: أدخل اسمًا وصفيًا لقالبك (مثل “Gemma 7b”)
• صورة الحاوية: أدخل vllm/vllm-openai:latest (أو صورتك المخصصة إذا كان ذلك مناسبًا).
• أمر بدء الحاوية: حدد النموذج المراد استخدامه: --model google/gemma-7b-it --max-model-len 4096 –port 8000
• مساحة التخزين: عيّن حجم التخزين المناسب.
• كشف منافذ HTTP: استخدم 8000، وهو المنفذ القياسي لخدمة النماذج.
• متغيرات البيئة: الاسم: HF_TOKEN؛ القيمة: رمز الوصول الخاص بك من Huggingface.

بعد الانتهاء من خطوات التكوين أعلاه، انقر على “Save Template” لحفظ إعداداتك في القالب.

تذكر الوصول إلى نماذج Gemma على Hugging Face:

1. سجل الدخول إلى حسابك في Hugging Face
2. قم بزيارة صفحة نموذج Gemma (google/gemma-7b-it)
3. انقر على زر “Acknowledge license”
4. اقبل الشروط للحصول على وصول فوري إلى ملفات النموذج ومحتواه

3. بعد الانتهاء من خطوات التكوين أعلاه، انقر على “Save Template” لحفظ إعداداتك في القالب.

الخطوة 3: تخصيص النشر

في هذا الدليل، ستحتاج إلى تكوين العدد المطلوب من وحدات معالجة الرسومات (GPUs). باستخدام وحدة RTX 4090 واحدة كمثال:

1. حدد تكوين GPU “1x RTX 4090 24GB”

2. انقر على “Deploy”.

3. انقر على “Next”

الخطوة 4: تشغيل مثيل

1. انقر على “Deploy” لنشر البيئة المهيأة.

انتظر بضع دقائق أثناء تكوين المثيل وإدارته.

2. بعد بدء المثيل، سيبدأ في سحب النموذج. انقر على “Logs” --> “Instance Logs” لمراقبة تقدم تنزيل النموذج.

عندما يظهر السجل “INFO: Application startup complete”، يكون بدء التشغيل ناجحًا. الآن يمكنك الوصول إلى نموذجك الخاص!

3. انقر على “Connect”، ثم انقر على --> “Connect to HTTP Service [Port 8000]”. نظرًا لأن هذه خدمة API، ستحتاج إلى نسخ العنوان.

لتقديم طلبات إلى نموذجك الخاص، يرجى استبدال “http://7a65a32b51e37482-8000.jp-tyo-1.gpu-instance.novita.ai” بعنوانك الفعلي المكشوف. انسخ الكود التالي للوصول إلى نموذجك الخاص!

$ curl http://7a65a32b51e37482-8000.jp-tyo-1.gpu-instance.novita.ai/v1/chat/completions  \
   -H "Content-Type: application/json"     -d '{
        "model": "google/gemma-7b-it",
        "messages": [{"role": "user", "content": "hello"}]
    }'
{"id":"chatcmpl-57b3296f87f54dd4b69cfb6d2196f48e","object":"chat.completion","created":1740711405,"model":"google/gemma-7b-it","choices":[{"index":0,"message":{"role":"assistant","content":"Alright, the user said \"hello.\" That's a friendly greeting. I should respond in a welcoming manner.\
\
Maybe I can acknowledge their greeting and offer assistance.\
\
It's important to sound approachable and ready to help.\
\
I'll keep it simple and polite.\
 response\
\
Hello! How can I assist you today?","tool_calls":[]},"logprobs":null,"finish_reason":"stop","stop_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":70,"completion_tokens":64,"prompt_tokens_details":null},"prompt_logprobs":null}

4. قم بتكوين عنوان API في تطبيقاتك مثل Chatbox، وستحصل على مساعدك الشخصي!

[Novita AI](https://novita.ai/?utm_source=blogs_GPU&utm_medium=article&utm_campaign=Step-by-Step Guide: Running Gemma 7B on Novita AI GPU Instances) هي منصة سحابية للذكاء الاصطناعي تقدم للمطورين طريقة سهلة لنشر نماذج الذكاء الاصطناعي باستخدام API البسيط لدينا، مع توفير سحابة GPU موثوقة وبأسعار معقولة للبناء والتوسع.