تقوم Novita AI بإطلاق حملة “شهر البناء” الخاصة بها، حيث تقدم للمطورين حافزًا حصريًا يصل إلى خصم 20% على جميع المنتجات الرئيسية!
يظل نشر نماذج متعددة الوسائط كبيرة النطاق تحديًا للمطورين بسبب تكاليف البنية التحتية المرتفعة، وسير عمل النشر المعقد، وعدم وضوح المفاضلات بين الأداء والدقة واستهلاك الموارد. هذه التحديات تكون أكثر وضوحًا بشكل خاص بالنسبة لنماذج الرؤية واللغة المتقدمة مثل GLM-4.6V، التي تتطلب ذاكرة فيديو (VRAM) كبيرة، ودعم لسياق طويل، وتكامل وثيق بين الإدراك البصري وتنفيذ الأدوات.
يتناول هذا المقال هذه النقاط الصعبة من خلال شرح منهجي للابتكارات المعمارية لـ GLM-4.6V، وآلية استدعاء الأدوات متعددة الوسائط الأصلية الخاصة به، واستراتيجيات ذاكرة الفيديو والكمية العملية، ومسارات النشر الفعالة من حيث التكلفة على وحدة معالجة الرسومات السحابية لـ Novita AI. من خلال الجمع بين رؤى على مستوى النموذج وإرشادات نشر وفواتير ملموسة، يساعد المقال المطورين على اتخاذ قرارات مستنيرة عند بناء ونشر وتطوير التطبيقات القائمة على GLM-4.6V.
الأداء العالي والكفاءة العالية لـ GLM 4.6V
يتيح نموذج GLM-4.6V تمرير موترات الصور مباشرة إلى طبقات الاستدلال التي تشغل استدعاء الأدوات. هذا يعني أن النموذج “ينقر بشكل فعال” على الصورة في فضاءه الكامن. هذه القدرة مدعومة بتوسيع بروتوكول سياق النموذج (MCP)، الذي يحدد كيفية تسليم السياقات البصرية إلى الأدوات الخارجية.
آلية استدعاء الأدوات متعددة الوسائط الأصلية
| خط الأنابيب التقليدي (رؤية إلى نص إلى أداة) | خط أنابيب GLM-4.6V (رؤية إلى أداة) |
|---|---|
| الخطوة 1: ترميز الصورة -> متجه | الخطوة 1: ترميز الصورة -> متجه متعدد الوسائط |
| الخطوة 2: المتجه -> وصف نصي (“مربع أحمر”) | الخطوة 2: المتجه -> موجه مباشر |
| الخطوة 3: النص -> منطق -> استدعاء أداة | الخطوة 3: الموجه -> إجراء قابل للتنفيذ |
| الكمون: مرتفع (نفقات إضافية لتوليد النص) | الكمون: منخفض بنسبة 37% |
| الدقة: منخفضة (تقريب دلالي) | الدقة: مرتفعة (دقة على مستوى الإحداثيات) |
| معدل النجاح: متوسط | معدل النجاح: مرتفع بنسبة 18% |
حلقات التغذية الراجعة البصرية والتصحيح الذاتي
مستوحى من بحث UI2Code^N لشركة Zhipu AI، ينفذ نموذج GLM-4.6V حلقة تعلم معزز (RL) مخصصة للمهام البصرية. تحاكي هذه العملية سير عمل الإنسان “تنفيذ، فحص، إصلاح”:
- إجراء: يولد النموذج كودًا (مثل HTML لموقع ويب) بناءً على موجه بصري.
- ملاحظة: يستدعي النموذج أداة عرض لتقديم كوده الخاص بصريًا.
- تدقيق: يقارن النموذج المخرجات المعروضة مقابل الصورة الهدف المستهدفة باستخدام مشفره البصري.
- تصحيح: يكتشف النموذج الاختلافات (مثل “حشوة الزر صغيرة جدًا”) ويقوم بالتكرار على الكود.
تتيح قدرة “التدقيق البصري” هذه لنموذج GLM-4.6V تحقيق تكرار دقيق للواجهة الأمامية على مستوى البكسل، مما يميزه عن النماذج التي “تخمن” بشكل أساسي CSS بناءً على الأوصاف النصية.
ديناميكيات نافذة السياق
نافذة السياق التي تبلغ 128,000 رمز هي ميزة أساسية لسير العمل Enterprise. من الناحية العملية، تترجم هذه السعة إلى:
- تحليل المستندات: معالجة تقرير مالي يبلغ 150 صفحة (بما في ذلك الرسوم البيانية والجداول المعقدة) في تمريرة واحدة.
- فهم الفيديو: تحليل ملف فيديو مدته ساعة واحدة (مثل محاضرة أو تغذية مراقبة) لاستخراج أحداث أو ملخصات محددة.
- فهم قاعدة الكود: استيعاب كامل وثائق المستودع والملفات الأساسية لإجراء إعادة هيكلة معمارية.
على عكس النماذج النصية فقط حيث تشير “السياق الطويل” ببساطة إلى عدد الكلمات، في نموذج الرؤية واللغة (VLM)، يجب أن تستوعب هذه النافذة البصمة الرمزية الثقيلة لعمليات التضمين البصرية. يستخدم نموذج GLM-4.6V تقنية “محاذاة ضغط الرؤية واللغة” (مستوحاة من Glyph) لضغط الرموز البصرية، مما يضمن أن الصور عالية الدقة لا تستنفد نافذة السياق بشكل مبكر.
نظام GLM 4.6V البيئي للمطورين
يعتبر نموذج GLM-4.6V من أوائل النماذج التي تدعم بشكل أصلي إصدارًا موسعًا من بروتوكول سياق النموذج (MCP). يعمل هذا البروتوكول كـ “مصافحة” موحدة بين نموذج الذكاء الاصطناعي وبيئة التطوير المتكاملة (IDE).
| القدرة | الوصف |
|---|---|
| تكامل بنقرة واحدة | اتصل بـ GLM-4.6V بـ VS Code أو Cursor بأقل من 10 أسطر من التكوين. |
| الوعي بالسياق | يتلقى النموذج تلقائيًا شجرة الملفات، وعلامات التبويب المفتوحة، وحالة الطرفية كسياق. |
| السحب والإفلات البصري | يمكن للمطورين سحب لقطة شاشة إلى بيئة التطوير، ويقوم النموذج بتوليد مكون كود الواجهة الأمامية المقابل تلقائيًا. |
| خدمة محلية | يمكن لخادم MCP الإشارة إلى مثيل vLLM محلي، مما يحتفظ بالكود المملوك بالكامل في وضع عدم الاتصال. |
متطلبات ذاكرة الفيديو لـ GLM 4.6V والكمية
على الرغم من أن عدد المعلمات النشطة منخفض (12B)، فإن متطلبات التخزين للأوزان تظل مرتفعة (106B). لتشغيل النموذج الكامل بدقة أصلية (FP16) مع نافذة سياق كاملة، يلزم مجموعة من فئة Enterprise. ومع ذلك، فإن الكمية العدوانية (INT4) جنبًا إلى جنب مع إلغاء تحميل MoE (تخزين الخبراء في ذاكرة النظام وتبديلهم إلى ذاكرة الفيديو لوحدة معالجة الرسومات عند الطلب) يسمح بتشغيل النموذج على محطات عمل للمستخدمين المحترفين، على الرغم من أن سرعة الاستدلال تكون مخفضة.
| نموذج متغير | الدقة | طول السياق | تقدير ذاكرة الفيديو | إعداد الأجهزة الموصى به |
|---|---|---|---|---|
| GLM-4.6V (106B) | FP16 / BF16 | 128K (كامل) | 640 جيجابايت - 720 جيجابايت | 8x H100 (80 جيجابايت) أو 8x A100 (80 جيجابايت) |
| GLM-4.6V (106B) | FP16 / BF16 | قصير (استدلال) | 96 جيجابايت - 120 جيجابايت | 2x A6000 (48 جيجابايت) أو 4x RTX 3090/4090 |
| GLM-4.6V (106B) | FP8 (مُكمَّى) | 128K | 320 جيجابايت | 4x H100 (80 جيجابايت) |
| GLM-4.6V (106B) | INT4 (مُكمَّى) | قصير | 64 جيجابايت | 1x A100 (80 جيجابايت) أو 3x RTX 3090/4090 |
| GLM-4.6V-Flash (9B) | FP16 | 128K | 24 جيجابايت | 1x RTX 3090/4090 (24 جيجابايت) |
| GLM-4.6V-Flash (9B) | INT4 | قصير | 6-8 جيجابايت | RTX 3060 / وحدة معالجة رسومات محمولة |
النشر باستخدام vLLM و Docker
للمطورين الذين يختارون الاستضافة الذاتية، يُعد vLLM محرك الاستدلال الموصى به نظرًا لدعمه للتوزيع الموازي للموترات (TP) والدفع المستمر.
تكوين النشر (Docker)
لنشر نموذج 106B على إعداد 4 وحدات معالجة رسومات باستخدام vLLM، استخدم نمط التكوين التالي. لاحظ الوسائط المحددة لهندسة GLM-4.5/4.6 (--tool-call-parser، --enable-expert-parallel).
الوسائط الرئيسية:
--tensor-parallel-size 4: يوزع النموذج عبر 4 وحدات معالجة رسومات. ضروري لتناسب أوزان 106B في الذاكرة.--tool-call-parser glm45: ينشط منطق التحليل المحدد لتنسيق استدعاء الأدوات الأصلي لـ GLM.--enable-expert-parallel: يحسن توزيع خبراء MoE عبر الأجهزة لموازنة عبء الحساب.--max-model-len: يتحكم في حجم نافذة السياق. تعيين هذه القيمة إلى65536أو128000(إذا سمح الأجهزة) يحدد مخزن الذاكرة المؤقت لـ KV.
طريقة أفضل وأقل تكلفة للوصول إلى GLM 4.6V على وحدة معالجة الرسومات السحابية
توفر Novita AI أربعة نماذج فواتير لوحدات معالجة الرسومات لاستيعاب أنماط أحمال العمل المختلفة ومتطلبات التكلفة.
نموذج التسعير طريقة الفوترة توفر الموارد مستوى التكلفة خطر الانقطاع حالات الاستخدام النموذجية عند الطلب (الدفع حسب الاستخدام) تُفوتير حسب وقت التشغيل الفعلي (في الثانية أو الساعة) مرتفع، يمكن بدء أو إيقاف المثيلات في أي وقت متوسط لا يوجد التطوير والاختبار، تصحيح أخطاء النموذج، أحمال عمل متغيرة أو غير متوقعة مثيلات Spot تُفوتير حسب وقت التشغيل بأسعار مخفضة متوسط، يعتمد على القدرة الخاملة المتاحة منخفض (غالبًا حتى ~50% أرخص من عند الطلب) نعم، قد يتم إيقاف المثيلات مسبقًا مهام الدفعات، الاستدلال غير المتصل، التدريب المتسامح مع الأخطاء، أحمال العمل الحساسة للتكلفة الاشتراك / الخطط المحجوزة فوترة ثابتة شهريًا أو سنويًا مرتفع، موارد مخصصة ويمكن التنبؤ بها متوسط-منخفض (مخفض مقارنة بأسعار عند الطلب) لا يوجد أحمال عمل مستقرة طويلة الأمد، أنظمة الإنتاج، استدلال أو تدريب مستمر فوترة وحدات معالجة الرسومات بدون خادم تُفوتير حسب قدرة الحوسبة المستهلكة فعليًا لكل تنفيذ تتوسع تلقائيًا مع الطلب منخفض-متوسط (ادفع فقط مقابل ما تستخدمه) لا يوجد (تُدار بالكامل من قبل المنصة) استدلال مدفوع بالأحداث، حركة مرور متقطعة، تقديم النموذج عبر API، حد أدنى من النفقات العامة للعمليات
1. عند الطلب (الدفع حسب الاستخدام)
عند الطلب هو نموذج الاستهلاك القياسي الذي تُفوتير فيه قدرة الحوسبة لوحدة معالجة الرسومات بشكل صارم حسب وقت التشغيل، عادة في الثانية أو الساعة، دون التزامات أو حجوزات طويلة الأمد. يوفر أقصى قدر من المرونة وهو مناسب لأحمال العمل المتغيرة، والاستخدام المتقطع، والتجارب في المراحل المبكرة، حيث يتم تكبد التكاليف فقط أثناء تشغيل المثيل. يتم فوترة التخزين والموارد المساعدة، بما في ذلك الأقراص والشبكات، بناءً على الاستخدام.
جرب وحدة معالجة الرسومات السريعة والرخيصة الآن!
2. مثيلات Spot
تقدم مثيلات Spot أسعارًا بالساعة مخفضة بشكل كبير، غالبًا حتى حوالي 50% أقل من أسعار عند الطلب، من خلال استخدام القدرة الخاملة لوحدات معالجة الرسومات. قد يتم إيقاف هذه المثيلات مسبقًا من قبل المنصة. تخفف Novita من هذا الخطر من خلال توفير نافذة حماية مدتها ساعة واحدة وإشعارات إيقاف مسبقة. وضع التسعير هذا مناسب لأحمال العمل المتسامحة مع الأخطاء أو الدفعات حيث يمكن استيعاب الانقطاعات العرضية.
جرب وحدة معالجة الرسومات السريعة والرخيصة الآن!
3. الاشتراك / الخطط المحجوزة
تتوفر خطط الاشتراك والخطط المحجوزة بفترات شهرية أو سنوية وتوفر موارد مخصصة لوحدات معالجة الرسومات مع توفر يمكن التنبؤ به. مقارنة بأسعار عند الطلب، توفر هذه الخطط عادة تكاليف وحدة فعالة أقل مقابل التزام طويل الأمد. وهي مناسبة بشكل خاص لأحمال العمل المستقرة والمستمرة وبيئات الإنتاج التي تتطلب قدرة حوسبة متسقة.
جرب وحدة معالجة الرسومات السريعة والرخيصة الآن!
4. فوترة وحدات معالجة الرسومات بدون خادم
تخفي فوترة وحدات معالجة الرسومات بدون خادم إدارة المثيلات من خلال التوسع التلقائي لموارد وحدات معالجة الرسومات استجابةً لطلب حمل العمل. يتم تحصيل رسوم من المستخدمين فقط مقابل موارد الحوسبة المستهلكة فعليًا بدلاً من المثيلات الموفرة. هذا النموذج مفيد لأحمال العمل المدفوعة بالأحداث أو ذات المرونة العالية، حيث يقلل من النفقات العامة للعمليات مع تحسين كفاءة التكلفة.
جرب وحدة معالجة الرسومات السريعة والرخيصة الآن!
تقدم Novita AI أيضًا قوالب، المصممة لتقليل بشكل كبير النفقات العامة التشغيلية والمعرفية المرتبطة بنشر أحمال عمل الذكاء الاصطناعي القائمة على وحدات معالجة الرسومات. بدلاً من طلب المطورين لتجميع البيئات يدويًا من الصفر، يوفر نظام القوالب صورًا مهيأة مسبقًا وجاهزة للإنتاج تقوم بتجميع نظام التشغيل، وإصدارات CUDA و cuDNN، وأطر التعلم العميق، ومحركات الاستدلال، وفي بعض الحالات حتى مجموعات تقديم النموذج الموصلة بالكامل.
كيفية نشر GLM 4.6V على Novita AI
الخطوة 1: إنشاء حساب
أنشئ حساب Novita AI الخاص بك من خلال موقعنا الإلكتروني. بعد التسجيل، انتقل إلى قسم “استكشاف” في الشريط الجانبي الأيسر لعرض عروض وحدات معالجة الرسومات لدينا وابدأ رحلة تطوير الذكاء الاصطناعي الخاصة بك.
الخطوة 2: استكشاف القوالب وخوادم وحدات معالجة الرسومات
اختر من بين القوالب مثل PyTorch أو TensorFlow أو CUDA التي تتوافق مع احتياجات مشروعك. ثم اختر تكوين وحدة معالجة الرسومات المفضل لديك - تشمل الخيارات القوية L40S أو RTX 4090 أو A100 SXM4، لكل منها مواصفات مختلفة لذاكرة الفيديو والذاكرة العشوائية والتخزين.
الخطوة 3: تخصيص النشر وتشغيل مثيل
خصص بيئتك عن طريق اختيار نظام التشغيل المفضل لديك وخيارات التكوين لضمان الأداء الأمثل لأحمال عمل الذكاء الاصطناعي الخاصة بك واحتياجات التطوير. وبعد ذلك ستكون بيئة وحدة معالجة الرسومات عالية الأداء جاهزة في غضون دقائق، مما يسمح لك بالبدء فورًا في مشاريع التعلم الآلي أو العرض الحاسوبي أو المشاريع الحسابية الخاصة بك.
الخطوة 4: مراقبة تقدم النشر
انتقل إلى إدارة المثيلات للوصول إلى وحدة التحكم. تتيح لك هذه اللوحة تتبع حالة النشر في الوقت الفعلي.
جرب وحدة معالجة الرسومات السريعة والرخيصة الآن!
الخطوة 5: عرض حالة سحب الصورة
انقر على المثيل المحدد لمراقبة تقدم تنزيل صورة الحاوية. قد تستغرق هذه العملية عدة دقائق اعتمادًا على ظروف الشبكة.
الخطوة 6: التحقق من النشر الناجح
بعد بدء تشغيل المثيل، سيبدأ في سحب النموذج. انقر على “السجلات” -> “سجلات المثيل” لمراقبة تقدم تنزيل النموذج. ابحث عن الرسالة
"اكتمال بدء التطبيق."في سجلات المثيل. يشير هذا إلى أن عملية النشر قد اكتملت بنجاح.انقر على “اتصال”، ثم انقر -> “الاتصال بخدمة HTTP [المنفذ 8000]”. بما أن هذه خدمة API، ستحتاج إلى نسخ العنوان.
لإرسال طلبات إلى نموذجك، يرجى استبدال “http://7a65a32b51e37482-8000.jp-tyo-1.gpu-instance.novita.ai” بعنوانك المعرض الفعلي. انسخ الكود التالي للوصول إلى نموذجك الخاص!
يمثل نموذج GLM-4.6V تقدمًا كبيرًا في الاستدلال متعدد الوسائط من خلال تمكين التنفيذ الأصلي من الرؤية إلى الأداة، وحلقات التغذية الراجعة البصرية، وفهم السياق الطويل ضمن بنية موحدة واحدة. على الرغم من أن نشره بدقة كاملة يتطلب أجهزة من فئة Enterprise، فإن الكمية وإلغاء تحميل MoE يجعلان نموذج GLM-4.6V متاحًا لمجموعة أوسع من المطورين. تخفض Novita AI بشكل أكبر حواجز الاعتماد من خلال تقديم نماذج فواتير مرنة لوحدات معالجة الرسومات، وقوالب مهيأة مسبقًا، وسير عمل نشر مبسط. معًا، يوفر نموذجا GLM-4.6V و Novita AI أساسًا عمليًا وقابلًا للتوسيع وفعالًا من حيث التكلفة لبناء تطبيقات متعددة الوسائط من الجيل التالي.
الأسئلة الشائعة
ما الذي يميز نموذج GLM-4.6V عن نماذج الرؤية واللغة التقليدية؟
يدعم نموذج GLM-4.6V استدعاء الأدوات متعددة الوسائط الأصلي، مما يتيح تنفيذًا مباشرًا من الرؤية إلى الأداة دون الحاجة إلى توليد نص وسيط.
لماذا يتطلب نموذج GLM-4.6V ذاكرة فيديو كبيرة بهذا الحجم عند الدقة الكاملة؟
على الرغم من أن المعلمات النشطة لنموذج GLM-4.6V محدودة، فإن أوزانه المخزنة البالغة 106B وذاكرة التخزين المؤقت لـ KV للسياق الطويل تزيد بشكل كبير من متطلبات ذاكرة الفيديو.
كيف يحقق نموذج GLM-4.6V دقة واجهة أمامية على مستوى البكسل؟
يستخدم نموذج GLM-4.6V حلقة تدقيق بصري قائمة على التعلم المعزز تقارن المخرجات المعروضة بالصور الهدف.
Novita AI هي المنصة السحابية الشاملة التي تمكين طموحاتك في الذكاء الاصطناعي. واجهات برمجة التطبيقات المدمجة، بدون خادم، مثيل وحدة معالجة الرسومات - الأدوات الفعالة من حيث التكلفة التي تحتاجها. أزل البنية التحتية، ابدأ مجانًا، وحقق رؤيتك في الذكاء الاصطناعي.
