1. مقدمة
Stable Diffusion هي تقنية لتوليد الصور تعتمد على نموذج الانتشار، قادرة على إنتاج صور عالية الجودة من النصوص، ومناسبة لمجالات مثل الرسوميات الحاسوبية والرسوم التوضيحية وخلفيات عالية الدقة.
ومع ذلك، نظرًا لتعقيد عملياتها الحسابية، يمكن أن تصبح سرعة توليد الصور في Stable Diffusion عنق زجاجة. لمعالجة هذه المشكلة، أجرت novita.ai سلسلة من الاختبارات المقارنة لطرق التسريع، بما في ذلك Xformers وAitemplate وTensorRT وOneFlow.
في هذه المقالة، سنقدم مبادئ ونتائج اختبارات الأداء لطرق التسريع هذه، مع تقديم اعتبارات حول فعالية التكلفة لبطاقات الرسوم المختلفة للمساعدة في اتخاذ خيارات مستنيرة أثناء النشر.
تشير نتائج الاختبار إلى أن OneFlow تحقق تسريعًا بنسبة 211.2% مقارنة بـ Xformers على RTX 3090، وتسريعًا بنسبة 205.6% على RTX 4090. لذلك، عند نشر Stable Diffusion، يكون الخيار المفضل لوحدة معالجة الرسوميات هو RTX 3090.
2.مقارنة مبادئ وخصائص مخططات التسريع
أولاً، قمنا بتنظيم المخططات المختلفة التي يمكن استخدامها لتسريع Stable Diffusion.
اخترنا Xformers وAitemplate وTensorRT وOneFlow كمخططات تسريع لدينا. يشبه NvFuser من حيث المبدأ Xformers، حيث يستخدم كلاهما تقنية FlashAttention. تم تصميم DeepSpeed وcolossal بشكل أساسي لتسريع التدريب، بينما يعمل OpenAI Triton كمحرك نشر نموذج، مناسب لتسريع حجم الدفعة ولكن ليس لسيناريوهات تحسين زمن الانتظار للنموذج. لذلك، تم استبعاد هذه المخططات من المقارنة.
نقوم حاليًا باختبار أداء المخطط الأساسي لـ WebUI والمخططات الأربعة للتسريع (Xformers وAitemplate وTensorRT وOneFlow) على وحدات معالجة رسومية مختلفة.
نستخدم VoltaML لتقييم تأثير تسريع Aitemplate، وStable Diffusion WebUI لتقييم تسريع Xformers، والمثال الرسمي لـ TensorRT لأداء TensorRT، وندمج OneFlow في Diffusions لاختبار تسريعه.
3.اختبار مخططات التسريع
بعد ذلك، سنقدم تكوينات الاختبار ذات الصلة ونشارك نتائج الاختبار الفعلية معكم.
3.1 إعدادات الاختبار
لهذه الجولة من الاختبارات، مقياس الأداء لدينا هو التكرارات في الثانية (its/s).
إعدادات الصورة: 512*512، 100 خطوة
الاستفسار النصي (Prompt): A beautiful girl, best quality, ultra-detailed, extremely detailed CG unity 8k wallpaper, best illustration, an extremely delicate and beautiful, floating, high resolution.
الاستفسار السلبي (Negative prompt): Low resolution, bad anatomy, bad hands, text error, missing fingers, extra digit, fewer digits, cropped, worst quality, low quality, normal quality, jpeg artifacts, signature, watermark, username, blurry, bad feet, fused body.
العينة (Sampler): Euler a
النموذج: Stable Diffusion 1.5
3.2 نتائج الاختبار
بعد سلسلة من الاختبارات، حصلنا على نتائج اختبار الأداء على وحدات معالجة رسومية مختلفة، كما هو موضح أدناه:
من الجدول أعلاه، يمكننا ملاحظة أن مقارنة التسريع هي كالتالي: OneFlow > TensorRT > Aitemplate > Xformers.
يحقق OneFlow تسريعًا نسبيًا بنسبة 211.2% مقارنة بـ Xformers على RTX 3090، وتسريعًا بنسبة 205.6% على RTX 4090.
4.مقارنة أداء وحدة معالجة الرسوميات وفعالية التكلفة
أجرينا تحليلًا لفعالية التكلفة لوحدات معالجة الرسوميات المختلفة. فيما يلي الاستنتاجات:
الاستنتاج 1: من منظور فعالية التكلفة، توفر وحدة معالجة الرسوميات RTX040 أعلى قيمة.
الاستنتاج 2: يمكن لوحدات معالجة الرسوميات منخفضة المستوى للغاية زيادة التكاليف الإجمالية. قد يحقق RTX 2080Ti توازنًا بين الاستثمارات الأولية الثقيلة والتكاليف الإجمالية.
الاستنتاج 3: وحدات معالجة رسومية ذات أداء أقل
في هذا الاختبار، اخترنا العديد من وحدات معالجة الرسوميات منخفضة المستوى بسعة ذاكرة أكبر من 6 جيجابايت، بما في ذلك M60 و1660s و1080.
لا تدعم وحدات معالجة الرسوميات مثل 1660s و1080 مخططات التسريع مثل TensorRT وAitemplate وOneFlow، ربما بسبب عدم كفاية الذاكرة أو عدم توافق وحدة معالجة الرسوميات.
من بين هذه، حققت 1660s (1080) 2.61 it/s (2.64 it/s) عند توليد صور بحجم 512*512 مع 20 خطوة تستغرق 7.66 ثانية (7.57 ثانية)، مما يشير إلى مستوى معين من الاستخدام.
من ناحية أخرى، حققت M60 1.27 it/s، واستغرقت 15.74 ثانية لتوليد صور بحجم 512*512 مع 20 خطوة، مما يشير إلى قابلية استخدام أقل.
5.توصيات الاختيار
5.1 تقدم RTX 4090 أعلى فعالية من حيث التكلفة، لكننا نوصي بنشر RTX 3090.
على سبيل المثال، يمكننا حساب “التكرارات لكل دولار” لكل وحدة معالجة رسومية باستخدام اختبار runpod، مما يمثل فعالية التكلفة لوحدة معالجة الرسوميات.
من الواضح أنه في ظل معدلات استخدام مماثلة، تتمتع RTX 4090 بفعالية تكلفة أعلى مقارنة بـ RTX 3090. علاوة على ذلك، تتفوق RTX 3090 على وحدات معالجة رسومية أخرى من نفس المستوى، مثل A5000 وA4000.
يعتمد اختيار RTX 4090 لنماذج Stable Diffusion على الظروف المحددة:
- يتم تحديد فعالية التكلفة الفعلية من خلال الاستخدام (ساعات الاستخدام لكل ساعة/60 دقيقة) * its/$. اعتمادًا على وضع الخدمة والاستخدام المقدر، إذا كان استخدام RTX 4090 مشابهًا لاستخدام ضعف RTX 3090، فإن فعالية تكلفة RTX 4090 أعلى. ومع ذلك، إذا أدى نشر مثيلين من RTX 3090 إلى استخدام أعلى بسبب زيادة الدعم المتزامن ومعالجة الطلبات، فقد يكون RTX 3090 مفضلاً. يجب تحليل الاستخدام بناءً على السيناريو المحدد.
- يمثل its/$ أداء الاستدلال، بينما تسمح ذاكرة VRAM الأكبر بتخزين المزيد من النماذج مؤقتًا، مما يقلل وقت تحميل النموذج ويسرع عملية توليد الصور بشكل كبير. كلا من RTX 3090 وRTX 4090 يحتويان على 24 جيجابايت من VRAM، ولكن إذا تم تحسين Stable Diffusion WebUI بناءً على استخدام VRAM، فقد يكون لـ RTX 3090 ميزة في تكلفة VRAM.
- إذا كانت أولوية السرعة في الاستدلال، فإن RTX 4090 هي الخيار الأفضل حيث أن وقت الاستدلال الخاص بها يبلغ تقريبًا نصف وقت RTX 3090.
يتوافق هذا مع النتائج في https://timdettmers.com/2023/01/30/which-gpu-for-deep-learning/. لمزيد من بيانات وحدة معالجة الرسوميات، راجع الرسم البياني أدناه.
عندما يكون وقت وحدة معالجة الرسوميات جزءًا صغيرًا من الوقت الإجمالي في سلسلة المعالجة، فمن الممكن اختيار وحدات معالجة رسومية بأداء أقل قليلاً لتحل محل RTX 3090. يتضمن ذلك خيارات مثل A5000 وA10G وRTX 3080 وRTX 3080Ti وRTX 2080Ti.
إذا كانت لديك أي أسئلة أو ترغب في استكشاف المزيد من خيارات التسريع لـ Stable Diffusion، فلا تتردد في التواصل معنا على Discord.
مرحبًا بك للانضمام واستكشاف إمكانيات Stable Diffusion مع novita.ai!
novita.ai توفر Stable Diffusion API ومئات من واجهات برمجة التطبيقات السريعة والأقل تكلفة لتوليد الصور بالذكاء الاصطناعي لـ 10,000 نموذج. 🎯 أسرع توليد في 2 ثانية فقط، الدفع حسب الاستخدام، بسعر يبدأ من 0.0015 دولار لكل صورة قياسية، يمكنك إضافة نماذجك الخاصة وتجنب صيانة وحدة معالجة الرسوميات. مجانًا لمشاركة الإضافات مفتوحة المصدر.
قراءات موصى بها
