يسرنا الإعلان عن شراكة استراتيجية مع SGLang، محرك الخدمة السريع لنماذج اللغة الكبيرة ونماذج اللغة والرؤية. من خلال هذا التعاون، ستوفر Novita AI موارد سحابية عالية الأداء من GPU لأبحاث SGLang المستمرة، واختبارات الأداء، وجهود التحسين.
SGLang هو محرك استدلال رائد يصمم بشكل مشترك لغة توليد منظمة مع بيئة تشغيل عالية التحسين، مما يتيح مكاسب أداء قوية مثل إعادة استخدام ذاكرة التخزين المؤقت RadixAttention بكفاءة وجدولة دُفعات بدون حمل زائد لنماذج اللغة الكبيرة ونماذج اللغة والرؤية. من خلال مواءمة التحكم على مستوى اللغة مع تحسينات الخلفية، فإنه يمكّن المطورين من بناء سير عمل توليد معقدة، وتطبيقات متعددة الوسائط، وخطوط أنابيب استدلال متوازية بموثوقية وحجم. SGLang مدعوم من مؤسسات رائدة بما في ذلك NVIDIA و AMD و xAI و Oracle Cloud و Google Cloud و LinkedIn و Cursor، إلى جانب مجموعات بحثية في Stanford وجامعة كاليفورنيا، بيركلي وجامعة كاليفورنيا، لوس أنجلوس - دليل على مشاركة مجتمعية قوية واعتماد صناعي واسع.
“إن تكامل SGLang للعناصر الأولية على مستوى اللغة مع تحسينات وقت التشغيل يظهر قيمة مواءمة البرمجيات والأجهزة لفتح مستويات أداء جديدة”، قال Junyu Huang، الشريك المؤسس والمدير التنفيذي للعمليات في Novita AI. “من خلال المساهمة ببنيتنا التحتية وخبرتنا، قمنا بالفعل بدعم تطوير أول إطار عمل للتعلم المعزز متعدد الخطوات من البداية إلى النهاية (RL) من SGLang ونظام خدمة نماذج اللغة الكبيرة المتعددة Prism، ونظل ملتزمين بدعم ابتكاراته المستمرة للمطورين في كل مكان.”
“نحن متحمسون للشراكة مع فريق SGLang”، أضاف Junyu Huang. “بعد دعم إطار عمل RL الخاص بهم ونظام خدمة نماذج اللغة المتعددة، نحن متحمسون لرؤية هذه الإنجازات تسرّع عملهم وتجلب أداء استدلال قوي للتطبيقات عبر الصناعات.”
تتعاون Novita AI أيضًا في مشروع التوازي الخبير واسع النطاق من SGLang، وهو تطبيق مفتوح المصدر مصمم للوصول إلى معايير الإنتاجية المفصلة في مدونة DeepSeek الرسمية، بالشراكة لتحقيق هذا الإنجاز.
يعكس هذا التعاون التزام Novita AI المستمر بتعزيز نظام بيئي مفتوح لمحركات الاستدلال ودعم مبادرات بحثية متنوعة من خلال البنية التحتية المشتركة وجهود التطوير المشتركة.
من خلال التعاون مع مشاريع رائدة مفتوحة المصدر مثل SGLang، تواصل Novita AI تعزيز مهمتها في ديمقراطية الذكاء الاصطناعي، مما يجعل قدرات الاستدلال المتطورة متاحة بسهولة للمطورين في جميع أنحاء العالم.
حول Novita AI
Novita AI هي منصة سحابية للذكاء الاصطناعي تساعد المطورين على نشر نماذج الذكاء الاصطناعي بسهولة من خلال واجهة برمجة تطبيقات بسيطة، مدعومة ببنية تحتية سحابية GPU ميسورة التكلفة وموثوقة. من خلال دعم المكتبات مفتوحة المصدر لاستدلال وخدمة نماذج اللغة الكبيرة، تقود Novita AI مستقبل الذكاء الاصطناعي وتشجع الابتكار عبر الصناعة.
