واجهة برمجة تطبيقات Step 3.7 Flash متاحة الآن على Novita AI للمطورين الذين يحتاجون إلى نموذج استدلال متعدد الوسائط من خلال واجهة LLM بدون خادم متوافقة مع OpenAI: استخدم stepfun/step-3.7-flash مع نقطة نهاية محادثات الدردشة الخاصة بـ Novita AI عندما يحتاج سير عملك إلى إدخال نص أو صورة أو فيديو، واستدعاء الأدوات، والمخرجات المنظمة، ونافذة سياق بسعة 256 ألف رمز. إذا كنت مستعدًا بالفعل لإرسال الطلبات، فانتقل إلى دليل البدء السريع لـ Step 3.7 Flash API؛ أما إذا كنت تقرر ما إذا كان النموذج مناسبًا لمنتجك، فابدأ بالمواصفات والتسعير وإرشادات التقييم أدناه.
ما هو Step 3.7 Flash على Novita AI؟
Step 3.7 Flash هو نموذج استدلال متعدد الوسائط عالي الكفاءة من StepFun، مستضاف على Novita AI للوصول إلى LLM بدون خادم. معرف نموذج API هو stepfun/step-3.7-flash، ويتم عرض النموذج من خلال نقطة نهاية محادثات الدردشة.
الإجابة العملية للمطورين واضحة ومباشرة: استخدم واجهة برمجة تطبيقات Step 3.7 Flash عندما يحتاج سير عملك إلى أكثر من مجرد محادثة نصية عادية. إنه مناسب للمهام الوكيلة التي تجمع بين تعليمات طويلة وسياق بصري أو فيديو ومخرجات منظمة وتوجيه الأدوات. تتضمن الأمثلة تحليل فيديو تجول في المنتج، وتحويل لقطات الشاشة إلى مهام تنفيذية، والتخطيط لعمليات متعددة الخطوات من مدخلات وسائط مختلطة، أو استخدام نموذج لتحديد وقت تشغيل وظيفة تطبيقية.
ليس المقصود منه استبدال كل نموذج نصي أصغر في مجموعتك. إذا كان تطبيقك يحتاج فقط إلى إجابات قصيرة للأسئلة الشائعة، أو استخراج بسيط، أو تصنيف عالي الحجم، فابدأ بمقارنة النماذج الحالية في مكتبة نماذج Novita AI وتسعير Novita AI. يصبح Step 3.7 Flash أكثر إقناعًا عندما يكون الإدخال متعدد الوسائط أو السياق الطويل أو التخطيط الواعي بالأدوات جزءًا من متطلبات المنتج الفعلية.
مواصفات واجهة برمجة تطبيقات Step 3.7 Flash، وتوفرها، وتسعيرها
تدرج Novita AI حاليًا Step 3.7 Flash كنموذج LLM بدون خادم مع تفاصيل التنفيذ التالية. قد يتغير توفر النموذج والتسعير، لذا تحقق من صفحة النموذج المباشرة قبل توجيه الإنتاج ومراجعة المشتريات.
| الحقل | قيمة Novita AI الحالية |
|---|---|
| اسم العرض | Step 3.7 Flash |
| معرف نموذج API | stepfun/step-3.7-flash |
| مسار الوصول | LLM بدون خادم |
| نقطة النهاية | chat/completions |
| أنواع الإدخال | نص، صورة، فيديو |
| نوع الإخراج | نص |
| نافذة السياق | 262,144 رمزًا |
| الحد الأقصى لرموز الإخراج | 256,000 رمزًا |
| استدعاء الدوال | مدعوم |
| المخرجات المنظمة | مدعومة |
| الاستدلال | مدعوم |
| عائلة النموذج | StepFun |
| تسمية الهندسة المعمارية | MoE |
تظهر أسعار الرموز الحالية لـ stepfun/step-3.7-flash على النحو التالي:
| نوع الرمز | السعر الحالي |
|---|---|
| رموز الإدخال | 0.20 دولار لكل مليون رمز |
| رموز الإدخال المقروءة من ذاكرة التخزين المؤقت | 0.04 دولار لكل مليون رمز |
| رموز الإخراج | 1.15 دولار لكل مليون رمز |
يعرض نفس قائمة النموذج مستويات معدل الطلب من T1 إلى T5. الحصة المرئية T1 هي 30 RPM و 50,000,000 TPM، مع قيم RPM أعلى في المستويات الأعلى. تعامل معها كحدود منصة للتحقق منها أثناء إعداد الحساب، وليس كبديل لاختبار التحميل الخاص بك.
التسعير مهم لأن الطلبات متعددة الوسائط وطويلة السياق يمكن أن تنمو بسرعة. يجب على فريق المنتج قياس حجم المطالبة، والسياق المشتق من الوسائط، وإعادة استخدام ذاكرة التخزين المؤقت للقراءة، وطول الإخراج بشكل منفصل. إذا كان سير العمل يرسل بشكل متكرر نفس المطالبة النظامية، أو مخطط الأداة، أو كتلة التعليمات الكبيرة، يمكن أن تصبح القراءات المخزنة مؤقتًا جزءًا من تصميم التكلفة. إذا كانت الردود تقترب بانتظام من أحجام الإخراج الكبيرة، فستسيطر رموز الإخراج على الفاتورة أسرع من رموز الإدخال.
نمط الميزنة المفيد هو فصل حركة مرور التقييم إلى ثلاث مجموعات. أولاً، قم بقياس خط الأساس النصي العادي لنفس المهمة. ثانيًا، أضف إدخال الصورة أو الفيديو وسجل عدد المرات التي يغير فيها السياق الإضافي الإجابة. ثالثًا، اختبر نسخة السياق الطويل مع السياسة الكاملة، أو المخطط، أو وثائق المنتج المرفقة. إذا حسنت المجموعة الثالثة دقة التوجيه أو قللت المراجعة اليدوية، فيمكن تبرير الطلب الأكبر. إذا لم تفعل، فاحتفظ بمسار الإنتاج أضيق.
ما هي أعمال الاستدلال متعدد الوسائط التي يناسبها؟
يكون Step 3.7 Flash أكثر إثارة للاهتمام عندما يتعين على النموذج التفكير عبر أنواع مختلفة من المدخلات ثم إنتاج خطة أو قرار أو إجابة منظمة.
لفرق المنتج والدعم، يمكن أن يعني ذلك مطالبة النموذج بفحص لقطة شاشة لواجهة المستخدم أو مقطع فيديو قصير، وتحديد مشكلة المستخدم المحتملة، وإرجاع كائن JSON يقوم بتوجيه التذكرة إلى قائمة الانتظار الصحيحة. لأدوات المطورين، يمكن أن يعني ذلك قراءة تسجيل شاشة لخلل، ونص الخطأ ذي الصلة، ومقتطف شفرة المصدر، ثم إنتاج قائمة مراجعة لإعادة الإنتاج. لسير عمل العمليات، يمكن أن يعني ذلك الجمع بين نص سياسة طويل مع دليل بصري ومطالبة النموذج بإنتاج خطة معالجة خطوة بخطوة.
التمييز المهم هو أن Step 3.7 Flash يجب أن يتلقى الأدلة اللازمة للمهمة. لا تطلب منه استنتاج تفاصيل لم يتم توفيرها مطلقًا. إذا كان سير العمل يعتمد على البحث في قاعدة البيانات، أو حالة الفوترة، أو حالة الطلب، أو سجل النشر، فقم بكشف تلك البيانات من خلال طبقة التطبيق الخاصة بك أو استدعاء أداة بدلاً من الاعتماد على المعرفة العامة للنموذج.
تشمل مطالبات التقييم الجيدة ما يلي:
- مطالبة فرز دعم مع لقطة شاشة واحدة، ووصف المستخدم، ومخطط JSON مطلوب.
- مطالبة ضمان جودة المنتج مع إدخال فيديو قصير وقالب تقرير خلل.
- مطالبة توجيه أداة حيث يجب على النموذج الاختيار بين
create_ticketوsearch_docsوescalate_to_human. - مطالبة تحليل سياق طويل حيث يمكن لنفس مخطط الأداة ونص السياسة الاستفادة من القراءات المخزنة مؤقتًا.
تجنب البدء بمطالبات غامضة مثل “حلل هذا الفيديو” أو “فكر في هذه الصورة”. أعط النموذج المهمة، وحدود القرار، وتنسيق الإخراج. هذا يجعل من السهل مقارنة النتائج عبر النماذج وأسهل لقياس ما إذا كان السياق الإضافي والإدخال متعدد الوسائط يحققان عائدهما.
بالنسبة لسير العمل الوكيل، فإن دعم أدوات النموذج هو الجزء الذي يجب اختباره بعناية أكبر. يجب أن يتضمن تقييم جيد لاستدعاء الأداة حالات تكون فيها الإجابة الصحيحة هي استدعاء أداة، وحالات تكون فيها الإجابة الصحيحة هي طلب مزيد من المعلومات، وحالات لا يجب فيها تشغيل أي أداة. هذا يمنع التقييم من مكافأة الإجراءات النشطة أكثر من اللازم فقط لأن النموذج يمكنه إصدار استدعاء دالة.
كيف يجب على الفرق تقييمه قبل الإنتاج؟
ابدأ بمجموعة اختبار صغيرة تشبه منتجك، وليس بمطالبة معيارية عامة. قم بتضمين حالات ناجحة، وحالات حافة، ومطالبات لا يجب أن تؤدي إلى استدعاء أداة. إذا كان تطبيقك يحتاج إلى مخرجات منظمة، فتحقق من صحة الإخراج مقابل المخطط الخاص بك بدلاً من التحقق منه يدويًا.
يستخدم طلب نصي متوافق مع OpenAI الحد الأدنى من واجهة برمجة تطبيقات LLM من Novita AI URL الأساسي ومعرف النموذج الذي تم التحقق منه:
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["NOVITA_API_KEY"],
base_url="https://api.novita.ai/openai",
)
response = client.chat.completions.create(
model="stepfun/step-3.7-flash",
messages=[
{
"role": "system",
"content": "أنت مساعد فرز حوادث عملي. أعد توصيات موجزة ومنظمة.",
},
{
"role": "user",
"content": "راجع ملخص الحادث هذا وحدد الفحوصات الثلاثة التالية: تضاعف زمن استجابة API بعد النشر، وCPU لقاعدة البيانات طبيعي، ومعدل الأخطاء ثابت.",
},
],
max_tokens=700,
temperature=0.2,
)
print(response.choices[0].message.content)
لتقييم الإنتاج، أضف أربعة فحوصات قبل توجيه حركة مرور المستخدم الحقيقية:
- فحص التكلفة: سجل رموز الإدخال والقراءة من ذاكرة التخزين المؤقت والإخراج للطلبات التمثيلية.
- فحص المخطط: تحقق من صحة المخرجات المنظمة تلقائيًا وأعد المحاولة أو الرجوع إلى الخيار الاحتياطي عندما لا تتطابق الردود.
- فحص الأداة: اختبر حالات استدعاء الأداة وعدم استدعائها، بما في ذلك المطالبات الغامضة.
- فحص الوسائط: قم بتقييم تنسيقات الصور أو الفيديو الفعلية التي يرسلها تطبيقك، وليس فقط الملخصات النصية للوسائط.
استدعاء الدوال والمخرجات المنظمة مفيدة، لكنها لا تزيل مسؤولية التطبيق. لا تزال خدمتك بحاجة إلى فحوصات التفويض، والتحقق من صحة الإدخال، وتنفيذ الأدوات الخامل للتأثيرات الجانبية، وسجلات التدقيق للإجراءات التي تغير بيانات المستخدم.
بالنسبة للطلبات متعددة الوسائط، اجعل مسار معالجة الوسائط واضحًا. قم بتخزين الأصول أو الإشارة إليها وفقًا لقواعد الخصوصية في تطبيقك، واحتفظ بما يكفي من البيانات الوصفية لتصحيح حالات الفشل، وسجل تنسيق الطلب الذي تم استخدامه. إذا ظهرت مشكلة إنتاج لاحقًا، فستريد معرفة ما إذا كان النموذج قد رأى الصورة الأصلية أو الفيديو، أو نسخة مضغوطة، أو عينة إطار، أو ملخصًا نصيًا تم إنشاؤه بواسطة خدمة أخرى.
كيف تقارن نظرة عامة الإطلاق مع دليل البدء السريع؟
هذه المقالة هي نظرة عامة على الإطلاق والمصدر الموثوق: التوفر، ومعرف النموذج، والتسعير، والنطاق متعدد الوسائط، وملاءمة المطور. دليل البدء السريع لـ Step 3.7 Flash API المنفصل يتعمق أكثر في حمولات الطلب، وإدخالات الصور والفيديو، وأمثلة استدعاء الدوال، وأنماط المخرجات المنظمة.
هذا التقسيم مفيد لأن قراء الإطلاق يحتاجون عادةً إلى الإجابة على السؤال التالي: “هل يجب علينا تقييم هذا النموذج؟”. يحتاج قراء البدء السريع إلى الإجابة على السؤال التالي: “ما هو الطلب المحدد الذي يجب أن أرسله؟” إن إبقاء هاتين المهمتين منفصلتين يتجنب دفن حقائق التسعير والقدرات داخل برنامج تعليمي طويل، مع ترك مساحة كافية لتفاصيل التنفيذ حيثما كان ذلك مناسبًا.
الآن، أفضل خطوة تالية هي فتح صفحة نموذج Step 3.7 Flash، وتأكيد بطاقة السعر الحالية والحدود لحسابك، وتشغيل مطالبة تقييم ضيقة تستخدم نفس الوسائط أو مخطط الأداة أو المخرجات المنظمة التي سيحتاجها تطبيقك.
الأسئلة الشائعة
هل Step 3.7 Flash متاح على Novita AI؟
نعم. تدرج Novita AI حاليًا Step 3.7 Flash كنموذج LLM بدون خادم مع معرف نموذج API stepfun/step-3.7-flash.
ما هي أنواع الإدخال التي يدعمها Step 3.7 Flash؟
تدرج صفحة نموذج Novita AI حاليًا النص والصورة والفيديو كأنواع إدخال مدعومة. نوع الإخراج هو نص.
كم تكلفة Step 3.7 Flash على Novita AI؟
التسعير الحالي لـ Novita AI لـ stepfun/step-3.7-flash هو 0.20 دولار لكل مليون رمز إدخال، و0.04 دولار لكل مليون رمز إدخال مقروء من ذاكرة التخزين المؤقت، و1.15 دولار لكل مليون رمز إخراج.
هل يدعم Step 3.7 Flash استدعاء الدوال؟
نعم. تدرج صفحة نموذج Novita AI حاليًا دعم استدعاء الدوال، والمخرجات المنظمة، والاستدلال لـ Step 3.7 Flash.
ما هي نقطة النهاية التي يجب على المطورين استخدامها؟
استخدم نقطة نهاية محادثات الدردشة المتوافقة مع OpenAI من Novita AI مع معرف النموذج stepfun/step-3.7-flash. عنوان URL الأساسي لاستخدام SDK المتوافق مع OpenAI هو https://api.novita.ai/openai.
