استخدام Portkey مع Novita AI: دليل شامل

أحدثت بوابة Portkey AI Gateway ثورة في طريقة تفاعل المطورين مع نماذج الذكاء الاصطناعي المختلفة، بما في ذلك Novita AI. توفر هذه الأداة القوية واجهة موحدة للوصول إلى نماذج لغوية متعددة، مما يضمن توجيهًا سريعًا وموثوقًا وآمنًا. في هذا الدليل الشامل، سنستكشف كيفية الاستفادة من بوابة Portkey AI Gateway للوصول إلى واجهة برمجة تطبيقات Novita AI، مما يبسط عملية تطوير الذكاء الاصطناعي ويعزز أداء تطبيقك.

1. فهم بوابة Portkey AI Gateway

تعمل بوابة Portkey AI Gateway كوسيط قوي بين تطبيقك ونماذج الذكاء الاصطناعي المختلفة، بما في ذلك Novita AI. تم تصميمها لتبسيط عملية التكامل، حيث تقدم واجهة برمجة تطبيقات موحدة تدعم أكثر من 1600 نموذج لغوي وبصري وصوتي وصوري. بفضل طبيعتها خفيفة الوزن ومفتوحة المصدر، تسمح Portkey للمطورين بدمج أي نموذج لغوي في أقل من دقيقتين.

تشمل الخصائص الرئيسية لبوابة Portkey AI Gateway ما يلي:

• أداء فائق السرعة مع زمن انتقال أقل من 1 مللي ثانية
• حجم صغير جدًا يبلغ 122 كيلوبايت فقط
• بنية تحتية مجربة تعالج أكثر من 10 مليارات رمز يوميًا
• ميزات جاهزة للمؤسسات بما في ذلك الأمان المحسّن والنشر المخصص

2. الميزات والفوائد الرئيسية

تقدم بوابة Portkey AI Gateway مجموعة كبيرة من الميزات التي تعزز بشكل كبير تطوير ونشر تطبيقات الذكاء الاصطناعي:

1. واجهة برمجة تطبيقات موحدة: دمج مزودي الذكاء الاصطناعي المتعددين، بما في ذلك Novita AI، من خلال واجهة واحدة ومتسقة.
2. إعادة المحاولة التلقائية والبدائل: منع التوقف وضمان التوفر العالي لخدمات الذكاء الاصطناعي الخاصة بك.
3. موازنة التحميل والتوجيه الشرطي: توسيع نطاق تطبيقات الذكاء الاصطناعي بكفاءة عن طريق توزيع الطلبات عبر مزودين أو نماذج متعددة.
4. الحواجز الواقية: تنفيذ مرشحات المحتوى والتحقق من المخرجات للحفاظ على معايير الجودة والسلامة.
5. القدرات متعددة الوسائط: التوسع إلى ما وراء النماذج النصية لتشمل معالجة الرؤية والصوت والصور.
6. تكاملات سير العمل الوكيلية: استكشاف أطر عمل متقدمة للوكلاء الذكاء الاصطناعي للتطبيقات المعقدة.

تساهم هذه الميزات مجتمعة في تسريع دورات التطوير وتحسين الموثوقية وتعزيز أداء التطبيقات المدعومة بالذكاء الاصطناعي.

3. إعداد بوابة Portkey AI Gateway

إعداد بوابة Portkey AI Gateway هو عملية مباشرة تتضمن ثلاث خطوات رئيسية: إعداد البوابة، إجراء الطلب الأول، وتكوين التوجيه والحواجز الواقية.

إعداد بوابة AI الخاصة بك

لتشغيل البوابة محليًا، ستحتاج إلى تثبيت Node.js و npm. ثم قم بتنفيذ الأمر التالي:

npx @portkey-ai/gateway

بمجرد التشغيل، سترى عنوانين URL مهمين:

• البوابة: http://localhost:8787/v1
• وحدة تحكم البوابة: http://localhost:8787/public/

إجراء طلبك الأول

أولاً، قم بتثبيت مكتبة Portkey AI بلغة Python:

pip install -qU portkey-ai

ثم استخدم كود Python التالي لإجراء طلبك الأول:

from portkey_ai import Portkey

# OpenAI compatible client
client = Portkey(
    provider="openai", # or 'anthropic', 'bedrock', 'groq', etc
    Authorization="sk-***" # the provider API key
)

# Make a request through your AI Gateway
client.chat.completions.create(
    messages=[{"role": "user", "content": "What's the weather like?"}],
    model="gpt-4o-mini"
)

يمكنك مراقبة جميع سجلاتك المحلية في مكان واحد باستخدام وحدة تحكم البوابة على http://localhost:8787/public/.

التوجيه والحواجز الواقية

تسمح لك بوابة Portkey AI Gateway بتعيين قواعد التوجيه وإضافة ميزات الموثوقية وتنفيذ الحواجز الواقية. فيما يلي مثال على التكوين:

config = {
  "retry": {"attempts": 5},

  "output_guardrails": [{
    "default.contains": {"operator": "none", "words": ["Apple"]},
    "deny": True
  }]
}

# Attach the config to the client
client = client.with_options(config=config)

client.chat.completions.create(
    model="gpt-4o-mini",
    messages=[{"role": "user", "content": "Reply randomly with Apple or Bat"}]
)

# In this example, the guardrail denies all replies containing "Apple", so the response would always be "Bat". The retry configuration would attempt the request up to 5 times before giving up.

4. دمج واجهة برمجة تطبيقات Novita AI مع Portkey

للوصول إلى واجهة برمجة تطبيقات Novita AI من خلال بوابة Portkey AI Gateway، اتبع هذه الخطوات:

تثبيت SDK الخاص بـ Portkey

أضف SDK الخاص بـ Portkey إلى تطبيقك للتفاعل مع واجهة برمجة تطبيقات Novita AI عبر بوابة Portkey.

Node.JS

npm install --save portkey-ai

Python

pip install portkey-ai

تهيئة Portkey باستخدام المفتاح الافتراضي

لاستخدام Novita AI مع Portkey، احصل على مفتاح LLM API من Novita AI، ثم أضفه إلى Portkey لإنشاء المفتاح الافتراضي.

Node.JS SDK

import Portkey from 'portkey-ai'

const portkey = new Portkey({
  apiKey: "PORTKEY_API_KEY",  // Replace with your Portkey API key
  virtualKey: "VIRTUAL_KEY"   // Replace with your virtual key for Novita AI
})

Python SDK

from portkey_ai import Portkey

portkey = Portkey(
    api_key="PORTKEY_API_KEY",  // Replace with your Portkey API key
    virtual_key="VIRTUAL_KEY"   // Replace with your virtual key for Novita AI
)

استدعاء الدردشة الكاملة مع Novita AI

استخدم مثيل Portkey لإرسال الطلبات إلى Novita AI. يمكنك أيضًا تجاوز المفتاح الافتراضي مباشرة في استدعاء API إذا لزم الأمر.

Node.JS SDK

const chatCompletion = await portkey.chat.completions.create({
  messages: [{ role: 'user', content: 'Say this is a test' }],
  model: 'Nous-Hermes-2-Mixtral-8x7B-DPO'
});

console.log(chatCompletion.choices);

Python SDK

completion = portkey.chat.completions.create(
    messages= [{ "role": 'user', "content": 'Say this is a test' }],
    model= 'reka-core'
)

print(completion)

5. موارد مفيدة

لتعزيز فهمك واستخدامك لبوابة Portkey AI Gateway مع Novita AI، ضع في اعتبارك استكشاف هذه الموارد القيمة:

1. مستودع GitHub لـ Portkey AI Gateway: ابقَ على اطلاع بأحدث طلبات السحب والميزات والتحسينات.
2. وثائق Portkey AI لتكامل Novita AI: دليل شامل حول دمج Novita AI مع Portkey، بما في ذلك استخدام SDK والنماذج المدعومة.
3. مدونة Portkey AI: الوصول إلى مقالات مفيدة وبرامج تعليمية وتحديثات حول تكامل الذكاء الاصطناعي وأفضل الممارسات.
4. وثائق واجهة برمجة تطبيقات Novita AI: راجع الوثائق الرسمية لـ Novita AI للحصول على معلومات مفصلة حول واجهة برمجة تطبيقات LLM الخاصة بهم ومواصفات النماذج.

توفر هذه الموارد ثروة من المعلومات لمساعدتك على تحقيق أقصى استفادة من Novita AI من خلال بوابة Portkey AI Gateway، مما يضمن بقائك في طليعة تكامل الذكاء الاصطناعي وتطويره.

6. الخاتمة

يوفر دمج واجهة برمجة تطبيقات Novita AI مع بوابة Portkey AI Gateway طريقة سلسة وفعالة لتعزيز تطبيقات الذكاء الاصطناعي الخاصة بك. باتباع الخطوات الموضحة في هذا الدليل، يمكنك الاستفادة من الميزات القوية لبوابة Portkey AI Gateway لتبسيط عملية التطوير وتحسين الأداء وضمان الموثوقية. سواء كنت تعمل مع نماذج النصوص أو الرؤية أو الصوت أو الصور، فإن بوابة Portkey AI Gateway توفر واجهة موحدة تبسط دمج مزودي الذكاء الاصطناعي المتعددين.

من خلال البقاء على اطلاع بأحدث الموارد وأفضل الممارسات، يمكنك الاستمرار في تحسين تطبيقات الذكاء الاصطناعي الخاصة بك والبقاء في المقدمة في مجال تكامل الذكاء الاصطناعي وتطويره سريع التطور. استغل إمكانيات بوابة Portkey AI Gateway و Novita AI لبناء حلول ذكاء اصطناعي مبتكرة وقوية.

Novita AIهي منصة سحابية للذكاء الاصطناعي تقدم للمطورين طريقة سهلة لنشر نماذج الذكاء الاصطناعي باستخدام واجهة برمجة تطبيقات بسيطة، مع توفير سحابة GPU ميسورة التكلفة وموثوقة للبناء والتوسع.