كيفية الوصول إلى ERNIE 4.5: طرق سهلة عبر الويب وواجهة API والكود

كيفية الوصول إلى ERNIE 4.5: طرق سهلة عبر الويب وواجهة API والكود

ERNIE 4.5 هي عائلة نماذج الذكاء الاصطناعي المتقدمة من Baidu لمعالجة النصوص والوسائط المتعددة بكفاءة عالية. مع خيارات للنشر على نطاق واسع أو خفيف الوزن، توفر ERNIE 4.5 أداءً فعالاً وإمكانية وصول فعالة من حيث التكلفة للمطورين والشركات. سواء كنت تعمل مع النصوص أو الصور أو كليهما، يمكن الوصول إلى ERNIE 4.5 بسهولة من خلال واجهات الويب وواجهات API والمنصات السحابية – دون الحاجة إلى إعدادات معقدة.

مقدمة بسيطة عن ERNIE 4.5

ERNIE 4.5 هي عائلة من نماذج الذكاء الاصطناعي المتقدمة التي طورتها Baidu، مع التركيز على معالجة الوسائط المتعددة والنصوص بكفاءة. تستخدم هذه النماذج بنية Mixture of Experts (MoE) للإصدارات الأكبر وبنية كثيفة للإصدارات الأصغر. وهي تدعم الوسائط النصية والمرئية، مع خيارات للإصدارات المُدرَّبة مسبقًا (PT) والإصدارات الأساسية. فيما يلي جدول بمتغيرات النموذج الرئيسية ورسم بياني يسلط الضوء على ابتكارات ERNIE في تدفق تدريب الذكاء الاصطناعي.

النموذج القاعدة النشط النوع الوسائط التدريب
ERNIE 4.5 VL 424B A47B 424B 47B MoE T+V PT
ERNIE 4.5 VL 424B A47B Base 424B 47B MoE T+V Base
ERNIE 4.5 VL 28B A3B 28B 3B MoE T+V PT
ERNIE 4.5 VL 28B A3B Base 28B 3B MoE T+V Base
ERNIE 4.5 VL 28B A3B Thinking 28B 3B MoE T+V PT
ERNIE 4.5 300B A47B 300B 47B MoE نص PT
ERNIE 4.5 300B A47B Base 300B 47B MoE نص Base
ERNIE 4.5 21B A3B 21B 3B MoE نص PT
ERNIE 4.5 21B A3B Base 21B 3B MoE نص Base
ERNIE 4.5 21B A3B Thinking 21B 3B MoE نص PT
ERNIE 4.5 0.3B 0.3B كثيف نص PT
ERNIE 4.5 0.3B Base 0.3B كثيف نص Base

تدفق تدريب الذكاء الاصطناعي: ابتكارات ERNIE الموضحة

1. التدريب المسبق متعدد الوسائط غير المتجانس MoE

التدريب المسبق المشترك للنصوص والرؤية مع بنية MoE غير متجانسة، وتوجيه معزول حسب الوسائط، ووظيفة خسارة متعددة الوسائط متوازنة.

2. بنية تحتية قابلة للتوسع عالية الكفاءة

توازي هجين، موازنة تحميل هرمية، توازي الخبراء، جدولة محسّنة للذاكرة، وقياس غير مُفقد لتحقيق إنتاجية عالية واستدلال فعال.

3. التدريب اللاحق الخاص بالوسائط

ضبط دقيق لمهام النصوص أو الرؤية، ودعم SFT وDPO وUPO لتلبية احتياجات التطبيقات الواقعية المتنوعة.

مقارنة الأداء: ERNIE 4.5 مقابل GPT-4o

تقدم ERNIE 4.5 أداءً فائقًا وكفاءة استثنائية من حيث التكلفة مقارنةً بـ GPT-4o، مما يجعلها خيارًا تنافسيًا للغاية لنشر الذكاء الاصطناعي على نطاق واسع. هذا هو السعر على Novita AI!

مقارنة الأداء: ERNIE 4.5 مقابل GPT-4o

من الإنترنت

الوصول إلى ERNIE 4.5 عبر منصة Baidu (نسخة تجريبية مجانية)

يمكنك تجربتها مباشرة من خلال واجهة الويب لمنصة Baidu، دون الحاجة إلى تثبيت. ببساطة، قم بزيارة الموقع وابدأ النسخة التجريبية المجانية فورًا.

الوصول عبر منصة Baidu (نسخة تجريبية مجانية)

بدلاً من ذلك، يمكنك استخدام ملعب API من Novita لتجربة ERNIE 4.5 في بيئة صديقة للمطورين.

ابدأ نسخة تجريبية مجانية على ERNIE 4.5

جرب Novita AI اليوم!

الوصول إلى ERNIE 4.5 محليًا

ما هي متطلبات النظام لاستخدام Ernie 4.5؟

دقة FP16

النموذج المعلمات (النشطة) ذاكرة VRAM المطلوبة وحدات GPU المثالية
ERNIE 4.5 VL 424B 424B (47B نشطة) ~945 GB NVIDIA H100 (80GB) × 12
ERNIE 4.5 300B 300B (47B نشطة) ~668 GB NVIDIA H100 (80GB) × 9
ERNIE 4.5 VL 28B / ERNIE 4.5 VL 28B A3B Thinking 28B (3B نشطة) ~80 GB NVIDIA A100/H100 (80GB)
ERNIE 4.5 21B / ERNIE 4.5 21B A3B Thinking 21B (3B نشطة) ~48GB NVIDIA RTX 4090 (24GB)X2
ERNIE 4.5 0.3B 300M ~2.5 GB NVIDIA RTX 4090 (8GB) / RTX 3060 (12GB)

دقة INT4

النموذج المعلمات (النشطة) ذاكرة VRAM المطلوبة وحدات GPU المثالية
ERNIE 4.5 VL 424B 424B (47B نشطة) ~237 GB NVIDIA H100 (80GB) × 3
ERNIE 4.5 300B 300B (47B نشطة) ~168 GB NVIDIA H100 (80GB) × 3
ERNIE 4.5 VL 28B / ERNIE 4.5 VL 28B A3B Thinking 28B (3B نشطة) ~17 GB NVIDIA RTX 4090 (24GB) / A10G (24GB)
ERNIE 4.5 21B / ERNIE 4.5 21B A3B Thinking 21B (3B نشطة) ~13 GB NVIDIA RTX 4080 (16GB) / A10G (24GB)
ERNIE 4.5 0.3B 300M ~1.8 GB معظم وحدات GPU بسعة VRAM >4GB

بناءً على ERNIEToolkit الرسمي والإصدار مفتوح المصدر:

  • نظام التشغيل: يُوصى بشدة باستخدام Linux (Ubuntu أو ما شابه).
  • الإطار: يتطلب PaddlePaddle (أحدث إصدار).
    • للاستدلال/التدريب: استخدم ERNIEKit (المبني على PaddlePaddle).
    • يمكن تسريع النشر باستخدام FastDeploy.
  • التبعيات:
    • Python 3.8+
    • CUDA و cuDNN بما يتوافق مع إعداد GPU الخاص بك.
    • لبيئة PyTorch: تتوفر النماذج أيضًا عبر transformers مع trust_remote_code=True

إذا كان شراء GPU مكلفًا للغاية، يمكنك الاستفادة من خدمات GPU السحابية الفعالة من حيث التكلفة والموثوقة من Novita AI. على سبيل المثال، يمكنك الوصول إلى مثيل 1x H100 SXM 80GB مع ذاكرة VRAM سعة 80 GB مقابل 2.56 دولار فقط في الساعة، أو التوسع إلى 8 وحدات GPU مقابل 20.48 دولار في الساعة.

جرب Novita AI اليوم!

الوصول إلى ERNIE 4.5 من تطبيق Python

  • Hugging Face: استخدم QERNIE 4.5 في Spaces أو pipelines أو مع مكتبة Transformers عبر نقاط نهاية Novita AI.

  • أطر الوكيل والتنسيق: قم بتوصيل Novita AI بسهولة مع منصات الشركاء مثل Continue و AnythingLLM و LangChain و Dify و Langflow من خلال الموصلات الرسمية وأدلة التكامل خطوة بخطوة.

  • واجهة API المتوافقة مع OpenAI: استمتع بالترحيل والتكامل بدون عناء مع أدوات مثل Cline و Cursor، والمصممة لمعيار OpenAI API.

الوصول إلى ERNIE 4.5 من تطبيق Python

يمكنك الحصول على مزيد من التفاصيل في الوثائق

الوصول إلى ERNIE 4.5 عبر API

الخطوة 1: تسجيل الدخول والوصول إلى مكتبة النماذج

سجل الدخول إلى حسابك وانقر على زر مكتبة النماذج.

تسجيل الدخول والوصول إلى مكتبة النماذج

جرب ERNIE 4.5 الآن!

الخطوة 2: اختر نموذجك

تصفح الخيارات المتاحة واختر النموذج الذي يناسب احتياجاتك.

اختر نموذجك

الخطوة 3: ابدأ نسختك التجريبية المجانية

ابدأ النسخة التجريبية المجانية لاستكشاف إمكانيات النموذج المختار.

ابدأ نسخة تجريبية مجانية على ERNIE 4.5

الخطوة 4: احصل على مفتاح API الخاص بك

للمصادقة مع API، سنقدم لك مفتاح API جديد. بالدخول إلى صفحة “الإعدادات”، يمكنك نسخ مفتاح API كما هو موضح في الصورة.

الحصول على مفتاح API

الخطوة 5: تثبيت API

قم بتثبيت API باستخدام مدير الحزم الخاص بلغة البرمجة التي تستخدمها.

بعد التثبيت، قم باستيراد المكتبات اللازمة إلى بيئة التطوير الخاصة بك. قم بتهيئة API باستخدام مفتاح API الخاص بك لبدء التفاعل مع Novita AI LLM. هذا مثال على استخدام واجهة برمجة تطبيقات chat completions لمستخدمي Python.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="",
)

model = "baidu/ernie-4.5-300b-a47b-paddle"
stream = True # or False
max_tokens = 6000
system_content = ""Be a helpful assistant""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)

الوصول إلى ERNIE 4.5 مرن ومباشر – اختر النهج الذي يناسب سير عملك، بدءًا من التجارب الفورية عبر الويب وصولاً إلى التكامل القوي مع API والنشر المحلي. مع الأداء الفائق والتسعير الفعال، تُعد ERNIE 4.5 خيارًا عمليًا لتطبيقات الذكاء الاصطناعي من الجيل التالي.

الأسئلة الشائعة

هل ERNIE 4.5 أفضل حقًا من نماذج الذكاء الاصطناعي الكبيرة الأخرى؟

نعم، ERNIE 4.5 تحصل على درجات أعلى من DeepSeek V3 671B في معظم المعايير وهي تنافسية للغاية مع النماذج الرائدة الأخرى.

ما هي متطلبات النظام لتشغيل ERNIE 4.5 محليًا؟

تختلف المتطلبات حسب حجم النموذج، لكنك ستحتاج إلى نظام Linux و Python 3.8+ و PaddlePaddle ووحدة GPU متوافقة من NVIDIA. تتوفر خيارات GPU سحابية إذا لم يكن لديك أجهزة محلية.

كم ذاكرة VRAM أحتاج لتشغيل ERNIE 4.5؟

يتطلب تشغيل أكبر إصدارات ERNIE 4.5 (مثل 424B أو 300B) ذاكرة VRAM عالية جدًا – مئات الجيجابايتات ووحدات GPU متعددة عالية الجودة. الإصدارات الأصغر أو المُقاسة تحتاج إلى ذاكرة VRAM أقل بكثير.

Novita AI هي المنصة السحابية الشاملة التي تُمكّن طموحاتك في الذكاء الاصطناعي. واجهات API متكاملة، بدون خوادم، مثيلات GPU – الأدوات الفعالة من حيث التكلفة التي تحتاجها. تخلص من البنية التحتية، ابدأ مجانًا، وحقق رؤيتك في الذكاء الاصطناعي.

قراءات موصى بها