Comment accéder à ERNIE 4.5 : méthodes simples via le Web, l'API et le code

Comment accéder à ERNIE 4.5 : méthodes simples via le Web, l'API et le code

ERNIE 4.5 est la famille de modèles d’IA avancés de Baidu pour un traitement puissant du texte et du multimédia. Avec des options de déploiement à grande échelle et légères, ERNIE 4.5 offre des performances efficaces et un accès rentable pour les développeurs et les entreprises. Que vous travailliez avec du texte, des images ou les deux, ERNIE 4.5 est accessible facilement via des interfaces web, des API et des plateformes cloud – aucune configuration complexe requise.

Présentation simplifiée d’ERNIE 4.5

ERNIE 4.5 est une famille de modèles d’IA avancés développée par Baidu, axée sur le traitement efficace du texte et du multimédia. Ces modèles utilisent des architectures Mixture of Experts (MoE) pour les variantes plus grandes et des architectures denses pour les plus petites. Ils prennent en charge les modalités texte et vision, avec des options de pré-entraînement (PT) et de versions de base. Vous trouverez ci-dessous un tableau des principales variantes de modèles et un diagramme mettant en évidence les innovations d’ERNIE dans le flux d’entraînement IA.

Modèle Base Actif Type Modalité Entraînement
ERNIE 4.5 VL 424B A47B 424B 47B MoE T+V PT
ERNIE 4.5 VL 424B A47B Base 424B 47B MoE T+V Base
ERNIE 4.5 VL 28B A3B 28B 3B MoE T+V PT
ERNIE 4.5 VL 28B A3B Base 28B 3B MoE T+V Base
ERNIE 4.5 VL 28B A3B Thinking 28B 3B MoE T+V PT
ERNIE 4.5 300B A47B 300B 47B MoE Texte PT
ERNIE 4.5 300B A47B Base 300B 47B MoE Texte Base
ERNIE 4.5 21B A3B 21B 3B MoE Texte PT
ERNIE 4.5 21B A3B Base 21B 3B MoE Texte Base
ERNIE 4.5 21B A3B Thinking 21B 3B MoE Texte PT
ERNIE 4.5 0.3B 0.3B Dense Texte PT
ERNIE 4.5 0.3B Base 0.3B Dense Texte Base

Flux d’entraînement IA : innovations ERNIE mises en avant

1. Pré-entraînement MoE hétérogène multimodal

Pré-entraînement conjoint texte & vision avec structure MoE hétérogène, routage isolé par modalité et fonction de perte multimodale équilibrée.

2. Infrastructure de passage à l’échelle efficace

Parallélisme hybride, équilibrage de charge hiérarchique, parallélisme expert, ordonnancement optimisé en mémoire et quantification sans perte pour un débit élevé et une inférence efficace.

3. Post-entraînement spécifique à la modalité

Ajustement fin pour des tâches texte ou vision, prenant en charge SFT, DPO et UPO pour répondre à divers besoins d’applications réelles.

Comparaison des performances : ERNIE 4.5 vs. GPT-4o

ERNIE 4.5 offre des performances supérieures et une efficacité de coût exceptionnelle par rapport à GPT-4o, ce qui en fait un choix très compétitif pour les déploiements IA à grande échelle. Voici les prix sur Novita AI !

Comparaison des performances : ERNIE 4.5 vs. GPT-4o

Source : Internet

Accéder à ERNIE 4.5 via la plateforme Baidu (essai gratuit)

Vous pouvez l’essayer directement via l’interface web de la plateforme Baidu, sans aucune installation. Il vous suffit de visiter le site web et de commencer votre essai gratuit instantanément.

Accès via la plateforme Baidu (essai gratuit)

Vous pouvez également utiliser le Novita API Playground pour expérimenter ERNIE 4.5 dans un environnement adapté aux développeurs.

Commencer un essai gratuit sur ERNIE 4.5

Essayez Novita AI dès aujourd’hui !

Accéder à ERNIE 4.5 localement

Quelles sont les configurations système requises pour utiliser ERNIE 4.5 ?

Précision FP16

Modèle Paramètres (actifs) VRAM nécessaire GPU(s) idéal(aux)
ERNIE 4.5 VL 424B 424B (47B actifs) ~945 Go NVIDIA H100 (80 Go) × 12
ERNIE 4.5 300B 300B (47B actifs) ~668 Go NVIDIA H100 (80 Go) × 9
ERNIE 4.5 VL 28B / ERNIE 4.5 VL 28B A3B Thinking 28B (3B actifs) ~80 Go NVIDIA A100/H100 (80 Go)
ERNIE 4.5 21B / ERNIE 4.5 21B A3B Thinking 21B (3B actifs) ~48 Go NVIDIA RTX 4090 (24 Go) × 2
ERNIE 4.5 0.3B 300M ~2,5 Go NVIDIA RTX 4090 (8 Go) / RTX 3060 (12 Go)

Précision INT4

Modèle Paramètres (actifs) VRAM nécessaire GPU(s) idéal(aux)
ERNIE 4.5 VL 424B 424B (47B actifs) ~237 Go NVIDIA H100 (80 Go) × 3
ERNIE 4.5 300B 300B (47B actifs) ~168 Go NVIDIA H100 (80 Go) × 3
ERNIE 4.5 VL 28B / ERNIE 4.5 VL 28B A3B Thinking 28B (3B actifs) ~17 Go NVIDIA RTX 4090 (24 Go) / A10G (24 Go)
ERNIE 4.5 21B / ERNIE 4.5 21B A3B Thinking 21B (3B actifs) ~13 Go NVIDIA RTX 4080 (16 Go) / A10G (24 Go)
ERNIE 4.5 0.3B 300M ~1,8 Go La plupart des GPU avec >4 Go de VRAM

Basé sur la ERNIEToolkit officielle et la version open source :

  • Système d’exploitation : Linux est fortement recommandé (Ubuntu ou similaire).
  • Framework : PaddlePaddle (dernière version) requis.
    • Pour l’inférence/l’entraînement : utiliser ERNIEKit (basé sur PaddlePaddle).
    • Le déploiement peut être accéléré avec FastDeploy.
  • Dépendances :
    • Python 3.8+
    • CUDA et cuDNN adaptés à votre configuration GPU.
    • Pour un environnement PyTorch : les modèles sont également disponibles via transformers avec trust_remote_code=True

Si l’achat d’un GPU semble trop coûteux, vous pouvez profiter des services GPU cloud économiques et fiables de Novita AI. Par exemple, vous pouvez accéder à une instance 1x H100 SXM 80GB avec 80 Go de VRAM pour seulement 2,56 $ de l’heure, ou passer à 8 GPU pour 20,48 $ de l’heure.

Essayez Novita AI dès aujourd’hui !

Accéder à ERNIE 4.5 depuis une application Python

  • Hugging Face : Utilisez QERNIE 4.5 dans Spaces, pipelines ou avec la bibliothèque Transformers via les endpoints Novita AI.

  • Frameworks d’agents et d’orchestration : Connectez facilement Novita AI à des plateformes partenaires comme Continue, AnythingLLM, LangChain, Dify et Langflow grâce à des connecteurs officiels et des guides d’intégration étape par étape.

  • API compatible OpenAI : Profitez d’une migration et d’une intégration sans tracas avec des outils tels que Cline et Cursor, conçus pour la norme API OpenAI.

Accéder à ERNIE 4.5 depuis une application Python

Vous trouverez plus de détails dans la Documentation

Accéder à ERNIE 4.5 via l’API

Étape 1 : Connectez-vous et accédez à la bibliothèque de modèles

Connectez-vous à votre compte et cliquez sur le bouton Bibliothèque de modèles.

Connectez-vous et accédez à la bibliothèque de modèles

Essayez ERNIE 4.5 maintenant !

Étape 2 : Choisissez votre modèle

Parcourez les options disponibles et sélectionnez le modèle qui correspond à vos besoins.

Choisissez votre modèle

Étape 3 : Commencez votre essai gratuit

Lancez votre essai gratuit pour explorer les capacités du modèle sélectionné.

Commencez un essai gratuit sur ERNIE 4.5

Étape 4 : Obtenez votre clé API

Pour vous authentifier auprès de l’API, nous vous fournirons une nouvelle clé API. Rendez-vous sur la page « Paramètres », vous pouvez copier la clé API comme indiqué sur l’image.

Obtenez la clé API

Étape 5 : Installez l’API

Installez l’API à l’aide du gestionnaire de paquets spécifique à votre langage de programmation.

Après installation, importez les bibliothèques nécessaires dans votre environnement de développement. Initialisez l’API avec votre clé API pour commencer à interagir avec Novita AI LLM. Voici un exemple d’utilisation de l’API chat completions pour les utilisateurs Python.

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="",
)

model = "baidu/ernie-4.5-300b-a47b-paddle"
stream = True # or False
max_tokens = 6000
system_content = ""Be a helpful assistant""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)
  
  

Accéder à ERNIE 4.5 est flexible et simple : choisissez l’approche qui correspond à votre flux de travail, des essais web instantanés à l’intégration API robuste en passant par le déploiement local. Avec des performances supérieures et une tarification efficace, ERNIE 4.5 est un choix pratique pour les applications IA de nouvelle génération.

Foire aux questions

ERNIE 4.5 est-il vraiment meilleur que les autres grands modèles d’IA ?

Oui, ERNIE 4.5 obtient des scores plus élevés que DeepSeek V3 671B dans la plupart des benchmarks et est très compétitif avec les autres meilleurs modèles.

Quelles sont les configurations système requises pour exécuter ERNIE 4.5 localement ?

Les exigences varient selon la taille du modèle, mais vous aurez besoin d’un système Linux, de Python 3.8+, de PaddlePaddle et d’un GPU NVIDIA compatible. Des options GPU cloud sont disponibles si vous ne disposez pas de matériel local.

De quelle quantité de VRAM ai-je besoin pour exécuter ERNIE 4.5 ?

L’exécution des versions les plus grandes d’ERNIE 4.5 (comme 424B ou 300B) nécessite une VRAM très élevée – des centaines de Go et plusieurs GPU haut de gamme. Les versions plus petites ou quantifiées nécessitent beaucoup moins de VRAM.

Novita AI est la plateforme cloud tout-en-un qui dynamise vos ambitions IA. API intégrées, sans serveur, instances GPU – les outils rentables dont vous avez besoin. Éliminez l’infrastructure, commencez gratuitement et réalisez votre vision IA.

Lecture recommandée