ERNIE 4.5 es la familia de modelos de IA avanzados de Baidu para el procesamiento multimodal y de texto potente. Con opciones tanto para implementación a gran escala como ligera, ERNIE 4.5 ofrece un rendimiento eficiente y un acceso rentable para desarrolladores y empresas. Ya sea que trabajes con texto, imágenes o ambos, puedes acceder a ERNIE 4.5 fácilmente a través de interfaces web, APIs y plataformas en la nube, sin necesidad de configuración compleja.
Introducción sencilla a ERNIE 4.5
ERNIE 4.5 es una familia de modelos de IA avanzados desarrollados por Baidu, centrados en el procesamiento multimodal y basado en texto eficiente. Estos modelos utilizan arquitecturas de mezcla de expertos (MoE) para variantes grandes y arquitecturas densas para las más pequeñas. Admiten modalidades de texto y visión, con opciones para versiones preentrenadas (PT) y base. A continuación se muestra una tabla con las variantes clave del modelo y un diagrama que destaca las innovaciones de ERNIE en el flujo de entrenamiento de IA.
| Modelo | Base | Activos | Tipo | Modalidad | Entrenamiento |
|---|---|---|---|---|---|
| ERNIE 4.5 VL 424B A47B | 424B | 47B | MoE | T+V | PT |
| ERNIE 4.5 VL 424B A47B Base | 424B | 47B | MoE | T+V | Base |
| ERNIE 4.5 VL 28B A3B | 28B | 3B | MoE | T+V | PT |
| ERNIE 4.5 VL 28B A3B Base | 28B | 3B | MoE | T+V | Base |
| ERNIE 4.5 VL 28B A3B Thinking | 28B | 3B | MoE | T+V | PT |
| ERNIE 4.5 300B A47B | 300B | 47B | MoE | Texto | PT |
| ERNIE 4.5 300B A47B Base | 300B | 47B | MoE | Texto | Base |
| ERNIE 4.5 21B A3B | 21B | 3B | MoE | Texto | PT |
| ERNIE 4.5 21B A3B Base | 21B | 3B | MoE | Texto | Base |
| ERNIE 4.5 21B A3B Thinking | 21B | 3B | MoE | Texto | PT |
| ERNIE 4.5 0.3B | 0.3B | – | Denso | Texto | PT |
| ERNIE 4.5 0.3B Base | 0.3B | – | Denso | Texto | Base |
Flujo de entrenamiento de IA: innovaciones destacadas de ERNIE
1. Preentrenamiento MoE multimodal heterogéneo
Preentrenamiento conjunto de texto y visión con estructura MoE heterogénea, enrutamiento aislado por modalidad y pérdida multimodal equilibrada.
2. Infraestructura escalable y eficiente
Paralelismo híbrido, balanceo de carga jerárquico, paralelismo de expertos, planificación optimizada de memoria y cuantificación sin pérdidas para alto rendimiento e inferencia eficiente.
3. Postentrenamiento específico por modalidad
Ajuste fino para tareas de texto o visión, compatible con SFT, DPO y UPO para satisfacer diversas necesidades de aplicaciones del mundo real.
Comparación de rendimiento: ERNIE 4.5 vs. GPT-4o
ERNIE 4.5 ofrece un rendimiento superior y una eficiencia de costos excepcional en comparación con GPT-4o, lo que lo convierte en una opción altamente competitiva para implementaciones de IA a gran escala. ¡Este es el precio en Novita AI!
-
- $0.336 por 1M de tokens de entrada
- $1 por 1M de tokens de salida
-
- $0.224 por 1M de tokens de entrada
- $0.88 por 1M de tokens de salida
-
ERNIE 4.5 21B A3B / ERNIE-4.5-21B-A3B-Thinking
- $0.056 por 1M de tokens de entrada
- $0.224 por 1M de tokens de salida
-
- $0.112 por 1M de tokens de entrada
- $0.448 por 1M de tokens de salida
-
- $0.39 por 1M de tokens de entrada
- $0.39 por 1M de tokens de salida
De Internet
Acceder a ERNIE 4.5 a través de la plataforma Baidu (prueba gratuita)
Puedes probarlo directamente a través de la interfaz web de la plataforma Baidu, sin necesidad de instalación. Simplemente visita el sitio web y comienza tu prueba gratuita al instante.
Alternativamente, puedes usar el Novita API Playground para experimentar con ERNIE 4.5 en un entorno amigable para desarrolladores.
Acceder a ERNIE 4.5 de forma local
¿Cuáles son los requisitos del sistema para usar Ernie 4.5?
Precisión FP16
| Modelo | Parámetros (Activos) | VRAM necesaria | GPU(s) ideal(es) |
|---|---|---|---|
| ERNIE 4.5 VL 424B | 424B (47B activos) | ~945 GB | NVIDIA H100 (80GB) × 12 |
| ERNIE 4.5 300B | 300B (47B activos) | ~668 GB | NVIDIA H100 (80GB) × 9 |
| ERNIE 4.5 VL 28B / ERNIE 4.5 VL 28B A3B Thinking | 28B (3B activos) | ~80 GB | NVIDIA A100/H100 (80GB) |
| ERNIE 4.5 21B / ERNIE 4.5 21B A3B Thinking | 21B (3B activos) | ~48 GB | NVIDIA RTX 4090 (24GB) × 2 |
| ERNIE 4.5 0.3B | 300M | ~2.5 GB | NVIDIA RTX 4090 (8GB) / RTX 3060 (12GB) |
Precisión INT4
| Modelo | Parámetros (Activos) | VRAM necesaria | GPU(s) ideal(es) |
|---|---|---|---|
| ERNIE 4.5 VL 424B | 424B (47B activos) | ~237 GB | NVIDIA H100 (80GB) × 3 |
| ERNIE 4.5 300B | 300B (47B activos) | ~168 GB | NVIDIA H100 (80GB) × 3 |
| ERNIE 4.5 VL 28B / ERNIE 4.5 VL 28B A3B Thinking | 28B (3B activos) | ~17 GB | NVIDIA RTX 4090 (24GB) / A10G (24GB) |
| ERNIE 4.5 21B / ERNIE 4.5 21B A3B Thinking | 21B (3B activos) | ~13 GB | NVIDIA RTX 4080 (16GB) / A10G (24GB) |
| ERNIE 4.5 0.3B | 300M | ~1.8 GB | La mayoría de GPUs con >4GB VRAM |
Basado en el ERNIEToolkit oficial y el lanzamiento de código abierto:
- SO: Se recomienda encarecidamente Linux (Ubuntu o similar).
- Framework: Se requiere PaddlePaddle (última versión).
- Para inferencia/entrenamiento: usa ERNIEKit (basado en PaddlePaddle).
- La implementación se puede acelerar con FastDeploy.
- Dependencias:
- Python 3.8+
- CUDA y cuDNN compatibles con tu configuración de GPU.
- Para entorno PyTorch: los modelos también están disponibles a través de
transformerscontrust_remote_code=True
Si comprar una GPU te parece demasiado costoso, puedes aprovechar los servicios de GPU en la nube rentables y confiables de Novita AI. Por ejemplo, puedes acceder a una instancia 1x H100 SXM 80GB con 80 GB de VRAM por solo $2.56 por hora, o escalar hasta 8 GPUs por $20.48 por hora.
Acceder a ERNIE 4.5 desde una aplicación Python
-
Hugging Face: Usa ERNIE 4.5 en Spaces, pipelines, o con la biblioteca Transformers a través de los endpoints de Novita AI.
-
Frameworks de agentes y orquestación: Conecta fácilmente Novita AI con plataformas asociadas como Continue, AnythingLLM, LangChain, Dify y Langflow a través de conectores oficiales y guías de integración paso a paso.
-
API compatible con OpenAI: Disfruta de una migración e integración sin complicaciones con herramientas como Cline y Cursor, diseñadas para el estándar de la API de OpenAI.
Puedes obtener más detalles en Docs
Acceder a ERNIE 4.5 a través de la API
Paso 1: Inicia sesión y accede a la biblioteca de modelos
Inicia sesión en tu cuenta y haz clic en el botón Model Library.
Paso 2: Elige tu modelo
Explora las opciones disponibles y selecciona el modelo que se adapte a tus necesidades.
Paso 3: Comienza tu prueba gratuita
Inicia tu prueba gratuita para explorar las capacidades del modelo seleccionado.
Paso 4: Obtén tu clave de API
Para autenticarte con la API, te proporcionaremos una nueva clave de API. Ingresa a la página de “Settings” y copia la clave de API como se indica en la imagen.
Paso 5: Instala la API
Instala la API usando el gestor de paquetes específico para tu lenguaje de programación.
Después de la instalación, importa las bibliotecas necesarias en tu entorno de desarrollo. Inicializa la API con tu clave de API para comenzar a interactuar con Novita AI LLM. Este es un ejemplo de uso de la API de chat completions para usuarios de Python.
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="",
)
model = "baidu/ernie-4.5-300b-a47b-paddle"
stream = True # or False
max_tokens = 6000
system_content = ""Be a helpful assistant""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
Acceder a ERNIE 4.5 es flexible y sencillo: elige el enfoque que se adapte a tu flujo de trabajo, desde pruebas web instantáneas hasta una integración robusta de API e implementación local. Con un rendimiento superior y precios eficientes, ERNIE 4.5 es una opción práctica para aplicaciones de IA de próxima generación.
Preguntas frecuentes
¿Es ERNIE 4.5 realmente mejor que otros grandes modelos de IA?
Sí, ERNIE 4.5 obtiene puntuaciones más altas que DeepSeek V3 671B en la mayoría de los benchmarks y es muy competitivo con otros modelos líderes.
¿Cuáles son los requisitos del sistema para ejecutar ERNIE 4.5 de forma local?
Los requisitos varían según el tamaño del modelo, pero necesitarás un sistema Linux, Python 3.8+, PaddlePaddle y una GPU NVIDIA compatible. Hay opciones de GPU en la nube disponibles si no tienes hardware local.
¿Cuánta VRAM necesito para ejecutar ERNIE 4.5?
Ejecutar las versiones más grandes de ERNIE 4.5 (como 424B o 300B) requiere una VRAM muy alta: cientos de GB y múltiples GPUs de gama alta. Las versiones más pequeñas o cuantizadas necesitan mucha menos VRAM.
Novita AI es la plataforma integral en la nube que impulsa tus ambiciones de IA. APIs integradas, sin servidor, instancias de GPU: las herramientas rentables que necesitas. Elimina la infraestructura, comienza gratis y haz realidad tu visión de IA.
