Llama 4 ya disponible en Novita AI: liberando el poder multimodal MoE

Llama 4 ya disponible en Novita AI: liberando el poder multimodal MoE

Meta acaba de presentar su innovadora familia de modelos Llama 4, un avance significativo en las capacidades de IA con multimodalidad nativa y arquitectura de mezcla de expertos (MoE).

Hoy nos complace anunciar que Llama 4 Scout y Llama 4 Maverick ya están disponibles en Novita AI, lo que permite a empresas y desarrolladores aprovechar estos potentes modelos mediante una sencilla integración API.

Novita AI ofrece los primeros modelos de la manada Llama 4 con los siguientes precios:

Llama 4 Scout: $0.1 / M tokens de entrada y $0.5 / M tokens de salida
Llama 4 Maverick: $0.2 / M tokens de entrada y $0.85 / M tokens de salida

Conociendo la manada Llama 4

El lanzamiento de Llama 4 introduce tres modelos distintos, cada uno diseñado para diferentes necesidades y restricciones computacionales:

Modelo Parámetros activos Parámetros totales Expertos Longitud de contexto Fortalezas clave
Llama 4 Scout 17B 109B 16 10M tokens Contexto largo, anclaje de imágenes, cabe en una GPU H100
Llama 4 Maverick 17B 400B 128 1M tokens Excelencia multimodal, escritura creativa
Llama 4 Behemoth 288B ~2T 16 Modelo maestro para destilación

Llama 4 Scout cuenta con 16 expertos y ofrece un rendimiento de vanguardia para su clase. Soporta una longitud de contexto líder en la industria de 10 millones de tokens, ideal para procesar grandes cantidades de datos, incluyendo bases de código completas o documentación extensa.

Llama 4 Maverick es el caballo de batalla de productos de Meta, con 128 expertos para ofrecer un rendimiento superior en una amplia gama de tareas. Destaca en la comprensión precisa de imágenes y la escritura creativa, soportando hasta 1 millón de tokens de contexto.

Llama 4 Behemoth actúa como modelo maestro para la familia Llama 4 con 16 expertos. Aunque aún no se ha lanzado públicamente porque sigue en entrenamiento, Behemoth supera a GPT-4.5, Claude Sonnet 3.7 y Gemini 2.0 Pro en varios benchmarks STEM.

Nota: La ventana de contexto para Llama 4 Scout en Novita AI es de 131,072 tokens, mientras que la ventana de contexto para Llama 4 Maverick es de 1,048,576 tokens.

Características y capacidades clave

Multimodalidad nativa

Los modelos Llama 4 incorporan fusión temprana para integrar sin problemas tokens de texto y visión en un único backbone de modelo. Esto permite un preentrenamiento conjunto con grandes cantidades de datos de texto, imágenes y video sin etiquetar.

El codificador de visión mejorado, basado en MetaCLIP pero optimizado adicionalmente para la integración con LLM, permite a los modelos procesar múltiples imágenes junto con indicaciones de texto sin necesidad de ingeniería adicional.

Longitud de contexto extendida

Uno de los avances más significativos de Llama 4 es su soporte para contextos extraordinariamente largos:

  • Llama 4 Scout: 10 millones de tokens
  • Llama 4 Maverick: 1 millón de tokens

Este salto en la longitud de contexto permite aplicaciones antes impracticables, como:

  • Resumen y análisis de múltiples documentos
  • Razonamiento sobre bases de código extensas
  • Procesamiento de grandes volúmenes de actividad de usuarios para experiencias personalizadas
  • Análisis de archivos de investigación completos en una sola indicación

Capacidades multilingües y de razonamiento

Los modelos Llama 4 han sido preentrenados en 200 idiomas, con soporte de afinación dedicada para 12, incluyendo árabe, español, alemán e hindi. Más de 100 de estos idiomas tienen más de 1000 millones de tokens de entrenamiento cada uno, ofreciendo 10 veces más cobertura multilingüe que Llama 3.

Este entrenamiento extenso permite un rendimiento superior en todos los idiomas, haciendo que los modelos sean adecuados para aplicaciones globales.

Los modelos también demuestran capacidades de razonamiento mejoradas gracias a recetas de entrenamiento especializadas. Para Maverick, esto incluyó una estrategia de RL en línea continua con filtrado adaptativo de datos, centrándose en indicaciones de dificultad media a alta.

Benchmarks y casos de uso

Benchmarks

Según los datos oficiales de Meta, los modelos Llama 4 muestran un rendimiento excepcional en diversas tareas, como se muestra en las tablas a continuación:

Benchmarks de Llama 4 Scout

Benchmarks de Llama 4 Scout

Benchmarks de Llama 4 Maverick

Benchmarks de Llama 4 Maverick

Casos de uso ideales para la manada Llama 4

Llama 4 Scout es más adecuado para aplicaciones de contexto largo, mientras que Llama 4 Maverick sobresale en tareas complejas de razonamiento y creatividad que implican comprensión multimodal. Estos son los casos de uso ideales para cada modelo según sus fortalezas:

Llama 4 Scout:

  • Resumen de múltiples documentos para análisis legales o financieros
  • Automatización de tareas personalizadas utilizando datos extensos de usuarios
  • Procesamiento eficiente de imágenes para aplicaciones multimodales ligeras

Explora la demostración de Llama 4 Scout ahora

Llama 4 Maverick:

  • Atención al cliente multilingüe con contexto visual
  • Generación de contenido de marketing basado en entradas multimodales
  • Inteligencia documental avanzada que combina texto, diagramas y tablas
  • Escritura creativa y generación de contenido con comprensión precisa de imágenes

Explora la demostración de Llama 4 Maverick ahora

Ambos modelos destacan en situaciones que requieren comprensión multimodal, razonamiento sobre contexto extenso y capacidades multilingües.

Cómo empezar con Llama 4 en Novita AI

Integrar los modelos Llama 4 en tus aplicaciones a través de la biblioteca de modelos de Novita AI es sencillo y solo requiere unas pocas líneas de código. Aquí te explicamos cómo empezar:

Configuración de tu entorno

Primero, asegúrate de tener una clave API de Novita AI. Si aún no tienes una, regístrate y crea una clave API a través del panel de Novita AI.

Integración con Python

Novita AI proporciona endpoints compatibles con OpenAI para una integración perfecta. Aquí tienes un ejemplo simple usando el cliente de Python:

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<TU Clave API de Novita AI>",
)

model = "meta-llama/llama-4-maverick-17b-128e-instruct-fp8"
stream = True # o False
max_tokens = 2048
system_content = """Sé un asistente útil"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "¡Hola!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)
  

Para ejemplos más detallados y guías de integración completas, visita nuestra documentación de la API LLM.

Conclusión

La llegada de Llama 4 a Novita AI representa un hito importante en la democratización de las capacidades avanzadas de IA.

Con multimodalidad nativa, longitudes de contexto extendidas y una arquitectura MoE eficiente, estos modelos permiten nuevas clases de aplicaciones que antes eran impracticables o prohibitivamente costosas.

Ya sea que estés creando aplicaciones para procesamiento de documentos, comunicación multilingüe o generación de contenido creativo, Llama 4 proporciona las herramientas necesarias para crear experiencias inteligentes y receptivas.

Comienza hoy con el proceso de integración simple de Novita AI y precios competitivos para llevar el poder de Llama 4 a tus aplicaciones y usuarios.

Acerca de Novita AI

Novita AI es una plataforma en la nube de IA que ofrece a los desarrolladores una manera fácil de implementar modelos de IA mediante nuestra API simple, además de proporcionar una nube de GPU asequible y confiable para construir y escalar.