Vive la próxima generación del desarrollo de IA con la última integración de los modelos Llama 3.2 de Meta en Novita AI. Nuestra plataforma ahora ofrece un conjunto completo de modelos diseñados para satisfacer diversas necesidades de desarrollo, manteniendo la rentabilidad y un rendimiento superior.
Novedades de Llama 3.2
|||||||
1) Entrada multimodal en modelos de 11B y 90B
Fuente: Meta
- Comprensión de imágenes: Reconoce objetos, escenas y dibujos, además de capacidades OCR.
- Generación de descripciones y preguntas/respuestas: Genera descripciones y responde preguntas basadas en contenido visual.
- Razonamiento visual: Analiza ecuaciones, gráficos y documentos para mejorar el razonamiento visual.
2) Tamaños más pequeños en modelos solo de texto de 1B y 3B
- Nuevos casos de uso de SLM (Modelo de Lenguaje Pequeño):
- Resumen en dispositivo
- Escritura y traducción
- Preguntas y respuestas en varios idiomas
Modelos Llama 3.2 disponibles en Novita AI
Novita AI ofrece con orgullo tres variantes potentes de Llama 3.2, cada una optimizada para diferentes casos de uso:
Llama 3.2 1B Instruct: Tu puerta de entrada a una IA eficiente
Transforma tu flujo de trabajo de desarrollo con nuestro modelo más accesible, que cuenta con una impresionante ventana de contexto de 131 000 tokens. Por solo $0.02/M tokens, este modelo ofrece un valor excepcional para prototipado rápido y aplicaciones ligeras. Prueba Llama 3.2 1B Instruct ahora
Llama 3.2 3B Instruct: Potencia y rendimiento
Desbloquea capacidades de razonamiento mejoradas con nuestro modelo de gama media, que ofrece una longitud de contexto de 32 768 tokens. Con precios competitivos de $0.03/M tokens de entrada y $0.05/M tokens de salida, está perfectamente posicionado para aplicaciones de mediana escala que requieren un rendimiento robusto. Prueba Llama 3.2 3B Instruct ahora
Llama 3.2 11B Vision Instruct: Excelencia multimodal
Experimenta el procesamiento multimodal de última generación con nuestro modelo de visión avanzado. Soporta una longitud de contexto de 131 000 tokens a $0.06/M tokens, y destaca en tareas complejas de lingüística visual. Prueba Llama 3.2 11B Vision Instruct ahora
Avanzando en la IA multimodal con una base de código abierto
Aplicación del modelo Llama 3.2
Los modelos de visión Llama 3.2, con 11 mil millones y 90 mil millones de parámetros, proporcionan capacidades multimodales robustas para procesar imágenes y texto. Al integrarse con la plataforma Novita AI, esta combinación puede desbloquear aplicaciones del mundo real significativas como:
Casos de uso multimodal
- Agentes interactivos: Desarrolla agentes de IA capaces de responder tanto a entradas de texto como de imagen, ofreciendo una experiencia de usuario mejorada.
- Descripción de imágenes: Crea descripciones de imágenes de alta calidad para su uso en comercio electrónico, creación de contenido y accesibilidad digital.
- Búsqueda visual: Permite a los usuarios realizar búsquedas mediante imágenes, mejorando la eficiencia de las búsquedas en entornos de comercio electrónico y venta minorista.
- Inteligencia documental: Analiza documentos que contienen tanto texto como elementos visuales, como contratos legales e informes financieros.
Aplicaciones específicas por industria
Los endpoints Llama 3.2 de Novita AI abren nuevas posibilidades en diversas industrias:
- Salud: Mejora el análisis de imágenes médicas para aumentar la precisión diagnóstica y la atención al paciente.
- Comercio minorista y electrónico: Transforma las experiencias de compra con búsquedas basadas en imágenes y texto, y recomendaciones personalizadas.
- Finanzas y legal: Optimiza los flujos de trabajo analizando contenido gráfico y textual, mejorando las revisiones de contratos y auditorías.
- Educación y formación: Desarrolla herramientas educativas interactivas que procesan texto e imágenes para aumentar la participación.
Primeros pasos: Tu viaje con Novita AI
Paso 1: Selecciona tu modelo
Elige según tus requisitos específicos:
- Para prototipado: Visita nuestra demo de Llama 3.2 1B Instruct para pruebas iniciales.
- Para aplicaciones en producción: Experimenta con el modelo Llama 3.2 3B Instruct para capacidades mejoradas.
- Para tareas de lingüística visual: Prueba las funciones multimodales en nuestra demo de Llama 3.2 11B Vision Instruct.
O usa nuestro SDK de Python para integrar rápidamente los modelos Llama en tus aplicaciones:
Paso 2: Integra y despliega
Sigue nuestro proceso de integración directo:
- Regístrate para obtener una cuenta de Novita AI.
- Accede a nuestra documentación completa de la API LLM.
- Implementa las llamadas a la API en tu lenguaje de programación preferido.
- Prueba minuciosamente en tu entorno de desarrollo.
Ejemplo con cliente Python
from openai import OpenAI
client = OpenAI(base_url="https://api.novita.ai/v3/openai",api_key="Tu Clave API",
)
model = "meta-llama/llama-3.2-11b-vision-instruct"stream = True # o Falsemax_tokens = 65500system_content = "Sé un asistente útil"temperature = 1top_p = 1min_p = 0top_k = 50presence_penalty = 0frequency_penalty = 0repetition_penalty = 1response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(model=model,messages=[
{"role": "system","content": system_content,
},
{"role": "user","content": "¡Hola!",
}
],stream=stream,max_tokens=max_tokens,temperature=temperature,top_p=top_p,presence_penalty=presence_penalty,frequency_penalty=frequency_penalty,response_format=response_format,extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
Ejemplo con cliente JavaScript
import OpenAI from "openai";
const openai = new OpenAI({
baseURL: "https://api.novita.ai/v3/openai",
apiKey: "Tu Clave API",
});
const stream = true; // o false
async function run() {
const completion = await openai.chat.completions.create({
messages: [
{
role: "system",
content: "Sé un asistente útil",
},
{
role: "user",
content: "¡Hola!",
},
],
model: "meta-llama/llama-3.2-3b-instruct",
stream,
response_format: { type: "text" },
max_tokens: 16384,
temperature: 1,
top_p: 1,
min_p: 0,
top_k: 50,
presence_penalty: 0,
frequency_penalty: 0,
repetition_penalty: 1
});
if (stream) {
for await (const chunk of completion) {
if (chunk.choices[0].finish_reason) {
console.log(chunk.choices[0].finish_reason);
} else {
console.log(chunk.choices[0].delta.content);
}
}
} else {
console.log(JSON.stringify(completion));
}
}
run();
Ejemplo con cliente Curl
curl "https://api.novita.ai/v3/openai/chat/completions" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer Tu Clave API" \
-d @- << 'EOF'
{
"model": "meta-llama/llama-3.2-3b-instruct",
"messages": [
{
"role": "system",
"content": "Sé un asistente útil"
},
{
"role": "user",
"content": "¡Hola!"
}
],
"response_format": { "type": "text" },
"max_tokens": 16384,
"temperature": 1,
"top_p": 1,
"min_p": 0,
"top_k": 50,
"presence_penalty": 0,
"frequency_penalty": 0,
"repetition_penalty": 1
}
EOF
Paso 3: Optimiza y escala
Maximiza tu implementación:
- Monitorea el uso de tokens y los costos.
- Refina tus indicaciones para mayor eficiencia.
- Escala tu aplicación según las necesidades de rendimiento.
- Aprovecha las amplias capacidades de longitud de contexto.
¿Listo para transformar tu desarrollo de IA?
Visita Novita AI hoy mismo para empezar a construir con Llama 3.2. Nuestro equipo está listo para apoyarte en tu viaje desde la experimentación hasta el despliegue en producción, asegurando que saques el máximo provecho de estos potentes modelos.
Publicado originalmente en Novita AI
Novita AI es la plataforma en la nube integral que impulsa tus ambiciones de IA. APIs integradas, sin servidor, instancias de GPU: las herramientas rentables que necesitas. Elimina la infraestructura, comienza gratis y haz realidad tu visión de IA.
Lecturas recomendadas
