English Arabic 简体中文 繁體中文 Français Deutsch 日本語 한국어 Português Русский Español

Uso de Langfuse con Novita AI: Una guía completa

Por / / Partnerships / 4 minutos de lectura
Uso de Langfuse con Novita AI: Una guía completa
Tabla de contenido
  1. ¿Qué es Langfuse?
  2. Características clave
  3. Prerrequisitos
  4. Pasos de integración
  5. Enlaces y recursos útiles
  6. Conclusión
  7. Preguntas frecuentes

Novita AI ha revolucionado el desarrollo de aplicaciones LLM mediante su integración estratégica con Langfuse. Al combinar Novita AI con las capacidades de monitorización de Langfuse, los desarrolladores ahora tienen acceso a una solución integral para implementar y analizar aplicaciones de IA. Este artículo demuestra cómo las organizaciones pueden aprovechar los endpoints API compatibles con OpenAI de Novita AI mientras utilizan las potentes herramientas analíticas de Langfuse para optimizar su flujo de trabajo de desarrollo y acelerar la innovación en todas las industrias.

¿Qué es Langfuse?

Langfuse es una plataforma de ingeniería LLM de código abierto. Ayuda a los equipos a desarrollar, monitorizar, evaluar y depurar aplicaciones de IA de forma colaborativa. Langfuse se puede alojar en propia infraestructura en minutos y está probada en entornos reales.

Características clave

  1. Inferencia de alto rendimiento: Novita AI utiliza el innovador algoritmo PagedAttention de vLLM para ofrecer capacidades de inferencia optimizadas para modelos de lenguaje grandes.
  2. Infraestructura en la nube: La plataforma proporciona a los desarrolladores acceso a recursos informáticos de alto rendimiento a través de su infraestructura de nube GPU escalable.
  3. Soporte de código abierto: Novita AI apoya activamente el ecosistema de código abierto permitiendo el despliegue sencillo de modelos como LLaMA 3.1 y fomentando la innovación tecnológica.
  4. Herramientas para desarrolladores: Los desarrolladores se benefician de un flujo de trabajo optimizado gracias a la estructura API simple de Novita AI y sus completas herramientas de evaluación comparativa.
  5. Eficiencia de costes: La plataforma ofrece una solución de nube GPU asequible y fiable para construir y escalar aplicaciones de IA de manera eficiente.
  6. Integración empresarial: Las organizaciones pueden aprovechar la infraestructura de Novita AI para crear y escalar aplicaciones de IA innovadoras en diversas industrias.

Prerrequisitos

Antes de comenzar, asegúrate de tener lo siguiente:

  1. Clave API LLM de Novita AI:
  • Visita el sitio web de Novita AI y crea una cuenta.
  • Después de iniciar sesión, ve a la página de Key Management para generar tu clave API. Esta clave es necesaria para conectar los modelos de Novita AI con Langfuse.

2. Cuenta de Langfuse:

  • Regístrate para obtener una cuenta de Langfuse en Langfuse para comenzar a construir aplicaciones de IA.

Pasos de integración

Paso 1: Instalar dependencias

  • Asegúrate de haber instalado los paquetes de Python necesarios.
pip install openai langfuse

Paso 2: Configurar variables de entorno

import os

# Obtén las claves de tu proyecto desde la página de configuración del proyecto
# https://cloud.langfuse.com

os.environ["LANGFUSE_PUBLIC_KEY"] = "pk-..." # CLAVES DE EJEMPLO EN LA DOCUMENTACIÓN
os.environ["LANGFUSE_SECRET_KEY"] = "sk-..." # CLAVES DE EJEMPLO EN LA DOCUMENTACIÓN
os.environ["LANGFUSE_HOST"] = "https://cloud.langfuse.com" # 🇪🇺 Región UE
# os.environ["LANGFUSE_HOST"] = "https://us.cloud.langfuse.com" # 🇺🇸 Región EE. UU.

# Obtén tu clave API de Novita AI desde la página de configuración del proyecto
os.environ["NOVITA_API_KEY"] = "..."

Paso 3: Reemplazo directo de OpenAI con Langfuse

# en lugar de import openai:
from langfuse.openai import openai

client = openai.OpenAI(
  api_key=os.environ.get("NOVITA_API_KEY"),
  base_url="https://api.novita.ai/v3/openai",
)

Nota: El reemplazo directo de OpenAI es totalmente compatible con los SDK de Python de bajo nivel de Langfuse y el decorador @observe() para trazar todas las partes de tu aplicación.

Paso 4: Ejecutar un ejemplo

  • La siguiente celda demuestra cómo llamar al modelo de chat de Novita AI utilizando el cliente de OpenAI con trazado. Todas las llamadas a la API serán trazadas automáticamente por Langfuse.
client = openai.OpenAI(
  api_key=os.environ.get("NOVITA_API_KEY"),
  base_url="https://api.novita.ai/v3/openai",
)

response = client.chat.completions.create(
  model="meta-llama/llama-3.1-70b-instruct",
  messages=[
    {"role": "system", "content": "Actúa como si fueras un asistente útil."},
    {"role": "user", "content": "¿Cuáles son las atracciones famosas en San Francisco?"},
  ]
)

print(response.choices[0].message.content)
San Francisco, una de las ciudades más emblemáticas del mundo, alberga una gran cantidad de atracciones famosas que se adaptan a todos los intereses y edades. Estas son algunas de las atracciones más populares en San Francisco:

1. **Puente Golden Gate**: Una maravilla de la ingeniería y un símbolo de San Francisco, el Puente Golden Gate es una atracción imprescindible. Da un paseo o un paseo en bicicleta por el puente para disfrutar de vistas espectaculares de la ciudad y la bahía.
2. **Isla de Alcatraz**: Explora la infame prisión convertida en parque nacional, que una vez albergó a notorios reclusos como Al Capone. Toma un ferry a la isla y disfruta de una visita guiada por la prisión y sus alrededores.
3. **Fisherman's Wharf**: Un bullicioso distrito frente al mar, Fisherman's Wharf es famoso por sus restaurantes de mariscos, artistas callejeros y vistas impresionantes del Puente de la Bahía y la Isla de Alcatraz. ¡No te pierdas los leones marinos en el Muelle 39!
4. **Chinatown**: El barrio chino de San Francisco es uno de los más grandes y antiguos de Estados Unidos. Explora las calles coloridas, prueba la auténtica cocina china y compra recuerdos únicos.
5. **Golden Gate Park**: Un extenso parque urbano que alberga varias atracciones, incluido el Museo de Young, la Academia de Ciencias de California y el Jardín de Té Japonés.
6. **Teleféricos**: Una experiencia clásica de San Francisco, los teleféricos ofrecen una forma divertida e histórica de explorar la ciudad. Toma un paseo en la línea Powell-Mason hasta Fisherman's Wharf, o en la línea Powell-Hyde hasta la calle Lombard.
7. **Calle Lombard**: Conocida como "la calle más torcida del mundo", Lombard es una carretera pintoresca y sinuosa que ofrece vistas impresionantes de la ciudad.
8. **Union Square**: Una vibrante plaza pública en el corazón de la ciudad, Union Square está rodeada de opciones de compras, restaurantes y entretenimiento. Disfruta de un espectáculo en el histórico Teatro Curran o pasea por la plaza.
9. **The Painted Ladies**: Una hilera de casas victorianas coloridas en Alamo Square, las Painted Ladies son un símbolo icónico de la arquitectura de San Francisco. Tómate una foto frente a estas impresionantes casas.
10. **The Exploratorium**: Un museo de ciencia, arte y percepción humana, el Exploratorium es un gran lugar para aprender y divertirse. Con exposiciones interactivas y vistas impresionantes de la bahía, es una visita obligada para familias y entusiastas de la ciencia.
11. **Muelle 39**: Un popular destino de compras y restaurantes, el Muelle 39 ofrece vistas impresionantes del Puente de la Bahía, la Isla de Alcatraz y los leones marinos que llaman hogar al muelle.
12. **Museo de Young**: Un museo de bellas artes ubicado en Golden Gate Park, el Museo de Young presenta una colección diversa de exposiciones de arte y cultura de todo el mundo.

Estas son solo algunas de las muchas atracciones famosas en San Francisco. Ya sea que te interese la historia, la cultura, la ciencia o el entretenimiento, San Francisco tiene algo para todos.

Paso 5: Ver trazados en Langfuse

  • Después de ejecutar la llamada al modelo de ejemplo, puedes ver los trazados en Langfuse. Verás información detallada sobre tus llamadas a la API de Novita AI, incluyendo:
    • Parámetros de solicitud (modelo, mensajes, temperatura, etc.)
    • Contenido de la respuesta
    • Estadísticas de uso de tokens
    • Métricas de latencia

Enlace público de ejemplo de trazado en Langfuse

Enlaces y recursos útiles

Para mejorar aún más tu comprensión y uso de Langfuse con Novita AI, considera explorar estos valiosos recursos:

Conclusión

Novita AI y vLLM han formado una alianza estratégica que revoluciona el despliegue de IA mediante tecnología de vanguardia. La asociación demuestra el compromiso de ambas empresas con el avance de la tecnología de IA de código abierto y el fomento de la innovación durante todo el ciclo de vida del desarrollo.

Preguntas frecuentes

¿La estructura de la API de Novita AI es compatible con las capacidades de monitorización de Langfuse?

Sí, Novita AI proporciona una estructura API simple que la hace ideal para implementar las funciones de observabilidad de Langfuse.

¿La integración es adecuada para aplicaciones de IA a escala empresarial?

Sí, la combinación de la infraestructura de Novita AI y las capacidades de monitorización de Langfuse está diseñada específicamente para ayudar a las organizaciones a escalar sus soluciones de IA de manera eficiente en todas las industrias.

¿Integrar Novita AI con Langfuse requiere modificaciones complejas en la API?

No, la plataforma de Novita AI está diseñada con una estructura API simple.

Oferta por tiempo limitado

Novita AI ahora ofrece un Programa de Referidos que puede beneficiar a los usuarios de Helicone: Si alguien está interesado, los usuarios pueden compartir su enlace/código de invitación, y tanto ellos como sus referidos recibirán $20 en créditos para usar con las API de DeepSeek R1 y V3.

Acerca de Novita AI

Novita AI es una plataforma en la nube de IA que ofrece a los desarrolladores una manera fácil de implementar modelos de IA mediante nuestra API simple, al mismo tiempo que proporciona una nube GPU asequible y confiable para construir y escalar.

Publicaciones relacionadas