Novita AI ha revolucionado la forma en que los desarrolladores interactúan con diversas herramientas de IA, incluyendo Helicone. Helicone es conocido por su avanzada plataforma de observabilidad diseñada para desarrolladores que trabajan con Modelos de Lenguaje de Gran Escala (LLMs). Así, esta potente integración ofrece una oportunidad transformadora para que los desarrolladores busquen una plataforma de inferencia sencilla, una observabilidad robusta de LLM y soluciones de monitoreo. Este artículo profundiza en las características de Helicone, su integración con Novita AI y cómo los desarrolladores pueden beneficiarse de esta poderosa combinación.
¿Qué es Helicone?
Helicone es una plataforma integral de observabilidad para LLMs, creada para que los desarrolladores monitoreen, depuren y mejoren aplicaciones de IA listas para producción. La plataforma se especializa en proporcionar soluciones de monitoreo completas con capacidades de registro en tiempo real, permitiendo a los desarrolladores analizar y optimizar sus aplicaciones de LLM a escala. Lo que hace particularmente valioso a Helicone es su capacidad de integrarse en segundos con múltiples proveedores y su compatibilidad para probar variaciones de prompts en tráfico de producción sin necesidad de modificar el código.
Características y Funciones Clave
Helicone ofrece características clave para mejorar las aplicaciones de LLM listas para producción:
- Observabilidad Centralizada: Helicone proporciona una plataforma robusta que captura y visualiza registros y métricas completos de todos los despliegues de modelos de lenguaje de gran escala (LLMs).
- Optimización del Rendimiento de LLM: Helicone mejora el rendimiento de LLM mediante funciones que apoyan la experimentación de prompts, el seguimiento de tasas de éxito y facilitan el ajuste fino.
- Gestión Flexible de Datos: Priorizando la privacidad de los datos, Helicone ofrece diversas opciones de despliegue, incluyendo instancias dedicadas, integraciones híbridas en la nube y entornos autoalojados.
- Flexibilidad de Despliegue: Helicone admite opciones de despliegue tanto en la nube como on-premises, utilizando charts HELM listos para producción para garantizar la máxima seguridad.
- Seguridad de Nivel Empresarial: Esta característica incluye la certificación SOC2 y el cumplimiento de HIPAA, asegurando el manejo seguro de datos sensibles y cumpliendo con los requisitos de seguridad empresarial.
Configuración de Helicone AI Gateway
Configurar Helicone AI Gateway solo requiere cuatro pasos: crear una cuenta, generar una clave API, elegir tu método de integración preferido y enviar tu primera solicitud.
Paso 1: Crear una Cuenta
- Una vez que tengas una cuenta, procede al siguiente paso.
Paso 2: Generar una Clave API
- Ve a Configuración: Haz clic en tu organización en la parte superior izquierda, luego selecciona
<mark>Settings</mark>del menú desplegable.
- Selecciona la pestaña de Claves API
- Generar Nueva Clave: Haz clic en
<mark>Generate new key</mark>. Al crear una nueva clave API de Helicone, puedes habilitar los permisos de<mark>read</mark>y<mark>write</mark>. Las claves de escritura pueden ser usadas a través de Helicone mediante nuestro proxy, comentarios o cualquier otro servicio de Helicone al llamar a<mark>POST</mark>o usando nuestro gateway.
Paso 3: Elige tu Método de Integración Preferido
- A continuación, selecciona el proveedor que estás usando, ya que las instrucciones varían.
Paso 4: Envía tu Primera Solicitud
-
Una vez que recibamos tus solicitudes, las verás en la pestaña
<mark>Requests</mark>. -
También verás que tu
<mark>Dashboard</mark>se ha actualizado con tu nueva solicitud.
Obtención de la Clave API de Novita AI
La generación de la clave API de Novita AI se puede realizar en tres pasos: ir a Novita AI e iniciar sesión, gestionar la clave API de LLM de Novita AI y recargar crédito.
Paso 1: Ve a Novita AI e Inicia Sesión
- Puedes iniciar sesión en Novita AI con Google o GitHub, lo cual creará una nueva cuenta en tu primer inicio de sesión. Alternativamente, puedes registrarte usando tu dirección de correo electrónico.
Paso 2: Gestionar la Clave API de LLM de Novita AI
Novita AI asegura el acceso a la API mediante autenticación Bearer, incluyendo una Clave API en el encabezado de la solicitud, por ejemplo: “Authorization: Bearer {API Key}”.
- Para gestionar tus claves, navega a “Key Management” en la configuración. Se genera automáticamente una clave predeterminada al iniciar sesión por primera vez.
- Puedes crear claves adicionales haciendo clic en “+ Add New Key”.
Paso 3: Recargar Crédito
- Novita AI ofrece a los nuevos usuarios un bono con algo de crédito para probar nuestros productos. Para añadir más crédito, visita Billing and Payments y sigue la guía sobre Métodos de Pago.
Cómo Integrar la API de Novita AI con Helicone
Integrar Novita AI con Helicone usando una clave API es un proceso sencillo que consta de tres pasos: iniciar sesión en tu cuenta de Novita AI y Helicone, configurar HELICONE_API_KEY y NOVITA_API_KEY como variables de entorno, modificar la URL base y agregar los encabezados de autenticación.
Paso 1: Inicia Sesión en tu Cuenta de Novita AI y en Helicone
- Inicia sesión en Novita AI o crea una cuenta. Una vez que tengas una cuenta, puedes generar una clave API desde tu panel de control.
- Inicia sesión en Helicone o crea una cuenta. Una vez que tengas una cuenta, puedes generar una clave API.
Paso 2: Configura HELICONE_API_KEY y NOVITA_API_KEY como Variables de Entorno
HELICONE_API_KEY=<tu clave API>
NOVITA_API_KEY=<tu clave API>
Paso 3: Modifica la URL Base y Agrega los Encabezados de Autenticación
-
Reemplaza la siguiente URL de Novita AI por la URL del Gateway de Helicone:
<mark>https://api.novita.ai</mark>-><mark>https://novita.helicone.ai</mark> -
Luego agrega los siguientes encabezados de autenticación:
Authorization: Bearer <tu clave API>
Ejemplo
- Ahora puedes acceder a todos los modelos en Novita AI con una simple llamada fetch:
curl \
--header 'Authorization: Bearer <NOVITA_API_KEY>' \
--header 'Content-Type: application/json' \
--data '{
"model": "deepseek/deepseek-r1",
"messages": [
{
"role": "user",
"content": "¿Qué idioma se habla más en Singapur?"
}
]
}' \
--url https://novita.helicone.ai/v3/chat/completions
Enlaces y Recursos Útiles
Para mejorar tu comprensión y uso de Helicone AI Gateway con Novita AI, considera explorar estos valiosos recursos:
Conclusión
Integrar la API de Novita AI con Helicone AI Gateway ofrece una base sólida para implementar, monitorear y optimizar aplicaciones de LLM, manteniendo la seguridad y la eficiencia de costos. Al combinar la plataforma de observabilidad de Helicone con la infraestructura de Novita AI, los desarrolladores obtienen acceso a herramientas integrales para gestionar sus aplicaciones de IA durante todo el ciclo de vida de desarrollo.
Preguntas Frecuentes
¿El monitoreo de Helicone afectará el rendimiento de mis aplicaciones basadas en vLLM?
No, la integración está optimizada para funcionar sin problemas con el algoritmo PagedAttention de vLLM.
¿La integración es compatible con LLMs de código abierto?
Sí, la integración es totalmente compatible con LLMs de código abierto.
¿Puedo monitorear costos y uso de recursos en mi infraestructura de GPU?
Sí, puedes rastrear el uso de recursos y costos a través de Helicone mientras usas la infraestructura de GPU en la nube asequible y confiable de Novita AI.
Oferta por Tiempo Limitado
Novita AI ahora ofrece un Programa de Referidos que puede ser beneficioso para los usuarios de Helicone: Si alguien está interesado, los usuarios pueden compartir su enlace/código de invitación, y tanto ellos como sus referidos recibirán $20 en créditos para usar con las APIs de DeepSeek R1 y V3.
Acerca de Novita AI
Novita AI es una plataforma en la nube de IA que ofrece a los desarrolladores una manera fácil de implementar modelos de IA usando nuestra API simple, al mismo tiempo que proporciona una GPU en la nube asequible y confiable para construir y escalar.
