Cómo crear una API de chatbot con Novita AI

Una API de chatbot en Novita AI suele ser un flujo estándar de finalizaciones de chat compatible con OpenAI: elige un ID de modelo, envía mensajes a la API y devuelve la respuesta del asistente desde tu aplicación. Si el bot también necesita llamar herramientas, escribir archivos o ejecutar código, mueve ese trabajo a Agent Sandbox en lugar de permitir que la API de chat toque directamente tu sistema host.

Puntos clave

• Usa la API de chat compatible con OpenAI para el tráfico normal de chatbot.
• Obtén los IDs de modelo desde la lista de modelos en vivo de Novita, no de ejemplos fijos en el blog.
• Añade llamadas a funciones solo cuando el chatbot necesite acciones reales.
• Usa Agent Sandbox para ejecución de herramientas, ejecución de código y efectos secundarios aislados.

¿Qué es un flujo de trabajo de API de chatbot?

Un flujo de trabajo de API de chatbot toma los mensajes del usuario, los envía a un endpoint de modelo y devuelve la respuesta del asistente a tu aplicación. En Novita AI, esto suele significar usar el endpoint de finalizaciones de chat compatible con OpenAI con un ID de modelo específico del proveedor. El flujo es simple: autentícate, elige un modelo, envía mensajes y renderiza la respuesta.

¿Cuándo deberías usar Novita AI para un chatbot?

Usa Novita AI cuando quieras un chatbot que comience rápido pero que aún pueda crecer hacia el uso de herramientas, trabajos por lotes o ejecución aislada más adelante. Es una buena opción si tu equipo ya conoce los formatos de solicitud estilo OpenAI, quiere cambiar de modelo sin reescribir la aplicación o necesita una ruta clara desde el chat de solo texto hasta los flujos de trabajo de agentes.

Elige la ruta correcta de Novita

Opción	Mejor para	Por qué elegirla	Por qué evitarla	Fuente/fecha
Finalizaciones de chat compatibles con OpenAI	Chatbots y asistentes estándar	La ruta más rápida hacia una API funcional con SDK conocidos	No es suficiente por sí sola si el bot debe ejecutar código o tocar archivos	Documentación de la API LLM de Novita, consultada el 2026-07-29
Endpoint de lista de modelos en vivo	Selección de modelos y consulta de ID de modelo	Te permite obtener el ID de modelo exacto antes de publicar	No es un endpoint de chat en tiempo de ejecución	Índice de documentación y referencias de API de Novita, consultado el 2026-07-29
Agent Sandbox	Bots que usan herramientas y ejecución de código	Mantiene los efectos secundarios aislados de la aplicación host	Excesivo para chat de texto simple	Documentación de Agent Sandbox de Novita, consultada el 2026-07-29

Paso 1: Define las entradas y el formato de salida

Comienza con el contrato del chatbot. Decide qué envía la aplicación, qué devuelve el modelo y si necesitas texto simple, JSON o llamadas a herramientas. Para la mayoría de los productos, la entrada del usuario es una lista corta de mensajes y la salida es una respuesta normal del asistente.

Paso 2: Configura la solicitud a la API de Novita AI

Usa el SDK de OpenAI con la URL base de Novita. Reemplaza el ID de modelo con uno de la lista de modelos en vivo de Novita.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.novita.ai/openai",
    api_key=os.environ["NOVITA_API_KEY"],
)

response = client.chat.completions.create(
    model="<MODEL_ID_FROM_NOVITA>",
    messages=[
        {"role": "system", "content": "You are a concise support chatbot."},
        {"role": "user", "content": "How do I reset my account password?"},
    ],
)

print(response.choices[0].message.content)

Paso 3: Ejecuta la primera solicitud a la API

Prueba un prompt corto antes de añadir memoria, recuperación o llamadas a herramientas. Si la calidad de la respuesta no es la correcta, corrige el prompt del sistema o la elección del modelo antes de escalar la integración.

Paso 4: Valida y mejora el resultado

Revisa tres cosas: calidad de la respuesta, latencia y comportamiento ante fallos. Si el bot debe responder a partir de datos del producto, añade recuperación. Si debe tomar acciones, añade llamadas a funciones. Si debe ejecutar código, mueve esa ejecución a Agent Sandbox.

Paso 5: Prepárate para producción

Los chatbots en producción necesitan más que una respuesta funcional:

• Límites de velocidad y reintentos
• Registro y trazabilidad de solicitudes
• Versionado de prompts
• Comportamiento de respaldo cuando el modelo es lento o no está disponible
• Una regla clara sobre cuándo el bot puede llamar herramientas

¿Cuándo debería el bot usar Agent Sandbox?

Usa Agent Sandbox cuando el chatbot deba hacer algo más que hablar. Esto incluye ejecutar código, editar archivos, probar cambios, navegar por un flujo de trabajo o manejar otros efectos secundarios que deban permanecer aislados de tu aplicación principal.

La documentación de Agent Sandbox de Novita describe el sandbox como un entorno de ejecución con estado, lo que lo hace más adecuado para pasos de agente que un endpoint de chat simple.

Solución de problemas

Si el bot se siente genérico, ajusta el prompt del sistema y usa un ID de modelo más específico. Si el modelo devuelve un formato incorrecto, aplica un esquema de salida más estricto. Si las llamadas a herramientas no son seguras, mueve la acción a Agent Sandbox y mantén la API de chat enfocada en la planificación.

Preguntas frecuentes

¿Qué ID de modelo debo usar?

Usa el ID de modelo devuelto por el endpoint de lista de modelos en vivo de Novita para tu tarea y cuenta objetivo.

¿Puedo usar el SDK de OpenAI?

Sí. La API de chat de Novita es compatible con OpenAI, por lo que la migración del SDK consiste principalmente en cambiar la URL base y el ID de modelo.

¿Cuándo necesito Agent Sandbox?

Úsalo cuando el chatbot necesite ejecución aislada, no solo generación de texto.

Artículos recomendados

• Cómo funciona la llamada a funciones en DeepSeek V3
• ¿Qué son los agentes de código? Cómo funcionan y cómo crear uno
• Opciones de sandbox de agentes de IA de código abierto: qué verificar antes de autoalojar