Comment construire une API de chatbot avec Novita AI

Comment construire une API de chatbot avec Novita AI

Une API de chatbot sur Novita AI est généralement un workflow standard de complétions de chat compatible OpenAI : choisissez un identifiant de modèle, envoyez des messages à l’API et retournez la réponse de l’assistant depuis votre application. Si le bot a également besoin d’appeler des outils, d’écrire des fichiers ou d’exécuter du code, déplacez ce travail dans Agent Sandbox plutôt que de laisser l’API de chat toucher directement votre système hôte.

Points clés à retenir

  • Utilisez l’API de chat compatible OpenAI pour le trafic normal des chatbots.
  • Récupérez les identifiants de modèle depuis la liste des modèles en direct de Novita, pas à partir d’exemples de blog codés en dur.
  • Ajoutez l’appel de fonction uniquement lorsque le chatbot a besoin d’actions réelles.
  • Utilisez Agent Sandbox pour l’exécution d’outils, les exécutions de code et les effets de bord isolés.

Qu’est-ce qu’un workflow d’API de chatbot ?

Un workflow d’API de chatbot prend les messages des utilisateurs, les envoie à un point de terminaison de modèle et retourne la réponse de l’assistant à votre application. Sur Novita AI, cela signifie généralement utiliser le point de terminaison de complétions de chat compatible OpenAI avec un identifiant de modèle spécifique au fournisseur. Le flux est simple : authentifiez-vous, choisissez un modèle, envoyez des messages et affichez la réponse.

Quand devriez-vous utiliser Novita AI pour un chatbot ?

Utilisez Novita AI lorsque vous souhaitez un chatbot qui démarre rapidement mais qui peut encore évoluer vers l’utilisation d’outils, des tâches par lots ou une exécution isolée par la suite. C’est un bon choix si votre équipe connaît déjà les formats de requêtes de type OpenAI, souhaite changer de modèle sans réécrire l’application ou a besoin d’un chemin clair du chat textuel simple aux workflows d’agents.

Choisissez le bon chemin Novita

Option Idéal pour Pourquoi choisir Pourquoi éviter Source/date
Complétions de chat compatibles OpenAI Chatbots et assistants standard Le chemin le plus rapide vers une API fonctionnelle avec des SDK familiers Pas suffisant en soi si le bot doit exécuter du code ou toucher des fichiers Documentation de l’API LLM Novita, vérifiée le 2026-07-29
Point de terminaison de la liste des modèles en direct Sélection de modèle et recherche d’ID de modèle Permet de tirer l’ID exact du modèle avant la mise en production Pas un point de terminaison de chat en runtime Index de la documentation Novita et références API, vérifiée le 2026-07-29
Agent Sandbox Bots utilisant des outils et exécution de code Maintient les effets de bord isolés de l’application hôte Excessif pour un chat textuel simple Documentation Agent Sandbox Novita, vérifiée le 2026-07-29

Étape 1 : Définir les entrées et le format de sortie

Commencez par le contrat du chatbot. Décidez ce que l’application envoie, ce que le modèle retourne et si vous avez besoin de texte brut, de JSON ou d’appels de fonction. Pour la plupart des produits, l’entrée utilisateur est une courte liste de messages et la sortie est une réponse normale de l’assistant.

Étape 2 : Configurer la requête API Novita AI

Utilisez le SDK OpenAI avec l’URL de base de Novita. Remplacez l’ID du modèle par un ID de la liste des modèles en direct de Novita.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.novita.ai/openai",
    api_key=os.environ["NOVITA_API_KEY"],
)

response = client.chat.completions.create(
    model="<MODEL_ID_FROM_NOVITA>",
    messages=[
        {"role": "system", "content": "Vous êtes un chatbot d'assistance concis."},
        {"role": "user", "content": "Comment réinitialiser mon mot de passe de compte ?"},
    ],
)

print(response.choices[0].message.content)

Étape 3 : Exécuter la première requête API

Testez une courte invite avant d’ajouter la mémoire, la récupération ou les appels de fonction. Si la qualité de la réponse n’est pas bonne, corrigez l’invite système ou le choix du modèle avant de passer à l’échelle de l’intégration.

Étape 4 : Valider et améliorer le résultat

Vérifiez trois choses : la qualité des réponses, la latence et le comportement en cas d’échec. Si le bot doit répondre à partir de données produit, ajoutez la récupération. S’il doit effectuer des actions, ajoutez l’appel de fonction. S’il doit exécuter du code, déplacez cette exécution dans Agent Sandbox.

Étape 5 : Préparer la mise en production

Les chatbots de production nécessitent plus qu’une simple réponse fonctionnelle :

  • Limites de débit et nouvelles tentatives
  • Journalisation et traçage des requêtes
  • Versionnage des invites
  • Comportement de repli lorsque le modèle est lent ou indisponible
  • Une règle claire pour savoir quand le bot peut appeler des outils

Quand le bot doit-il utiliser Agent Sandbox ?

Utilisez Agent Sandbox lorsque le chatbot doit faire plus que parler. Cela inclut l’exécution de code, la modification de fichiers, le test de modifications, la navigation dans un workflow ou la gestion d’autres effets de bord qui doivent rester isolés de votre application principale.

La documentation d’Agent Sandbox de Novita décrit le sandbox comme un environnement d’exécution avec état, ce qui en fait un meilleur choix pour les étapes agentiques qu’un simple point de terminaison de chat.

Dépannage

Si le bot semble générique, resserrez l’invite système et utilisez un identifiant de modèle plus spécifique. Si le modèle retourne un format incorrect, imposez un schéma de sortie plus strict. Si les appels de fonction sont dangereux, déplacez l’action dans Agent Sandbox et gardez l’API de chat concentrée sur la planification.

FAQ

Quel identifiant de modèle dois-je utiliser ?

Utilisez l’identifiant de modèle retourné par le point de terminaison de la liste des modèles en direct de Novita pour votre tâche et votre compte cibles.

Puis-je utiliser le SDK OpenAI ?

Oui. L’API de chat de Novita est compatible OpenAI, donc la migration du SDK est principalement un changement d’URL de base et d’ID de modèle.

Quand ai-je besoin d’Agent Sandbox ?

Utilisez-le lorsque le chatbot a besoin d’une exécution isolée, pas seulement de génération de texte.

Articles recommandés