Como Construir uma API de Chatbot com Novita AI

Como Construir uma API de Chatbot com Novita AI

Uma API de chatbot no Novita AI geralmente segue um fluxo de trabalho padrão de conclusões de chat compatível com OpenAI: escolha um ID de modelo, envie mensagens para a API e retorne a resposta do assistente a partir do seu aplicativo. Se o bot também precisar chamar ferramentas, escrever arquivos ou executar código, mova esse trabalho para o Agent Sandbox, em vez de deixar a API de chat acessar diretamente seu sistema host.

Principais Conclusões

  • Use a API de chat compatível com OpenAI para tráfego normal de chatbot.
  • Obtenha os IDs de modelo da lista de modelos ativos do Novita, não de exemplos fixos em blog.
  • Adicione chamadas de função apenas quando o chatbot precisar de ações reais.
  • Use o Agent Sandbox para execução de ferramentas, execução de código e efeitos colaterais isolados.

O Que é um Fluxo de Trabalho de API de Chatbot?

Um fluxo de trabalho de API de chatbot pega as mensagens do usuário, envia-as para um endpoint de modelo e retorna a resposta do assistente para seu aplicativo. No Novita AI, isso geralmente significa usar o endpoint de conclusões de chat compatível com OpenAI com um ID de modelo específico do provedor. O fluxo é simples: autentique, escolha um modelo, envie mensagens e renderize a resposta.

Quando Você Deve Usar o Novita AI para um Chatbot?

Use o Novita AI quando quiser um chatbot que comece rápido, mas que ainda possa crescer para uso de ferramentas, trabalhos em lote ou execução isolada posteriormente. É uma boa escolha se sua equipe já conhece os formatos de requisição no estilo OpenAI, quiser trocar de modelos sem reescrever o aplicativo ou precisar de um caminho limpo do chat apenas textual para fluxos de trabalho com agentes.

Escolha o Caminho Certo no Novita

Opção Melhor para Por que escolher Por que evitar Fonte/data
Conclusões de chat compatíveis com OpenAI Chatbots e assistentes padrão Caminho mais rápido para uma API funcional com SDKs familiares Não é suficiente por si só se o bot precisar executar código ou tocar em arquivos Documentação da API LLM Novita, verificada em 2026-07-29
Endpoint de lista de modelos ativos Seleção de modelo e consulta de ID de modelo Permite obter o ID exato do modelo antes de implementar Não é um endpoint de chat em tempo de execução Índice da documentação Novita e referências da API, verificada em 2026-07-29
Agent Sandbox Bots que usam ferramentas e execução de código Mantém os efeitos colaterais isolados do aplicativo host Exagero para chat de texto simples Documentação do Agent Sandbox Novita, verificada em 2026-07-29

Etapa 1: Defina as Entradas e o Formato de Saída

Comece com o contrato do chatbot. Decida o que o aplicativo envia, o que o modelo retorna e se você precisa de texto simples, JSON ou chamadas de função. Para a maioria dos produtos, a entrada do usuário é uma lista curta de mensagens e a saída é uma resposta normal do assistente.

Etapa 2: Configure a Requisição da API do Novita AI

Use o SDK da OpenAI com a URL base do Novita. Substitua o ID do modelo por um da lista de modelos ativos do Novita.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.novita.ai/openai",
    api_key=os.environ["NOVITA_API_KEY"],
)

response = client.chat.completions.create(
    model="<MODEL_ID_FROM_NOVITA>",
    messages=[
        {"role": "system", "content": "You are a concise support chatbot."},
        {"role": "user", "content": "How do I reset my account password?"},
    ],
)

print(response.choices[0].message.content)

Etapa 3: Execute a Primeira Requisição da API

Teste um prompt curto antes de adicionar memória, recuperação ou chamadas de função. Se a qualidade da resposta estiver errada, corrija o prompt do sistema ou a escolha do modelo antes de escalar a integração.

Etapa 4: Valide e Melhore o Resultado

Verifique três coisas: qualidade da resposta, latência e comportamento em caso de falha. Se o bot deve responder com base em dados do produto, adicione recuperação. Se deve realizar ações, adicione chamadas de função. Se deve executar código, mova essa execução para o Agent Sandbox.

Etapa 5: Prepare-se para Produção

Chatbots em produção precisam de mais do que uma resposta funcional:

  • Limites de taxa e tentativas novamente
  • Registros e rastreamento de requisições
  • Versionamento de prompts
  • Comportamento de fallback quando o modelo está lento ou indisponível
  • Uma regra clara sobre quando o bot pode chamar ferramentas

Quando o Bot Deve Usar o Agent Sandbox?

Use o Agent Sandbox quando o chatbot precisar fazer mais do que apenas conversar. Isso inclui executar código, editar arquivos, testar alterações, navegar por um fluxo de trabalho ou lidar com outros efeitos colaterais que devem permanecer isolados do seu aplicativo principal.

A documentação do Agent Sandbox da Novita descreve o sandbox como um ambiente de execução com estado, o que o torna uma escolha melhor para etapas com agentes do que um endpoint de chat simples.

Solução de Problemas

Se o bot parecer genérico, ajuste o prompt do sistema e use um ID de modelo mais específico. Se o modelo retornar o formato errado, imponha um esquema de saída mais rigoroso. Se as chamadas de função forem inseguras, mova a ação para o Agent Sandbox e mantenha a API de chat focada no planejamento.

Perguntas Frequentes

Qual ID de modelo devo usar?

Use o ID de modelo retornado pelo endpoint de lista de modelos ativos do Novita para sua tarefa e conta alvo.

Posso usar o SDK da OpenAI?

Sim. A API de chat do Novita é compatível com OpenAI, então a migração do SDK é basicamente uma mudança de URL base e ID de modelo.

Quando preciso do Agent Sandbox?

Use-o quando o chatbot precisar de execução isolada, não apenas geração de texto.

Artigos Recomendados