A Novita AI revolucionou a forma como os desenvolvedores interagem com diversas ferramentas de IA, incluindo o Helicone. O Helicone é bem conhecido por sua plataforma avançada de observabilidade voltada para desenvolvedores que trabalham com Modelos de Linguagem de Grande Escala (LLMs). Assim, essa integração poderosa oferece uma oportunidade transformadora para desenvolvedores que buscam uma plataforma de inferência simples, observabilidade robusta de LLM e soluções de monitoramento. Este artigo explora os recursos do Helicone, sua integração com a Novita AI e como os desenvolvedores podem se beneficiar dessa combinação poderosa.
O que é o Helicone?
O Helicone é uma plataforma completa de observabilidade para LLMs que permite aos desenvolvedores monitorar, depurar e melhorar aplicações de IA prontas para produção. A plataforma é especializada em fornecer soluções abrangentes de monitoramento com recursos de registro em tempo real, permitindo que os desenvolvedores analisem e otimizem suas aplicações de LLM em escala. O que torna o Helicone particularmente valioso é sua capacidade de se integrar em segundos com vários provedores e seu suporte para testar variações de prompt no tráfego de produção sem exigir modificações no código.
Principais Recursos e Funções
O Helicone oferece recursos essenciais para melhorar aplicações de LLM prontas para produção:
- Observabilidade Centralizada: O Helicone fornece uma plataforma robusta que captura e visualiza logs e métricas abrangentes em todas as implantações de modelos de linguagem de grande escala (LLMs).
- Otimização de Desempenho de LLM: O Helicone melhora o desempenho do LLM por meio de recursos que suportam experimentação de prompts, rastreamento de taxas de sucesso e facilitam o ajuste fino.
- Gerenciamento Flexível de Dados: Priorizando a privacidade dos dados, o Helicone oferece várias opções de implantação, incluindo instâncias dedicadas, integrações em nuvem híbrida e ambientes auto-hospedados.
- Flexibilidade de Implantação: O Helicone acomoda opções de implantação tanto em nuvem quanto on-premises, utilizando gráficos HELM prontos para produção para garantir máxima segurança.
- Segurança de Nível Empresarial: Este recurso possui certificação SOC2 e conformidade com HIPAA, garantindo o manuseio seguro de dados sensíveis e atendendo aos requisitos de segurança empresarial.
Configurando o AI Gateway do Helicone
Configurar o AI Gateway do Helicone requer apenas quatro etapas: criar uma conta, gerar uma chave de API, escolher seu método de integração preferido e enviar sua primeira solicitação.
Etapa 1: Criar uma Conta
- Depois de ter uma conta, prossiga para a próxima etapa.
Etapa 2: Gerar uma Chave de API
- Vá para Configurações: Clique na sua organização no canto superior esquerdo e selecione
<mark>Configurações</mark>no menu suspenso.
- Selecione a guia Chaves de API
- Gerar Nova Chave: Clique em
<mark>Gerar nova chave</mark>. Ao criar uma nova chave de API do Helicone, você pode ativar permissões deleituraeescrita. As chaves de escrita podem ser usadas através do Helicone via nosso proxy, feedback ou qualquer outro serviço do Helicone ao chamar<mark>POST</mark>ou usar nosso gateway.
Etapa 3: Escolha Seu Método de Integração Preferido
- Selecione o provedor que você está usando abaixo, pois a próxima instrução varia.
Etapa 4: Envie Sua Primeira Solicitação
-
Assim que recebermos suas solicitações, você as verá na guia
<mark>Solicitações</mark>. -
Você também verá que seu
<mark>Painel</mark>foi atualizado com sua nova solicitação.
Obtendo a Chave de API da Novita AI
Gerar a chave de API da Novita AI pode ser feito em três etapas: acessar a Novita AI e fazer login, gerenciar a chave de API LLM da Novita AI e adicionar crédito.
Etapa 1: Acesse a Novita AI e Faça Login
- Você pode fazer login na Novita AI com Google ou GitHub, o que criará uma nova conta no seu primeiro login. Alternativamente, você pode se registrar usando seu endereço de e-mail.
Etapa 2: Gerenciar a Chave de API LLM da Novita AI
A Novita AI protege o acesso à API por meio de autenticação Bearer, incluindo uma chave de API no cabeçalho da solicitação, como “Authorization: Bearer {Chave da API}”.
- Para gerenciar suas chaves, navegue até “Gerenciamento de Chaves” nas configurações. Uma chave padrão é gerada automaticamente no seu primeiro login.
- Você pode criar chaves adicionais clicando em “+ Adicionar Nova Chave”.
Etapa 3: Adicionar Crédito
- A Novita AI oferece aos novos usuários um voucher com algum crédito para testar nossos produtos. Para adicionar mais crédito, visite Faturamento e Pagamentos e siga o guia sobre Métodos de Pagamento.
Como Integrar a API da Novita AI com o Helicone
Integrar a Novita AI com o Helicone usando uma chave de API é um processo simples que envolve três etapas: fazer login em suas contas Novita AI e Helicone, definir HELICONE_API_KEY e NOVITA_API_KEY como variáveis de ambiente, modificar a URL base e adicionar cabeçalhos de autenticação.
Etapa 1: Faça Login em Sua Conta Novita AI e Conta Helicone
- Faça login na Novita AI ou crie uma conta. Depois de ter uma conta, você pode gerar uma chave de API a partir do seu painel.
- Faça login no Helicone ou crie uma conta. Depois de ter uma conta, você pode gerar uma chave de API.
Etapa 2: Defina HELICONE_API_KEY e NOVITA_API_KEY como Variáveis de Ambiente
HELICONE_API_KEY=<sua chave de API>
NOVITA_API_KEY=<sua chave de API>
Etapa 3: Modifique a URL Base e Adicione Cabeçalhos de Autenticação
-
Substitua a seguinte URL da Novita AI pela URL do Gateway do Helicone:
<mark>https://api.novita.ai</mark>-><mark>https://novita.helicone.ai</mark> -
Em seguida, adicione os seguintes cabeçalhos de autenticação:
Authorization: Bearer <sua chave de API>
Exemplo
- Agora você pode acessar todos os modelos da Novita AI com uma simples chamada fetch:
curl \
--header 'Authorization: Bearer <NOVITA_API_KEY>' \
--header 'Content-Type: application/json' \
--data '{
"model": "deepseek/deepseek-r1",
"messages": [
{
"role": "user",
"content": "Qual idioma é mais falado em Cingapura?"
}
]
}' \
--url https://novita.helicone.ai/v3/chat/completions
Links e Recursos Úteis
Para aprofundar seu entendimento e uso do AI Gateway do Helicone com a Novita AI, considere explorar esses recursos valiosos:
Conclusão
Integrar a API da Novita AI com o AI Gateway do Helicone oferece uma base sólida para implantar, monitorar e otimizar aplicações de LLM, mantendo a segurança e a eficiência de custos. Ao combinar a plataforma de observabilidade do Helicone com a infraestrutura da Novita AI, os desenvolvedores ganham acesso a ferramentas abrangentes para gerenciar suas aplicações de IA ao longo de todo o ciclo de vida de desenvolvimento.
Perguntas Frequentes
O monitoramento do Helicone afetará o desempenho das minhas aplicações com vLLM?
Não, a integração é otimizada para funcionar perfeitamente com o algoritmo PagedAttention do vLLM.
A integração é compatível com LLMs de código aberto?
Sim, a integração oferece suporte total a LLMs de código aberto.
Posso monitorar custos e utilização de recursos em minha infraestrutura de GPU?
Sim, você pode rastrear a utilização de recursos e custos através do Helicone enquanto utiliza a infraestrutura de nuvem de GPU acessível e confiável da Novita AI.
Oferta por Tempo Limitado
A Novita AI agora oferece um Programa de Indicação que pode ser um benefício para os usuários do Helicone: se alguém tiver interesse, os usuários podem compartilhar seu link/código de convite, e tanto eles quanto seus indicados receberão $20 em créditos para usar com as APIs DeepSeek R1 & V3.
Sobre a Novita AI
A Novita AI é uma plataforma de nuvem de IA que oferece aos desenvolvedores uma maneira fácil de implantar modelos de IA usando nossa API simples, além de fornecer uma nuvem de GPU acessível e confiável para construir e escalar.
