Novita AI a révolutionné la façon dont les développeurs interagissent avec divers outils d’IA, y compris Helicone. Helicone est réputé pour sa plateforme d’observabilité avancée conçue pour les développeurs travaillant avec de grands modèles de langage (LLM). Ainsi, cette intégration puissante offre une opportunité transformatrice pour les développeurs de rechercher une plateforme d’inférence simple, une observabilité robuste des LLM et des solutions de surveillance. Cet article explore les fonctionnalités d’Helicone, son intégration avec Novita AI et comment les développeurs peuvent bénéficier de cette combinaison puissante.
Qu’est-ce qu’Helicone ?
Helicone est une plateforme d’observabilité tout-en-un pour les LLM, destinée aux développeurs qui souhaitent surveiller, déboguer et améliorer leurs applications d’IA prêtes pour la production. La plateforme se spécialise dans la fourniture de solutions de surveillance complètes avec des capacités de journalisation en temps réel, permettant aux développeurs d’analyser et d’optimiser leurs applications LLM à grande échelle. Ce qui rend Helicone particulièrement précieux, c’est sa capacité à s’intégrer en quelques secondes avec plusieurs fournisseurs et son support pour tester des variations de prompts sur le trafic de production sans nécessiter de modifications de code.
Fonctionnalités clés et leurs rôles
Helicone propose des fonctionnalités clés pour améliorer les applications LLM prêtes pour la production :
- Observabilité centralisée : Helicone fournit une plateforme robuste qui capture et visualise les logs et métriques complets de tous les déploiements de grands modèles de langage (LLM).
- Optimisation des performances des LLM : Helicone améliore les performances des LLM grâce à des fonctionnalités qui soutiennent l’expérimentation de prompts, suivent les taux de réussite et facilitent le réglage fin.
- Gestion flexible des données : En priorisant la confidentialité des données, Helicone propose diverses options de déploiement, notamment des instances dédiées, des intégrations cloud hybrides et des environnements auto-hébergés.
- Flexibilité de déploiement : Helicone prend en charge les options de déploiement dans le cloud et sur site, en utilisant des chartes HELM prêtes pour la production pour garantir une sécurité maximale.
- Sécurité de niveau entreprise : Cette fonctionnalité comprend la certification SOC2 et la conformité HIPAA, garantissant la gestion sécurisée des données sensibles et répondant aux exigences de sécurité des entreprises.
Configuration de la passerelle AI Helicone
La configuration de la passerelle AI Helicone ne nécessite que quatre étapes : créer un compte, générer une clé API, choisir votre méthode d’intégration préférée et envoyer votre première requête.
Étape 1 : Créer un compte
- Une fois que vous avez un compte, passez à l’étape suivante.
Étape 2 : Générer une clé API
- Allez dans Paramètres : Cliquez sur votre organisation en haut à gauche, puis sélectionnez
<mark>Paramètres</mark>dans le menu déroulant.
- Sélectionnez l’onglet Clés API
- Générer une nouvelle clé : Cliquez sur
<mark>Générer une nouvelle clé</mark>. Lors de la création d’une nouvelle clé API Helicone, vous pouvez activer les autorisations<mark>lecture</mark>et<mark>écriture</mark>. Les clés d’écriture peuvent être utilisées via Helicone via notre proxy, les commentaires ou tout autre service Helicone lors d’appels<mark>POST</mark>ou via notre passerelle.
Étape 3 : Choisissez votre méthode d’intégration préférée
- Sélectionnez le fournisseur que vous utilisez ci-dessous, car les instructions suivantes varient.
Étape 4 : Envoyez votre première requête
-
Dès que nous recevons vos requêtes, vous les verrez dans l’onglet
<mark>Requêtes</mark>. -
Vous verrez également que votre
<mark>Tableau de bord</mark>a été mis à jour avec votre nouvelle requête.
Obtenir la clé API Novita AI
La génération de la clé API Novita AI peut être effectuée en trois étapes : accéder à Novita AI et se connecter, gérer la clé API LLM Novita AI et créditer le compte.
Étape 1 : Accédez à Novita AI et connectez-vous
- Vous pouvez vous connecter sur Novita AI avec Google ou GitHub, ce qui créera un nouveau compte lors de votre première connexion. Sinon, vous pouvez vous inscrire avec votre adresse e-mail.
Étape 2 : Gérer la clé API LLM Novita AI
Novita AI sécurise l’accès à l’API via une authentification Bearer en incluant une clé API dans l’en-tête de la requête, par exemple « Authorization: Bearer {Clé API} ».
- Pour gérer vos clés, accédez à « Gestion des clés » dans les paramètres. Une clé par défaut est automatiquement générée lors de votre première connexion.
- Vous pouvez créer des clés supplémentaires en cliquant sur « + Ajouter une nouvelle clé ».
Étape 3 : Créditer le compte
- Novita AI offre aux nouveaux utilisateurs un bon d’achat avec un certain crédit pour essayer nos produits. Pour ajouter plus de crédit, veuillez visiter Facturation et Paiements et suivre le guide sur les méthodes de paiement.
Comment intégrer l’API Novita AI avec Helicone
L’intégration de Novita AI avec Helicone à l’aide d’une clé API est un processus simple qui se déroule en trois étapes : vous connecter à votre compte Novita AI et Helicone, définir HELICONE_API_KEY et NOVITA_API_KEY comme variables d’environnement, modifier l’URL de base et ajouter les en-têtes d’authentification.
Étape 1 : Connectez-vous à votre compte Novita AI et à votre compte Helicone
- Connectez-vous à Novita AI ou créez un compte. Une fois que vous avez un compte, vous pouvez générer une clé API depuis votre tableau de bord.
- Connectez-vous à Helicone ou créez un compte. Une fois que vous avez un compte, vous pouvez générer une clé API.
Étape 2 : Définissez HELICONE_API_KEY et NOVITA_API_KEY comme variables d’environnement
HELICONE_API_KEY=<votre clé API>
NOVITA_API_KEY=<votre clé API>
Étape 3 : Modifiez l’URL de base et ajoutez les en-têtes d’authentification
-
Remplacez l’URL Novita AI suivante par l’URL de la passerelle Helicone :
<mark>https://api.novita.ai</mark>-><mark>https://novita.helicone.ai</mark> -
Ajoutez ensuite les en-têtes d’authentification suivants :
Authorization: Bearer <votre clé API>
Exemple
- Vous pouvez maintenant accéder à tous les modèles de Novita AI avec un simple appel fetch :
curl \
--header 'Authorization: Bearer <NOVITA_API_KEY>' \
--header 'Content-Type: application/json' \
--data '{
"model": "deepseek/deepseek-r1",
"messages": [
{
"role": "user",
"content": "Quelle langue est la plus parlée à Singapour ?"
}
]
}' \
--url https://novita.helicone.ai/v3/chat/completions
Liens et ressources utiles
Pour approfondir votre compréhension et votre utilisation de la passerelle AI Helicone avec Novita AI, explorez ces ressources précieuses :
Conclusion
L’intégration de l’API Novita AI avec la passerelle AI Helicone offre une base robuste pour déployer, surveiller et optimiser les applications LLM tout en maintenant la sécurité et l’efficacité des coûts. En combinant la plateforme d’observabilité d’Helicone avec l’infrastructure de Novita AI, les développeurs accèdent à des outils complets pour gérer leurs applications d’IA tout au long du cycle de développement.
Questions fréquemment posées
La surveillance d’Helicone affectera-t-elle les performances de mes applications basées sur vLLM ?
Non, l’intégration est optimisée pour fonctionner de manière transparente avec l’algorithme PagedAttention de vLLM.
L’intégration est-elle compatible avec les LLM open-source ?
Oui, l’intégration prend entièrement en charge les LLM open-source.
Puis-je surveiller les coûts et l’utilisation des ressources sur mon infrastructure GPU ?
Oui, vous pouvez suivre l’utilisation des ressources et les coûts via Helicone tout en utilisant l’infrastructure cloud GPU abordable et fiable de Novita AI.
Offre à durée limitée
Novita AI propose désormais un Programme de parrainage qui peut être bénéfique pour les utilisateurs d’Helicone : si quelqu’un est intéressé, les utilisateurs peuvent partager leur lien/code d’invitation, et eux-mêmes ainsi que leurs filleuls recevront 20 $ de crédit pour utiliser les API DeepSeek R1 & V3.
À propos de Novita AI
Novita AI est une plateforme cloud IA qui offre aux développeurs un moyen simple de déployer des modèles d’IA via notre API simple, tout en fournissant un cloud GPU abordable et fiable pour construire et mettre à l’échelle.
