Points clés
- Avancées techniques : Développé par Nous Research avec Teknium et Emozilla, Hermes 13B est un modèle affiné sur une machine DGX 8x a100 80 Go, prenant en charge des tâches complexes avec une longueur de séquence de 4096.
- Jeu de données et entraînement : Entraîné sur plus de 300 000 sorties synthétiques de GPT-4, provenant de sources comme GPTeacher et des jeux de données de rôle, Hermes 13B excelle en fiabilité et en performance.
- Performance aux benchmarks : Classé n°1 sur ARC-c, ARC-e, Hellaswag et OpenBookQA, et n°2 sur Winogrande parmi les modèles GPT-4, démontrant des performances de benchmark supérieures.
- Fonctionnalités clés : Génération de réponses étendues, hallucination minimisée et capacités de discussion sans restriction, garantissant fiabilité et polyvalence.
- Applications pratiques : Soutien au tutorat IA, automatisation de la documentation technique, scénarisation, chatbots personnalisables, recherche académique, génération de contenu et narration interactive.
- Intégration API : S’intègre facilement avec Novita AI pour un accès transparent aux capacités d’Hermes 13B, simplifiant le développement et le déploiement.
- Optimisation et mises à jour : Conseils pour optimiser la qualité du jeu de données, la longueur de séquence et les paramètres du modèle afin de maximiser les performances, en insistant sur l’importance de se tenir informé des dernières avancées.
Introduction
Curieux des capacités d’Hermes 13B, la dernière merveille de Nous Research ? Vous vous demandez comment il se compare à ses prédécesseurs ? Rejoignez-nous pour plonger dans les détails de Hermes 13B, explorant ses spécifications techniques, les informations sur ses données d’entraînement, ses applications pratiques et la configuration de son API. Découvrons les réponses à ces questions et bien plus.
Comprendre Hermes 13B
Aperçu
Hermes 13B, ou Nous-Hermes-Llama2–13b, est un modèle de langage sophistiqué développé par Nous Research, avec des contributions significatives de Teknium et Emozilla pour l’affinage et la curation du jeu de données. Ce modèle a été affiné sur un vaste jeu de données de plus de 300 000 instructions, visant à améliorer les capacités par rapport à son prédécesseur, Hermes sur Llama-1.
Spécifications techniques
Le processus d’affinage a utilisé une longueur de séquence de 4096, indiquant la capacité du modèle à traiter des entrées complexes et longues. L’entraînement a été effectué sur une machine DGX 8x a100 80 Go, montrant les ressources de calcul substantielles investies dans son développement.
Données d’entraînement
Le modèle a été principalement entraîné sur des sorties synthétiques de GPT-4, garantissant une rétention de connaissances de haute qualité et une exécution des tâches. Le jeu de données est une collection curated provenant de diverses sources, notamment GPTeacher, des jeux de données de rôle, des jeux de données d’instructions de code, et des documents inédits comme Nous Instruct & PDACTL.
Collaboration et reconnaissance
Le développement du modèle a été un effort collaboratif impliquant plusieurs contributeurs et organisations clés (Teknium, Karan4D, Nous Research, Huemin Art et Redmond AI), avec des remerciements particuliers à Redmond AI pour avoir sponsorisé les ressources de calcul.
Invite et interaction
Le modèle respecte le format d’invite Alpaca, permettant aux utilisateurs d’interagir avec lui via des instructions structurées et des sections de réponse.
Benchmarks de performance
Le modèle a été évalué sur divers benchmarks, dont AGI-Eval, GPT-4All Benchmark Set et BigBench Reasoning Test. Hermes 13B est actuellement classé n°1 sur ARC-c, ARC-e, Hellaswag et OpenBookQA, et classé n°2 sur Winogrande, par rapport à la liste de benchmarking de GPT4all.
Fonctionnalités et capacités clés
Génération améliorée de réponses longues
Le modèle est affiné pour produire des réponses étendues et détaillées. Cette capacité est particulièrement utile pour les tâches nécessitant des réponses complètes, comme l’écriture, la synthèse et les explications approfondies.
Taux d’hallucination réduit
« Hallucination » dans le contexte des modèles de langage fait référence à la génération d’informations plausibles mais factuellement incorrectes. Le modèle Hermes-Llama2–13b a été affiné pour minimiser cela, garantissant des réponses plus fiables et précises.
Absence de mécanismes de censure
Contrairement à certains modèles qui intègrent une censure du contenu, Hermes-Llama2–13b n’a pas de restrictions intégrées sur les sujets qu’il peut aborder. Cela permet un dialogue plus ouvert et réduit la probabilité que le modèle évite certains sujets.
Utilisation d’un jeu de données de haute qualité
Le modèle a été entraîné sur un jeu de données curated dérivé de sorties synthétiques de haute qualité de GPT-4, assurant une base solide en connaissances et en exécution des tâches. La diversité du jeu de données contribue à la polyvalence et à l’efficacité du modèle dans divers domaines.
Applications pratiques d’Hermes 13B
Développement d’un système de tutorat IA
Développez une plateforme d’apprentissage en ligne personnalisée qui exploite Hermes 13B pour générer des plans de cours dynamiques et interactifs et fournir des explications détaillées adaptées aux besoins individuels des apprenants.
Automatisation de la documentation technique
Créez des outils qui automatisent la génération de documentation technique, comme les docs API, les diagrammes d’architecture système et les guides utilisateur, en utilisant la compréhension des concepts techniques complexes d’Hermes 13B.
API de scénarisation pour les industries créatives
Construisez un service API pour les scénaristes qui utilise Hermes 13B pour générer des dialogues, des résumés d’intrigue et des descriptions de personnages pour divers formats médiatiques, améliorant les flux de travail créatifs.
Cadre de chatbot personnalisable
Concevez un cadre pour construire des chatbots de service client facilement personnalisables grâce aux capacités de dialogue IA d’Hermes 13B, permettant des interactions spécifiques à un domaine.
Assistant de rédaction et de recherche académique
Implémentez un assistant IA pour les chercheurs qui utilise Hermes 13B pour rédiger des articles académiques, générer des revues de littérature et suggérer des directions de recherche basées sur des travaux universitaires existants.
Moteur de synthèse de connaissances
Développez un système qui synthétise des informations de divers domaines, créant des rapports complets ou fournissant des perspectives interdisciplinaires en utilisant la capacité d’Hermes 13B à comprendre et intégrer des sujets divers.
Générateur de contenu marketing numérique
Créez un outil de génération de contenu pour les spécialistes du marketing qui exploite Hermes 13B pour produire des supports marketing engageants, des publications sur les réseaux sociaux et des textes publicitaires conformes aux directives de la marque.
Plateforme de narration interactive
Développez une plateforme de narration interactive pour les jeux ou autres médias, où Hermes 13B peut élaborer des récits ramifiés et des interactions de personnages en fonction des choix des utilisateurs.
Configuration de l’API LLM Hermes 13B
Étape 1 : Créer un compte
Accédez au site Web Novita AI et cliquez sur le bouton « Log In » dans le menu supérieur. Actuellement, vous pouvez vous connecter avec votre compte Google ou GitHub. Après la connexion, vous recevrez 0,5 $ de crédits gratuitement !
Étape 2 : Générer une clé API
Pour vous authentifier avec l’API, incluez un jeton Bearer dans l’en-tête de la requête (par exemple, -H « Authorization: Bearer *** »). Nous vous fournirons une nouvelle clé API.
Vous pouvez également créer votre propre clé en sélectionnant « Add new key ».
Étape 3 : Exécuter un appel API
Avec seulement quelques lignes de code, vous pouvez effectuer un appel API et utiliser les capacités d’Hermes 13B et d’autres modèles avancés :
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
# Obtenez la clé API Novita AI en vous référant à : https://novita.ai/get-started/Quick_Start.html#_3-create-an-api-key
api_key="<VOTRE_CLÉ_API_NOVITA_AI>",
)
model = "nousresearch/nous-hermes-llama2-13b"
completion_res = client.completions.create(
model=model,
prompt="A chat between a curious user and an artificial intelligence assistant".
stream = True, # or False
max_tokens = 512,
)
Modèles similaires à Hermes 13B
Mythomax-l2–13b sur Novita AI
Le concept derrière Mythomax-l2–13b est que chaque couche est constituée de plusieurs tenseurs, chacun chargé de fonctions spécifiques. En exploitant les capacités de compréhension solides de MythoLogic-L2 comme entrée et les compétences d’écriture étendues de Huginn comme sortie, le modèle résultant excelle dans les deux domaines.
Hermes-2-pro-llama-3–8b sur Novita AI
Hermes 2 Pro est une itération améliorée et ré-entraînée de Nous Hermes 2. Il comprend une version mise à jour et affinée du jeu de données OpenHermes 2.5, ainsi qu’un nouveau jeu de données d’appel de fonctions et de mode JSON développé en interne.
Openhermes-2.5-mistral-7b sur Novita AI
OpenHermes 2.5 Mistral 7B est un affinage de pointe de Mistral, une continuation du modèle OpenHermes 2, entraîné sur des jeux de données de code supplémentaires.
Maximiser les performances du modèle
Pour tirer le meilleur parti d’Hermes 13B, il est vraiment important de savoir comment le paramétrer correctement. Voici quelques conseils qui peuvent vous aider à briller :
Garantir un jeu de données de haute qualité et diversifié
Assurez-vous que votre jeu de données est varié et de première qualité pour les besoins d’affinage. Incluez des instructions provenant de divers domaines afin que le modèle s’améliore dans la compréhension et la génération de réponses.
Optimiser la longueur de séquence
En ce qui concerne la longueur de séquence, essayez de rester en dessous de 2000 pour de meilleurs résultats. N’hésitez pas à tester différentes longueurs ; cela pourrait vous aider à trouver un équilibre optimal entre les performances et la longueur des réponses.
Ajuster les paramètres du modèle
Pour les paramètres du modèle, ajustez-les en fonction de vos besoins spécifiques. Modifiez des réglages comme la température et la pénalité de répétition pour affiner les niveaux de créativité et la cohérence des réponses.
Rester à jour
Concernant les mises à jour : restez toujours informé des dernières versions d’Hermes 13B en vérifiant régulièrement les nouvelles versions ou correctifs qui pourraient encore améliorer les performances.
En gardant ces conseils à l’esprit et en améliorant constamment votre approche de l’affinage, il devient possible d’exploiter chaque once de potentiel d’Hermes 13B pour des tâches d’IA sophistiquées.
Conclusion
En conclusion, Hermes 13B, développé par Nous Research en collaboration avec d’autres, représente un bond en avant significatif dans les modèles de langage IA.
Nous avons exploré ses spécifications techniques robustes, notamment sa capacité à traiter de longues entrées et les ressources de calcul considérables derrière son affinage. L’entraînement du modèle sur un jeu de données curated de sorties synthétiques de GPT-4 garantit des performances de haute qualité dans divers domaines, reflétées par ses meilleurs classements dans de nombreux benchmarks. De plus, ses applications vont des systèmes de tutorat IA à la génération de contenu marketing numérique, montrant sa polyvalence et son utilité réelle.
Alors que vous envisagez d’exploiter Hermes 13B pour vos propres projets, rappelez-vous l’importance d’optimiser la qualité du jeu de données, la longueur de séquence et les paramètres du modèle pour maximiser son potentiel. Restez informé des dernières avancées pour améliorer continuellement ses performances.
Foire aux questions
1. Quelles sont les différences entre Hermes 13B et les versions précédentes ?
Premièrement, Hermes 13B a une meilleure capacité à produire des réponses longues. Deuxièmement, vous remarquerez qu’il invente moins (hallucine) souvent. Troisièmement, il n’a pas ces règles OpenAI limitant ce qu’il peut dire ou faire. De plus, dans toutes sortes de tâches linguistiques, il performe mieux. Enfin, ils l’ont entraîné sur un mélange de données encore plus vaste cette fois.
2. Comment télécharger Hermes 13B ?
Vous pouvez télécharger gratuitement le modèle Hermes 13B sur Hugging Face.
Novita AI est la plateforme cloud tout-en-un qui alimente vos ambitions IA. Avec des API intégrées de manière transparente, du calcul sans serveur et une accélération GPU, nous fournissons les outils rentables dont vous avez besoin pour construire et faire évoluer rapidement votre entreprise pilotée par l’IA. Éliminez les maux de tête liés à l’infrastructure et commencez gratuitement — Novita AI concrétise vos rêves IA.
Lecture recommandée
Présentation d’Openhermes 2.5 : Comprendre la puissance du messager des dieux
