Présentation d'OpenHermes 2.5 : Comprendre la puissance du Messager des Dieux

Introduction

Bienvenue dans notre exploration d’OpenHermes 2.5, un jeu de données révolutionnaire développé par Teknium. Ce blog plonge dans les fonctionnalités, applications et avancées de cette extension de modèle de pointe.

Qu’est-ce qu’OpenHermes 2.5 ?

Contexte de base d’OpenHermes 2.5

Développé par Teknium, OpenHermes 2.5 est une extension et une amélioration du jeu de données Open Hermes 1. Il se caractérise par une échelle beaucoup plus grande, une plus grande diversité et une qualité supérieure, avec une compilation de plus d’un million d’échantillons d’instructions et de chat générés synthétiquement.

Principales caractéristiques d’OpenHermes 2.5

• C’est une compilation de divers jeux de données open source et de jeux de données synthétiques créés sur mesure.
• Le jeu de données a été intégré à Lilac, une plateforme de curation et d’exploration de données, et est disponible sur HuggingFace pour l’exploration, la curation et les recherches d’embedding de texte.
• OpenHermes 2.5 comprend des contributions de multiples sources, telles que Airoboros 2.2, CamelAI Domain Expert Datasets, ChatBot Arena, Collective Cognition, et d’autres, chacune apportant un ensemble unique de données qui enrichit l’ensemble du jeu de données.
• La structure d’OpenHermes 2.5 suit un format sharegpt, qui est une liste de dictionnaires. Chaque entrée comprend une liste “conversations” avec des dictionnaires pour chaque tour, indiquant le rôle (par exemple, “system”, “human”, “gpt”) et la valeur textuelle de la conversation.

Sources du jeu de données d’OpenHermes 2.5

OpenHermes 2.5 intègre des données provenant d’un large éventail de sources, chacune contribuant à la complétude et à l’utilité du jeu de données pour l’entraînement des LLM. Parmi les sources notables :

• Airoboros 2.2 : Un jeu de données de Jon Durbin.
• CamelAI Domain Expert Datasets : Couvrant la physique, les mathématiques, la chimie et la biologie.
• ChatBot Arena : Un jeu de données spécifique à GPT-4.
• Collective Cognition : Un jeu de données de Teknium.
• Glaive Code Assistant : Un jeu de données visant à améliorer les compétences en codage.
• GPTeacher : Une collection de jeux de données modulaires pour l’entraînement des LLM.
• SlimOrca 550K : Un jeu de données contribuant aux efforts de réplication d’Orca.

Qu’est-ce qu’OpenHermes-2.5-Mistral-7B ?

Explication

• Suite d’OpenHermes 2 : OpenHermes 2.5 Mistral 7B est un fine-tuning Mistral de pointe. Il s’appuie sur le modèle précédent OpenHermes 2, indiquant une progression dans son développement et ses capacités.
• Entraînement sur des jeux de données de code : Une partie importante des données d’entraînement (estimée entre 7 et 14 % de l’ensemble du jeu de données) est constituée d’instructions de code. Cet entraînement sur le code a eu un impact positif sur les performances du modèle.
• Données d’entraînement : OpenHermes 2.5 a été entraîné sur 1 million d’entrées, principalement générées par GPT-4, ainsi que d’autres données de haute qualité provenant de divers jeux de données ouverts dans le paysage de l’IA. Cette diversité des données d’entraînement contribue probablement aux larges capacités du modèle.
• Filtrage des données et conversion de format : Un filtrage approfondi a été appliqué aux jeux de données publics utilisés pour l’entraînement. Tous les formats de données ont été convertis en ShareGPT, qui a ensuite été transformé par axolotl pour utiliser ChatML. Ce processus de standardisation et de transformation assure la cohérence des données d’entraînement et peut contribuer à l’amélioration des performances du modèle.

Performances de référence d’OpenHermes-2.5-Mistral-7B

• TruthfulQA, AGIEval et GPT4All Suite : Le modèle a vu une augmentation de ses performances sur ces benchmarks non liés au code, suggérant que l’entraînement sur des jeux de données de code s’est bien généralisé à d’autres domaines.
• BigBench : Fait intéressant, bien que le score du modèle sur le benchmark BigBench ait diminué, le gain net global en performance sur les autres benchmarks reste significatif, indiquant une amélioration des capacités du modèle.

• Amélioration du score Humaneval : La performance du modèle sur le benchmark humaneval, qui mesure la capacité du modèle à effectuer des évaluations de type humain, est passée de 43 % à Pass 1 avec Open Hermes 2 à 50,7 % à Pass 1 avec OpenHermes 2.5. Il s’agit d’une augmentation substantielle qui reflète la capacité accrue du modèle à générer des réponses plus humaines.

Quelles sont les applications pratiques d’OpenHermes-2.5-Mistral-7B dans l’industrie ?

En tant que développeurs, vous êtes à l’avant-garde de l’innovation, cherchant constamment des outils capables d’améliorer la productivité et de créer des expériences utilisateur engageantes. OpenHermes 2.5 Mistral 7B, avec ses capacités avancées, ouvre un champ de possibilités dans divers domaines. Explorons quelques applications pratiques qui peuvent bénéficier de ce modèle de pointe.

Chat compagnon IA

Interaction utilisateur améliorée : La maîtrise d’OpenHermes 2.5 Mistral 7B en compréhension et génération de langage naturel en fait un candidat idéal pour développer des chats compagnons IA. Que ce soit pour des bots de service client, des assistants virtuels ou des personnages interactifs dans les jeux, ce modèle peut fournir des conversations plus nuancées et plus humaines.

Personnalisation : En tirant parti de la capacité du modèle à comprendre le contexte et à générer des réponses pertinentes, les développeurs peuvent créer des expériences de chat personnalisées qui s’adaptent aux préférences et besoins individuels des utilisateurs.

Support multilingue : Avec une formation et une adaptation supplémentaires, OpenHermes 2.5 Mistral 7B peut être étendu pour prendre en charge plusieurs langues, ouvrant ainsi des marchés mondiaux pour les applications de chat compagnon.

Génération de romans IA

Écriture créative : La force du modèle dans la génération de texte de type humain en fait un outil puissant pour la génération de romans IA. Les développeurs peuvent utiliser cette capacité pour créer des intrigues, des personnages et des dialogues uniques pour des livres, des scripts ou des récits interactifs.

Création de contenu automatisée : Pour les créateurs de contenu et les spécialistes du marketing numérique, OpenHermes 2.5 Mistral 7B peut automatiser la génération de billets de blog, d’articles ou de contenu pour les réseaux sociaux engageants, économisant du temps et des ressources tout en maintenant un haut niveau de qualité.

Narration interactive : Dans l’industrie du jeu vidéo, ce modèle peut être la colonne vertébrale d’expériences de narration interactives où le récit s’adapte en temps réel aux choix du joueur, créant un environnement profondément immersif.

Résumé IA

Traitement efficace de l’information : Les capacités de résumé d’OpenHermes 2.5 Mistral 7B sont inestimables pour traiter de grands volumes de texte et extraire les points clés. Cela peut être appliqué à l’agrégation de nouvelles, à la recherche ou à l’intelligence d’affaires pour fournir des résumés concis de longs documents.

Analyse de données : Dans le domaine de l’analyse de données et du reporting, ce modèle peut synthétiser des informations à partir d’ensembles de données complexes et les présenter dans un format facilement digestible, facilitant les processus de prise de décision.

Outils éducatifs : Pour les applications éducatives, le résumé alimenté par l’IA peut aider les étudiants et les chercheurs en fournissant des résumés d’articles académiques, de livres ou de notes de cours, facilitant un apprentissage plus rapide et plus efficace.

En tant que développeurs, vous serez probablement intéressés par la façon d’intégrer OpenHermes 2.5 Mistral 7B dans vos projets. La section suivante vous propose deux moyens d’accéder à OpenHermes 2.5 Mistral 7B.

Comment accéder à OpenHermes-2.5-Mistral-7B ?

Comment télécharger et utiliser ce modèle dans text-generation-webui ?

1. Mettez à jour vers la dernière version : Assurez-vous d’utiliser la version la plus récente de text-generation-webui.
2. Utilisez les installateurs en un clic : Il est fortement recommandé d’utiliser les installateurs en un clic pour text-generation-webui, sauf si vous êtes confiant dans une installation manuelle.
3. Naviguez jusqu’à l’onglet Model : Cliquez sur l’onglet “Model” dans l’interface.
4. Entrez les détails du modèle : Dans la section de téléchargement d’un modèle personnalisé ou LoRA, tapez TheBloke/OpenHermes-2.5-Mistral-7B-GPTQ. Si vous souhaitez télécharger à partir d’une branche spécifique, par exemple TheBloke/OpenHermes-2.5-Mistral-7B-GPTQ:gptq-4bit-32g-actorder_True, référez-vous à la liste des branches fournie ci-dessus pour chaque option.
5. Lancez le téléchargement : Cliquez sur le bouton “Download” pour démarrer le processus de téléchargement du modèle. Une fois terminé, vous verrez le statut passer à “Done”.
6. Rafraîchissez la liste des modèles : Cliquez sur l’icône de rafraîchissement en haut à gauche pour mettre à jour la liste des modèles disponibles.
7. Sélectionnez le modèle téléchargé : Dans le menu déroulant Model, choisissez le modèle que vous venez de télécharger : OpenHermes-2.5-Mistral-7B-GPTQ.
8. Chargez le modèle : Le modèle se chargera automatiquement et sera prêt à être utilisé.
9. Paramètres personnalisés (si nécessaire) : Si vous avez des paramètres personnalisés à appliquer, configurez-les puis cliquez sur “Save settings for this model”, suivi de “Reload the Model” dans le coin supérieur droit.
10. Remarque sur les paramètres GPTQ : Vous n’avez plus besoin de définir manuellement les paramètres GPTQ. Ils sont désormais automatiquement configurés à partir du fichier quantize_config.json.
11. Commencez la génération de texte : Une fois tout configuré, cliquez sur l’onglet “Text Generation”, entrez votre prompt, et commencez à générer du texte !

Vous pouvez trouver tous les fichiers nécessaires auprès de TheBloke sur Hugging Face. En suivant ces étapes, vous pouvez facilement télécharger et utiliser le modèle OpenHermes-2.5-Mistral-7B-GPTQ dans text-generation-webui.

Comment utiliser OpenHermes-2.5-Mistral-7B sur Novita AI ?

Si vous trouvez fastidieux de télécharger et d’utiliser OpenHermes-2.5-Mistral-7B dans text-generation-webui, vous pouvez y accéder en utilisant l’API LLM de Novita AI, qui est équipée d’OpenHermes-2.5-Mistral-7B et d’autres modèles puissants récents tels que Llama 3 8B instruct, Llama 3 70B instruct et MythoMax-L2–13B :

En seulement quelques lignes de code, vous pouvez effectuer un appel API et tirer parti de la puissance d’OpenHermes-2.5-Mistral-7B et d’autres modèles puissants :

from openai import OpenAI

client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    # Get the Novita AI API Key by referring: https://novita.ai/get-started/Quick_Start.html#_3-create-an-api-key
    api_key="<YOUR Novita AI API Key>",
)
model = "teknium/openhermes-2.5-mistral-7b"
completion_res = client.completions.create(
    model=model,
    prompt="A chat between a curious user and an artificial intelligence assistant".
    stream = True, # or False
    max_tokens = 512,
)

Conclusion

En conclusion, OpenHermes 2.5 apparaît comme une avancée cruciale dans la technologie de l’IA, mêlant une curation extensive de données à un entraînement de modèle de pointe. Depuis sa création par Teknium jusqu’à son intégration avec des plateformes comme Lilac et sa disponibilité sur HuggingFace, ce jeu de données illustre un bond en avant dans le traitement du langage naturel.

Tout au long de ce blog, nous avons exploré les applications multiples d’OpenHermes 2.5. Qu’il s’agisse d’améliorer les interactions utilisateur via des chats compagnons IA, de favoriser la créativité dans la génération de romans IA, ou de permettre un résumé efficace des données, ce modèle permet aux développeurs d’innover dans divers domaines.

Novita AI est la plateforme cloud tout-en-un qui donne vie à vos ambitions en matière d’IA. Avec des API intégrées de manière transparente, une informatique sans serveur et une accélération GPU, nous fournissons les outils rentables dont vous avez besoin pour construire et développer rapidement votre entreprise pilotée par l’IA. Éliminez les problèmes d’infrastructure et commencez gratuitement — Novita AI fait de vos rêves d’IA une réalité.