Einführung von OpenHermes 2.5: Die Macht des Boten der Götter verstehen

Einführung

Willkommen zu unserer Erkundung von OpenHermes 2.5, einem bahnbrechenden Datensatz, der von Teknium entwickelt wurde. Dieser Blog taucht ein in die Funktionen, Anwendungen und Fortschritte dieser hochmodernen Modellerweiterung.

Was ist OpenHermes 2.5?

Grundlegender Hintergrund von OpenHermes 2.5

Entwickelt von Teknium, ist OpenHermes 2.5 eine Erweiterung und Verbesserung des Open Hermes 1 Datensatzes. Es zeichnet sich durch einen viel größeren Umfang, eine größere Vielfalt und eine höhere Qualität aus, mit einer Zusammenstellung von über 1 Million synthetisch generierten Anweisungs- und Chat-Beispielen.

Hauptmerkmale von OpenHermes 2.5

• Es ist eine Zusammenstellung verschiedener Open-Source-Datensätze und eigens erstellter synthetischer Datensätze.
• Der Datensatz wurde in Lilac, eine Datenkuratierungs- und Explorationsplattform, integriert und ist auf HuggingFace zur Exploration, Kuration und Text-Embedding-Suche verfügbar.
• OpenHermes 2.5 enthält Beiträge aus mehreren Quellen wie Airoboros 2.2, CamelAI Domain Expert Datasets, ChatBot Arena, Collective Cognition und anderen, die jeweils einen einzigartigen Datensatz bereitstellen, der den Gesamtdatensatz bereichert.
• Die Struktur von OpenHermes 2.5 folgt einem ShareGPT-Format, das eine Liste von Wörterbüchern ist. Jeder Eintrag enthält eine „conversations“-Liste mit Wörterbüchern für jede Runde, die die Rolle (z. B. „system“, „human“, „gpt“) und den Textwert der Konversation angibt.

Datenquellen von OpenHermes 2.5

OpenHermes 2.5 integriert Daten aus einer Vielzahl von Quellen, die jeweils zur Vollständigkeit und Nützlichkeit des Datensatzes für das Training von LLMs beitragen. Zu den bemerkenswerten Quellen gehören:

• Airoboros 2.2: Ein Datensatz von Jon Durbin.
• CamelAI Domain Expert Datasets: Abdeckung von Physik, Mathematik, Chemie und Biologie.
• ChatBot Arena: Ein GPT-4-spezifischer Datensatz.
• Collective Cognition: Ein Datensatz von Teknium.
• Glaive Code Assistant: Ein Datensatz zur Verbesserung der Programmierfähigkeiten.
• GPTeacher: Eine Sammlung modularer Datensätze zum Training von LLMs.
• SlimOrca 550K: Ein Datensatz, der zu den Orca-Replikationsbemühungen beiträgt.

Was ist OpenHermes-2.5-Mistral-7B?

Erklärung

• Fortsetzung von OpenHermes 2: OpenHermes 2.5 Mistral 7B ist ein hochmoderner Mistral-Feintune. Es baut auf dem vorherigen OpenHermes 2-Modell auf, was eine Weiterentwicklung seiner Fähigkeiten anzeigt.
• Training auf Code-Datensätzen: Ein signifikanter Teil der Trainingsdaten (schätzungsweise 7–14 % des gesamten Datensatzes) besteht aus Code-Anweisungen. Dieses Training auf Code hatte einen positiven Einfluss auf die Leistung des Modells.
• Trainingsdaten: OpenHermes 2.5 wurde auf 1 Million Einträge trainiert, die hauptsächlich von GPT-4 generiert wurden, zusammen mit anderen hochwertigen Daten aus verschiedenen offenen Datensätzen der KI-Landschaft. Diese vielfältigen Trainingsdaten tragen wahrscheinlich zu den breiten Fähigkeiten des Modells bei.
• Datenfilterung und Formatkonvertierung: Auf die öffentlich zugänglichen Datensätze, die zum Training verwendet wurden, wurde eine umfangreiche Filterung angewendet. Alle Datenformate wurden in ShareGPT konvertiert, das dann von axolotl weiter in ChatML umgewandelt wurde. Dieser Prozess der Standardisierung und Transformation gewährleistet Konsistenz in den Trainingsdaten und kann zur verbesserten Leistung des Modells beitragen.

Benchmark-Leistungen von OpenHermes-2.5-Mistral-7B

• TruthfulQA, AGIEval und GPT4All Suite: Das Modell verzeichnete eine Leistungssteigerung bei diesen Nicht-Code-Benchmarks, was darauf hindeutet, dass das Training auf Code-Datensätzen gut auf andere Bereiche verallgemeinert wurde.
• BigBench: Interessanterweise ist die Punktzahl des Modells im BigBench-Benchmark zwar gesunken, der Gesamtnettogewinn bei anderen Benchmarks ist jedoch immer noch signifikant, was auf eine Verbesserung der Fähigkeiten des Modells hindeutet.

• Humaneval-Score-Verbesserung: Die Leistung des Modells im Humaneval-Benchmark, der die Fähigkeit des Modells misst, menschenähnliche Bewertungen durchzuführen, verbesserte sich von 43 % bei Pass 1 mit Open Hermes 2 auf 50,7 % bei Pass 1 mit OpenHermes 2.5. Dies ist eine deutliche Steigerung und spiegelt die verbesserte Fähigkeit des Modells wider, menschenähnlichere Antworten zu generieren.

Welche praktischen Anwendungen hat OpenHermes-2.5-Mistral-7B in der Industrie?

Als Entwickler sind Sie an der Spitze der Innovation und suchen ständig nach Werkzeugen, die die Produktivität steigern und ansprechende Benutzererlebnisse schaffen können. OpenHermes 2.5 Mistral 7B eröffnet mit seinen fortschrittlichen Fähigkeiten eine Reihe von Möglichkeiten in verschiedenen Bereichen. Lassen Sie uns einige praktische Anwendungen erkunden, die von diesem hochmodernen Modell profitieren können.

AI Companion Chat

Verbesserte Benutzerinteraktion: Die Kompetenz von OpenHermes 2.5 Mistral 7B im Verständnis und der Generierung natürlicher Sprache macht es zu einem idealen Kandidaten für die Entwicklung von KI-Begleitchats. Ob für Kundendienst-Bots, virtuelle Assistenten oder interaktive Figuren in Spielen – dieses Modell kann nuanciertere und menschlichere Gespräche ermöglichen.

Personalisierung: Durch die Nutzung der Fähigkeit des Modells, Kontext zu verstehen und relevante Antworten zu generieren, können Entwickler personalisierte Chat-Erlebnisse schaffen, die sich an individuelle Benutzerpräferenzen und -bedürfnisse anpassen.

Mehrsprachige Unterstützung: Mit weiterem Training und Anpassung kann OpenHermes 2.5 Mistral 7B erweitert werden, um mehrere Sprachen zu unterstützen und so globale Märkte für KI-Begleitanwendungen zu erschließen.

KI-Roman-Generierung

Kreatives Schreiben: Die Stärke des Modells bei der Generierung von menschenähnlichem Text macht es zu einem leistungsstarken Werkzeug für die KI-Roman-Generierung. Entwickler können diese Fähigkeit nutzen, um einzigartige Handlungsstränge, Charaktere und Dialoge für Bücher, Drehbücher oder interaktive Erzählungen zu erstellen.

Automatisierte Inhaltserstellung: Für Content-Ersteller und digitale Vermarkter kann OpenHermes 2.5 Mistral 7B die Generierung ansprechender Blogbeiträge, Artikel oder Social-Media-Inhalte automatisieren, Zeit und Ressourcen sparen und gleichzeitig eine hohe Qualität bewahren.

Interaktives Geschichtenerzählen: In der Spieleindustrie kann dieses Modell die Grundlage für interaktive Geschichtenerzählerfahrungen sein, bei denen sich die Erzählung in Echtzeit an die Entscheidungen des Spielers anpasst und eine tief immersive Umgebung schafft.

KI-Zusammenfassung

Effiziente Informationsverarbeitung: Die Zusammenfassungsfähigkeiten von OpenHermes 2.5 Mistral 7B sind unschätzbar für die Verarbeitung großer Textmengen und die Extraktion von Kernpunkten. Dies kann auf Nachrichtenaggregation, Forschung oder Business Intelligence angewendet werden, um prägnante Zusammenfassungen langer Dokumente zu liefern.

Datenanalyse: Im Bereich der Datenanalyse und Berichterstattung kann dieses Modell Erkenntnisse aus komplexen Datensätzen synthetisieren und in einem leicht verdaulichen Format präsentieren, was Entscheidungsprozesse unterstützt.

Bildungswerkzeuge: Für Bildungsanwendungen kann KI-gestützte Zusammenfassung Studenten und Forschern helfen, indem sie Zusammenfassungen wissenschaftlicher Arbeiten, Bücher oder Vorlesungsnotizen bereitstellt und so schnelleres und effektiveres Lernen ermöglicht.

Als Entwickler werden Sie wahrscheinlich daran interessiert sein, OpenHermes 2.5 Mistral 7B in Ihre Projekte zu integrieren. Der folgende Abschnitt bietet Ihnen zwei Möglichkeiten, um Zugang zu OpenHermes 2.5 Mistral 7B zu erhalten.

Wie erhält man Zugang zu OpenHermes-2.5-Mistral-7B?

Wie man dieses Modell herunterlädt und in text-generation-webui verwendet?

1. Aktualisieren Sie auf die neueste Version: Stellen Sie sicher, dass Sie die aktuellste Version der text-generation-webui verwenden.
2. Verwenden Sie One-Click-Installer: Es wird dringend empfohlen, die One-Click-Installer für text-generation-webui zu verwenden, es sei denn, Sie sind sicher, dass Sie eine manuelle Installation durchführen können.
3. Navigieren Sie zum Model-Tab: Klicken Sie auf den Tab „Model“ in der Benutzeroberfläche.
4. Geben Sie Modelldetails ein: Geben Sie im Bereich zum Herunterladen eines benutzerdefinierten Modells oder LoRA TheBloke/OpenHermes-2.5-Mistral-7B-GPTQ ein. Wenn Sie von einem bestimmten Branch herunterladen möchten, z. B. TheBloke/OpenHermes-2.5-Mistral-7B-GPTQ:gptq-4bit-32g-actorder_True, beachten Sie die Liste der Branches oben für jede Option.
5. Starten Sie den Download: Klicken Sie auf die Schaltfläche „Download“, um den Download des Modells zu starten. Nach Abschluss sehen Sie den Status „Done“.
6. Aktualisieren Sie die Modellliste: Klicken Sie auf das Aktualisierungssymbol oben links, um die Liste der verfügbaren Modelle zu aktualisieren.
7. Wählen Sie das heruntergeladene Modell aus: Wählen Sie aus dem Model-Dropdown-Menü das gerade heruntergeladene Modell: OpenHermes-2.5-Mistral-7B-GPTQ.
8. Laden Sie das Modell: Das Modell wird automatisch geladen und ist bereit zur Verwendung.
9. Benutzerdefinierte Einstellungen (falls erforderlich): Wenn Sie benutzerdefinierte Einstellungen vornehmen möchten, konfigurieren Sie diese und klicken Sie dann auf „Save settings for this model“ und anschließend oben rechts auf „Reload the Model“.
10. Hinweis zu GPTQ-Parametern: Sie müssen GPTQ-Parameter nicht mehr manuell einstellen. Sie werden jetzt automatisch aus der quantize_config.json-Datei konfiguriert.
11. Starten Sie die Textgenerierung: Sobald alles eingerichtet ist, klicken Sie auf den Tab „Text Generation“, geben Sie Ihren Prompt ein und beginnen Sie mit der Textgenerierung!

Alle benötigten Dateien finden Sie von TheBloke auf Hugging Face. Indem Sie diese Schritte befolgen, können Sie das OpenHermes-2.5-Mistral-7B-GPTQ-Modell problemlos in der text-generation-webui herunterladen und nutzen.

Wie verwendet man OpenHermes-2.5-Mistral-7B auf Novita AI?

Wenn Sie es als mühsam empfinden, OpenHermes-2.5-Mistral-7B in text-generation-webui herunterzuladen und zu verwenden, können Sie darauf über die Novita AI LLM API zugreifen. Diese API ist mit OpenHermes-2.5-Mistral-7B und anderen neuesten, leistungsstarken Modellen wie Llama 3 8B instruct, Llama 3 70B instruct und MythoMax-L2–13B ausgestattet:

Mit nur wenigen Zeilen Code können Sie einen API-Aufruf tätigen und die Leistung von OpenHermes-2.5-Mistral-7B und anderen leistungsstarken Modellen nutzen:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    # Get the Novita AI API Key by referring: https://novita.ai/get-started/Quick_Start.html#_3-create-an-api-key
    api_key="<YOUR Novita AI API Key>",
)
model = "teknium/openhermes-2.5-mistral-7b"
completion_res = client.completions.create(
    model=model,
    prompt="A chat between a curious user and an artificial intelligence assistant".
    stream = True, # or False
    max_tokens = 512,
)

Fazit

Zusammenfassend erweist sich OpenHermes 2.5 als ein entscheidender Fortschritt in der KI-Technologie, der umfangreiche Datenkuratierung mit hochmodernem Modelltraining verbindet. Von seiner Entstehung durch Teknium bis hin zur Integration mit Plattformen wie Lilac und der Verfügbarkeit auf HuggingFace stellt dieser Datensatz einen großen Sprung in der natürlichen Sprachverarbeitung dar.

In diesem Blog haben wir die vielseitigen Anwendungen von OpenHermes 2.5 untersucht. Ob zur Verbesserung von Benutzerinteraktionen durch KI-Begleitchats, zur Förderung der Kreativität bei der KI-Roman-Generierung oder zur Ermöglichung effizienter Datenzusammenfassung – dieses Modell befähigt Entwickler, in verschiedenen Bereichen zu innovieren.

Novita AI ist die All-in-One-Cloud-Plattform, die Ihre KI-Ambitionen unterstützt. Mit nahtlos integrierten APIs, Serverless Computing und GPU-Beschleunigung bieten wir die kosteneffizienten Werkzeuge, die Sie benötigen, um Ihr KI-gesteuertes Unternehmen schnell aufzubauen und zu skalieren. Beseitigen Sie infrastrukturelle Kopfschmerzen und starten Sie kostenlos – Novita AI macht Ihre KI-Träume zur Realität.