English Arabic 简体中文 繁體中文 Français Deutsch 日本語 한국어 Português Русский Español

Openhermes 2.5の紹介：神々のメッセンジャーの力を理解する

著者 / / LLM / 7 分で読めます
Openhermes 2.5の紹介：神々のメッセンジャーの力を理解する
目次
  1. はじめに
  2. Openhermes 2.5とは？
  3. OpenHermes-2.5-Mistral-7Bとは？
  4. OpenHermes-2.5-Mistral-7Bの業界における実用的な応用とは？
  5. OpenHermes-2.5-Mistral-7Bにアクセスする方法
  6. 結論

はじめに

Tekniumによって開発された画期的なデータセット、OpenHermes 2.5の探求へようこそ。このブログでは、最先端のモデル拡張の特徴、応用、進歩について詳しく説明します。

Openhermes 2.5とは？

Openhermes 2.5の基本背景

Tekniumによって開発されたOpenhermes 2.5は、Open Hermes 1データセットの拡張および改良版です。より大規模で多様性に富み、高品質であることが特徴で、100万以上の合成生成された指示とチャットサンプルで構成されています。

Openhermes 2.5の主な特徴

  • さまざまなオープンソースデータセットとカスタム作成の合成データセットを組み合わせたものです。
  • データセットはデータキュレーションおよび探索プラットフォームであるLilacと統合されており、HuggingFaceで探索、キュレーション、テキスト埋め込み検索が可能です。
  • Openhermes 2.5には、Airoboros 2.2、CamelAI Domain Expert Datasets、ChatBot Arena、Collective Cognitionなど、複数のソースからの貢献が含まれており、それぞれが独自のデータセットを提供して全体的なデータセットを豊かにしています。
  • Openhermes 2.5の構造はsharegpt形式に従っており、これは辞書のリストです。各エントリには、各ターンに対応する辞書の「conversations」リストが含まれ、ロール（例：「system」「human」「gpt」）と会話のテキスト値が示されます。

OpenHermes 2.5のデータセットソース

OpenHermes 2.5は、LLMのトレーニングにおけるデータセットの包括性と有用性に貢献する、幅広いソースからのデータを取り入れています。注目すべきソースには次のものがあります。

  • Airoboros 2.2 : Jon Durbinによるデータセット。
  • CamelAI Domain Expert Datasets : 物理学、数学、化学、生物学をカバー。
  • ChatBot Arena : GPT-4固有のデータセット。
  • Collective Cognition : Tekniumによるデータセット。
  • Glaive Code Assistant : コーディングスキルの向上を目的としたデータセット。
  • GPTeacher : LLMトレーニングのためのモジュラー型データセット集。
  • SlimOrca 550K : Orcaの再現 efforts に貢献するデータセット。

OpenHermes-2.5-Mistral-7Bとは？

説明

  • OpenHermes 2の継続 : OpenHermes 2.5 Mistral 7Bは、最先端のMistralファインチューンです。以前のOpenHermes 2モデルを基盤としており、開発と機能の進歩を示しています。
  • コードデータセットでのトレーニング : トレーニングデータのかなりの部分（推定で全データセットの7～14%）がコード指示で構成されています。このコードによるトレーニングは、モデルのパフォーマンスに肯定的な影響を与えました。
  • トレーニングデータ : OpenHermes 2.5は、主にGPT-4によって生成された100万エントリと、AI分野のさまざまなオープンデータセットからの高品質データでトレーニングされました。この多様なトレーニングデータが、モデルの幅広い能力に貢献していると考えられます。
  • データフィルタリングと形式変換 : トレーニングに使用された公開データセットには広範なフィルタリングが適用されました。すべてのデータ形式はShareGPTに変換され、その後axolotlによってChatMLを使用するようにさらに変換されました。この標準化と変換のプロセスにより、トレーニングデータの一貫性が確保され、モデルのパフォーマンス向上に貢献している可能性があります。

OpenHermes-2.5-Mistral-7Bのベンチマーク性能

  • TruthfulQA、AGIEval、GPT4All Suite : これらの非コードベンチマークでのパフォーマンスが向上しており、コードデータセットでのトレーニングが他の分野にもうまく一般化されていることを示しています。
  • BigBench : 興味深いことに、BigBenchベンチマークのスコアは低下しましたが、他のベンチマークでの全体的な純利益は依然として大きく、モデルの能力の向上を示しています。

  • Humanevalスコアの改善 : モデルの人間らしい評価能力を測るhumanevalベンチマークでのパフォーマンスは、Open Hermes 2のPass 1で43%から、OpenHermes 2.5のPass 1で50.7%に向上しました。これは大幅な増加であり、より人間らしい応答を生成するモデルの能力が強化されたことを反映しています。

OpenHermes-2.5-Mistral-7Bの業界における実用的な応用とは？

開発者の皆さんはイノベーションの最前線に立ち、生産性を向上させ魅力的なユーザーエクスペリエンスを生み出せるツールを常に探しています。高度な機能を備えたOpenHermes 2.5 Mistral 7Bは、さまざまな領域で可能性の世界を切り開きます。この最先端モデルの恩恵を受けられる実用的なアプリケーションをいくつか見てみましょう。

AIコンパニオンチャット

強化されたユーザーインタラクション : OpenHermes 2.5 Mistral 7Bの自然言語理解と生成の熟練度は、AIコンパニオンチャットの開発に理想的な候補です。カスタマーサービスのボット、仮想アシスタント、ゲーム内のインタラクティブキャラクターなど、このモデルはよりニュアンスに富み人間らしい会話を提供できます。

パーソナライゼーション : モデルの文脈を理解し関連する応答を生成する能力を活用することで、開発者は個々のユーザーの好みやニーズに適応するパーソナライズされたチャット体験を作成できます。

多言語サポート : さらなるトレーニングと適応により、OpenHermes 2.5 Mistral 7Bを複数言語に対応するように拡張でき、AIコンパニオンアプリケーションのグローバル市場が開かれます。

AI小説生成

クリエイティブライティング : 人間らしいテキスト生成の強みにより、AI小説生成の強力なツールとなります。開発者はこの機能を活用して、書籍、脚本、インタラクティブナラティブのためのユニークなストーリーライン、キャラクター、対話を作成できます。

自動コンテンツ作成 : コンテンツクリエイターやデジタルマーケターにとって、OpenHermes 2.5 Mistral 7Bは魅力的なブログ記事やソーシャルメディアコンテンツの生成を自動化し、高品質を維持しながら時間とリソースを節約できます。

インタラクティブストーリーテリング : ゲーム業界では、このモデルがプレイヤーの選択にリアルタイムで適応するナラティブを作り出すインタラクティブストーリーテリングの基盤となり、没入感の高い体験を生み出します。

AI要約

効率的な情報処理 : OpenHermes 2.5 Mistral 7Bの要約機能は、大量のテキストを処理し重要なポイントを抽出するのに非常に価値があります。これはニュースの集約、研究、ビジネスインテリジェンスに適用され、長文書の簡潔な要約を提供できます。

データ分析 : データ分析やレポート作成の領域では、このモデルが複雑なデータセットから洞察を統合し、消化しやすい形式で提示することで意思決定プロセスを支援します。

教育ツール : 教育アプリケーションでは、AI駆動の要約が学生や研究者に学術論文、書籍、講義ノートの要約を提供し、より迅速で効果的な学習を促進します。

開発者の皆さんは、プロジェクトにOpenHermes 2.5 Mistral 7Bを統合する方法に興味があるでしょう。次のセクションでは、OpenHermes 2.5 Mistral 7Bにアクセスする2つの方法を紹介します。

OpenHermes-2.5-Mistral-7Bにアクセスする方法

text-generation-webuiでモデルをダウンロードして使用する方法

  1. 最新バージョンに更新 : 最新バージョンのtext-generation-webuiを使用していることを確認してください。
  2. ワンクリックインストーラーを使用 : 手動インストールに自信がない限り、text-generation-webuiのワンクリックインストーラーを使用することを強くお勧めします。
  3. Modelタブに移動 : インターフェース内の「Model」タブをクリックします。
  4. モデルの詳細を入力 : カスタムモデルまたはLoRAをダウンロードするセクションに、TheBloke/OpenHermes-2.5-Mistral-7B-GPTQ と入力します。特定のブランチからダウンロードする場合（例：TheBloke/OpenHermes-2.5-Mistral-7B-GPTQ:gptq-4bit-32g-actorder_True）は、上記の各オプションのブランチリストを参照してください。
  5. ダウンロードを開始 : 「Download」ボタンをクリックしてモデルのダウンロードを開始します。完了すると、ステータスが「Done」に変わります。
  6. モデルリストを更新 : 左上の更新アイコンをクリックして、利用可能なモデルのリストを更新します。
  7. ダウンロードしたモデルを選択 : Modelドロップダウンメニューから、ダウンロードしたモデル OpenHermes-2.5-Mistral-7B-GPTQ を選択します。
  8. モデルをロード : モデルは自動的にロードされ、使用可能になります。
  9. カスタム設定（必要な場合） : 適用するカスタム設定がある場合は、設定を行い、「Save settings for this model」をクリックし、次に右上の「Reload the Model」をクリックします。
  10. GPTQパラメータに関する注意 : GPTQパラメータを手動で設定する必要はなくなりました。 quantize_config.json ファイルから自動的に設定されます。
  11. テキスト生成を開始 : すべての設定が完了したら、「Text Generation」タブをクリックし、プロンプトを入力してテキスト生成を開始します！

必要なファイルはすべてHugging FaceのTheBlokeから入手できます。これらの手順に従うことで、text-generation-webuiでOpenHermes-2.5-Mistral-7B-GPTQモデルを簡単にダウンロードして利用できます。

Novita AIでOpenHermes-2.5-Mistral-7Bを使用する方法

text-generation-webuiでのOpenHermes-2.5-Mistral-7Bのダウンロードと使用が面倒だと感じる場合は、Novita AI LLM APIを適用してアクセスできます。このAPIにはOpenHermes-2.5-Mistral-7Bや、Llama 3 8B instruct、Llama 3 70B instruct、MythoMax-L2–13Bなどの最新の強力なモデルが搭載されています：

数行のコードでAPI呼び出しを行い、OpenHermes-2.5-Mistral-7Bやその他の強力なモデルの能力を活用できます：

from openai import OpenAI

client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    # Get the Novita AI API Key by referring: https://novita.ai/get-started/Quick_Start.html#_3-create-an-api-key
    api_key="<YOUR Novita AI API Key>",
)
model = "teknium/openhermes-2.5-mistral-7b"
completion_res = client.completions.create(
    model=model,
    prompt="A chat between a curious user and an artificial intelligence assistant".
    stream = True, # or False
    max_tokens = 512,
)

結論

まとめると、OpenHermes 2.5は、広範なデータキュレーションと最先端のモデルトレーニングを融合した、AI技術における極めて重要な進歩として浮上しました。Tekniumによる創始からLilacなどのプラットフォームとの統合、HuggingFaceでの公開に至るまで、このデータセットは自然言語処理における飛躍的な前進を示しています。

このブログでは、OpenHermes 2.5の多面的な応用を探求してきました。AIコンパニオンチャットによるユーザーインタラクションの強化、AI小説生成における創造性の促進、効率的なデータ要約の実現など、このモデルは開発者が多様な分野で革新を起こす力を与えます。

Novita AI は、AIの野心を実現するオールインワンのクラウドプラットフォームです。シームレスに統合されたAPI、サーバーレスコンピューティング、GPUアクセラレーションにより、AI駆動のビジネスを迅速に構築および拡張するためのコスト効率の高いツールを提供します。インフラストラクチャの悩みを解消し、無料で始めましょう — Novita AIがあなたのAIの夢を現実にします。

関連記事