English Arabic 简体中文 繁體中文 Français Deutsch 日本語 한국어 Português Русский Español

HeliconeとNovita AIの統合：包括ガイド

著者 / / Partnerships / 5 分で読めます
HeliconeとNovita AIの統合：包括ガイド
目次
  1. Heliconeとは？
  2. 主な機能と役割
  3. Helicone AI Gatewayのセットアップ
  4. Novita AI APIキーの取得
  5. Novita AI APIをHeliconeと統合する方法
  6. 便利なリンクとリソース
  7. 結論
  8. よくある質問

Novita AIは、Heliconeを含むさまざまなAIツールと開発者が対話する方法に革命をもたらしました。Heliconeは、大規模言語モデル（LLM）を扱う開発者向けに特化した高度な可観測性プラットフォームとしてよく知られています。したがって、この強力な統合は、シンプルな推論プラットフォーム、堅牢なLLM可観測性、モニタリングソリューションを求める 開発者にとって変革の機会を提供します。この記事では、Heliconeの機能、Novita AIとの統合、そして開発者がこの強力な組み合わせからどのような恩恵を受けられるかを詳しく解説します。

Heliconeとは？

Heliconeは、開発者が本番環境対応のAIアプリケーションを監視、デバッグ、改善するためのオールインワンLLM可観測性プラットフォームです。このプラットフォームは、リアルタイムのログ記録機能を備えた包括的なモニタリングソリューションを提供し、開発者が大規模にLLMアプリケーションを分析・最適化できるようにします。Heliconeの特に価値がある点は、複数のプロバイダーにわたって数秒で統合でき、コード変更を必要とせずに本番トラフィック上でプロンプトバリエーションをテストできることです。

主な機能と役割

Heliconeは、本番環境対応のLLMアプリケーションを改善するための主要な機能を提供します。

  1. 集中型可観測性：Heliconeは、大規模言語モデル（LLM）の全デプロイメントにわたる包括的なログとメトリクスをキャプチャし可視化する堅牢なプラットフォームを提供します。
  2. LLMパフォーマンス最適化：Heliconeは、プロンプト実験のサポート、成功率の追跡、ファインチューニングの容易化などの機能を通じてLLMパフォーマンスを向上させます。
  3. 柔軟なデータ管理：データプライバシーを優先し、専用インスタンス、ハイブリッドクラウド統合、セルフホスト環境など、さまざまなデプロイメントオプションを提供します。
  4. デプロイメントの柔軟性：Heliconeはクラウドホスト型とオンプレミス型の両方のデプロイメントオプションに対応し、本番環境対応のHELMチャートを利用して最大限のセキュリティを確保します。
  5. エンタープライズグレードのセキュリティ：SOC2認証とHIPAA準拠を備え、機密データの安全な取り扱いを保証し、エンタープライズのセキュリティ要件を満たします。

Helicone AI Gatewayのセットアップ

Helicone AI Gatewayのセットアップは、アカウント作成、APIキーの生成、希望する統合方法の選択、最初のリクエスト送信の4ステップのみです。

ステップ1：アカウントを作成する

  • アカウントを作成したら、次のステップに進みます。

ステップ2：APIキーを生成する

  • 設定に移動：左上の組織をクリックし、ドロップダウンから <mark>設定</mark> を選択します。

Heliconeの設定

  • APIキータブを選択

HeliconeのAPIキー

  • 新しいキーを生成：<mark>新しいキーを生成</mark> をクリックします。新しいHelicone APIキーを作成する際に、<mark>読み取り</mark> と <mark>書き込み</mark> の権限を有効にできます。書き込みキーは、プロキシ、フィードバック、その他のHeliconeサービスを介してHeliconeを通じて <mark>POST</mark> を呼び出すか、ゲートウェイを使用する際に使用できます。

Heliconeでキーを作成

ステップ3：希望する統合方法を選択する

  • 次の手順は異なるため、使用しているプロバイダーを以下から選択してください。

ステップ4：最初のリクエストを送信する

  • リクエストを受信すると、<mark>リクエスト</mark> タブに表示されます。

  • また、<mark>ダッシュボード</mark> が新しいリクエストで更新されていることも確認できます。

Novita AI APIキーの取得

Novita AI APIキーの生成は、Novita AIにアクセスしてログイン、Novita AI LLM APIキーの管理、クレジットのチャージの3ステップで実行できます。

ステップ1：Novita AIにアクセスしてログインする

  • Novita AIにGoogleまたはGitHubでログインできます。初回ログイン時に新しいアカウントが作成されます。または、メールアドレスを使用して登録することもできます。

Novita AIのログインページ

ステップ2：Novita AI LLM APIキーを管理する

Novita AIは、リクエストヘッダーにAPIキーを含めることで、Bearer認証を通じてAPIアクセスを保護します（例：「Authorization: Bearer {API Key}」）。

  • キーを管理するには、設定の「キー管理」に移動します。初回ログイン時にデフォルトのキーが自動生成されます。
  • 「+ 新しいキーを追加」をクリックして追加のキーを作成できます。

Novita AIのキー管理

ステップ3：クレジットをチャージする

  • Novita AIは新規ユーザーに製品を試すためのバウチャー（一部クレジット）を提供しています。クレジットを追加するには、「請求と支払い」にアクセスし、支払い方法のガイドに従ってください。

Novita AI APIをHeliconeと統合する方法

APIキーを使用してNovita AIとHeliconeを統合するのは簡単なプロセスで、Novita AIとHeliconeのアカウントにログイン、環境変数として HELICONE_API_KEY と NOVITA_API_KEY を設定、ベースURLと認証ヘッダーを変更の3ステップです。

ステップ1：Novita AIアカウントとHeliconeアカウントにログインする

  • Novita AIにログインするか、アカウントを作成します。アカウントを作成したら、ダッシュボードからAPIキーを生成できます。
  • Helicone にログインするか、アカウントを作成します。アカウントを作成したら、APIキーを生成できます。

ステップ2：環境変数として HELICONE_API_KEY と NOVITA_API_KEY を設定する

HELICONE_API_KEY=<your API key>
NOVITA_API_KEY=<your API key>

ステップ3：ベースURLと認証ヘッダーを変更する

  • 以下のNovita AI URLをHelicone Gateway URLに置き換えます：<mark>https://api.novita.ai</mark> → <mark>https://novita.helicone.ai</mark>

  • 次に、以下の認証ヘッダーを追加します：

Authorization: Bearer <your API key>

例

  • これで、シンプルなfetch呼び出しでNovita AI上のすべてのモデルにアクセスできます：
curl \
  --header 'Authorization: Bearer <NOVITA_API_KEY>' \
  --header 'Content-Type: application/json' \
  --data '{
    "model": "deepseek/deepseek-r1",
    "messages": &#91;
      {
        "role": "user",
        "content": "What language is mostly spoken in Singapore?"
      }
    ]
}' \
  --url https://novita.helicone.ai/v3/chat/completions

便利なリンクとリソース

Helicone AI GatewayとNovita AIの理解と使用をさらに深めるには、以下の貴重なリソースを検討してください：

結論

Novita AI APIとHelicone AI Gatewayの統合は、セキュリティとコスト効率を維持しながら、LLMアプリケーションのデプロイ、監視、最適化を行うための堅牢な基盤を提供します。Heliconeの可観測性プラットフォームとNovita AIのインフラストラクチャを組み合わせることで、開発者は開発ライフサイクル全体にわたってAIアプリケーションを管理するための包括的なツールにアクセスできます。

よくある質問

Heliconeのモニタリングは、vLLMを搭載したアプリケーションのパフォーマンスに影響しますか？

いいえ、この統合はvLLMのPagedAttentionアルゴリズムとシームレスに連携するように最適化されています。

この統合はオープンソースのLLMと互換性がありますか？

はい、この統合はオープンソースのLLMを完全にサポートしています。

GPUインフラストラクチャ全体のコストとリソース使用量を監視できますか？

はい、Heliconeを通じてリソース使用量とコストを追跡しながら、Novita AIの手頃で信頼性の高いGPUクラウドインフラストラクチャを使用できます。

期間限定オファー

Novita AIは現在、紹介プログラム を提供しており、Heliconeユーザーにとってメリットがあります。興味がある場合、ユーザーは招待リンク/コードを共有でき、紹介者と紹介されたユーザーの両方がDeepSeek R1 & V3 APIで使用できる$20のクレジットを受け取れます。

Novita AIについて

Novita AI は、開発者がシンプルなAPIを使用してAIモデルを簡単にデプロイできるようにすると同時に、構築とスケーリングのための手頃で信頼性の高いGPUクラウドを提供するAIクラウドプラットフォームです。

関連記事