Novita AI のチャットボット API は、通常、標準的な OpenAI 互換のチャット補完ワークフローです。モデル ID を選択し、API にメッセージを送信し、アプリからのアシスタント応答を返します。ボットがツールの呼び出し、ファイルの書き込み、コードの実行も必要とする場合は、チャット API がホストシステムに直接触れるのを避けるために、その作業を Agent Sandbox に移してください。
重要なポイント
- 通常のチャットボットトラフィックには OpenAI 互換のチャット API を使用します。
- モデル ID は、ハードコードされたブログの例ではなく、Novita のライブモデルリストから取得します。
- チャットボットが実際のアクションを必要とする場合のみ、関数呼び出しを追加します。
- ツールの実行、コードの実行、および隔離された副作用には Agent Sandbox を使用します。
チャットボット API ワークフローとは
チャットボット API ワークフローは、ユーザーメッセージを受け取り、モデルエンドポイントに送信し、アシスタントの応答をアプリに返します。Novita AI では、通常、プロバイダ固有のモデル ID を使用した OpenAI 互換のチャット補完エンドポイントを使用することを意味します。フローはシンプルです。認証、モデル選択、メッセージ送信、応答のレンダリングです。
チャットボットに Novita AI を使用すべきタイミング
Novita AI は、迅速に開始でき、後でツール使用、バッチジョブ、または隔離された実行に拡張できるチャットボットが必要な場合に使用します。チームがすでに OpenAI スタイルのリクエスト形式を理解していて、アプリを書き換えずにモデルを切り替えたい場合、またはテキストのみのチャットからエージェントワークフローへのクリーンなパスが必要な場合に適しています。
適切な Novita パスの選択
| オプション | 最適な用途 | 選ぶ理由 | 避ける理由 | ソース/日付 |
|---|---|---|---|---|
| OpenAI 互換のチャット補完 | 標準的なチャットボットとアシスタント | 使い慣れた SDK で最も速く動作する API へのパス | ボットがコードを実行したりファイルに触れたりする必要がある場合はこれだけでは不十分 | Novita LLM API ドキュメント、2026-07-29 確認 |
| ライブモデルリストエンドポイント | モデル選択とモデル ID の検索 | 出荷前に正確なモデル ID を取得できる | ランタイムのチャットエンドポイントではない | Novita ドキュメントインデックスと API リファレンス、2026-07-29 確認 |
| Agent Sandbox | ツールを使用するボットとコード実行 | 副作用をホストアプリから隔離できる | プレーンテキストチャットには過剰 | Novita Agent Sandbox ドキュメント、2026-07-29 確認 |
ステップ 1: 入力と出力形式を定義する
チャットボットの契約から始めます。アプリが送信するもの、モデルが返すもの、プレーンテキスト、JSON、またはツール呼び出しが必要かどうかを決定します。ほとんどの製品では、ユーザー入力は短いメッセージリストで、出力は通常のアシスタント応答です。
ステップ 2: Novita AI API リクエストを構成する
OpenAI SDK を Novita のベース URL で使用します。モデル ID を Novita のライブモデルリストのものに置き換えます。
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/openai",
api_key=os.environ["NOVITA_API_KEY"],
)
response = client.chat.completions.create(
model="<MODEL_ID_FROM_NOVITA>",
messages=[
{"role": "system", "content": "あなたは簡潔なサポートチャットボットです。"},
{"role": "user", "content": "アカウントのパスワードをリセットするにはどうすればよいですか？"},
],
)
print(response.choices[0].message.content)
ステップ 3: 最初の API リクエストを実行する
メモリ、検索、ツール呼び出しを追加する前に、短いプロンプトを1つテストします。応答品質が悪い場合は、統合を拡張する前にシステムプロンプトまたはモデル選択を修正します。
ステップ 4: 結果を検証して改善する
応答品質、レイテンシ、障害時の動作の3つを確認します。ボットが製品データから回答する必要がある場合は、検索を追加します。アクションを実行する必要がある場合は、関数呼び出しを追加します。コードを実行する必要がある場合は、その実行を Agent Sandbox に移します。
ステップ 5: 本番環境への準備
本番環境のチャットボットには、動作する応答だけでは不十分です。
- レート制限とリトライ
- ロギングとリクエストトレーシング
- プロンプトのバージョン管理
- モデルが遅い、または利用できない場合のフォールバック動作
- ボットがツールを呼び出してよい場合の明確なルール
ボットはいつ Agent Sandbox を使用すべきか
チャットボットが会話以上のことを行う必要がある場合は、Agent Sandbox を使用します。これには、コードの実行、ファイルの編集、変更のテスト、ワークフローの参照、またはメインアプリケーションから隔離すべきその他の副作用の処理が含まれます。
Novita の Agent Sandbox ドキュメントでは、サンドボックスはステートフルな実行環境として説明されており、プレーンなチャットエンドポイントよりもエージェント的なステップに適しています。
トラブルシューティング
ボットの応答が一般的すぎる場合は、システムプロンプトを厳密にし、より具体的なモデル ID を使用します。モデルが間違った形式を返す場合は、より厳格な出力スキーマを適用します。ツール呼び出しが安全でない場合は、アクションを Agent Sandbox に移動し、チャット API は計画に集中させます。
FAQ
どのモデル ID を使用すべきですか？
対象タスクとアカウントに対して、Novita のライブモデルリストエンドポイントが返すモデル ID を使用します。
OpenAI SDK を使用できますか？
はい。Novita のチャット API は OpenAI 互換であるため、SDK の移行は基本的にベース URL とモデル ID の変更のみです。
Agent Sandbox はいつ必要ですか？
チャットボットがテキスト生成だけでなく、隔離された実行を必要とする場合に使用します。
