AIエージェントの構築はますます簡単になっています。しかし、それらを大規模にデプロイすることは依然として大きな課題です。コンテナ、仮想マシン、サーバーレス関数といった従来のインフラストラクチャは、従来のWebアプリケーション向けに設計されています。それらはAIエージェントワークロードの独自の要求を満たしていません。
Novita Agent Runtimeは、AIエージェントをデプロイするための専用のサーバーレスインフラストラクチャを提供することで、このギャップを解決します。NovitaのAgent Sandbox上に構築されており、LangGraphワークフロー、Microsoft AutoGenマルチエージェントシステム、カスタム実装をサポートします。最小限のコード変更とインフラ管理不要で、既存のエージェントを本番環境にデプロイできます。
AIエージェントを阻むインフラストラクチャのギャップ
従来のアプリケーションは予測可能なパターンに従います。リクエストを受け取り、処理し、応答を返します。ライフサイクル全体はミリ秒または秒単位で完了し、各リクエストは独立して処理されます。
AIエージェントは異なる動作をします。インタラクション間で推論状態を維持し、拡張ワークフローを実行し、予測不能なレイテンシで外部サービスを呼び出し、機密データを扱う同時ユーザーに対して強力な分離を必要とします。
既存のインフラストラクチャはこれらのニーズにうまく適合しません。
| 機能 | Agent Sandbox | コンテナ | サーバーレス | 仮想マシン |
| 起動時間 | <200ms (MicroVM) | 秒 | 1秒 | 30秒以上 |
| セキュリティ分離 | 強固 (MicroVM) | 弱い (共有カーネル) | 強固 | 強固 |
| 状態永続化 | 即時サスペンド/レジューム | 対応 | ステートレス | 遅いスナップショット復旧 |
| 最大実行時間 | 時間 | 無制限 | 通常15分制限 | 無制限 |
| 開発者エクスペリエンス | エージェント最適化API | 汎用API | 関数レベルAPI | インフラレベルAPI |
Novita Agent Sandboxは、ミリ秒単位の起動、MicroVM分離、ステートフル実行、エージェントネイティブAPIを組み合わせています。Agent Sandbox上に構築されたNovita Agent Runtimeを使用すると、最小限のコード変更で既存のエージェントをこのインフラストラクチャにデプロイできます。
Novita Agent Runtime: AIエージェントのために設計された
Novita Agent Runtimeは、AgentCore互換のアーキテクチャ上に構築された、軽量でフレームワークに依存しないサーバーレスデプロイツールキットです。広範なDevOpsの専門知識やインフラ管理を必要とせず、既存のAIエージェントを安全かつ効率的に本番環境にデプロイできます。
このツールキットは、サブ秒の応答時間を必要とする会話型インターフェースから、完了までに数時間かかる複雑な推論タスクまで、リアルタイムのインタラクションと長時間実行ワークロードの両方をサポートします。
Novita Agent Runtimeには、SDKとCLIツールが含まれています。SDKは、エージェントを標準のHTTPサービスとして公開するためのデコレータベースのAPIと、プログラムでエージェントを呼び出すメソッドを提供します。CLIは、Novita Agent Sandboxエコシステムへのワンクリック設定とデプロイを可能にします。
Novita Agent Runtimeの主要機能
フレームワーク非依存。 Novita Agent Runtimeは、LangGraph、Microsoft AutoGen、Google ADK、OpenAI Agents SDK、CrewAI、およびカスタム実装と連携します。インフラストラクチャに縛られることなく、好みのフレームワークを使用できます。
モデル非依存。 ランタイムはモデルの選択に依存しません。Novita AI、Anthropic Claude、Google Gemini、OpenAI、その他のプロバイダーと連携します。
200ms未満のコールドスタート。 軽量な仮想化技術により、ハードウェアレベルの環境分離を備えたコンテナに近い起動速度を実現します。最初のリクエストでもサブ秒の応答が得られます。
完全なセッション分離。 各ユーザーセッションは、専用のマイクロVM内で、分離されたCPU、メモリ、ファイルシステムリソースを使用して実行されます。セッション完了後、マイクロVM全体が終了し、メモリはサニタイズされます。
数時間の実行。 このプラットフォームは、複数時間にわたる長時間実行ワークロードをサポートし、複雑なエージェント推論、非同期ワークフロー、マルチエージェントコラボレーションを可能にします。
従量課金制。 使用した分だけ支払います。未使用容量に過剰に支払ったり、リソース計画を心配することなく、プロトタイプから本番環境までスケールできます。
コードからクラウドまで3ステップ
ステップ1: SDKを統合する。 SDKのデコレータベースのAPIを使用して、既存のエージェント実装に数行のコードを追加します。SDKはリクエストルーティング、レスポンスフォーマット、ヘルスチェックを自動的に処理します。
from novita_sandbox.agent_runtime import AgentRuntimeApp
app = AgentRuntimeApp()
@app.entrypoint
def my_agent(request: dict):
# Agent business logic
return {"result": "..."}
ステップ2: 1つのコマンドでデプロイする。 CLIを使用してエージェントを設定およびデプロイします。
# Configure your agent
novita-sandbox-cli agent configure
# Deploy to cloud
novita-sandbox-cli agent launch
CLIはDockerfileと.novita-agent.yaml設定ファイルを生成し、サンドボックステンプレートをビルドしてアップロードし、<agent_name>-<template_id>形式のAgent IDを生成します。
ステップ3: エージェントを呼び出す。 デプロイ後、CLIでエージェントを呼び出して簡単にテストできます。
# Quick test with CLI
novita-sandbox-cli agent invoke "Hello, Agent!"
または、SDKを介してプログラムで呼び出します。
import json
from novita_sandbox.agent_runtime import AgentRuntimeCliendevet
client = AgentRuntimeClient(api_key="your-api-key")
# Prepare request data (converted to a JSON string and encoded as bytes)
payload = json.dumps({"prompt": "Hello, Agent!"}).encode()
response = await client.invoke_agent_runtime(
agentId="agent-xxxxx",
payload=payload
)
各呼び出しは、分離されたサンドボックスインスタンスを作成し、そのセキュアな環境内でエージェントを実行し、結果を返します。
コード例を含む詳細なウォークスルーについては、クイックスタートガイドをご覧ください。完全なインストール手順については、インストールガイドをご覧ください。
主要なすべてのAIフレームワークと連携
すべてのフレームワーク統合は一貫したパターンに従います。AgentRuntimeAppを初期化し、フレームワークをセットアップし、デコレータでエントリポイントを定義し、アプリケーションを実行します。SDKはLangGraph、OpenAI Agents SDK、Microsoft AutoGen、Google ADK、カスタム実装とシームレスに連携します。
from novita_sandbox.agent_runtime import AgentRuntimeApp
# 1. Create Agent Runtime application instance
app = AgentRuntimeApp()
# 2. Initialize your Agent framework
# 3. Define entry point with decorator
@app.entrypoint
def agent_invocation(request: dict) -> dict:
"""
Args:
request: Request data, typically contains fields like prompt
Returns:
Response data dictionary
"""
prompt = request.get("prompt", "")
# Call your Agent framework
result = your_agent.run(prompt)
return {"result": result}
# 4. Run the application
if __name__ == "__main__":
app.run()
詳細な統合例については、エージェントフレームワーク統合ガイドをご覧ください。ストリーミング応答、マルチターン会話、環境変数管理などの高度な機能については、高度な機能ドキュメントを参照してください。
透明な秒単位の従量課金
Novita Agent Runtimeは、秒単位の課金粒度で従量課金制を採用しています。
CPU
| vCPUs | 単価 (秒あたり) |
| 1× CPU | $0.00000784/s |
| 2× CPU | $0.00001568/s |
| 3× CPU | $0.00002352/s |
| 4× CPU | $0.00003136/s |
| 5× CPU | $0.0000392/s |
| 6× CPU | $0.00004704/s |
| 7× CPU | $0.00005488/s |
| 8× CPU | $0.00006272/s |
メモリ
| メモリ | 単価 |
| 有効な値: 512 MiBから8192 MiBまでの512 MiBの倍数 (GiB/秒あたり) | $0.00000256 / GiB / s |
| 512 MiB | $0.00000128 / s |
| 1 GiB | $0.00000256 / s |
| 2 GiB | $0.00000512 / s |
ストレージ: 各アカウントには60GBの無料ストレージが含まれています。追加ストレージは$0.000072/GB/hで課金されます。
今すぐ本番AIエージェントの構築を始めましょう
Novita Agent Runtimeは、従来AIエージェントのデプロイを遅らせていたインフラストラクチャの複雑さを取り除きます。200ms未満のコールドスタート、完全なセッション分離、フレームワークの柔軟性を備えた専用のサーバーレスインフラストラクチャにより、開発チームはインフラ管理ではなく、インテリジェントなエージェント動作の構築に集中できます。
今すぐSDKとCLIをインストールして、最初のエージェントを数分でデプロイしましょう。追加のサポートについては、Novita AI Discordコミュニティに参加するか、営業チームにお問い合わせください。
Novita AIについて
Novita AIは、開発者にシンプルなAPIを使用したAIモデルの簡単なデプロイ方法を提供するとともに、構築とスケーリングのための手頃で信頼性の高いGPUクラウドを提供するAIクラウドプラットフォームです。
