コードインタープリターは、スクリプトを実行し、結果を返し、すべてを破棄する、独立した短命な実行タスクを処理します。エージェントランタイムは、永続的な状態、ツールアクセス、ブラウザ制御、ファイルI/O、または長時間実行セッションを必要とするマルチステップワークフローを処理します。適切な選択は、製品が使用するラベルではなく、ワークロードに依存します。
コードインタープリターが実際に行うこと
コードインタープリターは、言語モデルにコードを実行して出力を確認する方法を提供します。モデルがPythonスクリプトを作成し、インタープリターがそれを隔離環境で実行し、結果がテキスト、ファイル、またはレンダリングされたチャートとして返されます。セッションが終了するか、実装によってはターン間でも環境はリセットされます。何も引き継がれません。
この設計は意図的です。コードインタープリターは、継続性よりも安全性とシンプルさを優先します。隔離の境界は厳格です。なぜなら、必要なのは「このコードを実行し、この結果を返す」ことだけだからです。
実際のフットプリントは小さいです。サンドボックス化されたPython（または類似の）ランタイム、セッションにスコープされたファイルシステム、ユースケースが必要とする場合にライブラリや外部データを取得するための十分なネットワークアクセス、そしてアーティファクトを返すメカニズムです。セッションは30秒または10分間続くかもしれませんが、アプリはそれを基本的に一時的なものとして扱います。
これは、いくつかの価値の高いワークロードに明確に対応します。
- 単一スクリプトの実行: ユーザーがモデルに何かを計算するよう依頼し、結果が数値、テーブル、またはファイルとして返ってきます。
- データ分析: CSVをアップロードし、サマリーを生成し、チャートを作成します。作業は1回のインタラクション内で開始および終了します。
- 簡単な計算: 数学、データ変換、フォーマット変換など、単一のコードブロックに収まるタスク。
- 教育環境: 各演習が独立しており、セッションの継続性が期待されない場合。
コードインタープリターがうまく処理できないのは、環境が何かを記憶したり、サンドボックスの外でアクションを実行したり、ユーザーが見ていない間に作業を継続したりする必要があるものすべてです。
エージェントランタイムが追加するもの
エージェントランタイムは、複数のステップにまたがり、外部ツールを伴い、実行に数秒ではなく数分または数時間かかる可能性がある作業向けに設計された実行環境です。セッションはステップ間で破棄されません。これはエージェントが目標に向かって構築するために使用するワークスペースです。
単純なインタープリターに対する実際の追加点は重要です。
永続的なワークスペース: あるステップで書き込まれたファイルは、次のステップでもそのまま残ります。コーディングエージェントは、ブランチを作成し、ファイルを編集し、テストを実行し、失敗を修正し、コミットをプッシュできます。これらすべてを1つのセッション内で、最初からやり直すことなく実行できます。
インストールされたパッケージとシステムツール: エージェントランタイムは通常、依存関係のインストール、シェルコマンドの実行、CLIの呼び出し、バックグラウンドプロセスの開始、ロックダウンされたPythonサンドボックスではなく実際の開発環境での作業をサポートします。
ブラウザとWebアクセス: ドキュメントを読んだり、Webアプリと対話したり、フォームを入力したり、Webワークフローを自動化したりする必要があるエージェントは、実行環境にブラウザを必要とします。コードインタープリターには、永続的なブラウザセッションの概念がありません。
ファイルストレージとアーティファクトの永続化: 単一の実行を超えて存続する必要がある出力（生成されたコード、中間データ、ダウンロードされたファイル、スクリーンショット）には、ステップ間、場合によってはセッション間で永続化するファイルシステムが必要です。
長時間実行セッション: エージェントのタスクの中には20分かかるものもあります。もっと長いものもあります。エージェントランタイムは、関数呼び出しごとにスピンアップおよびティアダウンするのではなく、ワークフローの期間中存続するように設計されています。
マルチツールオーケストレーション: 実際のエージェントワークフローでは、Web検索、ファイル編集、テスト実行、gitプッシュなど、複数のツールを順番に呼び出します。エージェントランタイムは、そのチェーンを確実に調整するために構築されています。
トレードオフは現実的です。エージェントランタイムは操作がより複雑で、軽量なインタープリターよりもセッションあたりのコストが高く、注意深いポリシー設定を必要とする攻撃対象領域が大きくなります。インタープリターモデルに適合するワークロードの場合、これらすべての複雑さを追加することは無駄です。
主要な決定の軸
以下の表は、実際の決定基準を示しています。ほとんどのアプリは明確にどちらかの側に分類されます。ハイブリッドパターンについては、両方にまたがるケースのために次のセクションで説明します。
| 軸 | コードインタープリター | エージェントランタイム |
|---|---|---|
| セッションの寿命 | 数秒から数分、一時的 | 数分から数時間、永続的 |
| ステップ間の状態 | 破棄されるか制限される | 保持される |
| ツールアクセス | コード実行のみ | CLI、ブラウザ、ファイルI/O、API、サブプロセス |
| パッケージインストール | 固定イメージまたは制限付き | 動的、ポリシー制御付き |
| ブラウザ/Webインタラクション | 利用不可 | サポート |
| ファイルストレージ | セッションスコープのみ | ステップ間で永続的 |
| セッションあたりのコスト | 低い | 高い |
| インフラストラクチャの複雑さ | 低い | 高い |
| ヒューマンインザループチェックポイント | 一般的ではない | 一般的 — デプロイ、マージ、または外部アクションの前に承認 |
| 並行性モデル | 多数の並列短命セッション | 少数の長時間セッション |
セッションの寿命と状態の要件が最も迅速なフィルターです。ワークロードがターン間でリセットされる場合は、インタープリターを使用してください。ワークロードが複数のターンにわたって目標に向かって構築される場合は、ランタイムを使用してください。
ツールの幅が2番目のフィルターです。ブラウザ制御、git操作、CLIツール、外部API呼び出しにはランタイムが必要です。唯一のツールがコード実行である場合、インタープリターで十分です。
ヒューマンインザループチェックポイントは、ほとんどの場合、ランタイムを示します。承認を待つためにセッションを一時停止し、その後再開するには、永続的な状態と再開可能なセッションが必要です。インタープリターはこれ用に設計されていません。
コードインタープリターが最適な場合
コードインタープリターは、実行が bounded で自己完結型である場合に適切な選択です。最も強力なユースケースは次のとおりです。
データ分析アシスタント: ユーザーがファイルをアップロードし、質問をすると、チャートとサマリーが返ってきます。作業はモデルが出力を返した時点で完了です。前のステップの記憶に依存する次のステップはありません。
数学および計算ツール: 電卓、単位変換、統計分析、数値シミュレーション。これらはシングルパスです。入力が入り、出力が出ます。
自動レポート作成: データソースからレポートを生成し、メールで送信または保存するスケジュールジョブ。ジョブが実行され、アーティファクトを生成し、終了します。
チャートおよび可視化生成: モデルがmatplotlibまたは同様のコードを作成し、インタープリターがそれを実行し、ユーザーは画像を取得します。永続的な環境は必要ありません。
サンドボックス化されたLLMツールの使用: モデルがデータを推論したり、計算を検証したり、出力をフォーマットしたりするために code_interpreter ツールを必要とする場合、そしてそれだけの場合、コードインタープリターはまさにAPIが設計されているものです。
これらのシナリオにおけるインタープリターの魅力は実用的です。セッションあたりのコストが安く、操作が容易で、セキュリティ保護が簡単です。管理する永続的な状態も、追跡するセッションライフサイクルもなく、コードが一度実行されると環境が消えるため、攻撃対象領域が狭くなります。
エージェントランタイムが最適な場合
エージェントランタイムは、タスクが時間をかけて複数のツールを調整し、ステップ間で状態を維持し、コード実行サンドボックスの外でアクションを実行することを必要とする場合に適切な選択です。
コーディングエージェント: コードベースを読み、変更を書き、テストスイートを実行し、失敗を修正し、プルリクエストを開くエージェントには、git、ターミナル、ファイルシステムを備えた永続的なワークスペースが必要です。これは一時的なインタープリターとはアーキテクチャ的に互換性がありません。
ブラウザおよびWeb自動化エージェント: 動的コンテンツのスクレイピング、フォームへの入力、マルチステップのWebフローのナビゲート、ビジュアルインターフェースからの構造化データの抽出 — これらすべてには、ワークフローを完了するのに十分な時間持続する実際のブラウザセッションが必要です。
研究およびデータ収集パイプライン: 複数のソースからドキュメントを取得し、情報を相互参照し、中間結果をディスクに書き込み、最終的な合成出力を生成するエージェントには、これらすべてのステップにわたって永続化するワークスペースが必要です。
評価およびRLワークロード: 多数のエピソードを並行して実行し、それぞれが独自の状態を維持し、スコアを追跡し、チェックポイントを書き込むには、大規模な並行性とセッション分離のために設計されたランタイムが必要です。
長時間実行インフラストラクチャエージェント: リソースをプロビジョニングし、デプロイを実行し、出力を監視し、数分または数時間のウィンドウにわたって変更に反応するエージェントには、一時停止、再開、およびチェックポイントが可能なセッションモデルが必要です。
エージェンティックコーディングツール — CodexスタイルのエージェントやIDE接続エージェントなど、実際のプロジェクトでアクションを実行するもの — には、サンドボックス化されたインタープリターではなく、開発環境の完全な表面が必要です。
ランタイムのコストは、状態管理、ツール調整、セッション永続性を手動で配線する代わりになる場合に正当化されます。ランタイムはそのインフラストラクチャを提供します。あなたはポリシーを設定します。
ハイブリッドパターン：1つのアプリで両方を使用する
多くの実際のアプリケーションは両方のパターンを組み込んでいます。コーディングアシスタントは、全体的なセッション（リポジトリコンテキストの維持、変更されたファイルの追跡、ブランチの管理）にエージェントランタイムを使用し、テストの実行や、大規模なエージェントワークフロー内のサブ操作としてサンドボックス化されたユーザー提供スクリプトを実行するために、特にコードインタープリターを呼び出す場合があります。
データ分析製品は、ワークフロー全体（データのダウンロード、クリーニング、複数ソースの結合）を調整するためにエージェントランタイムを使用し、厳格なサンドボックス化が重要で状態を永続化する必要のない個々の計算ステップには、分離されたインタープリター呼び出しを使用する場合があります。
パターンは実際には次のようになります。
- 外側のレイヤーはエージェントランタイムです。セッションを保持し、ツールを調整し、状態を管理します。
- 厳格な分離を必要とする内部操作では、短命なコードインタープリター呼び出しを多くのツールの1つとして使用します。
- エージェントランタイムは、インタープリターをいつ呼び出すか、どの入力を渡すか、出力をどうするかを決定します。
これは複雑なアーキテクチャパターンではありません。各レイヤーをその目的のために使用しているだけです。エージェントランタイムはワークフローを管理し、インタープリターは必要に応じてサンドボックス化された実行を処理します。
各モデルに対するサンドボックスインフラストラクチャの評価
マネージドサンドボックスプロバイダーを評価している場合でも、独自のものを設計している場合でも、回答する必要のある質問は、構築しているモデルに基づいて大きく異なります。
コードインタープリターワークロードの場合、評価基準は比較的狭いです。
- 起動レイテンシはどのくらいですか？インタラクティブな使用にはサブ秒の起動が重要です。
- デフォルトイメージで利用可能な言語とパッケージは何ですか？
- ユーザーは追加のパッケージをインストールできますか？また、それはセキュリティモデルで許可されていますか？
- リソース制限（CPU、メモリ、実行時間）は何ですか？
- セッションアーティファクトはどのように返されますか？同期応答、ファイルダウンロード、または署名付きURL？
- 永続的なファイルシステムオプションはありますか？それとも終了時にすべて破棄されますか？
エージェントランタイムワークロードの場合、基準は大幅に拡大します。
- 環境はセッション内のステップ間で存続する永続的なファイルシステムをサポートしていますか？
- セッションは一時停止および再開できますか？ヒューマンインザループワークフローやコスト管理のために？
- ブラウザサポートはありますか？また、どのように設定されますか？
- どのようなシェルツールとCLIが利用可能ですか？
- ネットワークアクセスはどのように制御されますか？出力ポリシー、DNSフィルタリング、送信許可リスト？
- セッションの並行性モデルは何ですか？また、どのようにスケーリングしますか？
- シークレットはどのように注入され、スコープされますか？
- どのような可観測性がありますか？コマンドログ、ファイル変更追跡、リソースメトリクス？
- プラットフォームは、典型的なリクエスト-レスポンスサイクルを超える長時間実行セッションをどのように処理しますか？
Novita Agent Sandbox は、エージェントランタイムワークロード（コーディングエージェント、ブラウザ自動化、データ分析パイプライン、永続的な状態、ツールアクセス、セッション制御を必要とする評価/RLワークロード）向けに設計されています。マイクロVM分離を使用し、一時停止/再開をサポートし、NovitaのモデルAPIプラットフォームと統合されているため、LLM推論にNovitaを使用するチームは、同じプラットフォームでサンドボックスワークロードを実行できます。エージェントワークフローのためのサンドボックスインフラストラクチャを評価しているチームは、Novita Agent Sandbox ドキュメント で分離モデル、ライフサイクルAPI、およびリソース設定を確認できます。
真にインタープリターのみのワークロード（単一スクリプト、一時的、ステートレス）の場合、完全なエージェントランタイムは不要なオーバーヘッドです。よりシンプルなツールを使用してください。
実用的なテスト：モデルのターンごとに実行環境が破棄されて再構築された場合、ワークフローは正しく完了できますか？はいの場合、インタープリターで十分です。いいえの場合 — 状態、ツールアクセス、またはセッションの継続性が重要であるため — ランタイムが必要です。
FAQ
コードインタープリターとエージェントランタイムの主な違いは何ですか？
コードインタープリターは、サンドボックス環境でコードを実行し、セッションが終了すると環境を破棄します。エージェントランタイムは、ワークフローの複数のステップにわたって、ファイル、インストールされたツール、ブラウザアクセス、セッション状態を含む永続的なワークスペースを維持します。インタープリターは「このコードを実行して結果を返す」に答え、ランタイムは「必要なだけ多くのステップをかけてこの目標に向かって作業する」に答えます。
コードインタープリターはWeb検索やファイルアクセスなどのツールを使用できますか？
一部のコードインタープリター実装は、限定的なツール使用（ファイルアップロード、サンドボックス内のネットワーク呼び出し、アーティファクトの返却）をサポートしています。サポートしていないのは、ターン間で状態を引き継ぐ永続的なワークスペースや、単一の関数呼び出しを超えて存続するブラウザセッションです。アプリがWebページを読み取り、ファイルを書き込み、後でそのファイルを参照する必要がある場合は、ランタイムが必要です。
エージェントランタイムは常にコードインタープリターよりも高価ですか？
セッションあたりでは、はい。エージェントランタイムは、より多くのインフラストラクチャ（永続的なファイルシステム、より長寿命のプロセス、ブラウザまたはCLIアクセス）を伴い、これらのコンポーネントは短命なインタープリターサンドボックスよりもコストがかかります。真にマルチステップの調整を必要とするワークロードの場合、ランタイムコストは正当化されます。シングルパスタスクの場合、それはオーバーヘッドです。
同じアプリケーションで両方をいつ使用すべきですか？
外部ワークフローが永続的な状態を必要とするが、個々のサブ操作が厳格な分離の恩恵を受ける場合。テストスイートをサンドボックス化されたインタープリターで実行するコーディングエージェント、または計算ステップを一時的なインタープリターに委任しながらオーケストレーションレイヤーが全体的な状態を保持するデータパイプラインは、両方とも一般的なハイブリッドパターンです。
Novita Agent Sandbox は両方のモデルをサポートしていますか？
Novita Agent Sandbox は、エージェントランタイムワークロード（永続的なワークスペース、一時停止/再開、ブラウザアクセス、マルチステップセッション制御）向けに設計されています。分離された一時的なインタープリター呼び出しの場合、ユースケースに応じて、より軽量な実行がより適切な場合があります。現在の機能の詳細については、Novita Agent Sandbox ドキュメント を参照してください。
自分のワークロードにランタイムが必要かどうかを知るにはどうすればよいですか？
実用的なテスト：モデルのターンごとに実行環境が破棄されて再構築された場合、ワークフローは正しく完了できますか？はいの場合、インタープリターで十分です。答えがいいえの場合 — 状態、ツールアクセス、ブラウザ制御、またはセッションの継続性が重要であるため — ランタイムが必要です。
