Novita Agent Runtime: AgentCore-kompatible KI-Agenten-Infrastruktur

Die Erstellung von KI-Agenten wird zunehmend einfacher. Die Bereitstellung im großen Maßstab bleibt jedoch eine große Herausforderung. Traditionelle Infrastrukturen wie Container, virtuelle Maschinen und serverlose Funktionen wurden für herkömmliche Webanwendungen entwickelt. Sie erfüllen nicht die spezifischen Anforderungen von KI-Agenten-Arbeitslasten.

Novita Agent Runtime schließt diese Lücke, indem es eine speziell entwickelte serverlose Infrastruktur für die Bereitstellung von KI-Agenten bereitstellt. Es basiert auf dem Novita Agent Sandbox, unterstützt LangGraph-Workflows, Microsoft AutoGen-Multi-Agenten-Systeme und benutzerdefinierte Implementierungen. Stellen Sie Ihre vorhandenen Agenten mit minimalen Codeänderungen und ohne Infrastrukturverwaltung in der Produktion bereit.

Die Infrastrukturlücke, die KI-Agenten zurückhält

Traditionelle Anwendungen folgen einem vorhersagbaren Muster: Eine Anfrage wird entgegengenommen, verarbeitet und eine Antwort zurückgegeben. Der gesamte Lebenszyklus wird in Millisekunden oder Sekunden abgeschlossen, wobei jede Anfrage unabhängig verarbeitet wird.

KI-Agenten funktionieren anders. Sie behalten ihren Reasoning-Zustand über Interaktionen hinweg, führen erweiterte Workflows aus, rufen externe Dienste mit unvorhersehbarer Latenz auf und erfordern eine starke Isolierung für gleichzeitige Benutzer, die sensible Daten verarbeiten.

Bestehende Infrastrukturen erfüllen diese Anforderungen nur unzureichend:

Funktion	Agent Sandbox	Container	Serverlos	Virtuelle Maschine
Startup-Zeit	<200ms (MicroVM)	Sekunden	1s	30+ Sekunden
Sicherheitsisolation	Stark (MicroVM)	Schwach (geteilter Kernel)	Stark	Stark
Zustandspersistenz	Sofortiges Anhalten/Fortsetzen	Unterstützt	Zustandslos	Langsame Snapshot-Wiederherstellung
Maximale Ausführungsdauer	Stunden	Unbegrenzt	Typischerweise 15-minütiges Limit	Unbegrenzt
Entwicklererlebnis	Agentenoptimierte APIs	Generische APIs	Funktionsbasierte APIs	Infrastrukturbasierte APIs

Novita Agent Sandbox kombiniert Millisekunden-Startzeit, MicroVM-Isolierung, zustandsbehaftete Ausführung und agenten-native APIs. Novita Agent Runtime, das auf Agent Sandbox basiert, ermöglicht es Ihnen, vorhandene Agenten mit minimalen Codeänderungen auf dieser Infrastruktur bereitzustellen.

Novita Agent Runtime: Speziell entwickelt für KI-Agenten

Novita Agent Runtime ist ein leichtgewichtiges, framework-unabhängiges serverloses Bereitstellungstoolkit, das auf einer AgentCore-kompatiblen Architektur basiert. Es ermöglicht Ihnen, vorhandene KI-Agenten sicher und effizient in der Produktion bereitzustellen, ohne umfangreiche DevOps-Kenntnisse oder Infrastrukturverwaltung zu benötigen.

Das Toolkit unterstützt sowohl Echtzeitinteraktionen als auch langlaufende Arbeitslasten – von Konversationsschnittstellen, die Reaktionszeiten unter einer Sekunde benötigen, bis hin zu komplexen Reasoning-Aufgaben, die mehrere Stunden dauern können.

Novita Agent Runtime umfasst ein SDK und CLI-Tools. Das SDK bietet dekoratorbasierte APIs, um Ihren Agenten als standardmäßigen HTTP-Dienst verfügbar zu machen, sowie Methoden, um Agenten programmatisch aufzurufen. Die CLI ermöglicht die Konfiguration und Bereitstellung mit einem Klick im Novita Agent Sandbox-Ökosystem.

Hauptfunktionen von Novita Agent Runtime

Framework-unabhängig. Novita Agent Runtime funktioniert mit LangGraph, Microsoft AutoGen, Google ADK, OpenAI Agents SDK, CrewAI und benutzerdefinierten Implementierungen. Nutzen Sie Ihr bevorzugtes Framework ohne Infrastruktur-Lock-in.

Modell-unabhängig. Die Laufzeit ist unabhängig von Ihrer Modellwahl. Sie funktioniert mit Novita AI, Anthropic Claude, Google Gemini, OpenAI und allen anderen Anbietern.

Unter 200ms Kaltstarts. Leichte Virtualisierungstechnologie erreicht nahezu containerbasierte Startzeiten mit hardwarebasierter Umgebungsisolation. Selbst erste Anfragen erhalten Antworten in unter einer Sekunde.

Vollständige Sitzungsisolation. Jede Benutzersitzung läuft in einer dedizierten MicroVM mit isolierten CPU-, Speicher- und Dateisystemressourcen. Nach Abschluss der Sitzung wird die gesamte MicroVM beendet und der Speicher bereinigt.

Stundenlange Ausführung. Die Plattform unterstützt langlaufende Arbeitslasten von mehreren Stunden, die komplexe Agenten-Reasoning, asynchrone Workflows und Multi-Agenten-Zusammenarbeit ermöglichen.

Verbrauchsbasierte Preisgestaltung. Sie zahlen nur für das, was Sie nutzen. Skalieren Sie vom Prototyp bis zur Produktion, ohne für ungenutzte Kapazitäten zu viel zu zahlen oder sich um Ressourcenplanung sorgen zu müssen.

Vom Code in die Cloud in drei Schritten

Schritt 1: Integrieren Sie das SDK. Fügen Sie Ihrem vorhandenen Agenten-Code mit der dekoratorbasierten API des SDKs nur wenige Zeilen hinzu. Das SDK übernimmt automatisch Anfrage-Routing, Antwortformatierung und Health Checks.

from novita_sandbox.agent_runtime import AgentRuntimeApp

app = AgentRuntimeApp()

@app.entrypoint
def my_agent(request: dict):
    # Agent business logic
    return {"result": "..."}

Schritt 2: Bereitstellung mit einem Befehl. Nutzen Sie die CLI, um Ihren Agenten zu konfigurieren und bereitzustellen:

# Configure your agent
novita-sandbox-cli agent configure

# Deploy to cloud
novita-sandbox-cli agent launch

Die CLI generiert eine Dockerfile und die Konfigurationsdatei .novita-agent.yaml, erstellt Ihre Sandbox-Vorlage und lädt sie hoch und generiert dann eine Agenten-ID im Format <agent_name>-<template_id>.

Schritt 3: Rufen Sie Ihren Agenten auf. Nach der Bereitstellung können Sie Ihren Agenten über die CLI für schnelle Tests aufrufen:

# Quick test with CLI
novita-sandbox-cli agent invoke "Hello, Agent!"

Oder rufen Sie ihn programmatisch über das SDK auf:

import json
from novita_sandbox.agent_runtime import AgentRuntimeCliendevet

client = AgentRuntimeClient(api_key="your-api-key")

# Prepare request data (converted to a JSON string and encoded as bytes)
payload = json.dumps({"prompt": "Hello, Agent!"}).encode()

response = await client.invoke_agent_runtime(
    agentId="agent-xxxxx",
    payload=payload
)

Jeder Aufruf erstellt eine isolierte Sandbox-Instanz, führt den Agenten in dieser sicheren Umgebung aus und gibt das Ergebnis zurück.

Für eine detaillierte Anleitung mit Codebeispielen siehe den Schnellstartanleitung. Für vollständige Installationsanweisungen siehe die Installationsanleitung.

Funktioniert mit allen gängigen KI-Frameworks

Alle Framework-Integrationen folgen einem konsistenten Muster: Initialisieren Sie die AgentRuntimeApp, richten Sie Ihr Framework ein, definieren Sie einen Einstiegspunkt mit dem Dekorator und führen Sie die Anwendung aus. Das SDK funktioniert nahtlos mit LangGraph, OpenAI Agents SDK, Microsoft AutoGen, Google ADK und benutzerdefinierten Implementierungen.

from novita_sandbox.agent_runtime import AgentRuntimeApp

# 1. Create Agent Runtime application instance
app = AgentRuntimeApp()

# 2. Initialize your Agent framework

# 3. Define entry point with decorator
@app.entrypoint
def agent_invocation(request: dict) -> dict:
    """
    Args:
        request: Request data, typically contains fields like prompt
    Returns:
        Response data dictionary
    """
    prompt = request.get("prompt", "")
    
    # Call your Agent framework
    result = your_agent.run(prompt)
    
    return {"result": result}

# 4. Run the application
if __name__ == "__main__":
    app.run()

Für detaillierte Integrationsbeispiele siehe den Agent-Framework-Integrationsanleitung. Für erweiterte Funktionen einschließlich Streaming-Antworten, Mehrrunden-Konversationen und Verwaltung von Umgebungsvariablen siehe die Dokumentation zu Erweiterten Funktionen.

Transparente sekundengenaue Preisgestaltung

Novita Agent Runtime verwendet eine verbrauchsbasierte Preisgestaltung mit sekundengenauer Abrechnung.

CPU

vCPUs	Einheitspreis (pro Sekunde)
1× CPU	$0.00000784/s
2× CPU	$0.00001568/s
3× CPU	$0.00002352/s
4× CPU	$0.00003136/s
5× CPU	$0.0000392/s
6× CPU	$0.00004704/s
7× CPU	$0.00005488/s
8× CPU	$0.00006272/s

Speicher

Speicher	Einheitspreis
Gültige Werte: Vielfache von 512 MiB, von 512 MiB bis 8192 MiB (pro GiB / s)	$0.00000256 / GiB / s
512 MiB	$0.00000128 / s
1 GiB	$0.00000256 / s
2 GiB	$0.00000512 / s

Speicher: Jedes Konto enthält 60 GB kostenlosen Speicher. Zusätzlicher Speicher wird mit $0.000072/GB/h berechnet.

Starten Sie jetzt die Entwicklung von produktionsreifen KI-Agenten

Novita Agent Runtime beseitigt die Infrastrukturkomplexität, die die Bereitstellung von KI-Agenten traditionell verlangsamt. Die speziell entwickelte serverlose Infrastruktur mit unter 200ms Kaltstarts, vollständiger Sitzungsisolation und Framework-Flexibilität ermöglicht es Entwicklungsteams, sich auf die Erstellung intelligenter Agentenverhalten zu konzentrieren, anstatt Infrastruktur zu verwalten.

Starten Sie noch heute, indem Sie das SDK und die CLI installieren und Ihren ersten Agenten in Minuten bereitstellen. Für zusätzliche Unterstützung treten Sie der Novita AI Discord-Community bei oder kontaktieren Sie unser Vertriebsteam.

Über Novita AI

Novita AI ist eine KI-Cloud-Plattform, die Entwicklern eine einfache Möglichkeit bietet, KI-Modelle über unsere einfache API bereitzustellen, und gleichzeitig eine erschwingliche und zuverlässige GPU-Cloud für die Entwicklung und Skalierung bietet.