Claude Code leitet alle seine Anfragen über den Anthropic-kompatiblen API-Endpunkt, den du angibst. Ändere eine Umgebungsvariable und schon verwendest du Qwen, DeepSeek, GLM oder MiniMax über Claude Codes vollständigen agentischen Workflow – inklusive MCP-Tool-Aufruf, Dateibearbeitung und Bash-Ausführung – ohne den Rest deiner Konfiguration anzufassen.
Diese Anleitung erklärt, wie Routing funktioniert, wie du den Novita AI-Endpunkt als Backend konfigurierst, wie MCP-Tool-Aufrufe durch ein geroutetes Setup fließen und wie du die Tool-Ausführung sicher in Novitas Agent Sandbox ausführst.
Was ist ein Claude Code Router?
Im Claude Code-Kontext ist ein „Router" jeder Anthropic-API-kompatible Endpunkt, an den Claude Code seine Anfragen sendet. Standardmäßig ist dies Anthropics eigene API unter api.anthropic.com. Durch Setzen von ANTHROPIC_BASE_URL leitest du diese Anfragen an einen anderen Anbieter um – einen, der dasselbe API-Format akzeptiert und Antworten in derselben Struktur zurückgibt.
Das sollte klar verstanden werden: Claude Code weiß nicht und interessiert sich nicht dafür, welcher Anbieter hinter dem konfigurierten Endpunkt sitzt. Es sendet eine Anthropic-formatierte Nachrichtenanfrage, liest eine Anthropic-formatierte Antwort und fährt fort. Der Router – ob Novita AI, ein selbst gehosteter Proxy oder ein Drittanbieter-Aggregator – übernimmt Modellauswahl, Inferenz und Antwortformatierung transparent.
Drei praktische Gründe für den Einsatz eines Routers:
- Modellzugriff: Open-Weight-Modelle wie Qwen3-Coder, MiniMax M2.7 und GLM-4.7 sind auf dem Anthropic-Endpunkt nicht verfügbar. Durch Routing über Novita AI erhältst du Zugriff auf alle innerhalb desselben Claude Code-Workflows.
- Kostenmanagement: Open-Weight-Modelle über Anbieter wie Novita kosten typischerweise deutlich weniger pro Million Tokens als Anthropics geschlossene Modelle. Bei hochvolumigen agentischen Sitzungen, in denen das Modell hunderte Tool-Aufrufe tätigt, summiert sich dieser Unterschied.
- Spezialisierte Fähigkeiten: Einige Open-Weight-Modelle sind speziell für Funktionsaufrufe und mehrschrittige Tool-Nutzung trainiert, was genau das ist, was Claude Codes MCP-Integration erfordert. Die Wahl eines auf Tool-Calling-Genauigkeit optimierten Modells anstelle eines allgemeinen Modells kann fehlgeschlagene oder fehlerhafte Tool-Aufrufe in komplexen Workflows reduzieren.
Wie Claude Code Routing funktioniert
Drei Umgebungsvariablen steuern das Routing:
| Variable | Zweck |
|---|---|
ANTHROPIC_BASE_URL |
Der API-Endpunkt. Ändere dies, um über einen anderen Anbieter zu routen. |
ANTHROPIC_AUTH_TOKEN |
Der API-Schlüssel zur Authentifizierung am Zielendpunkt. |
ANTHROPIC_MODEL |
Die zu verwendende Modell-ID. Muss der Namenskonvention des Zielanbieters entsprechen. |
Wenn ANTHROPIC_BASE_URL gesetzt ist, sendet Claude Code alle Inferenzanfragen an diese URL anstatt an https://api.anthropic.com. Der Zielendpunkt muss das Anthropic-Nachrichten-API-Format implementieren – dieselbe Anfrage- und Antwortstruktur, die Claudes native Modelle verwenden.
Ein wichtiges Detail: Anthropics Modell-Aliase (sonnet, opus, haiku) werden nur korrekt gegen Anthropics eigenen Endpunkt aufgelöst. Bei Verwendung eines Drittanbieter-Routers setze ANTHROPIC_MODEL auf die spezifische Modell-ID des Anbieters, nicht auf einen Alias. Ein Alias wie sonnet, der an einen Nicht-Anthropic-Endpunkt übergeben wird, führt entweder zu einem Fehler oder gibt ein unerwartetes Modell zurück.
ANTHROPIC_SMALL_FAST_MODEL ist ein zweiter Modellslot für interne Hintergrundaufgaben von Claude Code: Zusammenfassung, Kontextkompression und leichtgewichtige Zwischenschritte. Wenn du dies auf ein schnelleres, günstigeres Modell ausrichtest, hältst du die Sitzungskosten niedrig, ohne die Qualität der Antworten deines Hauptmodells zu beeinträchtigen.
Einrichten von Novita AI als deinen Router
Novita AIs Anthropic-kompatibler Endpunkt befindet sich unter https://api.novita.ai/anthropic. Er akzeptiert dasselbe Anfrageformat, das Claude Code nativ sendet, und unterstützt eine breite Palette von Open-Weight-Modellen, einschließlich Codierungs-Spezialisten und für Tool-Aufrufe optimierte Varianten.
Schritt 1: Hol dir deinen Novita-API-Schlüssel
- Melde dich unter novita.ai an – kostenlose Testguthaben sind bei der Anmeldung enthalten.
- Öffne Schlüsselverwaltung in deinem Dashboard.
- Klicke auf Neuen Schlüssel erstellen, kopiere den Schlüssel sofort (wird nur einmal angezeigt) und speichere ihn sicher.
Schritt 2: Konfiguriere die Umgebung
macOS / Linux:
export ANTHROPIC_BASE_URL="https://api.novita.ai/anthropic"
export ANTHROPIC_AUTH_TOKEN="<dein-novita-api-schluessel>"
export ANTHROPIC_MODEL="qwen/qwen3-coder-480b-a35b-instruct"
export ANTHROPIC_SMALL_FAST_MODEL="deepseek/deepseek-v4-flash"
Windows (PowerShell):
$env:ANTHROPIC_BASE_URL = "https://api.novita.ai/anthropic"
$env:ANTHROPIC_AUTH_TOKEN = "<dein-novita-api-schluessel>"
$env:ANTHROPIC_MODEL = "qwen/qwen3-coder-480b-a35b-instruct"
$env:ANTHROPIC_SMALL_FAST_MODEL = "deepseek/deepseek-v4-flash"
Windows (Eingabeaufforderung):
set ANTHROPIC_BASE_URL=https://api.novita.ai/anthropic
set ANTHROPIC_AUTH_TOKEN=<dein-novita-api-schluessel>
set ANTHROPIC_MODEL=qwen/qwen3-coder-480b-a35b-instruct
set ANTHROPIC_SMALL_FAST_MODEL=deepseek/deepseek-v4-flash
Schritt 3: Starte Claude Code
claude .
Claude Code startet im aktuellen Verzeichnis und leitet alle Inferenzen über Novita AI. MCP-Tools, Dateibearbeitung und Bash-Ausführung verhalten sich identisch zu einem nativen Anthropic-Setup.
Verfügbare Modelle auf Novita AI
| Modell | Novita-Modell-ID | Hauptstärke |
|---|---|---|
| Qwen3-Coder 480B | qwen/qwen3-coder-480b-a35b-instruct |
Codegenerierung, Langkontext-Reasoning |
| MiniMax M2.7 | minimax/minimax-m2.7 |
Agentische Tool-Calling-Genauigkeit |
| DeepSeek V4 Flash | deepseek/deepseek-v4-flash |
Schnelle Iteration, Kosteneffizienz |
| GLM-4.7 | zai-org/glm-4.7 |
Codierung und mehrschrittige agentische Aufgaben |
| Kimi K2 Instruct | moonshotai/kimi-k2-instruct |
Tool-Nutzung, mathelastige Codebasen |
Diese Open-Weight-Modelle laufen auf moderner GPU-Infrastruktur, aber ihre Kosten pro Token sind typischerweise viel niedriger. Bei Aufgaben wie ausgedehnten Refactoring-Sitzungen oder automatisierter Testgenerierung – wo Claude Code Dutzende von Tool-Aufrufen tätigt – macht dieser Unterschied in den Kosten pro Token praktisch etwas aus.
Überprüfe novita.ai/llm-api für die aktuelle Modellliste und bestätigte IDs, bevor du deine Konfiguration finalisierst. Modellverfügbarkeit und IDs können sich ändern, wenn Anbieter Angebote hinzufügen oder aktualisieren.
Routing von Tool-Aufrufen über MCP
Claude Codes Tool-Aufruf-Ebene ist MCP – das Model Context Protocol. Wenn du einen MCP-Server mit claude mcp add hinzufügst, verbindet sich Claude Code beim Sitzungsstart mit ihm und lädt die Tools, die er bereitstellt. Während einer Sitzung entscheidet das geroutete LLM, wann diese Tools aufgerufen werden, welche Argumente übergeben werden und wie auf Ergebnisse reagiert wird.
Die Aufteilung des Routings ist wichtig: Das LLM-Backend (dein Novita AI-Router) übernimmt das gesamte Reasoning – welche Tools aufgerufen werden, in welcher Reihenfolge und mit welchen Argumenten. Der MCP-Server übernimmt die Ausführung – er empfängt Tool-Aufrufe, führt die zugrundeliegende Aktion aus und gibt Ergebnisse zurück. Claude Code koordiniert zwischen ihnen.
In der Praxis bedeutet dies, dass die Qualität der Tool-Calling-Unterstützung deines Routers bestimmt, wie zuverlässig komplexe mehrschrittige Aufgaben abgeschlossen werden. Ein Modell, das fehlerhafte Funktionsaufruf-Argumente generiert oder nach Tool-Fehlern nicht fortfährt, wird mitten in einer Aufgabe stecken bleiben. Modelle, die speziell auf Funktionsaufruf-Workflows feinabgestimmt sind – wie Qwen3-Coder und MiniMax M2.7 – handhaben diese Sequenzen konsistenter.
Hinzufügen eines MCP-Servers zu einem gerouteten Setup
# Lokaler Server (Projektbereich) – Claude Code startet den Prozess
claude mcp add my-server -- python my_server.py
# Remote-HTTP-Server – verbindet sich mit einem bereits laufenden Server
claude mcp add remote-server --transport http https://your-server.example.com/mcp
Die Remote-HTTP-Option verbindet sich mit einem unabhängig laufenden Server. Das ist die Architektur, für die Novita Agent Sandbox entwickelt wurde: Der MCP-Server bleibt laufen und erstellt bei Bedarf Sandbox-Instanzen, sobald Tool-Aufrufe eingehen.
Ausführung von Tools im Agent Sandbox
Wenn deine MCP-Tools das Ausführen von Code, das Verarbeiten von Dateien oder das Aufrufen externer Systeme beinhalten, möchtest du, dass diese Ausführung in einer isolierten Umgebung stattfindet, nicht auf deinem Entwicklungsrechner. Novitas Agent Sandbox bietet dies als verwalteten Cloud-Dienst an.
Eine Sandbox-Instanz ist ein kurzlebiger isolierter Container, den dein MCP-Server erstellt, wenn Claude Code ein Code-Ausführungs-Tool auslöst. Jeder Container bietet:
- Isoliertes Dateisystem: getrennt vom Host, nichts überlappt zwischen Sitzungen
- Vorinstallierte Umgebung: Python mit gängigen Data-Science- und Scripting-Paketen
- Schneller Start: unter 200 ms Kaltstart, geeignet für latenzarme Tool-Aufruf-Sequenzen
- Abrechnung pro Sekunde: du zahlst nur für aktive Ausführungszeit
- Shell- und Python-Ausführung: vollständiger Kommandozeilenzugriff für mehrsprachige Workflows
Der Datenfluss in einem gerouteten Claude Code-Setup mit Sandbox sieht so aus:
Claude Code
→ sendet Reasoning-Anfragen an Novita LLM API (den Router)
→ empfängt Tool-Call-Entscheidungen vom Modell
→ leitet Tool-Aufrufe an den MCP-Server weiter
→ MCP-Server erstellt eine Novita Sandbox-Instanz
→ Sandbox führt den Code aus und gibt Ausgabe zurück
→ MCP-Server gibt Ergebnisse an Claude Code zurück
→ Novita LLM API führt Reasoning über Ergebnisse durch, entscheidet nächsten Schritt
Diese Trennung hält die Ausführung von nicht vertrauenswürdigem Code eingeschlossen, während der LLM-Router volle Sicht auf die Ergebnisse für mehrschrittiges Reasoning hat.
Um Novita Sandbox innerhalb eines MCP-Tool-Handlers zu verwenden, installiere das SDK:
pip install novita-sandbox
Erstelle dann eine Sandbox-Instanz und verwende sie in deiner Tool-Implementierung:
from novita_sandbox.code_interpreter import Sandbox
def run_code_tool(code: str, api_key: str) -> dict:
sandbox = Sandbox.create(
template="code-interpreter-v1",
api_key=api_key,
domain="sandbox.novita.ai",
timeout=300,
)
result = sandbox.run_code(code, language="python")
sandbox.kill()
return {
"output": result.logs,
"error": result.error,
}
Die Vorlage code-interpreter-v1 ist vorinstalliert mit pandas, numpy, matplotlib und anderen häufig verwendeten Paketen, sodass die meisten Datenanalyse- und Scripting-Aufgaben ohne zusätzliche Einrichtungsschritte ausgeführt werden.
Auswahl eines Modells für Tool-lastige Workflows
Die Modellwahl beeinflusst zwei Dinge in einem gerouteten Claude Code-Setup: die Reasoning-Qualität für die Entscheidung, was zu tun ist, und die Tool-Calling-Zuverlässigkeit für die korrekte Ausführung. Diese korrelieren nicht immer – ein Modell, das bei offenen Aufgaben gut reasoning, kann inkonsistente Funktionsaufruf-Schemata generieren, wenn Tools komplexe Argumenttypen haben.
Qwen3-Coder 480B schneidet gut bei langfristigen Codierungsaufgaben ab, bei denen Claude Code viele Dateien lesen, einen Ansatz planen und eine mehrschrittige Bearbeitungssequenz ausführen muss. Seine Langkontext-Verarbeitung bedeutet, dass die Wahrscheinlichkeit geringer ist, frühere Tool-Ergebnisse während einer komplexen Aufgabe aus den Augen zu verlieren.
MiniMax M2.7 ist auf agentische Genauigkeit abgestimmt – speziell darauf ausgelegt, falsche Tool-Aufrufe zu minimieren und mehrschrittige Tool-Sequenzen zu handhaben, bei denen jeder Schritt auf dem vorherigen Ergebnis aufbaut. Für MCP-Setups mit mehreren voneinander abhängigen Tools reduziert diese Genauigkeit die Anzahl der benötigten Wiederherstellungsschleifen.
DeepSeek V4 Flash ist die praktische Wahl für ANTHROPIC_SMALL_FAST_MODEL. Es ist schnell und günstig, und die Aufgaben, die Claude Code an das kleine Modell auslagert – Sitzungszusammenfassung, Kontextkompression – erfordern nicht dieselbe Reasoning-Tiefe wie die primären Codierungsaufgaben.
Eine praktische Beobachtung: Wenn du einen benutzerdefinierten MCP-Server mit Tools erstellst, die viele optionale Parameter oder verschachtelte Schemata haben, teste die Aufrufgenauigkeit des Modells mit repräsentativen Beispielen, bevor du es in einer langlebigen Sitzung einsetzt. Tool-Calling-Fehler sind weniger störend, wenn sie früh erkannt werden.
FAQ
Kann ich jeden LLM-Router mit Claude Code verwenden, nicht nur Novita AI?
Ja. Jeder Dienst, der die Anthropic-Nachrichten-API an seiner Basis-URL implementiert, funktioniert. Dies umfasst LiteLLM, konfiguriert mit dem Anthropic-Format, selbst gehostete Proxys oder andere kommerzielle Router-Dienste. Setze ANTHROPIC_BASE_URL auf diesen Endpunkt, ANTHROPIC_AUTH_TOKEN auf den entsprechenden Schlüssel und ANTHROPIC_MODEL auf die Modell-ID, die dieser Endpunkt erkennt.
Funktionieren MCP-Tools bei Routing über einen Nicht-Anthropic-Anbieter?
Ja. MCP arbeitet auf der Claude Code-Ebene, nicht auf der API-Ebene. Der Router beeinflusst nur, welches Modell das Reasoning über die Tool-Nutzung durchführt. Solange das Modell Funktionsaufrufe im Anthropic-Nachrichtenformat unterstützt, funktionieren MCP-Tools unabhängig vom Anbieter gleich.
Warum funktioniert der Alias sonnet nicht, wenn ich über Novita AI route?
Anthropics Modell-Aliase (sonnet, opus, haiku) werden von Anthropics Endpunkt aufgelöst, nicht von Claude Code. Wenn du über einen Drittanbieter routest, ist die Alias-Auflösung von Anthropic nicht beteiligt. Setze stattdessen ANTHROPIC_MODEL auf eine spezifische Modell-ID deines Anbieters.
Wie wechsle ich zurück zu Anthropics nativen Modellen?
Setze die Routing-Variablen für die aktuelle Sitzung zurück:
unset ANTHROPIC_BASE_URL
unset ANTHROPIC_AUTH_TOKEN
unset ANTHROPIC_MODEL
unset ANTHROPIC_SMALL_FAST_MODEL
Claude Code fällt beim nächsten Start auf das zurück, was in deiner Einstellungsdatei oder dem Anthropic-API-Standard steht.
Gibt es einen Latenz-Overhead bei der Verwendung eines Drittanbieter-Routers?
Es gibt einen kleinen zusätzlichen Netzwerk-Hop. Für interaktive Sitzungen ist dies in der Regel nicht spürbar. Für latenzempfindliche automatisierte Pipelines überprüfe die veröffentlichten Latenzzahlen des Anbieters, bevor du dich festlegst. Novita AI veröffentlicht Inferenzlatenz- und Durchsatzmetriken über seine LLM Metrics-Konsole.
Erfordert der Agent Sandbox einen separaten API-Schlüssel vom LLM-Router?
Nein. Der API-Schlüssel von Novita AI funktioniert sowohl für die LLM-API als auch für den Agent Sandbox. Derselbe Schlüssel, den du für ANTHROPIC_AUTH_TOKEN verwendest, wird an Sandbox.create() in deiner MCP-Tool-Implementierung übergeben.
Empfohlene Artikel
- Claude MCP Add Command: So installierst du MCP-Server in Claude Code
- Claude Code Default Model: So änderst, wechselst und wählst du das richtige Modell
- Baue einen Remote Code Execution MCP-Server mit Novita Sandbox und der mcp-use-Bibliothek
Quellen geprüft am 16. Juli 2026: Claude Code Umgebungsvariablen-Dokumentation, Novita AI LLM API, Novita Agent Sandbox.
