So verwenden Sie die Xiaomi MiMo-V2.5-Pro API auf Novita AI

Xiaomi MiMo-V2.5-Pro ist auf Novita AI über die Serverless API verfügbar, sodass Entwickler die verifizierte Modell-ID xiaomimimo/mimo-v2.5-pro mit Novitas OpenAI-kompatiblem Chat-Completions-Endpunkt für Long-Context-Text-Workflows, reasoning-intensive Codierungsaufgaben, Funktionsaufrufe und strukturierte Ausgabeexperimente aufrufen können.

Schnelleinrichtung

Verwenden Sie diesen Ausgangspunkt, wenn Sie bereits einen Novita AI API-Schlüssel haben und den kürzesten verifizierten Weg zu einer ersten Anfrage wünschen.

pip install openai
export NOVITA_API_KEY="YOUR_NOVITA_API_KEY"

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["NOVITA_API_KEY"],
    base_url="https://api.novita.ai/openai",
)

response = client.chat.completions.create(
    model="xiaomimimo/mimo-v2.5-pro",
    messages=[
        {
            "role": "system",
            "content": "You are a concise software architecture assistant.",
        },
        {
            "role": "user",
            "content": "Outline a migration plan for moving a Python monolith into services.",
        },
    ],
    max_tokens=2048,
    temperature=0.7,
)

print(response.choices[0].message.content)

Die aktuelle Xiaomi MiMo-V2.5-Pro Modellseite listet das Modell als Novita AI Serverless API-Option und zeigt die OpenAI-kompatible Basis-URL https://api.novita.ai/openai. Die aktuelle Novita AI Chat Completions API-Referenz dokumentiert den REST-Pfad als /openai/v1/chat/completions.

Was Xiaomi MiMo-V2.5-Pro ist

Xiaomi MiMo-V2.5-Pro ist ein reines Text-zu-Text Large Language Model für komplexe agentische und Softwareentwicklungs-Workflows. Auf Novita AI lautet die API-Modell-ID:

xiaomimimo/mimo-v2.5-pro

Die aktuelle Novita AI Modellliste verifiziert diese Implementierungsdetails:

Feld	Aktueller Wert
Zugriffspfad	Serverless API
Endpunktfamilie	OpenAI-kompatible Chat Completions
Basis-URL	https://api.novita.ai/openai
Modell-ID	xiaomimimo/mimo-v2.5-pro
Kontextlänge	1.048.576 Token
Maximale Ausgabe	131.072 Token
Eingabefähigkeit	Text
Ausgabefähigkeit	Text
Funktionsaufruf	Unterstützt
Strukturierte Ausgabe	Unterstützt
Reasoning	Unterstützt
Anthropic API	Unterstützt

Upstream beschreibt die Xiaomi MiMo-V2.5-Pro Hugging Face Modellkarte MiMo-V2.5-Pro als ein quelloffenes Mixture-of-Experts-Sprachmodell mit insgesamt 1,02 Billionen Parametern, 42 Milliarden aktiven Parametern und einem Kontextfenster von bis zu 1 Million Token. Behandeln Sie die upstream Modellkarte als nützlichen Hintergrund für die Modellfamilie und verwenden Sie die Novita AI Modellseite für Novita-spezifische Modell-ID, Preise, Verfügbarkeit und Endpunktdetails.

Wann MiMo-V2.5-Pro verwendet werden sollte

MiMo-V2.5-Pro ist am nützlichsten, wenn Ihre Anwendung ein gehostetes Textmodell für langlaufende, anweisungsintensive Arbeiten benötigt, anstatt einer kurzen, einmaligen Antwort. Gute Bewertungsziele sind Repository-Analysen, mehrteilige Refactoring-Pläne, Long-Context-Dokumentsynthese, Agentenplanung, Tool-Routing-Prototypen und strukturierte Extraktionsaufgaben.

Verwenden Sie es, wenn Sie Folgendes benötigen:

• Ein verifiziertes Kontextfenster von 1.048.576 Token auf Novita AI.
• Eine hohe maximale Ausgabe für detaillierte Pläne, Code-Reviews, Migrationsskizzen oder mehrschrittige Reasoning-Traces.
• Unterstützung für Funktionsaufrufe, um Modellentscheidungen in Anwendungstools zu leiten.
• Unterstützung für strukturierte Ausgaben für JSON-ähnliche Antworten, die nachgelagerte Dienste parsen können.
• OpenAI-kompatible Chat Completions, sodass Sie vorhandene SDK-Muster wiederverwenden können.

Gehen Sie nicht davon aus, dass es für jede Aufgabe die kostengünstigste oder latenzärmste Wahl ist. Vergleichen Sie für kurze Prompts, hochvolumige Klassifizierung oder einfache Chats die aktuellen Optionen in der Novita AI Modellbibliothek und der Novita AI Preisseite, bevor Sie den gesamten Traffic auf ein Long-Context-Modell umleiten.

Voraussetzungen

Bevor Sie die erste Anfrage stellen, bereiten Sie vier Dinge vor:

1. Ein Novita AI-Konto.
2. Ein Novita AI API-Schlüssel, der in einer Umgebungsvariable wie NOVITA_API_KEY gespeichert ist.
3. Das OpenAI Python SDK oder ein anderer HTTP-Client, der OpenAI-kompatible Endpunkte aufrufen kann.
4. Eine aktuelle Preis- und Grenzwertprüfung für xiaomimimo/mimo-v2.5-pro.

Die aktuelle Novita AI Modellseite listet tokenbasierte Serverless-Preise für MiMo-V2.5-Pro auf. Sie zeigt einen allgemeinen Anzeigepreis von 2 $ pro Million Eingabe-Token, 0,4 $ pro Million gecachter Lese-Token und 6 $ pro Million Ausgabe-Token. Sie listet auch abgestufte Preise nach Eingabelänge auf:

Eingabelänge	Eingabepreis pro Million Token	Ausgabepreis pro Million Token	Gecachter Lesepreis pro Million Token
1 bis unter 262.144 Token	1 $	3 $	0,2 $
262.144 bis unter 1.048.576 Token	2 $	6 $	0,4 $

Da sich Modellseiten und Preistabellen ändern können, bestätigen Sie die aktuellen Preise auf der Modellseite oder der Preisseite vor dem produktiven Einsatz, insbesondere bei langen Prompts, bei denen die zweite Stufe zur Anwendung kommen kann.

Erste API-Anfrage

Der einfachste erste Aufruf verwendet das OpenAI SDK mit der Novita AI Basis-URL und der MiMo-V2.5-Pro Modell-ID.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["NOVITA_API_KEY"],
    base_url="https://api.novita.ai/openai",
)

response = client.chat.completions.create(
    model="xiaomimimo/mimo-v2.5-pro",
    messages=[
        {"role": "system", "content": "You are a practical coding assistant."},
        {
            "role": "user",
            "content": "Review this API design and list the main reliability risks.",
        },
    ],
    max_tokens=1024,
    temperature=0.7,
)

print(response.choices[0].message.content)

Wenn Sie REST bevorzugen, rufen Sie den aktuellen Chat Completions-Pfad direkt auf:

curl --request POST \
  --url https://api.novita.ai/openai/v1/chat/completions \
  --header "Authorization: Bearer $NOVITA_API_KEY" \
  --header "Content-Type: application/json" \
  --data '{
    "model": "xiaomimimo/mimo-v2.5-pro",
    "messages": [
      {
        "role": "system",
        "content": "You are a practical coding assistant."
      },
      {
        "role": "user",
        "content": "Create a checklist for validating a payment webhook integration."
      }
    ],
    "max_tokens": 1024,
    "temperature": 0.7
  }'

Für Produktionscode halten Sie API-Schlüssel außerhalb der Versionskontrolle, begrenzen Sie max_tokens auf die tatsächlich benötigte Menge Ihres Workflows und protokollieren Sie die Token-Nutzung, um zu sehen, wann Long-Context-Prompts die Kosten dominieren.

Hinweise zur Verwendung von Streaming und langem Kontext

Die Novita AI Chat Completions-Referenz enthält die Felder stream und stream_options, und die MiMo-V2.5-Pro Modellseite verifiziert eine Kontextlänge von 1.048.576 Token mit einer maximalen Ausgabe von 131.072 Token. Verwenden Sie diese Grenzen als technische Obergrenzen, nicht als Standardeinstellungen.

Für eine gestreamte Antwort:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["NOVITA_API_KEY"],
    base_url="https://api.novita.ai/openai",
)

stream = client.chat.completions.create(
    model="xiaomimimo/mimo-v2.5-pro",
    messages=[
        {"role": "system", "content": "You write concise engineering plans."},
        {
            "role": "user",
            "content": "Draft a step-by-step rollback plan for a failed database migration.",
        },
    ],
    max_tokens=2048,
    temperature=0.7,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

Für Long-Context-Prompts beachten Sie diese Praktiken:

• Platzieren Sie die Aufgabe, das Ausgabeformat und die Stop-Bedingungen nahe am Anfang der Unterhaltung.
• Teilen Sie nicht zusammenhängende Dateien oder Dokumente in klar gekennzeichnete Abschnitte auf.
• Bitten Sie das Modell, Abschnittsnamen oder Dateipfade aus dem bereitgestellten Kontext zu zitieren, anstatt Orte zu erfinden.
• Beginnen Sie während der Entwicklung mit kleineren max_tokens-Werten und erhöhen Sie die Obergrenze nur, wenn der Workflow längere Ausgaben benötigt.
• Verfolgen Sie Prompt-, Completion- und Gesamt-Tokens aus dem usage-Objekt, wenn die Antwort es enthält.

Beispiel für Funktionsaufruf

Die MiMo-V2.5-Pro Modellseite verifiziert die Unterstützung von Funktionsaufrufen, und die Chat Completions-Referenz enthält einen tools-Parameter mit Funktionsmetadaten. Verwenden Sie dies, wenn das Modell eine Anwendungsaktion auswählen soll, z. B. das Nachschlagen eines internen Tickets, das Abrufen eines Kontostands oder das Erstellen einer Bereitstellungsaufgabe.

import json
import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["NOVITA_API_KEY"],
    base_url="https://api.novita.ai/openai",
)

tools = [
    {
        "type": "function",
        "function": {
            "name": "create_deployment_ticket",
            "description": "Create a deployment follow-up ticket.",
            "parameters": {
                "type": "object",
                "properties": {
                    "service": {
                        "type": "string",
                        "description": "The service that needs follow-up.",
                    },
                    "priority": {
                        "type": "string",
                        "enum": ["low", "medium", "high"],
                    },
                    "summary": {
                        "type": "string",
                        "description": "A short ticket summary.",
                    },
                },
                "required": ["service", "priority", "summary"],
                "additionalProperties": False,
            },
            "strict": True,
        },
    }
]

response = client.chat.completions.create(
    model="xiaomimimo/mimo-v2.5-pro",
    messages=[
        {
            "role": "system",
            "content": "Decide whether the user's deployment note requires a follow-up ticket.",
        },
        {
            "role": "user",
            "content": "Checkout latency increased after the payment-service deploy. Create a high priority follow-up.",
        },
    ],
    tools=tools,
    max_tokens=1024,
    temperature=0.2,
)

message = response.choices[0].message

if message.tool_calls:
    tool_call = message.tool_calls[0]
    args = json.loads(tool_call.function.arguments)
    print(args)
else:
    print(message.content)

Validieren Sie in einer echten Anwendung die Tool-Argumente serverseitig, bevor Sie eine Aktion ausführen. Funktionsaufrufe geben Ihrer Anwendung eine strukturierte Entscheidung vom Modell; sie ersetzen keine Autorisierung, Eingabevalidierung, Audit-Logging oder Rollback-Kontrollen.

Beispiel für strukturierte Ausgabe

Die MiMo-V2.5-Pro Modellseite verifiziert auch die Unterstützung strukturierter Ausgaben, und die Novita AI Chat Completions-Referenz enthält response_format mit JSON-Schema-Feldern. Verwenden Sie strukturierte Ausgaben, wenn Sie möchten, dass das Modell analysierbare Daten anstelle von freiem Prosa zurückgibt.

import json
import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["NOVITA_API_KEY"],
    base_url="https://api.novita.ai/openai",
)

response_format = {
    "type": "json_schema",
    "json_schema": {
        "name": "migration_risk_report",
        "schema": {
            "type": "object",
            "properties": {
                "risk_level": {
                    "type": "string",
                    "enum": ["low", "medium", "high"],
                },
                "main_risks": {
                    "type": "array",
                    "items": {"type": "string"},
                },
                "next_actions": {
                    "type": "array",
                    "items": {"type": "string"},
                },
            },
            "required": ["risk_level", "main_risks", "next_actions"],
            "additionalProperties": False,
        },
        "strict": True,
    },
}

response = client.chat.completions.create(
    model="xiaomimimo/mimo-v2.5-pro",
    messages=[
        {
            "role": "system",
            "content": "Return only a structured migration risk report.",
        },
        {
            "role": "user",
            "content": "We are moving billing jobs from cron to a queue and changing retry behavior.",
        },
    ],
    response_format=response_format,
    max_tokens=1024,
    temperature=0.2,
)

report = json.loads(response.choices[0].message.content)
print(json.dumps(report, indent=2))

Wenn die Antwort während des Tests nicht als JSON geparst werden kann, reduzieren Sie die Mehrdeutigkeit im Prompt, senken Sie die Temperatur, halten Sie das Schema kompakt und wiederholen Sie den Vorgang mit einer kürzeren Eingabe. Validieren Sie das geparste Objekt in Produktions-Workflows gegen Ihr eigenes Schema, bevor Sie es verwenden.

Warnungen zu Kosten, Latenz und Grenzwerten

MiMo-V2.5-Pro ist für Long-Context- und agentische Aufgaben konzipiert, daher ist die Kostenkontrolle wichtig. Ein Prompt nahe der oberen Kontextstufe kann wesentlich teurer sein als eine kurze Anfrage, und lange Ausgaben erhöhen auch die Kosten für Completion-Token. Die Novita AI Modellseite listet derzeit abgestufte Eingabe-/Ausgabepreise auf, daher sollten Sie sowohl Prompt- als auch Completion-Tokens schätzen, bevor Sie große Jobs automatisch routen.

Verwenden Sie diese Kontrollen:

• Setzen Sie eine praktische max_tokens-Obergrenze, anstatt standardmäßig das maximale Ausgabelimit zu verwenden.
• Fassen Sie den Kontext zusammen oder rufen Sie nur den für die aktuelle Aufgabe benötigten Kontext ab.
• Zwischenspeichern oder verwenden Sie stabilen Kontext wieder, wo Ihre Architektur dies unterstützt.
• Überwachen Sie die Token-Nutzung pro Funktion, Benutzer und Workflow.
• Fügen Sie Timeouts und Wiederholungen um Netzwerkaufrufe hinzu.
• Halten Sie ein kleineres Fallback-Modell für kurze Aufgaben bereit, wenn Ihr Produkt MiMo-V2.5-Pro nicht für jede Anfrage benötigt.

Die Latenz kann je nach Prompt-Länge, Ausgabelänge, Streaming-Modus und aktuellen Dienstbedingungen variieren. Streamen Sie für benutzerorientierte Anwendungen längere Antworten, wenn angemessen, und gestalten Sie die UI um inkrementelle Ausgaben anstatt einer einzelnen blockierenden Antwort.

Fehlerbehebung

Wenn Ihre erste MiMo-V2.5-Pro-Anfrage fehlschlägt, überprüfen Sie zuerst diese Punkte.

Symptom	Wahrscheinliche Ursache	Behebung
Authentifizierungsfehler	Fehlender oder fehlerhafter API-Schlüssel	Senden Sie Authorization: Bearer $NOVITA_API_KEY für REST-Aufrufe oder übergeben Sie api_key an den SDK-Client.
Modell nicht gefunden	Falsche Modell-ID	Verwenden Sie xiaomimimo/mimo-v2.5-pro genau wie auf der Novita AI Modellseite aufgeführt.
Pfadfehler bei Anfrage	Gemischte Basis-URLs	Verwenden Sie https://api.novita.ai/openai mit dem OpenAI SDK oder https://api.novita.ai/openai/v1/chat/completions für REST.
Kontext- oder Ausgabefehler	Prompt plus Ausgabeanfrage überschreitet Modellgrenzen	Halten Sie die gesamte Prompt-Länge innerhalb des aktuellen Kontextfensters und begrenzen Sie max_tokens unter der verifizierten maximalen Ausgabe.
Tool-Aufruf fehlt	Prompt erfordert kein Tool, oder Tool-Schema ist unklar	Machen Sie die Tool-Entscheidung explizit und halten Sie das Funktionsschema prägnant.
Strukturierte Ausgabe kann nicht geparst werden	Schema oder Prompt ist zu locker	Verwenden Sie response_format, setzen Sie strict wenn angemessen, senken Sie die Temperatur und validieren Sie das Ergebnis.
Unerwartete Kosten	Großer Prompt, große Ausgabe oder obere Preisstufe	Überprüfen Sie die aktuellen Preise, protokollieren Sie die Token-Nutzung und reduzieren Sie den Kontext oder die maximale Ausgabe.

Für Endpunktdetails lesen Sie die Novita AI Chat Completions API-Referenz. Für modellspezifische Grenzwerte und Preise lesen Sie die Xiaomi MiMo-V2.5-Pro API- und Playground-Seite.

Nächste Schritte

Beginnen Sie auf der Xiaomi MiMo-V2.5-Pro Modellseite, testen Sie einen kleinen Prompt im Playground und übertragen Sie denselben Prompt dann mit der verifizierten Modell-ID in Ihren API-Client. Wenn Sie bereit sind, Alternativen zu vergleichen, verwenden Sie die Novita AI Modellbibliothek und die Novita AI Preisseite, um aktuelle Preise, Kontextfenster, Ausgabelimits und Fähigkeitsunterstützung zu prüfen.

Bewerten Sie MiMo-V2.5-Pro für agentenähnliche Anwendungen anhand Ihrer eigenen Traces: Repository-Bearbeitungen, Tool-Call-Routing, strukturierte Extraktion, Long-Context-Zusammenfassung und Wiederherstellung nach mehrdeutigen Anweisungen. Halten Sie die Bewertung an die tatsächlichen Prompts Ihrer Anwendung gekoppelt, anstatt an allgemeine Benchmarks.