Meta hat gerade seine bahnbrechende Llama-4-Modellfamilie vorgestellt – ein bedeutender Sprung in den KI-Fähigkeiten, mit nativer Multimodalität und einer Mixture-of-Experts (MoE)-Architektur.
Heute freuen wir uns bekannt zu geben, dass Llama 4 Scout und Llama 4 Maverick jetzt auf Novita AI verfügbar sind. Unternehmen und Entwickler können diese leistungsstarken Modelle über eine einfache API-Integration nutzen.
Novita AI bietet die ersten Modelle der Llama-4-Herde zu folgenden Preisen an:
Llama 4 Scout: 0,10 $ / M Input-Token und 0,50 $ / M Output-Token
Llama 4 Maverick: 0,20 $ / M Input-Token und 0,85 $ / M Output-Token
Die Llama-4-Herde verstehen
Die Llama-4-Veröffentlichung umfasst drei verschiedene Modelle, die jeweils für unterschiedliche Anforderungen und Rechenleistungsbeschränkungen konzipiert sind:
| Modell | Aktive Parameter | Gesamtparameter | Experten | Kontextlänge | Hauptstärken |
|---|---|---|---|---|---|
| Llama 4 Scout | 17B | 109B | 16 | 10 M Token | Langer Kontext, Bildverankerung, passt auf eine einzelne H100-GPU |
| Llama 4 Maverick | 17B | 400B | 128 | 1 M Token | Multimodale Exzellenz, kreatives Schreiben |
| Llama 4 Behemoth | 288B | ~2T | 16 | — | Lehrermodell für Destillation |
Llama 4 Scout verfügt über 16 Experten und bietet eine erstklassige Leistung in seiner Klasse. Es unterstützt eine branchenführende Kontextlänge von 10 M Token und ist ideal für die Verarbeitung großer Datenmengen, einschließlich vollständiger Codebasen oder umfangreicher Dokumentation.
Llama 4 Maverick ist Metas Arbeitstier für Produkte und integriert 128 Experten, um eine überragende Leistung bei einer Vielzahl von Aufgaben zu erbringen. Es zeichnet sich durch präzises Bildverständnis und kreatives Schreiben aus, während es Kontexte von bis zu 1 M Token unterstützt.
Llama 4 Behemoth dient als Lehrermodell für die Llama-4-Familie mit 16 Experten. Obwohl es noch nicht öffentlich veröffentlicht wurde, da es sich noch im Training befindet, übertrifft Behemoth GPT-4.5, Claude Sonnet 3.7 und Gemini 2.0 Pro in mehreren STEM-orientierten Benchmarks.
Hinweis: Das Kontextfenster für Llama 4 Scout auf Novita AI beträgt 131.072 Token, während das Kontextfenster für Llama 4 Maverick 1.048.576 Token beträgt.
Hauptmerkmale und Fähigkeiten
Native Multimodalität
Llama-4-Modelle nutzen eine frühe Fusion, um Text- und Vision-Token nahtlos in einen einheitlichen Modell-Backbone zu integrieren. Dies ermöglicht ein gemeinsames Pre-Training mit großen Mengen an unbeschrifteten Text-, Bild- und Videodaten.
Der verbesserte Vision-Encoder, der auf MetaCLIP basiert, aber für die LLM-Integration weiter optimiert wurde, erlaubt es den Modellen, mehrere Bilder zusammen mit Text-Prompts zu verarbeiten – ohne zusätzlichen Engineering-Aufwand.
Erweiterte Kontextlänge
Einer der bedeutendsten Fortschritte bei Llama 4 ist die Unterstützung außergewöhnlich langer Kontexte:
- Llama 4 Scout: 10 Millionen Token
- Llama 4 Maverick: 1 Million Token
Dieser Sprung in der Kontextlänge ermöglicht Anwendungen, die zuvor unpraktikabel waren, wie zum Beispiel:
- Zusammenfassung und Analyse mehrerer Dokumente
- Schlussfolgerungen über umfangreiche Codebasen hinweg
- Verarbeitung großer Mengen an Benutzeraktivitäten für personalisierte Erlebnisse
- Verarbeitung ganzer Forschungsarchive in einem einzigen Prompt
Mehrsprachige und logische Fähigkeiten
Llama-4-Modelle wurden in 200 Sprachen vortrainiert – mit dediziertem Feintuning-Support für 12 Sprachen, darunter Arabisch, Spanisch, Deutsch und Hindi. Über 100 dieser Sprachen verfügen über jeweils mehr als 1 Milliarde Trainings-Token – das ist eine zehnmal größere mehrsprachige Abdeckung als bei Llama 3.
Dieses umfangreiche Training ermöglicht eine überragende Leistung in verschiedenen Sprachen und macht die Modelle für globale Anwendungen geeignet.
Die Modelle zeigen auch verbesserte logische Fähigkeiten, die auf spezielle Trainingsrezepte zurückzuführen sind. Für Maverick umfasste dies eine kontinuierliche Online-RL-Strategie mit adaptiver Datenfilterung, die sich auf mittelschwere bis schwere Prompts konzentrierte.
Leistungsbenchmarks und Anwendungsfälle
Benchmarks
Laut den offiziellen Benchmark-Daten von Meta zeigen Llama-4-Modelle eine außergewöhnliche Leistung bei verschiedenen Aufgaben, wie in den folgenden Tabellen dargestellt:
Llama-4-Scout-Benchmarks
Llama-4-Maverick-Benchmarks
Ideale Anwendungsfälle für die Llama-4-Herde
Llama 4 Scout eignet sich am besten für Anwendungen mit langem Kontext, während Llama 4 Maverick bei komplexen logischen und kreativen Aufgaben hervorsticht, die multimodales Verständnis erfordern. Hier sind die idealen Anwendungsfälle für jedes Modell basierend auf ihren Stärken:
Llama 4 Scout:
- Multi-Dokument-Zusammenfassung für juristische oder finanzielle Analysen
- Personalisierte Aufgabenautomatisierung unter Verwendung umfangreicher Benutzerdaten
- Effiziente Bildverarbeitung für leichte multimodale Anwendungen
Llama 4 Scout Demo jetzt erkunden
Llama 4 Maverick:
- Mehrsprachiger Kundensupport mit visuellem Kontext
- Generierung von Marketinginhalten basierend auf multimodalen Eingaben
- Fortschrittliche Dokumentenintelligenz, die Text, Diagramme und Tabellen kombiniert
- Kreatives Schreiben und Inhaltserstellung mit präzisem Bildverständnis
Llama 4 Maverick Demo jetzt erkunden
Beide Modelle zeichnen sich in Situationen aus, die multimodales Verständnis, logische Schlussfolgerungen über umfangreiche Kontexte und mehrsprachige Fähigkeiten erfordern.
Erste Schritte mit Llama 4 auf Novita AI
Die Integration von Llama-4-Modellen in Ihre Anwendungen über die Novita AI Modellbibliothek ist unkompliziert und erfordert nur wenige Codezeilen. So beginnen Sie:
Einrichten Ihrer Umgebung
Stellen Sie zunächst sicher, dass Sie einen API-Schlüssel von Novita AI haben. Falls Sie noch keinen haben, registrieren Sie sich und erstellen Sie einen API-Schlüssel über das Novita AI Dashboard.
Integration mit Python
Novita AI bietet OpenAI-kompatible Endpunkte für eine nahtlose Integration. Hier ein einfaches Beispiel mit dem Python-Client:
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="<YOUR Novita AI API Key>",
)
model = "meta-llama/llama-4-maverick-17b-128e-instruct-fp8"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
Für detailliertere Beispiele und umfassende Integrationsleitfäden besuchen Sie unsere LLM-API-Dokumentation.
Fazit
Die Verfügbarkeit von Llama 4 auf Novita AI ist ein bedeutender Meilenstein in der Demokratisierung fortschrittlicher KI-Fähigkeiten.
Mit nativer Multimodalität, erweiterten Kontextlängen und einer effizienten MoE-Architektur ermöglichen diese Modelle neue Anwendungsklassen, die bisher unpraktikabel oder unerschwinglich teuer waren.
Ob Sie nun Anwendungen für die Dokumentenverarbeitung, mehrsprachige Kommunikation oder kreative Inhaltserstellung entwickeln – Llama 4 bietet die Werkzeuge, die Sie benötigen, um intelligente, reaktionsfähige Erlebnisse zu schaffen.
Starten Sie noch heute mit dem einfachen Integrationsprozess von Novita AI und den wettbewerbsfähigen Preisen, um die Leistung von Llama 4 in Ihre Anwendungen zu bringen.
Über Novita AI
Novita AI ist eine KI-Cloud-Plattform, die Entwicklern eine einfache Möglichkeit bietet, KI-Modelle über unsere einfache API bereitzustellen, und gleichzeitig eine erschwingliche und zuverlässige GPU-Cloud zum Aufbau und zur Skalierung bereitstellt.
