Wichtige Highlights
GPT-OSS-120B : Ein 117-Milliarden-Parameter-Modell mit offenen Gewichten (MoE) von OpenAI, das für unternehmensgerechtes Reasoning und Produktionsbereitstellung mit einer Leistung nahezu auf o4-mini-Niveau entwickelt wurde.
GLM-4.5 : Ein Basismodell, das Reasoning, Codierung und Funktionen für intelligente Agenten vereint, um die komplexen Anforderungen von Anwendungen für intelligente Agenten zu erfüllen.
Novita AI bietet nicht nur stabile API-Dienste, sondern auch äußerst kostengünstige Preise. Beispielsweise kostet GPT-OSS-120B 0,1 $ pro 1 Million Eingabe-Token und 0,5 $ pro 1 Million Ausgabe-Token, während GLM-4.5 0,6 $ pro 1 Million Eingabe-Token und 2,2 $ pro 1 Million Ausgabe-Token kostet.
Grundlegende Modellvorstellung
GPT-OSS-120B
gpt-oss-120B ist ein Sprachmodell mit offenen Gewichten vom Typ Mixture-of-Experts (MoE), das von OpenAI entwickelt wurde und sich auf leistungsstarkes Reasoning, agentische Anwendungen und skalierbare Bereitstellung konzentriert. Es ist sowohl für den unternehmensweiten Hochleistungseinsatz als auch für Entwickler konzipiert, erreicht bei zentralen Reasoning-Benchmarks eine Leistung nahezu auf dem Niveau von OpenAI o4-mini und bleibt dabei kosteneffizient und zugänglich.
- Parameter: 117 Milliarden Gesamtparameter mit 5,1 Milliarden aktiven Parametern pro Inferenzschritt.
- Architektur: Mixture-of-Experts-Design mit 128 Experten über 36 Schichten, unter Verwendung von SwiGLU-Aktivierungen. Ein effizientes Experten-Routing-System aktiviert nur den relevantesten Teil der Experten pro Token, was eine höhere Spezialisierung und Effizienz ermöglicht. Verfügt über gelernte Attention-Sinks pro Attention-Head für Leistungsverbesserungen.
- Kontextfenster: Unterstützt ein Kontextfenster von 128K Token, was langes Reasoning, mehrturnige Dialoge und die Verarbeitung umfangreicher Dokumente oder Codebasen ermöglicht.
- Agentische Funktionen: Native Unterstützung für Funktionsaufrufe, Web-Browsing, Python-Codeausführung und strukturierte Ausgaben, was es für die Erstellung intelligenter Agenten geeignet macht. Kompatibel mit den Antwort-API-Formaten von OpenAI und für benutzerdefinierte Anwendungsfälle feinabstimmbar.
GLM-4.5
GLM-4.5 ist ein Basismodell für intelligente Agenten mit 355 Milliarden Gesamtparametern und 32 Milliarden aktiven Parametern. Das Modell vereint Reasoning, Codierung und Funktionen für intelligente Agenten, um die komplexen Anforderungen von Anwendungen für intelligente Agenten zu erfüllen. GLM-4.5 ist ein hybrides Reasoning-Modell, das zwei Modi bietet: Den Denkmodus für komplexes Reasoning und Tool-Nutzung sowie den Nicht-Denkmodus für sofortige Antworten.
Wichtige Funktionen und Architektur
- Parameter: 355 Milliarden Gesamtparameter mit 32 Milliarden aktiven Parametern.
- Hybrides Reasoning: Zwei Betriebsmodi – Denkmodus für komplexes Reasoning und Tool-Nutzung sowie Nicht-Denkmodus für sofortige Antworten.
- Modellversionen: Verfügbar als Basismodelle, hybride Reasoning-Modelle und FP8-Versionen.
- Kontextfenster: 128K Token.
- Lizenzierung: MIT-Open-Source-Lizenz für kommerzielle Nutzung und Weiterentwicklung.
- Funktionen: Vereintes Reasoning, Codierung und Funktionen für intelligente Agenten für komplexe Anwendungen.
Benchmark-Vergleich zwischen GPT-OSS-120B und GLM-4.5
1. Intelligenz-Benchmarks
2. Kontextfenster:
GPT OSS 120B: 128K Token
GLM-4.5: 128K Token
3. API-Preise:
GPT OSS 120B: 0,1 $ / 0,5 $ pro 1M Token (Eingabe/Ausgabe)
GLM-4.5: 0,6 $ / 2,2 $ pro 1M Token (Eingabe/Ausgabe)
Praxistest der Fähigkeiten von GPT-OSS-120B und GLM-4.5
1. GPT-OSS-120B vs GLM-4.5: Welches eignet sich besser für die Codegenerierung?
Aufgabenbeschreibung: Implementieren Sie eine Python-Klasse SmartQueue mit den folgenden Funktionen:
- Unterstützung von Priority-Queue-Operationen (niedrigere Zahlen = höhere Priorität)
- Unterstützung von Batch-Operationen (gleichzeitiges Hinzufügen/Entfernen mehrerer Elemente)
- Implementierung einer intelligenten
auto_process()-Methode, die automatisch die N Elemente mit der höchsten Priorität verarbeitet - Einbeziehung einer grundlegenden Statistikverfolgung (Gesamtzahl verarbeiteter Elemente, aktuelle Warteschlangengröße)
Spezifische Anforderungen:
# Erwartetes Nutzungsbeispiel:
queue = SmartQueue()
queue.add_task("task1", priority=2)
queue.add_batch([("task2", 1), ("task3", 3), ("task4", 1)])
print(queue.get_stats()) # Gibt Statistik-Dictionary zurück
processed = queue.auto_process(count=2) # Verarbeitet die 2 Aufgaben mit höchster Priorität
print(processed) # Gibt Liste der verarbeiteten Aufgaben zurück
Bewertungskriterien:
- Datenstrukturauswahl: Ob geeignete Datenstrukturen (z. B. heapq) ausgewählt werden
- API-Design: Angemessenheit von Methodennamen und Parameterdesign
- Fehlerbehandlung: Umgang mit Randfällen (leere Warteschlange, ungültige Parameter usw.)
- Code-Organisation: Klassenstruktur und Logik der Methodenimplementierung
- Python-Idiome: Verwendung von Python-spezifischen Funktionen und Konventionen
- Algorithmeneffizienz: Betrachtungen zur Zeitkomplexität von Operationen
Zusätzliche Herausforderung: Die auto_process()-Methode sollte verarbeitete Elemente in einem aussagekräftigen Format zurückgeben und die internen Statistiken aktualisieren.
GPT-OSS-120B
GLM 4.5
GLM 4.5: Geeignet für Lernen und einfache Prototypen, benötigt Optimierung für den Produktionseinsatz
GPT OSS 120B: Bereit für professionelle Projekte, erfüllt industrielle Code-Qualitätsstandards
Probieren Sie GPT-OSS-120B und GLM-4.5 selbst aus!
2. Wie geht GLM-4.5 im Vergleich zu GPT-OSS-120B mit mehrdeutigen Anfragen um?
Prompt: “Die Bank hat wegen des Schecks angerufen. Er war unzureichend.”
Dieser Satz enthält mehrere Mehrdeutigkeiten. Bitte:
- Identifizieren Sie alle möglichen Interpretationen dieses Satzes
- Ordnen Sie diese Interpretationen nach ihrer Wahrscheinlichkeit in einem modernen Kontext
- Erklären Sie Ihren Reasoning-Prozess zur Disambiguierung
- Wenn Sie zusätzlichen Kontext benötigen würden, um sicher zu sein: Welche spezifischen Fragen würden Sie stellen?
- Geben Sie eine Antwort, als würden Sie jemandem helfen zu verstehen, was wahrscheinlich passiert ist
Seien Sie explizit über Ihren Denkprozess und alle Annahmen, die Sie treffen.
GPT-OSS-120B
GLM 4.5
GPT-OSS-120B zeigte eine überlegene analytische Tiefe und systematisches Reasoning, während GLM-4.5 ein besseres praktisches Urteilsvermögen bei der Balance zwischen Gründlichkeit und Benutzerfreundlichkeit zeigte.
GPT-OSS-120B glänzt bei erschöpfender Disambiguierung, während GLM-4.5 Klarheit und handlungsorientierte Anleitung priorisiert.
So greifen Sie auf GPT-OSS-120B und GLM-4.5 auf Novita AI zu
Schritt 1: Anmelden und auf die Modellbibliothek zugreifen
Melden Sie sich bei Ihrem Konto an und klicken Sie auf die Schaltfläche Modellbibliothek.
Probieren Sie GPT-OSS-120B und GLM-4.5 jetzt aus!
Schritt 2: Wählen Sie Ihr Modell
Durchsuchen Sie die verfügbaren Optionen und wählen Sie das Modell, das Ihren Anforderungen entspricht.
Schritt 3: Starten Sie Ihre kostenlose Testversion
Starten Sie Ihre kostenlose Testversion, um die Funktionen des ausgewählten Modells zu erkunden.
Schritt 4: Holen Sie sich Ihren API-Schlüssel
Um sich gegenüber der API zu authentifizieren, stellen wir Ihnen einen neuen API-Schlüssel zur Verfügung. Auf der Seite „Einstellungen“ können Sie den API-Schlüssel wie in der Abbildung gezeigt kopieren.
Schritt 5: Installieren Sie die API
Installieren Sie die API über den für Ihre Programmiersprache spezifischen Paketmanager.
Nach der Installation importieren Sie die erforderlichen Bibliotheken in Ihre Entwicklungsumgebung. Initialisieren Sie die API mit Ihrem API-Schlüssel, um mit dem Novita AI LLM zu interagieren. Dies ist ein Beispiel für die Nutzung der Chat-Completions-API für Python-Nutzer.
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="",
)
model = "zai-org/glm-4.5"
stream = True # or False
max_tokens = 65536
system_content = ""Be a helpful assistant""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
GPT-OSS-120B zeichnet sich als produktionsbereite Lösung aus, die umfassende analytische Tiefe und systematisches Reasoning bietet, das industrielle Code-Qualitätsstandards erfüllt. Sein erschöpfender Problemlösungsansatz macht es für professionelle Projekte geeignet, die detaillierte Dokumentation und strenge Analysen erfordern.
GLM-4.5 glänzt als Entwicklungs- und Prototyping-Tool, das praktische, benutzerorientierte Antworten mit optimiertem Reasoning bietet. Es balanciert Gründlichkeit mit Benutzerfreundlichkeit, was es ideal für Lernumgebungen und schnelles Prototyping macht.
Häufig gestellte Fragen
Was ist GPT-OSS-120B?
GPT-OSS-120B ist ein 117-Milliarden-Parameter-MoE-Modell mit offenen Gewichten von OpenAI, das für unternehmensgerechtes Reasoning und Produktionsbereitstellung mit einer Leistung nahezu auf o4-mini-Niveau entwickelt wurde.
Wie feinabstimmt man ein GLM-Modell?
GLM-Modelle können über offizielle API-Plattformen wie Novita AI bereitgestellt werden, wobei die spezifischen Einrichtungsanweisungen je nach Modellversion und Hardwareanforderungen variieren.
Ist GPT-4o Open-Source?
Nein, aber GPT-OSS-120B ist Open-Source, erreicht eine vergleichbare Leistung wie GPT-4o und kann auf Novita AI genutzt werden.
Über Novita AI
Novita AI ist eine KI-Cloud-Plattform, die Entwicklern eine einfache Möglichkeit bietet, KI-Modelle über unsere einfache API bereitzustellen, und gleichzeitig eine kostengünstige und zuverlässige GPU-Cloud für die Erstellung und Skalierung bereitstellt.
