Die Vielfalt von Qwen3 ist beabsichtigt: Sie ermöglicht Entwicklern, den richtigen Kompromiss zwischen Genauigkeit, Kosten, Speicher und Hardware zu wählen, während eine einheitliche Kernfähigkeit – hybrides Denken – erhalten bleibt. Dieser Leitfaden hilft Ihnen, die Unterschiede zu verstehen und herauszufinden, welches Qwen3-Modell am besten für Ihre spezifischen Anforderungen geeignet ist – ob Sie einen Chatbot, einen Code-Assistenten oder einen KI-Forschungsagenten entwickeln.
Warum hat die Qwen 3-Serie so viele Modelle?
Von Qwen
Qwen3 235B A22B/Qwen3 32B
- Basismodelle
Dies ist der Ausgangspunkt des Trainings und repräsentiert die ursprünglichen Basismodelle. - Stufe 1: Long-CoT Kaltstart
Langes Ketten-Denken (Long-CoT) wird als Kaltstartphase verwendet, um dem Modell erste Fähigkeiten für komplexe Denkaufgaben zu verleihen. - Stufe 2: Reasoning RL
Durch Reasoning Reinforcement Learning (Reasoning RL) wird die Denkfähigkeit des Modells für Aufgaben weiter verbessert. - Stufe 3: Thinking Mode Fusion
Verschiedene Denkmodi (z. B. logisches Denken, intuitive Urteilsfindung) werden fusioniert, um die Allgemeinheit und Flexibilität des Modells zu verbessern. - Stufe 4: General RL
Allgemeines Reinforcement Learning (General RL) wird angewendet, damit das Modell sich an breitere Aufgaben anpassen kann.
Qwen3 30B A3B; Qwen3 14B/8B/4B/1.7B/0.6B
- Basismodelle
Auch hier wird mit den Basismodellen begonnen. - Strong-to-Weak Distillation
Strong-to-Weak Distillation überträgt Wissen von leistungsstarken Modellen auf leichte Modelle und stellt sicher, dass diese Modelle ihre Effizienz bewahren und gleichzeitig starke Denkfähigkeiten behalten.
Qwen 3 Modelle – Grundlegende Einführung
Qwen 3 MOE-Modelle
| Merkmal | Qwen3 235B A22B | Qwen3 30B A3B |
|---|---|---|
| Modellgröße | 235B/22B (aktiviert) | 30,5B/3,3B (aktiviert) |
| Architektur | 94 Schichten, 64 Aufmerksamkeitsköpfe für Abfragen, 4 für Schlüssel-Werte | 48 Schichten, 32 Aufmerksamkeitsköpfe für Abfragen, 4 für Schlüssel-Werte |
| Fähigkeit | Unterstützt Funktionsaufrufe | Unterstützt Funktionsaufrufe |
| Kontext | 32.768 Token | 32.768 Token |
| Sprachunterstützung | 119 Sprachen und Dialekte | 119 Sprachen und Dialekte |
| Multimodale Fähigkeit | Text-zu-Text | Text-zu-Text |
Qwen 3 Dense-Modelle
| Modell | Modellgröße | Schichten | Aufmerksamkeitsköpfe (Q / KV) | Kontextlänge | Mehrsprachige Unterstützung |
|---|---|---|---|---|---|
| Qwen3 32B | 32,8B | 64 | 64 / 8 | 32K / bis 128K | 119 Sprachen & Dialekte |
| Qwen3 14B | 14,8B | 40 | 40 / 8 | 32K / bis 128K | 119 Sprachen & Dialekte |
| Qwen3 8B | 8,2B | 36 | 32 / 8 | 32K / bis 128K | 119 Sprachen & Dialekte |
| Qwen3 4B | 4,0B | 36 | 32 / 8 | 32K | 119 Sprachen & Dialekte |
| Qwen3 1.7B | 1,7B | 28 | 16 / 8 | 32K | 119 Sprachen & Dialekte |
| Qwen3 0.6B | 0,6B | 28 | 16 / 8 | 32K | 119 Sprachen & Dialekte |
Der Punkt ist: Alle Modelle der Qwen3-Serie – einschließlich Qwen3 0.6B, 1.7B, 4B, 8B, 14B, 32B sowie die MoE-Varianten Qwen3 30B A3B und Qwen3 235B A22B – unterstützen den „Hybrid Reasoning Mode“.
- Thinking Mode: Konzipiert für komplexe Probleme, die eine eingehende Analyse erfordern. Das Modell denkt Schritt für Schritt und liefert sorgfältig abgewogene Antworten.
- Non-Thinking Mode: Geeignet für einfache Aufgaben. Das Modell liefert schnelle, nahezu sofortige Antworten.
Darüber hinaus führen die Qwen3-Modelle einen „Thinking Budget“ -Mechanismus ein, der es Benutzern ermöglicht, eine maximale Token-Nutzung während des Denkprozesses festzulegen. Dies hilft, die Tiefe des Denkens zu kontrollieren und den Rechenressourcenverbrauch zu steuern.
Von Qwen
Qwen 3 Benchmark
Qwen 3 Reasoning-Benchmark
| Test | Qwen3 235B | Qwen3 32B | Qwen3 30B | Qwen3 14B | Qwen3 8B | Qwen3 7B | Qwen3 4B | Qwen3 0.6B |
|---|---|---|---|---|---|---|---|---|
| MMLU-Pro | 83% | 80% | 78% | 77% | 74% | 57% | 35% | - |
| GPQA Diamond | 70% | 67% | 62% | 60% | 59% | 36% | 24% | - |
| Humanity’s Last Exam | 11,7% | 8,3% | 6,6% | 5,7% | 5,1% | 4,3% | 4,2% | - |
| LiveCodeBench | 62% | 55% | 52% | 51% | 47% | 41% | 31% | 12% |
| SciCode | 40% | 35% | 32% | 28% | 23% | 4% | 4% | 3% |
| MATH-500 | 96% | 96% | 96% | 93% | 93% | 90% | 89% | 75% |
| AIME 2024 | 84% | 81% | 76% | 75% | 75% | 66% | 51% | 10% |
Qwen 3 ohne Reasoning-Benchmark
| Test | Qwen3 235B | Qwen3 32B | Qwen3 30B | Qwen3 14B | Qwen3 8B | Qwen3 7B | Qwen3 4B | Qwen3 0.6B |
|---|---|---|---|---|---|---|---|---|
| MMLU-Pro | 76% | 73% | 71% | 68% | 64% | 41% | 23% | - |
| GPQA Diamond | 61% | 54% | 52% | 47% | 45% | 40% | 28% | 23% |
| Humanity’s Last Exam | 5,2% | 5,2% | 4,7% | 4,6% | 4,3% | 3,7% | 2,8% | - |
| LiveCodeBench | 34% | 32% | 29% | 28% | 23% | 20% | 13% | 7% |
| SciCode | 30% | 28% | 27% | 26% | 17% | 17% | 7% | 4% |
| MATH-500 | 90% | 87% | 87% | 86% | 84% | 83% | 72% | 52% |
| AIME 2024 | 33% | 30% | 28% | 26% | 24% | 21% | 10% | 2% |
Humanity’s Last Exam testet extremes Denken und Wissen. Alle Modelle schneiden schlecht ab.
- Für Aufgaben mit hohem Risiko, die Spitzenleistungen erfordern (z. B. wissenschaftliche Forschung, fortgeschrittenes Programmieren), ist Qwen3 235B die beste Wahl.
- Für kosteneffiziente Lösungen mit begrenzten Rechenressourcen bieten Qwen3 30B oder Qwen3 32B eine gute Balance zwischen Leistung und Effizienz.
- Kleinere Modelle wie Qwen3 0.6B eignen sich eher für leichte Anwendungen, können aber bei komplexen Aufgaben an ihre Grenzen stoßen.
Qwen 3 Hardware-Anforderungen
| Modellname | Erforderlicher Speicher (GB) |
| Qwen3 0.6B | 3,01GB |
| Qwen3 1.7B | 5,75GB |
| Qwen3 4B | 10,99GB |
| Qwen3 8B | 19,82GB |
| Qwen3 14B | 33,48GB |
| Qwen3 30B A3B | 74,21GB |
| Qwen3 32B | 73,5GB |
| Qwen3 235B A22B | 553,96GB |
0.6B–4B: Lokale Anwendungen, Chatbots, leichter Edge-Einsatz.
8B–14B: Starke Generalistenmodelle für mittelgroße Inferenzserver.
32B: Hochleistungsanwendungen, die kreative Ausgaben und tieferes Denken erfordern.
235B: Forschungs- oder Unternehmenseinsatz, für die meisten Benutzer nicht kosteneffizient.
Welches Qwen 3 erfüllt Ihre Anforderungen?
| Ihr Ziel | Empfohlenes Modell / empfohlene Modelle | Warum |
|---|---|---|
| Lokale leichte Aufgaben / Chatbots | Qwen3-0.6B / Qwen3-1.7B | Schneller Start, geringer Speicher (<6GB), läuft auf Laptops, ideal für Edge-Einsatz |
| Ausgewogenes Denken + erschwingliche Hardware | Qwen3-8B / Qwen3-14B | Bewältigt allgemeine Aufgaben gut, passt auf 16GB–24GB GPUs, solide mehrsprachige KI |
| Fortgeschrittenes Denken und Generieren | Qwen3-32B | Bestes dichtes Modell für Code, Mathematik, Langform-Aufgaben ohne MoE-Overhead |
| Spitzenleistung für die Forschung | Qwen3-235B (A22B) | Beste Ergebnisse in Denk-Benchmarks, aber sehr teuer im Betrieb |
| Effiziente, aber leistungsfähige MoE-Option | Qwen3-30B (A3B) | Starke Ausgabe mit ~3B aktiven Parametern; bessere Skalierung pro GPU-Speicher |
Wie man auf Qwen 3 Modelle kosteneffizient zugreifen kann?
Novita AI ist eine KI-Cloud-Plattform, die Entwicklern eine einfache Möglichkeit bietet, KI-Modelle über unsere unkomplizierte API bereitzustellen, und gleichzeitig die erschwingliche und zuverlässige GPU-Cloud für Aufbau und Skalierung bereitstellt.
Zusätzlich zu Qwen 3 Reranker 8B und Embedding 8B bietet Novita AI auch kostenlose Qwen 3 (0.6B, 1.7B, 4B) zur Unterstützung der Entwicklung der Open-Source-Community an!
Schritt 1: Einloggen und auf die Modellbibliothek zugreifen
Loggen Sie sich in Ihr Konto ein und klicken Sie auf die Schaltfläche Model Library.
Schritt 2: Modell auswählen und kostenlos testen
Durchstöbern Sie die verfügbaren Optionen und wählen Sie das Modell aus, das Ihren Anforderungen entspricht.
Schritt 3: API-Schlüssel abrufen
Zur Authentifizierung mit der API stellen wir Ihnen einen neuen API-Schlüssel zur Verfügung. Rufen Sie die Seite „Settings“ auf und kopieren Sie den API-Schlüssel wie im Bild gezeigt.
Schritt 4: API installieren
Installieren Sie die API mit dem für Ihre Programmiersprache spezifischen Paketmanager.
Importieren Sie nach der Installation die erforderlichen Bibliotheken in Ihre Entwicklungsumgebung. Initialisieren Sie die API mit Ihrem API-Schlüssel, um mit Novita AI LLM zu interagieren. Dies ist ein Beispiel für die Verwendung der Chat Completions API für Python-Benutzer.
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="session_nkvtuVXXxS-LlR7txjZ3Rox8GhLMuv1R8IrIySNwTPN7xHJ0SVErFx3kNwJgkUEpcSM4F8c6zmcvyfuc1h59gw==",
)
model = "qwen/qwen3-32b-fp8"
stream = True # or False
max_tokens = 2048
system_content = ""Be a helpful assistant""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
Egal, ob Sie einen Chatbot auf einem Laptop entwickeln oder einen groß angelegten wissenschaftlichen Agenten bereitstellen – Qwen3 hat ein Modell, das auf Ihre Ressourcen und Ziele zugeschnitten ist. Kleinere Modelle (0.6B–4B) sind leichtgewichtig und schnell; mittelgroße Modelle (8B–14B) bieten eine Balance zwischen Leistung und Effizienz; und größere Modelle (32B, 235B) sind führend in Denk-Benchmarks. Für Entwickler, die kostengünstigen Zugriff suchen, bietet Novita AI eine nahtlose Bereitstellung von Qwen3-Modellen über API – einige sogar völlig kostenlos.
Häufig gestellte Fragen
Welches Qwen3-Modell ist am besten für lokale Anwendungen geeignet?
Qwen3-0.6B oder Qwen3-1.7B. Diese Modelle laufen auf einfachen PCs oder Apple Silicon und sind ideal für leichte Aufgaben und Chatbots.
Was sollte ich für starkes Denken ohne hohe GPU-Kosten wählen?
Qwen3-8B oder Qwen3-14B. Sie bieten eine hervorragende Denkfähigkeit und passen auf GPUs mit 16–24 GB VRAM.
Wann sollte ich Qwen3-32B verwenden?
Verwenden Sie Qwen3-32B, wenn Sie fortgeschrittene Logik, Programmierung und Generierung langer Texte benötigen – ohne auf eine MoE-Struktur angewiesen zu sein.
Novita AI ist eine KI-Cloud-Plattform, die Entwicklern eine einfache Möglichkeit bietet, KI-Modelle über unsere unkomplizierte API bereitzustellen, und gleichzeitig die erschwingliche und zuverlässige GPU-Cloud für Aufbau und Skalierung bereitstellt.
