DeepSeek, ein chinesisches KI-Labor, hat eine Open-Source-Version von DeepSeek-R1 veröffentlicht – ein Reasoning-Modell, das in mehreren Benchmarks eng mit OpenAIs o1 konkurriert. Jetzt auf Novita AI verfügbar, ist dieses Modell für komplexe Aufgaben wie logisches Schließen, Mathematik und Programmierung konzipiert, was es zu einem vielseitigen Werkzeug für Entwickler und Unternehmen macht.
Was DeepSeek-R1 auszeichnet, ist seine reasoning-orientierte Architektur, die es ihm ermöglicht, seine eigenen Ausgaben auf Richtigkeit zu überprüfen. Dieser Prozess mag zwar länger dauern als bei herkömmlichen Sprachmodellen, aber die Ergebnisse sind zuverlässiger, insbesondere für Anwendungsfälle in Physik, Wissenschaft und Mathematik.
Dieser Artikel untersucht die einzigartigen Fähigkeiten von DeepSeek-R1, seine Leistung in Benchmarks und wie es über die APIs von Novita AI in Ihre Arbeitsabläufe integriert werden kann.
Was ist DeepSeek-R1?
DeepSeek-R1 ist ein Open-Source-Reasoning-Modell, das für Aufgaben entwickelt wurde, die logisches Denken, fortgeschrittene Mathematik und Programmierung erfordern. Es baut auf dem früheren DeepSeek-R1-Zero auf, indem es Reinforcement Learning mit überwachtem Fine-Tuning kombiniert, um die Klarheit und Kohärenz der Ausgaben zu verbessern.
Reasoning-Modelle wie R1 sind darauf ausgelegt, ihre Ausgaben zu verifizieren, wodurch Fehler reduziert werden, die häufig bei herkömmlichen Sprachmodellen auftreten. Dies macht sie für Bereiche unverzichtbar, die ein hohes Maß an Genauigkeit und Transparenz erfordern, wie Forschung, Bildung und Entscheidungsfindung.
Was DeepSeek-R1 besonders wettbewerbsfähig und attraktiv macht, ist sein Open-Source-Charakter. Das Modell ist unter einer MIT-Lizenz verfügbar, die eine uneingeschränkte kommerzielle Nutzung ermöglicht. Anders als proprietäre Modelle können Entwickler und Forscher die Architektur vollständig erkunden, sie an spezifische Bedürfnisse anpassen und in verschiedene Arbeitsabläufe integrieren.
Wie wurde DeepSeek-R1 entwickelt?
Dieser Abschnitt untersucht, wie DeepSeek-R1 entstanden ist, beginnend mit seinem Vorgänger DeepSeek-R1-Zero.
DeepSeek-R1-Zero
DeepSeek-R1 begann mit R1-Zero, einem Modell, das ausschließlich durch Reinforcement Learning trainiert wurde. Dieser Ansatz ermöglichte es dem Modell, starke Reasoning-Fähigkeiten zu entwickeln, brachte jedoch mehrere Herausforderungen mit sich:
- Die Ausgaben waren oft schwer lesbar.
- Das Modell mischte manchmal Sprachen innerhalb seiner Antworten, was die Benutzerfreundlichkeit beeinträchtigte.
Diese Einschränkungen machten R1-Zero trotz seiner logischen Korrektheit für reale Anwendungen unpraktisch.
Herausforderungen des reinen Reinforcement Learning
Die reine Anwendung von Reinforcement Learning führte zu Ausgaben, die zwar logisch gültig, aber schlecht strukturiert waren. Ohne die Führung durch überwachte Daten fiel es dem Modell schwer, sein Reasoning effektiv zu kommunizieren. Dieser Mangel an Klarheit war eine Hürde für Benutzer, die Präzision und Transparenz bei den Ergebnissen benötigten.
Verbesserungen mit DeepSeek-R1
Um diese Herausforderungen zu überwinden, verfolgte DeepSeek bei der Entwicklung von R1 einen hybriden Ansatz. Durch die Kombination von Reinforcement Learning mit überwachtem Fine-Tuning integrierte das Team kuratierte Datensätze, um die Lesbarkeit und Kohärenz des Modells zu verbessern. Diese Änderung löste kritische Probleme:
- Sprachmischung wurde deutlich reduziert.
- Fragmentiertes Reasoning wurde verbessert, was zu klareren Ausgaben führte.
Diese Fortschritte machten DeepSeek-R1 zu einem praktischeren und zuverlässigeren Werkzeug für reale Anwendungen.
Benchmark-Leistung von DeepSeek-R1
DeepSeek-R1 glänzt in Mathematik mit Spitzenwerten von 97,3 % bei MATH-500 und 79,8 % bei AIME 2024 und übertrifft damit die Konkurrenz. Im Programmieren sticht es mit 49,2 % bei SWE-bench Verified und 65,9 % bei Live Code Bench hervor, was seine vielseitige Expertise in beiden Bereichen zeigt.
Alle Modelle werden mit einer maximalen Generierungslänge von 32.768 Token bewertet, wobei spezifische Sampling-Parameter (Temperatur 0,6, top-p 0,95 und 64 Antworten pro Abfrage) verwendet werden, um pass@1 für die Benchmarks zu berechnen.
DeepSeek-R1-Distill-Modelle
Destillation (Knowledge Distillation) ist eine maschinelle Lernmethode, bei der Wissen von einem größeren Modell auf ein kleineres übertragen wird. Ziel ist es, ein effizienteres Modell zu entwickeln, das eine ähnliche Leistung wie das größere Modell erzielen kann.
DeepSeek hat auch destillierte Versionen von R1 veröffentlicht, die kleinere Modelle bieten, die einen Großteil der Fähigkeiten des Originalmodells behalten, aber recheneffizienter sind. Diese Modelle werden mit Daten, die von DeepSeek-R1 generiert wurden, feinabgestimmt und sind in Größen von 1,5 bis 70 Milliarden Parametern erhältlich.
Quelle: DeepSeek’s Veröffentlichungspapier
Zugriff auf die DeepSeek-R1-API über Novita AI
Die Plattform von Novita AI vereinfacht die Bereitstellung von DeepSeek-R1 durch einfache APIs und eine kostengünstige GPU-Cloud-Infrastruktur. Entwickler können das Modell nahtlos in ihre Anwendungen integrieren, ohne sich um Hardware-Setup oder Skalierbarkeit kümmern zu müssen.
Um mit DeepSeek-R1 auf Novita AI zu starten, folgen Sie diesen Schritten:
Schritt 1: Gehen Sie zu Novita AI und melden Sie sich mit Ihrem Google-, GitHub-Konto oder Ihrer E-Mail-Adresse an.
Schritt 2: Testen Sie die DeepSeek-R1-Demo.
Schritt 3: Überwachen Sie die LLM-Metriken-Konsole des Modells auf Novita AI.
Schritt 4: Holen Sie sich Ihren API-Schlüssel:
- Navigieren Sie zu „Schlüsselverwaltung“ in den Einstellungen.
- Bei der ersten Anmeldung wird ein Standardschlüssel erstellt.
- Um weitere Schlüssel zu generieren, klicken Sie auf „+ Neuen Schlüssel hinzufügen“.
Schritt 5: Richten Sie Ihre Entwicklungsumgebung ein und konfigurieren Sie Optionen wie Inhalt, Rolle, Name und Prompt.
API-Integration
Novita AI bietet Client-Bibliotheken für Curl, Python und JavaScript, die die Integration von DeepSeek-R1 in Ihre Projekte erleichtern:
Für Python-Benutzer:
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="<YOUR Novita AI API Key>",
)
model = "deepseek/deepseek-r1"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
Für JavaScript-Benutzer:
import OpenAI from "openai";
const openai = new OpenAI({
baseURL: "https://api.novita.ai/v3/openai",
apiKey: "<YOUR Novita AI API Key>",
});
const stream = true; // or false
async function run() {
const completion = await openai.chat.completions.create({
messages: [
{
role: "system",
content: "Be a helpful assistant",
},
{
role: "user",
content: "Hi there!",
},
],
model: "deepseek/deepseek-r1",
stream,
response_format: { type: "text" },
max_tokens: 2048,
temperature: 1,
top_p: 1,
min_p: 0,
top_k: 50,
presence_penalty: 0,
frequency_penalty: 0,
repetition_penalty: 1
});
if (stream) {
for await (const chunk of completion) {
if (chunk.choices[0].finish_reason) {
console.log(chunk.choices[0].finish_reason);
} else {
console.log(chunk.choices[0].delta.content);
}
}
} else {
console.log(JSON.stringify(completion));
}
}
run();
Für Curl-Benutzer:
curl "https://api.novita.ai/v3/openai/chat/completions" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer <YOUR Novita AI API Key>" \
-d @- << 'EOF'
{
"model": "deepseek/deepseek-r1",
"messages": [
{
"role": "system",
"content": "Be a helpful assistant"
},
{
"role": "user",
"content": "Hi there!"
}
],
"response_format": { "type": "text" },
"max_tokens": 2048,
"temperature": 1,
"top_p": 1,
"min_p": 0,
"top_k": 50,
"presence_penalty": 0,
"frequency_penalty": 0,
"repetition_penalty": 1
}
EOF
💡 Profi-Tipps von DeepSeek
Um eine optimale Leistung bei der Verwendung von DeepSeek-R1-Modellen zu erzielen, wird empfohlen, die folgenden Konfigurationen zu verwenden:
- Temperatureinstellungen: Setzen Sie die Temperatur im Bereich von 0,5–0,7 (empfohlen: 0,6), um inkohärente Ausgaben oder endlose Wiederholungen zu vermeiden.
- Prompt-Design: Vermeiden Sie das Hinzufügen eines System-Prompts; fügen Sie alle Anweisungen direkt in den Benutzer-Prompt ein.
- Mathematische Probleme: Fügen Sie bei mathematischen Aufgaben Anweisungen wie hinzu: „Bitte Schritt für Schritt argumentieren und setzen Sie Ihre endgültige Antwort in \boxed{}."
- Evaluierung: Führen Sie mehrere Tests durch und mitteln Sie die Ergebnisse, um ein zuverlässiges Benchmarking zu gewährleisten.
DeepSeek-R1 vs. OpenAI o1: Benchmark-Leistung
DeepSeek-R1 konkurriert direkt mit OpenAI o1 in mehreren Benchmarks und erreicht oder übertrifft oft dessen Leistung.
Mathematik-Benchmarks
Bei anspruchsvollen mathematischen Aufgaben zeigt DeepSeek-R1 eine starke Leistung. Es erreicht 79,8 % bei AIME 2024, leicht vor OpenAI o1-1217 mit 79,2 %. Bei MATH-500, das vielfältige Aufgaben auf High-School-Niveau umfasst, liegt DeepSeek-R1 mit 97,3 % vorne, gegenüber 96,4 % von OpenAI o1-1217.
Programmier-Benchmarks
In Programmier-Benchmarks erreicht DeepSeek-R1 96,3 % bei Codeforces, knapp hinter OpenAI o1-1217 mit 96,6 %. Bei SWE-bench Verified, das das Reasoning in Softwareentwicklungsaufgaben bewertet, erzielt DeepSeek-R1 49,2 %, leicht vor OpenAI o1-1217 mit 48,9 %.
Allgemeinwissen-Benchmarks
Während OpenAI o1 bei Allgemeinwissen-Aufgaben führend ist, bleibt DeepSeek-R1 wettbewerbsfähig. Es erreicht 71,5 % bei GPQA Diamond im Vergleich zu 75,7 % von OpenAI o1-1217. Bei MMLU, einem Multitask-Benchmark, erzielt DeepSeek-R1 90,8 %, knapp hinter den 91,8 % von OpenAI o1-1217.
Diese Ergebnisse unterstreichen die Stärken von DeepSeek-R1 in reasoning-intensiven Bereichen, insbesondere in Mathematik und Programmierung.
Nutzen Sie die Kraft von DeepSeek-R1 noch heute
DeepSeek-R1 ist ein bedeutender Fortschritt im Bereich des reasoning-fokussierten KI, der Transparenz, Zuverlässigkeit und Flexibilität bietet. Seine starke Leistung in Mathematik und Softwareentwicklungsaufgaben macht es zu einem leistungsstarken Werkzeug für Entwickler, die Lösungen in Forschung, Bildung und technischen Arbeitsabläufen suchen.
Dank der Verfügbarkeit auf Novita AI ist die Bereitstellung von DeepSeek-R1 unkompliziert und kosteneffizient. Egal, ob Sie komplexe mathematische Probleme lösen oder Programmieraufgaben automatisieren möchten – DeepSeek-R1 bietet eine robuste und zugängliche Lösung für vielfältige KI-Anwendungen.
Über Novita AI
Novita AI ist eine KI-Cloud-Plattform, die Entwicklern eine einfache Möglichkeit bietet, KI-Modelle über unsere einfache API bereitzustellen, und gleichzeitig eine kostengünstige und zuverlässige GPU-Cloud zum Erstellen und Skalieren bereitstellt.
