Wichtige Highlights
DeepSeek V3 0324 bringt wesentliche Verbesserungen im logischen Denken, beim Lösen mathematischer Probleme, bei der Genauigkeit von Funktionsaufrufen und der Beherrschung spezialisierter Sprachen.
Sie können eine kostenlose Testversion auf Novita AI starten!
Ein besonderes Highlight ist das erweiterte Kontextfenster von 128.000 Token, das ein besseres Verständnis langer Texte ermöglicht.
Die Preisgestaltung ist äußerst wettbewerbsfähig: 0,39 $ pro 1 Mio. Eingabe-Token und 1,3 $ pro 1 Mio. Ausgabe-Token.
DeepSeek hat mit der Veröffentlichung von DeepSeek-V3-0324 erneut die Messlatte in der künstlichen Intelligenz höher gelegt – ein quelloffenes Sprachmodell, das seine Vorgänger deutlich übertrifft. Das Modell übertrifft mühelos die besten Mitbewerber wie GPT-4.5 und Claude 3.7 Sonnet.
Was ist DeepSeek V3 0324?
Überblick über Deepseek V3 0324
| Basisinformationen | Veröffentlichungsdatum | 24. März 2025 |
| Modellgröße | 671B Parameter (37B aktiv/Token) | |
| Open Source | Offen | |
| Architektur | Mixture-of-Experts (MoE) | |
| Fähigkeit | Unterstützt Funktionsaufrufe | |
| Sprachunterstützung | Unterstützte Mehrsprachigkeit | Verbesserte Fähigkeiten in chinesischer Sprache |
| Multimodal | Multimodale Fähigkeit | Text zu Text |
| Training | Trainingsdaten | 14,8 Billionen Token verschiedener Art |
| Modellgröße nach Präzision | Tensor-Typ | BF16/F8_E4M3/F32 |
Highlights von Deepseek V3 0324
Front-End-Webentwicklung
- Verbesserte Code-Ausführbarkeit:
- Befolgen Sie Best Practices wie semantisches HTML, sauberen Code und Versionskontrolle für Lesbarkeit und Wartbarkeit.
- Ästhetisch ansprechendere Webseiten und Game-Frontends:
- Verwenden Sie responsives Design und CSS-Frameworks (z. B. Sass, Bootstrap), um die visuelle Attraktivität und das Layout auf verschiedenen Geräten zu verbessern.
Chinesische Schreibkompetenz
- Verbesserte Stil- und Inhaltsqualität:
- Studieren und imitieren Sie Stile wie die elegante Schrift in Lantingji Xu, um die Flüssigkeit und Eleganz des Schreibens zu verbessern.
- Bessere Qualität in mittellangen bis langen Texten:
- Verwenden Sie Strukturen wie „Qi, Cheng, Zhuan, He“ (Anfang, Entwicklung, Wendung, Schluss) für einen klaren, logischen Schreibfluss.
Funktionserweiterungen
- Verbesserte interaktive Mehrfach-Umschreibung:
- Entwickeln Sie Tools mit Verarbeitung natürlicher Sprache, um Mehrfachgespräche zu unterstützen und die Interaktivität zu erhöhen.
- Optimierte Übersetzungsqualität und Briefschreiben:
- Verwenden Sie Modelle des maschinellen Lernens wie DeepSeek, um die Übersetzungsgenauigkeit zu verbessern und Stilvorschläge für Briefe zu bieten.
Novita AI hat DeepSeek V3 0324 eingeführt, mit einem längeren Kontext von 128.000 Token und einem erstaunlichen Preis (0,39 $ / 1 Mio. Eingabe-Token und 1,3 $ / 1 Mio. Ausgabe-Token).
Darüber hinaus unterstützt diese Version vollständig Funktionsaufrufe.
Sie können eine kostenlose Testversion auf Novita AI starten!
DeepSeek V3 0324 lokal nutzen
Hardware-Anforderungen
| Modell | Modell-VRAM | GPU-Bedarf | GPU-Bedarf |
| Deepseek V3 0324 | ~1532 GB | 24x H100 (80*24 GB) | 1920 GB |
| 4-Bit-Modell | ~386 GB | 8x H100 (80*24 GB) | 640 GB |
Oder Sie können andere Bit-Varianten nutzen:
Quelle von unsloth
Schritt-für-Schritt-Anleitung
Schritt 1: llama.cpp herunterladen und bauen
1. Repository klonen und Abhängigkeiten installieren:
<code>sudo apt-get update sudo apt-get install -y pciutils build-essential cmake curl libcurl4-openssl-dev git clone https://github.com/ggml-org/llama.cpp</code>
2. llama.cpp bauen:
<code>make llama.cpp -B llama.cpp/build \ -DBUILD_SHARED_LIBS=OFF -DGGML_CUDA=ON -DLLAMA_CURL=ON</code>
3. Binärdateien kompilieren:
<code>cmake --build llama.cpp/build --config Release -j --clean-first --target llama-quantize llama-cli llama-gguf-split cp llama.cpp/build/bin/llama-* llama.cpp</code>
Schritt 2: Das Modell herunterladen
1. Erforderliche Python-Bibliotheken installieren:
<code>pip install huggingface_hub hf_transfer</code>
2. DeepSeek-V3-0324 GGUF-Modell herunterladen:
import os
from huggingface_hub import snapshot_download
os.environ["HF_HUB_ENABLE_HF_TRANSFER"] = "1"
snapshot_download(
repo_id="unsloth/DeepSeek-V3-0324-GGUF",
local_dir="unsloth/DeepSeek-V3-0324-GGUF",
allow_patterns=["*UD-Q2_K_XL*"] # Dynamic 2.7-bit (230GB)
)
Schritt 3: Das Modell ausführen
Parameter je nach Hardware anpassen:
--threads: Anzahl der CPU-Threads (z. B. 32 für High-Core-CPUs).
--ctx-size: Kontextlänge (z. B. 16384 für großen Speicher).
--n-gpu-layers: Anzahl der auf die GPU ausgelagerten Schichten. Erhöhen für bessere Leistung, aber reduzieren, wenn der GPU-Speicher knapp wird. Für reine CPU-Inferenz weglassen.
DeepSeek V3 0324 über die API nutzen
Novita AI ist eine KI-Cloud-Plattform, die Entwicklern eine einfache Möglichkeit bietet, KI-Modelle über unsere einfache API bereitzustellen, und gleichzeitig eine erschwingliche und zuverlässige GPU-Cloud zum Aufbau und zur Skalierung bereitstellt.
Schritt 1: Anmelden und auf die Modellbibliothek zugreifen
Melden Sie sich in Ihrem Konto an und klicken Sie auf die Schaltfläche Modellbibliothek.
Jetzt DeepSeek V3 0324 Demo ausprobieren!
Schritt 2: Wählen Sie Ihr Modell
Durchsuchen Sie die verfügbaren Optionen und wählen Sie das Modell aus, das Ihren Anforderungen entspricht.
Schritt 3: Starten Sie Ihre kostenlose Testversion
Beginnen Sie Ihre kostenlose Testversion, um die Fähigkeiten des ausgewählten Modells zu erkunden.
Schritt 4: Holen Sie sich Ihren API-Schlüssel
Zur Authentifizierung mit der API stellen wir Ihnen einen neuen API-Schlüssel zur Verfügung. Gehen Sie auf die Seite „Einstellungen“ und kopieren Sie den API-Schlüssel wie im Bild gezeigt.
Schritt 5: API installieren
Installieren Sie die API mit dem Paketmanager, der für Ihre Programmiersprache spezifisch ist.
Importieren Sie nach der Installation die erforderlichen Bibliotheken in Ihre Entwicklungsumgebung. Initialisieren Sie die API mit Ihrem API-Schlüssel, um mit Novita AI LLM zu interagieren. Dies ist ein Beispiel für die Verwendung der Chat Completions API für Python-Benutzer.
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="<IHR Novita AI API-Schlüssel>",
)
model = "deepseek/deepseek-v3-0324"
stream = True # oder False
max_tokens = 2048
system_content = """Sei ein hilfreicher Assistent"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hallo!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
DeepSeek V3 0324 über Chatbox nutzen
Schritt 1: Chatbox installieren
- Wählen Sie die Option „Einstellungen“. Diese Einstellung stellt die Kompatibilität mit APIs sicher, die dem OpenAI API-Standard folgen, wie Novita AI.
- Füllen Sie die Konfigurationsfelder aus:
- Basis-URL: Geben Sie
https://api.novita.ai/v3/openaiein. - API-Schlüssel: Fügen Sie hier Ihren Novita AI API-Schlüssel ein.
- Modellname: Fügen Sie den zuvor kopierten Modellnamen ein (z. B.
deepseek/deepseek-v3-0324).
- Basis-URL: Geben Sie
- Klicken Sie nach dem Ausfüllen der Konfiguration auf Fertig.
DeepSeek V3 0324 über Cloud GPU nutzen
Schritt 1: Ein Konto registrieren
Wenn Sie neu bei Novita AI sind, erstellen Sie zunächst ein Konto auf unserer Website. Sobald Sie registriert sind, gehen Sie zum Tab „GPUs“, um verfügbare Ressourcen zu erkunden und Ihre Reise zu beginnen.
Schritt 2: Vorlagen und GPU-Server erkunden
Wählen Sie zunächst eine Vorlage, die zu Ihren Projektanforderungen passt, z. B. PyTorch, TensorFlow oder CUDA. Wählen Sie die Version, die Ihren Anforderungen entspricht, z. B. PyTorch 2.2.1 oder CUDA 11.8.0. Wählen Sie dann die A100 GPU-Serverkonfiguration, die leistungsstarke Performance für anspruchsvolle Arbeitslasten mit ausreichend VRAM, RAM und Speicherkapazität bietet.
High-Performance GPUs von Novita AI testen
Schritt 3: Ihre Bereitstellung anpassen
Passen Sie nach der Auswahl einer Vorlage und GPU Ihre Bereitstellungseinstellungen an, indem Sie Parameter wie die Betriebssystemversion (z. B. CUDA 11.8) anpassen. Sie können auch andere Konfigurationen optimieren, um die Umgebung an die spezifischen Anforderungen Ihres Projekts anzupassen.
Schritt 4: Eine Instanz starten
Klicken Sie nach der Festlegung von Vorlage und Bereitstellungseinstellungen auf „Instanz starten“, um Ihre GPU-Instanz einzurichten. Dadurch wird die Umgebung eingerichtet, sodass Sie die GPU-Ressourcen für Ihre KI-Aufgaben nutzen können.
Novita AI ist in 15 Plattformen integriert
Novita AI ist in 15 Plattformen integriert; detaillierte Tutorials finden Sie in der Dokumentation.
Prüfen, ob Ihre App-Integration abgeschlossen ist?
DeepSeek V3 0324 stellt einen bedeutenden Fortschritt in den KI-Fähigkeiten dar und bietet hohe Leistung zu einem erschwinglichen Preis. Seine mehrsprachigen Fähigkeiten, das erweiterte Kontextfenster und die Unterstützung von Funktionsaufrufen machen es zu einem vielseitigen Werkzeug für Entwickler. Ob lokal oder über die Novita AI API genutzt, DeepSeek V3 0324 bietet eine leistungsstarke Lösung für eine Vielzahl von KI-Aufgaben, von der Verarbeitung natürlicher Sprache bis hin zu multimodalen Anwendungen.
Häufig gestellte Fragen
Wie hoch ist der Preis für DeepSeek V3 0324?
Der Preis beträgt 0,39 $ pro 1 Mio. Eingabe-Token und 1,3 $ pro 1 Mio. Ausgabe-Token, was es für Entwickler auf Novita AI kosteneffektiv macht.
Welche Hardware benötige ich, um DeepSeek V3 0324 lokal auszuführen?
Das Modell erfordert erhebliche Hardwareressourcen, darunter etwa 1532 GB VRAM und 24x H100 GPUs mit jeweils 80 GB, also insgesamt 1920 GB.
Unterstützt DeepSeek V3 0324 Funktionsaufrufe?
Ja, es unterstützt vollständig Funktionsaufrufe, sodass Entwickler es in komplexere Arbeitsabläufe integrieren können.
Novita AI ist eine KI-Cloud-Plattform, die Entwicklern eine einfache Möglichkeit bietet, KI-Modelle über unsere einfache API bereitzustellen, und gleichzeitig eine erschwingliche und zuverlässige GPU-Cloud zum Aufbau und zur Skalierung bereitstellt.
