Aspectos clave
DeepSeek V3 0324 trae mejoras sustanciales en razonamiento lógico, resolución de problemas matemáticos, precisión en llamadas a funciones y competencia lingüística especializada.
¡Puede iniciar una prueba gratuita en Novita AI!
Un punto destacado importante es la ventana de contexto extendida de 128,000 tokens, que permite una mejor comprensión de textos largos.
El precio es altamente competitivo: $0.39 por 1M de tokens de entrada y $1.3 por 1M de tokens de salida.
DeepSeek ha vuelto a elevar el estándar en inteligencia artificial con el lanzamiento de DeepSeek-V3-0324, un modelo de lenguaje de código abierto que supera significativamente a sus predecesores. El modelo supera sin esfuerzo a competidores de primer nivel como GPT-4.5 y Claude 3.7 Sonnet.
¿Qué es DeepSeek V3 0324?
Resumen de DeepSeek V3 0324
| Información básica | Fecha de lanzamiento | 24 de marzo de 2025 |
| Tamaño del modelo | 671B parámetros (37B activos/token) | |
| Código abierto | Abierto | |
| Arquitectura | Mixture-of-Experts (MoE) | |
| Capacidad | Soporta llamadas a funciones | |
| Soporte de idiomas | Idiomas multilingües compatibles | Capacidades mejoradas en el idioma chino |
| Multimodal | Capacidad multimodal | Texto a texto |
| Entrenamiento | Datos de entrenamiento | 14.8 trillion tokens de datos diversos |
| Tamaño del modelo por precisión | Tipo de tensor | BF16/F8_E4M3/F32 |
Aspectos destacados de DeepSeek V3 0324
Desarrollo web front-end
- Mejora de la ejecutabilidad del código:
- Siga las mejores prácticas, como usar HTML semántico, mantener el código limpio y usar control de versiones para garantizar la legibilidad y el mantenimiento.
- Páginas web y front-ends de juegos más estéticos:
- Use diseño responsivo y frameworks CSS (ej., Sass, Bootstrap) para mejorar el atractivo visual y la disposición en diferentes dispositivos.
Competencia en escritura china
- Estilo y calidad de contenido mejorados:
- Estudie y emule estilos como la escritura elegante en Lantingji Xu para mejorar la fluidez y la gracia en la escritura.
- Mejor calidad en escritura de formato medio a largo:
- Use estructuras como “Qi, Cheng, Zhuan, He” (inicio, desarrollo, giro, conclusión) para un flujo claro y lógico en la escritura.
Mejoras de funciones
- Reescritura interactiva de múltiples turnos mejorada:
- Desarrolle herramientas con procesamiento de lenguaje natural para soportar conversaciones de múltiples turnos y mejorar la interactividad.
- Calidad de traducción y redacción de cartas optimizadas:
- Use modelos de aprendizaje automático como DeepSeek para mejorar la precisión de la traducción y proporcionar sugerencias de estilo de escritura para cartas.
Novita AI ha introducido DeepSeek V3 0324, que ofrece un contexto más largo de 128000 tokens y un precio increíble ($0.39 / 1M tokens de entrada y $1.3 / 1M tokens de salida).
Además, esta versión es totalmente compatible con llamadas a funciones.
¡Puede iniciar una prueba gratuita en Novita AI!
Usando DeepSeek V3 0324 de forma local
Requisitos de hardware
| Modelo | VRAM del modelo | Necesidades de GPU | Necesidades de GPU |
| Deepseep V3 0324 | ~1532 GB | 24Xh100(80*24GB) | 1920GB |
| Modelo de 4 bits | ~386 GB | 8Xh100(80*24GB) | 640GB |
O puede usar otras formas de bits:
fuente de unsloth
Guía paso a paso
Paso 1: Obtener y compilar llama.cpp
1.Clonar el repositorio e instalar dependencias:
<code>sudo apt-get update sudo apt-get install -y pciutils build-essential cmake curl libcurl4-openssl-dev git clone https://github.com/ggml-org/llama.cpp</code>
2.Compilar llama.cpp:
<code>make llama.cpp -B llama.cpp/build \ -DBUILD_SHARED_LIBS=OFF -DGGML_CUDA=ON -DLLAMA_CURL=ON</code>
3.Compilar los binarios:
<code>cmake --build llama.cpp/build --config Release -j --clean-first --target llama-quantize llama-cli llama-gguf-split cp llama.cpp/build/bin/llama-* llama.cpp</code>
Paso 2: Descargar el modelo
1.Instalar las bibliotecas Python requeridas:
<code>pip install huggingface_hub hf_transfer</code>
2.Descargar el modelo GGUF DeepSeek-V3-0324:
import os
from huggingface_hub import snapshot_download
os.environ["HF_HUB_ENABLE_HF_TRANSFER"] = "1"
snapshot_download(
repo_id="unsloth/DeepSeek-V3-0324-GGUF",
local_dir="unsloth/DeepSeek-V3-0324-GGUF",
allow_patterns=["*UD-Q2_K_XL*"] # Dynamic 2.7-bit (230GB)
)
Paso 3: Ejecutar el modelo
Ajuste los parámetros según su hardware:
--threads: Número de hilos de CPU (ej., 32 para CPUs de alto núcleo).
--ctx-size: Longitud del contexto (ej., 16384 para memoria grande).
--n-gpu-layers: Número de capas descargadas a GPU. Aumente para mejor rendimiento, pero reduzca si la memoria de GPU se agota. Omita esto para inferencia solo con CPU.
Usando DeepSeek V3 0324 a través de API
Novita AI es una plataforma en la nube de IA que ofrece a los desarrolladores una forma sencilla de implementar modelos de IA usando nuestra API simple, además de proporcionar una GPU en la nube asequible y confiable para construir y escalar.
Paso 1: Inicie sesión y acceda a la Biblioteca de Modelos
Inicie sesión en su cuenta y haga clic en el botón Biblioteca de Modelos.
¡Pruebe el Demo de DeepSeek V3 0324 ahora!
Paso 2: Seleccione su modelo
Explore las opciones disponibles y seleccione el modelo que se adapte a sus necesidades.
Paso 3: Inicie su prueba gratuita
Comience su prueba gratuita para explorar las capacidades del modelo seleccionado.
Paso 4: Obtenga su clave API
Para autenticarse con la API, le proporcionaremos una nueva clave API. Ingrese a la página de “Configuración”, puede copiar la clave API como se indica en la imagen.
Paso 5: Instale la API
Instale la API usando el gestor de paquetes específico de su lenguaje de programación.
Después de la instalación, importe las bibliotecas necesarias en su entorno de desarrollo. Inicialice la API con su clave API para comenzar a interactuar con Novita AI LLM. Este es un ejemplo de uso de la API de completado de chat para usuarios de Python.
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="<YOUR Novita AI API Key>",
)
model = "deepseek/deepseek-v3-0324"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
Usando DeepSeek V3 0324 a través de Chatbox
Paso 1: Instalar Chatbox
- Seleccione la opción “Configuración”. Esta configuración garantiza la compatibilidad con APIs que siguen el estándar de OpenAI API, como Novita AI.
- Complete los campos de configuración:
- URL base: Ingrese
https://api.novita.ai/v3/openai. - Clave API: Pegue su clave API de Novita AI aquí.
- Nombre del modelo: Pegue el nombre del modelo que copió anteriormente (ej.,
deepseek/deepseek-v3-0324).
- URL base: Ingrese
- Una vez que la configuración esté completa, haga clic en Hecho.
Usando DeepSeek V3 0324 a través de GPU en la nube
Paso 1: Regístrese
Si es nuevo en Novita AI, comience creando una cuenta en nuestro sitio web. Una vez registrado, diríjase a la pestaña “GPUs” para explorar los recursos disponibles y comenzar su viaje.
Paso 2: Explore plantillas y servidores GPU
Comience seleccionando una plantilla que coincida con las necesidades de su proyecto, como PyTorch, TensorFlow o CUDA. Elija la versión que se ajuste a sus requisitos, como PyTorch 2.2.1 o CUDA 11.8.0. Luego, seleccione la configuración del servidor GPU A100, que ofrece un rendimiento potente para manejar cargas de trabajo exigentes con amplia VRAM, RAM y capacidad de disco.
Pruebe las GPU de alto rendimiento de Novita AI
Paso 3: Personalice su implementación
Después de seleccionar una plantilla y GPU, personalice la configuración de su implementación ajustando parámetros como la versión del sistema operativo (ej., CUDA 11.8). También puede modificar otras configuraciones para adaptar el entorno a los requisitos específicos de su proyecto.
Paso 4: Inicie una instancia
Una vez que haya finalizado la plantilla y la configuración de implementación, haga clic en “Iniciar instancia” para configurar su instancia de GPU. Esto iniciará la configuración del entorno, permitiéndole comenzar a usar los recursos de GPU para sus tareas de IA.
Novita AI se integra con 15 plataformas
Novita AI se ha integrado con 15 plataformas, y se pueden encontrar tutoriales detallados en la documentación.
¿Verificar si la integración de su aplicación está completa?
DeepSeek V3 0324 representa un avance significativo en las capacidades de IA, ofreciendo un alto rendimiento con una estructura de precios asequible. Sus habilidades multilingües, ventana de contexto extendida y soporte para llamadas a funciones lo convierten en una herramienta versátil para desarrolladores. Ya sea usado localmente o a través de la API de Novita AI, DeepSeek V3 0324 proporciona una solución potente para una variedad de tareas de IA, desde el procesamiento del lenguaje natural hasta aplicaciones multimodales.
Preguntas frecuentes
¿Cuál es el precio de DeepSeek V3 0324?
El precio es de $0.39 por 1M de tokens de entrada y $1.3 por 1M de tokens de salida, lo que lo hace rentable para desarrolladores en Novita AI.
¿Qué hardware necesito para ejecutar DeepSeek V3 0324 localmente?
El modelo requiere recursos de hardware significativos, incluyendo alrededor de 1532 GB de VRAM y 24 GPU H100 con 80 GB cada una, totalizando 1920 GB.
¿DeepSeek V3 0324 soporta llamadas a funciones?
Sí, es totalmente compatible con llamadas a funciones, permitiendo a los desarrolladores integrarlo en flujos de trabajo más complejos.
Novita AI es una plataforma en la nube de IA que ofrece a los desarrolladores una forma sencilla de implementar modelos de IA usando nuestra API simple, además de proporcionar una GPU en la nube asequible y confiable para construir y escalar.
