Destaques Principais
O DeepSeek V3 0324 traz melhorias substanciais no raciocínio lógico, resolução de problemas matemáticos, precisão de chamada de função e proficiência em linguagens especializadas.
Você pode iniciar uma avaliação gratuita na Novita AI!
Um destaque importante é a janela de contexto estendida de 128.000 tokens, permitindo melhor compreensão de textos longos.
O preço é altamente competitivo: $0,39 por 1M tokens de entrada e $1,3 por 1M tokens de saída.
A DeepSeek elevou novamente o nível da inteligência artificial com o lançamento do DeepSeek-V3-0324, um modelo de linguagem open-source que supera significativamente seus antecessores. O modelo supera facilmente concorrentes de ponta como GPT-4.5 e Claude 3.7 Sonnet.
O que é o DeepSeek V3 0324?
Visão geral do Deepseek V3 0324
| Informações Básicas | Data de Lançamento | 24 de março de 2025 |
| Tamanho do Modelo | 671B parâmetros (37B ativos/token) | |
| Open Source | Aberto | |
| Arquitetura | Mixture-of-Experts (MoE) | |
| Capacidade | Suporta chamada de função | |
| Suporte a Idiomas | Idiomas Multilíngues Suportados | Capacidades aprimoradas em chinês |
| Multimodal | Capacidade Multimodal | Texto para texto |
| Treinamento | Dados de Treinamento | 14,8 trilhões de tokens diversos |
| Tamanho do Modelo por Precisão | Tipo de Tensor | BF16/F8_E4M3/F32 |
Destaques do Deepseek V3 0324
Desenvolvimento Web Front-End
- Melhor Executabilidade de Código:
- Siga boas práticas como usar HTML semântico, manter o código limpo e usar controle de versão para garantir legibilidade e manutenibilidade.
- Páginas Web e Front-Ends de Jogos Mais Atraentes:
- Use design responsivo e frameworks CSS (ex.: Sass, Bootstrap) para melhorar o apelo visual e o layout em diferentes dispositivos.
Proficiência em Escrita em Chinês
- Qualidade Aprimorada de Estilo e Conteúdo:
- Estude e emule estilos como a escrita elegante em Lantingji Xu para melhorar fluência e elegância na escrita.
- Melhor Qualidade em Escrita de Médio a Longo Formato:
- Use estruturas como “Qi, Cheng, Zhuan, He” (início, desenvolvimento, reviravolta, conclusão) para um fluxo claro e lógico na escrita.
Melhorias de Funcionalidades
- Reescrita Interativa Multi-Turn Aprimorada:
- Desenvolva ferramentas com processamento de linguagem natural para suportar conversas multi-turn e aumentar a interatividade.
- Qualidade Otimizada de Tradução e Redação de Cartas:
- Use modelos de aprendizado de máquina como DeepSeek para melhorar a precisão da tradução e fornecer sugestões de estilo de escrita para cartas.
A Novita AI apresentou o DeepSeek V3 0324, oferecendo contexto mais longo de 128.000 e preço incrível ($0,39 / 1M tokens de entrada e $1,3 / 1M tokens de saída)
Além disso, esta versão suporta totalmente chamada de função.
Você pode iniciar uma avaliação gratuita na Novita AI!
Usando o DeepSeek V3 0324 Localmente
Requisitos de Hardware
| Modelo | VRAM do Modelo | NECESSIDADES DE GPU | Necessidades de GPU |
| Deepseek V3 0324 | ~1532 GB | 24Xh100(80*24GB) | 1920GB |
| Modelo 4-bit | ~386 GB | 8Xh100(80*24GB) | 640GB |
Ou você pode adotar outras formas de bits:
fonte de unsloth
Guia Passo a Passo
Passo 1: Obter e Construir o llama.cpp
1.Clone o repositório e instale as dependências:
<code>sudo apt-get update sudo apt-get install -y pciutils build-essential cmake curl libcurl4-openssl-dev git clone https://github.com/ggml-org/llama.cpp</code>
2.Construa o llama.cpp:
<code>make llama.cpp -B llama.cpp/build \ -DBUILD_SHARED_LIBS=OFF -DGGML_CUDA=ON -DLLAMA_CURL=ON</code>
3.Compile os binários:
<code>cmake --build llama.cpp/build --config Release -j --clean-first --target llama-quantize llama-cli llama-gguf-split cp llama.cpp/build/bin/llama-* llama.cpp</code>
Passo 2: Baixar o Modelo
1.Instale as bibliotecas Python necessárias:
<code>pip install huggingface_hub hf_transfer</code>
2.Baixe o modelo GGUF DeepSeek-V3-0324:
import os
from huggingface_hub import snapshot_download
os.environ["HF_HUB_ENABLE_HF_TRANSFER"] = "1"
snapshot_download(
repo_id="unsloth/DeepSeek-V3-0324-GGUF",
local_dir="unsloth/DeepSeek-V3-0324-GGUF",
allow_patterns=["*UD-Q2_K_XL*"] # Dynamic 2.7-bit (230GB)
)
Passo 3: Executar o Modelo
Ajuste os parâmetros com base no seu hardware:
--threads: Número de threads da CPU (ex.: 32 para CPUs com muitos núcleos).
--ctx-size: Tamanho do contexto (ex.: 16384 para memória grande).
--n-gpu-layers: Número de camadas descarregadas para a GPU. Aumente para melhor desempenho, mas reduza se a memória da GPU acabar. Omita para inferência apenas com CPU.
Usando o DeepSeek V3 0324 via API
A Novita AI é uma plataforma de nuvem de IA que oferece aos desenvolvedores uma maneira fácil de implantar modelos de IA usando nossa API simples, além de fornecer GPU em nuvem acessível e confiável para construir e escalar.
Passo 1: Faça Login e Acesse a Biblioteca de Modelos
Faça login na sua conta e clique no botão Model Library.
Experimente o DeepSeek V3 0324 Demo Agora!
Passo 2: Escolha Seu Modelo
Navegue pelas opções disponíveis e selecione o modelo que atende às suas necessidades.
Passo 3: Inicie Sua Avaliação Gratuita
Comece sua avaliação gratuita para explorar as capacidades do modelo selecionado.
Passo 4: Obtenha Sua Chave de API
Para autenticar com a API, forneceremos uma nova chave de API. Entrando na página “Settings”, você pode copiar a chave de API conforme indicado na imagem.
Passo 5: Instale a API
Instale a API usando o gerenciador de pacotes específico para sua linguagem de programação.
Após a instalação, importe as bibliotecas necessárias para o seu ambiente de desenvolvimento. Inicialize a API com sua chave de API para começar a interagir com a Novita AI LLM. Este é um exemplo de uso da API de chat completions para usuários Python.
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="<YOUR Novita AI API Key>",
)
model = "deepseek/deepseek-v3-0324"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
Usando o DeepSeek V3 0324 via Chatbox
Passo 1: Instale o Chatbox
- Selecione a opção “Setting”. Essa configuração garante compatibilidade com APIs que seguem o padrão OpenAI API, como a Novita AI.
- Preencha os campos de configuração:
- Base URL: Insira
https://api.novita.ai/v3/openai. - API Key: Cole aqui sua Chave de API da Novita AI.
- Model Name: Cole o nome do modelo que você copiou anteriormente (ex.:
deepseek/deepseek-v3-0324).
- Base URL: Insira
- Após preencher a configuração, clique em Done.
Usando o DeepSeek V3 0324 via GPU em Nuvem
Passo 1: Registre uma conta
Se você é novo na Novita AI, comece criando uma conta em nosso site. Após se registrar, vá para a aba “GPUs” para explorar os recursos disponíveis e iniciar sua jornada.
Passo 2: Explore Templates e Servidores GPU
Comece selecionando um template que atenda às necessidades do seu projeto, como PyTorch, TensorFlow ou CUDA. Escolha a versão que se adequa aos seus requisitos, como PyTorch 2.2.1 ou CUDA 11.8.0. Em seguida, selecione a configuração do servidor GPU A100, que oferece desempenho poderoso para lidar com cargas de trabalho exigentes com ampla VRAM, RAM e capacidade de disco.
Experimente as GPUs de Alto Desempenho da Novita AI
Passo 3: Personalize Sua Implantação
Após selecionar um template e GPU, personalize as configurações de implantação ajustando parâmetros como a versão do sistema operacional (ex.: CUDA 11.8). Você também pode ajustar outras configurações para adaptar o ambiente aos requisitos específicos do seu projeto.
Passo 4: Inicie uma instância
Depois de finalizar o template e as configurações de implantação, clique em “Launch Instance” para configurar sua instância GPU. Isso iniciará a configuração do ambiente, permitindo que você comece a usar os recursos da GPU para suas tarefas de IA.
Novita AI Integra-se com 15 Plataformas
A Novita AI se integrou com 15 plataformas, e tutoriais detalhados podem ser encontrados na documentação.
Verifique se sua Integração de App está Completa?
O DeepSeek V3 0324 representa um avanço significativo nas capacidades de IA, oferecendo alto desempenho com uma estrutura de preços acessível. Suas habilidades multilíngues, janela de contexto estendida e suporte para chamada de função o tornam uma ferramenta versátil para desenvolvedores. Seja usado localmente ou via API da Novita AI, o DeepSeek V3 0324 fornece uma solução poderosa para uma variedade de tarefas de IA, desde processamento de linguagem natural até aplicações multimodais.
Perguntas Frequentes
Qual é o preço do DeepSeek V3 0324?
O preço é $0,39 por 1M tokens de entrada e $1,3 por 1M tokens de saída, tornando-o econômico para desenvolvedores na Novita AI.
Qual hardware é necessário para executar o DeepSeek V3 0324 localmente?
O modelo requer recursos de hardware significativos, incluindo cerca de 1532 GB de VRAM e 24 GPUs H100 com 80GB cada, totalizando 1920 GB.
O DeepSeek V3 0324 suporta chamadas de função?
Sim, ele suporta totalmente chamada de função, permitindo que desenvolvedores o integrem em fluxos de trabalho mais complexos.
Novita AI é uma plataforma de nuvem de IA que oferece aos desenvolvedores uma maneira fácil de implantar modelos de IA usando nossa API simples, além de fornecer uma GPU em nuvem acessível e confiável para construir e escalar.
