O mundo da inovação open-source está dando um grande salto com o lançamento do DeepSeek V3, um modelo avançado de geração de código que promete redefinir como os desenvolvedores abordam tarefas de programação. Agora disponível na Novita AI, este modelo inovador está preparado para capacitar desenvolvedores, pesquisadores e entusiastas da tecnologia com capacidades incomparáveis.
O que é o DeepSeek V3?
DeepSeek V3 é um modelo de linguagem grande (LLM) de Mistura de Especialistas (MoE) de última geração, com 671 bilhões de parâmetros, dos quais 37 bilhões são ativados por token durante a inferência. Lançado como um modelo open-source, ele permite que desenvolvedores enfrentem desafios complexos em codificação, raciocínio, matemática e geração de texto.
O DeepSeek V3 se destaca por sua arquitetura eficiente e treinamento econômico. Seu treinamento exigiu apenas 2,788 milhões de horas de GPU H800, custando aproximadamente US$ 5,5 milhões, muito menos do que os recursos necessários para modelos fechados comparáveis, como o GPT-4. Ao incorporar técnicas inovadoras como Atenção Latente Multi-Cabeça (MLA) e Predição Multi-Token (MTP), o DeepSeek V3 oferece desempenho excepcional, mantendo-se escalável e acessível.
Principais Recursos do DeepSeek V3
1. Arquitetura de Mistura de Especialistas (MoE)
O DeepSeek V3 utiliza uma estrutura MoE com técnicas refinadas de balanceamento de carga dinâmico. Diferente dos modelos MoE tradicionais, ele elimina a necessidade de perda auxiliar, garantindo que os recursos computacionais sejam distribuídos de forma eficiente sem degradação de desempenho.
2. Atenção Latente Multi-Cabeça (MLA)
O MLA melhora a eficiência da inferência ao comprimir chaves e valores de atenção, reduzindo a sobrecarga de memória enquanto mantém alta qualidade de atenção. Isso permite que o DeepSeek V3 lide com janelas de contexto de até 128 mil tokens, tornando-o ideal para tarefas que envolvem entrada de texto extensa.
3. Predição Multi-Token (MTP)
O objetivo MTP permite que o DeepSeek V3 preveja múltiplos tokens simultaneamente, melhorando tanto a eficiência do treinamento quanto a velocidade da inferência. Esse recurso é particularmente útil para gerar conteúdo longo ou resolver problemas complexos.
4. Treinamento com Precisão Mista FP8
O DeepSeek V3 utiliza precisão FP8 (ponto flutuante de 8 bits) para treinamento, reduzindo custos de memória e computação enquanto mantém a estabilidade numérica. Essa inovação permite que o modelo escale de forma eficiente sem exigir uma grande infraestrutura de hardware.
5. Suporte para Inglês e Chinês
O DeepSeek V3 é otimizado para inglês e chinês, sendo uma excelente escolha para desenvolvedores que constroem aplicações multilíngues para esses dois idiomas amplamente utilizados. Embora não suporte uma ampla gama de idiomas, ele se destaca nesses domínios específicos.
Desempenho em Benchmarks do DeepSeek V3
O DeepSeek V3 supera consistentemente muitos modelos open-source e até mesmo fechados em vários benchmarks. Abaixo está uma comparação de seu desempenho:
- Excelência em Codificação:
- DeepSeek V3 alcança 82,6% no HumanEval-Mul (Pass@1) e 51,6% no Codeforces, tornando-se uma solução robusta para geração e avaliação de código.
- No LiveCodeBench (Pass@1-COT), ele supera significativamente seus antecessores, com 40,5%, e tem desempenho competitivo em relação a outros modelos.
- Raciocínio Matemático:
- DeepSeek V3 lidera no MATH-500 (90,2%) e mostra um forte desempenho no CNMO 2024 (Pass@1) e no AIME 2024, demonstrando sua capacidade de lidar com resolução avançada de problemas matemáticos.
- Capacidades Multilíngues:
- Com 90,9% no CLUEWSC e 86,5% no C-Eval, o DeepSeek V3 se consolida como um excelente modelo para tarefas específicas em chinês, mantendo um desempenho robusto em benchmarks de inglês, como MMLU (88,5%).
- Conhecimento Geral e Raciocínio:
- Alcança 91,6% no DROP (3-shot F1) e 89,1% no MMLU-Redux, mostrando sua utilidade em aplicações intensivas em conhecimento.
Experimente o DeepSeek V3 Demo Agora
Opções de Implantação para DeepSeek V3
O DeepSeek V3 oferece flexibilidade na implantação, permitindo que os usuários o integrem perfeitamente em seus fluxos de trabalho. Se você prefere executá-lo localmente ou na nuvem, o modelo suporta uma variedade de hardware e ferramentas de software da comunidade open-source. Aqui estão as opções recomendadas para implantação:
- DeepSeek-Infer Demo: Uma demonstração simples e leve para inferência FP8 e BF16, fornecendo uma maneira fácil de testar o modelo.
- SGLang: Suporta totalmente o modelo DeepSeek-V3 nos modos de inferência BF16 e FP8, com suporte para Predição Multi-Token em breve.
- LMDeploy: Permite inferência eficiente FP8 e BF16 tanto para implantação local quanto em nuvem.
- TensorRT-LLM: Atualmente suporta inferência BF16 e quantização INT4/INT8, com suporte para FP8 planejado para futuras atualizações.
- vLLM: Suporta DeepSeek V3 nos modos FP8 e BF16, permitindo paralelismo de tensor e paralelismo de pipeline para escalonamento eficiente.
Acesse a API do DeepSeek V3 via Novita AI
A plataforma Novita AI simplifica a implantação do DeepSeek V3, fornecendo APIs pré-configuradas e infraestrutura de GPU em nuvem acessível. Os desenvolvedores podem integrar o modelo perfeitamente em suas aplicações sem se preocupar com configuração de hardware ou escalabilidade.
Para começar com DeepSeek V3 na Novita AI, siga estas etapas:
Passo 1: Acesse Novita AI e faça login usando sua conta Google, GitHub ou e-mail.
Passo 2: Experimente o DeepSeek V3 Demo.
Passo 3: Monitore o Console de Métricas LLM do modelo na Novita AI.
Passo 4: Obtenha sua Chave de API:
- Navegue até “Gerenciamento de Chaves” nas configurações
- Uma chave padrão é criada no seu primeiro login
- Gere chaves adicionais clicando em “+ Adicionar Nova Chave”
Passo 5: Configure seu ambiente de desenvolvimento e defina opções como conteúdo, função, nome e prompt.
Integração da API
A Novita AI fornece bibliotecas cliente para Curl, Python e JavaScript, facilitando a integração do DeepSeek-R1 Instruct em seus projetos:
Para usuários de Python:
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="<YOUR Novita AI API Key>",
)
model = "deepseek/deepseek_v3"
stream = True # or False
max_tokens = 8192
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
Para usuários de JavaScript:
import OpenAI from "openai";
const openai = new OpenAI({
baseURL: "https://api.novita.ai/v3/openai",
apiKey: "<YOUR Novita AI API Key>",
});
const stream = true; // or false
async function run() {
const completion = await openai.chat.completions.create({
messages: [
{
role: "system",
content: "Be a helpful assistant",
},
{
role: "user",
content: "Hi there!",
},
],
model: "deepseek/deepseek_v3",
stream,
response_format: { type: "text" },
max_tokens: 8192,
temperature: 1,
top_p: 1,
min_p: 0,
top_k: 50,
presence_penalty: 0,
frequency_penalty: 0,
repetition_penalty: 1
});
if (stream) {
for await (const chunk of completion) {
if (chunk.choices[0].finish_reason) {
console.log(chunk.choices[0].finish_reason);
} else {
console.log(chunk.choices[0].delta.content);
}
}
} else {
console.log(JSON.stringify(completion));
}
}
run();
Para usuários de Curl:
curl "https://api.novita.ai/v3/openai/chat/completions" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer <YOUR Novita AI API Key>" \
-d @- << 'EOF'
{
"model": "deepseek/deepseek_v3",
"messages": [
{
"role": "system",
"content": "Be a helpful assistant"
},
{
"role": "user",
"content": "Hi there!"
}
],
"response_format": { "type": "text" },
"max_tokens": 8192,
"temperature": 1,
"top_p": 1,
"min_p": 0,
"top_k": 50,
"presence_penalty": 0,
"frequency_penalty": 0,
"repetition_penalty": 1
}
EOF
Libere o Poder do DeepSeek V3 Hoje
O DeepSeek V3 representa um avanço na IA open-source, combinando escalabilidade, economia e desempenho excepcional. Juntamente com opções versáteis de implantação em GPUs e plataformas em nuvem, o DeepSeek V3 é uma ferramenta poderosa para desenvolvedores e empresas.
Comece agora com DeepSeek V3 na Novita AI e desbloqueie o potencial da IA avançada para seus projetos.
Sobre a Novita AI
Novita AI é uma plataforma de nuvem de IA que oferece aos desenvolvedores uma maneira fácil de implantar modelos de IA usando nossa API simples, além de fornecer uma nuvem de GPU acessível e confiável para construir e escalar.
