Um Guia para Acessar o DeepSeek V3: Localmente e Via API

Um Guia para Acessar o DeepSeek V3: Localmente e Via API

Destaques Principais

O DeepSeek V3 introduz características arquitetônicas inovadoras como MoE e MLA, aumentando significativamente a eficiência e o comprimento do contexto.

O custo-benefício do DeepSeek V3 é notável, com baixos custos de treinamento e taxas de uso da API mais baratas que as dos concorrentes.

Os usuários podem acessar o DeepSeek V3 através da API da Novita AI ou implantá-lo localmente, oferecendo flexibilidade para diversas necessidades e recursos.

O DeepSeek, um modelo de IA inovador, ganhou fama global no final de janeiro de 2025. Após o lançamento do seu modelo V3 e aplicativo, a abertura do código do modelo de inferência R1 em 20 de janeiro despertou interesse mundial. Em poucos dias, o aplicativo do DeepSeek chegou ao topo da App Store dos EUA, superando gigantes da tecnologia. Neste artigo, examinaremos como acessá-lo, compararemos a implantação local com o acesso via API e ofereceremos orientações para diferentes necessidades dos usuários.

O que é o DeepSeek-v3

O DeepSeek V3 é um modelo de linguagem grande (LLM) de código aberto e estado da arte, baseado na arquitetura Mixture-of-Experts (MoE), desenvolvido pela Beijing DeepSeek Technology Co., Ltd. Este modelo avançado possui 671 bilhões de parâmetros, com apenas 37 bilhões ativados por token durante a inferência, otimizando o desempenho e minimizando o consumo de recursos. O DeepSeek V3 foi projetado para competir com modelos líderes como o GPT, destacando-se especialmente em tarefas de codificação e técnicas.

Características Principais

whati s moe

  • Arquitetura Mixture-of-Experts (MoE): O DeepSeek V3 emprega um framework MoE com técnicas refinadas de balanceamento de carga dinâmico, eliminando a necessidade de perda auxiliar.
  • Multi-Head Latent Attention (MLA): Este recurso melhora a eficiência da inferência ao comprimir chaves e valores de atenção, reduzindo a sobrecarga de memória e permitindo que o modelo lide com longas janelas de contexto de até 128K tokens.
  • Multi-Token Prediction (MTP): O MTP permite que o DeepSeek V3 preveja vários tokens simultaneamente, melhorando tanto a eficiência do treinamento quanto a velocidade da inferência.
  • Treinamento com Precisão Mista FP8: O modelo utiliza precisão de ponto flutuante de 8 bits para treinamento, reduzindo os custos de memória e computação.
  • Suporte Bilíngue: O DeepSeek V3 é otimizado tanto para inglês quanto para chinês, tornando-o adequado para aplicações multilíngues nesses idiomas.

Conforme ilustrado no gráfico, o DeepSeek-V3 alcança um equilíbrio ideal entre alto desempenho e baixo custo através de seu design arquitetônico inovador, tornando-se uma referência em relação custo-benefício. Esse design permite que o DeepSeek-V3 se destaque entre numerosos modelos, sendo uma escolha versátil para diversos orçamentos e requisitos de tarefas.

  • Tarefas de inferência em larga escala (por exemplo, geração de conteúdo em lote).
  • Empresas e equipes de pequeno e médio porte com forte foco em eficiência de custos.
  • Tarefas envolvendo matemática, geração de código e raciocínio lógico complexo.

O DeepSeek-V3 já está disponível na Novita AI! Aproveite preços incrivelmente baixos por milhão de tokens tanto para entrada quanto para saída — não perca esta oportunidade de acessar IA de ponta a um custo imbatível!

Comparação com Outros Modelos

O DeepSeek-V3 é um modelo poderoso que se destaca em múltiplos domínios, particularmente no tratamento de conhecimento profissional, matemática básica e tarefas de programação. No entanto, ele tem espaço para melhorias em raciocínio avançado e aplicações em domínios específicos. Isso indica áreas para futuras melhorias, como aumentar a capacidade de resolução de problemas abertos, raciocínio matemático complexo e desempenho em cenários práticos de engenharia de software.

Se você quiser ver uma comparação de parâmetros mais detalhada, confira os artigos: Deepseek v3 vs Llama 3.3 70b: Tarefas de Linguagem vs Código e Matemática; Llama 3.2 3B vs DeepSeek V3: Comparando Eficiência e Desempenho.

Como Acessar o DeepSeek-v3 Localmente

Requisitos de Hardware e Recomendações de Configuração

  • Sistema Operacional

    • Windows 10 ou mais recente
    • macOS 10.15 ou posterior
    • Linux (Ubuntu 18.04+)
  • CPU

    • Processador multi-core (mínimo 4 núcleos)
  • GPU

    • GPUs NVIDIA recomendadas para inferência mais rápida
    • Mínimo de 8GB de VRAM para destilações R1 menores
    • Mais VRAM necessária para o modelo completo de 671B
    • Execução apenas com CPU possível, mas significativamente mais lenta
  • Memória (RAM)

    • 8GB: Suficiente para as versões menores (1.5B ou 7B)
    • 16GB ou mais: Recomendado para modelos intermediários (14B ou 32B)
  • Armazenamento

    • Espaço livre de 4 a 50 GB necessário, dependendo do tamanho do R1 baixado
  • Requisitos de Software

    • Python 3.10 para scripts oficiais do R1

Guia de Instalação Passo a Passo

1.Clone o Repositório:

git clone https://github.com/deepseek-ai/DeepSeek-V3.git

2.Navegue até a Pasta de Inferência e Instale as Dependências:

cd DeepSeek-V3/inference
pip install -r requirements.txt

3.Baixe os Pesos do Modelo:
Baixe os pesos do modelo do Hugging Face e coloque-os no diretório designado (por exemplo, /path/to/DeepSeek-V3).

4.Converta os Pesos do Modelo:
Use o script convert.py fornecido para converter os pesos para um formato específico. Por exemplo:

python convert.py --hf-ckpt-path /path/to/DeepSeek-V3 --save-path /path/to/DeepSeek-V3-Demo --n-experts 256 --model-parallel 16

5.Execute o DeepSeek-V3:
Use o comando torchrun para iniciar o modelo. Modifique os parâmetros conforme necessário para sua configuração. Exemplo:

torchrun --nnodes 2 --nproc-per-node 8 --node-rank $RANK --master-addr $ADDR generate.py --ckpt-path /path/to/DeepSeek-V3-Demo --config configs/config_671B.json --interactive --temperature 0.7 --max-new-tokens 200

6.Inferência em Lote (Opcional):
Para inferência em lote em um arquivo específico:

torchrun --nnodes 2 --nproc-per-node 8 --node-rank $RANK --master-addr $ADDR generate.py --ckpt-path /path/to/DeepSeek-V3-Demo --config configs/config_671B.json --input-file $FILE

Como Acessar o DeepSeek-v3 via Novita AI

A Novita AI é uma plataforma de nuvem de IA que oferece aos desenvolvedores uma maneira fácil de implantar modelos de IA usando nossa API simples, além de fornecer a GPU em nuvem acessível e confiável para construir e escalar.

Passo 1: Faça Login e Acesse a Biblioteca de Modelos

Faça login na sua conta e clique no botão Model Library.

Faça Login e Acesse a Biblioteca de Modelos

Experimente o DeepSeek V3 Demo Agora!

Passo 2: Escolha Seu Modelo

Navegue pelas opções disponíveis e selecione o modelo que atende às suas necessidades.

escolha modelos

Passo 3: Inicie Seu Teste Gratuito

Inicie seu teste gratuito para explorar as capacidades do modelo selecionado.

teste gratuito

Passo 4: Obtenha Sua Chave de API

Para autenticar com a API, forneceremos uma nova chave de API. Entrando na página “Settings“, você pode copiar a chave de API conforme indicado na imagem.

obter chave de api

Passo 5: Instale a API

Instale a API usando o gerenciador de pacotes específico para sua linguagem de programação.

instalar api

Após a instalação, importe as bibliotecas necessárias para seu ambiente de desenvolvimento. Inicialize a API com sua chave de API para começar a interagir com o LLM da Novita AI. Este é um exemplo de uso da API de chat completions para usuários de Python.

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<YOUR Novita AI API Key>",
)

model = "deepseek/deepseek_v3"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=&#91;
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices&#91;0].delta.content or "", end="")
else:
    print(chat_completion_res.choices&#91;0].message.content)
  
  

Ao se registrar, a Novita AI oferece um crédito de $0,5 para você começar!

Se os créditos gratuitos acabarem, você pode pagar para continuar usando.

Quais Métodos São Adequados para Você?

Comparação entre Acesso Local e por API

Característica Implantação Local Acesso por API
Controle Alto Limitado
Personalização Flexível Restrito
Requisitos de Hardware Altos Baixos
Custo Inicial Alto Baixo
Escalabilidade Limitada Alta
Dificuldade de Manutenção Alta Baixa
Proteção de Privacidade Forte Depende do provedor

Recomendações para Diferentes Grupos de Usuários

  • Para Pesquisadores e Desenvolvedores

    • Recomendação: Implantação local do DeepSeek V3.
    • Porquê: Oferece controle total sobre o modelo, permitindo ampla personalização e otimização.
    • Considerações: Requer recursos de hardware substanciais e conhecimento técnico avançado.
  • Para Startups e Pequenas e Médias Empresas

    • Recomendação: Usar a API do DeepSeek V3 fornecida pela Novita AI.
    • Vantagens: Custo-benefício, fácil integração e escalável para atender às necessidades de negócios em evolução.
    • Melhores Casos de Uso: Prototipagem rápida de ideias e construção de aplicativos baseados em IA sem grandes investimentos iniciais.

Em conclusão, o DeepSeek V3 é um poderoso modelo de código aberto que oferece desempenho excepcional em tarefas de codificação, matemática e raciocínio. Ele oferece flexibilidade para diversos casos de uso, seja implantado localmente ou acessado via APIs. Enquanto a implantação local oferece controle total, ela exige recursos de hardware substanciais. Alternativamente, plataformas como a Novita AI oferecem uma maneira mais acessível e conveniente de utilizar as capacidades do modelo. A escolha ideal depende dos requisitos do seu projeto, conhecimento técnico e orçamento.

Perguntas Frequentes

Como o DeepSeek V3 alcança sua eficiência?

O DeepSeek V3 usa uma arquitetura Mixture-of-Experts (MoE), ativando apenas 37 bilhões de parâmetros por token. Ele emprega Multi-Head Latent Attention (MLA) e um objetivo de Multi-Token Prediction (MTP) para reduzir o consumo de recursos e acelerar tanto o treinamento quanto a inferência.

Quais são as principais vantagens do DeepSeek V3?

O DeepSeek V3 se destaca em tarefas de codificação, matemática, raciocínio e conhecimento geral, e possui forte su multilíngue para inglês e chinês. Ele demonstra desempenho excepcional em vários benchmarks, muitas vezes superando outros modelos de código aberto e até mesmo fechados.

Quais são os requisitos de VRAM para o DeepSeek V3?

Os requisitos de VRAM para o DeepSeek V3 variam conforme a precisão. Para FP16, o modelo de 671B requer aproximadamente 1.543 GB de VRAM, enquanto com quantização de 4 bits, requer aproximadamente 386 GB de VRAM. Os parâmetros ativos são 37B.

Novita AI é a plataforma All-in-one em nuvem que impulsiona suas ambições de IA. APIs integradas, serverless, instância GPU — as ferramentas com boa relação custo-benefício que você precisa. Elimine infraestrutura, comece gratuitamente e torne sua visão de IA realidade.

Leitura Recomendada