Pequenos Desenvolvedores Podem Implantar o DeepSeek R1 em Casa?

Principais Destaques

A resposta pode ser NÃO!

Altos requisitos de GPU
Embora o DeepSeek R1 reduza os requisitos de GPU em comparação com outros modelos, eles ainda são relativamente altos para configurações domésticas.
Processo de implantação complexo
A auto-implementação envolve a configuração de arquiteturas de IA, o que pode ser demorado e desafiador para desenvolvedores individuais.
Novita AI como alternativa
A Novita AI oferece serviços de GPU em Nuvem altamente econômicos e soluções de API, permitindo que desenvolvedores acessem o DeepSeek R1 sem a necessidade de hardware especializado ou configurações complexas.

O DeepSeek R1 é um modelo avançado de raciocínio de IA reconhecido por suas capacidades de ponta e acessibilidade open-source. Desenvolvido por uma equipe de pesquisa chinesa, ele é projetado para atender a uma ampla gama de aplicações, desde tarefas leves até operações complexas em nível empresarial. Mas que tipo de hardware é necessário para implantar este modelo de nível OpenAI-o1? Ele pode ser executado no computador de um desenvolvedor individual? Este artigo revelará as respostas.

Introdução

• Data de lançamento: 21 de janeiro de 2025
• Escala do modelo:
  • deepseek/deepseek-r1（671b）
  • deepseek/deepseek-r1-distill-llama-8b
  • deepseek/deepseek-r1-distill-qwen-14b
  • deepseek/deepseek-r1-distill-qwen-32b
  • deepseek/deepseek-r1-distill-llama-70b
• Principais características:
  • Tamanho do modelo: 671B parâmetros (37B ativos/token)
  • Código Aberto
  • Tokenizador: Tokenizador aprimorado com tags de autorreflexão
  • Idiomas suportados: Multilíngue com adaptação cultural
  • Multimodal: Apenas texto
  • Janela de contexto: 128K tokens
  • Formatos de armazenamento: Suporte a quantização Q8/Q5
  • Arquitetura: Mistura de Especialistas (MoE) + pipeline de treinamento aprimorado por RL
  • Método de treinamento: Construído sobre a base V3 com pipeline RL (SFT → RL → SFT → RL)
  • Dados de treinamento: Base V3 + dados de otimização RL

Requisitos de hardware detalhados e GPU recomendada

Modelo	Tamanho de Parâmetros	Configuração de GPU
DeepSeek-R1-Distill-Llama-8B	4,9B	1 x NVIDIA RTX 4090 (24GB VRAM) com sharding de modelo
DeepSeek-R1-Distill-Qwen-14B	9,0B	1 x NVIDIA A100 (40GB VRAM) ou 2 x RTX 4090 (24GB VRAM) com paralelismo tensor
DeepSeek-R1-Distill-Qwen-32B	32B	2 x NVIDIA A100 (40GB VRAM) ou 1 x NVIDIA H100 (80GB VRAM) ou 4 x RTX 4090 (24GB VRAM) com paralelismo tensor
DeepSeek-R1-Distill-Llama-70B	70B	4 x NVIDIA A100 (40GB VRAM) ou 2 x NVIDIA H100 (80GB VRAM) ou 8 x RTX 4090 (24GB VRAM) com paralelismo pesado
DeepSeek-R1:671b	671B (37 bilhões de parâmetros ativos)	16 x NVIDIA A100 (40GB VRAM) ou 8 x NVIDIA H100 (80GB VRAM), requer um cluster GPU distribuído com InfiniBand

1.8B (8 bilhões de parâmetros)

• Inferência:
  • GPU:
    • 1x NVIDIA RTX 4090 (24GB VRAM cada) com sharding de modelo.
  • CPU: CPU multi-core de alto desempenho (ex.: AMD Ryzen 9 5900X ou Intel i9-12900K).
  • RAM: Pelo menos 64GB de memória do sistema.
  • Espaço em disco: ~20GB para pesos do modelo.

2. 14B (14 bilhões de parâmetros)

• Inferência:
  • GPU:
    • 1 x NVIDIA A100 (40GB VRAM cada)
    • Ou, 2 x RTX 4090 (24GB VRAM cada) com paralelismo tensor.
  • CPU: CPU multi-core de nível servidor (ex.: AMD EPYC 7003 series ou Intel Xeon Platinum).
  • RAM: 128GB de memória do sistema.
  • Espaço em disco: ~35GB para pesos do modelo.

3. 32B (32 bilhões de parâmetros)

• Inferência:
  • GPU:
    • 2 x NVIDIA A100 (40GB VRAM cada) ou 1 x NVIDIA H100 (80GB VRAM cada).
    • Ou, 4 x RTX 4090 (24GB VRAM cada) com paralelismo tensor.
  • CPU: CPU multi-core de alto desempenho para servidores.
  • RAM: 256GB de memória do sistema.
  • Espaço em disco: ~80GB para pesos do modelo.

4. 70B (70 bilhões de parâmetros)

• Inferência:
  • GPU:
    • 4 x NVIDIA A100 (40GB VRAM cada) ou 2 x NVIDIA H100 (80GB VRAM cada).
    • Ou, 8 x RTX 4090 (24GB VRAM cada) com paralelismo pesado.
  • CPU: CPU multi-core de nível servidor (ex.: AMD EPYC ou Intel Xeon Platinum).
  • RAM: 512GB de memória do sistema.
  • Espaço em disco: ~160GB para pesos do modelo.

5. 671B (671 bilhões de parâmetros) - 37 bilhões de parâmetros ativos

• Inferência:
  • GPU:
    • 16 x NVIDIA A100 (40GB VRAM cada), ou 8 x NVIDIA H100 (80GB VRAM cada)
    • Requer um cluster GPU distribuído com InfiniBand para comunicação.
  • CPU: CPUs de servidor multi-core de alto nível em vários nós. Ex.: AMD EPYC 7003 ou Intel Xeon 4ª Geração.
  • RAM: ~8TB de memória do sistema entre os nós.
  • Espaço em disco: ~1,5TB para pesos do modelo.

Graças a tecnologias como Mistura de Especialistas (MoE) e treinamento distribuído, o DeepSeek R1 requer significativamente menos hardware em comparação com outros modelos. No entanto, embora apenas uma parte dos parâmetros possa ser ativada durante o uso para reduzir custos computacionais, o conjunto completo de parâmetros ainda precisa ser armazenado durante a implantação. Isso resulta em altos requisitos de hardware, tornando desafiador para desenvolvedores individuais suportar sua implantação.

Desafios para Servidores Domésticos e Métodos de Otimização

Executar modelos avançados como o DeepSeek R1 (671B) em servidores domésticos apresenta vários desafios devido aos requisitos significativos de hardware:

Desafios para Servidores Domésticos

• Altos Requisitos de VRAM: Modelos maiores, como o DeepSeek R1 completo, exigem VRAM substancial, frequentemente necessitando de configurações multi-GPU, que geralmente são impraticáveis para servidores domésticos.
• Energia e Resfriamento: GPUs de alto desempenho consomem muita energia e geram calor significativo, exigindo fontes de alimentação robustas e soluções de resfriamento eficazes.
• Compatibilidade de Hardware: Configurar sistemas multi-GPU requer planejamento cuidadoso para garantir compatibilidade entre GPUs, placas-mãe e outros componentes do sistema.
• Custo: O alto preço das GPUs de ponta e do hardware de suporte pode ser proibitivo para usuários individuais, tornando tais configurações inacessíveis para muitos.

Métodos de Otimização

Para lidar com esses desafios, várias técnicas de otimização podem ajudar a reduzir as demandas de hardware:

• Quantização: Reduzir a precisão dos pesos do modelo (por exemplo, usando quantização de 4 bits) pode reduzir significativamente os requisitos de VRAM, mantendo um desempenho aceitável.
• Destilação: Aproveitar versões menores e destiladas do modelo original pode reduzir as demandas de hardware, preservando grande parte do desempenho do modelo.
• Offloading: Distribuir cargas de trabalho entre GPUs, CPUs e RAM pode permitir que modelos sejam executados em sistemas com menor VRAM, embora com custo de velocidades de processamento mais lentas.
• Otimização de Inferência: Ajustar tamanhos de lote, refinar configurações de processamento e aproveitar bibliotecas otimizadas pode melhorar o desempenho em hardware com capacidades limitadas.

Ao combinar esses métodos de otimização, é possível mitigar os desafios associados à execução de modelos grandes como o DeepSeek R1 em servidores domésticos, embora trade-offs em desempenho e eficiência ainda possam ser inevitáveis.

Uma escolha mais conveniente – GPU na Nuvem

Comprar uma GPU pode ser caro, mas usar uma GPU na nuvem é uma opção muito mais conveniente e econômica. Você paga apenas pelo que usa e não precisa lidar com a configuração da GPU ou a otimização dos frameworks de inferência. Dessa forma, você pode focar totalmente no uso do modelo sem se preocupar com os detalhes técnicos.

A Novita AI agora oferece uma variedade de modelos de GPU, como RTX 4090, A100, H100 e muito mais. Nossos preços estão entre os mais competitivos do mercado.

Experimente Implantar GPU Agora!

O método mais conveniente – API

Novita AI é uma plataforma de nuvem de IA que oferece aos desenvolvedores uma maneira fácil de implantar modelos de IA usando nossa API simples, ao mesmo tempo que fornece a GPU na nuvem acessível e confiável para construir e escalar.

Passo 1: Faça login e acesse a Biblioteca de Modelos

Faça login na sua conta e clique no botão Biblioteca de Modelos.

Passo 2: Escolha seu modelo

Navegue pelas opções disponíveis e selecione o modelo que atende às suas necessidades.

Passo 3: Inicie seu teste gratuito

Inicie seu teste gratuito para explorar as capacidades do modelo selecionado.

Experimente o DeepSeek R1 Demo Agora!

Passo 4: Obtenha sua chave de API

Para autenticar com a API, forneceremos uma nova chave de API. Acesse a página “Configurações” e copie a chave de API conforme indicado na imagem.

Passo 5: Instale a API

Instale a API usando o gerenciador de pacotes específico para sua linguagem de programação.

Após a instalação, importe as bibliotecas necessárias em seu ambiente de desenvolvimento. Inicialize a API com sua chave de API para começar a interagir com a Novita AI LLM. Este é um exemplo de uso da API de conclusão de chat para usuários Python.

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<SUA_CHAVE_DE_API_Novita_AI>",
)

model = "deepseek/deepseek_r1"
stream = True # ou False
max_tokens = 2048
system_content = """Seja um assistente útil"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Olá!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)
  

Após o registro, a Novita AI fornece um crédito de $0,5 para você começar!

Se os créditos gratuitos acabarem, você pode pagar para continuar usando.

O DeepSeek R1 oferece capacidades poderosas de raciocínio de IA, mas seus requisitos de hardware podem variar significativamente dependendo do modelo e seu tamanho. Modelos completos exigem configurações multi-GPU de alto desempenho, enquanto versões destiladas oferecem uma opção mais acessível para usuários com recursos limitados. Para aqueles sem hardware especializado, utilizar o DeepSeek R1 por meio de uma API fornece uma solução prática e eficiente. Ao entender suas necessidades de hardware e estratégias de otimização disponíveis, desenvolvedores e pesquisadores podem aproveitar o DeepSeek R1 de forma eficaz para atender seus requisitos específicos.

Perguntas Frequentes

**Qual é a metodologia de treinamento por trás do DeepSeek R1?

O DeepSeek R1 emprega um pipeline de treinamento em múltiplas etapas. O DeepSeek-R1-Zero é treinado usando Aprendizagem por Reforço (RL) em grande escala diretamente no modelo base, sem Supervisão de Fine-Tuning (SFT) inicial.

Quais são algumas práticas recomendadas para criar prompts no DeepSeek R1 para obter desempenho ideal?

Os principais benefícios incluem maior eficiência no processamento de tarefas, maior flexibilidade para os desenvolvedores atualizarem funções facilmente, escalabilidade para adicionar novas funcionalidades sem mudanças extensas e interações personalizadas com o usuário. Para obter o melhor desempenho com o DeepSeek R1, evite adicionar um prompt de sistema e inclua todas as instruções no prompt do usuário.

Novita AI é a plataforma de nuvem tudo-em-um que potencializa suas ambições de IA. APIs integradas, sem servidor, instância de GPU — as ferramentas econômicas que você precisa. Elimine a infraestrutura, comece gratuitamente e torne sua visão de IA realidade.

Leitura Recomendada

• Um Guia para Acessar o DeepSeek V3: Localmente e via API
• DeepSeek V3 vs R1: Treinamento em Etapas vs Ciclos Iterativos SFT-RL
• Executando o DeepSeek V3 Localmente: Um Guia para Desenvolvedores