Como Acessar o DeepSeek R1 Localmente ou via API: Um Guia Completo

Como Acessar o DeepSeek R1 Localmente ou via API: Um Guia Completo

Principais Destaques

1. Desempenho Avançado
Raciocínio Superior: Domina benchmarks de matemática (AIME 2024, MATH-500) e codificação (Codeforces).
Arquitetura: MoE + treinamento aprimorado com RL, 671B parâmetros (37B ativos/token).

2. Acesso Local via Ollama
Instale o Ollama; Execute ollama run deepseek-r1:7b para baixar; Verifique com ollama list e interaja via terminal.

3. Desafios da Implantação Local
Hardware: Requer GPUs de alto nível (ex.: H800) com 24GB+ de VRAM.
Memória: 671B parâmetros tornam o carregamento lento; risco de swapping em disco.
Configuração: Instalação manual de pesos, bibliotecas e configurações.
Modelos Destilados: Versões menores (ex.: Qwen-32B) reduzem recursos, mas sacrificam desempenho.

4. Acesso via API: A Novita AI oferece uma API para o DeepSeek R1. Basta se inscrever para um teste gratuito e usar a API com requisições simples.

O DeepSeek R1 é um modelo de IA de ponta conhecido por suas fortes capacidades de raciocínio, especialmente em matemática e codificação. Este artigo orientará você nas várias formas de acessar o DeepSeek R1, seja executando-o localmente ou usando uma API.

O que é o DeepSeek R1?

  • Data de Lançamento: 21 de janeiro de 2025
  • Escala do Modelo:
  • Principais Características:
    • Tamanho do Modelo: 671B parâmetros (37B ativos/token)
    • Tokenizador: Tokenizador aprimorado com tags de auto-reflexão
    • Idiomas Suportados: Multilíngue com adaptação cultural
    • Multimodal: Apenas texto
    • Janela de Contexto: 128K tokens
    • Formatos de Armazenamento: Suporte a quantização Q8/Q5
    • Arquitetura: Mixture of Experts (MoE) + pipeline de treinamento aprimorado com RL
    • Método de Treinamento: Construído sobre a base V3 com pipeline RL (SFT → RL → SFT → RL)
    • Dados de Treinamento: Dados base V3 + dados de otimização RL

https://www.youtube.com/watch?v=ApvcIYDgXzg

Comparação de Benchmarks

O DeepSeek-R1 demonstra desempenho superior na maioria dos testes, particularmente em tarefas que exigem alta precisão e raciocínio complexo (como AIME 2024, Codeforces, MATH-500 e MMLU). Ele supera modelos como OpenAI-o1-1217 e OpenAI-o1-mini nessas áreas. No entanto, o DeepSeek-R1 mostra desempenho inferior em tarefas específicas como GPQA Diamond e SWE-bench Verified, indicando possíveis áreas de melhoria em comparação com modelos como Open AI O1.

Aplicações

  • Resolução de problemas matemáticos e geração de código.
  • Tarefas complexas de raciocínio lógico.
  • Auxílio no diagnóstico de problemas complexos.
  • Análise de cenários de múltiplas etapas.
  • Síntese de insights a partir de grandes conjuntos de dados.
  • Aplicações de atendimento ao cliente.

Como Acessar o DeepSeek R1 Localmente

https://www.youtube.com/watch?v=pbCQnDDj-bo

Guia de Instalação Passo a Passo

1. Instalar o Ollama

  • Acesse o site do Ollama, baixe e instale a versão para seu sistema operacional.

2. Baixar o Modelo DeepSeek-R1

  • Abra o terminal e execute (usando a versão de 7B como exemplo): bashCopyollama run deepseek-r1:7b (Aguarde a conclusão do download; o tempo depende da velocidade da rede.)
ollama run deepseek-r1:7b

3. Verificar e Executar

  • Verificar Instalação:
ollama list  # Verifique se "deepseek-r1" aparece na lista
  • Iniciar o Modelo:
ollama run deepseek-r1:7b

4. Exemplos de Uso

  • Faça uma Pergunta: bashCopy>>> "Explique computação quântica em termos simples."
  • Gere Código: bashCopy>>> "Escreva uma função em Python para calcular a sequência de Fibonacci."

Desafios na Implantação Local

1. Limitações de Hardware

  • Altas Demandas de Recursos:
    • Requer GPUs/TPUs de alto nível (ex.: H800) com VRAM/RAM substancial.
  • Restrições de Memória:
    • 671B parâmetros (37B ativados por token) levam a carregamento lento.
    • VRAM/RAM insuficiente causa swapping em disco ou falha.

2. Configuração e Setup

  • Instalação Complexa:
    • Etapas manuais: Baixar pesos do modelo (Hugging Face), instalar bibliotecas (ex.: transformers), configurar frameworks.
    • Requer conhecimento técnico para otimização.
  • Otimização de Software:
    • É necessário forçar as respostas a começarem com pensar\ para garantir padrões de raciocínio adequados.

3. Gargalos de Desempenho

  • Inferência Lenta:
    • Limitações de CPU/GPU e largura de banda de memória reduzem a velocidade de processamento.
  • Sobrecarga de Manutenção:
    • Atualizações manuais para novas versões do modelo adicionam esforço contínuo.

4. Compensações com Modelos Destilados

  • Necessidades de Recursos Reduzidas:
    • Versões menores (ex.: Qwen-32B, Llama-70B) diminuem os requisitos de hardware.
    • Exemplo: Qwen-32B supera OpenAI-o1-mini em benchmarks.
  • Desvantagens de Desempenho:
    • Sacrificam precisão ou capacidade em comparação com o modelo completo de 671B.
    • Podem ter dificuldades com tarefas complexas que exigem raciocínio profundo.
Para Capacidade Total: Opte pelo acesso via API para evitar desafios de hardware e configuração.

Como Acessar o DeepSeek R1 via Novita AI

Novita AI é uma plataforma de nuvem de IA que oferece aos desenvolvedores uma maneira fácil de implantar modelos de IA usando nossa API simples, além de fornecer GPU em nuvem acessível e confiável para construir e escalar.

Passo 1: Faça Login e Acesse a Biblioteca de Modelos

Faça login na sua conta e clique no botão Model Library.

Faça Login e Acesse a Biblioteca de Modelos

Experimente o DeepSeek R1 Demo Agora!

Passo 2: Escolha Seu Modelo

Navegue pelas opções disponíveis e selecione o modelo que atende às suas necessidades.

escolha modelos

Passo 3: Inicie Seu Teste Gratuito

Comece seu teste gratuito para explorar as capacidades do modelo selecionado.

inicie o teste gratuito no r1

Passo 4: Obtenha Sua Chave de API

Para autenticar com a API, forneceremos uma nova chave de API. Acessando a página Settings, você pode copiar a chave de API conforme indicado na imagem.

obter chave de api

Passo 5: Instale a API

Instale a API usando o gerenciador de pacotes específico da sua linguagem de programação.

instalar api

Após a instalação, importe as bibliotecas necessárias para seu ambiente de desenvolvimento. Inicialize a API com sua chave de API para começar a interagir com o Novita AI LLM. Este é um exemplo de uso da API de chat completions para usuários de Python.

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<YOUR Novita AI API Key>",
)

model = "deepseek/deepseek_r1"
stream = True # or False
max_tokens = 2048
system_content = """Seja um assistente útil"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=&#91;
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Olá!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices&#91;0].delta.content or "", end="")
else:
    print(chat_completion_res.choices&#91;0].message.content)
  
  

Ao se registrar, a Novita AI fornece um crédito de $0,5 para você começar!

Se os créditos gratuitos forem usados, você pode pagar para continuar usando.

Quais Métodos São Adequados para Você?

  • Pesquisadores: O acesso local é geralmente preferido por flexibilidade e controle sobre experimentos.

  • Desenvolvedores:

    • O acesso via API é adequado para construir aplicações e prototipagem rápida.
    • O acesso local é melhor para fine-tuning e fluxos de trabalho personalizados.
  • Empresas: O acesso via API é benéfico para integração rápida em serviços sem altos custos iniciais. A implantação local pode ser adequada para equipes com requisitos consistentes e capacidade de investir em infraestrutura.

  • Pequenas Equipes/Indivíduos: O acesso via API geralmente é mais prático devido aos menores custos iniciais.

  • Usuários com Habilidades Técnicas Limitadas: O acesso via API é preferível, pois elimina a necessidade de conhecimento técnico profundo.

Em conclusão, o DeepSeek R1 é um modelo impressionante com capacidades de raciocínio de ponta. Quer você opte por executá-lo localmente ou usar uma API, é necessário considerar as compensações entre controle, custo e conveniência. Ao considerar cuidadosamente esses fatores e as recomendações específicas deste artigo, você pode escolher o melhor método de acesso para seus objetivos.

Perguntas Frequentes

O DeepSeek R1 é melhor que o o1 da OpenAI?

O DeepSeek R1 oferece desempenho comparável, especialmente em tarefas de raciocínio, com o benefício adicional de ser open source e mais econômico.

Como posso fazer fine-tuning do DeepSeek R1?

Como um modelo open source, o DeepSeek R1 pode ser ajustado para tarefas específicas, desde que você tenha os recursos computacionais e dados necessários.

Como os modelos são treinados?

O DeepSeek R1 é significativamente mais barato que os modelos o1 da OpenAI.

Novita AI é a plataforma tudo-em-um em nuvem que impulsiona suas ambições de IA. APIs integradas, serverless, Instância GPU — as ferramentas econômicas que você precisa. Elimine infraestrutura, comece gratuitamente e torne sua visão de IA realidade.

Leitura Recomendada