Implantando Modelos DeepSeek na Plataforma Novita AI Cloud: Um Guia Completo

Os modelos DeepSeek surgiram como uma opção atraente no espaço de LLMs, oferecendo desempenho impressionante a custos competitivos. Embora esses modelos apresentem capacidades poderosas, uma implantação bem-sucedida exige uma solução de infraestrutura robusta e eficiente. Este guia demonstra como aproveitar a plataforma de nuvem da Novita AI para implantar modelos DeepSeek de forma otimizada, combinando alto desempenho com custo-benefício.

Visão Geral das Variantes do Modelo

Versões Destiladas

• Baseadas em modelos open-source (séries Qwen2.5 e Llama)
• Faixas de parâmetros: 1.5B, 7B, 8B, 14B, 32B e 70B
• Otimizadas para inferência eficiente mantendo alto desempenho
• Ideais para implantações privadas com boa relação custo-benefício
• Facilmente implantáveis através da solução com um clique da Novita AI

Versão Completa

• DeepSeek-R1-671B
• Construída sobre a arquitetura DeepSeek-V3
• Possui 671B parâmetros para máximo desempenho
• Requer recursos computacionais significativos
• Disponível através do nosso serviço de API otimizado

Guia de Implantação

Passo 1: Acessando a Plataforma Novita AI

1. Acesse o site oficial da Novita AI: https://novita.ai/

[Experimente a Novita AI agora](https://novita.ai/?utm_source=blogs_GPU&utm_medium=article&utm_campaign=Deploying DeepSeek Models on Novita AI Cloud Platform: A Comprehensive Guide)

2. Crie uma conta ou faça login na sua conta existente

Passo 2: Acessando a Configuração da Instância GPU

1. Clique em “GPUs” na navegação principal

2. Clique em “Get Started” para prosseguir

Passo 3: Selecionar e Configurar o Modelo DeepSeek

Neste guia, usaremos o DeepSeek-R1-Distill-Llama-32B como exemplo. Você pode selecionar qualquer modelo com base nas suas necessidades, mas este template define os parâmetros base do modelo. Será necessário configurar a quantidade de GPUs – recomendamos usar RTX 4090 para esta implantação. Todos os templates usam modelos DeepSeek oficiais com precisão BF16 padrão. Abaixo estão nossas configurações recomendadas:

Modelo	GPU	GPU	Quantidade
DeepSeek-R1-Distill-Qwen-1.5B	BF16	RTX 4090	1
DeepSeek-R1-Distill-Qwen-7B	BF16	RTX 4090	1
DeepSeek-R1-Distill-Llama-8B	BF16	RTX 4090	1
DeepSeek-R1-Distill-Qwen-14B	BF16	RTX 4090	2
DeepSeek-R1-Distill-Qwen-32B	BF16	RTX 4090	4
DeepSeek-R1-Distill-Llama-70B	BF16	RTX 4090	8

Selecione o template DeepSeek-R1-Distill-Qwen-32B, defina 4 GPUs e clique em “Deploy”.

Passo 4: Personalizar a Implantação

Confirme os parâmetros do template e certifique-se de preencher a variável HF_TOKEN.

Você pode obter o HF_TOKEN seguindo estas dicas:

1. Acesse huggingface.co: https://huggingface.co/

2. Clique em “Log In” no canto superior direito para fazer login, ou “Sign Up” para criar uma nova conta

3. Após fazer login, clique na sua foto de perfil no canto superior direito e selecione “Access Tokens” no menu à esquerda

4. Clique em “New token” para criar um novo token de acesso

5. Selecione “Read” para os tipos de token, nomeie seu token (por exemplo, “texto”) e clique em “Create token” para gerar o token.

6. Copie a string do token gerado

Após obter o token, insira-o na variável de ambiente HF_TOKEN no template. Em seguida, clique em “Next”.

Passo 5: Iniciar uma Instância

Clique em “Launch Instance” para implantar o ambiente configurado.

Aguarde alguns minutos enquanto a instância é configurada e gerenciada.

Clique no menu suspenso para visualizar os logs da instância.

Após a instância iniciar, ela começará a baixar o modelo. Clique em “Logs” → “Instance Logs” para monitorar o progresso do download do modelo.

Quando o log mostrar “INFO: Uvicorn running on http://0.0.0.0:8000 (Press CTRL+C to quit)”, a inicialização foi bem-sucedida. Agora vamos acessar seu modelo privado!

Clique em “Connect”, depois clique em → “Connect to HTTP Service [Port 8000]”. Como este é um serviço de API, você precisará copiar o endereço.

Para fazer requisições ao seu modelo privado, substitua “https://f6d29cb6f71e585e-8000.us-ca-1.gpu-instance.novita.ai” pelo seu endereço exposto real. Copie o código abaixo para acessar seu modelo privado!

$ curl https://f6d29cb6f71e585e-8000.us-ca-1.gpu-instance.novita.ai/v1/chat/completions  \
   -H "Content-Type: application/json"     -d '{
        "model": "deepseek-ai/DeepSeek-R1-Distill-Qwen-32B",
        "messages": [{"role": "user", "content": "hello"}]
    }'
{"id":"chatcmpl-57b3296f87f54dd4b69cfb6d2196f48e","object":"chat.completion","created":1740711405,"model":"deepseek-ai/DeepSeek-R1-Distill-Qwen-32B","choices":[{"index":0,"message":{"role":"assistant","content":"Alright, the user said \"hello.\" That's a friendly greeting. I should respond in a welcoming manner.\
\
Maybe I can acknowledge their greeting and offer assistance.\
\
It's important to sound approachable and ready to help.\
\
I'll keep it simple and polite.\
 response\
\
Hello! How can I assist you today?","tool_calls":[]},"logprobs":null,"finish_reason":"stop","stop_reason":null}],"usage":{"prompt_tokens":6,"total_tokens":70,"completion_tokens":64,"prompt_tokens_details":null},"prompt_logprobs":null}

Configure o endereço da API nos seus aplicativos como o Chatbox e terá seu próprio assistente pessoal!

[Novita AI](https://novita.ai/?utm_source=blogs_GPU&utm_medium=article&utm_campaign=Deploying DeepSeek Models on Novita AI Cloud Platform: A Comprehensive Guide) é uma plataforma de nuvem de IA que oferece aos desenvolvedores uma maneira fácil de implantar modelos de IA usando nossa API simples, além de fornecer a nuvem GPU acessível e confiável para construir e escalar.