Na Novita AI, temos o prazer de anunciar que nosso modelo DeepSeek foi atualizado para suportar um comprimento de contexto de 160k, uma melhoria significativa em relação ao limite anterior de 128k. Esta atualização significa que você agora pode processar e analisar conjuntos de dados ainda maiores em uma única execução, economizando tempo e melhorando a eficiência. Por tempo limitado, novos usuários podem obter US$ 10 em créditos gratuitos para explorar os modelos DeepSeek atualizados e várias outras APIs LLM na Novita AI.
DeepSeek-R1-0528
Introdução
DeepSeek R1 0528 foi lançado em 28 de maio de 2025, como um modelo grande de código aberto com aproximadamente 685 bilhões de parâmetros. Ele usa uma arquitetura Mixture-of-Experts (MoE), ativando cerca de 37 bilhões de parâmetros por token durante a inferência. O modelo suporta um comprimento máximo de contexto de 128K tokens.
O modelo se destaca em chat, raciocínio, codificação, matemática e chamada de função, com suporte adicional para saída JSON e interfaces de chamada de função, melhorando significativamente sua capacidade de lidar com tarefas complexas. Foi treinado em mais de 10 trilhões de tokens, incluindo conteúdo da web, código, dados matemáticos e documentos, com forte foco em capacidades bilíngues em inglês e chinês.
O treinamento envolveu Aprendizado por Reforço tradicional a partir de Feedback Humano (RLHF) e métodos de ajuste fino, combinados com recursos computacionais substanciais e otimizações algorítmicas nas fases finais. Essa abordagem prioriza precisão e confiabilidade em vez de eficiência, tornando o modelo adequado para aplicações empresariais, especialmente aquelas que exigem raciocínio complexo e alta precisão.
Benchmark
DeepSeek-V3-0324
Introdução
DeepSeek V3 0324 foi lançado em 25 de março de 2025, como um modelo grande de código aberto com aproximadamente 671 bilhões de parâmetros, ativando cerca de 37 bilhões de parâmetros por token durante a inferência. Ele utiliza uma arquitetura Mixture-of-Experts (MoE) e suporta um comprimento máximo de contexto de 160K tokens, tornando-o altamente capaz de lidar com entradas ultralongas e gerar saídas estendidas.
O modelo foi projetado para se destacar em tarefas como conversas em várias etapas, raciocínio aprofundado, geração de código e resolução de problemas matemáticos. O suporte multilíngue aprimorado, especialmente para chinês, e sua capacidade multimodal texto-para-texto estendem ainda mais sua versatilidade. Os dados de treinamento incluem 14,8 trilhões de tokens de fontes diversas, como conteúdo da web, bases de código e documentos técnicos, garantindo uma base de conhecimento robusta para aplicações complexas.
DeepSeek V3 0324 emprega técnicas avançadas de pré-treinamento e ajuste fino pós-treinamento adaptadas a casos de uso específicos. Essa abordagem abrangente, juntamente com amplos recursos computacionais, prioriza precisão, coerência e confiabilidade, tornando o modelo ideal para indústrias que exigem geração de conteúdo longo, resolução de problemas complexos e desempenho de nível empresarial.
Benchmark
Comprimento do contexto
O que é comprimento do contexto?
No contexto de modelos de IA como o DeepSeek, comprimento do contexto refere-se ao número máximo de tokens (palavras, pontuação ou símbolos) que o modelo pode processar e gerar em uma única interação. Ele define quanto de entrada o modelo pode entender de uma só vez e quanta saída pode produzir. Uma janela de contexto maior permite que um modelo de IA processe entradas mais longas e incorpore uma maior quantidade de informações em cada saída.
Como o comprimento do contexto impacta o desempenho?
O comprimento do contexto influencia significativamente a capacidade do modelo de:
- Entender Contexto: Janelas de contexto mais longas permitem que o modelo referencie mais informações da entrada, reduzindo as chances de perder detalhes críticos.
- Gerar Saídas Coerentes: Com acesso ao contexto completo, o modelo pode produzir respostas que mantêm consistência lógica em saídas mais longas.
- Permitir Raciocínio Complexo: Tarefas que exigem raciocínio em várias etapas ou rastreamento de estados históricos, como codificação, análise técnica ou pesquisa aprofundada, se beneficiam muito de um contexto estendido.
Benefícios da expansão para 160k tokens
Com a atualização recente, DeepSeek-V3-0324 e DeepSeek-R1-0528 agora suportam um limite de 160k tokens, um salto significativo em relação à janela de contexto anterior de 128k. Essa expansão traz várias vantagens importantes:
- Suporta Conversas Ultralongas: A janela de contexto estendida permite diálogos contínuos em várias etapas sem perder o fio das interações anteriores, ideal para tarefas que exigem consistência e memória de longo prazo.
- Facilita Análise Aprofundada de Agentes: Os agentes agora podem analisar conjuntos de dados maiores ou realizar raciocínios mais profundos por períodos prolongados, desbloqueando novas possibilidades para aplicações como inteligência de negócios ou pesquisa científica.
- Permite Aplicações de Saída Longa: Tarefas como geração de código, sumarização de documentos ou geração de relatórios detalhados agora podem lidar com entradas maiores e mais complexas, fornecendo resultados abrangentes em uma única saída.
Ao expandir o comprimento do contexto, o DeepSeek está agora melhor equipado para lidar com as demandas dos fluxos de trabalho modernos, tornando-se uma ferramenta poderosa para usuários em diversos setores.
Acessando o DeepSeek via Novita AI
Passo 1: Faça login e acesse a Biblioteca de Modelos
Faça login na sua conta e clique no botão Model Library.
Passo 2: Escolha seu modelo
Navegue pelas opções disponíveis e selecione o modelo que atende às suas necessidades.
Passo 3: Inicie seu teste gratuito
Comece seu teste gratuito para explorar as capacidades do modelo selecionado.
Passo 4: Obtenha sua chave de API
Para autenticar com a API, forneceremos uma nova chave de API. Entre na página "Settings”, você pode copiar a chave de API conforme indicado na imagem.
Passo 5: Instale a API
Instale a API usando o gerenciador de pacotes específico da sua linguagem de programação.
Após a instalação, importe as bibliotecas necessárias para o seu ambiente de desenvolvimento. Inicialize a API com sua chave de API para começar a interagir com o Novita AI LLM. Este é um exemplo de uso da API de chat completions para usuários Python acessarem o DeepSeek R1 0528.
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="session_r5eB9eC3oBfDyuGn69eevTLAudts6AFa3JeHeml91oVyVe6uZnGUmAh7aO9rZxUSRocPWUBszQaiC39g4VGiAg==",
)
model = "deepseek/deepseek-r1-0528"
stream = True # or False
max_tokens = 65536
system_content = ""Be a helpful assistant""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
Novita AI oferece tanto o DeepSeek R1 0528 quanto o DeepSeek V3 0324 com comprimento de contexto estendido, permitindo que você lide com conversas mais longas e projetos mais complexos. Com o DeepSeek R1 0528 custando apenas $0,7/$2,5 por 1M tokens de entrada/saída e o DeepSeek V3 0324 a $0,28/$1,14 por 1M tokens, um preço ainda mais acessível, você pode acessar um desempenho de IA de ponta sem estourar o orçamento. Por tempo limitado, novos usuários podem obter US$ 10 em créditos gratuitos para explorar os modelos DeepSeek atualizados e várias outras APIs LLM na Novita AI.
Perguntas Frequentes
O que é o Deepseek V3 0324?
Deepseek V3 0324 é um modelo de linguagem grande de última geração da DeepSeek, projetado para conversação geral, compreensão e raciocínio avançado.
Como o comprimento de contexto estendido beneficia projetos de codificação?
Com contexto estendido, você pode compartilhar bases de código inteiras, manter o contexto em vários arquivos e trabalhar em tarefas complexas de refatoração sem perder o rastreamento de dependências e relações entre diferentes partes do seu código. Isso melhora drasticamente a capacidade da IA de fornecer sugestões precisas e contextualmente relevantes.
Qual é um bom comprimento de contexto para um LLM?
Para a maioria das aplicações, 32K-128K tokens oferece excelente desempenho, enquanto o comprimento de contexto atualizado de 160K da Novita AI garante que você possa lidar até mesmo com os documentos mais complexos e conversas estendidas sem limitações.
Sobre a Novita AI
Novita AI é uma plataforma de nuvem de IA que oferece aos desenvolvedores uma maneira fácil de implantar modelos de IA usando nossa API simples, além de fornecer a nuvem GPU acessível e confiável para construir e escalar.
