Cómo acceder a DeepSeek R1 de forma local o mediante API: Guía completa

Aspectos destacados

1. Rendimiento avanzado
Razonamiento superior: domina los benchmarks de matemáticas (AIME 2024, MATH-500) y programación (Codeforces).
Arquitectura: MoE + entrenamiento mejorado con RL con 671B parámetros (37B activos/token).

2. Acceso local mediante Ollama
Instala Ollama; ejecuta ollama run deepseek-r1:7b para descargar; verifica con ollama list e interactúa desde la terminal.

3. Desafíos del despliegue local
Hardware: requiere GPUs de gama alta (ej. H800) con 24GB+ de VRAM.
Memoria: 671B parámetros ralentizan la carga; riesgo de swapping en disco.
Configuración: instalación manual de pesos, librerías y configuración.
Modelos destilados: versiones más pequeñas (ej. Qwen-32B) reducen recursos pero sacrifican rendimiento.

4. Acceso por API: Novita AI ofrece una API para DeepSeek R1. Solo regístrate para una prueba gratuita y usa la API con solicitudes simples.

DeepSeek R1 es un modelo de IA de vanguardia conocido por sus sólidas capacidades de razonamiento, especialmente en matemáticas y programación. Este artículo te guiará a través de las diversas formas de acceder a DeepSeek R1, ya sea ejecutándolo localmente o mediante una API.

¿Qué es DeepSeek R1?

• Fecha de lanzamiento: 21 de enero de 2025
• Escala del modelo:
  • deepseek/deepseek-r1
  • deepseek/deepseek-r1-distill-qwen-14b
  • deepseek/deepseek-r1-distill-qwen-32b
• Características clave:
  • Tamaño del modelo: 671B parámetros (37B activos/token)
  • Tokenizador: tokenizador mejorado con etiquetas de autorreflexión
  • Idiomas compatibles: multilingüe con adaptación cultural
  • Multimodal: solo texto
  • Ventana de contexto: 128K tokens
  • Formatos de almacenamiento: soporte de cuantización Q8/Q5
  • Arquitectura: Mixture of Experts (MoE) + pipeline de entrenamiento mejorado con RL
  • Método de entrenamiento: construido sobre la base V3 con pipeline RL (SFT → RL → SFT → RL)
  • Datos de entrenamiento: base V3 + datos de optimización RL

https://www.youtube.com/watch?v=ApvcIYDgXzg

Comparación de benchmarks

DeepSeek-R1 demuestra un rendimiento superior en la mayoría de las pruebas, especialmente en tareas que requieren alta precisión y razonamiento complejo (como AIME 2024, Codeforces, MATH-500 y MMLU). Supera a modelos como OpenAI-o1-1217 y OpenAI-o1-mini en estas áreas. Sin embargo, DeepSeek-R1 muestra un rendimiento más débil en tareas específicas como GPQA Diamond y SWE-bench Verified, lo que indica posibles áreas de mejora en comparación con modelos como Open AI O1.

Aplicaciones

• Resolución de problemas matemáticos y generación de código.
• Tareas de razonamiento lógico complejo.
• Asistencia en el diagnóstico de problemas complejos.
• Análisis de escenarios de múltiples pasos.
• Síntesis de información a partir de grandes conjuntos de datos.
• Aplicaciones de atención al cliente.

Cómo acceder a DeepSeek R1 de forma local

https://www.youtube.com/watch?v=pbCQnDDj-bo

Guía de instalación paso a paso

1. Instalar Ollama

• Visita el sitio web de Ollama, descarga e instala la versión para tu sistema operativo.

2. Descargar el modelo DeepSeek-R1

• Abre tu terminal y ejecuta (usando la versión de 7B como ejemplo): bashCopyollama run deepseek-r1:7b (Espera a que se complete la descarga; el tiempo depende de la velocidad de la red.)

ollama run deepseek-r1:7b

3. Verificar y ejecutar

• Verificar instalación:

ollama list  # Comprobar si aparece "deepseek-r1" en la lista

• Iniciar el modelo:

ollama run deepseek-r1:7b

4. Ejemplos de uso

• Hacer una consulta: bashCopy>>> "Explica la computación cuántica en términos sencillos."
• Generar código: bashCopy>>> "Escribe una función en Python para calcular la secuencia de Fibonacci."

Desafíos del despliegue local

1. Limitaciones de hardware

• Altos requisitos de recursos:
  • Requiere GPUs/TPUs de gama alta (ej. H800) con suficiente VRAM/RAM.
• Restricciones de memoria:
  • 671B parámetros (37B activados por token) provocan una carga lenta.
  • VRAM/RAM insuficiente causa intercambio en disco o fallos.

2. Configuración y ajustes

• Instalación compleja:
  • Pasos manuales: descargar los pesos del modelo (Hugging Face), instalar librerías (ej. transformers), configurar frameworks.
  • Requiere experiencia técnica para la optimización.
• Optimización del software:
  • Debe forzar que las respuestas comiencen con \ pensar\ para garantizar patrones de razonamiento adecuados.

3. Cuellos de botella en el rendimiento

• Inferencia lenta:
  • Las limitaciones de CPU/GPU y el ancho de banda de memoria reducen la velocidad de procesamiento.
• Mantenimiento continuo:
  • Las actualizaciones manuales para nuevas versiones del modelo añaden esfuerzo adicional.

4. Compensaciones con modelos destilados

• Menores necesidades de recursos:
  • Las versiones más pequeñas (ej. Qwen-32B, Llama-70B) reducen los requisitos de hardware.
  • Ejemplo: Qwen-32B supera a OpenAI-o1-mini en benchmarks.
• Desventajas de rendimiento:
  • Sacrifican precisión o capacidad en comparación con el modelo completo de 671B.
  • Pueden tener dificultades con tareas complejas que requieren razonamiento profundo.

Para obtener la capacidad completa: opta por el acceso por API para evitar desafíos de hardware y configuración.

Cómo acceder a DeepSeek R1 mediante Novita AI

Novita AI es una plataforma en la nube de IA que ofrece a los desarrolladores una forma sencilla de implementar modelos de IA usando nuestra API simple, al mismo tiempo que proporciona la nube de GPU asequible y confiable para construir y escalar.

Paso 1: Iniciar sesión y acceder a la Biblioteca de Modelos

Inicia sesión en tu cuenta y haz clic en el botón Model Library.

¡Prueba la demo de DeepSeek R1 ahora!

Paso 2: Elegir tu modelo

Navega por las opciones disponibles y selecciona el modelo que se adapte a tus necesidades.

Paso 3: Iniciar tu prueba gratuita

Comienza tu prueba gratuita para explorar las capacidades del modelo seleccionado.

Paso 4: Obtener tu clave API

Para autenticarte con la API, te proporcionaremos una nueva clave API. Ingresa a la página “Settings” y copia la clave API como se indica en la imagen.

Paso 5: Instalar la API

Instala la API usando el gestor de paquetes específico de tu lenguaje de programación.

Después de la instalación, importa las librerías necesarias en tu entorno de desarrollo. Inicializa la API con tu clave API para comenzar a interactuar con Novita AI LLM. Este es un ejemplo de uso de la API de completado de chat para usuarios de Python.

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<TU Clave API de Novita AI>",
)

model = "deepseek/deepseek_r1"
stream = True # o False
max_tokens = 2048
system_content = """Sé un asistente útil"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=&#91;
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "¡Hola!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices&#91;0].delta.content or "", end="")
else:
    print(chat_completion_res.choices&#91;0].message.content)
  
  

Al registrarte, Novita AI proporciona un crédito de $0.5 para que comiences.

Si los créditos gratuitos se agotan, puedes pagar para seguir usándolo.

¿Qué métodos son adecuados para ti?

• Investigadores: el acceso local generalmente es preferido por su flexibilidad y control sobre los experimentos.

• Desarrolladores:

  • El acceso por API es adecuado para construir aplicaciones y prototipado rápido.
  • El acceso local es mejor para ajuste fino y flujos de trabajo personalizados.

• Empresas: el acceso por API es beneficioso para una integración rápida en servicios sin costos iniciales elevados. El despliegue local puede ser adecuado para equipos con requisitos consistentes y capacidad de invertir en infraestructura.

• Pequeños equipos/individuos: el acceso por API generalmente es más práctico debido a los menores costos de inicio.

• Usuarios con habilidades técnicas limitadas: el acceso por API es preferible, ya que elimina la necesidad de conocimientos técnicos profundos.

En conclusión, DeepSeek R1 es un modelo impresionante con capacidades de razonamiento de última generación. Ya sea que elijas ejecutarlo localmente o usar una API, deberás considerar las compensaciones entre control, costo y conveniencia. Considerando cuidadosamente estos factores y las recomendaciones específicas de este artículo, podrás elegir el mejor método de acceso para tus objetivos.

Preguntas frecuentes

¿Es DeepSeek R1 mejor que OpenAI o1?

DeepSeek R1 ofrece un rendimiento comparable, especialmente en tareas de razonamiento, con el beneficio adicional de ser de código abierto y más rentable.

¿Cómo puedo ajustar finamente DeepSeek R1?

Como modelo de código abierto, DeepSeek R1 se puede ajustar finamente para tareas específicas, siempre que tengas los recursos computacionales y los datos.

¿Cómo se entrenan los modelos?

DeepSeek R1 es significativamente más barato que los modelos o1 de OpenAI.

Novita AI es la plataforma integral en la nube que impulsa tus ambiciones de IA. APIs integradas, sin servidor, instancias de GPU: las herramientas rentables que necesitas. Elimina la infraestructura, comienza gratis y haz realidad tu visión de IA.

Lecturas recomendadas

• DeepSeek V3: Avanzando en modelos de código abierto, ahora disponible en Novita AI
• Deepseek v3 vs Llama 3.3 70b: Tareas de lenguaje vs Código y Matemáticas
• Llama 3.2 3B vs DeepSeek V3: Comparando eficiencia y rendimiento.