Deepseek-R1 теперь доступен на Novita AI: сильный конкурент OpenAI o1

DeepSeek, китайская AI-лаборатория, выпустила открытую версию DeepSeek-R1 — модели рассуждений, которая по многим бенчмаркам конкурирует с OpenAI o1. Теперь эта модель доступна на Novita AI, она создана для решения сложных задач, таких как логический вывод, математика и программирование, что делает ее универсальным инструментом для разработчиков и бизнеса.

Что отличает DeepSeek-R1 — это архитектура, ориентированная на рассуждения, которая позволяет модели самостоятельно проверять свои ответы на точность. Хотя этот процесс может занимать больше времени, чем у традиционных языковых моделей, результаты получаются более надежными, особенно для использования в физике, науке и математике.

В этой статье исследуются уникальные возможности DeepSeek-R1, ее производительность в бенчмарках и способы интеграции в ваши рабочие процессы через API Novita AI.

Что такое DeepSeek-R1?

DeepSeek-R1 — это открытая модель рассуждений, разработанная для решения задач, требующих логического мышления, продвинутой математики и программирования. Она основана на предыдущей версии DeepSeek-R1-Zero, но сочетает обучение с подкреплением и контролируемую донастройку для улучшения читаемости и связности выходных данных.

Модели рассуждений, такие как R1, спроектированы для самопроверки своих результатов, что снижает количество ошибок, часто встречающихся в традиционных языковых моделях. Это делает их незаменимыми в областях, требующих высокой точности и прозрачности, таких как исследования, образование и принятие решений.

Что делает DeepSeek-R1 особенно конкурентоспособной и привлекательной — это ее открытый исходный код. Модель распространяется по лицензии MIT, что разрешает неограниченное коммерческое использование. В отличие от проприетарных моделей, такой подход позволяет разработчикам и исследователям полностью изучить ее архитектуру, модифицировать под свои нужды и развертывать в различных рабочих процессах.

Как была разработана DeepSeek-R1?

В этом разделе рассматривается процесс создания DeepSeek-R1, начиная с ее предшественницы DeepSeek-R1-Zero.

DeepSeek-R1-Zero

DeepSeek-R1 начиналась с R1-Zero — модели, обученной исключительно с помощью обучения с подкреплением. Такой подход позволил модели развить сильные способности к рассуждению, но привел к ряду проблем:

• Результаты часто было трудно читать.
• Модель иногда смешивала языки в своих ответах, что снижало удобство использования.

Эти ограничения делали R1-Zero непригодной для реальных приложений, несмотря на логическую обоснованность.

Проблемы чистого обучения с подкреплением

Опора исключительно на обучение с подкреплением приводила к появлению логически правильных, но плохо структурированных ответов. Без использования контролируемых данных модель с трудом доносила свои рассуждения. Отсутствие ясности было препятствием для пользователей, которым требовалась точность и прозрачность результатов.

Улучшения в DeepSeek-R1

Чтобы преодолеть эти трудности, DeepSeek применила гибридный подход при разработке R1. Объединив обучение с подкреплением и контролируемую донастройку, команда использовала курированные наборы данных для улучшения читаемости и связности модели. Это изменение решило критические проблемы:

• Смешивание языков было значительно уменьшено.
• Фрагментированные рассуждения стали более связными, что привело к более понятным результатам.

Эти улучшения сделали DeepSeek-R1 более практичным и надежным инструментом для реальных приложений.

Бенчмарк производительности DeepSeek-R1

DeepSeek-R1 отлично показывает себя в математике, достигая лучших результатов: 97,3% на MATH-500 и 79,8% на AIME 2024, опережая конкурентов. В программировании она выделяется с 49,2% на SWE-bench Verified и 65,9% на Live Code Bench, демонстрируя разносторонний опыт в обеих областях.

Все модели оценивались с максимальной длиной генерации 32 768 токенов, с использованием определенных параметров семплирования (температура 0,6, top-p 0,95 и 64 ответа на запрос) для вычисления pass@1 для бенчмарков.

Попробовать демо DeepSeek-R1

Модели DeepSeek-R1-Distill

Дистилляция знаний — это метод машинного обучения, при котором знания передаются от большой модели к меньшей. Цель состоит в создании более эффективной модели, способной достичь производительности, аналогичной большой модели.

DeepSeek также выпустила дистиллированные версии R1 — более компактные модели, которые сохраняют многие возможности оригинальной модели, будучи при этом более эффективными с вычислительной точки зрения. Эти модели донастроены на данных, сгенерированных DeepSeek-R1, и доступны в размерах от 1,5 до 70 миллиардов параметров.

Источник: документ DeepSeek

Доступ к API DeepSeek-R1 через Novita AI

Платформа Novita AI упрощает развертывание DeepSeek-R1, предоставляя простые API и доступную облачную инфраструктуру GPU. Разработчики могут легко интегрировать модель в свои приложения, не беспокоясь о настройке оборудования или масштабировании.

Чтобы начать работу с DeepSeek-R1 на Novita AI, выполните следующие шаги:

Шаг 1: Перейдите на Novita AI и войдите в систему, используя свой аккаунт Google, GitHub или адрес электронной почты.

Шаг 2: Попробуйте демо DeepSeek-R1.

Шаг 3: Следите за консолью метрик LLM модели на Novita AI.

Шаг 4: Получите свой API-ключ:

• Перейдите в раздел «Управление ключами» в настройках.
• При первом входе создается ключ по умолчанию.
• Чтобы создать дополнительные ключи, нажмите «+ Добавить новый ключ».

Шаг 5: Настройте среду разработки и сконфигурируйте такие параметры, как контент, роль, имя и промпт.

Интеграция API

Novita AI предоставляет клиентские библиотеки для Curl, Python и JavaScript, что упрощает интеграцию DeepSeek-R1 в ваши проекты:

Для пользователей Python:

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<YOUR Novita AI API Key>",
)

model = "deepseek/deepseek-r1"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)
  

Для пользователей JavaScript:

import OpenAI from "openai";

const openai = new OpenAI({
  baseURL: "https://api.novita.ai/v3/openai",
  apiKey: "<YOUR Novita AI API Key>",
});
const stream = true; // or false

async function run() {
  const completion = await openai.chat.completions.create({
    messages: [
      {
        role: "system",
        content: "Be a helpful assistant",
      },
      {
        role: "user",
        content: "Hi there!",
      },
    ],
    model: "deepseek/deepseek-r1",
    stream,
    response_format: { type: "text" },
    max_tokens: 2048,
    temperature: 1,
    top_p: 1,
    min_p: 0,
    top_k: 50,
    presence_penalty: 0,
    frequency_penalty: 0,
    repetition_penalty: 1
  });

  if (stream) {
    for await (const chunk of completion) {
      if (chunk.choices[0].finish_reason) {
        console.log(chunk.choices[0].finish_reason);
      } else {
        console.log(chunk.choices[0].delta.content);
      }
    }
  } else {
    console.log(JSON.stringify(completion));
  }
}

run();
  

Для пользователей Curl:

curl "https://api.novita.ai/v3/openai/chat/completions" \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <YOUR Novita AI API Key>" \
  -d @- << 'EOF'
{
    "model": "deepseek/deepseek-r1",
    "messages": [
        {
            "role": "system",
            "content": "Be a helpful assistant"
        },
        {
            "role": "user",
            "content": "Hi there!"
        }
    ],
    "response_format": { "type": "text" },
    "max_tokens": 2048,
    "temperature": 1,
    "top_p": 1,
    "min_p": 0,
    "top_k": 50,
    "presence_penalty": 0,
    "frequency_penalty": 0,
    "repetition_penalty": 1
}
EOF
  

💡 Советы от DeepSeek

Для достижения оптимальной производительности при использовании моделей DeepSeek-R1 рекомендуется применять следующие настройки:

1. Настройки температуры: Установите температуру в диапазоне 0,5–0,7 (рекомендуется 0,6), чтобы избежать бессвязных выходных данных или бесконечных повторений.
2. Проектирование промптов: Избегайте добавления системного промпта; включайте все инструкции непосредственно в пользовательский промпт.
3. Математические задачи: Для задач, связанных с математикой, добавьте директивы, например: «Пожалуйста, рассуждайте пошагово и поместите окончательный ответ в \boxed{}».
4. Оценка: Проводите несколько тестов и усредняйте результаты для обеспечения надежного бенчмаркинга.

DeepSeek-R1 против OpenAI o1: производительность в бенчмарках

DeepSeek-R1 напрямую конкурирует с OpenAI o1 во многих бенчмарках, часто сравниваясь с ним по производительности или превосходя его.

Математические бенчмарки

В сложных математических задачах DeepSeek-R1 демонстрирует высокую производительность. Она набирает 79,8% на AIME 2024, немного опережая OpenAI o1-1217 с 79,2%. На MATH-500, включающем решение разнообразных задач уровня старшей школы, DeepSeek-R1 лидирует с 97,3%, превосходя OpenAI o1-1217 с 96,4%.

Бенчмарки программирования

В бенчмарках по программированию DeepSeek-R1 достигает 96,3% на Codeforces, лишь немного уступая OpenAI o1-1217 с 96,6%. Однако на SWE-bench Verified, оценивающем рассуждения в задачах программной инженерии, DeepSeek-R1 показывает 49,2%, немного опережая OpenAI o1-1217 с 48,9%.

Бенчмарки общего знания

Хотя OpenAI o1 лидирует в задачах общего знания, DeepSeek-R1 остается конкурентоспособной. Она набирает 71,5% на GPQA Diamond по сравнению с 75,7% у OpenAI o1-1217. На MMLU, многозадачном бенчмарке, DeepSeek-R1 достигает 90,8%, немного отставая от OpenAI o1-1217 с 91,8%.

Эти результаты подчеркивают сильные стороны DeepSeek-R1 в областях, требующих интенсивных рассуждений, особенно в математике и программировании.

Раскройте возможности DeepSeek-R1 уже сегодня

DeepSeek-R1 — это значительный шаг вперед в области AI, ориентированного на рассуждения, предлагающий прозрачность, надежность и гибкость. Ее высокая производительность в математике и задачах программной инженерии делает ее мощным инструментом для разработчиков, ищущих решения в исследованиях, образовании и технических рабочих процессах.

Благодаря доступности на Novita AI развертывание DeepSeek-R1 становится простым и экономически эффективным. Решаете ли вы сложные математические задачи или автоматизируете задачи программирования — DeepSeek-R1 предлагает надежное и доступное решение для разнообразных AI-приложений.

О Novita AI

Novita AI — это облачная платформа AI, которая предоставляет разработчикам простой способ развертывания моделей AI с помощью нашего простого API, а также предлагает доступный и надежный GPU-облачный сервис.