Как получить доступ к DeepSeek V3.1: Полное руководство

Как получить доступ к DeepSeek V3.1: Полное руководство

DeepSeek V3.1 — это новейшая флагманская модель от DeepSeek, созданная для повышения производительности AI с помощью гибридной архитектуры рассуждений, более высокой эффективности мышления и улучшенных агентских способностей. Эти инновации дают разработчикам мощную основу для создания более умных приложений и оптимизации реальных задач.

Это руководство познакомит вас с DeepSeek V3.1, расскажет о её ключевых особенностях и преимуществах в бенчмарках, а также покажет, как получить к ней доступ через локальное развёртывание, API и сторонние платформы.

Начните бесплатную пробную версию с DeepSeek V3.1!

Основные сведения

Характеристика Детали
Всего параметров 671B
Активируемых параметров 37B
Длина контекста 128K
Архитектура Transformer-based MoE
Режим мышления Гибридный режим (Think + Non-Think)
Лицензия MIT License

Бенчмарки

Результаты бенчмарков DeepSeek V3.1

DeepSeek V3.1 (Reasoning) в сложных задачах, таких как олимпиадная математика AIME и научное мышление GPQA, демонстрирует более сильное построение логических цепочек, понимание длинного контекста и более последовательные ответы, что делает её идеальной для высокоточных, глубоких приложений.

DeepSeek V3.1 (Non-Reasoning) обеспечивает сбалансированную производительность с большей эффективностью и экономичностью для стандартных рабочих нагрузок. Вместе они дают разработчикам возможность гибко выбирать между глубиной рассуждений и практической универсальной эффективностью.

Ключевые улучшения

  • Гибридный вывод: DeepSeek V3.1 объединяет режимы Think и Non-Think в одной модели.
  • Более быстрое мышление: Режим Think в DeepSeek V3.1 достигает сравнимого с DeepSeek-R1-0528 качества ответов, но отвечает быстрее.
  • Улучшенные агентские навыки: DeepSeek V3.1 использует пост-тренинг для улучшения использования инструментов и выполнения сложных многошаговых задач.

Как получить доступ к DeepSeek V3.1: Локальное развёртывание

Требования DeepSeek V3.1

Тип VRAM (приблизительно) Рекомендуемое оборудование
1-bit 186 GB Один высокопроизводительный GPU / Multi-GPU серверы
2-bit 219 GB Multi-GPU серверы
3-bit 319 GB Multi-GPU серверы
4-bit 404 GB Multi-GPU серверы
8-bit 713 GB Крупные кластеры GPU
16-bit (BF16) 1.34 TB Кластер из 8 карт Nvidia H200

DeepSeek V3.1 поддерживает локальное развёртывание с использованием следующего аппаратного обеспечения и ПО с открытым исходным кодом.

  • DeepSeek-Infer Demo: Простая и лёгкая демонстрация для вывода в FP8 и BF16.
  • SGLang: Полная поддержка DeepSeek-V3 в режимах BF16 и FP8, с Multi-Token Prediction в ближайшее время.
  • LMDeploy: Обеспечивает эффективный вывод в FP8 и BF16 для локального и облачного развёртывания.
  • TensorRT-LLM: В настоящее время поддерживает вывод в BF16 и квантование INT4/INT8, поддержка FP8 на подходе.
  • vLLM: Поддерживает DeepSeek-V3 с FP8 и BF16 для тензорного и конвейерного параллелизма.
  • LightLLM: Обеспечивает эффективное одноузловое или многоузловое развёртывание для FP8 и BF16.
  • AMD GPU: Запуск DeepSeek-V3 на AMD GPU через SGLang в режимах BF16 и FP8.
  • Huawei Ascend NPU: Запуск DeepSeek-V3 на устройствах Huawei Ascend в режимах INT8 и BF16.

Хотя DeepSeek V3.1 можно развернуть локально, что требует значительных аппаратных ресурсов, Novita AI также предлагает оптимизированные облачные GPU-решения (H100 и H200), избавляя от необходимости управлять сложной инфраструктурой.

Как получить доступ к DeepSeek V3.1: Использование API

Novita AI предоставляет API DeepSeek V3.1 с 163.8K контекстом по цене $0.55 / 1M входных токенов и $1.66 / 1M выходных токенов.

Вариант 1: Прямая интеграция API (пример на Python)

Шаг 1: Войдите в систему и откройте библиотеку моделей

Войдите или зарегистрируйтесь в своей учётной записи и нажмите кнопку Model Library.

Изображение: где найти библиотеку моделей на Novita AI

Попробуйте DeepSeek V3.1 прямо сейчас!

Шаг 2: Выберите модель

Просмотрите доступные варианты и выберите модель, которая подходит для ваших задач.

Изображение: список LLM на Novita AI

Шаг 3: Начните бесплатную пробную версию

Начните бесплатную пробную версию, чтобы изучить возможности выбранной модели.

Изображение: Playground DeepSeek V3.1 на Novita API

Шаг 4: Получите ключ API

Для аутентификации в API мы предоставим вам новый ключ API. Перейдите на страницу «Settings» и скопируйте ключ API, как показано на изображении.

Изображение: где найти ключ API на Novita AI

Шаг 5: Установите API

Установите API с помощью менеджера пакетов, соответствующего вашему языку программирования.

После установки импортируйте необходимые библиотеки в вашу среду разработки. Инициализируйте API с вашим ключом API, чтобы начать взаимодействие с Novita AI LLM. Это пример использования chat completions API для пользователей Python.

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/openai",
    api_key="",
)

model = "deepseek/deepseek-v3.1"
stream = True # or False
max_tokens = 81920
system_content = "Be a helpful assistant"
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)

Вариант 2: Многоагентные рабочие процессы с OpenAI Agents SDK

Создавайте сложные многоагентные системы, используя возможности двухрежимной работы DeepSeek-V3.1:

  • Интеграция “подключи и работай”: Используйте DeepSeek V3.1 в любом рабочем процессе OpenAI Agents.
  • Расширенные возможности агентов: Поддержка передачи задач, маршрутизации и интеграции инструментов.
  • Масштабируемая архитектура: Проектируйте агентов, которые используют возможности DeepSeek V3.1.

Как получить доступ к DeepSeek V3.1: Интеграция с Claude Code

Шаг 1: Установка Claude Code

Перед установкой Claude Code убедитесь, что ваша система соответствует минимальным требованиям. В вашем локальном окружении должен быть установлен Node.js 18 или выше. Вы можете проверить версию Node.js, выполнив в терминале node --version.

Откройте командную строку (Windows) или терминал (Mac/Linux) и выполните:

npm install -g @anthropic-ai/claude-code

Глобальная установка обеспечивает доступность Claude Code из любого каталога в вашей системе. Процесс установки автоматически настраивает необходимые зависимости и переменные PATH на всех платформах.

Шаг 2: Настройка переменных окружения

Переменные окружения настраивают Claude Code для использования DeepSeek V3.1 через конечные точки API Novita AI. Эти переменные указывают Claude Code, куда отправлять запросы и как аутентифицироваться.

  • Для Windows

Откройте командную строку и задайте следующие переменные окружения:

set ANTHROPIC_BASE_URL=https://api.novita.ai/anthropic
set ANTHROPIC_AUTH_TOKEN=<Novita API Key>
set ANTHROPIC_MODEL=deepseek/deepseek-v3.1
set ANTHROPIC_SMALL_FAST_MODEL=deepseek/deepseek-v3.1

Замените <Novita API Key> на ваш реальный ключ API, полученный на платформе Novita AI. Эти переменные активны в течение текущего сеанса и должны быть заданы заново, если вы закроете командную строку.

  • Для Mac и Linux

Откройте терминал и экспортируйте следующие переменные окружения:

export ANTHROPIC_BASE_URL="https://api.novita.ai/anthropic"
export ANTHROPIC_AUTH_TOKEN="<Novita API Key>"
export ANTHROPIC_MODEL="deepseek/deepseek-v3.1"
export ANTHROPIC_SMALL_FAST_MODEL="deepseek/deepseek-v3.1"

Шаг 3: Запуск Claude Code

После завершения установки и настройки вы можете запустить Claude Code в каталоге вашего проекта. Перейдите в нужный каталог с помощью команды cd:

cd <ваш-каталог-проекта>
claude .

Параметр точка (.) указывает Claude Code работать в текущем каталоге. При запуске вы увидите приглашение Claude Code в интерактивном сеансе.

Это означает, что инструмент готов к приёму ваших инструкций. Интерфейс предоставляет чистую, интуитивно понятную среду для взаимодействия с естественным языком программирования.

Шаг 4: Создание вашего первого проекта

Claude Code отлично справляется с преобразованием детальных описаний проектов в функциональные приложения. После ввода запроса нажмите Enter, чтобы начать задачу. Claude Code проанализирует ваши требования, создаст необходимые файлы, реализует функциональность и предоставит полную структуру проекта с документацией.

Как получить доступ к DeepSeek V3.1: Подключение к другим сторонним платформам

Инструменты разработки: Бесшовная интеграция с популярными IDE и средами разработки, такими как Cursor, Trae, Qwen Code и Cline, через API, совместимые с OpenAI и Anthropic.

Оркестрационные фреймворки: Подключение к LangChain, Dify, CrewAI, Langflow и другим платформам AI-оркестрации с помощью официальных коннекторов.

Интеграция с Hugging Face: Novita AI выступает в качестве официального провайдера вывода Hugging Face, обеспечивая широкую совместимость экосистемы.

Часто задаваемые вопросы

Novita AI — это облачная AI-платформа, которая предоставляет разработчикам простой способ развёртывания AI-моделей с помощью нашего простого API, а также предлагает доступные и надёжные GPU-облака для создания и масштабирования.

Рекомендуемые материалы

DeepSeek-V3.1 Available on Novita AI: Enhanced Context Window & Revolutionary Hybrid Thinking Mode

DeepSeek R1 7B: 90% of DeepSeek R1 Power But 10x Hardware Efficiency

DeepSeek V3 0324 Available on Novita AI