DeepSeek-V3.2-Exp на Novita AI: Вдвое дешевле за счёт разреженного внимания для ИИ с длинным контекстом

DeepSeek-V3.2-Exp на Novita AI: Вдвое дешевле за счёт разреженного внимания для ИИ с длинным контекстом

Компания DeepSeek недавно представила экспериментальную модель DeepSeek-V3.2-Exp, которая решает одну из самых больших проблем ИИ: эффективную и доступную обработку длинных документов.

Построенная на основе DeepSeek-V3.1-Terminus, эта новая модель использует технологию DeepSeek Sparse Attention (DSA, разреженное внимание) — прорывное решение, которое снижает стоимость вдвое и значительно ускоряет обработку сценариев с длинным контекстом.

В Novita AI мы предоставляем разработчикам доступ к этой передовой модели через нашу удобную API-платформу. Независимо от того, создаёте ли вы инструменты для анализа документов, помощники для написания кода или чат-боты, которым нужно запоминать целые диалоги, DeepSeek-V3.2-Exp обеспечивает нужную вам эффективность и экономию средств без потери качества.

Попробовать демо DeepSeek V3.2 Exp

Что делает DeepSeek-V3.2-Exp особенным?

DeepSeek-V3.2-Exp — это экспериментальная ИИ-модель, созданная для более эффективной обработки длинных документов и диалогов по сравнению с традиционными моделями.

Сокращение «Exp» означает «экспериментальная»: DeepSeek тестирует новый подход, чтобы оценить его эффективность в реальных сценариях использования.

Решаемая проблема

Традиционные ИИ-модели значительно замедляются при обработке длинных текстов.

Чтение документа на 100 страниц или ведение длинного диалога становится затратным и трудоёмким. Это происходит потому, что стандартные модели обрабатывают каждое слово относительно всех остальных: чем длиннее текст, тем больше вычислений требуется.

Решение: разреженное внимание

В DeepSeek-V3.2-Exp реализована технология DeepSeek Sparse Attention (DSA), которая работает как умный фильтр.

Вместо анализа каждого слова со всеми остальными модель определяет и фокусируется только на наиболее релевантных частях. Это можно сравнить с скорочтением: вы не уделяете равное внимание каждому слову, а сосредотачиваетесь на самом важном.

Ключевые особенности

  • Длина контекста: Поддерживает до 128 000 токенов (примерно 96 000 слов или более 300 страниц)
  • Вдвое дешевле: На 50% ниже стоимость обработки длинного контекста по сравнению с DeepSeek-V3.1-Terminus
  • Значительное ускорение: Резкий рост эффективности как при обучении, так и при выводе, особенно в сценариях с длинным контекстом
  • Архитектура: Построена на основе DeepSeek-V3.1-Terminus с добавлением технологии DeepSeek Sparse Attention
  • Такое же качество: Сохраняет производительность, сравнимую с DeepSeek-V3.1-Terminus

Модель построена на проверенной основе DeepSeek-V3.1-Terminus, которая уже поддерживала длину контекста 128К, но добавляет этот интеллектуальный слой эффективности за счёт дополнительного обучения.

Прорыв в экономической эффективности

Технология DeepSeek Sparse Attention (DSA) снижает сложность основного механизма внимания с O(L²) до O(Lk), где k — количество выбранных токенов (значительно меньше, чем L).

Хотя высокоскоростной индексный модуль по-прежнему имеет сложность O(L²), он требует значительно меньше вычислений по сравнению с основным механизмом внимания. В сочетании с оптимизированной реализацией DSA обеспечивает значительное общее ускорение в сценариях с длинным контекстом.

DeepSeek провёл бенчмаркинг DeepSeek-V3.1-Terminus и DeepSeek-V3.2-Exp на реальном сервисе, развёрнутом на GPU H800 при арендной стоимости 2 доллара США за час работы GPU.

Результаты демонстрируют резкий рост эффективности, особенно по мере увеличения длины контекста.

Затраты на вывод DeepSeek-V3.1-Terminus и DeepSeek-V3.2-Exp

Узнайте больше об архитектуре и деталях реализации в официальной технической документации.

Производительность: действительно ли это работает?

DeepSeek оценил производительность модели на наборе бенчмарков, охватывающих различные возможности.

В целом DeepSeek-V3.2-Exp не показывает существенного снижения производительности по сравнению с DeepSeek-V3.1-Terminus.

Общие знания

Бенчмарк DeepSeek-V3.1-Terminus DeepSeek-V3.2-Exp
MMLU-Pro 85.0 85.0
GPQA-Diamond 80.7 79.9
Humanity’s Last Exam 21.7 19.8

Примечание: Производительность на GPQA, HLE и HMMT 2025 ниже, потому что DeepSeek-V3.2-Exp генерирует меньше токенов рассуждений. На промежуточных чекпоинтах, которые генерируют сопоставимое количество токенов, разрыв в производительности сокращается.

Веб-поиск и агенты

Бенчмарк DeepSeek-V3.1-Terminus DeepSeek-V3.2-Exp
BrowseComp 38.5 40.1
BrowseComp_zh 45.0 47.9
SimpleQA 96.8 97.1

Интересно, что модель даже показывает улучшение результатов в задачах поиска! Это говорит о том, что разреженное внимание может помогать модели фокусироваться на релевантной информации при поиске ответов в длинном контексте.

Генерация кода

Бенчмарк DeepSeek-V3.1-Terminus DeepSeek-V3.2-Exp
LiveCodeBench (2408-2505) 74.9 74.1
Codeforces-Div1 Rating 2046 2121
Aider-Polyglot 76.1 74.5

Модель демонстрирует сильные способности к написанию кода, даже получив более высокий рейтинг в соревновательном программировании (2121 — уровень эксперта на Codeforces).

Агенты для работы с кодом

Бенчмарк DeepSeek-V3.1-Terminus DeepSeek-V3.2-Exp
SWE Verified (Agent mode) 68.4 67.8
SWE-bench Multilingual (Agent mode) 57.8 57.9
Terminal-bench (Terminus 1 framework) 36.7 37.7

Модель сохраняет сильные возможности агентов для решения реальных задач в области разработки программного обеспечения.

Математика

Бенчмарк DeepSeek-V3.1-Terminus DeepSeek-V3.2-Exp
AIME 2025 88.4 89.3
HMMT 2025 86.1 83.6

Модель показывает исключительно высокие результаты на AIME 2025 (сложной олимпиаде по математике для старшеклассников), решая 89,3% задач.

Стабильность обучения

DeepSeek сравнил кривые обучения с подкреплением обеих моделей на бенчмарках BrowseComp и SWE Verified.

Производительность обеих моделей стабильно улучшалась на протяжении всего процесса обучения, а кривые были очень близки, что отражает стабильность обучения с использованием DSA.

Начало работы на Novita AI

Доступ к DeepSeek-V3.2-Exp через Novita AI предоставляет несколько вариантов, адаптированных под разные уровни технической подготовки и сценарии использования.

Независимо от того, являетесь ли вы бизнес-пользователем, изучающим возможности ИИ, или разработчиком, создающим производственные приложения, Novita AI предоставляет все необходимые инструменты.

Используйте Playground (не требуется написание кода)

  • Мгновенный доступ: Зарегистрируйтесь и начните экспериментировать с DeepSeek-V3.2-Exp за несколько секунд
  • Интерактивный интерфейс: Тестируйте запросы и визуализируйте результаты в реальном времени
  • Сравнение моделей: Сравнивайте DeepSeek-V3.2-Exp с другими ведущими моделями для вашего конкретного сценария использования

Playground позволяет тестировать различные запросы и получать мгновенные результаты без какой-либо технической настройки.

Идеально подходит для прототипирования, тестирования идей и оценки возможностей модели перед полноценной реализацией.

Попробовать демо DeepSeek V3.2 Exp

Интеграция через API (для разработчиков)

Подключите DeepSeek-V3.2-Exp к вашим приложениям с помощью унифицированного REST API Novita AI.

Вариант 1: Прямая интеграция через API

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/openai",
    api_key="session_lnrv9fuPcmgAz_fk3YmwpmOhfIpYY11iFpvaauxsvknzSam5bSQasB-eIUbv9o2PGSF_tpNcC44ez9wAxUyuDA==",
)

model = "deepseek/deepseek-v3.2-exp"
stream = True # or False
max_tokens = 81920
system_content = "Be a helpful assistant"
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)
  
  

Вариант 2: Многоагентные рабочие процессы с OpenAI Agents SDK

Создавайте сложные многоагентные системы, используя возможности DeepSeek-V3.2-Exp:

  • Интеграция без дополнительной настройки: Используйте DeepSeek-V3.2-Exp в любом рабочем процессе OpenAI Agents
  • Расширенные возможности агентов: Поддержка передачи задач, маршрутизации и интеграции с инструментами
  • Масштабируемая архитектура: Создавайте агентов, которые используют эффективную обработку длинного контекста DeepSeek-V3.2-Exp

Подключение к сторонним платформам

Инструменты для разработки: Бесшовно интегрируйтесь с популярными IDE и средами разработки, такими как Cursor, Codex, Claude Code, Trae, Qwen Code и Cline, через совместимые с OpenAI API и совместимые с Anthropic API.

Фреймворки для оркестрации: Подключайтесь к LangChain, Dify, CrewAI, Langflow и другим платформам для оркестрации ИИ с помощью официальных коннекторов.

Интеграция с Hugging Face: Novita AI является официальным провайдером вывода для Hugging Face, что обеспечивает широкую совместимость с экосистемой.

Заключение

DeepSeek-V3.2-Exp представляет собой значительный прорыв в области эффективной и доступной обработки длинного контекста ИИ.

Благодаря технологии DeepSeek Sparse Attention модель обеспечивает вдвое более низкую стоимость по сравнению с DeepSeek-V3.1-Terminus, значительное ускорение и существенный рост эффективности как при обучении, так и при выводе, особенно в сценариях с длинным контекстом, при этом сохраняя производительность, сравнимую с DeepSeek-V3.1-Terminus.

DeepSeek активно проводит дальнейшее крупномасштабное тестирование в реальных сценариях, чтобы выявить потенциальные ограничения архитектуры разреженного внимания.

Novita AI упрощает доступ к этой экспериментальной технологии через нашу удобную для разработчиков API-платформу: никакой сложности с инфраструктурой, только мощный ИИ под рукой с экономией 50% затрат.

Готовы ощутить будущее эффективного и доступного ИИ с длинным контекстом? Начните изучать DeepSeek-V3.2-Exp в Playground уже сегодня.

Novita AI — это облачная ИИ-платформа, которая предоставляет разработчикам простой способ развёртывания ИИ-моделей через наше простое API, а также доступное и надёжное облако GPU для построения и масштабирования решений.