- Qwen3-Next-80B против Qwen3-235B：ключевые различия в архитектурах
- Qwen3-Next-80B-A3B против Qwen3-235B: почему меньшая модель удерживает позиции
- Qwen3-Next-80B против Qwen3-Next-80B-A3B：сравнение производительности
- Qwen3-Next-80B против Qwen3-235B：сравнение скорости вывода
- Qwen3-Next-80B против Qwen3-235B: что лучше для генерации текста
- Qwen3-Next-80B против Qwen3-235B: что лучше для чат-ботов
- Как получить доступ к Qwen3-Next-80B и Qwen3-235B？
На нескольких бенчмарках Qwen3-Next-80B-A3B Instruct показывает производительность почти наравне с Qwen3-235B-A22B Instruct, несмотря на значительно меньшее количество параметров. Этот удивительный баланс естественным образом вызывает вопрос: как меньшая модель может удерживать позиции против гиганта? Ответ кроется в их архитектурных инновациях — и в этой статье мы подробно разберем, почему это так.
Qwen3-Next-80B против Qwen3-235B：ключевые различия в архитектурах
На нескольких ключевых бенчмарках Qwen3-Next-80B-A3B Instruct показывает производительность наравне с Qwen3-235B-A22B Instruct, демонстрируя практически идентичные результаты на AIME25, LiveBench и LiveCodeBench. Эта производительность естественным образом приводит к фокусу на их архитектурных различиях
Из Hugging Face
| Модель | Общее количество параметров | Количество активных параметров | Слои | Эксперты | Активированных экспертов | Тип внимания | Длина контекста | Режим | Основная задача |
|---|---|---|---|---|---|---|---|---|---|
| Qwen3-Next-80B-A3B-Instruct | 80B | 3B | 48 | 64 | 2 | Гибридный (DeltaNet + Gated) | Стандартный (до 256K) | Instruct | Легковесное рассуждение, повседневные Q&A |
| Qwen3-Next-80B-A3B-Thinking | 80B | 3B | 48 | 64 | 2 | Гибридный (DeltaNet + Gated) | Стандартный (до 256K) | Thinking | Мощное рассуждение, решение многошаговых задач |
| Qwen3-235B-A22B-Instruct-2507 | 235B | 22B | 94 | 128 | 8 | Гибридный (DeltaNet + Gated) | 262K нативно, до 1M | Instruct | Высокая пропускная способность, улучшенная обработка длинного контекста |
| Qwen3-235B-A22B-Thinking-2507 | 235B | 22B | 94 | 128 | 8 | Гибридный (DeltaNet + Gated) | 262K нативно, до 1M | Thinking | Массовый масштаб с улучшенной способностью к рассуждению |
Qwen3-Next-80B-A3B против Qwen3-235B: почему меньшая модель удерживает позиции
Qwen3-Next-80B-A3B является первой моделью в серии Qwen3-Next и выделяется своими архитектурными инновациями, которые максимизируют эффективность и пропускную способность при работе с длинным контекстом.
В ней представлено гибридное внимание, объединяющее Gated DeltaNet и Gated Attention для замены стандартного внимания, что позволяет эффективно моделировать контекст при сверхдлинных последовательностях.
Архитектура с высокой разреженностью смеси экспертов (MoE) значительно снижает коэффициент активации, уменьшая количество операций с плавающей запятой (FLOPs) на токен при сохранении емкости модели.
Для обеспечения устойчивости модель включает оптимизации стабильности, такие как нормировка слоев с центрированием на ноль и затуханием весов.
Наконец, многотокенное предсказание (MTP) улучшает эффективность предобучения и ускоряет вывод. Вместе эти улучшения делают Qwen3-Next-80B-A3B идеально подходящим для обработки крупномасштабных рабочих нагрузок с длинным контекстом, обеспечивая как эффективность, так и стабильность.
Из Hugging Face
Способность обрабатывать и поддерживать больший объем контекста напрямую усиливает несколько ключевых возможностей модели:
- Понимание длинных документов
Модель может обрабатывать целые книги, научные работы или длинные расшифровки за один проход, избегая потери информации при разбиении на фрагменты. - Межсекционное рассуждение
Более длинные окна контекста позволяют устанавливать связи между удаленными частями текста, улучшая логическую согласованность. - Обработка сложных задач
Приложения для юридического анализа, научных исследований или многоходовых диалогов получают выгоду от сохранения деталей на протяжении множества токенов для точного рассуждения. - Снижение галлюцинаций / дрейфа
Сохранение полного доступа к входным данным снижает риск забывания ранних ограничений или выдумывания отсутствующих деталей. - Масштабируемость для реальных приложений
Корпоративные сценарии — чат-боты с длинной историей диалогов, генерация с дополнением поиском (RAG) с тысячами токенов контекста или мультимодальные конвейеры — получают прямую выгоду от стабильной обработки сверхдлинных последовательностей.
Qwen3-Next-80B против Qwen3-Next-80B-A3B：сравнение производительности
| Категория | Бенчмарк | 80B-A3B-Instruct | 80B-A3B-Thinking | 235B-A22B-Thinking | Лучшая модель |
|---|---|---|---|---|---|
| Знания | MMLU-Pro | 80.6 | 82.7 | 84.4 | 235B-Thinking |
| MMLU-Redux | 90.9 | 92.5 | 93.8 | 235B-Thinking | |
| GPQA | 72.9 | 77.2 | 81.1 | 235B-Thinking | |
| SuperGPQA | 58.8 | 60.8 | 64.9 | 235B-Thinking | |
| Рассуждение | AIME25 | 69.5 | 87.8 | 92.3 | 235B-Thinking |
| HMMT25 | 54.1 | 73.9 | 83.9 | 235B-Thinking | |
| LiveBench (Nov 2024) | 75.8 | 76.6 | 78.4 | 235B-Thinking | |
| Программирование | LiveCodeBench v6 | 56.6 | 68.7 | 74.1 | 235B-Thinking |
| MultiPL-E / CFEval* | 87.8 | 2071 (CFEval) | 2134 (CFEval) | 235B-Thinking | |
| OJBench / Aider-Polyglot* | 49.8 (Aider) | 29.7 (OJBench) | 32.5 (OJBench) | 235B-Thinking | |
| Выравнивание | IFEval | 87.6 | 88.9 | 88.9 (ничья) | 80B-Thinking / 235B-Thinking |
| Arena-Hard v2 | 82.7 | 62.3 | 79.7 | 80B-Instruct | |
| WritingBench | 87.3 | 84.6 | 88.3 | 235B-Thinking | |
| Агенты | BFCL-v3 | 70.3 | 72.0 | 72.4 | 235B-Thinking |
| TAU1-Retail | 60.9 | 69.6 | 67.8 | 80B-Thinking | |
| TAU1-Airline | 44.0 | 49.0 | 46.0 | 80B-Instruct | |
| TAU2-Retail | 57.3 | 67.8 | 71.9 | 235B-Thinking | |
| TAU2-Airline | 45.5 | 60.5 | 58.0 | 80B-Thinking | |
| TAU2-Telecom | 13.2 | 43.9 | 45.6 | 235B-Thinking | |
| Многоязычность | MultiIF | 75.8 | 77.8 | 80.6 | 235B-Thinking |
| MMLU-ProX | 76.7 | 78.7 | 81.0 | 235B-Thinking | |
| INCLUDE | 78.9 | 78.9 | 81.0 | 235B-Thinking | |
| PolyMATH | 45.9 | 56.3 | 60.1 | 235B-Thinking |
Модели 235B — Qwen3-235B-A22B-Instruct-2507 и Qwen3-235B-A22B-Thinking-2507 — демонстрируют наивысшую абсолютную производительность, особенно в области профессиональных знаний, программирования и продвинутого рассуждения.
Модели 80B показывают производительность значительно выше своего класса:
- Qwen3-Next-80B-A3B-Thinking обеспечивает способность к рассуждению, близкую к Qwen3-235B-A22B-Thinking-2507, что делает его идеальным выбором, когда ключевыми факторами являются эффективность и стоимость.
- Qwen3-Next-80B-A3B-Instruct конкурирует наравне с Qwen3-235B-A22B-Instruct-2507 в области знаний и программирования, при этом фактически превосходя его на бенчмарках выравнивания, таких как Arena-Hard v2.
Вывод: Qwen3-Next-80B-A3B разработан для эффективности без значительной жертвы в производительности. Его архитектурные инновации — гибридное внимание, разреженный MoE и оптимизации стабильности — позволяют меньшей модели на равных конкурировать с своими 235B-аналогами во многих реальных задачах.
Qwen3-Next-80B против Qwen3-235B：сравнение скорости вывода
Источник: Artificial Analysis
80B-Instruct = лучший баланс скорости и низкой задержки.
Модели 235B медленнее, особенно в режиме Thinking, из-за большего масштаба и более тяжелых рассуждений.
Модели в режиме Thinking (как 80B, так и 235B) имеют значительно более высокую задержку и общее время выполнения по сравнению с Instruct из-за явных шагов рассуждения.
Qwen3-Next-80B против Qwen3-235B: что лучше для генерации текста
Написание романов / художественная литература
- Требования: детальная проработка персонажей, длинные сюжетные арки, погружающий стиль, согласованность.
- 235B: более сильная креативная детализация, более последовательный голос автора, лучше работает с метафорами и сложными конструкциями.
- 80B: длинные окна контекста поддерживают сюжетные линии при более низкой стоимости; более быстрая итерация; согласованность достаточна для многих читателей.
Научные статьи / техническое письмо
- Требования: точность, структурированность, цитаты, профессиональный жаргон, логичность изложения.
- 235B: более глубокие знания в предметной области, выше точность в деталях, более сильное рассуждение.
- 80B: часто достаточно для обзоров и стандартных экспериментов, но выше риск мелких ошибок в узкоспециализированных областях.
Диалоги / истории в формате чата
- Требования: согласованность между репликами, память о контексте, следование персоне, скорость.
- 235B: немного лучше запоминает детали и следует строгим инструкциям по персоне.
- 80B: более быстрые ответы с низкой задержкой; обработка длинного контекста делает его сильным вариантом для интерактивного чата.
Нон-фикшн / эссе / блоги
- Требования: баланс фактов и стиля, четкая структура, убедительность.
- 235B: лучше справляется с аргументами, богатыми фактами и сложными конструкциями.
- 80B: достаточно хорош, когда стиль и читабельность важнее экспертной точности; быстрее перерабатывает черновики.
Поэзия / стилизованное письмо
- Требования: образный язык, ритм, тонкие нюансы.
- 235B: лучше работает с редкой лексикой, креативностью и тонкими выражениями.
- 80B: хорошо имитирует стиль, но иногда меньше глубины в редких метафорах.
Заключение
- Для высочайшей точности и глубины (научное письмо, критически важные технические работы, высококлассные креативные проекты) 235B является лучшим выбором.
- Для эффективности, скорости и низкой стоимости при стабильно высоком качестве — особенно для длинных входных данных, таких как рассказы или истории диалогов — 80B часто является более разумным вариантом.
Qwen3-Next-80B против Qwen3-235B: что лучше для чат-ботов
Требования к чат-ботам
Быстрые ответы, согласованность при длинной истории диалога, следование инструкциям, наличие возможностей рассуждения, эффективность по стоимости.
235B
- Превосходит в очень крупных диалогах, специализированных знаниях и сложных рассуждениях.
- Недостаток: более высокая задержка и стоимость вычислений, менее идеален, если важна отзывчивость.
80B
- Более низкая задержка, более быстрые ответы.
- Все еще поддерживает хорошее следование инструкциям и обработку контекста благодаря архитектурным инновациям.
- Сильный вариант для интерактивных чат-ботов, ориентированных на пользователя.
Ключевой вывод
- Для плавного пользовательского опыта и быстрых ответов 80B обычно лучше.
- Для специализированных или высоконагруженных областей 235B может все еще быть предпочтительнее.
Как получить доступ к Qwen3-Next-80B и Qwen3-235B？
1. Веб-интерфейс (самый простой для начинающих)
Попробуйте Qwen3-Next-80B-A3B Instruct прямо сейчас!
2. Доступ по API (для разработчиков)
Novita AI — это облачная платформа ИИ, которая предлагает разработчикам простой способ развертывать модели ИИ с использованием нашего простого API.
Qwen3-Next-80B-A3B Instruct стоит $0.15 за 1М входных токенов и $1.5 за 1М выходных токенов, с контекстом в 65 536 токенов.
Qwen3-Next-80B-A3B Thinking также стоит $0.15 за 1М входных токенов и $1.5 за 1М выходных токенов, с тем же контекстом в 65 536 токенов.
Qwen3-235B-A22B Thinking-2507 дороже: $0.3 за 1М входных токенов и $3 за 1М выходных токенов, с контекстом в 131 072 токена.
Qwen3-235B-A22B Instruct-2507 стоит $0.15 за 1М входных токенов и $0.8 за 1М выходных токенов, с контекстом в 131 072 токена.
Шаг 1: Войдите в аккаунт и перейдите в библиотеку моделей
Войдите в свой аккаунт и нажмите кнопку Библиотека моделей.
Шаг 2: Выберите нужную модель
Просмотрите доступные варианты и выберите модель, подходящую для ваших задач.
Шаг 3: Начните бесплатный пробный период
Начните бесплатный пробный период, чтобы изучить возможности выбранной модели.
Шаг 4: Получите ваш API-ключ
Для аутентификации через API мы предоставим вам новый API-ключ. Перейдя на страницу «Настройки», вы можете скопировать API-ключ, как указано на изображении.
Шаг 5: Установите API
Установите API с помощью менеджера пакетов, соответствующего вашему языку программирования.
После установки импортируйте необходимые библиотеки в вашу среду разработки. Инициализируйте API с вашим API-ключом, чтобы начать взаимодействие с Novita AI LLM. Это пример использования API завершений чата для пользователей Python.
#Chat API
from openai import OpenAI
client = OpenAI(
api_key="<Your API Key>",
base_url="https://api.novita.ai/openai"
)
response = client.chat.completions.create(
model="qwen/qwen3-next-80b-a3b-instruct",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Hello, how are you?"}
],
max_tokens=65536,
temperature=0.7
)
print(response.choices[0].message.content)
#Completion API
from openai import OpenAI
client = OpenAI(
api_key="<Your API Key>",
base_url="https://api.novita.ai/openai"
)
response = client.completions.create(
model="qwen/qwen3-next-80b-a3b-instruct",
prompt="The following is a conversation with an AI assistant.",
max_tokens=65536,
temperature=0.7
)
print(response.choices[0].text)
3. Интеграция
Использование CLI, таких как Trae,Claude Code, Qwen Code
Если вы хотите использовать топовые модели Novita AI (такие как Qwen3-Coder, Kimi K2, DeepSeek R1) для помощи в программировании с ИИ в вашей локальной среде или IDE, процесс прост: получите ваш API-ключ, установите инструмент, настройте переменные окружения и начните кодировать.
Подробные команды для настройки и примеры смотрите в официальных руководствах:
- Trae: Пошаговое руководство по доступу к моделям ИИ в вашем IDE
- Claude Code: Как использовать Kimi-K2 в Claude Code на Windows, Mac и Linux
- Qwen Code: Как использовать совместимый с OpenAI API в Qwen Code (настройка за 60 секунд!)
Мультиагентные рабочие процессы с OpenAI Agents SDK
Создавайте продвинутые мультиагентные системы, интегрируя Novita AI с SDK OpenAI Agents:
- Plug-and-play: Используйте LLM Novita AI в любом рабочем процессе OpenAI Agents.
- Поддерживает передачу задач, маршрутизацию и использование инструментов: Проектируйте агентов, которые могут делегировать задачи, сортировать их или запускать функции, все на основе моделей Novita AI.
- Интеграция с Python: Просто установите конечную точку SDK на
https://api.novita.ai/v3/openaiи используйте ваш API-ключ.
Подключение API на сторонних платформах
Совместимый с OpenAI API: Наслаждайтесь простой миграцией и интеграцией с такими инструментами, как Cline и Cursor, разработанными для стандарта API OpenAI.
Hugging Face: Используйте Модели в Spaces, конвейерах или с библиотекой Transformers через конечные точки Novita AI.
Фреймворки для агентов и оркестрации: Легко подключайте Novita AI к партнерским платформам, таким как Continue, AnythingLLM,LangChain, Dify и Langflow через официальные коннекторы и пошаговые руководства по интеграции.
Qwen3-Next-80B-A3B доказывает, что архитектура не менее важна, чем чистый размер. Благодаря инновациям, таким как гибридное внимание и разреженный MoE, он обеспечивает производительность, которая соперничает с его 235B-аналогом на многих бенчмарках, при этом предлагая более быстрый вывод, меньшую задержку и лучшую эффективность. Для организаций, балансирующих между стоимостью, скоростью и качеством, 80B является сильной альтернативой, которая показывает, что меньшие модели, при грамотной разработке, могут удерживать позиции против гигантов.
Часто задаваемые вопросы
Как 80B может конкурировать с 235B на сложных бенчмарках?
Модель 80B использует гибридное внимание и разреженный MoE для снижения стоимости вычислений при сохранении емкости модели, что позволяет ей соответствовать или превосходить 235B на таких задачах, как AIME25, LiveBench и LiveCodeBench.
Какая модель лучше подходит для длинных документов или истории чата?
235B поддерживает нативный контекст в 262K–1M токенов, но 80B также эффективно обрабатывает до 256K токенов. Для большинства реальных приложений 80B предлагает достаточную емкость с более высокой скоростью и низкой стоимостью.
Является ли 80B лучше выровненной с предпочтениями людей?
Да, на Arena-Hard v2 Qwen3-Next-80B-A3B Instruct фактически превосходит 235B, демонстрируя более сильное выравнивание, несмотря на меньший масштаб.
Novita AI — это облачная платформа ИИ, которая предлагает разработчикам простой способ развертывать модели ИИ с использованием нашего простого API, а также предоставляет доступное и надежное облако GPU для построения и масштабирования решений.
