Разнообразие Qwen3 не случайно: оно позволяет разработчикам выбирать оптимальный компромисс между точностью, стоимостью, памятью и оборудованием, сохраняя при этом единую ключевую способность — гибридное рассуждение. Это руководство поможет вам понять различия и найти, какая модель Qwen3 лучше всего подходит для ваших конкретных задач — будь то создание чат-бота, ассистента по коду или ИИ-агента для исследований.
Почему в серии Qwen 3 так много моделей?
Источник: Qwen
Qwen3 235B A22B/Qwen3 32B
- Базовые модели
Это отправная точка обучения, представляющая исходные базовые модели. - Этап 1: Холодный старт с длинной цепочкой рассуждений (Long-CoT)
Длинная цепочка рассуждений (Long-CoT) используется в качестве фазы холодного старта, чтобы помочь модели приобрести начальные способности для сложных задач рассуждения. - Этап 2: Обучение с подкреплением для рассуждений (Reasoning RL)
С помощью обучения с подкреплением для рассуждений (Reasoning RL) способность модели к рассуждению для задач дополнительно усиливается. - Этап 3: Слияние режимов мышления
Различные режимы мышления (например, логическое рассуждение, интуитивное суждение) объединяются для повышения универсальности и гибкости модели. - Этап 4: Общее обучение с подкреплением (General RL)
Применяется общее обучение с подкреплением (General RL), чтобы модель могла адаптироваться к более широкому кругу задач.
Qwen3 30B A3B;Qwen3 14B/8B/4B/1.7B/0.6B
- Базовые модели
Аналогично, это также начинается с базовых моделей. - Дистилляция от сильной модели к слабой (Strong-to-Weak Distillation)
Дистилляция от сильной модели к слабой передаёт знания от передовых моделей к лёгким, гарантируя, что эти модели сохраняют эффективность, сохраняя при этом мощные способности к рассуждению.
Основное введение в модели Qwen 3
MoE-модели Qwen 3
| Характеристика | Qwen3 235B A22B | Qwen3 30B A3B |
|---|---|---|
| Размер модели | 235B/22B (активируемые) | 30,5B/3,3B (активируемые) |
| Архитектура | 94 слоя, 64 головы внимания для запросов и 4 для ключей-значений | 48 слоёв, 32 головы внимания для запросов и 4 для ключей-значений |
| Возможности | Поддержка вызова функций | Поддержка вызова функций |
| Контекст | 32 768 токенов | 32 768 токенов |
| Поддержка языков | 119 языков и диалектов | 119 языков и диалектов |
| Мультимодальные возможности | Текст в текст | Текст в текст |
Плотные модели Qwen 3
| Модель | Размер модели | Слои | Головы внимания (Q / KV) | Длина контекста | Многоязычная поддержка |
|---|---|---|---|---|---|
| Qwen3 32B | 32,8B | 64 | 64 / 8 | 32K / до 128K | 119 языков и диалектов |
| Qwen3 14B | 14,8B | 40 | 40 / 8 | 32K / до 128K | 119 языков и диалектов |
| Qwen3 8B | 8,2B | 36 | 32 / 8 | 32K / до 128K | 119 языков и диалектов |
| Qwen3 4B | 4,0B | 36 | 32 / 8 | 32K | 119 языков и диалектов |
| Qwen3 1.7B | 1,7B | 28 | 16 / 8 | 32K | 119 языков и диалектов |
| Qwen3 0.6B | 0,6B | 28 | 16 / 8 | 32K | 119 языков и диалектов |
Важно то, что все модели серии Qwen3 — включая Qwen3 0.6B, 1.7B, 4B, 8B, 14B, 32B, а также MoE-варианты Qwen3 30B A3B и Qwen3 235B A22B — поддерживают «Гибридный режим рассуждения».
- Режим размышления (Thinking Mode): предназначен для сложных задач, требующих глубокого анализа. Модель рассуждает пошагово и выдаёт тщательно продуманные ответы.
- Режим без размышления (Non-Thinking Mode): подходит для простых задач. Модель даёт быстрые, почти мгновенные ответы.
Кроме того, модели Qwen3 вводят механизм «бюджета на размышление» (thinking budget), позволяющий пользователям устанавливать максимальное количество токенов во время рассуждения. Это помогает контролировать глубину размышлений и управлять потреблением вычислительных ресурсов.
Источник: Qwen
Бенчмарки Qwen 3
Бенчмарки рассуждений Qwen 3
| Тест | Qwen3 235B | Qwen3 32B | Qwen3 30B | Qwen3 14B | Qwen3 8B | Qwen3 7B | Qwen3 4B | Qwen3 0.6B |
|---|---|---|---|---|---|---|---|---|
| MMLU-Pro | 83% | 80% | 78% | 77% | 74% | 57% | 35% | - |
| GPQA Diamond | 70% | 67% | 62% | 60% | 59% | 36% | 24% | - |
| Humanity’s Last Exam | 11.7% | 8.3% | 6.6% | 5.7% | 5.1% | 4.3% | 4.2% | - |
| LiveCodeBench | 62% | 55% | 52% | 51% | 47% | 41% | 31% | 12% |
| SciCode | 40% | 35% | 32% | 28% | 23% | 4% | 4% | 3% |
| MATH-500 | 96% | 96% | 96% | 93% | 93% | 90% | 89% | 75% |
| AIME 2024 | 84% | 81% | 76% | 75% | 75% | 66% | 51% | 10% |
Бенчмарки Qwen 3 без рассуждений
| Тест | Qwen3 235B | Qwen3 32B | Qwen3 30B | Qwen3 14B | Qwen3 8B | Qwen3 7B | Qwen3 4B | Qwen3 0.6B |
|---|---|---|---|---|---|---|---|---|
| MMLU-Pro | 76% | 73% | 71% | 68% | 64% | 41% | 23% | - |
| GPQA Diamond | 61% | 54% | 52% | 47% | 45% | 40% | 28% | 23% |
| Humanity’s Last Exam | 5.2% | 5.2% | 4.7% | 4.6% | 4.3% | 3.7% | 2.8% | - |
| LiveCodeBench | 34% | 32% | 29% | 28% | 23% | 20% | 13% | 7% |
| SciCode | 30% | 28% | 27% | 26% | 17% | 17% | 7% | 4% |
| MATH-500 | 90% | 87% | 87% | 86% | 84% | 83% | 72% | 52% |
| AIME 2024 | 33% | 30% | 28% | 26% | 24% | 21% | 10% | 2% |
Humanity’s Last Exam проверяет экстремальные рассуждения и знания. Все модели показывают низкие результаты.
- Для задач с высокой ответственностью, требующих максимальной производительности (например, научные исследования, продвинутое программирование), Qwen3 235B — лучший выбор.
- Для экономически эффективных решений с ограниченными вычислительными ресурсами Qwen3 30B или Qwen3 32B предлагают хороший баланс производительности и эффективности.
- Меньшие модели, такие как Qwen3 0.6B, больше подходят для лёгких приложений, но могут испытывать трудности со сложными задачами.
Требования Qwen 3 к оборудованию
| Название модели | Требуемая память (ГБ) |
| Qwen3 0.6B | 3,01 ГБ |
| Qwen3 1.7B | 5,75 ГБ |
| Qwen3 4B | 10,99 ГБ |
| Qwen3 8B | 19,82 ГБ |
| Qwen3 14B | 33,48 ГБ |
| Qwen3 30B A3B | 74,21 ГБ |
| Qwen3 32B | 73,5 ГБ |
| Qwen3 235B A22B | 553,96 ГБ |
0.6B–4B: Локальные приложения, чат-боты, лёгкое использование на периферии.
8B–14B: Сильные универсальные модели для серверов инференса среднего размера.
32B: Сценарии высокой производительности, требующие творческих результатов и более глубоких рассуждений.
235B: Развёртывание исследовательского или корпоративного уровня, не экономически эффективно для большинства пользователей.
Какая модель Qwen 3 соответствует вашим потребностям?
| Ваша цель | Рекомендуемая(ые) модель(и) | Почему |
|---|---|---|
| Локальные лёгкие задачи / чат-боты | Qwen3-0.6B / Qwen3-1.7B | Быстрый запуск, низкое потребление памяти (<6 ГБ), работает на ноутбуках, идеально для периферийного использования |
| Сбалансированные рассуждения + доступное оборудование | Qwen3-8B / Qwen3-14B | Хорошо справляется с общими задачами, подходит для GPU с 16–24 ГБ, отличная многоязычная поддержка |
| Продвинутые рассуждения и генерация | Qwen3-32B | Лучшая плотная модель для кода, математики и длинных задач без накладных расходов MoE |
| Максимальная производительность для исследований | Qwen3-235B (A22B) | Лучшие результаты в бенчмарках рассуждений, но очень дорога в запуске |
| Эффективный, но производительный вариант MoE | Qwen3-30B (A3B) | Мощный вывод при ~3B активных параметров; лучшее масштабирование на память GPU |
Как получить доступ к моделям Qwen 3 экономически эффективно?
Novita AI — это облачная AI-платформа, которая предоставляет разработчикам простой способ развёртывания AI-моделей через наш простой API, а также предлагает доступное и надёжное GPU-облако для создания и масштабирования.
Помимо Qwen 3 Reranker 8B и Embedding 8B, Novita AI также предоставляет бесплатные Qwen 3 (0.6B, 1.7B, 4B) для поддержки разработки сообщества с открытым исходным кодом!
Шаг 1: Войдите и откройте Библиотеку моделей
Войдите в свою учётную запись и нажмите кнопку Библиотека моделей (Model Library).
Шаг 2: Выберите модель и начните бесплатную пробную версию
Просмотрите доступные варианты и выберите модель, которая подходит вам.
Шаг 3: Получите свой API-ключ
Для аутентификации в API мы предоставим вам новый API-ключ. Перейдя на страницу «Настройки», вы можете скопировать API-ключ, как показано на изображении.
Шаг 4: Установите API
Установите API с помощью менеджера пакетов, соответствующего вашему языку программирования.
После установки импортируйте необходимые библиотеки в вашу среду разработки. Инициализируйте API с вашим API-ключом, чтобы начать взаимодействие с Novita AI LLM. Вот пример использования API завершения чата для пользователей Python.
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="session_nkvtuVXXxS-LlR7txjZ3Rox8GhLMuv1R8IrIySNwTPN7xHJ0SVErFx3kNwJgkUEpcSM4F8c6zmcvyfuc1h59gw==",
)
model = "qwen/qwen3-32b-fp8"
stream = True # or False
max_tokens = 2048
system_content = ""Be a helpful assistant""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
Создаёте ли вы чат-бота на ноутбуке или развёртываете крупномасштабного научного агента — Qwen3 предлагает модель, адаптированную под ваши ресурсы и цели. Меньшие модели (0.6B–4B) легки и быстры; средние (8B–14B) балансируют мощность и эффективность; а более крупные (32B, 235B) лидируют в бенчмарках рассуждений. Для разработчиков, ищущих экономически эффективный доступ, Novita AI предлагает простое развёртывание моделей Qwen3 через API — некоторые из них доступны полностью бесплатно.
Часто задаваемые вопросы
Какая модель Qwen3 лучше всего подходит для локальных приложений?
Qwen3-0.6B или Qwen3-1.7B. Эти модели работают на обычных ПК или Apple Silicon и идеально подходят для лёгких задач и чат-ботов.
Что выбрать для сильных рассуждений без высоких затрат на GPU?
Qwen3-8B или Qwen3-14B. Они обеспечивают отличную способность к рассуждению и работают на GPU с 16–24 ГБ видеопамяти.
Когда стоит использовать Qwen3-32B?
Используйте Qwen3-32B, когда вам нужна продвинутая логика, программирование и генерация длинных текстов — без использования архитектуры MoE.
Novita AI — это AI-облачная платформа, которая предоставляет разработчикам простой способ развёртывания AI-моделей через наш простой API, а также предлагает доступное и надёжное GPU-облако для создания и масштабирования.
