Ключевые моменты
Обучение с подкреплением (RL): Использует двухэтапный процесс RL для улучшения рассуждений методом проб и ошибок, верифицированный с помощью инструментов, таких как интерпретаторы кода и решатели, что гарантирует точные результаты.
Конкурентные бенчмарки: Достигает высоких показателей в задачах на рассуждение и программирование:
AIME24: 79,5 (близко к 79,8 у DeepSeek R1).
IFEval: 83,9 (немного выше, чем у DeepSeek R1).
BFCL: 66,4 (превосходит 60,3 у DeepSeek R1).
Эффективность оборудования: Требует значительно меньше видеопамяти, чем DeepSeek R1; поддерживает квантизацию для работы на менее мощных аппаратных конфигурациях.
Если вы хотите оценить QWQ 32B для своих задач — при регистрации Novita AI предоставляет кредит в $0,5 для начала работы!
QwQ-32B, разработанный командой Qwen из Alibaba, — это модель рассуждений с 32,5 миллиардами параметров, обеспечивающая производительность, сравнимую с гораздо более крупными моделями, такими как DeepSeek-R1, но при значительно меньшем количестве параметров. Её эффективность и мощные способности к рассуждению делают её идеальным выбором для исследователей, разработчиков и организаций, стремящихся к высокой производительности без значительных затрат ресурсов, характерных для традиционных больших языковых моделей (LLM).
Что такое QwQ-32B?
Основное описание
- qwen/qwq-32b
- Открытый исходный код: Доступен под лицензией Apache 2.0, что позволяет сообществу вносить вклад и улучшения.
- Трансформеры: QwQ-32B использует архитектуру трансформера с 64 слоями, 40 головами внимания для запросов и 8 для ключей-значений. Построена на трансформерах с RoPE (Rotary Positional Embeddings), QwQ-32B интегрирует функцию активации SwiGLU, использует RMSNorm для нормализации и включает смещение в вычислениях QKV внимания.
- Параметры: Всего 32,5 миллиарда параметров, из которых 31,0 миллиарда — не встраиваемые.
- Поддержка длинного контекста: Поддерживает до 32 768 токенов.
- Поддерживаемые языки: Охватывает более 29 языков для глобальной доступности и применения.
Методы обучения
Основываясь на Qwen2.5, QwQ-32B специально оптимизирует задачи рассуждения с помощью RL, демонстрируя потенциал инноваций за счёт отказа от зависимости от традиционных методов контролируемой точной настройки (SFT).
Более того, QwQ-32B использует обучение с подкреплением (RL) для улучшения своих способностей к рассуждению, полагаясь на метод проб и ошибок для адаптации своего подхода с использованием инструментов и обратной связи от окружения. Применяя механизм «вознаграждений на основе результатов», модель самостоятельно генерирует результаты, которые затем проверяются на точность, что обеспечивает надёжную производительность в структурированных задачах. Этот отход от SFT подчёркивает её ориентацию на эффективность и адаптивность, знаменуя переход к более прямой оптимизации на основе RL.
Бенчмарки
Из Qwen
QwQ-32B превосходит свои размеры: Он соответствует или превосходит производительность более крупных моделей, таких как DeepSeek-R1-671B, в нескольких бенчмарках, несмотря на меньшее количество параметров. Модель демонстрирует сильные общие способности к рассуждению, программированию и логическому выводу, но не создание творческого контента, что делает её универсальной для различных задач.
Требования к оборудованию
Для эффективной работы QwQ-32B учитывайте следующие требования к оборудованию:
- Видеопамять (VRAM):
- Требуется значительный объём видеопамяти.
- Для 16-битной точности необходимо 80 ГБ видеопамяти.
- Для 8-битной точности достаточно 40 ГБ видеопамяти.
- Для 4-битной точности требуется всего 20 ГБ видеопамяти.
- GPU:
- Совместим с RTX 3090/4090, особенно при использовании квантизации.
- Также подходят высокопроизводительные GPU, такие как NVIDIA A100 и H100.
По сравнению с DeepSeek R1, QwQ-32B значительно снижает требования к оборудованию, делая её более доступной для различных систем, сохраняя при этом высокую производительность.
Применение
- Образование:
- Обеспечивает персонализированное обучение математике и программированию, подходящее для учащихся с разным уровнем подготовки.
- Объясняет сложные концепции простыми словами, что делает её ценным инструментом для студентов и преподавателей.
- Помогает решать домашние задания и генерировать практические упражнения для эффективного обучения.
- Разработка программного обеспечения:
- Поддерживает разработчиков, генерируя качественные фрагменты кода на различных языках программирования.
- Помогает в отладке, выявляя ошибки и предлагая соответствующие исправления.
- Предлагает рекомендации по оптимизации эффективности кода и соблюдению лучших практик.
- Исследования:
- Помогает исследователям в проведении анализа данных, включая статистические вычисления и визуализацию.
- Способствует обзору литературы, обобщая научные статьи и выделяя ключевые выводы.
- Создаёт первоначальные черновики исследовательских документов, экономя время исследователей.
- Решение проблем:
- Помогает разбивать сложные проблемы на более мелкие, управляемые компоненты.
- Предлагает потенциальные решения, включая пошаговые инструкции для многоаспектных задач.
- Обеспечивает логическое обоснование и объяснения для поддержки процессов принятия решений.
Превосходно справляясь с этими областями, QwQ-32B служит универсальным помощником для образовательных, профессиональных и исследовательских задач.
QWQ 32B против Qwen 2.5 72B против DeepSeek R1
| Характеристика | QwQ-32B | Qwen 2.5 72B | DeepSeek-R1 671B |
|---|---|---|---|
| Параметры | 32,5B | 72B | 671B |
| Базовая архитектура | Qwen 2.5 | Собственная архитектура | DeepSeek-R1-Zero |
| Метод обучения | Обучение с подкреплением (без SFT) | Не указано точно | RL + контролируемая точная настройка |
| Окно контекста | 32 768 токенов | 8 000 токенов | 32 768 токенов |
| Поддержка языков | 29+ языков | 29+ языков | В основном китайский и английский |
| Математические способности | 79,5 (AIME 2024) | 83,1 (MATH benchmark) | 97,3 (MATH-500), 79,8 (AIME 2024) |
| Способности к программированию | 63,4 (Live Code Bench) | 59,1 (HumanEval) | 49,2 (SWE-bench Verified), 65,9 (Live Code Bench) |
| Требования к оборудованию | 4-бит: 20 ГБ VRAM/8-бит: 40 ГБ VRAM/16-бит: 80 ГБ VRAM, желательно несколько A100 или H100 | примерно от 41,6 до 77,1 ГБ VRAM | 8x H100 GPU |
| Лицензия с открытым кодом | Apache 2.0 | Не указано точно | MIT License |
| Ключевые преимущества | Эффективность на оборудовании / Сильное рассуждение / Сравнимо с более крупными моделями | Быстрый ответ / Экономичность / Хорошая поддержка многих языков | Исключительное математическое рассуждение / Самопроверка результатов / Чёткий процесс рассуждения |
| Характеристики вывода | Сильные логические рассуждения, более слабый творческий контент | Общие возможности | Чёткая логика, хорошо структурировано |
Как получить доступ к QWQ 32B?
1. Используйте онлайн-платформы для доступа к QWQ 32B (например, Novita AI)
Вы можете найти страницу LLM Playground от Novita AI для бесплатного тестирования! Это тестовая страница, которую мы предоставляем специально для разработчиков! Выберите нужную модель из списка. Здесь вы можете выбрать модель QWQ 32B.
2.Доступ к бесплатным API QWQ 32B (например, Novita AI)
Novita AI — это облачная платформа ИИ, которая предоставляет разработчикам простой способ развёртывания моделей ИИ с помощью нашего простого API, а также предлагает доступное и надёжное GPU-облако для создания и масштабирования.
Шаг 1: Войдите в систему и получите доступ к библиотеке моделей
Войдите в свою учётную запись и нажмите кнопку Model Library.
Шаг 2: Выберите модель
Просмотрите доступные варианты и выберите модель, соответствующую вашим потребностям.
Шаг 3: Начните бесплатный пробный период
Начните бесплатный пробный период, чтобы изучить возможности выбранной модели.
Шаг 4: Получите ключ API
Для аутентификации в API мы предоставим вам новый ключ API. Перейдя на страницу «Settings», вы можете скопировать ключ API, как показано на изображении.
Шаг 5: Установите API
Установите API с помощью менеджера пакетов, подходящего для вашего языка программирования.
После установки импортируйте необходимые библиотеки в вашу среду разработки. Инициализируйте API с помощью вашего ключа API, чтобы начать взаимодействие с Novita AI LLM. Это пример использования API чат-завершений для пользователей Python.
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
# Получите ключ API Novita AI, обратившись к: https://novita.ai/docs/get-started/quickstart.html#_2-manage-api-key.
api_key="<ВАШ КЛЮЧ API Novita AI>",
)
model = "qwen/qwq-32b"
stream = True # или False
max_tokens = 512
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": "Ведите себя как полезный помощник.",
},
{
"role": "user",
"content": "Привет!",
}
],
stream=stream,
max_tokens=max_tokens,
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "")
else:
print(chat_completion_res.choices[0].message.content)
При регистрации Novita AI предоставляет кредит в $0,5 для начала работы!
Если бесплатные кредиты закончатся, вы можете оплатить и продолжить использование.
Заключение
QwQ-32B представляет собой значительный прогресс в моделях рассуждения ИИ, обеспечивая исключительную производительность в математике, программировании и многошаговом решении задач, сохраняя при этом относительно компактный размер. Благодаря доступному открытому исходному коду и эффективной конструкции, она служит мощным инструментом для исследователей, разработчиков и инженеров, стремящихся использовать ИИ для сложных и структурированных задач.
Что делает QwQ-32B уникальной?
QwQ-32B выделяется использованием обучения с подкреплением без контролируемой точной настройки, достигая исключительной производительности в задачах на рассуждение, особенно в математике и программировании.
Каковы требования к оборудованию?
Для оптимальной производительности QwQ-32B требует значительных вычислительных ресурсов. 4-битная квантизированная версия требует примерно 20 ГБ видеопамяти.
В чём разница между QwQ-32B и Qwen2.5?
QwQ-32B основана на Qwen2.5, добавляя оптимизацию обучения с подкреплением специально для задач рассуждения, без использования традиционных подходов контролируемой точной настройки.
Novita AI — это универсальная облачная платформа, которая расширяет ваши AI-амбиции. Интегрированные API, бессерверные решения, GPU-инстансы — экономичные инструменты, которые вам нужны. Устраните инфраструктуру, начните бесплатно и воплотите своё AI-видение в реальность.
