Порекомендуйте друзьям Novita AI, и вы оба получите $10 кредитов на LLM API — до $500 суммарных вознаграждений.
В поддержку сообщества разработчиков Qwen2.5-7B, Qwen 3 0.6B, Qwen 3 1.7B, Qwen 3 4B сейчас доступны бесплатно на Novita AI.
Qwen3 — семейство моделей ИИ, разработанное для разработчиков, ищущих передовые возможности в рассуждении, многоязычной поддержке и легкой эффективности. Благодаря бесплатному доступу на платформе Novita AI и простой интеграции через API, Qwen3 позволяет создавать динамические приложения — от помощи в кодировании до решения сложных задач.
Основные возможности Qwen 3
Гибридные режимы мышления
Модели Qwen3 представляют гибридный подход к решению задач с двумя режимами:
- Режим мышления: Для сложных задач модель рассуждает пошагово, давая продуманные ответы.
- Режим без мышления: Для простых задач модель предоставляет быстрые, почти мгновенные ответы.
Такая гибкость позволяет пользователям контролировать усилия модели по рассуждению в зависимости от требований задачи. Сложные задачи получают выгоду от расширенного рассуждения, а простые решаются быстро.
Объединяя эти режимы, Qwen3 достигает стабильного и эффективного контроля бюджета мышления, предлагая масштабируемое улучшение производительности, связанное с выделенным вычислительным бюджетом на рассуждение. Такая конструкция упрощает составление бюджета под конкретную задачу, балансируя экономическую эффективность и качество вывода.
Многоязычная поддержка
Модели Qwen3 поддерживают 119 языков и диалектов, открывая новые возможности для глобальных приложений. Оптимизированные для кодирования, агентских способностей и MCP, Qwen3 позволяют пользователям по всему миру эффективно использовать их возможности.
Улучшенные агентские возможности
Qwen3 оптимизирован для кодирования и агентских способностей с улучшенной поддержкой MCP. Ниже приведены примеры, демонстрирующие, как Qwen3 мыслит и взаимодействует со своим окружением.
Малые модели Qwen 3
Tie Embedding — это техника, обычно используемая в моделях обработки естественного языка (NLP) для совместного использования весов между разными слоями эмбеддингов. В частности, это означает привязку (или совместное использование) весов входного слоя эмбеддингов и выходного слоя эмбеддингов в нейронной сети, особенно в языковых моделях, таких как трансформеры.
Методы обучения малых моделей Qwen 3
Из диаграммы следует, что Qwen 3 0.6B,1.7B,4B были обучены с помощью процесса дистилляции от сильной к слабой модели, который является частью конвейера создания легковесных моделей. Вот пошаговое описание процесса обучения:
- Базовые модели:
Процесс начинается с предварительно обученных базовых моделей, которые служат основой для последующего обучения и дистилляции. - Передовые модели:
- Базовые модели сначала обучаются в многоэтапном процессе для создания передовых моделей, таких как Qwen3-235B-A22B и Qwen3-32B.
- Это обучение включает:
- Этап 1 (Long-CoT Cold Start): Начальное обучение с длинными цепочками рассуждений (CoT).
- Этап 2 (Reasoning RL): Обучение с подкреплением (RL) для улучшения способности к рассуждению.
- Этап 3 (Thinking Mode Fusion): Интеграция режимов мышления (например, режима рассуждения и быстрого ответа).
- Этап 4 (General RL): Общее обучение с подкреплением для расширения возможностей.
- Дистилляция от сильной к слабой модели:
- Большие передовые модели (например, Qwen3-235B и Qwen3-32B) затем используются как модели-учителя для обучения легковесных моделей, таких как Qwen3-4B.
- Этот процесс дистилляции гарантирует, что более мелкие модели сохраняют знания и производительность больших моделей при значительном уменьшении размера и вычислительных требований.
- Qwen3-4B:
- В результате этого процесса дистилляции Qwen 3 0.6B,1.7B,4B являются легковесной версией, получающей выгоду от знаний больших моделей, будучи при этом оптимизированными для эффективности.
Как получить доступ к малым моделям Qwen 3 через API Novita?
Шаг 1: Войдите в систему и откройте библиотеку моделей
Войдите в свою учетную запись и нажмите кнопку Model Library.
Шаг 2: Выберите модель
Просмотрите доступные варианты и выберите модель, подходящую для ваших задач.
Шаг 3: Начните бесплатный пробный период
Начните бесплатный пробный период, чтобы изучить возможности выбранной модели.
Шаг 4: Получите API-ключ
Для аутентификации в API мы предоставим вам новый API-ключ. Перейдя на страницу «Settings», вы можете скопировать API-ключ, как показано на изображении.
Шаг 5: Установите API
Установите API с помощью менеджера пакетов, соответствующего вашему языку программирования.
После установки импортируйте необходимые библиотеки в среду разработки. Инициализируйте API своим API-ключом, чтобы начать взаимодействие с Novita AI LLM. Это пример использования API чат-завершений для пользователей Python.
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="<YOUR Novita AI API Key>",
)
model = "qwen3-0.6b-fp8"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
Qwen3 предлагает непревзойденную универсальность с гибридными режимами мышления, многоязычной поддержкой и легковесной эффективностью. Решаете ли вы сложные проблемы или создаете глобальные приложения, Qwen3 позволяет вам достичь большего. Начните свой путь сегодня с бесплатным доступом Novita AI и исследуйте будущее разработки на базе ИИ.
Часто задаваемые вопросы
Каковы уникальные особенности Qwen3?
Гибридные режимы мышления, многоязычная поддержка, легковесная эффективность (модели 0.6B, 1.7B, 4B) и улучшенные возможности кодирования.
Как получить доступ к моделям Qwen3?
Войдите в Novita AI, выберите модель, получите API-ключ и интегрируйте её в свой проект с помощью предоставленной документации.
Модели Qwen3 бесплатны?
Да! Novita AI предлагает бесплатный доступ к моделям Qwen3 с простой интеграцией через API.
Novita AI — это облачная платформа ИИ, которая предлагает разработчикам простой способ развертывания моделей ИИ с помощью нашего простого API, а также предоставляет доступный и надежный облачный GPU для создания и масштабирования.*
