Qwen 3 теперь доступен на Novita AI

Содержание

Что такое Qwen 3?
Бенчмарки и производительность
Как получить доступ к Qwen 3 на Novita AI
Лучшие практики для оптимальной производительности Qwen 3
Заключение

Передовые большие языковые модели Qwen 3 от Alibaba теперь доступны на платформе Model API от Novita AI!

Вот текущий состав Qwen 3 и цены на Novita AI:

Qwen3-235B-A22B: $0.20 / M входных токенов, $0.80 / M выходных токенов
Qwen3-30B-A3B: $0.10 / M входных токенов, $0.45 / M выходных токенов
Qwen3-32B: $0.10 / M входных токенов, $0.45 / M выходных токенов
Qwen3-14B: $0.07 / M входных токенов, $0.275 / M выходных токенов
Qwen3-8B: $0.035 / M входных токенов, $0.138 / M выходных токенов
Qwen3-4B: бесплатно
Qwen3-1.7B: бесплатно

Управляйте своими чат-ботами, приложениями и рабочими процессами с помощью самых современных языковых моделей — Qwen 3 всего в одном API-запросе.

Что такое Qwen 3?

Qwen 3 — это новейшее и самое совершенное семейство больших языковых моделей, разработанное командой Qwen из Alibaba Cloud. Опираясь на опыт QwQ и Qwen2.5, Qwen 3 устанавливает новый стандарт для открытого ИИ с значительными улучшениями в рассуждениях, многоязычности и агентных способностях.

Ключевые особенности Qwen 3

Плотные (Dense) и смешанные (Mixture-of-Experts, MoE) модели различных размеров: Qwen 3 доступен как в плотной, так и в архитектуре MoE — от легковесных моделей 0.6B и 1.7B до крупных 32B (плотная) и флагманских 30B-A3B и 235B-A22B (MoE).
Гибридные режимы мышления: Модель позволяет бесшовно переключаться между режимом мышления (для сложных пошаговых логических рассуждений, математики и генерации кода) и режимом без мышления (для быстрого, эффективного общего общения).
Значительно улучшенные рассуждения: Qwen 3 превосходит предыдущие модели Qwen в математике, генерации кода и логических рассуждениях. Также предлагает более стабильные и управляемые вычислительные бюджеты для разных задач.
Превосходное согласование с предпочтениями человека: Модель отлично справляется с творческим письмом, ролевыми играми, многоходовыми диалогами и следованием инструкциям, обеспечивая более естественное и увлекательное общение.
Расширенные агентные возможности: Qwen 3 спроектирован для агентных рабочих процессов, поддерживая бесшовную интеграцию с внешними инструментами и точный вызов функций в обоих режимах мышления. Это обеспечивает передовую производительность в сложных задачах, управляемых агентами.
Надежная многоязычная поддержка: Поддерживая 119 языков и диалектов, Qwen 3 способен на качественное следование инструкциям и перевод на многих языках, открывая путь для truly глобальных приложений.

Бенчмарки и производительность

Серия Qwen 3 демонстрирует лидирующую производительность в широком наборе бенчмарков ИИ, превосходя конкурентов в программировании, математике, общих рассуждениях и многоязычном понимании.

Флагманская модель: Qwen3-235B-A22B

Флагманская модель Qwen3-235B-A22B стабильно достигает лучших или близких к лучшим результатов при сравнении с самыми передовыми современными моделями, такими как DeepSeek-R1, OpenAI-01, OpenAI-o3-mini, Grok-3 Beta и Gemini-2.5-Pro.

Источник: Qwen

Сложные рассуждения: Самые высокие баллы в ArenaHard (95.6), опережая или сравниваясь со всеми конкурентами.
Математика: Лидирующие результаты в AIME’24 (85.7) и AIME’25 (81.5), значительно опережая большинство коммерческих моделей и моделей с открытым исходным кодом.
Программирование: Исключительная производительность в LiveCodeBench (70.7) и CodeForces Elo (2056), подтверждающая силу в программных и алгоритмических задачах.
Многоязычные и общие возможности: Qwen3-235B-A22B достигает сильных результатов в LiveBench и MultiF, демонстрируя надежное понимание в реальных задачах и многоязычных контекстах.

Другие малые модели

Архитектурные инновации Qwen 3 также обеспечивают выдающуюся производительность на меньших размерах моделей:

Источник: Qwen

Qwen3-32B (плотная): Показывает результаты, немного уступающие флагману, но всё же превосходит большинство альтернативных моделей во всех категориях.
Qwen3-30B-A3B (MoE): Превосходит QwQ-32B, несмотря на использование лишь десятой части активированных параметров — демонстрируя эффективность и умное масштабирование Qwen.
Qwen3-4B (плотная): Даже эта компактная модель может соперничать с производительностью гораздо более крупных моделей, таких как Qwen2.5-72B-Instruct, особенно в задачах на рассуждение и многоязычность.

Как получить доступ к Qwen 3 на Novita AI

Начать работу с Qwen 3 на Novita AI быстро, просто и без риска. Благодаря реферальной программе вы получите $10 бесплатных кредитов — этого достаточно, чтобы в полной мере изучить возможности Qwen 3, создать прототипы и даже запустить первый сценарий использования без каких-либо первоначальных затрат.

Используйте Playground (без программирования)

Мгновенный доступ: Зарегистрируйтесь, получите бесплатные кредиты и начните экспериментировать с Qwen 3 и другими популярными моделями за секунды.
Интерактивный интерфейс: Тестируйте промпты, цепочки рассуждений и визуализируйте результаты в реальном времени.
Сравнение моделей: Легко переключайтесь между Qwen 3, Llama 4, DeepSeek и другими, чтобы найти идеальное решение для ваших задач.

Интеграция через API (для разработчиков)

Бесшовно подключайте Qwen 3 к вашим приложениям, рабочим процессам или чат-ботам с помощью единого REST API от Novita AI — не нужно управлять весами моделей или инфраструктурой. Novita AI предлагает многоязычные SDK (Python, Node.js, cURL и другие) и расширенные контроли параметров для опытных пользователей.

Вариант 1: Прямая интеграция через API (пример на Python)

Для начала просто используйте фрагмент кода ниже:

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<YOUR Novita AI API Key>",
)

model = "qwen/qwen3-235b-a22b-fp8"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)

Ключевые особенности:

Единая конечная точка: /v3/openai поддерживает формат Chat Completions API от OpenAI.
Гибкие настройки: Регулируйте temperature, top-p, штрафы и другие параметры для получения индивидуальных результатов.
Потоковая передача и пакетная обработка: Выберите предпочтительный режим ответа.

Вариант 2: Многоагентные рабочие процессы с OpenAI Agents SDK

Создавайте продвинутые многоагентные системы, интегрируя Novita AI с OpenAI Agents SDK:

Подключение по принципу “plug-and-play”: Используйте LLM от Novita AI в любых рабочих процессах OpenAI Agents.
Поддержка передачи, маршрутизации и использования инструментов: Проектируйте агентов, которые могут делегировать, сортировать или выполнять функции — и всё это на базе моделей Novita AI.
Интеграция с Python: Просто укажите SDK конечную точку Novita (https://api.novita.ai/v3/openai) и используйте ваш API-ключ.

Подключение API Qwen 3 на сторонних платформах

Hugging Face: Используйте Qwen 3 в Spaces, пайплайнах или с библиотекой Transformers через конечные точки Novita AI.
Фреймворки агентов и оркестрации: Легко подключайте Novita AI к партнёрским платформам, таким как Continue, AnythingLLM, LangChain, Dify и Langflow, используя официальные коннекторы и пошаговые руководства по интеграции.
API, совместимый с OpenAI: Наслаждайтесь простой миграцией и интеграцией с такими инструментами, как Cline и Cursor, разработанными для стандарта API OpenAI.

Лучшие практики для оптимальной производительности Qwen 3

Настройки параметров сэмплирования

Режим мышления
enable_thinking=True
Temperature: 0.6
TopP: 0.95
TopK: 20
MinP: 0
Совет: Избегайте жадного декодирования, чтобы предотвратить ухудшение производительности или повторяющиеся ответы.

Режим без мышления
enable_thinking=False
Temperature: 0.7
TopP: 0.8
TopK: 20
MinP: 0

Контроль повторений
Для поддерживаемых фреймворков настройте presence_penalty в диапазоне от 0 до 2, чтобы уменьшить повторения.
Примечание: Более высокие значения могут вызывать некоторое смешение языков или незначительное снижение производительности модели.

Рекомендации по длине вывода

Для большинства запросов установите длину вывода в 32 768 токенов.
Для сложных задач бенчмаркинга (например, математические или программные соревнования) увеличьте максимальную длину вывода до 38 912 токенов для более полных ответов.

Стандартизация формата вывода

Математические задачи: Включите в промпт следующее: “Пожалуйста, рассуждайте шаг за шагом и поместите окончательный ответ в \boxed{}.”
Вопросы с множественным выбором: Стандартизируйте ответы с помощью JSON-поля: “Пожалуйста, укажите ваш выбор в поле answer, используя только букву варианта, например, "answer": "C".”

Управление историей разговора

В многоходовых диалогах включайте в историю чата только итоговый вывод. Исключайте промежуточное содержимое “размышлений”.
При использовании шаблона чата Jinja2 это обрабатывается автоматически. Для других фреймворков убедитесь, что эта практика соблюдается вручную.

Следуя этим рекомендациям, вы обеспечите стабильно точные и качественные результаты Qwen 3 во всех сценариях использования.

Заключение

Qwen 3 обеспечивает лучшую в своём классе производительность для программирования, рассуждений и многоязычных задач — независимо от масштаба проекта. Готовы увидеть это в действии?

Попробуйте демо Qwen 3 на Novita AI прямо сейчас и получите бесплатные кредиты!

Novita AI — это облачная платформа ИИ, которая предоставляет разработчикам простой способ развертывания моделей ИИ с помощью нашего простого API, а также предлагает доступные и надежные GPU-облака для построения и масштабирования.

Qwen 3 теперь доступен на Novita AI