Как получить доступ к Gemma-3-12B-IT тремя способами?

Gemma-3-12B-IT относится к семейству открытых моделей Gemma от Google и обеспечивает высокую производительность в мультимодальных задачах, оставаясь при этом легкой и эффективной. Построенная на том же передовом фундаменте, что и Gemini, она с легкостью справляется с такими задачами, как генерация текста, суммаризация, рассуждения и распознавание изображений, предлагая мощный и в то же время доступный инструмент для разработчиков и исследователей.

В этом руководстве мы сначала кратко рассмотрим особенности Gemma-3-12B-IT, а затем разберем различные способы получения к ней доступа: через веб-интерфейсы, интеграцию с API и локальное развертывание.

Начните бесплатный пробный период использования Gemma 3 12B IT

Что такое Gemma-3-12B-IT?

Основная информация

Характеристика	Детали
Размер модели	12 млрд параметров
Архитектура	Плотная (Dense)
Открытый исходный код	Да
Контекстное окно	128K токенов
Мультиязычная поддержка	Отлично работает с английским, поддерживает 140 языков
Мультимодальность	Текст и изображения (нормализуются до разрешения 896 x 896)
Лицензия	Gemma

Бенчмарк	Производительность
GPQA Diamond	35%
MMLU-Pro	60%
IFBench	37%
SciCode	17%
LiveCodeBench	14%
AIME 2025	18%
Humanity’s Last Exam	4.8%
AA-LCR	7%

Обработка расширенного контекста

С контекстным окном в 128 000 токенов Gemma-3-12B-IT выходит за рамки простого технического обновления, переопределяя то, как организации обрабатывают объемные документы и сложные аналитические рабочие процессы. Ее продвинутая архитектура устраняет проблемы фрагментации, характерные для обычных моделей, что позволяет бесшовно воспринимать большие объемы текста без потери связности и контекста.

Это расширенная возможность открывает новые горизонты для интеллектуальной обработки документов: системы ИИ могут сохранять понимание содержимого на протяжении всей научной работы, контракта или технического руководства, а также интерпретировать визуальные компоненты, такие как графики, диаграммы и иллюстрации.

Продвинутая мультимодальная интеграция

Построенная на основе визуально-языкового фреймворка, Gemma-3-12B-IT выходит далеко за рамки стандартного распознавания изображений, достигая аналитического рассуждения, близкого к человеческому. Связывая текстовую и визуальную информацию, она может интерпретировать отношения между двумя модальностями и извлекать более глубокие инсайты, которые были бы недоступны при анализе только текста или только изображений.

Ключевые особенности

• Анализ документов: Извлекайте полезные инсайты из отчетов, содержащих графики, диаграммы и визуальные материалы.
• Визуальное восприятие: Отвечайте на сложные вопросы по изображениям с использованием четкого и логичного рассуждения.
• Генерация контента: Создавайте четкие описания, подписи и пояснения, которые естественным образом связывают визуальные материалы и текст.
• Поддержка обучения: Предлагайте подробные, простые для понимания пояснения, сочетающие текст с полезными визуальными примерами.

Архитектура с тонкой настройкой под инструкции

Отточенная архитектура тонкой настройки под инструкции в Gemma-3-12B-IT упрощает процесс развертывания ИИ, сводя к минимуму необходимость в сложном инжиниринге промптов или продвинутой технической настройке. Модель естественным образом интерпретирует команды на естественном языке и сохраняет контекст в ходе длинных многоходовых диалогов, что обеспечивает более плавное и интуитивно понятное взаимодействие с ней.

Как получить доступ к Gemma-3-12B-IT: Веб-интерфейс (для начинающих)

Попробуйте Gemma 3 12B IT бесплатно прямо сейчас

Как получить доступ к Gemma-3-12B-IT: Использование API (для разработчиков)

Novita AI предоставляет API для Gemma-3-12B-IT с контекстным окном 131K и стоимостью $0.05 за входной токен и $0.1 за выходной токен, что позволяет разработчикам бесшовно использовать легкую мультимодальную модель Google для решения задач продвинутого рассуждения, суммаризации и генерации контента через единое API.

Novita AI

Шаг 1: Войдите в аккаунт и перейдите в библиотеку моделей

Войдите в свой аккаунт и нажмите кнопку Библиотека моделей.

Попробуйте демо-версию Gemma 3 12B IT прямо сейчас!

Шаг 2: Начните бесплатный пробный период

Выберите модель и начните бесплатный пробный период, чтобы изучить возможности выбранной модели.

Шаг 3: Получите ваш API-ключ

Для аутентификации через API мы предоставим вам новый API-ключ. Перейдя на страницу «Настройки», вы можете скопировать API-ключ, как показано на изображении.

Шаг 4: Установите API

Установите API с помощью менеджера пакетов, соответствующего вашему языку программирования.

После установки импортируйте необходимые библиотеки в вашу среду разработки. Инициализируйте API с помощью вашего API-ключа, чтобы начать взаимодействие с LLM Novita AI. Ниже приведен пример использования API завершения чата для пользователей Python.

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/openai",
    api_key="session_Um3Ozta39g2J__yeP9b_rOegzeA_qSYYquKzJS2oitKENIo8_H2FL2sCtl25-sKWjCY_wsmN18iuDp1zv_Xkaw==",
)

model = "google/gemma-3-12b-it"
stream = True # or False
max_tokens = 4096
system_content = "Be a helpful assistant"
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)

Вариант 2: Многоагентные рабочие процессы с OpenAI Agents SDK

Создавайте сложные многоагентные системы, используя возможности двухрежимной работы Gemma-3-12B-IT:

• Интеграция «подключи и работай»: Используйте DeepSeek V3.1 в любом рабочем процессе OpenAI Agents
• Расширенные возможности агентов: Поддержка передачи задач, маршрутизации и интеграции с инструментами
• Масштабируемая архитектура: Проектируйте агентов, которые используют возможности DeepSeek V3.1

Как получить доступ к Gemma-3-12B-IT: Локальное развертывание (для продвинутых пользователей)

Требования к оборудованию для Gemma3-12B-IT

Квантизация	Только веса (приблизительно)	С KV-кэшем (приблизительно)	Минимальная конфигурация	Рекомендуемая GPU
BF16	24,0 ГБ	38,9 ГБ	Nvidia L40S ×1	Nvidia H100 ×1
SFP8	12,4 ГБ	27,3 ГБ	Nvidia L40S ×1	Nvidia A100 ×1
INT4	6,6 ГБ	21,5 ГБ	Nvidia L4 ×1	Nvidia L40S ×1

Для пользователей, которым нужен больший контроль и гибкость, Novita AI предоставляет облачные GPU-инстансы по запросу, включая L40S, A100, H100, а также другие производительные варианты, такие как RTX 4090, RTX 5090 и RTX 6000 Ada, что позволяет развертывать высокопроизводительные рабочие нагрузки без усилий, не полагаясь на локальное оборудование.

Развернуть на Novita AI

Лучшие практики использования Gemma-3-12B-IT

• Выберите подходящий способ доступа: Начинающие могут начать с веб-интерфейса для быстрых пробных запусков, разработчикам стоит использовать API Novita AI для интеграции в приложения и рабочие процессы. Продвинутые пользователи могут предпочесть локальное развертывание для полного контроля и использования в офлайн-режиме.
• Учитывайте требования к ресурсам: При локальном развертывании убедитесь, что ваша GPU соответствует минимальной конфигурации — квантованные модели, такие как INT4 или SFP8, идеально подходят для баланса производительности и эффективности использования памяти.
• Оптимизируйте под контекст и пропускную способность: Gemma-3-12B-IT поддерживает до 128K токенов. Для более длинных входных данных разбивайте контент на структурированные сегменты или используйте суммаризацию для получения связных результатов.
• Используйте мультимодальные преимущества: Сочетайте текст и изображения в промптах, чтобы исследовать возможности аналитического рассуждения и описательной генерации модели.
• Экспериментируйте и итерируйте: Настраивайте параметры, такие как temperature, top_p и max_tokens, чтобы тонко подогнать креативность, фактическую точность и длину ответа под вашу задачу.

Часто задаваемые вопросы

Что такое Gemma-3-12B-IT?

Gemma-3-12B-IT — это мультимодальная модель с тонкой настройкой под инструкции из серии Gemma от Google, способная обрабатывать как текстовые, так и изображения на входе, чтобы генерировать естественные текстовые выходные данные с учетом контекста.

Чем Gemma-3-12B-IT отличается от других моделей серии Gemma?

Она предлагает сбалансированное сочетание производительности и эффективности, имея 12 миллиардов параметров, оптимизированных для задач рассуждения, суммаризации и визуального восприятия.

С чего начать работу с Gemma-3-12B-IT?

Вы можете получить к ней доступ через официальный веб-интерфейс, API Novita AI или GPU-инстансы, а также с помощью локального развертывания через Hugging Face. Novita AI предлагает доступные цены и стабильную высокую производительность.

Novita AI — ведущая облачная ИИ-платформа, которая предоставляет разработчикам простые в использовании API и доступную надежную GPU-инфраструктуру для создания и масштабирования ИИ-приложений.