Семейство моделей Google Gemma 4 теперь доступно на Novita AI. Две более крупные модели — 31B и 26B A4B — работают в Model API. Все четыре размера, включая устройства E2B и E4B, могут быть развернуты через GPU Application — продукт Novita AI для развёртывания моделей в один клик: вы выбираете модель, запускаете инстанс и начинаете работу.
В этой статье рассказывается, что такое Gemma 4, чем различаются архитектуры и для чего предназначен каждый размер — чтобы вы могли выбрать правильный путь доступа перед началом работы.
Попробовать Gemma 4 31B сейчас
Попробовать Gemma 4 26B A4B сейчас
Что такое Gemma 4?
Gemma 4 — это четвёртое поколение открытых моделей от Google, построенных на трёх различных архитектурах, оптимизированных под разные цели по памяти и производительности. Линейка охватывает всё: от инференса на устройствах до серверных развёртываний, причём каждая архитектура спроектирована под определённый объём памяти и требования к производительности.
Четыре размера моделей:
| Модель | Архитектура | Параметры | Контекст | Модальности |
|---|---|---|---|---|
| Gemma 4 E2B | Dense (малая) | 2,3B эффективных, 5,1B с эмбеддингами | 128K | Текст, Зрение, Аудио |
| Gemma 4 E4B | Dense (малая) | 4,5B эффективных, 7,9B с эмбеддингами | 128K | Текст, Зрение, Аудио |
| Gemma 4 26B A4B | MoE | 4B активных / 26B всего | 256K | Текст, Зрение |
| Gemma 4 31B | Dense | 31B | 256K | Текст, Зрение |
Все четыре размера включают варианты с инструктивной настройкой (-it) наряду с базовыми предобученными контрольными точками.
Как работают три архитектуры
Плотная архитектура (31B): создана для качества с длинным контекстом
Модель 31B — флагманская плотная архитектура. Она расширяет базовую линию Gemma архитектурными изменениями, повышающими эффективность и качество работы с длинным контекстом.
Архитектура MoE (26B A4B): высокая производительность, фиксированный объём памяти
Модель 26B A4B использует дизайн Mixture of Experts (MoE) с 128 экспертами — большое количество маленьких экспертов — плюс один общий эксперт, который всегда активен. Только 8 экспертов активируются за один прямой проход, что даёт 3,8B активных параметров из 26,8B всего.
Дизайн нацелен на объём памяти, который может работать на высокопроизводительных ноутбуках и серверных архитектурах с применением квантизации. Предоставляются контрольные точки обучения с учётом квантизации (QAT) — Q3-2, Q3-0 и Q4-0, обеспечивающие высококачественный инференс при уменьшенном потреблении памяти.
Малая архитектура (E2B и E4B): на устройстве с реальной пропускной способностью
Модели E2B и E4B специально созданы для инференса на устройствах. Дизайн начинается с плотной базы Gemma 4 и добавляет выбранные новшества из Gemma 3n для увеличения количества токенов в секунду, сокращения времени предварительного заполнения (prefill) и расширения совместимости с различными устройствами, фреймворками и средами выполнения.
Две ключевые особенности унаследованы от Gemma 3n:
- Послойные эмбеддинги (PLE): сохранены из Gemma 3n
- Разделение KV-кэша: уменьшает как время предварительного заполнения, так и размер памяти KV-кэша с минимальным влиянием на качество
Ключевые возможности
Помимо архитектурных различий, все размеры Gemma 4 обладают общим набором встроенных возможностей:
- Рассуждение (Thinking) — встроенный режим рассуждения, позволяющий модели обдумывать ответ пошагово перед выдачей.
- Длинный контекст — 128K токенов для E2B и E4B, 256K токенов для 26B A4B и 31B.
- Понимание изображений — обнаружение объектов, разбор документов и PDF, понимание экранов и UI, понимание диаграмм, OCR, распознавание рукописного ввода, указание.
- Понимание видео — анализ видео путём обработки последовательностей кадров.
- Перемешанный мультимодальный ввод — текст и изображения можно свободно смешивать в одном запросе.
- Вызов функций — нативная поддержка структурированного использования инструментов и агентных рабочих процессов.
- Программирование — генерация, завершение и исправление кода.
- Многоязычность — готовая поддержка 35+ языков, предобучена на 140+ языках.
- Аудио (только E2B и E4B) — автоматическое распознавание речи (ASR) и перевод речи в текст на нескольких языках.
Мультимодальные возможности: зрение и аудио
Зрение: все четыре размера, нативное соотношение сторон
Все четыре размера Gemma 4 поддерживают ввод изображений. Изображения обрабатываются с их нативным соотношением сторон с использованием смешанного разрешения — без кадрирования и без принудительного квадратного изменения размера.
Аудио: только E2B и E4B
Аудиоввод поддерживается только в малых моделях E2B и E4B. Модели 26B A4B и 31B не поддерживают аудио.
Аудиомодель поддерживает:
- Автоматическое распознавание речи (ASR) — преобразует речь в текст на исходном языке.
- Автоматический перевод речи (AST) — преобразует речь на исходном языке и переводит результат на целевой язык.
Рекомендуемые параметры сэмплирования
Стандартная конфигурация сэмплирования Google для случаев использования Gemma 4:
| Параметр | Значение |
|---|---|
| temperature | 1.0 |
| top_p | 0.95 |
| top_k | 64 |
Используйте это как базовую конфигурацию сэмплирования для всех случаев использования Gemma 4.
Сравнение моделей
| Модель | Контекст | Аудио | Доступ |
|---|---|---|---|
| Gemma 4 31B | 256K | Нет | Model API или GPU Application |
| Gemma 4 26B A4B | 256K | Нет | Model API или GPU Application |
| Gemma 4 E4B | 128K | Да | GPU Application |
| Gemma 4 E2B | 128K | Да | GPU Application |
Запуск Gemma 4 на Novita AI
Novita AI предлагает два способа запуска Gemma 4, в зависимости от того, нужен ли вам управляемый API или полный контроль над инстансом.
Model API: 31B и 26B A4B
Gemma 4 31B и Gemma 4 26B A4B доступны в Novita AI Model API — совместим с OpenAI, оплата за токен, без ежемесячных обязательств.
from openai import OpenAI
client = OpenAI(
api_key="<Ваш API-ключ>",
base_url="https://api.novita.ai/openai"
)
response = client.chat.completions.create(
model="google/gemma-4-31b-it",
messages=[
{"role": "system", "content": "Вы полезный ассистент."},
{"role": "user", "content": "Привет, как дела?"}
],
max_tokens=131072,
temperature=0.7
)
print(response.choices[0].message.content)
Если вы уже используете клиент, совместимый с OpenAI, никаких изменений SDK не требуется. Замените base_url и api_key, обновите строку модели — и всё готово.
GPU Application: все четыре размера
Все четыре модели Gemma 4 — E2B, E4B, 26B A4B и 31B — доступны через Novita AI GPU Application. GPU Application — это библиотека предварительно настроенных, готовых к запуску развёртываний моделей: выберите модель, запустите инстанс — и она работает в один клик. Никакой настройки инфраструктуры и ручной конфигурации контейнеров.
Запустить Gemma 4 через GPU Application →
Заключение
Gemma 4 объединяет три различные архитектуры в одном семействе моделей: плотную модель 31B для качества с длинным контекстом, модель MoE 26B A4B, предназначенную для ограниченных объёмов памяти с поддержкой QAT, и малые модели E2B/E4B, специально разработанные для инференса на устройствах. Ввод изображений доступен во всех четырёх размерах, а аудио (ASR и AST) поддерживается только на E2B и E4B. Все размеры имеют встроенные возможности рассуждения, вызова функций, многоязычности и понимания видео.
На Novita AI модели 31B и 26B A4B работают в Model API — совместимом с OpenAI и готовом к интеграции. Все четыре размера, включая малые модели, доступны через GPU Application для развёртывания в один клик.
Попробовать Gemma 4 31B сейчас
Попробовать Gemma 4 26B A4B сейчас
Часто задаваемые вопросы
В чём разница между Gemma 4 31B и Gemma 4 26B A4B?
31B — это плотная модель: все 31,3B параметров активны при каждом прямом проходе, оптимизирована для качества с длинным контекстом. 26B A4B — это модель Mixture of Experts с 26,8B параметров всего, но только 3,8B активны во время инференса, предназначена для развёртываний с ограниченной памятью с поддержкой квантизации.
Все ли размеры Gemma 4 поддерживают зрение и аудио?
Зрение поддерживается во всех четырёх размерах. Аудио поддерживается только на E2B и E4B — модели 26B A4B и 31B принимают текст и изображения, но не аудио.
Какие форматы квантизации доступны для Gemma 4?
Контрольные точки на основе QAT предоставляются для варианта MoE (26B A4B): Q3-2, Q3-0 и Q4-0.
Что такое Novita AI GPU Application?
GPU Application — это продукт для развёртывания моделей в один клик на Novita AI. Выберите из библиотеки предварительно настроенных, готовых к запуску приложений моделей — LLM, изображения, аудио и видео — выберите модель, запустите инстанс, и она работает. Никакой настройки контейнеров или инфраструктуры не требуется. Все четыре размера Gemma 4 доступны там.
Novita AI — это облачная платформа AI и агентов, помогающая разработчикам и стартапам создавать, развёртывать и масштабировать модели и агентные приложения с высокой производительностью, надёжностью и экономической эффективностью.
