Google의 Gemma 4가 이제 Novita AI에서 사용 가능합니다. 두 개의 대형 모델(31B 및 26B A4B)은 Model API에서 사용할 수 있습니다. 온디바이스용 E2B 및 E4B를 포함한 모든 4가지 크기는 GPU Application을 통해 배포 가능합니다. GPU Application은 Novita AI의 원클릭 모델 배포 제품으로, 모델을 선택하고 인스턴스를 시작하면 바로 실행됩니다.
이 글에서는 Gemma 4가 무엇인지, 아키텍처가 어떻게 다른지, 각 크기가 어떤 용도로 설계되었는지 다룹니다. 이를 통해 개발을 시작하기 전에 적합한 접근 방식을 선택할 수 있습니다.
Gemma 4란 무엇인가?
Gemma 4는 Google의 4세대 오픈 모델 제품군으로, 메모리와 성능 목표에 최적화된 세 가지 다른 아키텍처로 구축되었습니다. 이 라인업은 온디바이스 추론부터 서버급 배포까지 모든 것을 다루며, 각 아키텍처는 특정 메모리 사용량과 성능 목표에 맞게 설계되었습니다.
네 가지 모델 크기는 다음과 같습니다:
| 모델 | 아키텍처 | 파라미터 | 컨텍스트 | 모달리티 |
|---|---|---|---|---|
| Gemma 4 E2B | Dense (소형) | 2.3B 유효, 5.1B 임베딩 포함 | 128K | 텍스트, 비전, 오디오 |
| Gemma 4 E4B | Dense (소형) | 4.5B 유효, 7.9B 임베딩 포함 | 128K | 텍스트, 비전, 오디오 |
| Gemma 4 26B A4B | MoE | 4B 활성 / 26B 전체 | 256K | 텍스트, 비전 |
| Gemma 4 31B | Dense | 31B | 256K | 텍스트, 비전 |
모든 4가지 크기에는 사전 학습된 기본 체크포인트와 함께 명령어 튜닝된(-it) 변형이 포함됩니다.
세 가지 아키텍처의 작동 방식
Dense 아키텍처(31B): 긴 컨텍스트 품질을 위해 설계
31B 모델은 주력 Dense 아키텍처입니다. 효율성과 긴 컨텍스트 품질을 향상시키는 아키텍처 변경으로 Gemma 기준을 확장합니다.
MoE 아키텍처(26B A4B): 높은 성능, 고정된 메모리 사용량
26B A4B 모델은 Mixture of Experts(MoE) 설계를 사용하며, 총 128개의 전문가(작은 전문가들이 많음)와 항상 활성화되는 하나의 공유 전문가를 포함합니다. 순방향 패스당 8개의 전문가만 활성화되어 26.8B 전체 파라미터 중 3.8B의 활성 파라미터를 얻습니다.
이 설계는 양자화를 적용하여 고성능 노트북과 서버 아키텍처에서 실행할 수 있는 메모리 사용량을 목표로 합니다. Q3-2, Q3-0 및 Q4-0 양자화 인식 학습(QAT) 체크포인트가 제공되어, 메모리 사용량을 줄이면서도 고품질 추론이 가능합니다.
소형 아키텍처(E2B 및 E4B): 실제 처리량을 갖춘 온디바이스
E2B 및 E4B 모델은 온디바이스 추론을 위해 특별히 설계되었습니다. 이 설계는 Gemma 4 Dense 베이스에서 시작하여 Gemma 3n의 일부 혁신을 추가하여 초당 토큰 수를 늘리고 프리필 시간을 줄이며 장치, 프레임워크 및 런타임 간 호환성을 확장합니다.
Gemma 3n에서 두 가지 주요 기능이 이어집니다:
- Per-Layer Embeddings (PLE): Gemma 3n에서 유지
- KV-Cache Sharing: 프리필 시간과 KV-cache 메모리 크기를 모두 줄이며 품질에 미치는 영향은 최소화
주요 기능
아키텍처 차이 외에도 모든 Gemma 4 크기는 강력한 기본 제공 기능을 공유합니다:
- Thinking — 모델이 답변하기 전에 단계별로 사고할 수 있게 하는 내장 추론 모드.
- 긴 컨텍스트 — E2B 및 E4B의 경우 128K 토큰, 26B A4B 및 31B의 경우 256K 토큰.
- 이미지 이해 — 객체 감지, 문서 및 PDF 파싱, 화면 및 UI 이해, 차트 이해, OCR, 필기 인식, 포인팅.
- 비디오 이해 — 프레임 시퀀스를 처리하여 비디오 분석.
- 혼합 멀티모달 입력 — 하나의 프롬프트에서 텍스트와 이미지를 자유롭게 혼합 가능.
- 함수 호출 — 구조화된 도구 사용 및 에이전트 워크플로우를 위한 기본 지원.
- 코딩 — 코드 생성, 완성 및 수정.
- 다국어 — 35개 이상의 언어에 대한 즉시 지원, 140개 이상의 언어로 사전 학습.
- 오디오(E2B 및 E4B만 해당) — 여러 언어에 걸친 자동 음성 인식(ASR) 및 음성을 텍스트로 변환.
멀티모달 기능: 비전 및 오디오
비전: 모든 4가지 크기, 고유 종횡비
4가지 Gemma 4 크기 모두 비전 입력을 지원합니다. 이미지는 혼합 해상도 처리를 사용하여 고유 종횡비로 처리됩니다. 팬 앤 스캔 자르기나 강제 사각형 크기 조정이 없습니다.
오디오: E2B 및 E4B만 해당
오디오 입력은 소형 모델인 E2B 및 E4B에서만 지원됩니다. 26B A4B 및 31B는 오디오를 지원하지 않습니다.
오디오 모델이 지원하는 기능:
- 자동 음성 인식(ASR) — 음성을 원본 언어의 텍스트로 변환.
- 자동 음성 번역(AST) — 원본 언어의 음성을 텍스트로 변환하고 출력을 대상 언어로 번역.
권장 샘플링 파라미터
Google의 Gemma 4 사용 사례에 걸친 표준화된 샘플링 구성:
| 파라미터 | 값 |
|---|---|
| temperature | 1.0 |
| top_p | 0.95 |
| top_k | 64 |
Gemma 4 사용 사례 전반에 걸쳐 기본 샘플링 구성으로 사용하세요.
모델 비교
| 모델 | 컨텍스트 | 오디오 | 접근 방식 |
|---|---|---|---|
| Gemma 4 31B | 256K | 아니요 | Model API 또는 GPU Application |
| Gemma 4 26B A4B | 256K | 아니요 | Model API 또는 GPU Application |
| Gemma 4 E4B | 128K | 예 | GPU Application |
| Gemma 4 E2B | 128K | 예 | GPU Application |
Novita AI에서 Gemma 4 실행
Novita AI는 관리형 API를 원하는지 또는 인스턴스를 완전히 제어하려는지에 따라 Gemma 4를 실행하는 두 가지 방법을 제공합니다.
Model API: 31B 및 26B A4B
Gemma 4 31B 및 Gemma 4 26B A4B는 Novita AI Model API에서 사용 가능합니다. OpenAI 호환, 토큰당 과금, 월 약정 없음.
from openai import OpenAI
client = OpenAI(
api_key="<Your API Key>",
base_url="https://api.novita.ai/openai"
)
response = client.chat.completions.create(
model="google/gemma-4-31b-it",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Hello, how are you?"}
],
max_tokens=131072,
temperature=0.7
)
print(response.choices[0].message.content)
이미 OpenAI 호환 클라이언트를 사용하고 있다면 SDK 변경이 필요 없습니다. base_url과 api_key를 교체하고, 모델 문자열을 업데이트하면 바로 실행됩니다.
GPU Application: 모든 4가지 크기
E2B, E4B, 26B A4B 및 31B 등 4가지 Gemma 4 모델 모두 Novita AI GPU Application을 통해 사용할 수 있습니다. GPU Application은 사전 구성되고 바로 실행 가능한 모델 배포 라이브러리입니다. 모델을 선택하고 인스턴스를 시작하면 원클릭으로 실행됩니다. 인프라 설정이나 수동 컨테이너 구성이 필요 없습니다.
GPU Application을 통해 Gemma 4 시작하기 →
결론
Gemma 4는 하나의 모델 제품군 아래 세 가지 뚜렷한 아키텍처를 제공합니다. 긴 컨텍스트 품질을 위한 31B Dense 모델, QAT 지원으로 제한된 메모리 환경을 위해 설계된 26B A4B MoE 모델, 그리고 온디바이스 추론에 특화된 소형 E2B/E4B 모델입니다. 비전 입력은 모든 4가지 크기에서 사용 가능하며, 오디오(ASR 및 AST)는 E2B 및 E4B에서만 지원됩니다. 모든 크기에는 Thinking, 함수 호출, 다국어 지원 및 비디오 이해가 내장되어 있습니다.
Novita AI에서는 31B 및 26B A4B가 Model API에서 제공됩니다. OpenAI 호환 및 즉시 사용 가능합니다. 소형 모델을 포함한 4가지 크기 모두 원클릭 배포를 위해 GPU Application을 통해 사용 가능합니다.
자주 묻는 질문
Gemma 4 31B와 Gemma 4 26B A4B의 차이점은 무엇인가요?
31B는 Dense 모델로, 모든 31.3B 파라미터가 순방향 패스마다 활성화되며 긴 컨텍스트 품질에 최적화되어 있습니다. 26B A4B는 Mixture of Experts 모델로, 총 26.8B 파라미터를 가지지만 추론 시 3.8B만 활성화되며 양자화 지원으로 메모리 제한 배포를 위해 설계되었습니다.
모든 Gemma 4 크기가 비전과 오디오를 지원하나요?
비전은 4가지 크기 모두 지원됩니다. 오디오는 E2B 및 E4B에서만 지원됩니다. 26B A4B와 31B는 텍스트 및 이미지 입력은 허용하지만 오디오는 허용하지 않습니다.
Gemma 4에서 어떤 양자화 형식을 사용할 수 있나요?
MoE 변형(26B A4B)에 대해 QAT 기반 체크포인트(Q3-2, Q3-0, Q4-0)가 제공됩니다.
Novita AI GPU Application이란 무엇인가요?
GPU Application은 Novita AI의 원클릭 모델 배포 제품입니다. 사전 구성된 바로 실행 가능한 모델 앱(LLM, 이미지, 오디오, 비디오) 라이브러리에서 선택하고, 모델을 선택하고 인스턴스를 시작하면 실행됩니다. 컨테이너 설정이나 인프라 구성이 필요 없습니다. 4가지 Gemma 4 크기를 모두 사용할 수 있습니다.
Novita AI는 개발자와 스타트업이 고성능, 안정성 및 비용 효율성으로 모델과 에이전트 애플리케이션을 구축, 배포 및 확장할 수 있도록 지원하는 AI 및 에이전트 클라우드 플랫폼입니다.
