**Qwen3의 다양성은 의도적입니다 : 개발자가 ** 정확성, 비용, 메모리, 하드웨어 ** 사이에서 적절한 트레이드오프를 선택할 수 있도록 하면서도, ** 하이브리드 추론(Hybrid Reasoning) 이라는 통합된 핵심 능력을 유지합니다. 이 가이드는 챗봇, 코딩 어시스턴트, AI 연구 에이전트 등 어떤 것을 구축하든, 각 Qwen3 모델의 차이점을 이해하고 특정 요구에 가장 적합한 모델을 찾는 데 도움을 줍니다.
Qwen 3 시리즈에는 왜 이렇게 많은 모델이 있을까요?
Qwen 출처
Qwen3 235B A22B/Qwen3 32B
- 기본 모델(Base Models)
훈련의 시작점으로, 원래의 기본 모델을 나타냅니다. - 1단계: Long-CoT 콜드 스타트
긴 사슬 추론(Long-CoT)을 콜드 스타트 단계로 사용하여 모델이 복잡한 추론 작업에 대한 초기 능력을 획득하도록 돕습니다. - 2단계: 추론 강화 학습(Reasoning RL)
추론 강화 학습(Reasoning RL)을 통해 모델의 작업 추론 능력을 더욱 향상시킵니다. - 3단계: 사고 모드 융합(Thinking Mode Fusion)
다양한 사고 모드(예: 논리적 추론, 직관적 판단)를 융합하여 모델의 일반성과 유연성을 개선합니다. - 4단계: 일반 강화 학습(General RL)
일반 강화 학습(General RL)을 적용하여 모델이 더 넓은 작업에 적응할 수 있도록 합니다.
Qwen3 30B A3B;Qwen3 14B/8B/4B/1.7B/0.6B
- 기본 모델(Base Models)
마찬가지로 기본 모델에서 시작합니다. - 강자에서 약자로의 증류(Strong-to-Weak Distillation)
강자에서 약자로의 증류는 최첨단 모델의 지식을 경량 모델로 전수하여, 이 모델들이 효율성을 유지하면서도 강력한 추론 능력을 보유하도록 보장합니다.
Qwen 3 모델 기본 소개
Qwen 3 MOE 모델
| **특징 ** | Qwen3 235B A22B | Qwen3 30B A3B |
|---|---|---|
| 모델 크기 | 235B/22B (활성화됨) | 30.5B/3.3B (활성화됨) |
| 아키텍처 | 94개 레이어, 쿼리용 64개 어텐션 헤드, 키-값용 4개 헤드 | 48개 레이어, 쿼리용 32개 어텐션 헤드, 키-값용 4개 헤드 |
| 능력 | 함수 호출 지원 | 함수 호출 지원 |
| 컨텍스트 | 32,768 토큰 | 32,768 토큰 |
| 언어 지원 | 119개 언어 및 방언 | 119개 언어 및 방언 |
| 멀티모달 능력 | 텍스트 to 텍스트 | 텍스트 to 텍스트 |
Qwen 3 Dense 모델
| **모델 ** | ** 모델 크기 ** | ** 레이어 ** | ** 어텐션 헤드 (Q / KV)** | ** 컨텍스트 길이 ** | ** 다국어 지원** |
|---|---|---|---|---|---|
| Qwen3 32B | 32.8B | 64 | 64 / 8 | 32K / 최대 128K | 119개 언어 & 방언 |
| Qwen3 14B | 14.8B | 40 | 40 / 8 | 32K / 최대 128K | 119개 언어 & 방언 |
| Qwen3 8B | 8.2B | 36 | 32 / 8 | 32K / 최대 128K | 119개 언어 & 방언 |
| Qwen3 4B | 4.0B | 36 | 32 / 8 | 32K | 119개 언어 & 방언 |
| Qwen3 1.7B | 1.7B | 28 | 16 / 8 | 32K | 119개 언어 & 방언 |
| Qwen3 0.6B | 0.6B | 28 | 16 / 8 | 32K | 119개 언어 & 방언 |
중요한 점은 Qwen3 시리즈의 모든 모델 — Qwen3 0.6B, 1.7B, 4B, 8B, 14B, 32B와 MoE 변형인 Qwen3 30B A3B 및 Qwen3 235B A22B를 포함 — 이 “하이브리드 추론 모드(Hybrid Reasoning Mode)” 를 지원한다는 것입니다.
- 사고 모드(Thinking Mode): 심층 분석이 필요한 복잡한 문제를 위해 설계되었습니다. 모델이 단계별로 추론하고 신중하게 고려된 답변을 제공합니다.
- 비사고 모드(Non-Thinking Mode): 간단한 작업에 적합합니다. 모델이 빠르고 거의 즉각적인 응답을 제공합니다.
또한 Qwen3 모델은 “사고 예산(thinking budget)” 메커니즘을 도입하여 사용자가 추론 중 최대 토큰 사용량을 설정할 수 있게 합니다. 이는 추론 깊이를 제어하고 컴퓨팅 리소스 소비를 관리하는 데 도움이 됩니다.
Qwen 출처
Qwen 3 벤치마크
Qwen 3 추론 벤치마크
| **테스트 ** | Qwen3 235B | Qwen3 32B | Qwen3 30B | Qwen3 14B | Qwen3 8B | Qwen3 7B | Qwen3 4B | Qwen3 0.6B |
|---|---|---|---|---|---|---|---|---|
| MMLU-Pro | 83% | 80% | 78% | 77% | 74% | 57% | 35% | - |
| GPQA Diamond | 70% | 67% | 62% | 60% | 59% | 36% | 24% | - |
| Humanity’s Last Exam | 11.7% | 8.3% | 6.6% | 5.7% | 5.1% | 4.3% | 4.2% | - |
| LiveCodeBench | 62% | 55% | 52% | 51% | 47% | 41% | 31% | 12% |
| SciCode | 40% | 35% | 32% | 28% | 23% | 4% | 4% | 3% |
| MATH-500 | 96% | 96% | 96% | 93% | 93% | 90% | 89% | 75% |
| AIME 2024 | 84% | 81% | 76% | 75% | 75% | 66% | 51% | 10% |
Qwen 3 비추론 벤치마크
| **테스트 ** | Qwen3 235B | Qwen3 32B | Qwen3 30B | Qwen3 14B | Qwen3 8B | Qwen3 7B | Qwen3 4B | Qwen3 0.6B |
|---|---|---|---|---|---|---|---|---|
| MMLU-Pro | 76% | 73% | 71% | 68% | 64% | 41% | 23% | - |
| GPQA Diamond | 61% | 54% | 52% | 47% | 45% | 40% | 28% | 23% |
| Humanity’s Last Exam | 5.2% | 5.2% | 4.7% | 4.6% | 4.3% | 3.7% | 2.8% | - |
| LiveCodeBench | 34% | 32% | 29% | 28% | 23% | 20% | 13% | 7% |
| SciCode | 30% | 28% | 27% | 26% | 17% | 17% | 7% | 4% |
| MATH-500 | 90% | 87% | 87% | 86% | 84% | 83% | 72% | 52% |
| AIME 2024 | 33% | 30% | 28% | 26% | 24% | 21% | 10% | 2% |
Humanity’s Last Exam 은 극한의 추론과 지식을 테스트합니다. 모든 모델이 낮은 성능을 보입니다.
- **고위험 작업 **(예: 과학 연구, 고급 코딩)에서 최고 성능이 필요하다면 Qwen3 235B 가 최선의 선택입니다.
- **비용 효율적인 솔루션 ** 으로 컴퓨팅 리소스가 제한된 경우 Qwen3 30B 또는 Qwen3 32B 가 성능과 효율성의 좋은 균형을 제공합니다.
- Qwen3 0.6B 와 같은 소형 모델은 경량 애플리케이션에 더 적합하지만 복잡한 작업에서는 어려움을 겪을 수 있습니다.
Qwen 3 하드웨어 요구 사항
| 모델 이름 | 필요 메모리 (GB) |
| Qwen3 0.6B | 3.01GB |
| Qwen3 1.7B | 5.75GB |
| Qwen3 4B | 10.99GB |
| Qwen3 8B | 19.82GB |
| Qwen3 14B | 33.48GB |
| Qwen3 30B A3B | 74.21GB |
| Qwen3 32B | 73.5GB |
| Qwen3 235B A22B | 553.96GB |
0.6B–4B: 로컬 앱, 챗봇, 경량 엣지 사용.
8B–14B: 중형 추론 서버를 위한 강력한 범용 모델.
32B: 창의적 출력과 더 깊은 추론이 필요한 고성능 사용 사례.
235B: 연구 등급 또는 엔터프라이즈 규모 배포에 적합하며, 대부분의 사용자에게 비용 효율적이지 않음.
어떤 Qwen 3이 당신의 요구에 맞을까요?
| **당신의 목표 ** | ** 추천 모델 ** | ** 이유** |
|---|---|---|
| 로컬 경량 작업 / 챗봇 | Qwen3-0.6B / Qwen3-1.7B | 빠른 시작, 낮은 메모리(<6GB), 노트북에서 실행 가능, 엣지 사용에 이상적 |
| 균형 잡힌 추론 + 저렴한 하드웨어 | Qwen3-8B / Qwen3-14B | 일반 작업을 잘 처리하며 16GB–24GB GPU에 적합, 견고한 다국어 AI |
| 고급 추론 및 생성 | Qwen3-32B | MoE 오버헤드 없이 코드, 수학, 장문 작업에 가장 적합한 Dense 모델 |
| 연구용 최고 성능 | Qwen3-235B (A22B) | 추론 벤치마크에서 최고 점수지만 실행 비용이 매우 높음 |
| 효율적이면서 강력한 MoE 옵션 | Qwen3-30B (A3B) | 약 3B 활성 파라미터로 강력한 출력, GPU 메모리당 더 나은 확장성 |
Qwen 3 모델을 비용 효율적으로 사용하는 방법은?
Novita AI는 개발자가 간단한 API를 통해 AI 모델을 쉽게 배포할 수 있는 AI 클라우드 플랫폼이며, 구축 및 확장을 위한 저렴하고 안정적인 GPU 클라우드도 제공합니다.
Qwen 3 Reranker 8B 및 Embedding 8B 외에도, Novita AI는 오픈 소스 커뮤니티 개발을 지원하기 위해 Qwen 3 (0.6B, 1.7B, 4B)를 무료로 제공합니다!
1단계: 로그인 및 모델 라이브러리 접근
계정에 로그인하고 모델 라이브러리(Model Library) 버튼을 클릭하세요.
2단계: 모델 선택 및 무료 체험 시작
사용 가능한 옵션을 살펴보고 필요에 맞는 모델을 선택하세요.
3단계: API 키 받기
API를 인증하기 위해 새 API 키를 제공해 드립니다. “설정(Settings)“ 페이지로 이동하여 표시된 대로 API 키를 복사하세요.
4단계: API 설치
프로그래밍 언어에 맞는 패키지 관리자를 사용하여 API를 설치하세요.
설치 후, 개발 환경에 필요한 라이브러리를 가져옵니다. API 키로 클라이언트를 초기화하여 Novita AI LLM과 상호작용을 시작하세요. 다음은 Python 사용자를 위한 채팅 완성 API 사용 예시입니다.
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="session_nkvtuVXXxS-LlR7txjZ3Rox8GhLMuv1R8IrIySNwTPN7xHJ0SVErFx3kNwJgkUEpcSM4F8c6zmcvyfuc1h59gw==",
)
model = "qwen/qwen3-32b-fp8"
stream = True # or False
max_tokens = 2048
system_content = ""Be a helpful assistant""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
노트북에서 챗봇을 구축하든 대규모 과학 에이전트를 배포하든, Qwen3는 리소스와 목표에 맞춰진 모델을 제공합니다. 소형 모델(0.6B–4B)은 가볍고 빠릅니다. 중형 모델(8B–14B)은 성능과 효율성의 균형을 잡아줍니다. 대형 모델(32B, 235B)은 추론 벤치마크에서 선두를 차지합니다. 비용 효율적인 접근을 원하는 개발자를 위해 Novita AI는 API를 통해 Qwen3 모델의 원활한 배포를 제공하며, 일부는 완전 무료로 이용할 수 있습니다.
자주 묻는 질문
로컬 애플리케이션에 가장 적합한 Qwen3 모델은 무엇인가요?
Qwen3-0.6B 또는 Qwen3-1.7B입니다. 이 모델들은 기본 PC나 Apple Silicon에서 실행되며 경량 작업과 챗봇에 이상적입니다.
높은 GPU 비용 없이 강력한 추론을 원한다면 무엇을 선택해야 하나요?
Qwen3-8B 또는 Qwen3-14B를 선택하세요. 이 모델들은 훌륭한 추론 능력을 제공하며 16–24GB VRAM의 GPU에 적합합니다.
Qwen3-32B는 언제 사용해야 하나요?
고급 논리, 코딩, 장문 생성이 필요할 때 Qwen3-32B를 사용하세요. MoE 구조에 의존하지 않습니다.
Novita AI 는 개발자가 간단한 API를 통해 AI 모델을 쉽게 배포할 수 있도록 하면서도, 구축 및 확장을 위한 저렴하고 안정적인 GPU 클라우드를 제공하는 AI 클라우드 플랫폼입니다.
