주요 하이라이트
강화 학습(RL): 시행착오를 통해 추론을 개선하기 위해 2단계 RL 프로세스를 사용합니다. 코드 인터프리터 및 솔버와 같은 도구로 검증되어 정확한 결과를 보장합니다.
경쟁력 있는 벤치마크: 추론 및 코딩 작업에서 강력한 점수를 달성합니다:
AIME24: 79.5 (DeepSeek R1의 79.8에 근접).
IFEval: 83.9 (DeepSeek R1보다 약간 높음).
BFCL: 66.4 (DeepSeek R1의 60.3을 능가).
하드웨어 효율성: DeepSeek R1보다 VRAM이 훨씬 적게 필요하며, 더 작은 하드웨어 설정에서 실행할 수 있도록 양자화를 지원합니다.
자신의 사용 사례에 QwQ 32B를 평가하고 싶다면 — 등록 시 Novita AI에서 $0.5 크레딧을 제공하여 시작할 수 있습니다!
Alibaba의 Qwen 팀이 개발한 QwQ-32B는 325억 개의 파라미터를 가진 추론 모델로, 훨씬 더 큰 모델(DeepSeek-R1 등)과 비교할 수 있는 성능을 제공하면서도 훨씬 적은 파라미터를 사용합니다. 효율성과 강력한 추론 능력으로 인해 기존 대규모 언어 모델(LLM)의 과도한 리소스 요구 없이 높은 성능을 원하는 연구자, 개발자 및 조직에 이상적인 선택입니다.
QwQ-32B란 무엇인가요?
기본 소개
- qwen/qwq-32b
- 오픈 소스: Apache 2.0 라이선스로 제공되어 커뮤니티 기여와 개선이 가능합니다.
- 트랜스포머: QwQ-32B는 64개의 레이어, 쿼리용 40개의 어텐션 헤드, 키-값용 8개의 헤드를 가진 트랜스포머 아키텍처를 사용합니다. RoPE(회전 위치 임베딩)를 사용하는 트랜스포머를 기반으로 하여 SwiGLU 활성화 함수를 통합하고, RMSNorm을 정규화에 사용하며, 어텐션 QKV 계산에 바이어스를 포함합니다.
- 파라미터: 총 325억 개의 파라미터 중 310억 개는 비임베딩 파라미터입니다.
- 긴 컨텍스트 지원: 최대 32,768 토큰까지 지원합니다.
- 지원 언어: 29개 이상의 언어를 지원하여 글로벌 접근성과 적용이 가능합니다.
학습 방법
QwQ-32B는 Qwen2.5를 기반으로 RL을 통해 추론 작업을 특별히 최적화하여, 전통적인 지도 미세 조정(SFT) 방식에 대한 의존성을 제거함으로써 잠재적인 혁신을 보여줍니다.
또한 QwQ-32B는 강화 학습(RL)을 사용하여 추론 능력을 개선하며, 도구와 환경 피드백을 사용하여 접근 방식을 적응시키기 위해 시행착오에 의존합니다. “결과 기반 보상” 메커니즘을 사용하여 모델이 독립적으로 결과를 생성한 다음 정확성을 검증하여 구조화된 작업에서 안정적인 성능을 보장합니다. SFT에서의 이러한 이탈은 효율성과 적응성에 중점을 두고, 보다 직접적인 RL 기반 최적화로의 전환을 나타냅니다.
벤치마크
Qwen 출처
**QwQ-32B는 체급 이상의 성능을 발휘합니다 **: 더 적은 파라미터에도 불구하고 여러 벤치마크에서 DeepSeek-R1-671B 와 같은 대규모 모델의 성능에 필적하거나 능가합니다. 이 모델은 강력한 일반 추론, 코딩 및 추론 기술을 보여주지만 창의적인 콘텐츠는 생성하지 않으므로 다양한 작업에 활용할 수 있습니다.
하드웨어 요구 사항
QwQ-32B를 효율적으로 실행하려면 다음 하드웨어 요구 사항을 고려하세요:
- VRAM:
- 상당한 VRAM이 필요합니다.
- 16비트 정밀도 의 경우 80GB VRAM이 필요합니다.
- 8비트 정밀도 의 경우 40GB VRAM으로 충분합니다.
- 4비트 정밀도 의 경우 20GB VRAM만 필요합니다.
- GPU:
- 특히 양자화 사용 시 RTX 3090/4090 GPU 와 호환됩니다.
- NVIDIA A100 및 H100 과 같은 고급 GPU도 적합합니다.
DeepSeek R1 과 비교하여 QwQ-32B는 하드웨어 요구 사항을 크게 줄여 강력한 성능을 유지하면서 다양한 시스템에서 더 쉽게 접근할 수 있습니다.
응용 분야
- 교육:
- 다양한 수준의 학습자를 위한 수학 ** 및 ** 프로그래밍 맞춤형 튜터링을 제공합니다.
- 복잡한 개념을 간단한 용어로 설명하여 학생과 교육자 모두에게 유용한 도구입니다.
- 숙제 문제 해결을 돕고 효과적인 학습을 위한 연습 문제를 생성합니다.
- 소프트웨어 개발:
- 다양한 프로그래밍 언어에 대한 고품질 코드 스니펫을 생성하여 개발자를 지원합니다.
- 오류를 식별하고 적절한 수정 사항을 제안하여 디버깅을 돕습니다.
- 코드 효율성 최적화 및 모범 사례 준수를 위한 권장 사항을 제공합니다.
- 연구:
- 통계 계산 및 시각화를 포함한 데이터 분석 수행을 돕습니다.
- 문헌 검토, 학술 논문 요약 및 주요 통찰력 추출을 지원합니다.
- 연구 문서의 초안을 생성하여 연구자의 소중한 시간을 절약합니다.
- 문제 해결:
- 복잡한 문제 를 더 작고 관리하기 쉬운 구성 요소로 분해하는 것을 돕습니다.
- 다각적인 문제에 대한 단계별 안내를 포함한 잠재적 해결책을 제안합니다.
- 의사 결정 과정을 지원하기 위해 논리적 추론과 설명을 제공합니다.
이러한 영역에서 뛰어난 성능을 발휘함으로써 QwQ-32B는 교육, 전문 및 연구 관련 작업을 위한 다용도 어시스턴트로 활용됩니다.
QWQ 32B vs Qwen 2.5 72B vs DeepSeek R1
| 기능 | QwQ-32B | Qwen 2.5 72B | DeepSeek-R1 671B |
|---|---|---|---|
| 파라미터 | 32.5B | 72B | 671B |
| 아키텍처 기반 | Qwen 2.5 | 네이티브 아키텍처 | DeepSeek-R1-Zero |
| 학습 방법 | 강화 학습 (SFT 없음) | 구체적으로 명시되지 않음 | RL + 지도 미세 조정 |
| 컨텍스트 창 | 32,768 토큰 | 8,000 토큰 | 32,768 토큰 |
| 지원 언어 | 29개 이상 언어 | 29개 이상 언어 | 주로 중국어와 영어 |
| 수학 능력 | 79.5 (AIME 2024) | 83.1 (MATH 벤치마크) | 97.3 (MATH-500), 79.8 (AIME 2024) |
| 코딩 능력 | 63.4 (Live Code Bench) | 59.1 (HumanEval) | 49.2 (SWE-bench Verified), 65.9 (Live Code Bench) |
| 하드웨어 요구 사항 | 4-bit: 20GB VRAM / 8-bit: 40GB VRAM / 16-bit: 80GB VRAM, 여러 A100 또는 H100 권장 | 약 41.6GB ~ 77.1GB VRAM | 8xH100 GPU |
| 오픈 소스 라이선스 | Apache 2.0 | 구체적으로 명시되지 않음 | MIT 라이선스 |
| 주요 장점 | 하드웨어 친화적 / 강력한 추론 / 대형 모델에 필적 | 빠른 응답 시간 / 비용 효율적 / 우수한 다국어 지원 | 탁월한 수학 추론 / 자체 검증 출력 / 명확한 추론 과정 |
| 출력 특성 | 강력한 논리적 추론, 창의적 콘텐츠는 약함 | 일반적인 역량 | 명확한 논리, 잘 구조화됨 |
QWQ 32B에 접근하는 방법?
1. **온라인 플랫폼 ** 을 사용하여 QWQ 32B 이용 (예: Novita AI)
Novita AI의 LLM Playground 페이지에서 무료 체험을 할 수 있습니다! 이는 개발자를 위해 특별히 제공하는 테스트 페이지입니다. 원하는 모델을 목록에서 선택하세요. 여기서 QWQ 32B 모델을 선택할 수 있습니다.
2.무료 QWQ 32B API 이용 (예: Novita AI)
Novita AI는 개발자가 간편한 API를 사용하여 AI 모델을 배포할 수 있는 AI 클라우드 플랫폼이며, 구축 및 확장을 위한 저렴하고 안정적인 GPU 클라우드도 제공합니다.
1단계: 로그인 및 모델 라이브러리 접속
계정에 로그인하고 모델 라이브러리 버튼을 클릭하세요.
2단계: 모델 선택
사용 가능한 옵션을 탐색하고 필요에 맞는 모델을 선택하세요.
3단계: 무료 체험 시작
선택한 모델의 기능을 살펴보기 위해 무료 체험을 시작하세요.
4단계: API 키 받기
API 인증을 위해 새로운 API 키를 제공합니다. “설정” 페이지로 이동하여 이미지에 표시된 대로 API 키를 복사할 수 있습니다.
5단계: API 설치
사용 중인 프로그래밍 언어에 맞는 패키지 관리자를 사용하여 API를 설치하세요.
설치 후 개발 환경에 필요한 라이브러리를 가져옵니다. API 키로 API를 초기화하여 Novita AI LLM과 상호 작용을 시작하세요. 다음은 Python 사용자를 위한 chat completions API 사용 예시입니다.
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
# Get the Novita AI API Key by referring to: https://novita.ai/docs/get-started/quickstart.html#_2-manage-api-key.
api_key="<YOUR Novita AI API Key>",
)
model = "qwen/qwq-32b"
stream = True # or False
max_tokens = 512
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": "Act like you are a helpful assistant.",
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "")
else:
print(chat_completion_res.choices[0].message.content)
등록 시 Novita AI에서 $0.5 크레딧을 제공하여 시작할 수 있습니다!
무료 크레딧이 소진되면 결제하여 계속 사용할 수 있습니다.
결론
QwQ-32B는 AI 추론 모델의 중요한 발전을 나타내며, 수학, 코딩 및 다단계 문제 해결에서 뛰어난 성능을 제공하면서도 비교적 작은 크기를 유지합니다. 오픈 소스 가용성과 효율적인 설계로 인해 복잡하고 구조화된 작업에 AI를 활용하려는 연구자, 개발자 및 엔지니어에게 강력한 도구가 됩니다.
QwQ-32B의 차별점은 무엇인가요?
QwQ-32B는 지도 미세 조정 없이 강화 학습을 사용하여 추론 작업, 특히 수학 및 코딩에서 탁월한 성능을 달성합니다.
하드웨어 요구 사항은 무엇인가요?
최적의 성능을 위해 QwQ-32B는 상당한 컴퓨팅 리소스가 필요합니다. 양자화된 4비트 버전은 약 20GB의 VRAM이 필요합니다.
QwQ-32B와 Qwen2.5의 차이점은 무엇인가요?
QwQ-32B는 Qwen2.5를 기반으로, 전통적인 지도 미세 조정 방식 없이 추론 작업을 위해 특별히 강화 학습 최적화를 추가했습니다.
Novita AI는 AI 비전을 실현하는 올인원 클라우드 플랫폼입니다. 통합 API, 서버리스, GPU 인스턴스 — 필요한 비용 효율적인 도구를 제공합니다. 인프라를 제거하고 무료로 시작하여 AI 비전을 현실로 만드세요.
