Alibaba의 Qwen 3.5 Medium 시리즈는 실제 프로덕션에서 실행할 수 있는 합리적인 비용의 오픈 소스 모델에 최첨단 추론 기능을 제공합니다. 세 가지 모델 — Qwen3.5-35B-A3B, Qwen3.5-27B, Qwen3.5-122B-A10B — 이제 Novita AI에서 사용 가능하며, 오픈 웨이트와 Apache 2.0 라이선스의 유연성과 함께 GPT-5-mini급 성능을 제공합니다.
🎉세 모델 모두 Novita AI의 서버리스 LLM API 를 통해 즉시 사용 가능합니다 — GPU 프로비저닝이 필요하지 않습니다.
Qwen 3.5 Medium 시리즈란?
2026년 2월 24일, Alibaba의 Qwen 팀은 Qwen 3.5 Medium 모델 시리즈를 출시했습니다. 이는 플래그십 Qwen3.5-397B-A17B와 더 작은 증류 변형 모델 사이에 위치한 네 가지 모델입니다. 그중 세 모델은 Apache 2.0 하에 오픈 웨이트로 제공되며, 모두 Novita AI에서 사용할 수 있습니다.
이 시리즈는 시장의 특정 틈새를 목표로 합니다: 비용에 민감한 프로덕션 워크로드에 적합할 만큼 컴팩트하면서도, GPT-5 mini나 Claude Sonnet 4.5 같은 독점 최첨단 모델과 견줄 수 있을 만큼 강력한 모델입니다.
| 모델 | 총 파라미터 | 활성 파라미터 | 아키텍처 | 컨텍스트 |
| Qwen3.5-35B-A3B | 35B | 3B | MoE + 하이브리드 어텐션 | 262K |
| Qwen3.5-27B | 27B | 27B (밀집) | 밀집 + 하이브리드 어텐션 | 262K |
| Qwen3.5-122B-A10B | 122B | 10B | MoE + 하이브리드 어텐션 | 262K |
벤치마크 성능
Qwen 3.5 Medium 모델은 자신의 체급을 훨씬 뛰어넘는 성능을 보여줍니다. 다음은 주요 카테고리별 GPT-5 mini와의 비교입니다 (데이터 출처: Qwen 공식 벤치마크 결과):
지식 및 추론
| 벤치마크 | 122B-A10B | 27B | 35B-A3B | GPT-5 mini |
| MMLU-Pro | 86.7 | 86.1 | 85.3 | 83.7 |
| GPQA Diamond | 86.6 | 85.5 | 84.2 | 82.8 |
| MMMLU | 86.7 | 85.9 | 85.2 | 86.2 |
| HMMT Feb 2025 | 91.4 | 92.0 | 89.0 | 89.2 |
코딩
| 벤치마크 | 122B-A10B | 27B | 35B-A3B | GPT-5 mini |
| SWE-bench Verified | 72.0 | 72.4 | 69.2 | 72.0 |
| Terminal-Bench 2 | 49.4 | 41.6 | 40.5 | 31.9 |
| LiveCodeBench v6 | 78.9 | 80.7 | 74.6 | 80.5 |
에이전트 작업
| 벤치마크 | 122B-A10B | 27B | 35B-A3B | GPT-5 mini |
| BFCL-V4 (도구 사용) | 72.2 | 68.5 | 67.3 | 55.5 |
| BrowseComp | 63.8 | 61.0 | 61.0 | 48.1 |
| TAU2-Bench | 79.5 | 79.0 | 81.2 | 69.8 |
🔑 핵심 포인트: 세 Medium 모델 모두 에이전트 작업에서 GPT-5 mini를 20-30% 능가합니다. 일반 지식 및 코딩에서는 경쟁력이 있거나 앞서 있습니다. 주요 차별점은 단순한 벤치마크 점수가 아니라, 이러한 성능을 오픈 웨이트, 파인튜닝 자유도, 벤더 종속 없이 얻을 수 있다는 것입니다.
Novita AI에서의 특별한 점
Novita AI는 세 가지 오픈 웨이트 Qwen 3.5 Medium 모델을 서버리스 API와 OpenAI 호환 엔드포인트를 통해 제공합니다:
| 모델 | 입력 | 출력 | 컨텍스트 | 최대 출력 |
| Qwen3.5-35B-A3B | $0.25/Mt | $2.00/Mt | 262K | 65K |
| Qwen3.5-27B | $0.30/Mt | $2.40/Mt | 262K | 65K |
| Qwen3.5-122B-A10B | $0.40/Mt | $3.20/Mt | 262K | 65K |
Novita AI의 주요 장점:
- OpenAI 호환 API: 드롭인 교체 가능 — 기본 URL 변경만으로 GPT 엔드포인트에서 전환 가능.
- 전체 262K 컨텍스트: 잘림 없음. 네이티브 컨텍스트 윈도우를 완전히 활용.
- 서버리스: GPU 프로비저닝이나 콜드 스타트 관리 불필요.
이 모델들이 실제 워크로드에서 어떻게 작동하는지 확인해보세요. Playground에서 테스트 실행하기 →
비용 분석: 얼마나 절약할 수 있을까?
하루에 1M 입력 토큰을 처리하고 200K 출력 토큰을 생성하는 에이전트 코딩 워크플로우를 실행한다고 가정해보세요.
| 모델 | 일일 입력 비용 | 일일 출력 비용 | 일일 합계 | 월간 (30일) |
| Qwen3.5-35B-A3B (Novita) | $0.25 | $0.40 | $0.65 | $19.50 |
| Qwen3.5-27B (Novita) | $0.30 | $0.48 | $0.78 | $23.40 |
| Qwen3.5-122B-A10B (Novita) | $0.40 | $0.64 | $1.04 | $31.20 |
| GPT-5 mini (OpenAI) | $0.25 | $0.40 | $0.65 | $19.50 |
| Claude Sonnet 4.5 (Anthropic) | $3.00 | $3.00 | $6.00 | $180.00 |
| GPT-5.2 (OpenAI) | $1.75 | $2.80 | $4.55 | $136.50 |
요금 출처: OpenAI (GPT-5 mini: $0.25/Mt 입력, $2.00/Mt 출력, GPT-5.2: $1.75/Mt 입력, $14.00/Mt 출력), Anthropic (Claude Sonnet $3.00/Mt 입력, $15.00/Mt 출력), Novita AI.
🔑 실질적인 의미: Novita AI의 Qwen3.5-35B-A3B는 GPT-5 mini와 동일한 가격대이면서 훨씬 더 강력한 에이전트 성능을 제공합니다 (BFCL-V4: 67.3 vs 55.5). GPT-5.2 및 Claude Sonnet 4.5와 비교하면 비용을 7~9배 절감할 수 있습니다. 가치 제안은 단순히 가격만이 아닙니다. 폐쇄형 모델 가격에 오픈 웨이트를 제공하면서 더 뛰어난 에이전트 기능을 제공한다는 점입니다.
사용 사례 및 모범 사례
AI 기반 코드 리뷰 에이전트를 구축한다고 가정해보세요. 풀 리퀘스트를 스캔하고, 문제를 식별하며, 수정 사항을 제안합니다. 이 에이전트는 전체 리포지토리 컨텍스트(50K–200K 토큰)를 처리하고, 외부 도구(린터, 테스트 러너)를 호출하며, 구조화된 피드백을 생성해야 합니다.
Qwen 3.5 Medium이 적합한 이유:
1. 에이전트 도구 호출 파이프라인
BFCL-V4 점수 72.2(122B-A10B)로 이 모델들은 구조화된 함수 호출에 탁월합니다. API 호출을 연결하고, 응답을 파싱하며, 결정을 내리는 다단계 에이전트를 구축할 수 있습니다 — GPT-5 mini보다 훨씬 높은 신뢰성을 제공합니다.
2. 긴 컨텍스트 코드 분석
262K 네이티브 컨텍스트 윈도우를 사용하면 청크 없이 전체 코드베이스를 입력할 수 있습니다. 하이브리드 어텐션 아키텍처는 많은 토큰 수에서도 비용을 관리 가능하게 유지합니다.
3. 오픈 웨이트 유연성
GPT-5 mini와 달리 Qwen 3.5 Medium을 자체 데이터로 파인튜닝하고, 규정 준수를 위해 온프레미스에 배포하거나, 소비자용 GPU에서 양자화된 버전을 로컬로 실행할 수 있습니다 (35B-A3B는 4비트 양자화로 8GB+ VRAM에서 실행 가능).
어떤 모델을 선택해야 할까?
빠른 가이드:
- Qwen3.5-35B-A3B → 가장 좋은 종합 선택. 최저 비용, 소비자용 GPU에서 로컬 실행 가능 (양자화 시 8GB+ VRAM), 대부분의 벤치마크에서 GPT-5 mini를 능가.
- Qwen3.5-27B → 토큰당 최고 추론 밀도 (모든 27B 파라미터 활성화). 시리즈 중 최고 SWE-bench 점수 (72.4). 순방향 패스당 최대 추론이 필요할 때 이상적.
- Qwen3.5-122B-A10B → 모든 부문에서 최고 에이전트 점수. 도구 호출 정확도가 중요한 복잡한 다단계 에이전트 워크플로우에 가장 적합.
시작하는 방법
Novita AI는 코드 없는 탐색부터 프로덕션 API 통합까지 Qwen 3.5 Medium 모델을 워크플로우에 통합할 수 있는 다양한 방법을 제공합니다.
Playground에서 시도해보기
코드를 작성하기 전에 Novita AI Playground 에서 모델을 대화식으로 테스트하세요:
- Thinking Mode를 켜서 모델의 내부 추론 체인을 확인.
- 파라미터 조정: Temperature 및 Top_p를 사용하여 출력 창의성 제어.
- 긴 컨텍스트 스트레스 테스트: 최대 262K 토큰 문서를 붙여넣어 리콜 및 이해도를 평가.
Novita AI 계정에 가입하는 신규 사용자는 무료 체험 크레딧을 받습니다. 비용 없이 수십 번의 테스트를 실행하기에 충분합니다.
1단계: API 키 얻기
- novita.ai 방문하여 가입 또는 로그인.
- 대시보드에서 API Keys로 이동.
- Add New Key 클릭 후 즉시 복사 — 키는 한 번만 표시됩니다.
2단계: API 호출하기
- Base URL:
https://api.novita.ai/openai - Model IDs:
qwen/qwen3.5-35b-a3b,qwen/qwen3.5-27b,qwen/qwen3.5-122b-a10b
Python 예제:
from openai import OpenAI
client = OpenAI(
api_key="<Your API Key>",
base_url="https://api.novita.ai/openai"
)
response = client.chat.completions.create(
model="qwen/qwen3.5-122b-a10b",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Hello, how are you?"}
],
max_tokens=65536,
temperature=0.7
)
print(response.choices[0].message.content)
3단계: 도구와 통합하기
Novita AI는 OpenAI/Anthropic API 표준을 따르므로 Qwen 3.5 Medium 모델이 이미 사용 중인 도구와 완벽하게 호환됩니다:
- 코딩 어시스턴트: Cline, Cursor, OpenCode, Trae
- 에이전트 프레임워크: LangChain, Langflow, Continue
- Anthropic 호환 워크플로우: Claude Code
- 채팅 UI: AnythingLLM
- Hugging Face Hub: Novita AI는 지원되는 모델의 Inference Provider로 등록되어 있습니다.
- 개인 AI 에이전트: OpenClaw — Qwen 3.5 Medium 모델을 연결하여 메시징 플랫폼 전반에서 상시 작동하는 에이전트를 구축하세요.
결론
1년 전만 해도 파인튜닝과 자체 호스팅이 가능한 오픈 웨이트 모델로 GPT-5-mini 수준의 에이전트 성능을 기대하는 것은 현실적이지 않았습니다. Qwen 3.5 Medium 시리즈는 이러한 방정식을 바꿉니다. 특히 도구 사용 및 다단계 에이전트 워크플로우에서 이 모델들은 독점 대안을 단순히 따라잡는 것이 아니라 측정 가능하게 능가합니다.
모델 스택을 평가하는 팀에게 실용적인 다음 단계는 간단합니다: Playground에서 직접 프롬프트를 실행하고, 현재 제공업체와 벤치마킹한 후, 당사의 데이터가 아닌 귀하의 데이터에 기반하여 결정을 내리십시오.
Novita AI는 개발자가 간단한 API를 사용하여 AI 모델을 쉽게 배포할 수 있는 AI 클라우드 플랜폼이며, 확장 및 구축을 위한 합리적이고 신뢰할 수 있는 GPU 클라우드도 제공합니다.
자주 묻는 질문
Qwen3.5-Flash와 Qwen3.5-35B-A3B의 차이점은 무엇인가요?
Qwen3.5-Flash는 35B-A3B의 독점 호스팅 버전으로, Alibaba Cloud에서만 사용할 수 있습니다. 1M 컨텍스트 윈도우와 내장 공식 도구를 제공합니다. Novita AI의 오픈 웨이트 35B-A3B는 기본 262K 컨텍스트를 지원하며 최대 1M 토큰까지 확장 가능합니다.
이 모델들을 상업용 애플리케이션에 사용할 수 있나요?
네. 세 가지 오픈 웨이트 모델은 모두 Apache 2.0 라이선스로 제공됩니다 — 상업적 사용, 파인튜닝, 재배포에 제한이 없습니다.
플래그십 Qwen3.5-397B-A17B와 비교하면 어떤가요?
397B 플래그십 (Novita AI에서 $0.60/Mt 입력, $3.60/Mt 출력으로도 제공)은 경쟁 프로그래밍 및 일부 추론 작업에서 더 강력합니다. 그러나 Medium 모델은 놀랍도록 근접합니다 — 122B-A10B는 에이전트 벤치마크에서 이를 따라잡거나 능가하며, 35B-A3B는 플래그십 성능의 85–95%를 절반 미만의 비용으로 제공합니다.
