오늘 Novita AI가 Z.ai와 파트너십을 체결하고, Z.ai 런칭 파트너로서 Novita AI 플랫폼에서 GLM-4.5를 첫날부터 지원하게 되었음을 발표하게 되어 기쁩니다. 이 획기적인 협업은 고급 추론, 정교한 코딩 능력, 그리고 네이티브 에이전트 기능을 하나의 강력한 프레임워크에 결합한 세계에서 가장 통합된 AI 모델 시리즈를 소개합니다. 이는 차세대 AI 애플리케이션을 구축하는 개발자들을 위해 설계되었습니다.
Novita AI는 이제 혁신적인 GLM-4.5 모델 (총 파라미터 355B, 활성 파라미터 32B)을 제공합니다: 복잡한 추론과 도구 사용을 위한 사고 모드와 즉각적인 응답을 위한 비사고 모드를 모두 제공하는 하이브리드 추론 모드로 구축되었습니다. 종합 벤치마크에서 전체 2위를 차지했습니다.
두 모델 모두 128k 컨텍스트 길이와 네이티브 함수 호출 기능을 갖추고 있으며, Novita AI의 최적화된 추론 인프라를 통해 사용 가능합니다.
⚡ 전체 성능
GLM-4.5는 2위, GLM-4.5-Air는 5위를 기록했습니다. 평가 기준은 에이전트(3), 추론(7), 코딩(2) 작업을 포함한 12개 벤치마크이며, OpenAI, Anthropic, Google DeepMind, xAI, Alibaba, Moonshot, DeepSeek의 모델과 비교했습니다.
GLM-4.5는 이전 모델들이 특정 영역(코딩, 수학, 또는 추론)에서 뛰어났지만 모든 작업에서 최고 성능을 달성하지 못했던 한계를 극복하고 모든 기능을 통합했습니다.
에이전트 작업
GLM-4.5는 에이전트 작업에 최적화된 기반 모델입니다. 128k 컨텍스트 길이와 네이티브 함수 호출 기능을 제공합니다. Z.ai는 τ-bench 및 BFCL-v3 (Berkeley Function Calling Leaderboard v3)에서 에이전트 능력을 측정했습니다. 두 벤치마크 모두에서 GLM-4.5는 Claude-4-Sonnet의 성능과 일치합니다.
웹 브라우징은 복잡한 추론과 다중 턴 도구 사용이 필요한 인기 있는 에이전트 애플리케이션입니다. Z.ai는 GLM-4.5를 BrowseComp 벤치마크에서 평가했습니다. 이 벤치마크는 짧은 답변을 요구하는 복잡한 질문으로 구성된 까다로운 웹 브라우징 벤치마크입니다. 웹 브라우징 도구를 사용하여 GLM-4.5는 전체 질문의 26.4%에 정답을 제공하여 Claude-4-Opus(18.8%)를 확실히 능가하고 o4-mini-high(28.0%)에 근접했습니다.
| 벤치마크 | GLM-4.5 | GLM-4.5-Air | o3 | o4-mini-high | GPT-4.1 | Claude 4 Opus | Claude 4 Sonnet | Gemini 2.5 Pro | Qwen3 235B Thinking 2507 | DeepSeek R1 0528 | Kimi K2 | Grok4 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| TAU-bench | 70.1 | 69.4 | 61.2 | 57.4 | 62.0 | 70.5 | 70.3 | 62.5 | 73.2 | 58.7 | 62.6 | 67.5 |
| BFCL v3 (Full) | 77.8 | 76.4 | 72.4 | 67.2 | 68.9 | 61.8 | 75.2 | 61.2 | 72.4 | 63.8 | 71.1 | 66.2 |
| BrowseComp | 26.4 | 21.3 | 49.7 | 28.3 | 4.1 | 18.8 | 14.7 | 7.6 | 4.6 | 3.2 | 7.9 | 32.6 |
추론
사고 모드에서 GLM-4.5 및 GLM-4.5-Air는 수학, 과학, 논리 문제를 포함한 복잡한 추론 문제를 해결할 수 있습니다.
| 벤치마크 | GLM-4.5 | GLM-4.5-Air | o3 | o4-mini-high | Claude 4 Opus | Claude 4 Sonnet | Gemini 2.5 Pro | Gemini 2.5 Flash | DeepSeek R1 0528 | Qwen3-235B Thinking 2507 | Grok4 |
|---|---|---|---|---|---|---|---|---|---|---|---|
| MMLU Pro | 84.6 | 81.4 | 85.3 | 83.2 | 87.3 | 84.2 | 86.2 | 83.2 | 84.9 | 84.5 | 86.6 |
| AIME24 | 91.0 | 89.4 | 90.3 | 94.0 | 75.7 | 77.3 | 88.7 | 82.3 | 89.3 | 94.1 | 94.3 |
| MATH 500 | 98.2 | 98.1 | 99.2 | 98.9 | 98.2 | 99.1 | 96.7 | 98.1 | 98.3 | 98.0 | 99.0 |
| SciCode | 41.7 | 37.3 | 41.0 | 46.5 | 39.8 | 40.0 | 42.8 | 39.4 | 40.3 | 42.9 | 45.7 |
| GPQA | 79.1 | 75.0 | 82.7 | 78.4 | 79.6 | 77.7 | 84.4 | 79.0 | 81.3 | 81.1 | 87.7 |
| HLE | 14.4 | 10.6 | 20.0 | 17.5 | 11.7 | 8.5 | 21.1 | 11.1 | 14.9 | 15.8 | 23.9 |
| LiveCodeBench (2407-2501) | 72.9 | 70.7 | 78.4 | 80.4 | 63.6 | 58.0 | 80.1 | 69.5 | 77.0 | 78.2 | 81.9 |
| AA-Index (추정) | 67.7 | 64.8 | 70.0 | 69.8 | 64.4 | 62.7 | 70.5 | 65.1 | 68.3 | 69.4 | 73.2 |
코딩
GLM-4.5는 코딩에도 뛰어납니다. 여기에는 코딩 프로젝트를 처음부터 구축하는 것과 기존 프로젝트에서 에이전트 방식으로 코딩 작업을 해결하는 것이 모두 포함됩니다. Claude Code, Roo Code, CodeGeex와 같은 기존 코딩 도구 키트와 원활하게 결합할 수 있습니다. Z.ai는 코딩 능력을 평가하기 위해 SWE-bench Verified 및 Terminal Bench에서 다양한 모델을 비교했습니다.
| 벤치마크 | GLM-4.5 | GLM-4.5-Air | o3 | o4-mini-high | GPT-4.1 | Claude 4 Opus | Claude 4 Sonnet | Gemini 2.5 Pro | Gemini 2.5 Flash | Qwen3 235B Thinking 2507 | Qwen3 235B | DeepSeek R1 0528 | Kimi K2 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| SWE-bench Verified | 64.2 | 57.6 | 69.1 | 54.8 | 48.6 | 67.8 | 70.4 | 49.0 | 60.4 | 35.0 | 36.2 | 41.4 | 65.4 |
| Terminal-Bench | 37.5 | 30.0 | 30.2 | 18.5 | 30.3 | 43.2 | 35.5 | 25.3 | 16.8 | 6.3 | 6.6 | 17.5 | 25.0 |
GLM-4.5의 실제 시나리오에서의 에이전트 코딩 능력을 평가하기 위해 Z.ai는 Claude Code를 사용하여 Claude-4-Sonnet, Kimi K2, Qwen3-Coder와 52개의 코딩 작업(프론트엔드 개발, 도구 개발, 데이터 분석, 테스트, 알고리즘 애플리케이션 포함)에 대해 포괄적인 테스트를 수행했습니다. GLM-4.5는 작업의 53.9%에서 Kimi K2를 이겼고, Qwen3-Coder를 80.8%의 승률로 지배했으며, Claude-4-Sonnet에 대해서는 개선의 여지를 보여주었습니다.
특히 GLM-4.5는 평균 도구 호출 성공률 90.6%를 달성하여 Claude-4-Sonnet(89.5%), Kimi-K2(86.2%), Qwen3-Coder(77.1%)를 능가하며 에이전트 코딩 작업에서 뛰어난 신뢰성과 효율성을 입증했습니다.
🚀 Novita AI 시작하기
플레이그라운드 사용하기 (코딩 불필요)
- 즉시 액세스: 가입하고 몇 초 안에 GLM-4.5 실험 시작
- 대화형 인터페이스: 복잡한 추론 프롬프트를 테스트하고 구조화된 출력을 실시간으로 시각화
- 모델 비교: 특정 사용 사례에 대해 GLM-4.5를 다른 주요 모델과 비교
API를 통한 통합 (개발자용)
Novita AI의 통합 REST API를 사용하여 GLM-4.5를 애플리케이션에 연결하세요.
옵션 1: 직접 API 통합 (Python 예제)
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="session_S4q9KTdBQujFkXSE5aZYZCrwN9f5QO96BtAFLw4FOgB__slLHW9KFAjmMgC12ag6mf2lJ1rASEvHbP_gv7Jh2Q==",
)
model = "zai-org/glm-4.5"
stream = True # or False
max_tokens = 65536
system_content = ""Be a helpful assistant""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
주요 기능:
- OpenAI 호환 API 로 원활한 통합
- 유연한 파라미터 제어 로 응답 미세 조정
- 스트리밍 지원 으로 실시간 응답
옵션 2: OpenAI Agents SDK를 사용한 멀티 에이전트 워크플로우 GLM-4.5를 사용하여 정교한 멀티 에이전트 시스템 구축:
- 플러그 앤 플레이 통합: 모든 OpenAI Agents 워크플로우에서 GLM-4.5 사용
- 고급 에이전트 기능: 90.6% 성공률의 핸드오프, 라우팅, 도구 통합 지원
- 확장 가능한 아키텍처: GLM-4.5의 통합된 추론, 코딩, 에이전트 기능을 활용하는 에이전트 설계
타사 플랫폼과 연결
- 개발 도구: OpenAI 호환 API를 통해 Cursor, Cline 등 인기 IDE 및 개발 환경과 원활하게 통합
- 오케스트레이션 프레임워크: 공식 커넥터를 사용하여 LangChain, Dify, Langflow 및 기타 AI 오케스트레이션 플랫폼과 연결
- Hugging Face 통합: Novita AI 엔드포인트를 통해 Spaces, 파이프라인 또는 Transformers 라이브러리에서 GLM-4.5 사용
🔬 GLM-4.5의 기술 혁신
MoE 아키텍처 우수성
GLM-4.5는 Mixture of Experts(MoE) 아키텍처를 채택하여 훈련 및 추론 모두에서 계산 효율성을 향상시킵니다. DeepSeek-V3와 비교하여 너비(은닉 차원 및 라우팅된 전문가)는 줄이고 높이(레이어 수)는 늘렸습니다.
주요 기술 특징:
- Grouped-Query Attention 과 부분 RoPE(ChatGLM2에서 계속)
- QK-Norm 으로 어텐션 로짓 범위 안정화
- Muon 옵티마이저 로 수렴 가속화 및 더 큰 배치 크기 허용
- MTP(Multi-Token Prediction) 레이어 로 추론 중 투기적 디코딩 지원
고급 훈련 파이프라인
사전 훈련: 2단계 접근 방식
- 일반 사전 훈련 코퍼스에서 15T 토큰
- 코드 및 추론 코퍼스에서 7T 토큰
중간 훈련: 도메인별 최적화
- 레포 수준 코드 데이터 (500B 토큰)
- 합성 추론 데이터 (500B 토큰)
- 긴 컨텍스트 및 에이전트 데이터 (100B 토큰)
후 훈련: 정교한 하이브리드 접근 방식
- 전문가 훈련: SFT 및 특수화된 RL을 통해 추론, 에이전트, 일반 도메인에 대한 별도 모델
- 통합 훈련: 대규모 SFT 자기 증류를 통해 전문가를 단일 모델로 결합하는 지식 증류, 이어서 3단계 RL 정렬
slime: 혁신적인 RL 인프라
GLM-4.5의 훈련은 대규모 모델을 위해 설계된 오픈 소스 RL 인프라인 slime으로 구동됩니다:
- 유연한 하이브리드 훈련 아키텍처: 동기식 공동 배치 훈련 및 분리된 비동기식 훈련 모두 지원
- 분리된 에이전트 중심 설계: 최적화된 성능을 위해 롤아웃 엔진과 훈련 엔진 분리
- 가속화된 데이터 생성: 훈련 안정성을 위해 BF16을 유지하면서 데이터 생성을 위해 FP8을 사용한 혼합 정밀도 추론
🎯 통합 AI를 경험할 준비가 되셨나요?
지금 Novita AI 플랫폼에서 GLM-4.5 및 GLM-4.5-Air를 사용해 보세요. 최적화된 프로덕션 지원 인프라에서 추론, 코딩, 에이전트 기능이 통합될 때 가능한 변화를 직접 경험해 보십시오.
Novita AI는 개발자들이 간단한 API를 사용하여 AI 모델을 쉽게 배포할 수 있도록 하면서, 저렴하고 안정적인 GPU 클라우드를 제공하여 구축 및 확장을 지원하는 AI 클라우드 플랫폼입니다.
