주요 하이라이트
GPT-OSS-120B : OpenAI가 개발한 117B 파라미터 오픈 웨이트 MoE 모델로, 기업급 추론 및 프로덕션 배포를 목적으로 설계되었으며 o4-mini와 거의 동등한 성능을 제공합니다.
GLM-4.5 : 추론, 코딩, 지능형 에이전트 기능을 통합한 기반 모델로, 지능형 에이전트 애플리케이션의 복잡한 요구사항을 충족합니다.
Novita AI는 안정적인 API 서비스뿐만 아니라 매우 합리적인 가격을 제공합니다. 예를 들어 **GPT-OSS-120B**는 1M 입력 토큰당 $0.1, 1M 출력 토큰당 $0.5의 비용이 발생하며, **GLM-4.5**는 1M 입력 토큰당 $0.6, 1M 출력 토큰당 $2.2의 비용이 발생합니다.
모델 기본 소개
GPT-OSS-120B
gpt-oss-120B는 OpenAI가 개발한 오픈 웨이트 Mixture-of-Experts(MoE) 언어 모델로, 강력한 추론, 에이전트 애플리케이션, 확장 가능한 배포에 중점을 두고 있습니다. 고성능 기업용 및 개발자 사용 모두를 위해 설계되었으며, 핵심 추론 벤치마크에서 OpenAI의 o4-mini 모델과 거의 동등한 성능을 달성하면서도 비용 효율성과 접근성을 유지합니다.
- 파라미터: 총 1170억 개의 파라미터로, 추론 단계마다 51억 개의 활성 파라미터가 사용됩니다.
- 아키텍처: 36개 레이어에 128개의 전문가를 배치한 Mixture-of-Experts 설계로, SwiGLU 활성화 함수를 사용합니다. 효율적인 전문가 라우팅 시스템은 각 토큰에 대해 가장 관련성 높은 전문가 하위 집합만 활성화하여 전문성과 효율성을 높입니다. 성능 향상을 위해 어텐션 헤드별 학습된 어텐션 싱크 기능을 탑재했습니다.
- 컨텍스트 윈도우: 128K 토큰의 컨텍스트 윈도우를 지원하여 장문 추론, 다중 턴 대화, 대용량 문서나 코드베이스 처리가 가능합니다.
- 에이전트 기능: 함수 호출, 웹 브라우징, Python 코드 실행, 구조화된 출력을 기본 지원하여 지능형 에이전트 구축에 적합합니다. OpenAI의 응답 API 형식과 호환되며 사용자 정의 사용 사례에 맞게 미세 조정이 가능합니다.
GLM-4.5
GLM-4.5는 지능형 에이전트를 위해 설계된 기반 모델로, 총 3550억 개의 파라미터와 320억 개의 활성 파라미터를 갖추고 있습니다. 이 모델은 추론, 코딩, 지능형 에이전트 기능을 통합하여 지능형 에이전트 애플리케이션의 복잡한 요구사항을 충족합니다. GLM-4.5는 하이브리드 추론 모델로, 복잡한 추론 및 도구 사용을 위한 사고 모드와 즉시 응답을 위한 비사고 모드 두 가지 모드를 제공합니다.
주요 기능 및 아키텍처
- 파라미터: 총 3550억 개의 파라미터로, 320억 개의 활성 파라미터가 사용됩니다.
- 하이브리드 추론: 복잡한 추론 및 도구 사용을 위한 사고 모드, 즉시 응답을 위한 비사고 모드 두 가지 작동 모드를 제공합니다.
- 모델 버전: 기본 모델, 하이브리드 추론 모델, FP8 버전으로 제공됩니다.
- 컨텍스트 윈도우: 128K 토큰을 지원합니다.
- 라이선스: 상업적 사용 및 2차 개발이 가능한 MIT 오픈소스 라이선스를 적용받습니다.
- 기능: 복잡한 애플리케이션을 위한 통합 추론, 코딩, 지능형 에이전트 기능을 제공합니다.
GPT-OSS-120B와 GLM-4.5 벤치마크 비교
1. 지능 벤치마크
2. 컨텍스트 윈도우:
GPT OSS 120B: 128K 토큰
GLM-4.5: 128K 토큰
3. API 가격:
GPT OSS 120B: 1M 토큰당 입력 $0.1 / 출력 $0.5
GLM-4.5: 1M 토큰당 입력 $0.6 / 출력 $2.2
GPT-OSS-120B와 GLM-4.5 적용 스킬 테스트
1. GPT-OSS-120B vs GLM-4.5: 코드 생성에 더 적합한 모델은?
작업 설명: 다음 기능을 갖춘 Python 클래스 SmartQueue를 구현하세요:
- 우선순위 큐 연산을 지원합니다 (숫자가 낮을수록 높은 우선순위)
- 일괄 연산을 지원합니다 (한 번에 여러 요소를 추가/제거)
- 상위 N개의 최고 우선순위 항목을 자동으로 처리하는 지능형
auto_process()메서드를 구현합니다 - 기본 통계 추적 기능을 포함합니다 (총 처리 개수, 현재 큐 크기)
구체적 요구사항:
# Expected usage example:
queue = SmartQueue()
queue.add_task("task1", priority=2)
queue.add_batch([("task2", 1), ("task3", 3), ("task4", 1)])
print(queue.get_stats()) # Returns statistics dictionary
processed = queue.auto_process(count=2) # Process top 2 highest-priority tasks
print(processed) # Returns list of processed tasks
평가 기준:
- 자료구조 선택: 적절한 자료구조(예: heapq)가 선택되었는지 여부
- API 설계: 메서드 이름 및 파라미터 설계의 합리성
- 오류 처리: 엣지 케이스(빈 큐, 유효하지 않은 파라미터 등) 처리 여부
- 코드 구성: 클래스 구조 및 메서드 구현 로직의 적절성
- Python 관용구: Python 고유 기능 및 규칙의 활용도
- 알고리즘 효율성: 연산의 시간 복잡도 고려 여부
추가 과제: auto_process() 메서드는 처리된 항목을 의미 있는 형식으로 반환하고 내부 통계를 업데이트해야 합니다.
GPT-OSS-120B
GLM 4.5
GLM 4.5: 학습 및 간단한 프로토타입 제작에 적합하지만, 프로덕션 사용을 위해 최적화가 필요합니다
GPT OSS 120B: 전문 프로젝트에 즉시 사용 가능하며, 산업 수준의 코드 품질 기준을 충족합니다
직접 GPT-OSS-120B와 GLM-4.5를 사용해보세요!
2. GPT-OSS-120B와 비교했을 때 GLM-4.5는 모호한 쿼리를 어떻게 처리하나요?
Prompt: “The bank called about the check. It was insufficient.”
이 문장에는 여러 가지 모호성이 포함되어 있습니다. 다음 작업을 수행하세요:
- 이 문장의 가능한 모든 해석을 식별하세요
- 현대적 맥락에서 이러한 해석을 가능성 순으로 순위를 매기세요
- 모호성 해소를 위한 추론 과정을 설명하세요
- 확실하게 이해하기 위해 추가 맥락이 필요하다면, 어떤 구체적인 질문을 하시겠습니까?
- 누군가에게 발생했을 가능성이 높은 상황을 설명해주는 것처럼 응답을 작성하세요
추론 과정과 사용하는 모든 가정을 명시적으로 설명하세요.
GPT-OSS-120B
GLM 4.5
GPT-OSS-120B는 뛰어난 분석적 깊이와 체계적 추론 능력을 보여준 반면, GLM-4.5는 철저성과 사용성의 균형을 맞추는 더 나은 실용적 판단력을 보여주었습니다.
GPT-OSS-120B는 포괄적인 모호성 해소에 강점이 있는 반면, GLM-4.5는 명확성과 실행 가능한 가이드 제공을 우선시합니다.
Novita AI에서 GPT-OSS-120B와 GLM-4.5에 접근하는 방법
1단계: 로그인 후 모델 라이브러리 접근
계정에 로그인한 후 모델 라이브러리 버튼을 클릭하세요.
지금 GPT-OSS-120B와 GLM-4.5를 사용해보세요!
2단계: 모델 선택
사용 가능한 옵션을 둘러본 후 필요에 맞는 모델을 선택하세요.
3단계: 무료 체험 시작
선택한 모델의 기능을 탐색하기 위해 무료 체험을 시작하세요.
4단계: API 키 발급
API 인증을 위해 새로운 API 키를 발급해드립니다. ‘설정’ 페이지에 접속하면 이미지에 표시된 대로 API 키를 복사할 수 있습니다.
5단계: API 설치
사용 중인 프로그래밍 언어에 맞는 패키지 매니저를 사용해 API를 설치하세요.
설치 후 개발 환경에 필요한 라이브러리를 임포트하세요. API 키로 API를 초기화하면 Novita AI LLM과 상호작용을 시작할 수 있습니다. 아래는 Python 사용자를 위한 채팅 완성 API 사용 예시입니다.
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="",
)
model = "zai-org/glm-4.5"
stream = True # or False
max_tokens = 65536
system_content = ""Be a helpful assistant""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
**GPT-OSS-120B**는 프로덕션 준비 완료 솔루션으로, 산업 수준의 코드 품질 기준을 충족하는 포괄적인 분석적 깊이와 체계적 추론을 제공합니다. 문제 해결을 위한 포괄적인 접근 방식 덕분에 상세한 문서화와 엄격한 분석이 필요한 전문 프로젝트에 적합합니다.
**GLM-4.5**는 개발 및 프로토타이핑 도구로 뛰어난 성능을 발휘하며, 간소화된 추론을 통해 실용적이고 사용자 중심의 응답을 제공합니다. 철저성과 사용성의 균형을 맞추어 학습 환경과 신속한 프로토타이핑에 이상적입니다.
자주 묻는 질문
GPT-OSS-120B란 무엇인가요? GPT-OSS-120B는 OpenAI가 개발한 117B 파라미터 오픈 웨이트 MoE 모델로, 기업급 추론 및 프로덕션 배포를 목적으로 설계되었으며 o4-mini와 거의 동등한 성능을 제공합니다.
GLM 모델을 사용하는 방법은? GLM 모델은 Novita AI와 같은 공식 API 플랫폼을 통해 배포할 수 있으며, 구체적인 설정 방법은 모델 버전과 하드웨어 요구사항에 따라 다릅니다.
GPT-4o는 오픈소스인가요? 아니요. 하지만 GPT-OSS-120B는 오픈소스이며 GPT-4o와 유사한 성능을 제공하고, Novita AI에서 사용할 수 있습니다.
Novita AI 소개
Novita AI는 간단한 API를 통해 AI 모델을 쉽게 배포할 수 있는 개발자 친화적인 AI 클라우드 플랫폼으로, 구축 및 확장을 위한 저렴하고 안정적인 GPU 클라우드도 제공합니다.
