친구를 Novita AI에 추천하면 두 분 모두 LLM API 크레딧으로 $10를 받을 수 있습니다. 총 최대 $500의 보상을 받으세요.
개발자 커뮤니티를 지원하기 위해 Qwen2.5-7B, Qwen 3 0.6B, Qwen 3 1.7B, Qwen 3 4B가 현재 Novita AI에서 무료로 제공됩니다.
날씨를 알려줄 뿐만 아니라 실시간으로 확인하고, 개념을 설명할 뿐만 아니라 맞춤형 보고서, 차트를 생성하거나 회의 일정을 잡아주는 AI를 상상해 보세요. 추론, 다국어 대화, 시각적 생성(HTML/SVG)에 최적화된 강력한 경량 모델인 GLM Z1 9B 0414 와 결합하여 함수 호출(Function Calling)은 더욱 실용적이 됩니다. 함께, 이들은 스마트 어시스턴트를 가능하게 합니다.
함수 호출(Function Calling)이란?
https://www.youtube.com/watch?v=Qor2VZoBib0
함수 호출(Function Calling)을 사용하면 대규모 언어 모델(LLM)이 외부 도구, API 및 서비스와 상호 작용할 수 있습니다. 훈련 데이터에만 의존하는 대신 이제 모델은 다음을 수행할 수 있습니다:
- 외부 도움이 필요한 시점 결정
- 호출할 올바른 함수 선택
- 적절하게 구조화된 매개변수 생성
- 결과를 응답에 통합
AI에 계산기, 달력 또는 여행 앱을 제공하여 작업을 지원하는 것과 같습니다.
함수 호출 작동 방식
- 사용자 입력 → 모델이 쿼리를 수신하고 분석
- 함수 선택 → 관련 도구 또는 API 결정
- 매개변수 생성 → 구조화된 입력(예: JSON) 구축
- 함수 실행 → 함수를 실행하고 결과 검색
- 응답 통합 → 완전한 답변을 사용자에게 반환
예시: “도쿄 날씨는 어떤가요?”
| 단계 | 설명 |
| 사용자 입력 | “도쿄 날씨는 어떤가요?” |
| 필요 식별 | 실시간 데이터 필요 |
| 함수 선택 | getWeather(location, units) 호출 |
| 매개변수 생성 | { “location”: “Tokyo”, “units”: “celsius” } |
| API 실행 | 날씨 API 요청 |
| 최종 응답 | “오늘 도쿄는 22°C이고 맑습니다.” |
GLM Z1 9B 0414란 무엇인가요?
모델 사양
- 매개변수: 90억(9B), 성능과 리소스 효율성의 균형을 맞춘 경량 설계
- 컨텍스트 윈도우: 32K, 긴 텍스트 처리 및 복잡한 작업 지원
성능 장점
- 높은 성능 대 크기 비율: 수학적 추론, 일반 작업 및 복잡한 추론 시나리오에서 뛰어나 경량 배포에 이상적
- 주요 강점:
- 수학적 추론: AIME24, AIME25, Omni-MATH와 같은 작업에서 뛰어난 성능
- 코드 생성: LCB(2408–2501)와 같은 작업에서 강력한 결과
- 지시 따르기 및 Q&A: SysBench(ISR), IFEval, ArenaHard 작업에서 탁월
- 포괄적인 도구 통합: BFCL(v3)와 같은 작업에서 우수한 성능
학습 및 최적화
- 사전 학습 데이터: GLM-4-32B의 15T 고품질 데이터를 기반으로 구축되었으며, 광범위한 추론 유형 합성 데이터를 포함하여 논리 및 추론 능력 강화
- 사후 학습 최적화: 인간 선호도 정렬(Human Preference Alignment)을 사용하여 대화 시나리오에서 성능 최적화
GLM Z1 9B 0414 확장 기능
- 다국어 지원
- 26개 언어 지원, 중국어 및 영어에서 강력한 성능, 글로벌 애플리케이션에 이상적
- 텍스트 생성 및 시각화
- 텍스트-텍스트: 다양한 텍스트 생성 작업 처리
- 시각적 출력: 구조화된 HTML 및 SVG 콘텐츠 생성 가능, 상호 작용성 및 사용성 향상
- 데이터 및 학습 강점
- 광범위한 사전 학습: 합성 추론 데이터를 포함한 광범위한 도메인의 15T 고품질 데이터로 학습, 강력한 일반화 능력 보장
- 대화 최적화: 인간 선호도 정렬로 미세 조정되어 현실적이고 응답성 있는 대화 생성
GLM Z1 9B 0414 + 함수 호출 = ?
1. 다국어 애플리케이션
* 실시간 번역:
함수 호출을 사용하여 번역 API를 통합, 지원되는 26개 언어에 걸쳐 즉각적이고 정확한 번역 가능
- 응용:
- 다국어 고객 지원 시스템
- 글로벌 컨퍼런스 및 라이브 스트림용 실시간 자막
* 교차 언어 챗봇:
대화 최적화와 함수 호출을 활용하여 여러 언어로 원활하게 대화 처리, 문화적 및 맥락적 정확성 제공
- 응용:
- 글로벌 전자상거래 플랫폼
- 다국어 교육용 챗봇
2. 동적 텍스트 생성
* 콘텐츠 개인화:
함수 호출을 사용하여 사용자 데이터에 접근하고 자연어로 개인화된 추천 또는 보고서 생성
- 응용:
- 교육 플랫폼용 개인화된 학습 계획
- 전자상거래용 맞춤형 마케팅 콘텐츠
* 자동 보고서 생성:
텍스트 생성과 함수 호출을 결합하여 실시간 데이터(예: 판매, 분석)를 가져오고 구조화된 비즈니스 보고서 생성
- 응용:
- 비즈니스 인텔리전스 대시보드
- 재무 또는 운영 요약
3. 시각화 기반 애플리케이션
* 대화형 콘텐츠 생성:
함수 호출을 활용하여 구조화된 HTML 및 SVG 요소 생성, 상호 작용성 및 시각화 향상
- 응용:
- 데이터 분석 플랫폼용 동적 차트 및 그래프
- 교육 도구용 대화형 학습 모듈 또는 인포그래픽
* 웹 콘텐츠 자동화:
동적 웹 페이지 또는 애플리케이션용 시각적 구성 요소 자동 생성
- 응용:
- 자동화된 뉴스레터 생성
- 대화형 웹 디자인 도우미
4. 대화 기반 지능형 어시스턴트
* 실시간 데이터 접근이 가능한 스마트 어시스턴트:
대화 최적화와 함수 호출을 사용하여 실시간 데이터(예: 날씨, 뉴스, 주가)를 검색하고 실행 가능한 응답 제공
- 응용:
- 가상 개인 비서
- 실시간 여행 및 이벤트 플래너
* 작업 자동화:
함수 호출을 통해 어시스턴트가 일정 관리, 이메일 발송, IoT 장치 관리 등의 작업을 실행
- 응용:
- 스마트 홈 시스템 (예: 조명, 온도 조절기 제어)
- 사무 자동화 도구 (예: 회의 일정, 이메일 초안)
5. 고급 학습 및 추론 애플리케이션
* 교육 도구:
추론 능력과 함수 호출을 결합하여 교육 콘텐츠 가져오기 및 분석, 퀴즈 생성, 수학 문제 해결
- 응용:
- 적응형 학습 플랫폼
- 수학 및 과학 과외 도우미
* 과학 연구 지원:
추론 사전 학습과 함수 호출을 사용하여 통찰력 생성 또는 데이터셋 분석, 외부 데이터 검색
- 응용:
- 과학 또는 기술 분야 연구자를 위한 도구
- 자동화된 문헌 검토 도우미
6. 멀티모달 애플리케이션
* 멀티모달 콘텐츠 어시스턴트:
텍스트 생성 및 시각적 기능을 통합하여 시각적 설명이나 대화형 가이드와 같은 멀티모달 출력 생성
- 응용:
- 대화형 의료 진단 도구 (예: 텍스트 설명과 주석이 있는 시각 자료 결합)
- 텍스트와 다이어그램이 포함된 제품 조립 또는 수리 지침
* 창의적 콘텐츠 생성:
시각적 출력 기능을 사용하여 예술적 시각 자료, 인포그래픽, 광고 생성
- 응용:
- 창의적 글쓰기 또는 디자인 도우미
- 마케팅 캠페인용 광고 카피 및 그래픽 제작
Novita AI를 통해 GLM Z1 9B 0414 함수 호출 사용하는 방법
Novita AI는 각 LLM에 대한 기능 설명 지원을 시작했습니다. 이를 [콘솔](https://novita.ai/models-console/?utm_source=blog_llm&utm_medium=article&utm_campaign=/ llama-4-maverick-function-calling/) 및 [문서](https://novita.ai/docs/guides/llm-function-calling/?utm_source=blog_llm&utm_medium=article&utm_campaign= llama-4-maverick-function-calling/)에서 직접 확인할 수 있습니다.
1단계: Novita AI에 로그인
Novita AI 홈페이지에 접속한 후 오른쪽 상단의 “Log In” 또는 “Get Started” 버튼을 클릭하세요. Google, GitHub, Hugging Face 또는 ** 이메일**로 쉽게 로그인할 수 있습니다. 선택은 자유입니다!
2단계: 콘솔에서 “Model API” 클릭!
로그인하면 Novita 콘솔 대시보드로 이동합니다. 상단에서 “Model API” 를 클릭하세요. 이 섹션에서는 사용 가능한 모델의 전체 목록과 함께 ** 함수 호출(Function Calling)** 및 ** 구조화된 출력(Structured Outputs)** 지원 여부를 포함한 자세한 기능 정보를 확인할 수 있습니다.
3단계: 모델을 선택하고 확인하세요!
관심 있는 모델을 찾아 클릭하면 오른쪽에 패널이 나타납니다. “Supported Capabilities” 아래에서 ** 함수 호출(Function Calling)** 및 ** 구조화된 출력(Structured Outputs)** 지원 여부를 즉시 확인할 수 있습니다.
4단계: 클라이언트 초기화
먼저 Novita API 키로 클라이언트를 초기화합니다.
from openai import OpenAI
import json
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
# Get the Novita AI API Key from: https://novita.ai/settings/key-management.
api_key="<YOUR Novita AI API Key>",
)
model = "thudm/glm-z1-9b-0414"
5단계: 호출할 함수 정의
다음으로 모델이 호출할 수 있는 Python 함수를 정의합니다. 이 예제는 날씨 정보를 가져오는 함수입니다.
# Example function to simulate fetching weather data.
def get_weather(location):
"""Retrieves the current weather for a given location."""
print("Calling get_weather function with location: ", location)
# In a real application, you would call an external weather API here.
# This is a simplified example returning hardcoded data.
return json.dumps({"location": location, "temperature": "60 degrees Fahrenheit"})
6단계: 도구 및 사용자 메시지로 API 요청 구성
이제 Novita 엔드포인트에 API 요청을 생성합니다. 이 요청에는 모델이 사용할 수 있는 함수를 정의하는 tools 매개변수와 사용자 메시지가 포함됩니다.
tools = [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get weather of an location, the user shoud supply a location first",
"parameters": {
"type": "object",
"properties": {
"location": {
"type": "string",
"description": "The city and state, e.g. San Francisco, CA",
}
},
"required": ["location"]
},
}
},
]
messages = [
{
"role": "user",
"content": "What is the weather in San Francisco?"
}
]
# Let's send the request and print the response.
response = client.chat.completions.create(
model=model,
messages=messages,
tools=tools,
)
# Please check if the response contains tool calls if in production.
tool_call = response.choices[0].message.tool_calls[0]
print(tool_call.model_dump())
출력:
{'id': '0', 'function': {'arguments': '{"location": "San Francisco, CA"}', 'name': 'get_weather'}, 'type': 'function'}
함수 호출 + GLM Z1 9B = 말하고, 생각하고, 행동할 수 있는 지능적이고 모듈식이며 다국어를 지원하는 어시스턴트입니다. 실시간 대시보드, 언어 봇 또는 과학 도구를 구축하든 이 조합은 LLM 추론과 행동을 연결합니다. Novita AI의 플러그 앤 플레이 지원 덕분에 개발자는 이제 최소한의 코드와 최대의 유연성으로 이러한 기능을 제품에 쉽게 도입할 수 있습니다.
자주 묻는 질문
함수 호출(Function Calling)은 정확히 무엇을 가능하게 하나요?
함수 호출을 통해 LLM은 날씨 API, 데이터베이스 또는 사용자 정의 함수와 같은 외부 도구의 결과를 선택하고 실행하며 응답할 수 있습니다.
GLM Z1 9B가 함수 호출에 특별한 이유는 무엇인가요?
강력한 추론 능력, 다국어 지원, HTML/SVG 생성 기능 덕분에 동적이고 대화형이며 글로벌한 애플리케이션에 이상적입니다.
함수 호출 구현이 어렵나요?
아닙니다. Novita AI를 사용하면 함수를 정의하고 스키마를 제공한 후 해당 API를 사용하여 모델의 응답을 도구 출력과 통합하기만 하면 됩니다.
Novita AI는 AI 야망을 실현하는 올인원 클라우드 플랫폼입니다. 통합 API, 서버리스, GPU 인스턴스 — 필요한 비용 효율적인 도구입니다. 인프라를 제거하고 무료로 시작하여 AI 비전을 현실로 만드세요.
