- Qwen 2.5 7B는 고급 프로그래밍 및 수학 능력, 향상된 명령 수행 능력, 구조화된 텍스트 생성을 제공합니다.
- 이 모델은 함수 호출을 지원합니다. Novita AI는 이 모델을 완전히 무료로 제공 하여 오픈소스 커뮤니티를 지원하고 기여하고 있습니다.
Novita AI는 이제 Qwen 2.5 7B를 무료로 제공하여 개발자들에게 강력한 프로그래밍, 수학, 구조화된 텍스트 생성 기능을 제공합니다. 완벽한 함수 호출 지원으로 이 모델은 AI와 실제 자동화 사이의 간극을 메우며, 더 스마트한 애플리케이션을 쉽게 구축할 수 있도록 돕습니다.
함수 호출이란 무엇인가요?
함수 호출은 AI, 특히 대규모 언어 모델(LLM)에서 모델이 텍스트 응답 생성 이상의 특정 작업을 수행하기 위해 외부 함수, 도구 또는 API와 상호작용할 수 있게 하는 기능입니다. 모델은 단순히 텍스트를 생성하는 대신, 사용자의 프롬프트를 기반으로 특정 함수를 호출해야 할 시점을 식별하고, 호출할 올바른 함수를 결정하며, 해당 함수에 필요한 매개변수를 지정합니다. 함수의 실제 실행은 모델 자체가 아닌 외부 시스템이나 애플리케이션에서 처리됩니다.
https://www.youtube.com/watch?v=aqdWSYWC\_LI
함수 호출은 어떻게 작동하나요?
함수 호출을 통해 AI 모델은 대화 중에 외부 도구, API 또는 내부 함수와 상호작용할 수 있습니다. 단순히 텍스트를 생성하는 대신, 모델은 **함수가 필요할 때 이를 인식 ** 하고, **구조화된 인수를 사용하여 올바른 함수 호출을 생성 ** 한 후, 실행하여 결과를 검색 할 수 있습니다. 이는 자연어 이해와 실제 행동 사이의 간극을 메워, 모델이 실시간 데이터 가져오기, 워크플로우 관리, 시스템 작업 자동 트리거 등의 작업을 수행할 수 있게 합니다.
함수 호출의 이점은 무엇인가요?
- 실제 상호작용: 모델이 정보를 제공할 뿐만 아니라 작업을 트리거할 수 있습니다.
- 자동화: 데이터 검색, 예약, 양식 제출 등과 같은 프로세스를 간소화합니다.
- 구조화된 이해: 모델이 텍스트 생성에만 의존하지 않고 출력을 미리 정의된 형식으로 구성하여 오류를 줄입니다.
- 향상된 사용 사례: 더 안정적이고 효율적인 동적 앱, 어시스턴트, 시스템을 구축할 수 있습니다.
- 개발자 효율성: 모델이 함수 호출을 지원한다는 것을 사전에 알면 대규모 수정 없이 더 빠르게 통합을 계획할 수 있습니다.
Qwen 2.5 7B란 무엇인가요?
Qwen 2.5 7B 벤치마크
Qwen 2.5 7B 하드웨어 요구 사항
Novita AI를 통해 Qwen 2.5 7B 함수 호출 사용하기
Novita AI는 각 LLM에 대한 지원 기능 설명을 제공하며, [콘솔](https://novita.ai/models-console/?utm_source=blog_llm&utm_medium=article&utm_campaign=/ llama-4-maverick-function-calling/) 및 [문서](https://novita.ai/docs/guides/llm-function-calling/?utm_source=blog_llm&utm_medium=article&utm_campaign= llama-4-maverick-function-calling)에서 직접 확인할 수 있습니다.
1단계: Novita AI에 로그인
Novita AI 홈페이지에 접속하면 오른쪽 상단의 “Log In” 또는 “Get Started” 버튼을 클릭하세요. Google, GitHub, Hugging Face 또는 ** 이메일**로 간편하게 로그인할 수 있습니다.
2단계: 콘솔에서 “Model API” 클릭!
로그인하면 Novita 콘솔 대시보드로 이동합니다. 상단에서 “Model API” 를 클릭하세요. 이 섹션에서는 사용 가능한 전체 모델 목록과 함께 함수 호출 ** 및 ** 구조화된 출력 지원 여부를 포함한 상세 정보를 확인할 수 있습니다.
3단계: 모델을 선택하고 확인하세요!
관심 있는 모델을 찾아 클릭하면 오른쪽에 패널이 나타납니다. “Supported Capabilities” 아래에서 ** 함수 호출 ** 및 ** 구조화된 출력** 지원 여부를 즉시 확인할 수 있습니다.
4단계: 클라이언트 초기화
먼저 Novita API 키로 클라이언트를 초기화해야 합니다.
from openai import OpenAI
import json
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
# Novita AI API 키는 https://novita.ai/settings/key-management에서 얻을 수 있습니다.
api_key="<YOUR Novita AI API Key>",
)
model = "deepseek/deepseek_v3"
5단계: 호출할 함수 정의
다음으로, 모델이 호출할 수 있는 Python 함수를 정의합니다. 이 예제에서는 날씨 정보를 가져오는 함수입니다.
# 날씨 데이터를 가져오는 예제 함수
def get_weather(location):
"""주어진 위치의 현재 날씨를 검색합니다."""
print("Calling get_weather function with location: ", location)
# 실제 애플리케이션에서는 여기서 외부 날씨 API를 호출합니다.
# 이는 하드코딩된 데이터를 반환하는 간단한 예제입니다.
return json.dumps({"location": location, "temperature": "60 degrees Fahrenheit"})
6단계: 도구와 사용자 메시지로 API 요청 구성
이제 Novita 엔드포인트에 API 요청을 생성합니다. 이 요청에는 모델이 사용할 수 있는 함수를 정의하는 tools 매개변수와 사용자의 메시지가 포함됩니다.
tools = [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get weather of an location, the user shoud supply a location first",
"parameters": {
"type": "object",
"properties": {
"location": {
"type": "string",
"description": "The city and state, e.g. San Francisco, CA",
}
},
"required": ["location"]
},
}
},
]
messages = [
{
"role": "user",
"content": "What is the weather in San Francisco?"
}
]
# 요청을 보내고 응답을 출력합니다.
response = client.chat.completions.create(
model=model,
messages=messages,
tools=tools,
)
# 프로덕션 환경에서는 응답에 tool_calls가 있는지 확인하세요.
tool_call = response.choices[0].message.tool_calls[0]
print(tool_call.model_dump())
출력:
{'id': '0', 'function': {'arguments': '{"location": "San Francisco, CA"}', 'name': 'get_weather'}, 'type': 'function'}
Novita AI의 Qwen 2.5 7B는 단순히 무료일 뿐만 아니라 게임 체인저입니다. 내장된 함수 호출을 통해 텍스트 생성 이상의 동적이고 실행 가능한 AI 솔루션을 만들 수 있습니다. Novita의 무료이고 접근하기 쉬운 플랫폼으로 AI 기반 워크플로우의 미래를 경험하세요.
자주 묻는 질문
함수 호출이란 무엇인가요?
LLM이 외부 도구나 API를 트리거하여 작업을 수행하고 데이터를 검색할 수 있게 해줍니다.
개발자가 함수 호출에 관심을 가져야 하는 이유는 무엇인가요?
AI를 텍스트 응답기에서 작업 수행자로 바꾸어 작업을 자동화하고 앱 성능을 향상시키며 시간을 절약해 줍니다.
Qwen 2.5 7B의 함수 호출은 어떻게 사용하나요?
Novita AI에 로그인하여 "Model API"에 접속하고 Qwen 2.5 7B를 선택한 후 함수 호출 지원 여부를 확인하고, 제공된 클라이언트 설정과 도구 정의를 사용하여 통합하면 됩니다.
Novita AI는 AI 야망을 실현하는 올인원 클라우드 플랫폼입니다. 통합 API, 서버리스, GPU 인스턴스 — 비용 효율적인 도구를 제공합니다. 인프라 걱정 없이 무료로 시작하여 AI 비전을 현실로 만드세요.
