주요 요점
Gemma 3 27B 는 Google이 출시한 최첨단 멀티모달 AI 모델로, **270억 개의 파라미터 ** 와 140개 이상의 언어 를 지원합니다.
LangChain과 같은 도구를 통한 함수 호출(Function Calling) 은 외부 시스템과의 원활한 통합을 가능하게 하여 계산, 데이터 분석, 워크플로 자동화와 같은 특수 작업을 실행하는 기능을 확장합니다.
Gemma 3 27B의 멀티모달 기능 과 결합된 함수 호출은 작업 자동화를 크게 향상시켜 텍스트, 이미지 처리 및 외부 도구 간의 고급 협업을 가능하게 합니다. 오픈소스로 제공되어 산업 전반에 걸쳐 폭넓은 채택과 혁신을 장려합니다.
Gemma 3 27B 는 멀티모달 AI의 획기적인 발전으로, 텍스트와 이미지를 이해하고 생성하는 데 탁월한 능력을 제공합니다. 270억 개의 파라미터와 140개 이상의 언어 지원으로 다양한 산업 분야의 복잡한 작업을 원활하게 처리합니다.
Gemma 3 27B란 무엇인가요?
출시일
2025년 3월 12일
모델 크기
270억 개의 파라미터
오픈소스
예 (Google 출시)
언어 지원
140개 이상의 언어
훈련 데이터
14조 개의 토큰
강점
수학, 코딩, 명령 수행
멀티모달 기능
예 (이미지 및 텍스트 처리, 텍스트 출력)
컨텍스트 윈도우
128K 토큰
Gemma 3 27B 멀티모달 기능 테스트
프롬프트: Gemma 2 27B에서 Gemma 3 27B로 Elo 점수가 몇 배 증가했는지 알려주세요.
출처: Google
출력: 숫자를 정확히 식별했지만 프롬프트가 요청한 배수는 계산하지 않고 차이만 계산했습니다.
이미지를 기반으로 계산한 결과는 다음과 같습니다.
- Gemma 2 27B Elo 점수: 1220
- Gemma 3 27B Elo 점수: 1338
증가: 1338 - 1220 = 118
Elo 점수가 Gemma 2 27B에서 Gemma 3 27B로 118점 증가했습니다.
Gemma 3 27B 벤치마크
| 벤치마크 | Gemma 3 27B | DeepSeek R1 | LLaMA 3.3 70B |
|---|---|---|---|
| LMSys Elo Score | 1339 | ~1360 | ~1260 |
| MMLU-Pro | 67.5 | 84.0 | 66.4 |
| LiveCodeBench | 29.7 | 65.9 | ~29 |
| GPQA Diamond | 42.4 | 71.5 | 50.5 |
| MATH | 69.0 | 97.3 | 77.0 |
출처: Hugging Face
멀티모달 모델과 함수 호출을 결합하면 어떤 문제를 해결할 수 있나요?
문제 1
제한된 리소스로 대용량 파일 처리
LLM은 이미지나 비디오를 직접 처리할 수 있지만, 대용량 파일(예: 긴 비디오 또는 고해상도 이미지)을 처리하면 많은 리소스를 소비하고 모델의 컨텍스트 윈도우를 초과할 수 있습니다.
함수 호출 역할: 복잡하거나 리소스 집약적인 작업을 외부 시스템에 분산하여 LLM이 결과 조정 및 통합에 집중할 수 있도록 합니다.
문제 2
특정 기능에 대한 역량 확장
LLM은 주로 콘텐츠 이해 및 생성에 중점을 두지만, 특정 시나리오에서는 사용자가 LLM의 내장 기능을 넘어서는 더 구체적인 기능(예: 차트 생성, 이미지 편집, 비디오 트리밍)이 필요할 수 있습니다.
함수 호출 역할: LLM이 외부 도구를 통해 특수 출력을 생성하거나 실행할 수 있도록 하여 LLM의 기능을 확장합니다.
문제 3
전문 도구를 사용한 심층 분석 달성
LLM은 텍스트, 이미지, 비디오와 같은 멀티모달 입력을 분석할 수 있지만, 의료 이미지 분석이나 고정밀 비디오 편집과 같은 전문 수준의 작업을 수행하는 데는 깊이가 부족할 수 있습니다.
함수 호출 역할: 작업을 전문 도구나 API에 위임하여 LLM 단독으로 제공할 수 있는 것보다 더 높은 정확도와 심층 분석을 보장합니다.
Novita AI를 통해 Llama 3.3 70B 함수 호출 사용하기
1단계: API 키를 받아 설치하세요!
“Key Management” 페이지로 이동하여 이미지에 표시된 대로 API 키를 복사할 수 있습니다.
2단계: Langchain을 사용하여 함수 호출 구현하기
덧셈과 곱셈 연산을 수행할 수 있는 간단한 수학 애플리케이션을 만들어 보겠습니다.
💡 이 가이드는 편의를 위해 LangChain을 사용하지만, 함수 호출을 구현하는 데 특정 프레임워크가 필요한 것은 아닙니다. 핵심은 모델이 함수를 이해하고 올바르게 호출하도록 하는 적절한 프롬프트를 설계하는 것입니다. 여기서는 구현을 간소화하기 위해 LangChain을 사용합니다.
사전 요구 사항
먼저 필요한 패키지를 설치합니다.
pip install langchain-openai python-dotenv
환경 설정
프로젝트 루트에 .env 파일을 만들고 Novita AI API 키를 추가합니다.
NOVITA_API_KEY=your_api_key_here
3단계: 구현 단계
1. 도구 정의
먼저 LangChain의 @tool 데코레이터를 사용하여 두 가지 간단한 수학 도구를 만듭니다.
from langchain_core.tools import tool
@tool
def multiply(x: float, y: float) -> float:
"""Multiply two numbers together."""
return x * y
@tool
def add(x: int, y: int) -> int:
"""Add two numbers."""
return x + y
tools = [multiply, add]
2. 도구 실행 함수 생성
다음으로 도구를 실행하는 함수를 구현합니다.
from typing import Any, Dict, Optional, TypedDict
from langchain_core.runnables import RunnableConfig
class ToolCallRequest(TypedDict):
name: str
arguments: Dict[str, Any]
def invoke_tool(
tool_call_request: ToolCallRequest,
config: Optional[RunnableConfig] = None
):
"""Execute the specified tool with given arguments."""
tool_name_to_tool = {tool.name: tool for tool in tools}
name = tool_call_request["name"]
requested_tool = tool_name_to_tool[name]
return requested_tool.invoke(tool_call_request["arguments"], config=config)
3. LangChain 파이프라인 설정
Novita AI의 LLM을 사용하여 도구 호출을 선택하고 준비하는 체인을 만듭니다.
from langchain_openai import ChatOpenAI
from langchain_core.output_parsers import JsonOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.tools import render_text_description
def create_chain():
"""Create a chain that uses the specified LLM model to select and prepare tool calls."""
model = ChatOpenAI(
model="google/gemma-3-27b-it",
api_key=os.getenv("NOVITA_API_KEY"),
base_url="https://api.novita.ai/v3/openai",
)
rendered_tools = render_text_description(tools)
system_prompt = f"""\
You are an assistant that has access to the following set of tools.
Here are the names and descriptions for each tool:
{rendered_tools}
Given the user input, return the name and input of the tool to use.
Return your response as a JSON blob with 'name' and 'arguments' keys.
The `arguments` should be a dictionary, with keys corresponding
to the argument names and the values corresponding to the requested values.
"""
prompt = ChatPromptTemplate.from_messages(
[("system", system_prompt), ("user", "{input}")]
)
return prompt | model | JsonOutputParser()
4. 메인 처리 함수 생성
수학 질의를 처리하는 메인 함수를 구현합니다.
def process_math_query(query: str):
"""Process a mathematical query by using an LLM to select the appropriate tool and execute it."""
chain = create_chain()
message = chain.invoke({"input": query})
result = invoke_tool(message, config=None)
return message, result
5. 사용 예시
구현을 사용하는 방법은 다음과 같습니다.
if __name__ == "__main__":
message, result = process_math_query(
"meta-llama/llama-3.3-70b-instruct",
"what's 3 plus 1132"
)
print(result) # Output: 1135
Gemma 3 27B는 수학, 코딩 및 명령 기반 작업에서 업계 최고의 성능으로 멀티모달 AI를 재정의합니다. **멀티모달 통합 ** 과 광범위한 훈련 데이터 는 개발자와 연구자에게 다재다능한 도구가 됩니다.
자주 묻는 질문
Gemma 3 27B란 무엇인가요?**
Gemma 3 27B는 **270억 개의 파라미터 ** 를 가진 멀티모달 AI 모델로, **텍스트와 이미지 ** 를 처리하고 140개 이상의 언어 를 지원합니다.
Gemma 3 27B는 이전 모델과 어떻게 비교되나요?
Gemma 3 27B는 Elo 점수가 118점 증가 하고 코딩, 수학 및 멀티모달 작업에서 향상된 성능을 포함하여 상당한 개선을 보여줍니다.
Gemma 3 27B는 오픈소스인가요?
예, Gemma 3 27B는 오픈소스이며 커뮤니티 주도 혁신을 장려합니다.
Novita AI는 개발자가 간단한 API를 사용하여 AI 모델을 쉽게 배포할 수 있는 AI 클라우드 플랫폼이며, 구축 및 확장을 위한 저렴하고 안정적인 GPU 클라우드를 제공합니다.
