Ключевые моменты
Gemma 3 27B — это современная мультимодальная модель ИИ от Google с 27 миллиардами параметров и поддержкой более 140 языков.
Вызов функций (Function Calling) с помощью таких инструментов, как LangChain, обеспечивает бесшовную интеграцию с внешними системами, расширяя возможности для выполнения специализированных задач: вычислений, анализа данных и автоматизации рабочих процессов.
В сочетании с мультимодальными возможностями Gemma 3 27B вызов функций значительно улучшает автоматизацию задач, позволяя организовать продвинутое взаимодействие между текстом, обработкой изображений и внешними инструментами. Открытый исходный код стимулирует широкое внедрение и инновации в различных отраслях.
Gemma 3 27B представляет собой прорыв в области мультимодального ИИ, предлагая непревзойдённые возможности в понимании и генерации текста и изображений. Благодаря 27 миллиардам параметров и поддержке более 140 языков модель легко справляется со сложными задачами в разных отраслях.
Что такое Gemma 3 27B?
Дата выхода
12 марта 2025 г.
Размер модели
27 миллиардов параметров
Открытый исходный код
Да (выпущена Google)
Поддержка языков
Более 140 языков
Обучающие данные
14 триллионов токенов
Сильные стороны
Математика, программирование, следование инструкциям
Мультимодальные возможности
Да (обрабатывает изображения и текст, выводит текст)
Контекстное окно
128K токенов
Тест мультимодальных возможностей Gemma 3 27B
Запрос: Скажи, во сколько раз увеличился Elo-рейтинг от Gemma 2 27B до Gemma 3 27B?
Источник: Google
Вывод: Модель правильно определила числа, но не вычислила кратность, как требовалось в запросе; вместо этого она лишь вычислила разницу.
На основе изображения вот расчёт:
- Elo-рейтинг Gemma 2 27B: 1220
- Elo-рейтинг Gemma 3 27B: 1338
Увеличение: 1338 - 1220 = 118
Elo-рейтинг вырос на 118 баллов от Gemma 2 27B к Gemma 3 27B.
Бенчмарки Gemma 3 27B
| Бенчмарк | Gemma 3 27B | DeepSeek R1 | LLaMA 3.3 70B |
|---|---|---|---|
| LMSys Elo Score | 1339 | ~1360 | ~1260 |
| MMLU-Pro | 67.5 | 84.0 | 66.4 |
| LiveCodeBench | 29.7 | 65.9 | ~29 |
| GPQA Diamond | 42.4 | 71.5 | 50.5 |
| MATH | 69.0 | 97.3 | 77.0 |
Источник: Hugging Face
Какие проблемы можно решить, объединив мультимодальные модели с вызовом функций?
Проблема 1
Обработка больших файлов при ограниченных ресурсах
Хотя LLM могут напрямую обрабатывать изображения или видео, работа с большими файлами (например, длинными видео или изображениями высокого разрешения) может потреблять значительные ресурсы и выходить за пределы контекстного окна модели.
Роль вызова функций: Распределение сложных или ресурсоёмких задач между внешними системами, позволяющее LLM сосредоточиться на координации и интеграции результатов.
Проблема 2
Расширение возможностей для конкретных функций
LLM в основном ориентированы на понимание и генерацию контента, однако в некоторых сценариях пользователям могут потребоваться более специфические функции (например, построение графиков, редактирование изображений, обрезка видео), выходящие за рамки встроенных возможностей LLM.
Роль вызова функций: Расширение возможностей LLM за счёт генерации или выполнения специализированных результатов через внешние инструменты.
Проблема 3
Достижение более глубокого анализа с помощью профессиональных инструментов
LLM могут анализировать мультимодальные данные (текст, изображения, видео), но им может не хватать глубины для выполнения профессиональных задач, таких как медицинский анализ изображений или высокоточное редактирование видео.
Роль вызова функций: Делегирование задач профессиональным инструментам или API, обеспечивающее более высокую точность и глубину анализа по сравнению с использованием только LLM.
Как использовать вызов функций Llama 3.3 70B через Novita AI
Шаг 1: Получить API-ключ и установить его!
Перейдите на страницу «Управление ключами» и скопируйте API-ключ, как показано на изображении.
Попробуйте Gemma 3 27B Demo прямо сейчас!
Шаг 2: Использовать LangChain для реализации вызова функций
Мы создадим простое математическое приложение, которое может выполнять операции сложения и умножения.
💡 Хотя в этом руководстве для удобства используется LangChain, реализация вызова функций не требует какого-либо конкретного фреймворка. Ключ в правильном построении промптов, чтобы модель понимала и корректно вызывала функции. LangChain используется здесь только для упрощения реализации.
Предварительные требования
Сначала установите необходимые пакеты:
pip install langchain-openai python-dotenv
Настройка окружения
Создайте файл .env в корне проекта и добавьте ваш API-ключ Novita AI:
NOVITA_API_KEY=your_api_key_here
Шаг 3: Этапы реализации
1. Определение инструментов
Сначала создадим два простых математических инструмента с помощью декоратора @tool из LangChain:
from langchain_core.tools import tool
@tool
def multiply(x: float, y: float) -> float:
"""Multiply two numbers together."""
return x * y
@tool
def add(x: int, y: int) -> int:
"""Add two numbers."""
return x + y
tools = [multiply, add]
2. Создание функции выполнения инструментов
Далее реализуем функцию для выполнения инструментов:
from typing import Any, Dict, Optional, TypedDict
from langchain_core.runnables import RunnableConfig
class ToolCallRequest(TypedDict):
name: str
arguments: Dict[str, Any]
def invoke_tool(
tool_call_request: ToolCallRequest,
config: Optional[RunnableConfig] = None
):
"""Execute the specified tool with given arguments."""
tool_name_to_tool = {tool.name: tool for tool in tools}
name = tool_call_request["name"]
requested_tool = tool_name_to_tool[name]
return requested_tool.invoke(tool_call_request["arguments"], config=config)
3. Настройка конвейера LangChain
Создайте цепочку, которая использует LLM Novita AI для выбора и подготовки вызовов инструментов:
from langchain_openai import ChatOpenAI
from langchain_core.output_parsers import JsonOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.tools import render_text_description
def create_chain():
"""Create a chain that uses the specified LLM model to select and prepare tool calls."""
model = ChatOpenAI(
model="google/gemma-3-27b-it",
api_key=os.getenv("NOVITA_API_KEY"),
base_url="https://api.novita.ai/v3/openai",
)
rendered_tools = render_text_description(tools)
system_prompt = f"""\
You are an assistant that has access to the following set of tools.
Here are the names and descriptions for each tool:
{rendered_tools}
Given the user input, return the name and input of the tool to use.
Return your response as a JSON blob with 'name' and 'arguments' keys.
The `arguments` should be a dictionary, with keys corresponding
to the argument names and the values corresponding to the requested values.
"""
prompt = ChatPromptTemplate.from_messages(
[("system", system_prompt), ("user", "{input}")]
)
return prompt | model | JsonOutputParser()
4. Создание основной функции обработки
Реализуйте основную функцию, которая обрабатывает математические запросы:
def process_math_query(query: str):
"""Process a mathematical query by using an LLM to select the appropriate tool and execute it."""
chain = create_chain()
message = chain.invoke({"input": query})
result = invoke_tool(message, config=None)
return message, result
5. Пример использования
Вот как использовать реализацию:
if __name__ == "__main__":
message, result = process_math_query(
"meta-llama/llama-3.3-70b-instruct",
"what's 3 plus 1132"
)
print(result) # Output: 1135
Gemma 3 27B переопределяет мультимодальный ИИ с лидирующей производительностью в математике, программировании и задачах, основанных на инструкциях. Её мультимодальная интеграция и обширные обучающие данные делают её универсальным инструментом для разработчиков и исследователей.
Часто задаваемые вопросы
Что такое Gemma 3 27B?
Gemma 3 27B — это мультимодальная модель ИИ с 27 миллиардами параметров, способная обрабатывать текст и изображения и поддерживающая более 140 языков.
Как Gemma 3 27B сравнивается с предшественником?
Gemma 3 27B демонстрирует значительные улучшения, включая увеличение Elo-рейтинга на 118 баллов и повышенную производительность в задачах программирования, математики и мультимодальных задачах.
Является ли Gemma 3 27B моделью с открытым исходным кодом?
Да, Gemma 3 27B имеет открытый исходный код, что поощряет инновации, создаваемые сообществом.
Novita AI — это облачная платформа ИИ, которая предоставляет разработчикам простой способ развёртывания моделей ИИ с помощью нашего простого API, а также надёжный и доступный по цене GPU-облако для создания и масштабирования решений.
