Ключевые моменты
DeepSeek R1:
Разработан для чистой вычислительной мощи, превосходен в математике, программировании и задачах общего знания.
Оснащён архитектурой Mixture-of-Experts объемом 671B с обучением на основе подкрепления.
Требует значительных вычислительных ресурсов, но дистиллированные версии (8B–70B) предлагают более доступные варианты.
Gemma 3:
Ставит во главу угла универсальность, эффективность и мультимодальность, поддерживает более 140 языков и задачи компьютерного зрения.
Эффективно работает на одиночных GPU или TPU, что делает её идеальной для сред с ограниченными ресурсами.
Превосходит в создании контента, многоязычных задачах и приложениях на устройствах с меньшими моделями (1B–4B).
Если вы хотите оценить DeepSeek R1 для своих сценариев использования — после регистрации Novita AI предоставляет кредит в $0.5, чтобы вы могли начать!
Ландшафт больших языковых моделей (LLM) развивается с поразительной скоростью, и каждая новая итерация переопределяет возможности искусственного интеллекта. Среди последних достижений — Gemma 3 от Google, новейшее дополнение к семейству их открытых моделей, и R1 от DeepSeek AI, модель, специально разработанная для превосходства в способностях к рассуждению. Эта статья предлагает подробное техническое сравнение этих двух ведущих моделей, анализируя их архитектуру, производительность и пригодность для различных применений.
Основное описание моделей
Для начала сравнения сначала разберёмся с фундаментальными характеристиками каждой модели.
DeepSeek R1
- Дата выхода: 21 января 2025 года
- Масштаб модели:
- Ключевые особенности:
- Размер модели: 671B параметров (37B активных на токен)
- Токенизатор: Улучшенный токенизатор с тегами саморефлексии
- Поддерживаемые языки: Многоязычность с культурной адаптацией
- Мультимодальность: Только текст
- Окно контекста: 128K токенов
- Форматы хранения: Поддержка квантования Q8/Q5
- Архитектура: Mixture of Experts (MoE) + конвейер обучения с подкреплением
- Метод обучения: Построена на базе V3 с конвейером RL (SFT → RL → SFT → RL)
- Обучающие данные: База V3 + данные оптимизации RL
Gemma 3
- Дата выхода: 12 марта 2025 года
- Масштаб модели:
- Gemma 1B (только текст, окно контекста 32k)
Gemma 4B (мультимодальная — зрение, окно контекста 128k)
Gemma 12B (мультимодальная — зрение, окно контекста 128k)
Gemma 27B (мультимодальная — зрение, окно контекста 128k)
- Gemma 1B (только текст, окно контекста 32k)
- Ключевые особенности:
- Поддерживаемые языки: Поддерживает более 140 языков.
- Предварительное обучение
- Новый токенизатор для более чем 140 языков.
- Обучена на:
- 2T токенов (1B), 4T токенов (4B), 12T токенов (12B), 14T токенов (27B).
- Использованы Google TPU и фреймворк JAX.
- Пост-обучение
- Дистилляция: От более крупной инструкционной модели.
- RLHF: Согласование с человеческими предпочтениями.
- RLMF: Улучшение математических рассуждений.
- RLEF: Повышение навыков программирования.
от google
После выхода DeepSeek-R1 многие модели, включая Gemma 3, начали включать различные формы обучения с подкреплением (RL) в своё обучение, такие как RLHF, RLMF и RLEF, для улучшения специфических способностей, таких как согласование, рассуждение и программирование.
Сравнение скорости
Если вы хотите проверить это самостоятельно, вы можете начать бесплатную пробную версию на сайте Novita AI.
Попробовать DeepSeek R1 Demo сейчас!
Сравнение скорости
Gemma 3 27B превосходит DeepSeek R1 по скорости вывода и задержке.
Стоит отметить, что Novita AI запускает Turbo-версию с трёхкратной пропускной способностью и временной скидкой 20%!
Сравнение бенчмарков
Теперь, когда мы установили основные характеристики каждой модели, давайте углубимся в их производительность в различных бенчмарках. Это сравнение поможет проиллюстрировать их сильные стороны в разных областях.
| Бенчмарк | DeepSeek-R1 | Gemma 3 27B | Gemma 3 1B |
|---|---|---|---|
| LiveCodeBench (программирование) | 62 | 30 | 2 |
| GPQA Diamond | 71 | 42 | 19 |
| MATH-500 | 96 | 50 | - |
| MMLU-Pro | 84 | 68 | 14.7 |
Тем не менее, DeepSeek-R1 выделяется в бенчмарках по математике и программированию, тогда как Gemma 3 демонстрирует сбалансированную производительность в рассуждении, многоязычности и мультимодальности. Примечательно, что внутренняя оценка Google показывает, что Elo-рейтинг Gemma 3 очень близок к показателю DeepSeek-R1, при этом требуя значительно меньше вычислительных ресурсов.
Если вы хотите увидеть больше сравнений, ознакомьтесь с этими статьями:
- Deepseek v3 vs Llama 3.3 70b: Language Tasks vs Code & Math
- DeepSeek R1 vs OpenAI o1: Distinct Architectures of GRPO and PPO
- QwQ 32B: A Compact AI Rival to DeepSeek R1
Требования к оборудованию
| Модель | Размер параметров | Конфигурация GPU |
|---|---|---|
| DeepSeek-R1-Distill-Llama-8B | 4.9B | 1 x NVIDIA RTX 4090 (24GB VRAM) с шардингом модели |
| DeepSeek-R1-Distill-Qwen-14B | 9.0B | 1 x NVIDIA A100 (80GB VRAM) или 2 x RTX 4090 (24GB VRAM) с тензорным параллелизмом |
| DeepSeek-R1-Distill-Qwen-32B | 32B | 2 x NVIDIA A100 (80GB VRAM) или 1 x NVIDIA H100 (80GB VRAM) или 4 x RTX 4090 (24GB VRAM) с тензорным параллелизмом |
| DeepSeek-R1-Distill-Llama-70B | 70B | 4 x NVIDIA A100 (80GB VRAM) или 2 x NVIDIA H100 (80GB VRAM) или 8 x RTX 4090 (24GB VRAM) с сильным параллелизмом |
| DeepSeek-R1:671B | 671B (37 миллиардов активных параметров) | 16 x NVIDIA A100 (80GB VRAM) или 8 x NVIDIA H100 (80GB VRAM), требуется распределённый GPU-кластер с InfiniBand |
| Gemma 3 27B | 27B | только 1 GPU H100 |
Ключевое различие заключается в требованиях к оборудованию. Gemma 3 оптимизирована для эффективности, работает на одном GPU или TPU, при этом меньшие модели (1B, 4B) подходят для ограниченных ресурсов. Напротив, DeepSeek-R1 требует существенной инфраструктуры: до 32 графических процессоров Nvidia H100 для полной производительности. Хотя дистиллированные версии (1.5B–70B) снижают требования, базовая модель R1 предназначена для крупномасштабного развёртывания.
От Google
Применение и варианты использования
DeepSeek R1
- Математика: Способен решать сложные математические задачи, включая символьные рассуждения, решение уравнений и задачи оптимизации, что делает его подходящим для применений в области STEM.
- Программирование: Отлично справляется с генерацией сложного кода, пониманием сложной логики и отладкой крупномасштабных программных проектов, что делает его ценным инструментом для разработчиков и инженеров.
- Общие знания: Демонстрирует сильные рассуждения в широком спектре тем, что делает его идеальным для задач, требующих глубокого понимания и точного синтеза разнообразных областей знаний.
Gemma 3
- Мультимодальность и многоязычная поддержка в сочетании с эффективностью делают её подходящей для широкого круга приложений:
- Создание контента и общение: Генерация различных текстовых форматов, работа чат-ботов, обобщение текста и извлечение информации из изображений.
- Исследования и образование: Служит основой для исследований в NLP и VLM, инструментов для изучения языков и изучения знаний.
- Приложения на устройствах: Её меньшие варианты оптимизированы для мобильного и веб-развёртывания.
- Специализированные ассистенты: Персональные ассистенты по программированию, деловые почтовые ассистенты и многое другое.
Доступность и развёртывание через Novita AI
Novita AI — это облачная AI-платформа, которая предоставляет разработчикам простой способ развёртывания AI-моделей с помощью нашего простого API, а также предлагает доступные и надёжные GPU-облака для создания и масштабирования.
Шаг 1: Войдите в систему и откройте библиотеку моделей
Войдите в свою учётную запись и нажмите кнопку Model Library.
Попробовать DeepSeek R1 Demo сейчас!
Шаг 2: Выберите модель
Просмотрите доступные варианты и выберите модель, подходящую для ваших нужд.
Шаг 3: Начните бесплатную пробную версию
Начните бесплатную пробную версию, чтобы изучить возможности выбранной модели.
Шаг 4: Получите API-ключ
Для аутентификации в API мы предоставим вам новый API-ключ. Перейдя на страницу «Settings», вы можете скопировать API-ключ, как показано на изображении.
Шаг 5: Установите API
Установите API с помощью менеджера пакетов, соответствующего вашему языку программирования.
После установки импортируйте необходимые библиотеки в вашу среду разработки. Инициализируйте API с помощью вашего API-ключа для начала взаимодействия с Novita AI LLM. Это пример использования API для завершения чата для пользователей Python.
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="<YOUR Novita AI API Key>",
)
model = "deepseek/deepseek_r1"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
После регистрации Novita AI предоставляет кредит в $0.5, чтобы вы могли начать!
Если бесплатные кредиты закончатся, вы можете оплатить и продолжить использование.
Gemma 3 и DeepSeek R1 предлагают разные подходы к разработке передовых AI:
- Gemma 3 фокусируется на универсальности, эффективности и мультимодальности, превосходя в разнообразных приложениях и средах с ограниченными ресурсами. Её способность работать на одном GPU или TPU в сочетании с высокой производительностью в бенчмарках делает её весьма доступной для разработчиков и исследователей.
- DeepSeek R1 ставит во главу угла чистую вычислительную мощь, особенно в технических областях, таких как математика и программирование, используя большее количество параметров и архитектуру Mixture-of-Experts. Хотя её базовая модель требует значительных вычислительных ресурсов, дистиллированные версии предоставляют более практичные варианты для задач, требующих сильных рассуждений.
Выбор между ними зависит от потребностей приложения, вычислительных ресурсов и желаемого баланса между универсальностью и специализированной экспертизой.
Часто задаваемые вопросы
Каковы размеры окон контекста для Gemma 3?
Модели 4B, 12B и 27B имеют окно контекста 128K, в то время как модель 1B имеет окно контекста 32K.
Каковы основные преимущества Gemma 3?
Универсальность, эффективность, мультимодальность и высокая производительность в различных задачах с возможностью работы на одном GPU или TPU.
Как получить доступ к Deepseek R1 через API?
Novita AI предоставляет вам доступный и надёжный API Deepseek R1.
Novita AI — это облачная AI-платформа, которая предоставляет разработчикам простой способ развёртывания AI-моделей с помощью нашего простого API, а также предлагает доступные и надёжные GPU-облака для создания и масштабирования.
