Вам не интересно — зачем выпускать шесть разных моделей в серии GLM-4? В чём причина такого разнообразия и что делает каждую модель уникальной? От общего чата до глубокого логического рассуждения и работы в реальном времени — каждая модель семейства GLM-4 создана для конкретного сценария.
В этой статье мы разберём отличия, сильные стороны и варианты использования всех шести моделей GLM-4 — чтобы вы могли найти ту, которая лучше всего подходит для ваших задач.
На ограниченное время новые пользователи могут получить 10 долларов в виде бесплатных кредитов, чтобы исследовать и создавать с помощью серии GLM-4.
Что такое серия GLM-4?
| Параметр / Модель | GLM-4-32B | GLM-Z1-32B | GLM-Z1-Rumination-32B | GLM-4-9B | GLM-Z1-9B |
|---|---|---|---|---|---|
| Параметры | 32B | 32B | 32B | 9B | 9B |
| Длина контекста | 32K | 32K | 32K | 32K | 32K |
| Цена I/O (Novita AI) | $0.24 / $0.24 | $0.24 / $0.24 | $0.24 / $0.24 | Бесплатно | Бесплатно |
Поддержка языков: Высокая производительность в китайском и английском; поддержка 26 языков
Мультимодальность: Текст-в-текст; поддержка визуализации сгенерированных HTML и SVG
Обучение: Предварительное обучение на 15T высококачественных данных, включая синтетические наборы данных для рассуждений
Оптимизация диалога: Тонкая настройка с выравниванием по предпочтениям человека (rejection sampling + RLHF)
Сценарии применения шести моделей GLM-4
GLM-4-32B-Base-0414
- Параметры: 32B
- Направление: Фундамент для универсального предварительного обучения
- Обучение: Обучение на 15T высококачественных токенов (включая синтетические данные для рассуждений) из разных областей
GLM-4-32B-0414
- Параметры: 32B
- Направление: Следование инструкциям и прикладное выравнивание
- Обучение: Тонкая настройка на основе базовой модели с использованием выравнивания по предпочтениям человека (rejection sampling + RLHF)
GLM-Z1-32B-0414
- Параметры: 32B
- Направление: Глубокие рассуждения и решение сложных задач
- Обучение: Холодный старт + расширенное обучение с подкреплением, с акцентом на математику, код и логические задачи
GLM-Z1-Rumination-32B-0414
- Параметры: 32B
- Направление: Рассуждение с длинным контекстом и адаптация к предметной области
- Обучение: Оптимизирован для сценариев, таких как здравоохранение и автономное вождение; поддерживает многоэтапную рефлексию
GLM-4-9B-0414
- Параметры: 9B
- Направление: Высококонкурентное и лёгкое развёртывание
- Обучение: Оптимизирован для высокочастотных задач, таких как перевод; агентные возможности не расширены
GLM-Z1-9B-0414
- Параметры: 9B
- Направление: Лёгкие рассуждения и быстрый отклик в реальном времени
- Обучение: На основе GLM-4-9B с улучшенной скоростью рассуждений и низкой задержкой
Возможности GLM-4-32B-0414
Возможности GLM-Z1-32B-0414
Запрос: Помоги мне собрать информацию о следующих моделях, опиши их основные атрибуты и подходящие направления применения, а также попытайся понять, почему Zhipu выпустила шесть моделей: GLM-4-32B-Base-0414, GLM-4-32B-0414, GLM-Z1-32B-0414, GLM-Z1-Rumination-32B-0414, GLM-4-9B-0414, GLM-Z1-9B-0414.
Возможности GLM-Z1-Rumination-32B-0414
Запрос: Пожалуйста, проанализируй текущее технологическое развитие AI Agent, включая рыночные показатели ключевых игроков и будущие тенденции, соответствующие технические характеристики, показатели производительности и отраслевые обновления. Подтверди свой анализ авторитетными источниками данных.
Как получить доступ к моделям серии GLM-4?
Отличные новости для разработчиков: Novita AI теперь предоставляет бесплатный API-доступ к двум мощным моделям — GLM-4-9B и GLM-Z1-9B — чтобы ускорить инновации в сообществе открытого кода.
Шаг 1: Войдите в систему и откройте библиотеку моделей
Войдите в свой аккаунт и нажмите на кнопку Библиотека моделей.
Попробовать демо GLM-4 сейчас!
Шаг 2: Выберите свою модель
Просмотрите доступные варианты и выберите модель, которая соответствует вашим потребностям.
Шаг 3: Начните бесплатную пробную версию
Начните бесплатную пробную версию, чтобы изучить возможности выбранной модели.
Шаг 4: Получите свой API-ключ
Для аутентификации в API мы предоставим вам новый API-ключ. Перейдите на страницу «Настройки» и скопируйте API-ключ, как показано на изображении.
Шаг 5: Установите API
Установите API с помощью менеджера пакетов, подходящего для вашего языка программирования.
После установки импортируйте необходимые библиотеки в вашу среду разработки. Инициализируйте API с вашим API-ключом, чтобы начать взаимодействие с Novita AI LLM. Это пример использования API завершения чата для пользователей Python.
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="<YOUR Novita AI API Key>",
)
model = "thudm/glm-4-32b-0414"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
Создаёте ли вы умного ассистента, проводите анализ на уровне рынка или развёртываете AI в масштабе — серия GLM-4 предлагает модель, адаптированную под ваши потребности. От высокопроизводительных моделей на 32B до отзывчивых вариантов на 9B — каждая предоставляет уникальные сильные стороны. Поддержка бесплатного API-доступа (GLM-4-9B и GLM-Z1-9B) от Novita AI делает начало работы проще, чем когда-либо. Для разработчиков это масштабируемый и дружественный к открытому коду вход в высокопроизводительное языковое моделирование.
Часто задаваемые вопросы
Какая модель GLM-4 лучше всего подходит для общих задач?
GLM-4-32B-0414 отлично справляется с следованием инструкциям, многократным использованием инструментов и поисковым Q&A, опираясь на обширное предварительное обучение и тонкую настройку диалога.
Могу ли я попробовать GLM-4-32B-0414 через Novita AI?
Да, GLM-4-32B-0414 доступен на Novita AI с конкурентными ценами за API, а GLM-4-9B и GLM-Z1-9B доступны бесплатно.
Для каких задач лучше всего подходят модели серии GLM-4?
GLM-4-32B-0414 идеально подходит для задач, требующих глубоких рассуждений, сложного диалога и точного выполнения инструкций.
Novita AI — это облачная платформа AI, которая предлагает разработчикам простой способ развёртывания моделей AI с помощью нашего простого API, а также предоставляет доступное и надёжное GPU-облако для создания и масштабирования.
