Kimi‑K2‑Instruct теперь доступен на Novita AI

Kimi‑K2‑Instruct теперь доступен на Novita AI

Kimi‑K2‑Instruct, разработанный Moonshot AI, — это разрежённая MoE-модель нового поколения, теперь доступная через Novita AI. С 1 триллионом параметров (всего), 32 миллиардами активных параметров и контекстным окном на 128 000 токенов модель оптимизирована для агентного поведения, использования инструментов и рассуждений в длинном контексте.

Вот текущие цены на Kimi‑K2‑Instruct в Novita AI: $0.57 / миллион входных токенов, $2.3 / миллион выходных токенов

Что такое Kimi K2?

Moonshot AI (базируется в Пекине, основана в 2023 году) стоит за брендом Kimi, включая K1.5, K2 и мультимодальные модели Kimi‑VL. Их миссия открытой науки направлена на демократизацию мощного агентного интеллекта.

Kimi K2, разработанный Moonshot AI, — это передовая языковая модель с архитектурой «смесь экспертов» (MoE), имеющая 32 миллиарда активных параметров и общее количество в 1 триллион параметров. Обученная с использованием оптимизатора Muon, Kimi K2 демонстрирует выдающуюся производительность в задачах на передовые знания, рассуждение и кодирование, а также точно настроена для продвинутых агентных возможностей.

Ключевые особенности

  • Масштабное обучение: Предобучена MoE-модель на 1 триллион параметров на 15.5 триллионах токенов с нулевой нестабильностью обучения.
  • Оптимизатор MuonClip: Мы применяем оптимизатор Muon в беспрецедентном масштабе и разрабатываем новые методы оптимизации для устранения нестабильностей при масштабировании.
  • Агентный интеллект: Специально разработана для использования инструментов, рассуждения и автономного решения проблем.

Варианты модели

  • Kimi-K2-Base: Базовая модель — отличная отправная точка для исследователей и разработчиков, желающих получить полный контроль для дообучения и создания собственных решений.
  • Kimi-K2-Instruct: Пост-обученная модель, наилучшим образом подходящая для готовых к использованию чатов и агентных сценариев. Это рефлекторная модель без длительного размышления.

kimi k2 benchmark

Результаты оценки инструктивной модели

|Тест|Метрика|Kimi K2 Instruct|DeepSeek-V3-0324|Qwen3-235B-A22B
(non-thinking)
|Claude Sonnet 4
(w/o extended thinking)
|Claude Opus 4
(w/o extended thinking)
|GPT-4.1|Gemini 2.5 Flash
Preview (05-20)
| |—|—|—|—|—|—|—|—|—| |Задачи кодирования| |LiveCodeBench v6
(Aug 24 - May 25)|Pass@1|53.7|46.9|37.0|48.5|47.4|44.7|44.7| |OJBench|Pass@1|27.1|24.0|11.3|15.3|19.6|19.5|19.5| |MultiPL-E|Pass@1|85.7|83.1|78.2|88.6|89.6|86.7|85.6| |SWE-bench Verified
(Agentless Coding)|Single Patch w/o Test (Acc)|51.8|36.6|39.4|50.2|53.0|40.8|32.6| |SWE-bench Verified
(Agentic Coding)|Single Attempt (Acc)|65.8|38.8|34.4|72.7*|72.5*|54.6|—| |Multiple Attempts (Acc)|71.6|—|—|80.2|79.4*|—|—| |SWE-bench Multilingual
(Agentic Coding)|Single Attempt (Acc)|47.3|25.8|20.9|51.0|—|31.5|—| |TerminalBench|Inhouse Framework (Acc)|30.0|—|—|35.5|43.2|8.3|—| |Terminus (Acc)|25.0|16.3|6.6|—|—|30.3|16.8| |Aider-Polyglot|Acc|60.0|55.1|61.8|56.4|70.7|52.4|44.0| |Задачи использования инструментов| |Tau2 retail|Avg@4|70.6|69.1|57.0|75.0|81.8|74.8|64.3| |Tau2 airline|Avg@4|56.5|39.0|26.5|55.5|60.0|54.5|42.5| |Tau2 telecom|Avg@4|65.8|32.5|22.1|45.2|57.0|38.6|16.9| |AceBench|Acc|76.5|72.7|70.5|76.2|75.6|80.1|74.5| |Математические и STEM-задачи| |AIME 2024|Avg@64|69.6|59.4*|40.1*|43.4|48.2|46.5|61.3| |AIME 2025|Avg@64|49.5|46.7|24.7*|33.1*|33.9*|37.0|46.6| |MATH-500|Acc|97.4|94.0*|91.2*|94.0|94.4|92.4|95.4| |HMMT 2025|Avg@32|38.8|27.5|11.9|15.9|15.9|19.4|34.7| |CNMO 2024|Avg@16|74.3|74.7|48.6|60.4|57.6|56.6|75.0| |PolyMath-en|Avg@4|65.1|59.5|51.9|52.8|49.8|54.0|49.9| |ZebraLogic|Acc|89.0|84.0|37.7*|73.7|59.3|58.5|57.9| |AutoLogi|Acc|89.5|88.9|83.3|89.8|86.1|88.2|84.1| |GPQA-Diamond|Avg@8|75.1|68.4*|62.9*|70.0*|74.9*|66.3|68.2| |SuperGPQA|Acc|57.2|53.7|50.2|55.7|56.5|50.8|49.6| |Humanity’s Last Exam
(Text Only)|-|4.7|5.2|5.7|5.8|7.1|3.7|5.6| |Общие задачи| |MMLU|EM|89.5|89.4|87.0|91.5|92.9|90.4|90.1| |MMLU-Redux|EM|92.7|90.5|89.2|93.6|94.2|92.4|90.6| |MMLU-Pro|EM|81.1|81.2*|77.3|83.7|86.6|81.8|79.4| |IFEval|Prompt Strict|89.8|81.1|83.2*|87.6|87.4|88.0|84.3| |Multi-Challenge|Acc|54.1|31.4|34.0|46.8|49.0|36.4|39.5| |SimpleQA|Correct|31.0|27.7|13.2|15.9|22.8|42.3|23.3| |Livebench|Pass@1|76.4|72.4|67.6|74.8|74.6|69.8|67.8|

Поддерживаемые движки и минимальное оборудование для Kimi-K2

Поддерживаемые движки

  • vLLM
  • SGLang
  • TensorRT-LLM
  • KTransformers

Минимальное оборудование

Оборудование Минимальные требования
Тип GPU H200
Размер кластера 16 GPU (минимум)
Режимы параллелизма Tensor Parallelism (TP-16) или Data Parallel + Expert Parallel
Формат весов FP8 веса с seqlen 128k

Примеры развёртывания для vLLM и SGLang можно найти в Руководстве по развёртыванию модели.

Как получить доступ к Kimi‑K2‑Instruct на Novita AI

Начать работу с Kimi‑K2‑Instruct на Novita AI быстро, просто и доступно.

Используйте Playground (без кода)

Мгновенный доступ: Зарегистрируйтесь и начните экспериментировать с Kimi‑K2‑Instruct и другими топ-моделями за секунды.

Интерактивный интерфейс: Испытайте модель через интуитивно понятный интерфейс.

Сравнение моделей: Легко переключайтесь между Kimi‑K2‑Instruct и другими ведущими моделями, чтобы найти идеальное решение для ваших задач.

Исследуйте демо Kimi-K2-Instruct сейчас

Интеграция через API (для разработчиков)

Беспрепятственно подключайте Kimi‑K2‑Instruct к своим приложениям, рабочим процессам или чат-ботам с помощью единого REST API Novita AI — без необходимости управлять весами модели или инфраструктурой.

Вариант 1: Прямая интеграция API (пример на Python)

Для начала просто используйте приведённый ниже фрагмент кода:

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="",
)

model = "moonshotai/kimi-k2-instruct"
stream = True # or False
max_tokens = 65536
system_content = ""Be a helpful assistant""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)
  
  
  
  

Ключевые особенности:

  • Единый endpoint:/v3/openai поддерживает формат Chat Completions API от OpenAI.
  • Гибкие настройки: Регулируйте temperature, top-p, штрафы и другое для получения точных результатов.
  • Потоковая передача и пакетная обработка: Выбирайте предпочтительный режим ответа.

Вариант 2: Многоагентные рабочие процессы с OpenAI Agents SDK

Создавайте продвинутые мультимодальные агентные системы, интегрируя Novita AI с OpenAI Agents SDK:

Plug-and-play: Используйте Kimi‑K2‑Instruct в любых рабочих процессах OpenAI Agents.

Поддержка передачи задач, маршрутизации и использования инструментов: Создавайте агентов, которые могут анализировать визуальный контент, делегировать задачи или выполнять функции.

Интеграция с Python: Просто укажите SDK endpoint Novita (https://api.novita.ai/v3/openai) и используйте свой API-ключ для бесперебойных агентных рабочих процессов.

Вариант 3: Подключение API Kimi‑K2‑Instruct на сторонних платформах

Hugging Face: Используйте Kimi‑K2‑Instruct в Spaces, конвейерах или с библиотекой Transformers через endpoints Novita AI.

Фреймворки для агентов и оркестрации: Легко подключайте Novita AI к партнёрским платформам, таким как Continue, AnythingLLM, LangChain, Dify и Langflow, с помощью официальных коннекторов и пошаговых руководств по интеграции.

API, совместимый с OpenAI: Наслаждайтесь безпроблемной миграцией и интеграцией с такими инструментами, как Cline, Trae, Cursor, предназначенными для стандарта API OpenAI.

Заключение

Kimi-K2-Instruct — это мощная, открытая MoE-модель с 1 триллионом параметров, расширяющая границы в кодировании, рассуждении и агентном ИИ.

Теперь доступная на Novita AI, она сочетает в себе огромный масштаб, интеллект использования инструментов и обработку длинных контекстов — всё это развёртывается с эффективной инфраструктурой вывода. Для разработчиков и исследователей, создающих новое поколение ИИ-ассистентов, агентов и механизмов рассуждения, Kimi-K2-Instruct предлагает передовую основу, которая является мощной, гибкой и готовой к производству.

Попробуйте Kimi-K2-Instruct Demo на Novita AI!

Novita AI — это облачная платформа ИИ, которая предлагает разработчикам простой способ развёртывания моделей ИИ с помощью нашего простого API, а также предоставляет доступные и надёжные GPU-облака для построения и масштабирования.