Kimi‑K2‑Instruct 现已登陆 Novita AI

Kimi‑K2‑Instruct 现已登陆 Novita AI

Kimi‑K2‑Instruct 由 Moonshot AI 开发,是新一代稀疏 MoE 模型,现已可通过 Novita AI 访问。它拥有 1 万亿总参数、320 亿激活参数以及 128,000 个 token 的上下文窗口,专为智能体行为、工具调用和长上下文推理而优化。

以下是 Kimi‑K2‑Instruct 在 Novita AI 上的当前定价:$0.57 / M 输入 tokens,$2.3 / M 输出 tokens

什么是 Kimi K2?

Moonshot AI(北京,成立于 2023 年)是 Kimi 品牌(包括 K1.5、K2 及多模态 Kimi‑VL 模型)的幕后公司。其开放科学使命旨在让强大、智能的智能体能力惠及大众。

由 Moonshot AI 开发的 Kimi K2 是一款先进的混合专家(MoE)语言模型,拥有 320 亿激活参数和总共 1 万亿参数。Kimi K2 借助 Muon 优化器进行训练,在前沿知识、推理和编码任务中表现出色,同时为高级智能体能力进行了精细调优。

关键特性

  • 大规模训练:在 15.5T tokens 上预训练了一个 1T 参数的 MoE 模型,零训练不稳定。
  • MuonClip 优化器:将 Muon 优化器应用到前所未有的规模,并开发了新颖的优化技术以解决扩展过程中的不稳定性。
  • 智能体智能:专为工具使用、推理和自主解决问题而设计。

模型变体

  • Kimi-K2-Base:基础模型,为需要完全控制微调和自定义解决方案的研究人员和构建者提供了坚实的起点。
  • Kimi-K2-Instruct:后训练模型,最适合即用型通用聊天和智能体体验。它是一个无需长时间思考的反射级模型。

kimi k2 benchmark

指令模型评估结果

|Benchmark|Metric|Kimi K2 Instruct|DeepSeek-V3-0324|Qwen3-235B-A22B
(non-thinking)
|Claude Sonnet 4
(w/o extended thinking)
|Claude Opus 4
(w/o extended thinking)
|GPT-4.1|Gemini 2.5 Flash
Preview (05-20)
| |—|—|—|—|—|—|—|—|—| |Coding Tasks| |LiveCodeBench v6
(Aug 24 - May 25)|Pass@1|53.7|46.9|37.0|48.5|47.4|44.7|44.7| |OJBench|Pass@1|27.1|24.0|11.3|15.3|19.6|19.5|19.5| |MultiPL-E|Pass@1|85.7|83.1|78.2|88.6|89.6|86.7|85.6| |SWE-bench Verified
(Agentless Coding)|Single Patch w/o Test (Acc)|51.8|36.6|39.4|50.2|53.0|40.8|32.6| |SWE-bench Verified
(Agentic Coding)|Single Attempt (Acc)|65.8|38.8|34.4|72.7*|72.5*|54.6|—| |Multiple Attempts (Acc)|71.6|—|—|80.2|79.4*|—|—| |SWE-bench Multilingual
(Agentic Coding)|Single Attempt (Acc)|47.3|25.8|20.9|51.0|—|31.5|—| |TerminalBench|Inhouse Framework (Acc)|30.0|—|—|35.5|43.2|8.3|—| |Terminus (Acc)|25.0|16.3|6.6|—|—|30.3|16.8| |Aider-Polyglot|Acc|60.0|55.1|61.8|56.4|70.7|52.4|44.0| |Tool Use Tasks| |Tau2 retail|Avg@4|70.6|69.1|57.0|75.0|81.8|74.8|64.3| |Tau2 airline|Avg@4|56.5|39.0|26.5|55.5|60.0|54.5|42.5| |Tau2 telecom|Avg@4|65.8|32.5|22.1|45.2|57.0|38.6|16.9| |AceBench|Acc|76.5|72.7|70.5|76.2|75.6|80.1|74.5| |Math & STEM Tasks| |AIME 2024|Avg@64|69.6|59.4*|40.1*|43.4|48.2|46.5|61.3| |AIME 2025|Avg@64|49.5|46.7|24.7*|33.1*|33.9*|37.0|46.6| |MATH-500|Acc|97.4|94.0*|91.2*|94.0|94.4|92.4|95.4| |HMMT 2025|Avg@32|38.8|27.5|11.9|15.9|15.9|19.4|34.7| |CNMO 2024|Avg@16|74.3|74.7|48.6|60.4|57.6|56.6|75.0| |PolyMath-en|Avg@4|65.1|59.5|51.9|52.8|49.8|54.0|49.9| |ZebraLogic|Acc|89.0|84.0|37.7*|73.7|59.3|58.5|57.9| |AutoLogi|Acc|89.5|88.9|83.3|89.8|86.1|88.2|84.1| |GPQA-Diamond|Avg@8|75.1|68.4*|62.9*|70.0*|74.9*|66.3|68.2| |SuperGPQA|Acc|57.2|53.7|50.2|55.7|56.5|50.8|49.6| |Humanity’s Last Exam
(Text Only)|-|4.7|5.2|5.7|5.8|7.1|3.7|5.6| |General Tasks| |MMLU|EM|89.5|89.4|87.0|91.5|92.9|90.4|90.1| |MMLU-Redux|EM|92.7|90.5|89.2|93.6|94.2|92.4|90.6| |MMLU-Pro|EM|81.1|81.2*|77.3|83.7|86.6|81.8|79.4| |IFEval|Prompt Strict|89.8|81.1|83.2*|87.6|87.4|88.0|84.3| |Multi-Challenge|Acc|54.1|31.4|34.0|46.8|49.0|36.4|39.5| |SimpleQA|Correct|31.0|27.7|13.2|15.9|22.8|42.3|23.3| |Livebench|Pass@1|76.4|72.4|67.6|74.8|74.6|69.8|67.8|

Kimi-K2 支持的引擎和最低硬件要求

支持的引擎

  • vLLM
  • SGLang
  • TensorRT-LLM
  • KTransformers

最低硬件要求

硬件 最低要求
GPU 类型 H200
集群规模 16 个 GPU(最低)
并行模式 张量并行(TP-16)或数据并行 + 专家并行
权重格式 FP8 权重,128k seqlen

vLLM 和 SGLang 的部署示例可在模型部署指南中找到。

如何在 Novita AI 上使用 Kimi‑K2‑Instruct

在 Novita AI 上开始使用 Kimi‑K2‑Instruct 快速、简单且价格实惠。

使用 Playground(无需编码)

即时访问:注册后,即可立即开始体验 Kimi‑K2‑Instruct 和其他顶级模型。

交互式界面:通过直观的界面体验模型。

模型对比:轻松切换 Kimi‑K2‑Instruct 与其他顶级模型,找到最适合您需求的方案。

立即探索 Kimi-K2-Instruct 演示

通过 API 集成(面向开发者)

通过 Novita AI 的统一 REST API,将 Kimi‑K2‑Instruct 无缝连接到您的应用、工作流或聊天机器人——无需管理模型权重或基础设施。

选项 1:直接 API 集成(Python 示例)

要开始使用,只需使用以下代码片段:

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="",
)

model = "moonshotai/kimi-k2-instruct"
stream = True # or False
max_tokens = 65536
system_content = ""Be a helpful assistant""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)
  
  
  
  

关键特性

  • 统一端点/v3/openai 支持 OpenAI 的 Chat Completions API 格式。
  • 灵活控制:调整 temperature、top-p、惩罚等参数以获得定制结果。
  • 流式与批处理:选择首选响应模式。

选项 2:使用 OpenAI Agents SDK 实现多智能体工作流

通过将 Novita AI 与 OpenAI Agents SDK 集成,构建先进的多模态智能体系统:

即插即用:在任何 OpenAI Agents 工作流中使用 Kimi‑K2‑Instruct。

支持交接、路由和工具调用:设计能够分析视觉内容、委派任务或运行函数的智能体。

Python 集成:只需将 SDK 指向 Novita 的端点(https://api.novita.ai/v3/openai)并使用您的 API 密钥,即可实现无缝的智能体工作流。

选项 3:在第三方平台上连接 Kimi‑K2‑Instruct API

Hugging Face:在 Spaces、pipelines 或 Transformers 库中通过 Novita AI 端点使用 Kimi‑K2‑Instruct。

智能体与编排框架:通过官方连接器和分步集成指南,轻松将 Novita AI 与合作伙伴平台(如 ContinueAnythingLLMLangChainDifyLangflow)连接。

兼容 OpenAI API:享受与 Cline、Trae、Cursor 等为 OpenAI API 标准设计的工具的轻松迁移和集成。

结论

Kimi-K2-Instruct 是一个强大、开放访问的 1T 参数 MoE 模型,在编码、推理和智能体 AI 领域处于前沿。

该模型现已上线 Novita AI,融合了大规模、工具使用智能和长上下文处理能力——所有这些都能通过高效的推理基础设施进行部署。对于构建下一代 AI 助手、智能体和推理引擎的开发者和研究人员来说,Kimi-K2-Instruct 提供了一个强大、灵活且可投入生产的尖端基础。

在 Novita AI 上尝试 Kimi-K2-Instruct 演示

Novita AI 是一个 AI 云平台,为开发者提供简单 API 轻松部署 AI 模型,同时提供经济实惠且可靠的 GPU 云服务,用于构建和扩展。