Kimi‑K2‑Instruct désormais disponible sur Novita AI

Kimi‑K2‑Instruct désormais disponible sur Novita AI

Kimi‑K2‑Instruct, développé par Moonshot AI, est un modèle MoE sparse de nouvelle génération désormais accessible via Novita AI. Avec 1 billion de paramètres au total, 32 milliards de paramètres activés et une fenêtre de contexte de 128 000 tokens, il est conçu pour les comportements agentiques, l’utilisation d’outils et le raisonnement sur de longs contextes.

Voici la tarification actuelle de Kimi‑K2‑Instruct sur Novita AI : 0,57 $ / M tokens en entrée, 2,3 $ / M tokens en sortie

Qu’est-ce que Kimi K2 ?

Moonshot AI (basée à Pékin, fondée en 2023) est derrière la marque Kimi, notamment les modèles K1.5, K2 et les modèles multimodaux Kimi‑VL. Leur mission scientifique ouverte vise à démocratiser une intelligence agentique puissante.

Kimi K2, développé par Moonshot AI, est un modèle de langage à mélange d’experts (MoE) de pointe avec 32 milliards de paramètres activés et un total de 1 billion de paramètres. Entraîné à l’aide de l’optimiseur Muon, Kimi K2 offre des performances exceptionnelles dans les domaines de la connaissance de pointe, du raisonnement et des tâches de codage, tout en étant finement réglé pour des capacités agentiques avancées.

Principales caractéristiques

  • Entraînement à grande échelle : Pré-entraînement d’un modèle MoE à 1T paramètres sur 15,5T tokens sans aucune instabilité d’entraînement.
  • Optimiseur MuonClip : Nous appliquons l’optimiseur Muon à une échelle sans précédent et développons des techniques d’optimisation inédites pour résoudre les instabilités lors de la montée en échelle.
  • Intelligence agentique : Spécifiquement conçu pour l’utilisation d’outils, le raisonnement et la résolution autonome de problèmes.

Variantes du modèle

  • Kimi-K2-Base : Le modèle de base, un excellent point de départ pour les chercheurs et les constructeurs qui souhaitent un contrôle total pour le fine-tuning et les solutions personnalisées.
  • Kimi-K2-Instruct : Le modèle post-entraîné, idéal pour une utilisation immédiate dans des tâches générales de chat et des expériences agentiques. C’est un modèle de niveau réflexe sans réflexion longue.

kimi k2 benchmark

Résultats d’évaluation du modèle Instruct

|Benchmark|Metric|Kimi K2 Instruct|DeepSeek-V3-0324|Qwen3-235B-A22B
(non-thinking)
|Claude Sonnet 4
(w/o extended thinking)
|Claude Opus 4
(w/o extended thinking)
|GPT-4.1|Gemini 2.5 Flash
Preview (05-20)
| |—|—|—|—|—|—|—|—|—| |Tâches de codage| |LiveCodeBench v6
(Aug 24 - May 25)|Pass@1|53.7|46.9|37.0|48.5|47.4|44.7|44.7| |OJBench|Pass@1|27.1|24.0|11.3|15.3|19.6|19.5|19.5| |MultiPL-E|Pass@1|85.7|83.1|78.2|88.6|89.6|86.7|85.6| |SWE-bench Verified
(Agentless Coding)|Single Patch w/o Test (Acc)|51.8|36.6|39.4|50.2|53.0|40.8|32.6| |SWE-bench Verified
(Agentic Coding)|Single Attempt (Acc)|65.8|38.8|34.4|72.7*|72.5*|54.6|—| |Multiple Attempts (Acc)|71.6|—|—|80.2|79.4*|—|—| |SWE-bench Multilingual
(Agentic Coding)|Single Attempt (Acc)|47.3|25.8|20.9|51.0|—|31.5|—| |TerminalBench|Inhouse Framework (Acc)|30.0|—|—|35.5|43.2|8.3|—| |Terminus (Acc)|25.0|16.3|6.6|—|—|30.3|16.8| |Aider-Polyglot|Acc|60.0|55.1|61.8|56.4|70.7|52.4|44.0| |Tâches d’utilisation d’outils| |Tau2 retail|Avg@4|70.6|69.1|57.0|75.0|81.8|74.8|64.3| |Tau2 airline|Avg@4|56.5|39.0|26.5|55.5|60.0|54.5|42.5| |Tau2 telecom|Avg@4|65.8|32.5|22.1|45.2|57.0|38.6|16.9| |AceBench|Acc|76.5|72.7|70.5|76.2|75.6|80.1|74.5| |Tâches mathématiques et STEM| |AIME 2024|Avg@64|69.6|59.4*|40.1*|43.4|48.2|46.5|61.3| |AIME 2025|Avg@64|49.5|46.7|24.7*|33.1*|33.9*|37.0|46.6| |MATH-500|Acc|97.4|94.0*|91.2*|94.0|94.4|92.4|95.4| |HMMT 2025|Avg@32|38.8|27.5|11.9|15.9|15.9|19.4|34.7| |CNMO 2024|Avg@16|74.3|74.7|48.6|60.4|57.6|56.6|75.0| |PolyMath-en|Avg@4|65.1|59.5|51.9|52.8|49.8|54.0|49.9| |ZebraLogic|Acc|89.0|84.0|37.7*|73.7|59.3|58.5|57.9| |AutoLogi|Acc|89.5|88.9|83.3|89.8|86.1|88.2|84.1| |GPQA-Diamond|Avg@8|75.1|68.4*|62.9*|70.0*|74.9*|66.3|68.2| |SuperGPQA|Acc|57.2|53.7|50.2|55.7|56.5|50.8|49.6| |Humanity’s Last Exam
(Text Only)|-|4.7|5.2|5.7|5.8|7.1|3.7|5.6| |Tâches générales| |MMLU|EM|89.5|89.4|87.0|91.5|92.9|90.4|90.1| |MMLU-Redux|EM|92.7|90.5|89.2|93.6|94.2|92.4|90.6| |MMLU-Pro|EM|81.1|81.2*|77.3|83.7|86.6|81.8|79.4| |IFEval|Prompt Strict|89.8|81.1|83.2*|87.6|87.4|88.0|84.3| |Multi-Challenge|Acc|54.1|31.4|34.0|46.8|49.0|36.4|39.5| |SimpleQA|Correct|31.0|27.7|13.2|15.9|22.8|42.3|23.3| |Livebench|Pass@1|76.4|72.4|67.6|74.8|74.6|69.8|67.8|

Moteurs supportés par Kimi-K2 et matériel minimum

Moteurs supportés

  • vLLM
  • SGLang
  • TensorRT-LLM
  • KTransformers

Matériel minimum

Matériel Configuration minimale requise
Type de GPU H200
Taille du cluster 16 GPU (minimum)
Modes de parallélisme Parallélisme tensoriel (TP-16) ou Parallélisme de données + Parallélisme d’experts
Format des poids Poids FP8 avec seqlen de 128k

Des exemples de déploiement pour vLLM et SGLang se trouvent dans le Guide de déploiement du modèle.

Comment accéder à Kimi‑K2‑Instruct sur Novita AI

Démarrer avec Kimi‑K2‑Instruct est rapide, simple et abordable sur Novita AI.

Utiliser le Playground (sans code nécessaire)

Accès instantané : Inscrivez-vous et commencez à expérimenter avec Kimi‑K2‑Instruct et d’autres modèles de premier ordre en quelques secondes.

Interface interactive : Testez le modèle via une interface intuitive.

Comparaison de modèles : Basculez facilement entre Kimi‑K2‑Instruct et d’autres modèles phares pour trouver celui qui correspond parfaitement à vos besoins.

Explorer la démo de Kimi-K2-Instruct maintenant

Intégration via API (pour les développeurs)

Connectez Kimi‑K2‑Instruct à vos applications, workflows ou chatbots de manière transparente grâce à l’API REST unifiée de Novita AI — sans avoir à gérer les poids du modèle ou l’infrastructure.

Option 1 : Intégration directe via l’API (exemple Python)

Pour commencer, utilisez simplement l’extrait de code ci-dessous :

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="",
)

model = "moonshotai/kimi-k2-instruct"
stream = True # or False
max_tokens = 65536
system_content = ""Be a helpful assistant""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)
  
  
  
  

Fonctionnalités clés :

  • Endpoint unifié : /v3/openai prend en charge le format de l’API Chat Completions d’OpenAI.
  • Contrôles flexibles : Ajustez la température, top-p, les pénalités, etc., pour des résultats personnalisés.
  • Streaming et traitement par lots : Choisissez le mode de réponse qui vous convient.

Option 2 : Workflows multi-agents avec OpenAI Agents SDK

Construisez des systèmes agents multimodaux avancés en intégrant Novita AI au SDK OpenAI Agents :

Prêt à l’emploi : Utilisez Kimi‑K2‑Instruct dans n’importe quel workflow OpenAI Agents.

Support des transferts, du routage et de l’utilisation d’outils : Concevez des agents capables d’analyser du contenu visuel, de déléguer des tâches ou d’exécuter des fonctions.

Intégration Python : Il suffit de pointer le SDK vers l’endpoint de Novita (https://api.novita.ai/v3/openai) et d’utiliser votre clé API pour des workflows agents fluides.

Option 3 : Connecter l’API Kimi‑K2‑Instruct sur des plateformes tierces

Hugging Face : Utilisez Kimi‑K2‑Instruct dans Spaces, pipelines ou avec la bibliothèque Transformers via les endpoints Novita AI.

Frameworks d’agents et d’orchestration : Connectez facilement Novita AI à des plateformes partenaires comme Continue, AnythingLLM, LangChain, Dify et Langflow grâce à des connecteurs officiels et des guides d’intégration pas à pas.

API compatible OpenAI : Profitez d’une migration et d’une intégration sans tracas avec des outils comme Cline, Trae, Cursor, conçus pour la norme API OpenAI.

Conclusion

Kimi-K2-Instruct est un puissant modèle MoE à 1T paramètres en accès ouvert, repoussant les frontières du codage, du raisonnement et de l’IA agentique.

Désormais disponible sur Novita AI, il allie une échelle massive, une intelligence dans l’utilisation d’outils et un traitement de longs contextes — le tout déployable avec une infrastructure d’inférence efficace. Pour les développeurs et chercheurs qui construisent la prochaine génération d’assistants IA, d’agents et de moteurs de raisonnement, Kimi-K2-Instruct offre une base de pointe, puissante, flexible et prête pour la production.

Essayez la démo de Kimi-K2-Instruct sur Novita AI !

Novita AI est une plateforme cloud IA qui offre aux développeurs un moyen simple de déployer des modèles d’IA via notre API facile à utiliser, tout en fournissant un cloud GPU abordable et fiable pour construire et passer à l’échelle.