Moonshot AI déploie un nouveau modèle d’intelligence artificielle appelé Kimi K2, qui se distingue par son architecture Mixture-of-Experts et ses performances supérieures sur plusieurs benchmarks. Conçu pour agir de manière autonome, Kimi K2 dépasse des modèles commerciaux comme ChatGPT (GPT-4.1) d’OpenAI et Gemini 2.5 Flash de Google dans des tâches complexes telles que la programmation avancée, le raisonnement mathématique et l’utilisation indépendante d’outils.
Ce modèle open source, à orientation agentique, est capable de comprendre son environnement, d’interagir avec différents outils et d’exécuter des tâches sans instructions précises. Par exemple, il a été utilisé pour créer une webpage interactive avec iPython, développer un clone de Minecraft en JavaScript, et réaliser une analyse statistique sur les salaires en fonction du travail à distance, en produisant des rapports détaillés et personnalisés.
En termes de performance technique, Kimi K2 se distingue en remportant plusieurs benchmarks clés : il affiche un taux de réussite de 53,7 % sur LiveCodeBench v6, surpassant GPT-4.1 (44,7 %) et Claude 4 Sonnet (48,5 %). Sur SWE-bench, il affiche un taux de 71,6 % en essais multiples et 65,8 % en un seul essai. Sur la tâche AIME 2025, il a une moyenne de 49,5 %, contre 37,0 % pour GPT-4.1, et sur GPQA-Diamond, il atteint une moyenne de 75,1 %, dominant tous les autres modèles évalués. Ces résultats le placent comme l’un des meilleurs modèles open source, notamment en programmation, sciences et mathématiques.
Kimi K2 repose sur une architecture MoE (Mixture of Experts) comprenant un total d’un billion de paramètres, dont 32 milliards sont activés par token, permettant une montée en puissance sans nécessiter un matériel excessif. Il a été entraîné avec l’optimiseur Moonclip, développé en interne, utilisant la technique qk-clip pour stabiliser l’apprentissage. Le processus d’entraînement, qui a traité 15,5 billions de tokens, a marqué une étape importante en termes d’efficacité et de stabilité.
Deux versions du modèle sont disponibles : Kimi-K2-Base, destinée aux chercheurs et développeurs souhaitant la personnaliser, et Kimi-K2-Instruct, conçue pour les tâches générales et les interactions conversationnelles. Toutes deux sont distribuées sous licence ouverte et peuvent être déployées localement avec divers moteurs comme vLLM, TensorRT-LLM, SGLang ou KTransformers, tout en offrant des API compatibles avec OpenAI et Anthropic pour une intégration simplifiée.
L’entraînement de Kimi K2 s’appuie sur des données agentiques simulées à grande échelle, où plusieurs agents et outils collaborent sur des tâches complexes, permettant au modèle d’acquérir des compétences telles que la débogage, l’automatisation, ou encore l’analyse expérimentale à l’aide de plateformes comme Weights & Biases. Il bénéficie également du reinforcement learning, grâce à un système de critique interne qui encourage l’amélioration continue sans supervision humaine constante.
Malgré ses performances remarquables, Kimi K2 présente encore des limitations, notamment lors de l’exécution de tâches avec des outils mal définis ou des raisonnements complexes. Moonshot travaille déjà sur des versions futures intégrant des fonctionnalités telles que le raisonnement prolongé et la capacité d’intégrer une vision pour étendre ses applications.
En somme, Kimi K2 incarne une nouvelle génération de modèles d’IA ouverts, autonomes et robustes, conçus pour booster la productivité, la recherche et le développement. Sa nature agentique, associée à ses performances de pointe et sa licence ouverte, en fait une alternative crédible aux grands modèles propriétaires actuels. Plus d’informations sont disponibles sur leur page GitHub.
