MoonshotAI: Kimi K3 (batch)

Kimi K3 est le modèle agentique multimodal à poids ouverts de Moonshot AI pour la programmation de longue durée, le travail intellectuel et le raisonnement. Il combine le texte à une compréhension visuelle native des images et des vidéos, et produit une réponse textuelle ou une demande d’outil. Le fabricant met l’accent sur les longues séances d’ingénierie, les grands dépôts et les tâches qui utilisent des captures d’écran ou des retours visuels avec le code. Une consigne utile définit le livrable souhaité, les preuves à utiliser et la condition d’achèvement.

Architecture et contexte long

La fiche du modèle décrit une architecture clairsemée à mélange d’experts comptant 2 800 milliards de paramètres au total et 104 milliards de paramètres activés. Sa conception Stable LatentMoE sélectionne 16 experts sur 896 par jeton et utilise Kimi Delta Attention et Attention Residuals avec une attention à portes. La longueur exacte du contexte est de 1 048 576 jetons. Cette capacité offre de la place pour un contexte de tâche substantiel, sans justifier l’abandon des limites entre sources ni de l’espace nécessaire au résultat.

Le modèle natif publié utilise un entraînement tenant compte de la quantification, avec des poids MXFP4 et des activations MXFP8. Il s’agit du format de publication du fabricant, distinct d’une édition quantifiée fournie séparément ou d’une affirmation sur la façon dont une route particulière sert le modèle. Des poids ouverts et un grand nombre de paramètres ne font pas du nombre de paramètres actifs le besoin total de stockage ou de matériel.

Préparer une tâche de programmation substantielle

Fournissez les éléments pertinents du dépôt, le comportement existant, la modification demandée et les contraintes de compatibilité. Identifiez les fichiers ou l’interface à modifier, les vérifications qui déterminent la réussite et toute erreur ou entrée fournie qui expose le problème. Un résultat utile peut être une modification ciblée du code avec une explication et des preuves issues des vérifications réellement exécutées, plutôt qu’une description d’actions jamais effectuées.

Pour une tâche de développement visuel, incluez une capture d’écran ou une vue claire du résultat souhaité avec le code pertinent et un écart précis. Le fabricant décrit des processus couvrant le développement d’interfaces, les jeux et la conception assistée par ordinateur qui utilisent des retours visuels. Demandez la modification qui relie le code au résultat observé et conservez la référence pour vérifier le livrable par rapport à celle-ci.

Préparer les images, les vidéos et le travail intellectuel

Le guide de démarrage du producteur utilise des objets de contenu typés pour les messages visuels; content est un tableau, pas une représentation sérialisée de ce tableau. Son processus d’image utilise des données d’image encodées ou une référence de fichier prise en charge plutôt qu’une adresse publique d’image. L’exemple vidéo téléverse un fichier vidéo et fournit la référence obtenue avec une question sur son contenu. Fournissez une source lisible et précisez l’observation, l’intervalle ou la relation qui importe. Le processus visuel du producteur accepte les images JPEG, PNG, GIF, WebP, BMP, HEIC et HEIF ainsi que les vidéos MP4, MPEG, MOV, AVI, FLV, MPG, WebM, WMV et 3GPP. Les GIF ou WebP animés peuvent être décodés comme des vidéos. Fournissez le code source SVG sous forme de texte. Le fabricant recommande des images allant jusqu’à 4096 × 2160 et des vidéos allant jusqu’à 1920 × 1080; ce sont des recommandations de résolution, pas des seuils de rejet. Gardez le corps de la requête dans la limite documentée de taille de 100M et téléversez sous forme de fichiers les médias volumineux ou utilisés à répétition.

Pour une recherche riche en documents, identifiez les sources et les questions auxquelles le rapport final doit répondre. Pour une explication vidéo, indiquez les événements ou la séquence à analyser plutôt que de demander un commentaire sans limites. K3 utilise le contenu visuel comme preuve pour son raisonnement et renvoie du texte ou des demandes d’outils. Une application peut transmettre ces demandes à des outils de médias afin de créer des livrables d’image ou de vidéo distincts.

Réflexion toujours activée

L’interface du producteur de K3 active toujours la réflexion. Le paramètre de premier niveau reasoning_effort accepte low, high et max, avec max par défaut. Ces choix sont propres au modèle; il ne faut pas supposer l’existence d’un réglage sans réflexion ou d’une valeur d’effort provenant d’une autre famille. Les recommandations de migration du fabricant distinguent K3 de K2.x en utilisant reasoning_effort plutôt qu’en reprenant l’ancienne configuration thinking.

Le producteur documente des contenus distincts pour reasoning_content et la réponse finale dans les résultats diffusés progressivement. Pour une conversation à plusieurs tours ou un processus avec outils, il exige de retransmettre le message complet retourné par l’assistant sans modification, y compris reasoning_content et tool_calls. Ne conserver que la réponse finale visible fait perdre des informations que le processus de réflexion conservée du modèle attend à l’étape suivante.

Réponses finales structurées et continuation partielle

Le guide de démarrage documente une sortie strictement conforme à un schéma JSON pour le contenu du message final. Définissez les champs et leur sens autour du livrable dont l’application a besoin, et analysez ce contenu final plutôt que de le combiner au champ de raisonnement. Un résultat structuré peut représenter des informations extraites des éléments fournis ou un format de rapport défini; le schéma en contraint la forme, tandis que les preuves sources déterminent la justesse des valeurs.

Le mode partiel peut poursuivre un préfixe de texte fourni. L’exemple du producteur place un message partiel de l’assistant à la fin de l’historique et combine ce préfixe à la continuation retournée pour l’affichage. Utilisez ce mode lorsque le livrable requis possède un début fixe significatif, en gardant le préfixe distinct de la suite générée.

Outils et continuité de leurs résultats

K3 prend en charge les outils de fonctions personnalisées. L’exemple du producteur impose un outil au premier tour, conserve le message complet de l’assistant, exécute chaque appel retourné et ajoute un résultat d’outil correspondant avant de demander la réponse finale. Un appel proposé ne prouve pas la réussite de l’opération; le résultat réellement retourné devient la preuve pour l’étape suivante.

Son processus de chargement dynamique introduit une définition complète d’outil à un point précis de l’historique des messages. La définition doit contenir le nom, l’objectif et les paramètres de l’outil, et rester dans l’historique ultérieur, car le serveur ne conserve pas cette déclaration de manière indépendante. Gardez les capacités des outils, les arguments fournis et les observations réelles associés pour qu’une tâche longue puisse reprendre à partir du travail déjà terminé.

Contrôles de sortie et contexte répété

Le producteur documente une allocation de complétion par défaut de 131 072 jetons, configurable jusqu’à 1 048 576 dans les contraintes globales de contexte du modèle. L’API K3 actuelle fixe temperature à 1.0, top_p à 0.95, un seul résultat et des pénalités de présence et de fréquence nulles, et demande aux appelants d’omettre ces contrôles d’échantillonnage. Il s’agit des réglages exacts de ce modèle chez le producteur, pas d’une liste transférable de contrôles ajustables.

La mise en cache du contexte est automatique pour les préfixes répétés admissibles, avec des durées de vie documentées de 5 minutes et de 1 heure, et 5 minutes par défaut. Les blocs de cache partiels restent des absences de correspondance. Gardez le contexte réutilisable stable et vérifiez l’utilisation réelle au lieu d’affirmer une correspondance de cache sur la seule base d’un texte répété. Pour le livrable final, conservez les sources fournies, les preuves réelles des outils et la structure de sortie requise, puis vérifiez qu’une longue réponse ou un résultat d’ingénierie respecte les critères d’achèvement annoncés.