Thinking Machines: Inkling Small (free)

Inkling-Small est le plus petit modèle multimodal à poids ouverts de Thinking Machines Lab pour le raisonnement, la programmation, la conversation et les applications utilisant des outils. Il accepte du texte, des images et de l’audio et produit du texte. Sa conception à mélange d’experts compte 276 milliards de paramètres au total, dont 12 milliards actifs, contre 975 milliards au total et 41 milliards actifs pour Inkling. Small est un modèle publié séparément, avec un équilibre différent entre efficacité et capacités, et non un mode de sortie plus courte d’Inkling.

Pour une investigation de code, fournissez les fichiers concernés, le comportement observé et la modification nécessaire, puis demandez le chemin responsable et une correction ciblée. Un livrable final utile comprend la modification proposée et les éléments issus des vérifications réellement exécutées par l’application connectée. Pour un assistant d’assistance, fournissez la politique pertinente et les faits de la conversation, puis demandez la réponse suivante ou la question manquante. Les utilisations visées comprennent les assistants de programmation, les chatbots, les réponses augmentées par récupération et les systèmes agentiques avec des outils d’application.

La fenêtre de contexte atteint un million de tokens. Organisez un long dépôt ou une collection de documents avec les noms de fichiers, les libellés de sections et une question claire, en préservant les faits qu’une étape ultérieure doit utiliser. Une grande fenêtre est utile pour comparer des informations éloignées, mais le résultat demandé doit rester précis : une modification de code, une explication fondée sur des sources ou des champs extraits. Les informations nouvelles ou privées doivent figurer dans les éléments fournis ou les résultats de récupération retournés, plutôt que d’être supposées faire partie des connaissances apprises.

L’effort de réflexion est réglable. Le guide de la famille du producteur utilise des valeurs continues allant de 0.0 inclus à 1.0 exclu, avec les préréglages de départ none, minimal, low, medium, high et xhigh correspondant à 0.0, 0.1, 0.2, 0.7, 0.9 et 0.99. Le moteur de mise en forme du producteur utilise high par défaut. Un effort supérieur peut encourager davantage de raisonnement et nécessiter un budget de génération plus important, sans garantir une réponse plus longue ou plus exacte. Un réglage à zéro oriente le modèle vers l’absence de raisonnement plutôt que d’imposer une absence stricte. Choisissez l’effort selon la tâche et gardez l’exigence de sortie finale claire.

Les images peuvent servir aux questions visuelles, à l’interprétation de graphiques ou de schémas et au raisonnement mathématique à partir d’informations visibles. Pour de bonnes performances, utilisez des images dont les dimensions sont comprises entre 40 et 4 096 pixels. Préservez la lisibilité des libellés et expliquez le détail important. Avec un outil Python configuré, le modèle peut associer le raisonnement visuel au recadrage, au zoom et à l’examen programmatique d’un document ou d’un graphique. Ces opérations doivent être exécutées par l’environnement d’outils connecté ; la réponse écrite doit utiliser les observations qu’il retourne.

L’entrée audio est du WAV échantillonné à 16 kHz, avec des enregistrements idéalement inférieurs à deux minutes pour des performances optimales. C’est une recommandation de préparation, et non une garantie stricte de durée. Utilisez une question orale pertinente ou un court clip et précisez si le résultat écrit doit transcrire la parole, répondre à une question sur l’enregistrement ou relier son contenu à d’autres éléments fournis. La réponse native est textuelle plutôt que de la parole générée. La recommandation distincte d’Inkling pour les contenus audio plus longs ne doit pas être transférée à l’édition Small.

Les processus utilisant des outils nécessitent des descriptions utiles des outils, des définitions d’arguments et les résultats des opérations exécutées par l’application. Distinguez un résultat de consultation, un calcul ou une observation de fichier de l’action proposée par le modèle. Pour un écart dans un graphique, identifiez les libellés pertinents, examinez les valeurs fournies au moyen d’un outil de calcul et demandez une explication citant ces valeurs. Le modèle est entraîné pour divers environnements de programmation et d’agents ; la tâche et les outils environnants doivent donc être décrits plutôt que laissés implicites.

Les poids ouverts permettent la recherche sur les modèles, l’ajustement fin et l’intégration à des produits en aval. La version d’Inkling-Small succède à un checkpoint preview antérieur et comprend un entraînement supplémentaire à la programmation agentique ; le modèle final et ce preview doivent conserver des identités distinctes. Pour une extraction spécialisée ou un style de réponse particulier, la personnalisation utilise des exemples représentatifs et un comportement cible explicite. Un prompt ordinaire fournit, lui, du contexte pour la requête actuelle ; il ne crée pas de nouveau modèle entraîné et ne bascule pas vers celui-ci.

Une vérification utile du résultat contrôle que la modification de code proposée, la transcription, les faits extraits ou la réponse écrite correspondent aux éléments fournis. Précisez comment doivent apparaître l’incertitude et les informations manquantes, notamment pour une prévision ou une réponse factuelle dont la source est incomplète. Le fabricant a entraîné Inkling-Small à la calibration des prévisions par apprentissage par renforcement selon des règles de score propres, sur des questions du monde réel, afin d’exprimer une confiance adaptée aux éléments disponibles. Conservez le contenu et les observations des outils avec le livrable pour qu’un échange de suivi puisse réviser un point sans perdre la tâche initiale. Les capacités générales multilingues et multimodales d’Inkling-Small restent distinctes d’un générateur de parole dédié ou d’un service garantissant des actions externes.