Thinking Machines: Inkling (free)

Inkling est le modèle multimodal à poids ouverts de Thinking Machines Lab pour le raisonnement, le code, la conversation et les applications agentiques. Il accepte du texte, des images et de l’audio et renvoie du texte. Son architecture à mélange d’experts compte 975 milliards de paramètres au total, dont 41 milliards actifs, ce qui en fait le plus grand modèle de la famille. Inkling-Small est un modèle distinct de 276 milliards de paramètres, dont 12 milliards actifs, et non un réglage qui modifie la longueur des réponses d’Inkling.

Pour une tâche de code importante, fournissez le contenu pertinent du dépôt, le comportement observé et le résultat souhaité. Demandez au modèle de retracer le chemin responsable, de proposer une modification et de rapporter les éléments issus des vérifications réellement exécutées dans l’environnement connecté. Pour une comparaison de documents, identifiez les sections sources et demandez les différences pertinentes, leurs éléments à l’appui et toute question sans réponse. Les applications visées comprennent les assistants de code, les chatbots, la génération augmentée par récupération et les agents utilisant des outils, avec un résultat final adapté à l’application qui le consomme.

Inkling prend en charge jusqu’à un million de tokens de contexte. Utilisez cet espace pour réunir un contenu source conséquent et les faits importants de la conversation, en les organisant autour d’une question précise. Distinguez les faits sources des hypothèses et laissez de la place pour le livrable écrit complet. Le contexte plus vaste permet de travailler sur une collection étendue ; il ne transforme pas la réponse en vue en direct d’un système dont les informations actuelles n’ont pas été fournies.

L’effort de réflexion est un contrôle continu allant de 0.0 inclus à une valeur inférieure à 1.0. Les préréglages de départ du fournisseur sont none à 0.0, minimal à 0.1, low à 0.2, medium à 0.7, high à 0.9 et xhigh à 0.99, avec high par défaut dans le moteur de rendu. L’effort et le budget de tokens de génération sont indépendants. Un effort supérieur peut encourager davantage de raisonnement et nécessiter plus d’espace avant la réponse finale, tandis que none oriente vers l’absence de raisonnement sans imposer de restriction stricte. Choisissez une valeur adaptée à la tâche et rendez explicites le livrable attendu et la condition d’achèvement.

L’entrée visuelle permet la description d’images, les questions sur le contenu visible, les graphiques, les schémas et le raisonnement mathématique visuel. Pour de bonnes performances, utilisez des dimensions d’image comprises entre 40 et 4 096 pixels. Gardez lisibles les libellés pertinents et le contexte des schémas. Inkling peut utiliser un outil Python configuré pour zoomer, recadrer ou examiner une image par programmation, en reliant les observations visuelles au raisonnement fondé sur le code. Une réponse utile sur un graphique conserve les valeurs observées et montre comment elles soutiennent la conclusion, sans supposer qu’un recadrage ou un calcul a eu lieu simplement parce qu’il a été proposé.

L’entrée audio utilise du WAV échantillonné à 16 kHz, et le concepteur recommande des enregistrements de 20 minutes au maximum pour des performances optimales. Il s’agit d’une recommandation de préparation. Inkling peut transcrire la parole, suivre des consignes orales, répondre à des questions sur des enregistrements et raisonner sur des contenus audio longs. Fournissez l’enregistrement pertinent avec la question écrite et toute référence nécessaire à son interprétation. Un livrable de réunion peut distinguer les faits prononcés d’un résumé ou d’une interprétation ultérieurs. Le modèle produit du texte ; sa compréhension audio se distingue donc de la synthèse d’une réponse parlée.

Pour une tâche fondée sur des outils, décrivez les opérations disponibles et leurs arguments, et conservez les observations réelles renvoyées par l’application. Un résultat de recherche peut fournir des éléments actuels ; un calcul peut fournir un travail numérique ; une opération sur un fichier peut établir le contenu examiné. L’action proposée par le modèle et le résultat exécuté sont deux parties distinctes de la conversation. Gardez la réponse finale reliée à ces observations, surtout lorsqu’elle suggère une modification de code ou une prochaine étape dans l’application.

Inkling a été entraîné à la calibration et au suivi des consignes, notamment à exprimer l’incertitude lorsqu’une réponse n’est pas établie. Pour une prévision ou une analyse fondée sur des éléments probants, demandez les hypothèses, les éléments à l’appui et les conditions non résolues dans le résultat écrit. Pour une extraction, définissez la représentation d’une valeur absente au lieu d’exiger un fait inventé dans chaque champ. Ces consignes rendent un résultat utile à vérifier, sans traiter la confiance ou un long raisonnement comme une preuve d’exactitude.

Les poids ouverts permettent l’ajustement fin et l’intégration en aval. Un modèle spécialisé est développé à partir d’exemples représentatifs et d’un comportement cible, tandis qu’une requête d’inférence ordinaire fournit le contexte de la tâche présente. Le fournisseur montre la personnalisation comme un processus séparé ; une réponse normale ne passe pas discrètement à de nouveaux poids. Conservez les éléments d’origine et les contraintes demandées avec le livrable final afin qu’un suivi puisse réviser un fait, affiner la formulation ou examiner un autre chemin de code tout en gardant la cohérence de la même tâche.