Thinking Machines: Inkling (free)

Inkling est le modèle multimodal à poids ouverts de Thinking Machines Lab pour le raisonnement, le code, la conversation et les applications agentiques. Il accepte du texte, des images et de l’audio et retourne du texte. Sa conception à mélange d’experts compte 975 milliards de paramètres au total, dont 41 milliards actifs, ce qui en fait le plus grand modèle de la famille. Inkling-Small est un modèle distinct de 276 milliards de paramètres, dont 12 milliards actifs, plutôt qu’un réglage qui modifie la longueur des réponses d’Inkling.

Pour une tâche de programmation importante, fournissez le contenu pertinent du dépôt, le comportement observé et le résultat souhaité. Demandez au modèle de retracer le chemin responsable, de proposer une modification et de rapporter les éléments issus des vérifications réellement exécutées dans l’environnement connecté. Pour une comparaison de documents, étiquetez les sections sources et demandez les différences pertinentes, les éléments à l’appui et toute question sans réponse. Les applications visées comprennent les assistants de code, les agents conversationnels, la génération augmentée par récupération et les agents utilisant des outils, avec un résultat final adapté à l’application qui le consomme.

Inkling prend en charge jusqu’à un million de jetons de contexte. Utilisez cet espace pour réunir un contenu source substantiel et les faits importants de la conversation, en l’organisant autour d’une question précise. Distinguez les faits sources des hypothèses et laissez de la place pour le livrable écrit complet. Le contexte élargi permet de travailler sur une vaste collection; il ne transforme pas la réponse en vue en direct d’un système dont l’information actuelle n’a pas été fournie.

L’effort de réflexion est une commande continue allant de 0.0 inclusivement à moins de 1.0. Les préréglages de départ du fournisseur sont none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 et xhigh 0.99, avec high comme valeur par défaut du moteur de rendu. L’effort et le budget de jetons de génération sont indépendants. Un effort plus élevé peut favoriser plus de raisonnement et nécessiter plus d’espace avant la réponse finale, tandis que none oriente le modèle vers l’absence de raisonnement sans imposer de restriction stricte. Choisissez une valeur adaptée au travail et rendez explicites le livrable attendu et la condition d’achèvement.

L’entrée visuelle permet de décrire des images, de poser des questions sur leur contenu visible, d’interpréter des graphiques et des diagrammes et de faire du raisonnement mathématique visuel. Pour de bonnes performances, utilisez des dimensions d’image entre 40 et 4 096 pixels. Gardez lisibles les étiquettes et le contexte du diagramme pertinents. Inkling peut utiliser un outil Python configuré pour zoomer, recadrer ou examiner une image par programmation, en reliant les observations visuelles au raisonnement par code. Une réponse utile sur un graphique conserve les valeurs observées et montre comment elles appuient la conclusion, plutôt que de supposer qu’un recadrage ou un calcul a été fait simplement parce qu’il a été proposé.

L’entrée audio utilise WAV échantillonné à 16 kHz, et le fabricant recommande des enregistrements d’au plus 20 minutes pour des performances optimales. C’est une recommandation de préparation. Inkling peut transcrire la parole, suivre des consignes orales, répondre à des questions sur des enregistrements et raisonner sur des contenus audio plus longs. Fournissez l’enregistrement pertinent avec la question écrite et les références nécessaires à son interprétation. Un livrable de réunion peut séparer les faits énoncés oralement d’un résumé ou d’une interprétation ultérieure. Le modèle produit du texte; sa compréhension audio est donc distincte de la synthèse d’une réponse parlée.

Pour un travail fondé sur les outils, décrivez les opérations disponibles et leurs arguments, et conservez les observations réelles retournées par l’application. Un résultat de recherche peut fournir des éléments actuels; un calcul peut fournir le travail numérique; une opération de fichier peut établir le contenu examiné. L’action proposée par le modèle et le résultat exécuté sont des parties distinctes de la conversation. Gardez la réponse finale liée à ces observations, surtout lorsqu’elle propose une modification de code ou une prochaine étape de l’application.

Inkling a été entraîné pour la calibration et le suivi des consignes, y compris l’expression de l’incertitude lorsqu’une réponse n’est pas établie. Pour une prévision ou une analyse fondée sur des éléments de preuve, demandez les hypothèses, les éléments et les conditions non résolues dans le résultat écrit. Pour l’extraction, définissez la représentation d’une valeur absente plutôt que d’exiger que chaque champ contienne un fait inventé. Ces consignes rendent le résultat utile pour la vérification sans traiter la confiance ou un long raisonnement comme une preuve de justesse.

Les poids ouverts permettent l’ajustement fin et l’intégration en aval. Un modèle spécialisé est développé à partir d’exemples représentatifs et d’un comportement cible, tandis qu’une requête d’inférence ordinaire fournit du contexte pour la tâche actuelle. Le fournisseur présente la personnalisation comme un flux distinct; une réponse normale ne passe pas silencieusement à de nouveaux poids. Conservez les éléments d’origine et les contraintes demandées avec le livrable final pour qu’un suivi puisse réviser un fait, préciser la formulation ou examiner un autre chemin de code tout en gardant la cohérence du travail.