Thinking Machines: Inkling (free)

Inkling est le modèle multimodal à poids ouverts de Thinking Machines Lab pour le raisonnement, la programmation, la conversation et les applications agentiques. Il accepte du texte, des images et de l’audio et retourne du texte. Sa conception à mélange d’experts compte 975 milliards de paramètres au total, dont 41 milliards actifs, ce qui en fait le plus grand modèle de la famille. Inkling-Small est un modèle distinct de 276 milliards de paramètres, dont 12 milliards actifs, et non un réglage modifiant la longueur de réponse d’Inkling.

Pour une tâche de code importante, fournissez le contenu pertinent du dépôt, le comportement observé et le résultat souhaité. Demandez au modèle de retracer le chemin responsable, de proposer une modification et de rapporter les éléments issus des vérifications réellement exécutées dans l’environnement connecté. Pour une comparaison de documents, attribuez des libellés aux sections sources et demandez les différences pertinentes, les éléments qui les étayent et toute question sans réponse. Les applications visées comprennent les assistants de programmation, les chatbots, la génération augmentée par récupération et les agents utilisant des outils, avec un résultat final adapté à l’application qui le consomme.

Inkling prend en charge jusqu’à un million de tokens de contexte. Utilisez cet espace pour réunir un contenu source conséquent et les faits importants de la conversation, tout en l’organisant autour d’une question précise. Distinguez les faits des sources des hypothèses et laissez de la place pour le livrable écrit complet. Le contexte plus grand permet de travailler sur une vaste collection ; il ne transforme pas la réponse en une vue en temps réel d’un système dont les informations actuelles n’ont pas été fournies.

L’effort de réflexion est une commande continue allant de 0.0 inclus à 1.0 exclu. Les préréglages de départ du producteur sont none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 et xhigh 0.99, avec high comme valeur par défaut du moteur de mise en forme. L’effort et le budget de tokens de génération sont indépendants. Un effort supérieur peut favoriser davantage de raisonnement et nécessiter plus d’espace avant la réponse finale, tandis que none oriente vers une absence de raisonnement sans imposer de restriction stricte. Choisissez une valeur adaptée à la tâche et rendez explicites le livrable attendu et la condition d’achèvement.

L’entrée visuelle permet de décrire des images, de poser des questions sur le contenu visible, d’interpréter des graphiques et des schémas et de raisonner visuellement en mathématiques. Pour de bonnes performances, utilisez des dimensions d’image comprises entre 40 et 4 096 pixels. Gardez les libellés pertinents et le contexte du schéma lisibles. Inkling peut utiliser un outil Python configuré pour zoomer, recadrer ou examiner une image par programmation, en reliant les observations visuelles au raisonnement par le code. Une réponse utile sur un graphique conserve les valeurs observées et montre comment elles étayent la conclusion, au lieu de supposer qu’un recadrage ou un calcul a eu lieu simplement parce qu’il a été proposé.

L’entrée audio utilise WAV avec un échantillonnage de 16 kHz, et le fabricant recommande des enregistrements ne dépassant pas 20 minutes pour des performances optimales. Il s’agit d’une recommandation de préparation. Inkling peut transcrire la parole, suivre des instructions orales, répondre à des questions sur des enregistrements et raisonner sur des contenus audio plus longs. Fournissez l’enregistrement pertinent avec la question écrite et les références nécessaires à son interprétation. Un livrable lié à une réunion peut séparer les faits énoncés oralement d’un résumé ou d’une interprétation ultérieure. Le modèle produit du texte ; sa compréhension audio est donc distincte de la synthèse d’une réponse parlée.

Pour une tâche utilisant des outils, décrivez les opérations disponibles et leurs arguments et conservez les observations réelles retournées par l’application. Un résultat de recherche peut fournir des éléments actuels ; un calcul peut fournir un travail numérique ; une opération sur un fichier peut établir le contenu examiné. L’action proposée par le modèle et le résultat exécuté sont deux parties distinctes de la conversation. Gardez la réponse finale reliée à ces observations, notamment lorsqu’elle suggère une modification de code ou une prochaine étape de l’application.

Inkling a été entraîné à la calibration et au suivi d’instructions, notamment à l’expression de l’incertitude lorsqu’une réponse n’est pas établie. Pour une prévision ou une analyse fondée sur des éléments probants, demandez les hypothèses, les éléments disponibles et les conditions non résolues dans le résultat écrit. Pour une extraction, définissez comment représenter une valeur absente au lieu d’exiger que chaque champ contienne un fait inventé. Ces consignes rendent le résultat utile à la vérification, sans considérer la confiance ou un long raisonnement comme une preuve d’exactitude.

Les poids ouverts permettent l’ajustement fin et l’intégration en aval. Un modèle spécialisé est développé à partir d’exemples représentatifs et d’un comportement cible, tandis qu’une requête d’inférence ordinaire fournit du contexte pour la tâche présente. Le producteur présente la personnalisation comme un processus distinct ; une réponse normale ne bascule pas silencieusement vers de nouveaux poids. Conservez les éléments d’origine et les contraintes demandées avec le livrable final afin qu’un échange de suivi puisse réviser un fait, affiner la formulation ou examiner un autre chemin de code tout en gardant la cohérence de la tâche.