Thinking Machines: Inkling (free)

Inkling es el modelo multimodal de pesos abiertos de Thinking Machines Lab para razonamiento, programación, conversación y aplicaciones de agentes. Acepta texto, imágenes y audio y devuelve texto. Su diseño de mezcla de expertos tiene 975 mil millones de parámetros totales y 41 mil millones activos, lo que lo convierte en el modelo más grande de la familia. Inkling-Small es un modelo separado de 276 mil millones de parámetros, con 12 mil millones activos, no un ajuste que modifique la extensión de las respuestas de Inkling.

Para una tarea sustancial de código, proporciona el material pertinente del repositorio, el comportamiento observado y el resultado deseado. Pide al modelo que trace la ruta responsable, proponga un cambio e informe de las pruebas obtenidas en comprobaciones que realmente se hayan ejecutado en el entorno conectado. Para comparar documentos, etiqueta las secciones de origen y pide las diferencias pertinentes, las pruebas que las respaldan y cualquier pregunta sin responder. Las aplicaciones previstas incluyen asistentes de programación, chatbots, generación aumentada por recuperación y agentes que utilizan herramientas, con el resultado final adaptado a la aplicación que lo consume.

Inkling admite hasta un millón de tokens de contexto. Utiliza ese espacio para mantener juntos material de origen extenso y datos importantes de la conversación, organizándolos alrededor de una pregunta específica. Distingue los datos de las fuentes de las suposiciones y deja espacio para el entregable escrito completo. El contexto más amplio permite trabajar con una colección extensa; no convierte la respuesta en una vista en tiempo real de un sistema cuya información actual no se ha proporcionado.

El esfuerzo de razonamiento es un control continuo desde 0.0 inclusive hasta un valor inferior a 1.0. Los ajustes iniciales del productor son none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 y xhigh 0.99, con high como valor predeterminado del renderizador. El esfuerzo y el presupuesto de tokens de generación son independientes. Un esfuerzo mayor puede fomentar más razonamiento y requerir más espacio antes de la respuesta final, mientras que none orienta hacia la ausencia de razonamiento sin imponer una restricción estricta. Elige un valor acorde con el encargo y explicita el entregable esperado y la condición de finalización.

La entrada visual admite descripción de imágenes, preguntas sobre contenido visible, gráficos, diagramas y razonamiento matemático visual. Para un buen rendimiento, utiliza dimensiones de imagen entre 40 y 4,096 píxeles. Mantén legibles las etiquetas pertinentes y el contexto de los diagramas. Inkling puede utilizar una herramienta Python configurada para ampliar, recortar o examinar una imagen mediante código, conectando las observaciones visuales con el razonamiento basado en código. Una respuesta útil sobre un gráfico conserva los valores observados y muestra cómo sustentan la conclusión, en lugar de asumir que un recorte o un cálculo se realizó por el mero hecho de haberlo propuesto.

La entrada de audio utiliza WAV muestreado a 16 kHz, y el fabricante recomienda grabaciones de hasta 20 minutos para un rendimiento óptimo. Es una recomendación de preparación. Inkling puede transcribir voz, seguir instrucciones habladas, responder preguntas sobre grabaciones y razonar sobre audio de formato largo. Proporciona la grabación pertinente junto con la pregunta escrita y cualquier material de referencia necesario para interpretarla. Un entregable relacionado con una reunión puede separar los hechos hablados de un resumen o una interpretación posteriores. El modelo produce texto, de modo que su comprensión del audio se diferencia de la síntesis de una respuesta hablada.

Para un encargo basado en herramientas, describe las operaciones disponibles y sus argumentos y conserva las observaciones reales devueltas por la aplicación. Un resultado de búsqueda puede aportar pruebas actuales; un cálculo, trabajo numérico; una operación de archivos, el contenido que se revisa. La acción propuesta por el modelo y el resultado ejecutado son partes separadas de la conversación. Mantén la respuesta final vinculada a esas observaciones, especialmente cuando sugiera un cambio de código o un siguiente paso de la aplicación.

Inkling se entrenó para la calibración y el seguimiento de instrucciones, incluida la expresión de incertidumbre cuando una respuesta no está establecida. Para un pronóstico o análisis basado en pruebas, pide las suposiciones, las pruebas y las condiciones pendientes en el resultado escrito. Para extracción, define cómo debe representarse un valor ausente en lugar de exigir que cada campo contenga un dato inventado. Estas instrucciones hacen que el resultado sea útil para revisión sin tratar la confianza o un largo proceso de razonamiento como prueba de corrección.

Los pesos abiertos permiten ajuste fino e integración en productos posteriores. Un modelo especializado se desarrolla a partir de ejemplos representativos y un comportamiento objetivo, mientras que una petición ordinaria de inferencia aporta contexto para la tarea actual. El productor demuestra la personalización como flujo separado; una respuesta normal no cambia silenciosamente a pesos nuevos. Conserva las pruebas originales y las condiciones solicitadas junto con el entregable final para que un seguimiento pueda revisar un dato, afinar la redacción o examinar otra ruta de código manteniendo la coherencia del mismo encargo.