Thinking Machines: Inkling (free)

Inkling es el modelo multimodal de pesos abiertos de Thinking Machines Lab para razonamiento, programación, conversación y aplicaciones con agentes. Acepta texto, imágenes y audio y devuelve texto. Su diseño de mezcla de expertos tiene 975 mil millones de parámetros totales y 41 mil millones activos, lo que lo convierte en el modelo más grande de la familia. Inkling-Small es un modelo separado de 276 mil millones de parámetros, con 12 mil millones activos, no un ajuste que cambie la longitud de respuesta de Inkling.

Para una tarea de código considerable, proporciona el material pertinente del repositorio, el comportamiento observado y el resultado deseado. Pide al modelo que siga la ruta responsable, proponga un cambio e informe la evidencia de las verificaciones que sí se ejecutaron en el entorno conectado. Para comparar documentos, etiqueta las secciones de origen y pide las diferencias pertinentes, su evidencia de respaldo y cualquier pregunta pendiente. Las aplicaciones previstas incluyen asistentes de programación, chatbots, generación aumentada por recuperación y agentes que usan herramientas, con un resultado final adaptado a la aplicación que lo consume.

Inkling admite hasta un millón de tokens de contexto. Usa ese espacio para mantener juntos material de origen considerable y datos importantes de la conversación, organizándolos en torno a una pregunta específica. Distingue los hechos de las fuentes de los supuestos y deja espacio para el artefacto escrito completo. El contexto más amplio permite trabajar con una colección extensa; no convierte la respuesta en una vista en vivo de un sistema cuya información actual no se ha proporcionado.

El esfuerzo de razonamiento es un control continuo desde 0.0 inclusive hasta valores menores que 1.0. Los valores iniciales preestablecidos del productor son none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 y xhigh 0.99, con high como valor predeterminado del renderizador. El esfuerzo y el presupuesto de tokens de generación son independientes. Un esfuerzo mayor puede fomentar más razonamiento y requerir más espacio antes de la respuesta final, mientras que none orienta a no razonar sin imponer una restricción estricta. Elige un valor que se ajuste al encargo y haz explícitos el artefacto esperado y la condición de finalización.

La entrada visual admite descripción de imágenes, preguntas sobre contenido visible, gráficas, diagramas y razonamiento matemático visual. Para un buen rendimiento, usa dimensiones de imagen entre 40 y 4,096 píxeles. Mantén legibles las etiquetas pertinentes y el contexto del diagrama. Inkling puede usar una herramienta Python configurada para ampliar, recortar o inspeccionar una imagen de forma programática, conectando las observaciones visuales con el razonamiento basado en código. Una respuesta útil sobre una gráfica conserva los valores observados y muestra cómo respaldan la conclusión, en lugar de suponer que se hizo un recorte o un cálculo solo porque se propuso.

La entrada de audio usa WAV muestreado a 16 kHz y el fabricante recomienda grabaciones de hasta 20 minutos para un rendimiento óptimo. Es una recomendación de preparación. Inkling puede transcribir voz, seguir instrucciones habladas, responder preguntas sobre grabaciones y razonar sobre audio de mayor duración. Proporciona la grabación pertinente junto con la pregunta escrita y cualquier material de referencia necesario para interpretarla. Un artefacto relacionado con una reunión puede separar los hechos hablados de un resumen o una interpretación posteriores. El modelo produce texto, así que su comprensión de audio es distinta de sintetizar una respuesta hablada.

Para un encargo basado en herramientas, describe las operaciones disponibles y sus argumentos y conserva las observaciones reales devueltas por la aplicación. Un resultado de búsqueda puede proporcionar evidencia actual; un cálculo puede aportar el trabajo numérico; una operación de archivo puede establecer el contenido que se está revisando. La acción propuesta por el modelo y el resultado ejecutado son partes separadas de la conversación. Mantén una respuesta final vinculada con esas observaciones, especialmente cuando sugiera un cambio de código o un siguiente paso de la aplicación.

Inkling se entrenó para calibración y seguimiento de instrucciones, incluido expresar incertidumbre cuando una respuesta no está establecida. Para un pronóstico o análisis basado en evidencia, pide los supuestos, la evidencia y las condiciones pendientes en el resultado escrito. Para extracción, define cómo se debe representar un valor ausente en lugar de exigir que cada campo contenga un dato inventado. Estas instrucciones hacen que un resultado sea útil para revisión sin tratar la confianza o un proceso largo de razonamiento como prueba de corrección.

Los pesos abiertos permiten ajuste fino e integración en productos posteriores. Un modelo especializado se desarrolla a partir de ejemplos representativos y un comportamiento objetivo, mientras que una solicitud de inferencia normal proporciona contexto para la tarea presente. El productor muestra la personalización como un flujo separado; una respuesta normal no cambia silenciosamente a pesos nuevos. Conserva la evidencia original y las restricciones solicitadas junto con el artefacto final para que un seguimiento pueda revisar un dato, afinar la redacción o inspeccionar otra ruta de código mientras mantiene coherente el mismo encargo.