Thinking Machines: Inkling Small (free)

Inkling-Small es el modelo multimodal de pesos abiertos más pequeño de Thinking Machines Lab para razonamiento, programación, conversación y aplicaciones que usan herramientas. Acepta texto, imágenes y audio y produce texto. Su diseño de mezcla de expertos tiene 276 mil millones de parámetros totales, con 12 mil millones activos, frente a los 975 mil millones totales y 41 mil millones activos de Inkling. Small es un modelo publicado por separado con un equilibrio diferente de eficiencia y capacidad, no un modo de salida más corta de Inkling.

Para investigar código, proporciona los archivos afectados, el comportamiento observado y el cambio que necesitas; después pide la ruta responsable y una corrección específica. Un artefacto final útil incluye la edición propuesta y la evidencia de las verificaciones que la aplicación conectada sí ejecutó. Para un asistente de soporte, proporciona la política pertinente y los datos de la conversación, y pide la siguiente respuesta o la pregunta faltante. Los usos previstos del modelo incluyen asistentes de programación, chatbots, respuestas aumentadas por recuperación y sistemas con agentes que usan herramientas de la aplicación.

La ventana de contexto llega hasta un millón de tokens. Organiza un repositorio largo o una colección de documentos con nombres de archivo, etiquetas de secciones y una pregunta clara, conservando los datos que una etapa posterior deba usar. Una ventana grande resulta útil para comparar piezas de información distantes, pero el resultado solicitado debe seguir siendo específico: un cambio de código, una explicación basada en fuentes o campos extraídos. La información nueva o privada debe estar en la evidencia proporcionada o en los resultados de recuperación devueltos, en lugar de suponer que forma parte del conocimiento aprendido.

El esfuerzo de razonamiento es controlable. La guía de la familia del productor usa valores continuos desde 0.0 inclusive hasta valores menores que 1.0, con valores iniciales preestablecidos none, minimal, low, medium, high y xhigh que corresponden a 0.0, 0.1, 0.2, 0.7, 0.9 y 0.99. El renderizador del productor usa high por defecto. Un esfuerzo mayor puede fomentar más razonamiento y necesitar un presupuesto de generación más amplio, pero no garantiza una respuesta más larga o precisa. Un ajuste de cero orienta al modelo a no razonar en lugar de imponer una ausencia estricta de razonamiento. Elige el esfuerzo según la tarea y mantén claro el requisito de salida final.

Las imágenes pueden apoyar preguntas visuales, interpretación de gráficas o diagramas y razonamiento matemático a partir de información visible. Para un buen rendimiento, usa imágenes cuyas dimensiones estén entre 40 y 4,096 píxeles. Conserva etiquetas legibles y explica el detalle importante. Con una herramienta Python configurada, el modelo puede combinar el razonamiento visual con recorte, ampliación e inspección programática de un documento o una gráfica. Esas operaciones necesitan ser ejecutadas por el entorno de herramientas conectado; la respuesta escrita debe usar las observaciones devueltas por este.

La entrada de audio es WAV muestreado a 16 kHz, con grabaciones idealmente menores de dos minutos para un rendimiento óptimo. Es una recomendación de preparación, no una garantía estricta de duración. Usa una pregunta hablada pertinente o un clip corto e indica si el resultado escrito debe transcribir la voz, responder una pregunta sobre la grabación o relacionar su contenido con otro material proporcionado. La respuesta nativa es texto, no voz generada. La recomendación separada de Inkling para audio más largo no se debe trasladar a la edición Small.

Los flujos que usan herramientas necesitan descripciones significativas de las herramientas, definiciones de argumentos y resultados de las operaciones que ejecuta la aplicación. Mantén un resultado de consulta, un cálculo o una observación de archivo separados de la acción propuesta por el modelo. Para una discrepancia en una gráfica, identifica las etiquetas pertinentes, inspecciona los valores proporcionados mediante una herramienta de cálculo y pide una explicación que cite esos valores. El modelo se entrena para diversos entornos de programación y agentes, así que se deben describir la tarea y las herramientas que lo rodean en vez de dejarlas implícitas.

Los pesos abiertos permiten investigación de modelos, ajuste fino e integración en productos posteriores. La versión de Inkling-Small sigue a un punto de control preview anterior e incluye entrenamiento adicional para programación con agentes; el modelo final y ese preview deben conservar identidades separadas. Para una extracción especializada o un estilo de respuesta, la personalización usa ejemplos representativos y un comportamiento objetivo explícito. Un prompt normal, en cambio, proporciona contexto para la solicitud actual; no crea un modelo recién entrenado ni cambia a él.

Una revisión útil del resultado verifica que el cambio de código, la transcripción, los datos extraídos o la respuesta escrita propuestos coincidan con la evidencia proporcionada. Especifica cómo deben aparecer la incertidumbre y la información faltante, sobre todo para un pronóstico o una respuesta factual cuya fuente esté incompleta. El fabricante entrenó Inkling-Small para calibración de pronósticos mediante aprendizaje por refuerzo con reglas de puntuación propias sobre preguntas del mundo real, buscando expresar una confianza acorde con la evidencia disponible. Conserva el material y las observaciones de herramientas junto con el artefacto para que un seguimiento pueda revisar un problema sin perder la tarea original. Las capacidades generales multilingües y multimodales de Inkling-Small siguen siendo distintas de las de un generador dedicado de voz o un servicio con acciones externas garantizadas.