Thinking Machines: Inkling Small (free)

Inkling-Small es el modelo multimodal de pesos abiertos más pequeño de Thinking Machines Lab para razonamiento, programación, conversación y aplicaciones que utilizan herramientas. Acepta texto, imágenes y audio y produce texto. Su diseño de mezcla de expertos tiene 276 mil millones de parámetros totales y 12 mil millones activos, frente a los 975 mil millones totales y 41 mil millones activos de Inkling. Small es un modelo publicado por separado con un equilibrio diferente entre eficiencia y capacidad, no un modo de salida más corta de Inkling.

Para una investigación de código, proporciona los archivos afectados, el comportamiento observado y el cambio que necesitas, y pide después la ruta responsable y una corrección concreta. Un entregable final útil incluye la edición propuesta y las pruebas de las comprobaciones que la aplicación conectada realmente haya ejecutado. Para un asistente de soporte, proporciona la política pertinente y los datos de la conversación y pide la siguiente respuesta o la pregunta que falta. Los usos previstos del modelo incluyen asistentes de programación, chatbots, respuestas aumentadas por recuperación y sistemas de agentes con herramientas de aplicación.

La ventana de contexto llega hasta un millón de tokens. Organiza un repositorio largo o una colección de documentos con nombres de archivo, etiquetas de sección y una pregunta clara, conservando los datos que una etapa posterior deba utilizar. Una ventana amplia es útil para comparar información distante, pero el resultado solicitado debe seguir siendo específico: un cambio de código, una explicación basada en fuentes o campos extraídos. La información nueva o privada debe estar en las pruebas proporcionadas o en los resultados de recuperación devueltos, en lugar de suponerse parte del conocimiento aprendido.

El esfuerzo de razonamiento es ajustable. La guía de la familia del productor utiliza valores continuos desde 0.0 inclusive hasta un valor inferior a 1.0, con ajustes iniciales none, minimal, low, medium, high y xhigh correspondientes a 0.0, 0.1, 0.2, 0.7, 0.9 y 0.99. El renderizador del productor utiliza high por defecto. Un esfuerzo mayor puede fomentar más razonamiento y necesitar un presupuesto de generación mayor, pero no garantiza una respuesta más larga ni más precisa. El valor cero orienta al modelo hacia la ausencia de razonamiento en lugar de imponerla de forma estricta. Elige el esfuerzo según la tarea y mantén claro el requisito de salida final.

Las imágenes pueden servir para preguntas visuales, interpretación de gráficos o diagramas y razonamiento matemático a partir de información visible. Para un buen rendimiento, utiliza imágenes con dimensiones entre 40 y 4,096 píxeles. Conserva las etiquetas legibles y explica qué detalle importa. Con una herramienta Python configurada, el modelo puede combinar razonamiento visual con recorte, ampliación e inspección mediante código de un documento o gráfico. Esas operaciones necesitan ser ejecutadas por el entorno de herramientas conectado; la respuesta escrita debe utilizar las observaciones devueltas por él.

La entrada de audio es WAV muestreado a 16 kHz, con grabaciones idealmente inferiores a dos minutos para un rendimiento óptimo. Es una recomendación de preparación, no una garantía de duración estricta. Utiliza una pregunta hablada o un clip breve pertinentes e indica si el resultado escrito debe transcribir la voz, responder una pregunta sobre la grabación o relacionar su contenido con otro material proporcionado. La respuesta nativa es texto, no voz generada. La recomendación separada de Inkling para audio más largo no debe trasladarse a la edición Small.

Los flujos que utilizan herramientas necesitan descripciones significativas de las herramientas, definiciones de argumentos y resultados de las operaciones que ejecuta la aplicación. Mantén un resultado de consulta, un cálculo o una observación de archivos separados de la acción propuesta por el modelo. Para una discrepancia en un gráfico, identifica las etiquetas pertinentes, examina los valores proporcionados mediante una herramienta de cálculo y pide una explicación que cite esos valores. El modelo se entrena para diversos entornos de programación y agentes, por lo que la tarea y las herramientas que lo integran deben describirse en lugar de dejarse implícitas.

Los pesos abiertos permiten investigación del modelo, ajuste fino e integración en productos posteriores. La versión de Inkling-Small sucede a un punto de control preview anterior e incluye entrenamiento adicional para programación con agentes; el modelo final y esa preview deben conservar identidades separadas. Para una extracción especializada o un estilo de respuesta, la personalización utiliza ejemplos representativos y un comportamiento objetivo explícito. Un prompt ordinario, en cambio, aporta contexto para la petición actual; no crea ni cambia a un modelo recién entrenado.

Una revisión útil del resultado comprueba que el cambio de código propuesto, la transcripción, los datos extraídos o la respuesta escrita coincidan con las pruebas proporcionadas. Especifica cómo deben aparecer la incertidumbre y la información ausente, especialmente para un pronóstico o una respuesta factual cuya fuente sea incompleta. El fabricante entrenó Inkling-Small para calibrar pronósticos mediante aprendizaje por refuerzo con reglas de puntuación propias sobre preguntas del mundo real, con el objetivo de expresar una confianza acorde con las pruebas disponibles. Conserva el material y las observaciones de herramientas junto con el entregable para que un seguimiento pueda revisar un asunto sin perder la tarea original. Las capacidades generales multilingües y multimodales de Inkling-Small siguen siendo distintas de las de un generador de voz dedicado o un servicio de acciones externas garantizadas.