Thinking Machines: Inkling Small (free)

O Inkling-Small é o modelo multimodal menor de pesos abertos da Thinking Machines Lab para raciocínio, programação, conversação e aplicações com ferramentas. Aceita texto, imagens e áudio e produz texto. A sua conceção de mistura de especialistas tem 276 mil milhões de parâmetros no total, com 12 mil milhões ativos, face aos 975 mil milhões no total e 41 mil milhões ativos do Inkling. Small é um modelo lançado separadamente, com um equilíbrio diferente entre eficiência e capacidade, não um modo de saída mais curta do Inkling.

Para investigar código, forneça os ficheiros afetados, o comportamento observado e a alteração necessária e peça o percurso responsável e uma correção específica. Um artefacto final útil inclui a edição proposta e os elementos de qualquer verificação realmente executada pela aplicação ligada. Para um assistente de apoio, forneça a política relevante e os factos da conversa e peça a resposta seguinte ou a pergunta em falta. As utilizações previstas incluem assistentes de programação, chatbots, respostas aumentadas por recuperação e sistemas com agentes e ferramentas da aplicação.

A janela de contexto vai até um milhão de tokens. Organize um repositório ou coleção documental extensos com nomes de ficheiros, etiquetas de secção e uma pergunta clara, preservando os factos que uma etapa posterior deve usar. Uma janela grande é útil para comparar partes distantes da informação, mas o resultado pedido deve continuar específico: uma alteração de código, uma explicação baseada em fontes ou campos extraídos. Informação nova ou privada deve estar nos elementos fornecidos ou nos resultados de recuperação devolvidos, em vez de ser assumida como parte do conhecimento aprendido.

O esforço de pensamento é controlável. O guia da família do produtor usa valores contínuos de 0.0, inclusive, até um valor inferior a 1.0, com predefinições iniciais none, minimal, low, medium, high e xhigh correspondentes a 0.0, 0.1, 0.2, 0.7, 0.9 e 0.99. O renderizador do produtor usa high por predefinição. Um esforço maior pode incentivar mais raciocínio e exigir um orçamento de geração maior, mas não garante uma resposta mais longa ou precisa. Zero orienta o modelo para ausência de raciocínio, em vez de impor uma ausência rígida. Escolha o esforço para a tarefa e mantenha claro o requisito de saída final.

As imagens podem apoiar perguntas visuais, interpretação de gráficos ou diagramas e raciocínio matemático a partir de informação visível. Para bom desempenho, utilize imagens com dimensões entre 40 e 4 096 píxeis. Preserve legendas legíveis e explique o pormenor importante. Com uma ferramenta Python configurada, o modelo pode combinar raciocínio visual com recorte, ampliação e inspeção programática de um documento ou gráfico. Essas operações exigem execução pelo ambiente de ferramentas ligado; a resposta escrita deve usar as observações que este devolve.

A entrada de áudio é WAV amostrado a 16 kHz, com gravações idealmente inferiores a dois minutos para desempenho ótimo. É uma recomendação de preparação, não uma garantia rígida de duração. Utilize uma pergunta falada relevante ou um clip curto e indique se o resultado escrito deve transcrever a fala, responder a uma pergunta sobre a gravação ou relacionar o seu conteúdo com outro material fornecido. A resposta nativa é texto, não fala gerada. A recomendação separada do Inkling para áudio mais longo não deve ser transferida para a edição Small.

Os fluxos com ferramentas precisam de descrições úteis das ferramentas, definições de argumentos e resultados das operações executadas pela aplicação. Mantenha o resultado de uma consulta, cálculo ou observação de ficheiro distinto da ação proposta pelo modelo. Para uma discrepância num gráfico, identifique as legendas relevantes, inspecione os valores fornecidos através de uma ferramenta de cálculo e peça uma explicação que cite esses valores. O modelo é treinado para vários ambientes de programação e agentes, pelo que a tarefa envolvente e as ferramentas devem ser descritas, em vez de ficarem implícitas.

Os pesos abertos permitem investigação do modelo, ajuste fino e integração em produtos subsequentes. O lançamento do Inkling-Small sucede a um checkpoint preview anterior e inclui treino adicional para programação com agentes; o modelo final e essa preview devem conservar identidades separadas. Para extração especializada ou um estilo de resposta, a personalização utiliza exemplos representativos e um comportamento-alvo explícito. Um pedido normal fornece antes contexto para o pedido atual; não cria nem muda para um modelo acabado de treinar.

Uma revisão útil do resultado verifica se a alteração de código proposta, a transcrição, os factos extraídos ou a resposta escrita correspondem aos elementos fornecidos. Especifique como devem aparecer a incerteza e a informação em falta, sobretudo numa previsão ou resposta factual cuja fonte é incompleta. O fabricante treinou o Inkling-Small para calibração de previsões através de aprendizagem por reforço com regras de pontuação próprias, em perguntas do mundo real, procurando expressar confiança ajustada aos elementos disponíveis. Preserve o material e as observações das ferramentas com o artefacto, para que um seguimento possa rever um problema sem perder a tarefa original. As capacidades gerais multilingues e multimodais do Inkling-Small mantêm-se distintas de um gerador dedicado de fala ou de um serviço garantido de ações externas.