Thinking Machines: Inkling (free)

O Inkling é o modelo multimodal de pesos abertos da Thinking Machines Lab para raciocínio, programação, conversação e aplicações com agentes. Aceita texto, imagens e áudio e devolve texto. A sua conceção de mistura de especialistas tem 975 mil milhões de parâmetros no total e 41 mil milhões ativos, sendo o maior modelo da família. O Inkling-Small é um modelo separado de 276 mil milhões de parâmetros, com 12 mil milhões ativos, e não uma definição que altera a extensão da resposta do Inkling.

Para uma tarefa substancial de programação, forneça o material relevante do repositório, o comportamento observado e o resultado pretendido. Peça ao modelo que siga o percurso responsável, proponha uma alteração e relate os elementos das verificações realmente executadas no ambiente ligado. Para comparar documentos, identifique as secções de origem e peça as diferenças relevantes, os elementos que as sustentam e qualquer pergunta sem resposta. As aplicações previstas incluem assistentes de programação, chatbots, geração aumentada por recuperação e agentes com ferramentas, com o resultado final adaptado à aplicação que o consome.

O Inkling suporta até um milhão de tokens de contexto. Utilize esse espaço para manter juntos material de origem substancial e factos importantes da conversa, organizando-os em torno de uma pergunta específica. Distinga os factos das fontes dos pressupostos e deixe espaço para o artefacto escrito completo. O contexto maior permite trabalhar sobre uma coleção extensa; não transforma a resposta numa vista em direto de um sistema cuja informação atual não foi fornecida.

O esforço de pensamento é um controlo contínuo de 0.0, inclusive, até um valor inferior a 1.0. As predefinições iniciais do produtor são none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 e xhigh 0.99, sendo high a predefinição do renderizador. O esforço e o orçamento de tokens de geração são independentes. Um esforço maior pode incentivar mais raciocínio e exigir mais espaço antes da resposta final, enquanto none orienta para ausência de raciocínio sem impor uma restrição rígida. Escolha um valor adequado à tarefa e explicite o artefacto esperado e a condição de conclusão.

A entrada visual permite descrever imagens, responder a perguntas sobre conteúdo visível, gráficos e diagramas e fazer raciocínio matemático visual. Para bom desempenho, utilize imagens com dimensões entre 40 e 4 096 píxeis. Mantenha legíveis as legendas e o contexto do diagrama relevantes. O Inkling pode usar uma ferramenta Python configurada para ampliar, recortar ou inspecionar uma imagem por programação, ligando observações visuais a raciocínio baseado em código. Uma resposta útil sobre um gráfico preserva os valores observados e mostra como sustentam a conclusão, em vez de assumir que um recorte ou cálculo ocorreu apenas por ter sido proposto.

A entrada de áudio utiliza WAV amostrado a 16 kHz, e o fabricante recomenda gravações até 20 minutos para desempenho ótimo. É uma recomendação de preparação. O Inkling pode transcrever fala, seguir instruções faladas, responder a perguntas sobre gravações e raciocinar sobre áudio mais longo. Forneça a gravação relevante juntamente com a pergunta escrita e qualquer material de referência necessário à interpretação. Um artefacto sobre uma reunião pode separar os factos falados de um resumo ou interpretação posterior. O modelo produz texto, pelo que a compreensão de áudio é distinta da síntese de uma resposta falada.

Para uma tarefa baseada em ferramentas, descreva as operações disponíveis e os seus argumentos e preserve as observações reais devolvidas pela aplicação. Um resultado de pesquisa pode fornecer elementos atuais; um cálculo pode fornecer trabalho numérico; uma operação de ficheiro pode estabelecer o conteúdo em revisão. A ação proposta pelo modelo e o resultado executado são partes separadas da conversa. Mantenha a resposta final ligada a essas observações, sobretudo quando sugere uma alteração de código ou o passo seguinte da aplicação.

O Inkling foi treinado para calibração e cumprimento de instruções, incluindo expressar incerteza quando uma resposta não está estabelecida. Para uma previsão ou análise baseada em elementos de apoio, peça os pressupostos, os elementos disponíveis e as condições por resolver no resultado escrito. Para extração, defina como representar um valor ausente, em vez de exigir que cada campo contenha um facto inventado. Estas instruções tornam o resultado útil para revisão, sem tratar a confiança ou um raciocínio longo como prova de correção.

Os pesos abertos permitem ajuste fino e integração em produtos subsequentes. Um modelo especializado é desenvolvido a partir de exemplos representativos e de um comportamento-alvo, enquanto um pedido normal de inferência fornece contexto para a tarefa atual. O produtor demonstra a personalização como fluxo separado; uma resposta normal não muda silenciosamente para novos pesos. Preserve os elementos originais e as condições pedidas com o artefacto final, para que um seguimento possa rever um facto, aperfeiçoar a redação ou inspecionar outro percurso de código, mantendo coerente a mesma tarefa.