Thinking Machines: Inkling (free)

Inkling è il modello multimodale a pesi aperti di Thinking Machines Lab per ragionamento, programmazione, conversazione e applicazioni con agenti. Accetta testo, immagini e audio e restituisce testo. La sua architettura Mixture-of-Experts ha 975 miliardi di parametri totali e 41 miliardi attivi, rendendolo il modello più grande della famiglia. Inkling-Small è un modello separato da 276 miliardi di parametri, con 12 miliardi attivi, non un'impostazione che modifica la lunghezza delle risposte di Inkling.

Per un'attività di programmazione sostanziale, fornisci il materiale pertinente del repository, il comportamento osservato e il risultato desiderato. Chiedi al modello di tracciare il percorso responsabile, proporre una modifica e riportare le prove dei controlli effettivamente eseguiti nell'ambiente connesso. Per un confronto tra documenti, etichetta le sezioni originali e chiedi le differenze rilevanti, le prove a sostegno e ogni domanda senza risposta. Le applicazioni previste comprendono assistenti di programmazione, chatbot, generazione aumentata dal recupero di informazioni e agenti che usano strumenti, con il risultato finale adattato all'applicazione che lo consuma.

Inkling supporta fino a un milione di token di contesto. Usa quello spazio per mantenere insieme materiale originale consistente e fatti importanti della conversazione, organizzandoli intorno a una domanda specifica. Distingui i fatti delle fonti dalle ipotesi e lascia spazio all'elaborato scritto completo. Il contesto più ampio supporta il lavoro su una raccolta estesa; non trasforma la risposta in una vista in tempo reale di un sistema di cui non sono state fornite informazioni correnti.

Lo sforzo di ragionamento è un controllo continuo da 0.0 incluso a meno di 1.0. I preset iniziali del produttore sono none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 e xhigh 0.99, con high come valore predefinito del renderer. Sforzo e budget di token di generazione sono indipendenti. Uno sforzo maggiore può favorire più ragionamento e richiedere più spazio prima della risposta finale, mentre none orienta verso l'assenza di ragionamento senza imporre un vincolo rigido. Scegli un valore adatto all'incarico ed esplicita l'elaborato atteso e la condizione di completamento.

L'input visivo supporta descrizione di immagini, domande sui contenuti visibili, grafici, diagrammi e ragionamento matematico visivo. Per buone prestazioni, usa immagini con dimensioni comprese tra 40 e 4.096 pixel. Mantieni leggibili le etichette pertinenti e il contesto dei diagrammi. Inkling può usare uno strumento Python configurato per ingrandire, ritagliare o esaminare un'immagine tramite codice, collegando le osservazioni visive al ragionamento basato sul codice. Una risposta utile su un grafico conserva i valori osservati e mostra come sostengano la conclusione, invece di presumere che un ritaglio o un calcolo siano avvenuti solo perché proposti.

L'input audio usa WAV campionato a 16 kHz e il produttore raccomanda registrazioni entro 20 minuti per prestazioni ottimali. È una raccomandazione di preparazione. Inkling può trascrivere il parlato, seguire istruzioni vocali, rispondere a domande sulle registrazioni e ragionare su audio di maggiore durata. Fornisci la registrazione pertinente insieme alla domanda scritta e al materiale di riferimento necessario per interpretarla. Un elaborato su una riunione può separare i fatti pronunciati da un riepilogo o un'interpretazione successivi. Il modello produce testo, quindi la sua comprensione audio è distinta dalla sintesi di una risposta parlata.

Per un incarico basato su strumenti, descrivi le operazioni disponibili e i relativi argomenti e conserva le osservazioni effettive restituite dall'applicazione. Un risultato di ricerca può fornire prove correnti; un calcolo può fornire un'elaborazione numerica; un'operazione sui file può accertare i contenuti in esame. L'azione proposta dal modello e il risultato eseguito sono parti separate della conversazione. Mantieni la risposta finale collegata a quelle osservazioni, soprattutto quando suggerisce una modifica al codice o un passaggio successivo nell'applicazione.

Inkling è stato addestrato per la calibrazione e il rispetto delle istruzioni, incluso esprimere incertezza quando una risposta non è accertata. Per una previsione o un'analisi basata su prove, chiedi ipotesi, prove e condizioni irrisolte nel risultato scritto. Per l'estrazione, definisci come rappresentare un valore assente, invece di richiedere che ogni campo contenga un fatto inventato. Queste istruzioni rendono il risultato utile per il controllo senza trattare la sicurezza espressa o un lungo ragionamento come prova di correttezza.

I pesi aperti supportano fine-tuning e integrazione a valle. Un modello specializzato viene sviluppato da esempi rappresentativi e da un comportamento obiettivo, mentre una normale richiesta di inferenza fornisce contesto per l'attività corrente. Il produttore mostra la personalizzazione come flusso separato; una normale risposta non passa silenziosamente a nuovi pesi. Conserva le prove originali e i vincoli richiesti con l'elaborato finale, così un turno successivo può correggere un fatto, perfezionare la formulazione o esaminare un percorso di codice diverso mantenendo coerente lo stesso incarico.