Thinking Machines: Inkling Small (free)

Inkling-Small è il modello multimodale più piccolo a pesi aperti di Thinking Machines Lab per ragionamento, programmazione, conversazione e applicazioni che usano strumenti. Accetta testo, immagini e audio e produce testo. La sua architettura Mixture-of-Experts ha 276 miliardi di parametri totali, di cui 12 miliardi attivi, rispetto ai 975 miliardi totali e 41 miliardi attivi di Inkling. Small è un modello rilasciato separatamente, con un diverso equilibrio tra efficienza e capacità, non una modalità di Inkling che produce risposte più brevi.

Per un'indagine sul codice, fornisci i file interessati, il comportamento osservato e la modifica necessaria, poi chiedi il percorso responsabile e una correzione mirata. Un elaborato finale utile comprende la modifica proposta e le prove di ogni controllo effettivamente eseguito dall'applicazione connessa. Per un assistente di supporto, fornisci la policy pertinente e i fatti della conversazione e chiedi la risposta successiva o la domanda mancante. Gli usi previsti del modello comprendono assistenti di programmazione, chatbot, risposte aumentate dal recupero di informazioni e sistemi con agenti e strumenti dell'applicazione.

La finestra di contesto arriva a un milione di token. Organizza un repository lungo o una raccolta di documenti con nomi dei file, etichette delle sezioni e una domanda chiara, conservando i fatti che una fase successiva deve usare. Una finestra ampia è utile per confrontare informazioni distanti, ma il risultato richiesto deve restare specifico: una modifica al codice, una spiegazione basata su fonti o campi estratti. Le informazioni nuove o private appartengono alle prove fornite o ai risultati di recupero restituiti, anziché essere presunte parte della conoscenza appresa.

Lo sforzo di ragionamento è controllabile. La guida della famiglia del produttore usa valori continui da 0.0 incluso a meno di 1.0, con preset iniziali none, minimal, low, medium, high e xhigh corrispondenti a 0.0, 0.1, 0.2, 0.7, 0.9 e 0.99. Il renderer del produttore usa high come valore predefinito. Uno sforzo maggiore può favorire più ragionamento e richiedere un budget di generazione più ampio, ma non garantisce una risposta più lunga o accurata. Il valore zero orienta il modello verso l'assenza di ragionamento, senza imporne un'assenza rigida. Scegli lo sforzo in base all'attività e mantieni chiaro il requisito dell'output finale.

Le immagini possono supportare domande visive, interpretazione di grafici o diagrammi e ragionamento matematico su informazioni visibili. Per buone prestazioni, usa immagini con dimensioni comprese tra 40 e 4.096 pixel. Conserva etichette leggibili e spiega il dettaglio rilevante. Con uno strumento Python configurato, il modello può combinare ragionamento visivo, ritaglio, ingrandimento ed esame tramite codice di un documento o grafico. Queste operazioni richiedono l'esecuzione da parte dell'ambiente di strumenti connesso; la risposta scritta deve usare le osservazioni restituite.

L'input audio è WAV campionato a 16 kHz, con registrazioni idealmente inferiori a due minuti per prestazioni ottimali. È una raccomandazione di preparazione, non una garanzia rigida sulla durata. Usa una domanda parlata pertinente o una breve clip e indica se il risultato scritto deve trascrivere il parlato, rispondere a una domanda sulla registrazione o collegarne il contenuto ad altro materiale fornito. La risposta nativa è testo, non parlato generato. La raccomandazione separata di Inkling per audio più lunghi non va trasferita all'edizione Small.

I flussi che usano strumenti richiedono descrizioni significative degli strumenti, definizioni degli argomenti e risultati delle operazioni eseguite dall'applicazione. Mantieni distinti un risultato di consultazione, un calcolo o un'osservazione su file dall'azione proposta dal modello. Per una discrepanza in un grafico, individua le etichette pertinenti, esamina i valori forniti tramite uno strumento di calcolo e chiedi una spiegazione che li citi. Il modello è addestrato per diversi ambienti di programmazione e agenti, quindi l'attività e gli strumenti circostanti devono essere descritti anziché lasciati impliciti.

I pesi aperti supportano ricerca sul modello, fine-tuning e integrazione in prodotti a valle. Il rilascio di Inkling-Small segue un checkpoint preview precedente e include ulteriore addestramento per la programmazione con agenti; il modello finale e quella preview devono mantenere identità separate. Per un'estrazione specializzata o uno stile di risposta, la personalizzazione usa esempi rappresentativi e un comportamento obiettivo esplicito. Un normale prompt fornisce invece contesto per la richiesta corrente; non crea un modello appena addestrato e non vi passa.

Un controllo utile del risultato verifica che la modifica proposta al codice, la trascrizione, i fatti estratti o la risposta scritta corrispondano alle prove fornite. Specifica come devono comparire incertezza e informazioni mancanti, soprattutto per una previsione o una risposta fattuale con fonti incomplete. Il produttore ha addestrato Inkling-Small alla calibrazione delle previsioni usando apprendimento per rinforzo con regole di punteggio proprie su domande del mondo reale, mirando a esprimere una fiducia adeguata alle prove disponibili. Conserva materiale e osservazioni degli strumenti insieme all'elaborato, così un turno successivo può correggere un problema senza perdere l'attività originale. Le capacità multilingue e multimodali generali di Inkling-Small restano distinte da un generatore vocale dedicato o da un servizio che garantisca azioni esterne.