Thinking Machines: Inkling (free)

Inkling je multimodálny model s otvorenými váhami od Thinking Machines Lab pre uvažovanie, programovanie, konverzáciu a agentové aplikácie. Prijíma text, obrázky a zvuk a vracia text. Jeho návrh Mixture-of-Experts má celkovo 975 miliárd parametrov a 41 miliárd aktívnych parametrov, čím je väčším modelom v rade. Inkling-Small je samostatný model s 276 miliardami parametrov, z ktorých je aktívnych 12 miliárd, a nie nastavenie meniace dĺžku odpovede Inklingu.

Pri rozsiahlej programátorskej úlohe dodajte príslušný materiál repozitára, pozorované správanie a požadovaný výsledok. Požiadajte model, aby preskúmal zodpovednú cestu, navrhol zmenu a uviedol dôkazy z kontrol, ktoré v pripojenom prostredí skutočne prebehli. Pri porovnaní dokumentov označte zdrojové časti a požiadajte o príslušné rozdiely, ich podporné dôkazy a prípadnú nezodpovedanú otázku. Zamýšľané aplikácie zahŕňajú programovacích asistentov, chatbotov, generovanie rozšírené o vyhľadávanie a agentov používajúcich nástroje; konečný výsledok je prispôsobený aplikácii, ktorá ho spracúva.

Inkling podporuje až jeden milión kontextových tokenov. Tento priestor použite na spoločné uchovanie rozsiahleho zdrojového materiálu a dôležitých faktov konverzácie, pričom ich usporiadajte okolo konkrétnej otázky. Odlíšte zdrojové fakty od predpokladov a nechajte miesto na úplný písomný artefakt. Väčší kontext podporuje prácu naprieč rozsiahlou zbierkou; nemení odpoveď na živý pohľad na systém, ktorého aktuálne informácie neboli dodané.

Úsilie premýšľania sa nastavuje plynulo od 0.0 vrátane po hodnotu menšiu než 1.0. Počiatočné predvoľby výrobcu sú none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 a xhigh 0.99, pričom predvolenou hodnotou renderera je high. Úsilie a rozpočet generovaných tokenov sú nezávislé. Vyššie úsilie môže podporiť viac uvažovania a vyžadovať viac miesta pred konečnou odpoveďou, zatiaľ čo none smeruje model k odpovedi bez uvažovania, ale nevynucuje pevné obmedzenie. Vyberte hodnotu vhodnú pre zadanie a výslovne určte očakávaný artefakt aj podmienku dokončenia.

Vizuálny vstup podporuje opis obrázkov, otázky k viditeľnému obsahu, grafy, diagramy a matematické vizuálne uvažovanie. Pre dobrý výkon používajte obrázky s rozmermi od 40 do 4 096 pixelov. Príslušné označenia a kontext diagramu ponechajte čitateľné. Inkling môže používať nakonfigurovaný nástroj Python na programové priblíženie, orezanie alebo preskúmanie obrázka a prepájať vizuálne pozorovania s uvažovaním založeným na kóde. Užitočná odpoveď ku grafu zachováva pozorované hodnoty a ukazuje, ako podporujú záver, namiesto predpokladu, že k orezaniu alebo výpočtu došlo len preto, že boli navrhnuté.

Zvukový vstup používa WAV so vzorkovacou frekvenciou 16 kHz a výrobca pre optimálny výkon odporúča nahrávky do 20 minút. Ide o odporúčanie na prípravu. Inkling môže prepisovať reč, dodržiavať hovorené pokyny, odpovedať na otázky o nahrávkach a uvažovať nad dlhším zvukom. Poskytnite príslušnú nahrávku spolu s písomnou otázkou a prípadným referenčným materiálom potrebným na jej interpretáciu. Výstup týkajúci sa stretnutia môže oddeliť vyslovené fakty od neskoršieho zhrnutia alebo interpretácie. Model vytvára text, preto sa jeho porozumenie zvuku odlišuje od syntézy hovorenej odpovede.

Pri zadaní založenom na nástrojoch opíšte dostupné operácie a ich argumenty a zachovajte skutočné pozorovania vrátené aplikáciou. Výsledok vyhľadávania môže dodať aktuálne dôkazy; výpočet môže dodať numerickú prácu; operácia so súborom môže doložiť skúmaný obsah. Navrhnutá akcia modelu a vykonaný výsledok sú samostatnými časťami konverzácie. Konečnú odpoveď udržte prepojenú s týmito pozorovaniami, najmä keď navrhuje zmenu kódu alebo ďalší krok v aplikácii.

Inkling bol trénovaný na kalibráciu a dodržiavanie pokynov vrátane vyjadrenia neistoty, keď odpoveď nie je podložená. Pri prognóze alebo analýze založenej na dôkazoch požiadajte, aby písomný výsledok obsahoval predpoklady, dôkazy a nevyriešené podmienky. Pri extrakcii určte spôsob reprezentácie chýbajúcej hodnoty namiesto požiadavky, aby každé pole obsahovalo vymyslený fakt. Tieto pokyny robia výsledok užitočným na kontrolu bez toho, aby sa istota alebo dlhý proces uvažovania považovali za dôkaz správnosti.

Otvorené váhy podporujú dolaďovanie a následnú integráciu. Špecializovaný model sa vyvíja z reprezentatívnych príkladov a cieľového správania, zatiaľ čo bežná inferenčná požiadavka dodáva kontext pre aktuálnu úlohu. Výrobca demonštruje prispôsobenie ako samostatný postup; bežná odpoveď potichu neprepína na nové váhy. S konečným artefaktom zachovajte pôvodné dôkazy a požadované obmedzenia, aby nadväzujúca požiadavka mohla upraviť jeden fakt, spresniť znenie alebo preskúmať inú cestu kódu a pritom udržať súdržnosť rovnakého zadania.