Thinking Machines: Inkling (free)

Inkling je multimodální model společnosti Thinking Machines Lab s otevřenými vahami pro uvažování, programování, konverzaci a agentní aplikace. Přijímá text, obrázky a zvuk a vrací text. Jeho architektura Mixture-of-Experts má celkem 975 miliard parametrů a 41 miliard aktivních, takže jde o větší model rodiny. Inkling-Small je samostatný model s 276 miliardami parametrů, z toho 12 miliardami aktivními, nikoli nastavení měnící délku odpovědi Inklingu.

U rozsáhlé úlohy s kódem dodejte příslušné podklady repozitáře, pozorované chování a požadovaný výsledek. Požádejte model, aby dohledal odpovědnou cestu, navrhl změnu a uvedl podklady z kontrol skutečně provedených v připojeném prostředí. Při porovnávání dokumentů označte zdrojové části a požadujte relevantní rozdíly, podpůrné podklady a případnou nezodpovězenou otázku. Zamýšlené aplikace zahrnují programovací asistenty, chatboty, generování rozšířené o vyhledávání a agenty používající nástroje; konečný výsledek se přizpůsobuje aplikaci, která jej zpracovává.

Inkling podporuje až milion tokenů kontextu. Tento prostor využijte k uchování rozsáhlých zdrojových podkladů a důležitých faktů z konverzace společně a uspořádejte je kolem konkrétní otázky. Odlišujte zdrojová fakta od předpokladů a ponechte místo pro úplný písemný výstup. Větší kontext podporuje práci napříč rozsáhlou sbírkou; nemění odpověď v živý pohled na systém, jehož aktuální informace nebyly dodány.

Míra uvažování je plynule nastavitelná od 0.0 včetně do hodnoty menší než 1.0. Výchozí předvolby výrobce jsou none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 a xhigh 0.99; výchozí volbou rendereru je high. Míra uvažování a rozpočet generovaných tokenů jsou nezávislé. Vyšší míra může podpořit více uvažování a vyžadovat více prostoru před konečnou odpovědí, zatímco none model směřuje k odpovědi bez uvažování, aniž by vynucovalo pevné omezení. Zvolte hodnotu odpovídající zadání a výslovně určete očekávaný výstup a podmínku dokončení.

Obrazový vstup podporuje popis obrázků, otázky k viditelnému obsahu, grafy, schémata a matematické vizuální uvažování. Pro dobrý výkon používejte obrázky s rozměry mezi 40 a 4 096 pixely. Relevantní popisky a kontext schématu ponechte čitelné. Inkling může pomocí nakonfigurovaného nástroje Python obrázek přiblížit, oříznout nebo programově prozkoumat a propojit obrazová pozorování s uvažováním založeným na kódu. Užitečná odpověď ke grafu zachovává pozorované hodnoty a ukazuje, jak podporují závěr, místo předpokladu, že ořez nebo výpočet proběhl jen proto, že byl navržen.

Zvukový vstup používá WAV se vzorkovací frekvencí 16 kHz a výrobce pro optimální výkon doporučuje nahrávky do 20 minut. Jde o doporučení pro přípravu. Inkling dokáže přepisovat řeč, plnit mluvené pokyny, odpovídat na otázky k nahrávkám a uvažovat nad delším zvukem. Dodejte příslušnou nahrávku spolu s písemnou otázkou a referenčními podklady potřebnými k výkladu. Výstup ze schůzky může oddělovat vyslovená fakta od následného shrnutí nebo výkladu. Model vytváří text, takže jeho porozumění zvuku je odlišné od syntézy mluvené odpovědi.

U zadání založeného na nástrojích popište dostupné operace a jejich argumenty a zachovejte skutečná pozorování vrácená aplikací. Výsledek vyhledávání může dodat aktuální podklady; výpočet může dodat číselné zpracování; operace se souborem může doložit kontrolovaný obsah. Navržená akce modelu a provedený výsledek jsou samostatnými částmi konverzace. Konečnou odpověď udržujte ve vazbě na tato pozorování, zvláště když navrhuje změnu kódu nebo další krok aplikace.

Inkling byl trénován pro kalibraci a dodržování pokynů včetně vyjádření nejistoty, pokud odpověď není doložena. U prognózy nebo analýzy založené na podkladech požadujte v písemném výsledku předpoklady, podklady a nevyřešené podmínky. Při vytěžování určete, jak se má zobrazit chybějící hodnota, místo požadavku, aby každé pole obsahovalo vymyšlený fakt. Tyto pokyny činí výsledek užitečným ke kontrole, aniž by považovaly sebedůvěru nebo dlouhé uvažování za důkaz správnosti.

Otevřené váhy podporují jemné dotrénování a následnou integraci. Specializovaný model vzniká z reprezentativních příkladů a cílového chování, zatímco běžný inferenční požadavek dodává kontext pro aktuální úlohu. Výrobce předvádí přizpůsobení jako samostatný postup; běžná odpověď nepřechází skrytě na nové váhy. Původní podklady a požadovaná omezení uchovávejte s konečným výstupem, aby navazující krok mohl upravit jeden fakt, upřesnit formulaci nebo prozkoumat jinou cestu kódem a současně zachovat soudržnost zadání.