Thinking Machines: Inkling Small (free)

Az Inkling-Small a Thinking Machines Lab kisebb, nyílt súlyú multimodális modellje következtetéshez, programozáshoz, beszélgetéshez és eszközhasználó alkalmazásokhoz. Szöveget, képeket és hangot fogad, és szöveget állít elő. Mixture-of-Experts kialakítása összesen 276 milliárd és 12 milliárd aktív paraméterrel rendelkezik, szemben az Inkling 975 milliárd összes és 41 milliárd aktív paraméterével. A Small külön kiadott modell, eltérő hatékonysági és képességbeli egyensúllyal, nem az Inkling rövidebb kimeneti módja.

Kódvizsgálatnál add meg az érintett fájlokat, a megfigyelt viselkedést és a szükséges módosítást, majd kérd a felelős végrehajtási útvonal azonosítását és egy célzott javítást. A hasznos végső anyag tartalmazza a javasolt szerkesztést és a csatlakoztatott alkalmazás által ténylegesen futtatott ellenőrzések bizonyítékait. Támogatási asszisztensnél add meg a releváns szabályzatot és beszélgetési tényeket, és kérd a következő választ vagy a hiányzó kérdést. A modell tervezett felhasználásai közé programozási asszisztensek, chatbotok, visszakereséssel kiegészített válaszok és alkalmazáseszközökkel működő ágensrendszerek tartoznak.

A kontextusablak legfeljebb egymillió token. A hosszú kódtárat vagy dokumentumgyűjteményt fájlnevekkel, szakaszjelölésekkel és világos kérdéssel rendezd el, megőrizve azokat a tényeket, amelyeket egy későbbi szakasznak használnia kell. A nagy ablak távoli információdarabok összehasonlításához hasznos, de a kívánt eredmény maradjon konkrét: kódmódosítás, forrásalapú magyarázat vagy kinyert mezők. Az új vagy magánjellegű információnak a megadott bizonyítékban vagy a visszaadott visszakeresési eredményekben van a helye, és nem szabad a tanult tudás részének feltételezni.

A gondolkodási ráfordítás szabályozható. A készítő családútmutatója folyamatos értékeket használ 0.0-tól, ezt is beleértve, 1.0 alatti értékig; a none, minimal, low, medium, high és xhigh induló előbeállítások rendre 0.0, 0.1, 0.2, 0.7, 0.9 és 0.99 értéknek felelnek meg. A készítő megjelenítőjének alapértelmezése a high. A nagyobb ráfordítás több következtetést ösztönözhet, és nagyobb generálási keretet igényelhet, de nem garantál hosszabb vagy pontosabb választ. A nulla beállítás a következtetés mellőzése felé tereli a modellt, nem kényszeríti ki annak szigorú hiányát. A ráfordítást a feladathoz válaszd, és tartsd egyértelműen a végső kimeneti követelményt.

A képek képi kérdéseket, diagram- vagy ábraértelmezést és látható információból végzett matematikai következtetést támogathatnak. Jó teljesítményhez használj olyan képeket, amelyek méretei 40 és 4 096 pixel között vannak. Őrizd meg az olvasható feliratokat, és magyarázd el, melyik részlet fontos. Konfigurált Python-eszközzel a modell a képi következtetést egy dokumentum vagy diagram kivágásával, nagyításával és programozott vizsgálatával kapcsolhatja össze. Ezeket a műveleteket a csatlakoztatott eszközkörnyezetnek kell végrehajtania; az írásos válasz az onnan visszaadott megfigyeléseket használja.

A hangbemenet 16 kHz-en mintavételezett WAV, az optimális teljesítményhez lehetőleg két percnél rövidebb felvételekkel. Ez előkészítési ajánlás, nem szigorú időtartam-garancia. Használj releváns szóbeli kérdést vagy rövid klipet, és határozd meg, hogy az írásos eredmény beszédátirat legyen, a felvételre vonatkozó kérdésre válaszoljon, vagy annak tartalmát más megadott anyaghoz kapcsolja. A natív válasz szöveg, nem generált beszéd. Az Inkling hosszabb hangra vonatkozó külön ajánlását nem szabad a Small kiadásra átvinni.

Az eszközhasználó munkafolyamatok érdemi eszközleírásokat, argumentumdefiníciókat és az alkalmazás által végrehajtott műveletek eredményeit igénylik. Egy lekérdezési eredményt, számítást vagy fájlmegfigyelést tarts külön a modell javasolt műveletétől. Diagrameltérésnél nevezd meg a releváns feliratokat, számítási eszközzel vizsgáld meg a megadott értékeket, és kérj ezekre az értékekre hivatkozó magyarázatot. A modellt változatos programozási és ágens-vezérlőkörnyezetekhez tanították, ezért a környező feladatot és eszközöket le kell írni, nem hallgatólagosan hagyni.

A nyílt súlyok modellkutatást, finomhangolást és további termékekbe történő integrációt támogatnak. Az Inkling-Small kiadása egy korábbi előzetes ellenőrzőpontot követ, és további ágensalapú programozási tanítást tartalmaz; a végső modell és az előzetes változat azonosságát külön kell megtartani. Specializált adatkinyeréshez vagy válaszstílushoz a testreszabás reprezentatív példákat és kifejezett célviselkedést használ. Egy szokásos prompt ehelyett az aktuális kéréshez ad kontextust; nem hoz létre újonnan tanított modellt, és nem vált ilyenre.

A hasznos eredményellenőrzés azt vizsgálja, hogy a javasolt kódmódosítás, átirat, kinyert tények vagy írásos válasz megfelel-e a megadott bizonyítékoknak. Határozd meg, hogyan jelenjen meg a bizonytalanság és a hiányzó információ, különösen hiányos forrású előrejelzésnél vagy tényválasznál. A készítő az Inkling-Small modellt előrejelzési kalibrálásra tanította megerősítéses tanulással, valós kérdéseken alkalmazott megfelelő pontozási szabályok alapján, hogy a kifejezett magabiztosság illeszkedjen az elérhető bizonyítékhoz. Őrizd meg az anyagot és az eszközmegfigyeléseket az eredmény mellett, hogy a folytatás egyetlen problémát módosíthasson az eredeti feladat elvesztése nélkül. Az Inkling-Small általános többnyelvű és multimodális képességei különböznek egy célzott beszédgenerátortól vagy egy garantált külsőművelet-szolgáltatástól.