Thinking Machines: Inkling (free)

Az Inkling a Thinking Machines Lab nyílt súlyú multimodális modellje következtetéshez, programozáshoz, beszélgetéshez és ágensalkalmazásokhoz. Szöveget, képeket és hangot fogad, és szöveget ad vissza. Mixture-of-Experts kialakítása összesen 975 milliárd paraméterrel és 41 milliárd aktív paraméterrel rendelkezik, így ez a család nagyobb modellje. Az Inkling-Small külön, 276 milliárd paraméteres modell 12 milliárd aktív paraméterrel, nem pedig az Inkling válaszhosszát módosító beállítás.

Jelentősebb programozási feladatnál add meg a releváns kódtáranyagot, a megfigyelt viselkedést és a kívánt eredményt. Kérd a modellt, hogy kövesse végig a felelős végrehajtási útvonalat, javasoljon módosítást, és számoljon be a csatlakoztatott környezetben ténylegesen lefutott ellenőrzések bizonyítékairól. Dokumentumok összehasonlításánál jelöld meg a forrásszakaszokat, és kérd a releváns eltéréseket, azok alátámasztó bizonyítékait és minden megválaszolatlan kérdést. A tervezett alkalmazások között programozási asszisztensek, chatbotok, visszakereséssel kiegészített generálás és eszközhasználó ágensek szerepelnek, a végső eredményt pedig az azt feldolgozó alkalmazáshoz kell igazítani.

Az Inkling legfeljebb egymillió kontextustokent támogat. Ezt a teret használd jelentős forrásanyag és fontos beszélgetési tények együtt tartására, egy konkrét kérdés köré rendezve. Különböztesd meg a forrástényeket a feltételezésektől, és hagyj helyet a teljes írásos eredménynek. A nagyobb kontextus kiterjedt gyűjtemény feldolgozását támogatja; nem alakítja a választ olyan rendszer élő nézetévé, amelynek aktuális információit nem adták meg.

A gondolkodási ráfordítás folyamatos szabályozó, 0.0-tól, ezt is beleértve, 1.0 alatti értékig. A készítő induló előbeállításai: none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 és xhigh 0.99; a megjelenítő alapértelmezése a high. A ráfordítás és a generálható tokenek kerete egymástól független. A nagyobb ráfordítás több következtetést ösztönözhet, és több helyet igényelhet a végső válasz előtt, míg a none a következtetés mellőzése felé tereli a modellt anélkül, hogy szigorú korlátot kényszerítene ki. Válassz a feladathoz illő értéket, és egyértelműen határozd meg az elvárt anyagot és a teljesítési feltételt.

A képi bemenet képleírást, látható tartalomra vonatkozó kérdéseket, diagramokat, ábrákat és matematikai képi következtetést támogat. Jó teljesítményhez használj 40 és 4 096 pixel közötti képméreteket. A releváns feliratok és az ábra kontextusa maradjon olvasható. Az Inkling konfigurált Python-eszközzel programozottan nagyíthat, vághat ki vagy vizsgálhat képet, összekapcsolva a képi megfigyeléseket a kódalapú következtetéssel. A hasznos diagramválasz megőrzi a megfigyelt értékeket, és megmutatja, hogyan támasztják alá a következtetést, ahelyett hogy egy kivágás vagy számítás végrehajtását pusztán a javaslatából feltételezné.

A hangbemenet 16 kHz-en mintavételezett WAV, és a készítő az optimális teljesítményhez 20 percen belüli felvételeket ajánl. Ez előkészítési ajánlás. Az Inkling átírhat beszédet, követhet szóbeli utasításokat, válaszolhat felvételekkel kapcsolatos kérdésekre, és következtethet hosszabb hanganyag alapján. A releváns felvételt az írásos kérdéssel és az értelmezéshez szükséges referenciaanyaggal együtt add meg. Egy megbeszéléshez kapcsolódó anyag elkülönítheti az elhangzott tényeket egy későbbi összefoglalótól vagy értelmezéstől. A modell szöveget állít elő, ezért hangmegértése különbözik a szóbeli válasz szintetizálásától.

Eszközalapú feladatnál írd le az elérhető műveleteket és argumentumaikat, és őrizd meg az alkalmazás által visszaadott tényleges megfigyeléseket. A keresési találat aktuális bizonyítékot adhat; a számítás számszerű munkát biztosíthat; egy fájlművelet megállapíthatja a vizsgált tartalmat. A modell javasolt művelete és a végrehajtott eredmény a beszélgetés külön részei. A végső választ kapcsold ezekhez a megfigyelésekhez, különösen ha kódmódosítást vagy következő alkalmazáslépést javasol.

Az Inkling modellt kalibrálásra és utasításkövetésre is tanították, beleértve a bizonytalanság kifejezését, ha a válasz nem megalapozott. Bizonyítékalapú előrejelzésnél vagy elemzésnél kérd a feltételezések, bizonyítékok és megoldatlan feltételek feltüntetését az írásos eredményben. Adatkinyerésnél határozd meg a hiányzó érték ábrázolását, ahelyett hogy minden mezőbe kitalált tényt követelnél. Ezek az utasítások ellenőrzésre használhatóvá teszik az eredményt anélkül, hogy a magabiztosságot vagy a hosszú következtetési folyamatot a helyesség bizonyítékának tekintenék.

A nyílt súlyok finomhangolást és további integrációt támogatnak. A specializált modell reprezentatív példákból és célviselkedésből fejlődik, míg egy szokásos következtetési kérés a jelenlegi feladathoz ad kontextust. A készítő a testreszabást külön munkafolyamatként mutatja be; egy normál válasz nem vált észrevétlenül új súlyokra. Őrizd meg az eredeti bizonyítékokat és a kért feltételeket a végső anyag mellett, hogy a folytatás módosíthasson egy tényt, finomíthassa a megfogalmazást vagy megvizsgálhasson egy másik kódútvonalat, miközben ugyanaz a feladat összefüggő marad.