Thinking Machines: Inkling Small (free)

Inkling-Small on Thinking Machines Labin pienempi avoimien painojen multimodaalinen malli päättelyyn, ohjelmointiin, keskusteluun ja työkaluja käyttäviin sovelluksiin. Se vastaanottaa tekstiä, kuvia ja ääntä ja tuottaa tekstiä. Sen Mixture-of-Experts-rakenteessa on yhteensä 276 miljardia parametria, joista 12 miljardia on aktiivisia, verrattuna Inklingin 975 miljardiin kokonaisparametriin ja 41 miljardiin aktiiviseen parametriin. Small on erillinen julkaistu malli, jonka tehokkuuden ja kykyjen tasapaino on erilainen, eikä Inklingin lyhyempien vastausten tila.

Toimita koodiselvitykseen siihen liittyvät tiedostot, havaittu toiminta ja tarvitsemasi muutos ja pyydä sitten vastuullinen suorituspolku ja kohdennettu korjaus. Hyödyllinen lopputuotos sisältää ehdotetun muokkauksen ja näytön tarkistuksista, jotka liitetty sovellus on todella suorittanut. Anna tukipalveluavustajalle olennainen käytäntö ja keskustelutiedot ja pyydä seuraava vastaus tai puuttuva kysymys. Mallin suunniteltuihin käyttötapoihin kuuluvat ohjelmointiavustajat, chatbotit, hakua hyödyntävät vastaukset ja sovellustyökaluja käyttävät agenttijärjestelmät.

Konteksti-ikkuna on enintään miljoona tokenia. Järjestä pitkä repositorio- tai asiakirjakokoelma tiedostonimillä, osiomerkinnöillä ja selkeällä kysymyksellä ja säilytä tiedot, joita myöhemmän vaiheen on käytettävä. Laaja ikkuna auttaa vertaamaan kaukana toisistaan olevia tietoja, mutta pyydetyn tuloksen tulee pysyä täsmällisenä: koodimuutos, lähdepohjainen selitys tai poimitut kentät. Uudet tai yksityiset tiedot kuuluvat toimitettuun näyttöön tai palautettuihin hakutuloksiin, eikä niitä tule olettaa opitun tiedon osaksi.

Ajattelupanostusta voi säätää. Valmistajan perheopas käyttää jatkuvia arvoja alkaen arvosta 0.0 (mukaan lukien) ja päättyen arvoon 1.0 (pois lukien). Aloitusesiasetukset none, minimal, low, medium, high ja xhigh vastaavat arvoja 0.0, 0.1, 0.2, 0.7, 0.9 ja 0.99. Valmistajan renderöijän oletus on high. Suurempi panostus voi kannustaa laajempaan päättelyyn ja vaatia suuremman generointibudjetin, mutta se ei takaa pidempää tai tarkempaa vastausta. Nolla-asetus ohjaa mallia päättelyttömään vastaukseen eikä estä päättelyä ehdottomasti. Valitse panostus tehtävän mukaan ja pidä lopullista tuotosta koskeva vaatimus selkeänä.

Kuvat voivat tukea visuaalisia kysymyksiä, kaavioiden tai diagrammien tulkintaa ja näkyvään tietoon perustuvaa matemaattista päättelyä. Käytä hyvän suorituskyvyn saamiseksi kuvia, joiden mitat ovat 40–4 096 pikseliä. Säilytä luettavat merkinnät ja selitä olennainen yksityiskohta. Määritetyn Python-työkalun avulla malli voi yhdistää visuaalisen päättelyn asiakirjan tai kaavion rajaamiseen, zoomaamiseen ja ohjelmalliseen tarkasteluun. Nämä toiminnot vaativat suorituksen liitetyssä työkaluympäristössä; kirjallisen vastauksen tulee käyttää siitä palautettuja havaintoja.

Äänisyöte on WAV-muodossa 16 kHz:n näytteenottotaajuudella, ja parhaan suorituskyvyn saavuttamiseksi tallenteen tulisi mieluiten olla alle kaksi minuuttia. Tämä on valmistelusuositus eikä ehdoton kestotakuu. Käytä olennaista puhuttua kysymystä tai lyhyttä klippiä ja kerro, tuleeko kirjallisen tuloksen litteroida puhe, vastata tallennetta koskevaan kysymykseen vai yhdistää sen sisältö muuhun toimitettuun aineistoon. Natiivi vastaus on tekstiä eikä generoitua puhetta. Inklingin erillistä suositusta pidemmästä äänestä ei tule siirtää Small-versioon.

Työkaluja käyttävät työnkulut tarvitsevat merkitykselliset työkalukuvaukset, argumenttimäärittelyt ja sovelluksen suorittamien toimintojen tulokset. Pidä hakutulos, laskelma tai tiedostohavainto erillään mallin ehdottamasta toiminnosta. Kaavion ristiriidassa nimeä olennaiset merkinnät, tarkasta toimitetut arvot laskentatyökalulla ja pyydä näihin arvoihin viittaava selitys. Malli on koulutettu erilaisiin ohjelmointi- ja agenttiympäristöihin, joten ympäröivä tehtävä ja työkalut tulee kuvailla eikä jättää oletetuiksi.

Avoimet painot tukevat mallitutkimusta, hienosäätöä ja integrointia jatkotuotteisiin. Inkling-Smallin julkaisu seuraa aiempaa esikatseluvaihetta ja sisältää lisää koulutusta agenttiohjattuun ohjelmointiin; lopullisen mallin ja esikatselun tunnisteet tulee pitää erillisinä. Erikoistuneen poiminnan tai vastaustyylin mukauttaminen käyttää edustavia esimerkkejä ja selkeää tavoiteltua toimintaa. Tavallinen kehote antaa sen sijaan nykyisen pyynnön kontekstin; se ei luo uutta koulutettua mallia tai vaihda sellaiseen.

Hyödyllinen tuloksen tarkistus varmistaa, että ehdotettu koodimuutos, litterointi, poimitut tiedot tai kirjallinen vastaus vastaa toimitettua näyttöä. Määritä, miten epävarmuuden ja puuttuvan tiedon tulee näkyä, etenkin ennusteessa tai faktavastauksessa, jonka lähde on puutteellinen. Valmistaja koulutti Inkling-Smallin ennustekalibrointiin vahvistusoppimisella, joka käyttää todellisia kysymyksiä ja asianmukaisia pisteytyssääntöjä, tavoitteenaan käytettävissä olevaa näyttöä vastaava varmuuden ilmaisu. Säilytä aineisto ja työkaluhavainnot tuotoksen yhteydessä, jotta jatkokysymys voi korjata yhden asian kadottamatta alkuperäistä tehtävää. Inkling-Smallin yleiset monikieliset ja multimodaaliset kyvyt pysyvät erillään varsinaisesta puhegeneraattorista tai taatusta ulkoisten toimintojen palvelusta.