Thinking Machines: Inkling (free)

Inkling on Thinking Machines Labin avoimien painojen multimodaalinen malli päättelyyn, ohjelmointiin, keskusteluun ja agenttisovelluksiin. Se vastaanottaa tekstiä, kuvia ja ääntä ja palauttaa tekstiä. Sen Mixture-of-Experts-rakenteessa on yhteensä 975 miljardia parametria, joista 41 miljardia on aktiivisia, joten se on perheen suurempi malli. Inkling-Small on erillinen 276 miljardin parametrin malli, jossa on 12 miljardia aktiivista parametria, eikä asetus, joka muuttaa Inklingin vastauksen pituutta.

Laajassa kooditehtävässä anna olennainen repositorioaineisto, havaittu toiminta ja haluttu tulos. Pyydä mallia jäljittämään vastuullinen suorituspolku, ehdottamaan muutosta ja raportoimaan näyttö liitetyssä ympäristössä todella suoritetuista tarkistuksista. Merkitse asiakirjavertailussa lähdeosiot ja pyydä olennaiset erot, niitä tukeva näyttö ja mahdolliset vastaamatta jääneet kysymykset. Suunniteltuihin sovelluksiin kuuluvat ohjelmointiavustajat, chatbotit, hakua hyödyntävä generointi ja työkaluja käyttävät agentit. Lopputulos muotoillaan sitä käyttävälle sovellukselle.

Inkling tukee enintään miljoonaa kontekstitokenia. Käytä tätä tilaa laajan lähdeaineiston ja tärkeiden keskustelutietojen säilyttämiseen yhdessä ja järjestä ne tietyn kysymyksen ympärille. Erota lähdetiedot oletuksista ja jätä tilaa täydelle kirjalliselle tuotokselle. Laajempi konteksti tukee työskentelyä suuren kokoelman parissa; se ei muuta vastausta reaaliaikaiseksi näkymäksi järjestelmään, jonka nykyisiä tietoja ei ole toimitettu.

Ajattelupanostusta voi säätää jatkuvasti arvosta 0.0 (mukaan lukien) arvoon 1.0 (pois lukien). Valmistajan aloitusesiasetukset ovat none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 ja xhigh 0.99, ja renderöijän oletus on high. Panostus ja generointitokenien budjetti ovat riippumattomia. Suurempi panostus voi kannustaa laajempaan päättelyyn ja vaatia enemmän tilaa ennen lopullista vastausta, kun taas none ohjaa päättelyttömään vastaukseen asettamatta ehdotonta rajoitusta. Valitse tehtävään sopiva arvo ja määritä odotettu lopputuotos ja valmistumisehto selkeästi.

Kuvasyöte tukee kuvailua, näkyvää sisältöä koskevia kysymyksiä, kaavioita, diagrammeja ja matemaattista visuaalista päättelyä. Hyvän suorituskyvyn saamiseksi käytä kuvia, joiden mitat ovat 40–4 096 pikseliä. Pidä olennaiset merkinnät ja kaavion tausta luettavina. Inkling voi käyttää määritettyä Python-työkalua kuvan zoomaamiseen, rajaamiseen tai ohjelmalliseen tarkasteluun ja yhdistää visuaaliset havainnot koodipohjaiseen päättelyyn. Hyödyllinen kaaviovastaus säilyttää havaitut arvot ja näyttää, miten ne tukevat johtopäätöstä, eikä oleta rajauksen tai laskelman tapahtuneen vain siksi, että sitä ehdotettiin.

Äänisyöte käyttää WAV-muotoa 16 kHz:n näytteenottotaajuudella, ja valmistaja suosittelee enintään 20 minuutin tallenteita parhaan suorituskyvyn saavuttamiseksi. Tämä on valmistelusuositus. Inkling voi litteroida puhetta, noudattaa puhuttuja ohjeita, vastata tallenteita koskeviin kysymyksiin ja päätellä pidemmän äänen pohjalta. Toimita olennainen tallenne yhdessä kirjallisen kysymyksen ja sen tulkintaan tarvittavan viiteaineiston kanssa. Kokousta käsittelevä tuotos voi erottaa puhutut tiedot myöhemmästä yhteenvedosta tai tulkinnasta. Malli tuottaa tekstiä, joten sen äänen ymmärtäminen on eri asia kuin puhutun vastauksen syntetisointi.

Kuvaile työkalupohjaisessa tehtävässä käytettävissä olevat toiminnot ja niiden argumentit ja säilytä sovelluksen palauttamat todelliset havainnot. Hakutulos voi tarjota ajantasaista näyttöä, laskelma numeerista työtä ja tiedostotoiminto tarkasteltavan sisällön. Mallin ehdottama toiminto ja suoritettu tulos ovat keskustelun erillisiä osia. Pidä lopullinen vastaus yhteydessä näihin havaintoihin, etenkin kun se ehdottaa koodimuutosta tai sovelluksen seuraavaa vaihetta.

Inkling on koulutettu kalibrointiin ja ohjeiden noudattamiseen, mukaan lukien epävarmuuden ilmaiseminen, kun vastausta ei ole vahvistettu. Pyydä näyttöön perustuvaan ennusteeseen tai analyysiin oletukset, näyttö ja ratkaisemattomat ehdot kirjallisessa tuloksessa. Määritä poiminnassa, miten puuttuva arvo esitetään, sen sijaan että vaatisit jokaiseen kenttään keksityn faktan. Nämä ohjeet tekevät tuloksesta tarkistettavan ilman että varmuutta tai pitkää päättelyprosessia pidetään oikeellisuuden todisteena.

Avoimet painot tukevat hienosäätöä ja jatkointegraatioita. Erikoistunut malli kehitetään edustavista esimerkeistä ja tavoitellusta toiminnasta, kun taas tavallinen päättelypyyntö antaa nykyisen tehtävän kontekstin. Valmistaja esittelee mukauttamisen erillisenä työnkulkuna; tavallinen vastaus ei vaihda huomaamatta uusiin painoihin. Säilytä alkuperäinen näyttö ja pyydetyt rajoitteet lopputuotoksen yhteydessä, jotta jatkokysymys voi korjata yhden tiedon, hioa sanamuotoa tai tarkastella toista koodipolkua saman tehtävän pysyessä yhtenäisenä.