Thinking Machines: Inkling (free)

Inkling er Thinking Machines Labs multimodale modell med åpne vekter for resonnering, koding, samtaler og agentbaserte applikasjoner. Den tar imot tekst, bilder og lyd og returnerer tekst. Mixture-of-Experts-designet har totalt 975 milliarder parametere, hvorav 41 milliarder er aktive, og gjør den til den større modellen i familien. Inkling-Small er en egen modell med 276 milliarder parametere, hvorav 12 milliarder er aktive, fremfor en innstilling som endrer svarlengden til Inkling.

For en omfattende kodeoppgave gir du det relevante materialet fra kodelageret, observert oppførsel og ønsket resultat. Be modellen følge den ansvarlige kodebanen, foreslå en endring og rapportere belegget fra kontroller som faktisk ble kjørt i det tilkoblede miljøet. For en dokumentsammenligning merker du kildedelene og ber om de relevante forskjellene, belegget som støtter dem, og eventuelle ubesvarte spørsmål. De tiltenkte bruksområdene omfatter kodeassistenter, chatboter, generering med støtte fra innhentet informasjon og agenter som bruker verktøy, med et sluttresultat tilpasset applikasjonen som skal bruke det.

Inkling støtter opptil én million konteksttokener. Bruk denne plassen til å holde omfattende kildemateriale og viktige samtalefakta samlet, samtidig som du organiserer dem rundt et bestemt spørsmål. Skill kildefakta fra antakelser, og gi plass til hele den skriftlige leveransen. Den større konteksten støtter arbeid på tvers av en omfattende samling; den gjør ikke svaret til en sanntidsvisning av et system der oppdatert informasjon ikke er gitt.

Tenkeinnsats er en kontinuerlig kontroll fra og med 0.0 til under 1.0. Produsentens innledende forhåndsinnstillinger er none 0.0, minimal 0.1, low 0.2, medium 0.7, high 0.9 og xhigh 0.99, med high som standard i rendereren. Innsats og budsjettet for genereringstokener er uavhengige. Høyere innsats kan oppmuntre til mer resonnering og kreve mer plass før det endelige svaret, mens none styrer mot ingen resonnering uten å håndheve en hard begrensning. Velg en verdi som passer oppdraget, og gjør forventet leveranse og fullføringsbetingelse uttrykkelige.

Visuelle inndata støtter bildebeskrivelse, spørsmål om synlig innhold, grafer, diagrammer og matematisk visuell resonnering. For god ytelse bruker du bildedimensjoner mellom 40 og 4096 piksler. Hold relevante etiketter og diagramkontekst lesbare. Inkling kan bruke et konfigurert Python-verktøy til å zoome, beskjære eller undersøke et bilde programmatisk, slik at visuelle observasjoner knyttes til kodebasert resonnering. Et nyttig svar om en graf bevarer de observerte verdiene og viser hvordan de støtter konklusjonen, fremfor å anta at en beskjæring eller beregning skjedde bare fordi den ble foreslått.

Lydinndata bruker WAV med en samplingsfrekvens på 16 kHz, og produsenten anbefaler opptak på opptil 20 minutter for optimal ytelse. Dette er en forberedelsesanbefaling. Inkling kan transkribere tale, følge muntlige instruksjoner, svare på spørsmål om opptak og resonnere over lengre lydmateriale. Gi det relevante opptaket sammen med det skriftlige spørsmålet og eventuelt referansemateriale som trengs for å tolke det. En møterelatert leveranse kan skille uttalte fakta fra et senere sammendrag eller en tolkning. Modellen produserer tekst, så lydforståelsen er atskilt fra syntese av et muntlig svar.

For et verktøybasert oppdrag beskriver du de tilgjengelige operasjonene og argumentene deres og beholder de faktiske observasjonene applikasjonen returnerer. Et søkeresultat kan levere oppdatert belegg; en beregning kan levere tallarbeid; en filoperasjon kan fastslå innholdet som gjennomgås. Modellens foreslåtte handling og det utførte resultatet er separate deler av samtalen. Hold et endelig svar knyttet til disse observasjonene, særlig når det foreslår en kodeendring eller et neste applikasjonstrinn.

Inkling ble trent for kalibrering og det å følge instruksjoner, inkludert å uttrykke usikkerhet når et svar ikke er fastslått. For en beleggsbasert prognose eller analyse ber du om forutsetninger, belegg og uavklarte betingelser i det skriftlige resultatet. For uthenting definerer du hvordan en manglende verdi skal representeres, fremfor å kreve at hvert felt inneholder et oppdiktet faktum. Disse instruksjonene gjør et resultat nyttig for gjennomgang uten å behandle sikkerhet eller en lang resonneringsprosess som bevis på korrekthet.

Åpne vekter støtter finjustering og videre integrasjon. En spesialisert modell utvikles fra representative eksempler og en måloppførsel, mens en vanlig inferensforespørsel gir kontekst for den aktuelle oppgaven. Produsenten viser tilpasning som en egen arbeidsflyt; et normalt svar bytter ikke umerkelig til nye vekter. Behold det opprinnelige belegget og de ønskede begrensningene sammen med sluttleveransen, slik at en oppfølging kan revidere ett faktum, presisere ordlyden eller undersøke en annen kodebane mens det samme oppdraget forblir sammenhengende.