MoonshotAI: Kimi K3 (batch)

Kimi K3 er Moonshot AIs multimodale agentmodell med åpne vekter for langvarige programmeringsoppgaver, kunnskapsarbeid og resonnering. Den kombinerer tekst med innebygd visuell forståelse av bilder og video og produserer et tekstlig svar eller en verktøyforespørsel. Produsenten fremhever utvidede utviklingsøkter, store kodearkiver og oppgaver som bruker skjermbilder eller visuell tilbakemelding sammen med kode. En nyttig oppgavebeskrivelse definerer det ønskede artefaktet, bevisene som skal brukes, og betingelsen som markerer at arbeidet er fullført.

Arkitektur og lang kontekst

Modellkortet beskriver en sparsom Mixture of Experts med totalt 2,8 billioner parametere og 104 milliarder aktiverte parametere. Stable LatentMoE-designet velger 16 av 896 eksperter per token og bruker Kimi Delta Attention og Attention Residuals sammen med portstyrt oppmerksomhet. Den konkrete kontekstlengden er 1 048 576 tokener. Dette gir plass til en omfattende oppgavekontekst, ikke en grunn til å forkaste kildegrenser eller plassen som trengs til resultatet.

Det publiserte opprinnelige artefaktet bruker kvantiseringsbevisst trening med MXFP4-vekter og MXFP8-aktiveringer. Dette er produsentens utgivelsesformat, forskjellig fra en separat levert kvantisert utgave eller en påstand om hvordan en bestemt rute tilbyr modellen. Åpne vekter og et stort parameterantall gjør ikke tallet for aktive parametere til det samlede lagrings- eller maskinvarebehovet.

Forbered en omfattende programmeringsoppgave

Gi det relevante materialet fra kodearkivet, den eksisterende atferden, den ønskede endringen og kompatibilitetsbegrensningene. Identifiser filene eller grensesnittet resultatet må påvirke, kontrollene som bestemmer suksess, og eventuelle oppgitte feil eller inndata som avdekker problemet. Et nyttig resultat kan være en målrettet kodeendring med forklaring og bevis fra kontrollene som faktisk ble kjørt, fremfor en beskrivelse av handlinger som aldri ble utført.

For en visuell utviklingsoppgave inkluderer du et skjermbilde eller en tydelig visning av det tiltenkte resultatet sammen med relevant kode og et spesifikt avvik. Produsenten beskriver arbeidsflyter som spenner over frontendarbeid, spill og CAD og bruker visuell tilbakemelding. Be om endringen som knytter koden til det observerte resultatet, og bevar referansen slik at det leverte artefaktet kan kontrolleres mot den.

Bilder, video og forberedelse til kunnskapsarbeid

Produsentens hurtigstart bruker typede innholdsobjekter for visuelle meldinger; content er en array, ikke en serialisert representasjon av arrayen. Bildeflyten bruker kodede bildedata eller en støttet filreferanse fremfor en offentlig bildeadresse. Videoeksemplet laster opp en videofil og oppgir den resulterende referansen med et spørsmål om innholdet. Gi en lesbar kilde og angi observasjonen, intervallet eller sammenhengen som er viktig. Produsentens synsarbeidsflyt tar imot bilder i JPEG, PNG, GIF, WebP, BMP, HEIC og HEIF og video i MP4, MPEG, MOV, AVI, FLV, MPG, WebM, WMV og 3GPP. Animerte GIF- eller WebP-filer kan dekodes som video. Gi SVG-kildekode som tekst. Produsenten anbefaler bilder på opptil 4 096 × 2 160 og video på opptil 1 920 × 1 080; dette er oppløsningsanbefalinger, ikke avvisningsgrenser. Hold forespørselskroppen innenfor den dokumenterte størrelsesgrensen på 100M og last opp store eller gjentatte ganger brukte medier som filer.

For dokumenttung forskning merker du kildene og angir spørsmålene den endelige rapporten skal besvare. For en videoforklaring identifiserer du hendelsene eller sekvensen som skal analyseres, fremfor å be om ubegrensede kommentarer. K3 bruker visuelt innhold som bevis for resonnering og returnerer tekst eller verktøyforespørsler. En applikasjon kan sende disse forespørslene videre til medieverktøy for å opprette separate bilde- eller videoartefakter.

Tenkning er alltid aktivert

Produsentgrensesnittet til K3 har alltid tenkning aktivert. reasoning_effort-innstillingen på toppnivå godtar low, high og max, med max som standard. Disse valgene er modellspesifikke; en innstilling uten tenkning eller en innsatsverdi fra en annen familie skal ikke antas. Produsentens migreringsveiledning skiller K3 fra K2.x ved å bruke reasoning_effort fremfor å videreføre den eldre thinking-konfigurasjonen.

Produsenten dokumenterer separat reasoning_content og innhold til det endelige svaret i strømmede resultater. For en samtale over flere runder eller en verktøyflyt krever den at hele den returnerte assistentmeldingen sendes tilbake uendret, inkludert reasoning_content og tool_calls. Hvis bare det synlige endelige svaret beholdes, går informasjon som modellens arbeidsflyt med bevart tenkning forventer på neste steg, tapt.

Strukturerte endelige svar og delvis videreføring

Hurtigstarten dokumenterer strenge JSON-skjema-utdata for innholdet i den endelige meldingen. Definer feltene og betydningene rundt artefaktet applikasjonen trenger, og tolk dette endelige innholdet fremfor å kombinere det med resonneringsfeltet. Et strukturert resultat kan representere uttrukket informasjon fra oppgitt materiale eller et definert rapportformat; skjemaet begrenser formen, mens kildebevisene avgjør om verdiene er riktige.

Partial-modus kan videreføre et oppgitt tekstprefiks. Produsentens eksempel plasserer en delvis assistentmelding på slutten av historikken og kombinerer prefikset med den returnerte videreføringen for visning. Bruk dette når det påkrevde artefaktet har en meningsfull fast start, og hold prefikset atskilt fra den genererte resten.

Verktøy og kontinuitet i resultatene

K3 støtter tilpassede funksjonsverktøy. Produsentens eksempel krever et verktøy i første runde, bevarer hele assistentmeldingen, utfører hvert returnert kall og legger til et samsvarende verktøyresultat før det endelige svaret forespørres. Et foreslått kall er ikke bevis på at operasjonen lyktes; det faktiske returnerte resultatet blir bevisgrunnlaget for neste steg.

Arbeidsflyten for dynamisk lasting introduserer en fullstendig verktøydefinisjon på et bestemt punkt i meldingshistorikken. Definisjonen trenger navn, formål og parametere, og den må forbli i påfølgende historikk fordi serveren ikke beholder deklarasjonen uavhengig. Hold verktøyfunksjoner, oppgitte argumenter og reelle observasjoner knyttet sammen slik at en lang oppgave kan fortsette fra arbeidet som allerede er fullført.

Utdatakontroller og gjentatt kontekst

Produsenten dokumenterer en standard fullføringsramme på 131 072 tokener, konfigurerbar opptil 1 048 576 innenfor modellens samlede kontekstbegrensninger. Det aktuelle K3-API-et fastsetter temperature til 1.0, top_p til 0.95, ett resultat og null presence- og frequency-straffer, og ber dem som kaller API-et, utelate disse samplingskontrollene. Dette er innstillingene til den konkrete produsentvarianten, ikke en overførbar liste over justerbare kontroller.

Kontekstmellomlagring er automatisk for kvalifiserte gjentatte prefikser, med dokumenterte TTL-valg på 5 minutter og 1 time og 5 minutter som standard. Delvise mellomlagringsblokker regnes fortsatt som bom. Hold gjenbrukbar kontekst stabil og kontroller faktisk bruk fremfor å hevde et mellomlagringstreff ut fra gjentatt tekst alene. For det endelige artefaktet bevarer du de oppgitte kildene, faktiske verktøybevisene og den påkrevde utdatastrukturen, og kontrollerer at et langt svar eller utviklingsresultat oppfyller de angitte fullføringskriteriene.