Meituan: LongCat 2.0

LongCat 2.0 er en sparsom språkmodell med en blanding av eksperter fra Meituan, med 48 milliarder aktive parametere av totalt 1,6 billioner. Det publiserte bruksområdet omfatter koding, endringer på tvers av et kodelager, langsiktig problemløsing og agentarbeidsflyter. Velg meituan/longcat-2.0 med POST /v1/chat/completions ved å bruke model og en messages-array. Denne profilen tar imot tekst og produserer tekst eller forespørsler om funksjonskall i samtalen.

For en endring i et kodelager oppgir du de relevante filene eller utdragene, oppførselen som skal endres, og begrensningene implementasjonen må bevare. Be om et konkret resultat, som en patch, en foreslått endringsrekkefølge eller en forklaring på hvordan en feil forplanter seg gjennom de oppgitte modulene. For dokumentanalyse oppgir du selve kildeteksten og identifiserer spørsmålene svaret må avklare. Merk ulike kildeavsnitt slik at svaret kan knytte konklusjonene til det oppgitte materialet.

Det publiserte kontekstvinduet er 1 048 756 tokener, og modellprofilen oppgir opptil 262 144 tokener for genererte svar. Planlegg kildematerialet, samtalehistorikken, verktøyresultatene og det ønskede svaret innenfor den samlede kontekstrammen. Angi max_tokens for ønsket ramme for utdataene. En stor kontekst kan romme mye tekst, men oppgaven har fortsatt nytte av eksplisitte filgrenser, det aktuelle målet og en beskrivelse av hva et nyttig svar bør inneholde.

De støttede innstillingene omfatter tools og tool_choice for funksjonskall. En applikasjon kan deklarere funksjoner for å lese en valgt fil, kjøre en godkjent kontroll eller hente en registrering, og deretter oppgi resultatdataene i senere meldinger i samtalen. Modellen kan be om et funksjonskall; applikasjonen validerer argumentene, utfører den tillatte handlingen og returnerer resultatet. Hold forespørselen, verktøyresultatet og det neste svaret samlet når en oppgave går over flere trinn.

Andre publiserte parametere omfatter temperature, top_p, top_k, min_p, stop, seed, frequency_penalty, presence_penalty og repetition_penalty. reasoning og include_reasoning står også i listen over støttede parametere. Modellprofilen støtter ikke response_format, så en instruksjon om å produsere JSON forblir en promptinstruksjon. Parse og valider all strukturert tekst før du sender den videre til kode, en database eller en annen arbeidsflyt.

Bruk et fullstendig Chat Completions-svar når neste trinn trenger det sammensatte svaret, eller strøm tekst når applikasjonen viser den etter hvert som den kommer. Les meldingsinnhold og eventuelle verktøykall fra de returnerte choices, og behold usage og svarinformasjonen. Sett sammen strømmede deltaer før du anser en foreslått patch eller et strukturert svar som fullstendig. For en kodeendring vurderer du det ferdige forslaget mot de oppgitte kravene og faktiske kontroller før du tar resultatet i bruk.