Mistral Nemo Instruct 2407 er den instruksjonstilpassede utgaven av språkmodellen Mistral Nemo på 12B. Den er finjustert fra det separat navngitte sjekkpunktet Nemo Base 2407. Produsenten beskriver trening med en stor andel flerspråklig materiale og kode og et kontekstvindu på 128k tokener, med støtte for skriftlige instrukser, samtale og programmeringsoppgaver.
Viktige funksjoner og arkitektur
Utgivelsen tilbyr separate forhåndstrente og instruksjonstilpassede versjoner. Denne oppføringen gjelder Instruct-sjekkpunktet: en tekstforespørsel kan be om en forklaring, et revidert dokument, programkode eller et foreslått funksjonskall. Instruksjonstilpasningen beskrives som en forbedring av presis instruksjonsfølging, resonnering, dialog over flere turer og kodegenerering sammenlignet med den foregående Mistral 7B-serien.
Modellen har 40 Transformer-lag med en modellbredde på 5,120. Den bruker SwiGLU, 32 oppmerksomhetshoder og 8 nøkkel/verdi-hoder i gruppert spørringsoppmerksomhet, en hodedimensjon på 128 og en skjult dimensjon på 14,336. Roterende embeddingvektorer bruker en theta-innstilling på én million. Det publiserte ordforrådet har 2 opphøyd i 17 oppføringer, eller 131,072; denne ordforrådsstørrelsen er adskilt fra betegnelsen 128k for oppgavekonteksten.
Produsentens kunngjøring beskriver også kvantiseringsbevisst trening og FP8-inferens. Dette er egenskaper ved utgivelse og presisjon, ikke ekstra innholdsmodaliteter. Bevar det nøyaktige sjekkpunktet og den tilhørende tokeniseringen i stedet for å behandle en annen 12B-modell eller Mistral-familiemodell som samme utgave.
Flerspråklig tekst og Tekken
Utgivelsen fremhever engelsk, fransk, tysk, spansk, italiensk, portugisisk, kinesisk, japansk, koreansk, arabisk og hindi, mens russisk er inkludert i modellkortets språkmetadata. Angi det endelige språket, målgruppen og terminologien før du ber om et resultat. For en flerspråklig dokumentoppgave beholder du navn, identifikatorer og enheter uendret, mens teksten rundt tilpasses.
Nemo bruker Tekken-tokeniseringen, trent på mer enn 100 språk og utformet for å representere naturlig språk og kildekode effektivt. Tokeniseringen påvirker hvordan kildematerialet fyller konteksten; et tegntall er derfor ikke i seg selv et tokentall. Bruk den tilhørende tokeniseringen, og hold oppgavens relevante materiale samlet i stedet for å anslå konteksten bare fra den synlige lengden på et avsnitt.
Forberedelse av instruks og kode
For en dokumentforklaring gir du kildeutdraget og identifiserer vilkåret eller begrepet som skal forklares. Be om forklaringen på leserens språk, med de opprinnelige navnene og kildeutsagnet som underbygger svaret, bevart. For redigering angir du hvilken betydning og hvilke vilkår som må overleve omskrivingen, og om resultatet skal være det reviderte avsnittet alene eller et avsnitt med en forklaring.
For en kodeoppgave navngir du språk, inndatatyper, forventede utdata og det eksisterende grensesnittet. Ta med funksjonen eller deklarasjonene som bestemmer endringen. Et nyttig resultat kan inneholde implementasjonen, antakelsene og eksempeldata med forventede resultater. Et separat spørsmål kan be modellen følge én inngang gjennom den oppgitte koden, slik at forklaringen gjelder en konkret bane i stedet for et uspesifisert program.
For en samtale over flere turer beholder du det relevante tidligere svaret og stiller et avgrenset oppfølgingsspørsmål eller gir nytt materiale som endrer oppgaven. Definer om neste svar skal revidere den tidligere leveransen, forklare én beslutning eller lage en annen representasjon av de samme kildefaktaene. Dette gjør videreføringen av samtalen eksplisitt.
Funksjonskall og sampling
Produsenten dokumenterer funksjonskall med det tilhørende samtaleformatet. Modellen genererer den foreslåtte operasjonen og argumentene, mens applikasjonen utfører funksjonen og legger resultatet til samtalen før neste generering. Kortet sier uttrykkelig at et forkortet kodeeksempel ikke viser hele syklusen; de manglende utførings- og resultattrinnene er derfor fortsatt nødvendige deler av en verktøyassistert applikasjon.
I dette publiserte verktøyformatet består kall-ID-er og tilhørende resultat-ID-er av nøyaktig ni alfanumeriske tegn. Behold koblingen mellom operasjonen og resultatet når samtalen i produsentformatet forberedes. Et omsluttende grensesnitt kan representere samtalen annerledes; utgivelsens krav beskriver produsentens modellformatering, ikke en oppdiktet universell klientidentifikator.
Produsenten anbefaler temperatur 0.3 og påpeker at Nemo bruker lavere temperaturer enn tidligere Mistral-modeller. De ulike innstillingene på 64, 128, 256 og 1,000 tokener i eksemplene er genereringsvalg for disse demonstrasjonene, ikke uavhengig publiserte maksimale svarkapasiteter.
Vesentlige begrensninger
Instruct-kortet beskriver dette sjekkpunktet som en demonstrasjon av finjustering av grunnmodellen og sier uttrykkelig at det ikke inneholder noen modereringsmekanisme. Applikasjoner som trenger moderert oppførsel, må levere denne i systemet rundt. Dette er en egenskap ved det publiserte sjekkpunktet, ikke en påstand om hver tjeneste som drifter en Nemo-modell.
Nemos dokumenterte oppgave her er tekstgenerering, med sin egen 128k-kontekst og sitt eget samtaleformat. Bildeforståelse, taletranskripsjon og hybride resonneringskontroller fra senere Mistral-familier skal ikke tilskrives denne utgaven. Gi hele det skriftlige vilkåret, relevant kildemateriale og den påkrevde sluttleveransen, slik at resultatet er nyttig som en forklaring, revidert tekst eller foreslått implementasjon.
", "aboutText": "Mistral Nemo Instruct 2407 er den instruksjonstilpassede utgaven av språkmodellen Mistral Nemo på 12B. Den er finjustert fra det separat navngitte sjekkpunktet Nemo Base 2407. Produsenten beskriver trening med en stor andel flerspråklig materiale og kode og et kontekstvindu på 128k tokener, med støtte for skriftlige instrukser, samtale og programmeringsoppgaver.\n\nViktige funksjoner og arkitektur\n\nUtgivelsen tilbyr separate forhåndstrente og instruksjonstilpassede versjoner. Denne oppføringen gjelder Instruct-sjekkpunktet: en tekstforespørsel kan be om en forklaring, et revidert dokument, programkode eller et foreslått funksjonskall. Instruksjonstilpasningen beskrives som en forbedring av presis instruksjonsfølging, resonnering, dialog over flere turer og kodegenerering sammenlignet med den foregående Mistral 7B-serien.\n\nModellen har 40 Transformer-lag med en modellbredde på 5,120. Den bruker SwiGLU, 32 oppmerksomhetshoder og 8 nøkkel/verdi-hoder i gruppert spørringsoppmerksomhet, en hodedimensjon på 128 og en skjult dimensjon på 14,336. Roterende embeddingvektorer bruker en theta-innstilling på én million. Det publiserte ordforrådet har 2 opphøyd i 17 oppføringer, eller 131,072; denne ordforrådsstørrelsen er adskilt fra betegnelsen 128k for oppgavekonteksten.\n\nProdusentens kunngjøring beskriver også kvantiseringsbevisst trening og FP8-inferens. Dette er egenskaper ved utgivelse og presisjon, ikke ekstra innholdsmodaliteter. Bevar det nøyaktige sjekkpunktet og den tilhørende tokeniseringen i stedet for å behandle en annen 12B-modell eller Mistral-familiemodell som samme utgave.\n\nFlerspråklig tekst og Tekken\n\nUtgivelsen fremhever engelsk, fransk, tysk, spansk, italiensk, portugisisk, kinesisk, japansk, koreansk, arabisk og hindi, mens russisk er inkludert i modellkortets språkmetadata. Angi det endelige språket, målgruppen og terminologien før du ber om et resultat. For en flerspråklig dokumentoppgave beholder du navn, identifikatorer og enheter uendret, mens teksten rundt tilpasses.\n\nNemo bruker Tekken-tokeniseringen, trent på mer enn 100 språk og utformet for å representere naturlig språk og kildekode effektivt. Tokeniseringen påvirker hvordan kildematerialet fyller konteksten; et tegntall er derfor ikke i seg selv et tokentall. Bruk den tilhørende tokeniseringen, og hold oppgavens relevante materiale samlet i stedet for å anslå konteksten bare fra den synlige lengden på et avsnitt.\n\nForberedelse av instruks og kode\n\nFor en dokumentforklaring gir du kildeutdraget og identifiserer vilkåret eller begrepet som skal forklares. Be om forklaringen på leserens språk, med de opprinnelige navnene og kildeutsagnet som underbygger svaret, bevart. For redigering angir du hvilken betydning og hvilke vilkår som må overleve omskrivingen, og om resultatet skal være det reviderte avsnittet alene eller et avsnitt med en forklaring.\n\nFor en kodeoppgave navngir du språk, inndatatyper, forventede utdata og det eksisterende grensesnittet. Ta med funksjonen eller deklarasjonene som bestemmer endringen. Et nyttig resultat kan inneholde implementasjonen, antakelsene og eksempeldata med forventede resultater. Et separat spørsmål kan be modellen følge én inngang gjennom den oppgitte koden, slik at forklaringen gjelder en konkret bane i stedet for et uspesifisert program.\n\nFor en samtale over flere turer beholder du det relevante tidligere svaret og stiller et avgrenset oppfølgingsspørsmål eller gir nytt materiale som endrer oppgaven. Definer om neste svar skal revidere den tidligere leveransen, forklare én beslutning eller lage en annen representasjon av de samme kildefaktaene. Dette gjør videreføringen av samtalen eksplisitt.\n\nFunksjonskall og sampling\n\nProdusenten dokumenterer funksjonskall med det tilhørende samtaleformatet. Modellen genererer den foreslåtte operasjonen og argumentene, mens applikasjonen utfører funksjonen og legger resultatet til samtalen før neste generering. Kortet sier uttrykkelig at et forkortet kodeeksempel ikke viser hele syklusen; de manglende utførings- og resultattrinnene er derfor fortsatt nødvendige deler av en verktøyassistert applikasjon.\n\nI dette publiserte verktøyformatet består kall-ID-er og tilhørende resultat-ID-er av nøyaktig ni alfanumeriske tegn. Behold koblingen mellom operasjonen og resultatet når samtalen i produsentformatet forberedes. Et omsluttende grensesnitt kan representere samtalen annerledes; utgivelsens krav beskriver produsentens modellformatering, ikke en oppdiktet universell klientidentifikator.\n\nProdusenten anbefaler temperatur 0.3 og påpeker at Nemo bruker lavere temperaturer enn tidligere Mistral-modeller. De ulike innstillingene på 64, 128, 256 og 1,000 tokener i eksemplene er genereringsvalg for disse demonstrasjonene, ikke uavhengig publiserte maksimale svarkapasiteter.\n\nVesentlige begrensninger\n\nInstruct-kortet beskriver dette sjekkpunktet som en demonstrasjon av finjustering av grunnmodellen og sier uttrykkelig at det ikke inneholder noen modereringsmekanisme. Applikasjoner som trenger moderert oppførsel, må levere denne i systemet rundt. Dette er en egenskap ved det publiserte sjekkpunktet, ikke en påstand om hver tjeneste som drifter en Nemo-modell.\n\nNemos dokumenterte oppgave her er tekstgenerering, med sin egen 128k-kontekst og sitt eget samtaleformat. Bildeforståelse, taletranskripsjon og hybride resonneringskontroller fra senere Mistral-familier skal ikke tilskrives denne utgaven. Gi hele det skriftlige vilkåret, relevant kildemateriale og den påkrevde sluttleveransen, slik at resultatet er nyttig som en forklaring, revidert tekst eller foreslått implementasjon.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Trace and repair a loop boundary\n\nTrace this Python function for n=3, then correct it to sum integers from 1 through n inclusively: def total(n): return sum(range(1, n)). Inputs are nonnegative integers. Preserve the total(n) interface. Return the corrected function and examples for n=0, n=1 and n=3, with expected outputs.A concise trace, a corrected function and three input/output examples.Check that n=0 remains zero and that the upper endpoint n is included for positive inputs.mistralai/mistral-nemoMistral Nemo Instruct 2407 er en flerspråklig tekstmodell med 12 milliarder parametere for presise instruksjoner, samtale over flere runder og kode. Den har en kontekst på 128k ifølge produsenten, en Tekken-tokenizer, dokumenterte funksjonskall og et eget instruksjonstilpasset modellkontrollpunkt med egen veiledning om sampling.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Mistral Nemo Instruct 2407 er den instruksjonstilpassede utgaven av språkmodellen Mistral Nemo på 12B. Den er finjustert fra det separat navngitte sjekkpunktet Nemo Base 2407. Produsenten beskriver trening med en stor andel flerspråklig materiale og kode og et kontekstvindu på 128k tokener, med støtte for skriftlige instrukser, samtale og programmeringsoppgaver.
Viktige funksjoner og arkitektur
Utgivelsen tilbyr separate forhåndstrente og instruksjonstilpassede versjoner. Denne oppføringen gjelder Instruct-sjekkpunktet: en tekstforespørsel kan be om en forklaring, et revidert dokument, programkode eller et foreslått funksjonskall. Instruksjonstilpasningen beskrives som en forbedring av presis instruksjonsfølging, resonnering, dialog over flere turer og kodegenerering sammenlignet med den foregående Mistral 7B-serien.
Modellen har 40 Transformer-lag med en modellbredde på 5,120. Den bruker SwiGLU, 32 oppmerksomhetshoder og 8 nøkkel/verdi-hoder i gruppert spørringsoppmerksomhet, en hodedimensjon på 128 og en skjult dimensjon på 14,336. Roterende embeddingvektorer bruker en theta-innstilling på én million. Det publiserte ordforrådet har 2 opphøyd i 17 oppføringer, eller 131,072; denne ordforrådsstørrelsen er adskilt fra betegnelsen 128k for oppgavekonteksten.
Produsentens kunngjøring beskriver også kvantiseringsbevisst trening og FP8-inferens. Dette er egenskaper ved utgivelse og presisjon, ikke ekstra innholdsmodaliteter. Bevar det nøyaktige sjekkpunktet og den tilhørende tokeniseringen i stedet for å behandle en annen 12B-modell eller Mistral-familiemodell som samme utgave.
Flerspråklig tekst og Tekken
Utgivelsen fremhever engelsk, fransk, tysk, spansk, italiensk, portugisisk, kinesisk, japansk, koreansk, arabisk og hindi, mens russisk er inkludert i modellkortets språkmetadata. Angi det endelige språket, målgruppen og terminologien før du ber om et resultat. For en flerspråklig dokumentoppgave beholder du navn, identifikatorer og enheter uendret, mens teksten rundt tilpasses.
Nemo bruker Tekken-tokeniseringen, trent på mer enn 100 språk og utformet for å representere naturlig språk og kildekode effektivt. Tokeniseringen påvirker hvordan kildematerialet fyller konteksten; et tegntall er derfor ikke i seg selv et tokentall. Bruk den tilhørende tokeniseringen, og hold oppgavens relevante materiale samlet i stedet for å anslå konteksten bare fra den synlige lengden på et avsnitt.
Forberedelse av instruks og kode
For en dokumentforklaring gir du kildeutdraget og identifiserer vilkåret eller begrepet som skal forklares. Be om forklaringen på leserens språk, med de opprinnelige navnene og kildeutsagnet som underbygger svaret, bevart. For redigering angir du hvilken betydning og hvilke vilkår som må overleve omskrivingen, og om resultatet skal være det reviderte avsnittet alene eller et avsnitt med en forklaring.
For en kodeoppgave navngir du språk, inndatatyper, forventede utdata og det eksisterende grensesnittet. Ta med funksjonen eller deklarasjonene som bestemmer endringen. Et nyttig resultat kan inneholde implementasjonen, antakelsene og eksempeldata med forventede resultater. Et separat spørsmål kan be modellen følge én inngang gjennom den oppgitte koden, slik at forklaringen gjelder en konkret bane i stedet for et uspesifisert program.
For en samtale over flere turer beholder du det relevante tidligere svaret og stiller et avgrenset oppfølgingsspørsmål eller gir nytt materiale som endrer oppgaven. Definer om neste svar skal revidere den tidligere leveransen, forklare én beslutning eller lage en annen representasjon av de samme kildefaktaene. Dette gjør videreføringen av samtalen eksplisitt.
Funksjonskall og sampling
Produsenten dokumenterer funksjonskall med det tilhørende samtaleformatet. Modellen genererer den foreslåtte operasjonen og argumentene, mens applikasjonen utfører funksjonen og legger resultatet til samtalen før neste generering. Kortet sier uttrykkelig at et forkortet kodeeksempel ikke viser hele syklusen; de manglende utførings- og resultattrinnene er derfor fortsatt nødvendige deler av en verktøyassistert applikasjon.
I dette publiserte verktøyformatet består kall-ID-er og tilhørende resultat-ID-er av nøyaktig ni alfanumeriske tegn. Behold koblingen mellom operasjonen og resultatet når samtalen i produsentformatet forberedes. Et omsluttende grensesnitt kan representere samtalen annerledes; utgivelsens krav beskriver produsentens modellformatering, ikke en oppdiktet universell klientidentifikator.
Produsenten anbefaler temperatur 0.3 og påpeker at Nemo bruker lavere temperaturer enn tidligere Mistral-modeller. De ulike innstillingene på 64, 128, 256 og 1,000 tokener i eksemplene er genereringsvalg for disse demonstrasjonene, ikke uavhengig publiserte maksimale svarkapasiteter.
Vesentlige begrensninger
Instruct-kortet beskriver dette sjekkpunktet som en demonstrasjon av finjustering av grunnmodellen og sier uttrykkelig at det ikke inneholder noen modereringsmekanisme. Applikasjoner som trenger moderert oppførsel, må levere denne i systemet rundt. Dette er en egenskap ved det publiserte sjekkpunktet, ikke en påstand om hver tjeneste som drifter en Nemo-modell.
Nemos dokumenterte oppgave her er tekstgenerering, med sin egen 128k-kontekst og sitt eget samtaleformat. Bildeforståelse, taletranskripsjon og hybride resonneringskontroller fra senere Mistral-familier skal ikke tilskrives denne utgaven. Gi hele det skriftlige vilkåret, relevant kildemateriale og den påkrevde sluttleveransen, slik at resultatet er nyttig som en forklaring, revidert tekst eller foreslått implementasjon.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser mistralai/mistral-nemo | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser Eksempler: system, user, assistant, tool, function Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt. Avhenger av modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfritt | Verdier & grenser Gjelder når: role=tool; bruk faktisk returnert ID | Standard— |
Feltmessages[].name | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfritt | Verdier & grenser Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttemperature | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttop_p | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools[].type | Typestring | KravValgfritt | Verdier & grenser function Avhenger av modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrevd | Verdier & grenser Gjelder når: funksjonsverktøy oppgitt | Standard— |
Felttools[].function.description | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfritt | Verdier & grenser | Standard— |
Felttool_choice | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltservice_tier | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltinstructions | Typestring | KravValgfritt | Verdier & grenser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfritt | Verdier & grenser text | Standard— |
Feltprovider | Typeobject | KravValgfritt | Verdier & grenser Vilkår: provider.options avvises på denne Ultra-tekstruten | Standard— |
Feltcache_control.ttl | Typestring | KravValgfritt | Verdier & grenser Vilkår: 1h avvises på faktiske steder for mellomlagring av ledetekster | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages |
Parametermaterial_types | Avtaletext |
Parametermessages | Avtalemeldingstabell med role/content-struktur |
Parameterfile_material | Avtalefaktisk UTF-8-dokument satt inn som bokstavelig tekst; ingen fil-ID utledes |
Parameteroptional_controls | Avtalestream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalemodellspesifikt; brukerens funksjonsverktøy skiller seg fra driftede verktøy |
Parameteroutput_modalities | Avtaletext |
Parameterhosted_operations | Avtalefalse |
Parametermultimodal_input_binding | Avtalenull |
Livssyklus: synchronous_or_streamed
Send eksakt modell-ID sammen med messages.
Kontekstlengde er ikke en outputgrense.
En tekstfil kan levere bokstavelig tekst; bilde-, lyd- og filobjektinput trenger eksakt binding.
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.0003 / 1K tokener Utdata · Utgående tokener $0.0003 / 1K tokener Inndata · Lesing fra hurtigbuffer $0.00003 / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.0003 / 1K tokener Utdata · Utgående tokener $0.0003 / 1K tokener Inndata · Lesing fra hurtigbuffer $0.00003 / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "mistralai/mistral-nemo", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='mistralai/mistral-nemo',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='mistralai/mistral-nemo',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra mistralai/mistral-nemo
Bruk metodestiene som vises ovenfor.
mistralai/mistral-nemoMistral Nemo Instruct 2407 er en flerspråklig tekstmodell med 12 milliarder parametere for presise instruksjoner, samtale over flere runder og kode. Den har en kontekst på 128k ifølge produsenten, en Tekken-tokenizer, dokumenterte funksjonskall og et eget instruksjonstilpasset modellkontrollpunkt med egen veiledning om sampling.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Mistral Nemo Instruct 2407 er den instruksjonstilpassede utgaven av språkmodellen Mistral Nemo på 12B. Den er finjustert fra det separat navngitte sjekkpunktet Nemo Base 2407. Produsenten beskriver trening med en stor andel flerspråklig materiale og kode og et kontekstvindu på 128k tokener, med støtte for skriftlige instrukser, samtale og programmeringsoppgaver.
Viktige funksjoner og arkitektur
Utgivelsen tilbyr separate forhåndstrente og instruksjonstilpassede versjoner. Denne oppføringen gjelder Instruct-sjekkpunktet: en tekstforespørsel kan be om en forklaring, et revidert dokument, programkode eller et foreslått funksjonskall. Instruksjonstilpasningen beskrives som en forbedring av presis instruksjonsfølging, resonnering, dialog over flere turer og kodegenerering sammenlignet med den foregående Mistral 7B-serien.
Modellen har 40 Transformer-lag med en modellbredde på 5,120. Den bruker SwiGLU, 32 oppmerksomhetshoder og 8 nøkkel/verdi-hoder i gruppert spørringsoppmerksomhet, en hodedimensjon på 128 og en skjult dimensjon på 14,336. Roterende embeddingvektorer bruker en theta-innstilling på én million. Det publiserte ordforrådet har 2 opphøyd i 17 oppføringer, eller 131,072; denne ordforrådsstørrelsen er adskilt fra betegnelsen 128k for oppgavekonteksten.
Produsentens kunngjøring beskriver også kvantiseringsbevisst trening og FP8-inferens. Dette er egenskaper ved utgivelse og presisjon, ikke ekstra innholdsmodaliteter. Bevar det nøyaktige sjekkpunktet og den tilhørende tokeniseringen i stedet for å behandle en annen 12B-modell eller Mistral-familiemodell som samme utgave.
Flerspråklig tekst og Tekken
Utgivelsen fremhever engelsk, fransk, tysk, spansk, italiensk, portugisisk, kinesisk, japansk, koreansk, arabisk og hindi, mens russisk er inkludert i modellkortets språkmetadata. Angi det endelige språket, målgruppen og terminologien før du ber om et resultat. For en flerspråklig dokumentoppgave beholder du navn, identifikatorer og enheter uendret, mens teksten rundt tilpasses.
Nemo bruker Tekken-tokeniseringen, trent på mer enn 100 språk og utformet for å representere naturlig språk og kildekode effektivt. Tokeniseringen påvirker hvordan kildematerialet fyller konteksten; et tegntall er derfor ikke i seg selv et tokentall. Bruk den tilhørende tokeniseringen, og hold oppgavens relevante materiale samlet i stedet for å anslå konteksten bare fra den synlige lengden på et avsnitt.
Forberedelse av instruks og kode
For en dokumentforklaring gir du kildeutdraget og identifiserer vilkåret eller begrepet som skal forklares. Be om forklaringen på leserens språk, med de opprinnelige navnene og kildeutsagnet som underbygger svaret, bevart. For redigering angir du hvilken betydning og hvilke vilkår som må overleve omskrivingen, og om resultatet skal være det reviderte avsnittet alene eller et avsnitt med en forklaring.
For en kodeoppgave navngir du språk, inndatatyper, forventede utdata og det eksisterende grensesnittet. Ta med funksjonen eller deklarasjonene som bestemmer endringen. Et nyttig resultat kan inneholde implementasjonen, antakelsene og eksempeldata med forventede resultater. Et separat spørsmål kan be modellen følge én inngang gjennom den oppgitte koden, slik at forklaringen gjelder en konkret bane i stedet for et uspesifisert program.
For en samtale over flere turer beholder du det relevante tidligere svaret og stiller et avgrenset oppfølgingsspørsmål eller gir nytt materiale som endrer oppgaven. Definer om neste svar skal revidere den tidligere leveransen, forklare én beslutning eller lage en annen representasjon av de samme kildefaktaene. Dette gjør videreføringen av samtalen eksplisitt.
Funksjonskall og sampling
Produsenten dokumenterer funksjonskall med det tilhørende samtaleformatet. Modellen genererer den foreslåtte operasjonen og argumentene, mens applikasjonen utfører funksjonen og legger resultatet til samtalen før neste generering. Kortet sier uttrykkelig at et forkortet kodeeksempel ikke viser hele syklusen; de manglende utførings- og resultattrinnene er derfor fortsatt nødvendige deler av en verktøyassistert applikasjon.
I dette publiserte verktøyformatet består kall-ID-er og tilhørende resultat-ID-er av nøyaktig ni alfanumeriske tegn. Behold koblingen mellom operasjonen og resultatet når samtalen i produsentformatet forberedes. Et omsluttende grensesnitt kan representere samtalen annerledes; utgivelsens krav beskriver produsentens modellformatering, ikke en oppdiktet universell klientidentifikator.
Produsenten anbefaler temperatur 0.3 og påpeker at Nemo bruker lavere temperaturer enn tidligere Mistral-modeller. De ulike innstillingene på 64, 128, 256 og 1,000 tokener i eksemplene er genereringsvalg for disse demonstrasjonene, ikke uavhengig publiserte maksimale svarkapasiteter.
Vesentlige begrensninger
Instruct-kortet beskriver dette sjekkpunktet som en demonstrasjon av finjustering av grunnmodellen og sier uttrykkelig at det ikke inneholder noen modereringsmekanisme. Applikasjoner som trenger moderert oppførsel, må levere denne i systemet rundt. Dette er en egenskap ved det publiserte sjekkpunktet, ikke en påstand om hver tjeneste som drifter en Nemo-modell.
Nemos dokumenterte oppgave her er tekstgenerering, med sin egen 128k-kontekst og sitt eget samtaleformat. Bildeforståelse, taletranskripsjon og hybride resonneringskontroller fra senere Mistral-familier skal ikke tilskrives denne utgaven. Gi hele det skriftlige vilkåret, relevant kildemateriale og den påkrevde sluttleveransen, slik at resultatet er nyttig som en forklaring, revidert tekst eller foreslått implementasjon.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser mistralai/mistral-nemo | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrevd | Verdier & grenser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrevd | Verdier & grenser | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content-streng
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages, max_tokens |
Parameteroptional_controls | Avtalestream |
Parametermaterial_types | Avtaletext |
Parametertext_file_material | AvtaleLes det faktiske UTF-8-dokumentet og legg teksten i den angitte input- eller meldingsinnholdsstrengen. |
Livssyklus: synchronous_or_streamed
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.0003 / 1K tokener Utdata · Utgående tokener $0.0003 / 1K tokener Inndata · Lesing fra hurtigbuffer $0.00003 / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.0003 / 1K tokener Utdata · Utgående tokener $0.0003 / 1K tokener Inndata · Lesing fra hurtigbuffer $0.00003 / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
{\n "model": "mistralai/mistral-nemo",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mistral-nemo', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mistral-nemo', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold alle innholdsblokker, resonneringssignaturer og faktiske ID-er for verktøybruk. Sett sammen alle SSE-blokkendringer; den første tekstblokken er ikke hele resultatet.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra mistralai/mistral-nemo
Bruk metodestiene som vises ovenfor.
Teknisk eksempel på engelsk
Trace and repair a loop boundary\n\nTrace this Python function for n=3, then correct it to sum integers from 1 through n inclusively: def total(n): return sum(range(1, n)). Inputs are nonnegative integers. Preserve the total(n) interface. Return the corrected function and examples for n=0, n=1 and n=3, with expected outputs.A concise trace, a corrected function and three input/output examples.Check that n=0 remains zero and that the upper endpoint n is included for positive inputs.