Mixtral 8x22B Instruct v0.1 er Mistral AIs instruksjonstilpassede versjon av den separat navngitte basismodellen Mixtral 8x22B v0.1. Den mottar en tekstsamtale og produserer tekst, blant annet forklaringer, kode og foreslåtte funksjonskall. Familieutgivelsen fremhever engelsk, fransk, italiensk, tysk og spansk sammen med matematiske funksjoner og programmeringsfunksjoner.
Sparsomme eksperter og kontekst
Produsenten beskriver en sparsom mixture-of-experts-modell med totalt 141 milliarder parametere og 39 milliarder aktive parametere. Den utgitte Instruct-konfigurasjonen inneholder 8 eksperter med 2 valgt per token, 56 lag, 48 oppmerksomhetshoder for spørringer og 8 nøkkel-/verdihoder. Det totale parameterantallet og de valgte ekspertene beskriver modellens struktur, ikke lengden på et svar.
Familieutgivelsen dokumenterer en kontekst på 64K, og den konkrete Instruct-konfigurasjonen setter maksimalt antall posisjoner til 65 536. Bruk denne plassen til å beholde kildeutdragene, samtalen og det ønskede svaret samlet. Et spørsmål om store dokumenter kan be om én betingelse på tvers av flere avsnitt og samtidig returnere en kortfattet tabell med hver kildeplassering. Inkluder materialet som bestemmer resultatet, fremfor å fylle vinduet med uvedkommende innhold.
Koding av instruksjonssamtalen
Modellkortet begynner med produsentens v3-instruksjonstokenizer og viser deretter hvordan meldinger formateres med den tilsvarende chatmalen. Det utgitte vokabularet har 32 768 oppføringer. Den opprinnelige tokenizeren og en kompatibel tokenizer bør produsere samsvarende meldingsrepresentasjoner; modellkortet diskuterer uttrykkelig sammenligning av kodingene deres. Dette skiller seg fra å anta at Tekken-formatet brukt av senere Mistral-modeller kan brukes om hverandre med denne utgivelsen.
For en samtale skiller du mellom brukerspørsmålet, det tidligere assistentsvaret og eventuelle verktøyresultater. Behold det relevante tidligere svaret når du stiller et oppfølgingsspørsmål. En oppgave kan først be om en forklaring av et kildeutdrag og deretter be om en mer spesifikk sammenligning, samtidig som kildeinnholdet og formålet med diskusjonen bevares.
For flerspråklig redigering identifiserer du kildespråket, målspråket og terminologien som skal forbli uendret. Be om en revidert passasje som bevarer navn, betingelser og enheter. For et matematisk problem definerer du variablene og antakelsene og angir om det endelige resultatet skal være et eksakt uttrykk, en numerisk tilnærming eller et bevis. For programmering inkluderer du funksjonssignaturen, relevante deklarasjoner og forventet atferd før du ber om en implementasjon eller forklaring.
Funksjonskall og resultatene deres
Modellkortet dokumenterer innebygde funksjonskall med verktøybeskrivelser og parameterskjemaer. Applikasjonen oppgir operasjonene, modellen forbereder argumentene til den valgte funksjonen, og applikasjonen utfører den. Det returnerte resultatet må deretter legges til samtalen slik at modellen kan bruke det i neste svar. Modellkortet advarer om at ett forkortet kodeeksempel ikke demonstrerer hele denne syklusen.
En oppslagsoppgave bør identifisere hvilken informasjon som mangler, og hvilken oppgitt funksjon som kan returnere den. Inkluder de nødvendige verdiene eller be om den manglende informasjonen før applikasjonen utfører operasjonen. Hold det foreslåtte kallet atskilt fra de faktiske returnerte dataene; den endelige forklaringen kan da vise til resultatet som ble innhentet, fremfor et resultat utledet fra verktøyets navn.
I produsentens opprinnelige samtaleformat bruker verktøykall og tilhørende resultater ID-er med nøyaktig ni alfanumeriske tegn. Tokenizeren inneholder også spesialmarkører for tilgjengelige verktøy, verktøykall og verktøyresultater. Bevar den samsvarende representasjonen når du forbereder samtalen i det opprinnelige formatet; den synlige representasjonen i et innpakningslag er et separat grensesnittvalg.
Praktiske kode- og dokumentartefakter
For en koderettelse gir du den berørte funksjonen, inndata som avdekker problemet, og det forventede resultatet. Be om det reviderte fragmentet, årsaken til avviket og eksempelinndata som skiller den tiltenkte atferden. Å generere kode er et tekstartefakt; å kompilere, kjøre eller bruke den i et kodearkiv krever det tilknyttede utviklingsmiljøet.
For en dokumentforklaring ber du om utsagnet som svarer på spørsmålet, og avsnittet som underbygger det. En sammenligning kan skille felles betingelser, forskjeller og uavklarte detaljer. For en tekstpost med begrenset format definerer du feltnavnene og behandlingen av manglende verdier. Den opprinnelige familiekunngjøringen beskriver funksjonskall sammen med formatbegrensede utdata i produsentens tilknyttede tjeneste; disse formateringsfunksjonene forblir forskjellige fra å utføre en ekstern operasjon.
Utgave og genereringsgrenser
Modellkortet viser genereringsbudsjetter som 64 og 1 000 tokener for bestemte eksempler. De er demonstrasjonsinnstillinger, ikke uavhengige maksimale svarkapasiteter. Hold prompten og ønsket svar innenfor den faktiske konfigurerte konteksten, og be om en lengde som passer oppgaven.
Denne oppføringen gjelder det tekstbaserte Instruct v0.1-kontrollpunktet med v3-instruksjonsformateringen. Syn, tale og kontroller for hybrid resonnering introdusert i senere Mistral-familier skal ikke tilskrives den. Bevar den konkrete utgaven og kildematerialet når du forbereder forklaringen, kodeforslaget eller det verktøystøttede svaret neste steg trenger.
", "aboutText": "Mixtral 8x22B Instruct v0.1 er Mistral AIs instruksjonstilpassede versjon av den separat navngitte basismodellen Mixtral 8x22B v0.1. Den mottar en tekstsamtale og produserer tekst, blant annet forklaringer, kode og foreslåtte funksjonskall. Familieutgivelsen fremhever engelsk, fransk, italiensk, tysk og spansk sammen med matematiske funksjoner og programmeringsfunksjoner.\n\nSparsomme eksperter og kontekst\n\nProdusenten beskriver en sparsom mixture-of-experts-modell med totalt 141 milliarder parametere og 39 milliarder aktive parametere. Den utgitte Instruct-konfigurasjonen inneholder 8 eksperter med 2 valgt per token, 56 lag, 48 oppmerksomhetshoder for spørringer og 8 nøkkel-/verdihoder. Det totale parameterantallet og de valgte ekspertene beskriver modellens struktur, ikke lengden på et svar.\n\nFamilieutgivelsen dokumenterer en kontekst på 64K, og den konkrete Instruct-konfigurasjonen setter maksimalt antall posisjoner til 65 536. Bruk denne plassen til å beholde kildeutdragene, samtalen og det ønskede svaret samlet. Et spørsmål om store dokumenter kan be om én betingelse på tvers av flere avsnitt og samtidig returnere en kortfattet tabell med hver kildeplassering. Inkluder materialet som bestemmer resultatet, fremfor å fylle vinduet med uvedkommende innhold.\n\nKoding av instruksjonssamtalen\n\nModellkortet begynner med produsentens v3-instruksjonstokenizer og viser deretter hvordan meldinger formateres med den tilsvarende chatmalen. Det utgitte vokabularet har 32 768 oppføringer. Den opprinnelige tokenizeren og en kompatibel tokenizer bør produsere samsvarende meldingsrepresentasjoner; modellkortet diskuterer uttrykkelig sammenligning av kodingene deres. Dette skiller seg fra å anta at Tekken-formatet brukt av senere Mistral-modeller kan brukes om hverandre med denne utgivelsen.\n\nFor en samtale skiller du mellom brukerspørsmålet, det tidligere assistentsvaret og eventuelle verktøyresultater. Behold det relevante tidligere svaret når du stiller et oppfølgingsspørsmål. En oppgave kan først be om en forklaring av et kildeutdrag og deretter be om en mer spesifikk sammenligning, samtidig som kildeinnholdet og formålet med diskusjonen bevares.\n\nFor flerspråklig redigering identifiserer du kildespråket, målspråket og terminologien som skal forbli uendret. Be om en revidert passasje som bevarer navn, betingelser og enheter. For et matematisk problem definerer du variablene og antakelsene og angir om det endelige resultatet skal være et eksakt uttrykk, en numerisk tilnærming eller et bevis. For programmering inkluderer du funksjonssignaturen, relevante deklarasjoner og forventet atferd før du ber om en implementasjon eller forklaring.\n\nFunksjonskall og resultatene deres\n\nModellkortet dokumenterer innebygde funksjonskall med verktøybeskrivelser og parameterskjemaer. Applikasjonen oppgir operasjonene, modellen forbereder argumentene til den valgte funksjonen, og applikasjonen utfører den. Det returnerte resultatet må deretter legges til samtalen slik at modellen kan bruke det i neste svar. Modellkortet advarer om at ett forkortet kodeeksempel ikke demonstrerer hele denne syklusen.\n\nEn oppslagsoppgave bør identifisere hvilken informasjon som mangler, og hvilken oppgitt funksjon som kan returnere den. Inkluder de nødvendige verdiene eller be om den manglende informasjonen før applikasjonen utfører operasjonen. Hold det foreslåtte kallet atskilt fra de faktiske returnerte dataene; den endelige forklaringen kan da vise til resultatet som ble innhentet, fremfor et resultat utledet fra verktøyets navn.\n\nI produsentens opprinnelige samtaleformat bruker verktøykall og tilhørende resultater ID-er med nøyaktig ni alfanumeriske tegn. Tokenizeren inneholder også spesialmarkører for tilgjengelige verktøy, verktøykall og verktøyresultater. Bevar den samsvarende representasjonen når du forbereder samtalen i det opprinnelige formatet; den synlige representasjonen i et innpakningslag er et separat grensesnittvalg.\n\nPraktiske kode- og dokumentartefakter\n\nFor en koderettelse gir du den berørte funksjonen, inndata som avdekker problemet, og det forventede resultatet. Be om det reviderte fragmentet, årsaken til avviket og eksempelinndata som skiller den tiltenkte atferden. Å generere kode er et tekstartefakt; å kompilere, kjøre eller bruke den i et kodearkiv krever det tilknyttede utviklingsmiljøet.\n\nFor en dokumentforklaring ber du om utsagnet som svarer på spørsmålet, og avsnittet som underbygger det. En sammenligning kan skille felles betingelser, forskjeller og uavklarte detaljer. For en tekstpost med begrenset format definerer du feltnavnene og behandlingen av manglende verdier. Den opprinnelige familiekunngjøringen beskriver funksjonskall sammen med formatbegrensede utdata i produsentens tilknyttede tjeneste; disse formateringsfunksjonene forblir forskjellige fra å utføre en ekstern operasjon.\n\nUtgave og genereringsgrenser\n\nModellkortet viser genereringsbudsjetter som 64 og 1 000 tokener for bestemte eksempler. De er demonstrasjonsinnstillinger, ikke uavhengige maksimale svarkapasiteter. Hold prompten og ønsket svar innenfor den faktiske konfigurerte konteksten, og be om en lengde som passer oppgaven.\n\nDenne oppføringen gjelder det tekstbaserte Instruct v0.1-kontrollpunktet med v3-instruksjonsformateringen. Syn, tale og kontroller for hybrid resonnering introdusert i senere Mistral-familier skal ikke tilskrives den. Bevar den konkrete utgaven og kildematerialet når du forbereder forklaringen, kodeforslaget eller det verktøystøttede svaret neste steg trenger.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Repair integer average division\n\nFix this Python function for nonempty numeric lists: def average(values): return sum(values) // len(values). Input [1, 2] must produce 1.5. Return the corrected function and assertions for [1, 2] and [2, 4]. State the nonempty-input assumption rather than inventing an empty-list policy.A focused function correction, two assertions and the retained input assumption.The function must preserve a fractional average and leave the unspecified empty-list behavior undecided.mistralai/mixtral-8x22b-instructMixtral 8x22B Instruct v0.1 er en flerspråklig tekstmodell for samtale, matematikk, kode og funksjonskall. Den sparsomme mixture-of-experts-arkitekturen bruker 39 milliarder aktive parametere av totalt 141 milliarder, med en kontekst på 64K ifølge produsenten og et eget v3-instruksjonsformat.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Mixtral 8x22B Instruct v0.1 er Mistral AIs instruksjonstilpassede versjon av den separat navngitte basismodellen Mixtral 8x22B v0.1. Den mottar en tekstsamtale og produserer tekst, blant annet forklaringer, kode og foreslåtte funksjonskall. Familieutgivelsen fremhever engelsk, fransk, italiensk, tysk og spansk sammen med matematiske funksjoner og programmeringsfunksjoner.
Sparsomme eksperter og kontekst
Produsenten beskriver en sparsom mixture-of-experts-modell med totalt 141 milliarder parametere og 39 milliarder aktive parametere. Den utgitte Instruct-konfigurasjonen inneholder 8 eksperter med 2 valgt per token, 56 lag, 48 oppmerksomhetshoder for spørringer og 8 nøkkel-/verdihoder. Det totale parameterantallet og de valgte ekspertene beskriver modellens struktur, ikke lengden på et svar.
Familieutgivelsen dokumenterer en kontekst på 64K, og den konkrete Instruct-konfigurasjonen setter maksimalt antall posisjoner til 65 536. Bruk denne plassen til å beholde kildeutdragene, samtalen og det ønskede svaret samlet. Et spørsmål om store dokumenter kan be om én betingelse på tvers av flere avsnitt og samtidig returnere en kortfattet tabell med hver kildeplassering. Inkluder materialet som bestemmer resultatet, fremfor å fylle vinduet med uvedkommende innhold.
Koding av instruksjonssamtalen
Modellkortet begynner med produsentens v3-instruksjonstokenizer og viser deretter hvordan meldinger formateres med den tilsvarende chatmalen. Det utgitte vokabularet har 32 768 oppføringer. Den opprinnelige tokenizeren og en kompatibel tokenizer bør produsere samsvarende meldingsrepresentasjoner; modellkortet diskuterer uttrykkelig sammenligning av kodingene deres. Dette skiller seg fra å anta at Tekken-formatet brukt av senere Mistral-modeller kan brukes om hverandre med denne utgivelsen.
For en samtale skiller du mellom brukerspørsmålet, det tidligere assistentsvaret og eventuelle verktøyresultater. Behold det relevante tidligere svaret når du stiller et oppfølgingsspørsmål. En oppgave kan først be om en forklaring av et kildeutdrag og deretter be om en mer spesifikk sammenligning, samtidig som kildeinnholdet og formålet med diskusjonen bevares.
For flerspråklig redigering identifiserer du kildespråket, målspråket og terminologien som skal forbli uendret. Be om en revidert passasje som bevarer navn, betingelser og enheter. For et matematisk problem definerer du variablene og antakelsene og angir om det endelige resultatet skal være et eksakt uttrykk, en numerisk tilnærming eller et bevis. For programmering inkluderer du funksjonssignaturen, relevante deklarasjoner og forventet atferd før du ber om en implementasjon eller forklaring.
Funksjonskall og resultatene deres
Modellkortet dokumenterer innebygde funksjonskall med verktøybeskrivelser og parameterskjemaer. Applikasjonen oppgir operasjonene, modellen forbereder argumentene til den valgte funksjonen, og applikasjonen utfører den. Det returnerte resultatet må deretter legges til samtalen slik at modellen kan bruke det i neste svar. Modellkortet advarer om at ett forkortet kodeeksempel ikke demonstrerer hele denne syklusen.
En oppslagsoppgave bør identifisere hvilken informasjon som mangler, og hvilken oppgitt funksjon som kan returnere den. Inkluder de nødvendige verdiene eller be om den manglende informasjonen før applikasjonen utfører operasjonen. Hold det foreslåtte kallet atskilt fra de faktiske returnerte dataene; den endelige forklaringen kan da vise til resultatet som ble innhentet, fremfor et resultat utledet fra verktøyets navn.
I produsentens opprinnelige samtaleformat bruker verktøykall og tilhørende resultater ID-er med nøyaktig ni alfanumeriske tegn. Tokenizeren inneholder også spesialmarkører for tilgjengelige verktøy, verktøykall og verktøyresultater. Bevar den samsvarende representasjonen når du forbereder samtalen i det opprinnelige formatet; den synlige representasjonen i et innpakningslag er et separat grensesnittvalg.
Praktiske kode- og dokumentartefakter
For en koderettelse gir du den berørte funksjonen, inndata som avdekker problemet, og det forventede resultatet. Be om det reviderte fragmentet, årsaken til avviket og eksempelinndata som skiller den tiltenkte atferden. Å generere kode er et tekstartefakt; å kompilere, kjøre eller bruke den i et kodearkiv krever det tilknyttede utviklingsmiljøet.
For en dokumentforklaring ber du om utsagnet som svarer på spørsmålet, og avsnittet som underbygger det. En sammenligning kan skille felles betingelser, forskjeller og uavklarte detaljer. For en tekstpost med begrenset format definerer du feltnavnene og behandlingen av manglende verdier. Den opprinnelige familiekunngjøringen beskriver funksjonskall sammen med formatbegrensede utdata i produsentens tilknyttede tjeneste; disse formateringsfunksjonene forblir forskjellige fra å utføre en ekstern operasjon.
Utgave og genereringsgrenser
Modellkortet viser genereringsbudsjetter som 64 og 1 000 tokener for bestemte eksempler. De er demonstrasjonsinnstillinger, ikke uavhengige maksimale svarkapasiteter. Hold prompten og ønsket svar innenfor den faktiske konfigurerte konteksten, og be om en lengde som passer oppgaven.
Denne oppføringen gjelder det tekstbaserte Instruct v0.1-kontrollpunktet med v3-instruksjonsformateringen. Syn, tale og kontroller for hybrid resonnering introdusert i senere Mistral-familier skal ikke tilskrives den. Bevar den konkrete utgaven og kildematerialet når du forbereder forklaringen, kodeforslaget eller det verktøystøttede svaret neste steg trenger.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser mistralai/mixtral-8x22b-instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser Eksempler: system, user, assistant, tool, function Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt. Avhenger av modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfritt | Verdier & grenser Gjelder når: role=tool; bruk faktisk returnert ID | Standard— |
Feltmessages[].name | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfritt | Verdier & grenser Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttemperature | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttop_p | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools[].type | Typestring | KravValgfritt | Verdier & grenser function Avhenger av modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrevd | Verdier & grenser Gjelder når: funksjonsverktøy oppgitt | Standard— |
Felttools[].function.description | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfritt | Verdier & grenser | Standard— |
Felttool_choice | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltservice_tier | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltinstructions | Typestring | KravValgfritt | Verdier & grenser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfritt | Verdier & grenser text | Standard— |
Feltprovider | Typeobject | KravValgfritt | Verdier & grenser Vilkår: provider.options avvises på denne Ultra-tekstruten | Standard— |
Feltcache_control.ttl | Typestring | KravValgfritt | Verdier & grenser Vilkår: 1h avvises på faktiske steder for mellomlagring av ledetekster | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages |
Parametermaterial_types | Avtaletext |
Parametermessages | Avtalemeldingstabell med role/content-struktur |
Parameterfile_material | Avtalefaktisk UTF-8-dokument satt inn som bokstavelig tekst; ingen fil-ID utledes |
Parameteroptional_controls | Avtalestream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalemodellspesifikt; brukerens funksjonsverktøy skiller seg fra driftede verktøy |
Parameteroutput_modalities | Avtaletext |
Parameterhosted_operations | Avtalefalse |
Parametermultimodal_input_binding | Avtalenull |
Livssyklus: synchronous_or_streamed
Send eksakt modell-ID sammen med messages.
Kontekstlengde er ikke en outputgrense.
En tekstfil kan levere bokstavelig tekst; bilde-, lyd- og filobjektinput trenger eksakt binding.
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.004 / 1K tokener Utdata · Utgående tokener $0.012 / 1K tokener Inndata · Lesing fra hurtigbuffer $0.0004 / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.004 / 1K tokener Utdata · Utgående tokener $0.012 / 1K tokener Inndata · Lesing fra hurtigbuffer $0.0004 / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "mistralai/mixtral-8x22b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='mistralai/mixtral-8x22b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='mistralai/mixtral-8x22b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra mistralai/mixtral-8x22b-instruct
Bruk metodestiene som vises ovenfor.
mistralai/mixtral-8x22b-instructMixtral 8x22B Instruct v0.1 er en flerspråklig tekstmodell for samtale, matematikk, kode og funksjonskall. Den sparsomme mixture-of-experts-arkitekturen bruker 39 milliarder aktive parametere av totalt 141 milliarder, med en kontekst på 64K ifølge produsenten og et eget v3-instruksjonsformat.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Mixtral 8x22B Instruct v0.1 er Mistral AIs instruksjonstilpassede versjon av den separat navngitte basismodellen Mixtral 8x22B v0.1. Den mottar en tekstsamtale og produserer tekst, blant annet forklaringer, kode og foreslåtte funksjonskall. Familieutgivelsen fremhever engelsk, fransk, italiensk, tysk og spansk sammen med matematiske funksjoner og programmeringsfunksjoner.
Sparsomme eksperter og kontekst
Produsenten beskriver en sparsom mixture-of-experts-modell med totalt 141 milliarder parametere og 39 milliarder aktive parametere. Den utgitte Instruct-konfigurasjonen inneholder 8 eksperter med 2 valgt per token, 56 lag, 48 oppmerksomhetshoder for spørringer og 8 nøkkel-/verdihoder. Det totale parameterantallet og de valgte ekspertene beskriver modellens struktur, ikke lengden på et svar.
Familieutgivelsen dokumenterer en kontekst på 64K, og den konkrete Instruct-konfigurasjonen setter maksimalt antall posisjoner til 65 536. Bruk denne plassen til å beholde kildeutdragene, samtalen og det ønskede svaret samlet. Et spørsmål om store dokumenter kan be om én betingelse på tvers av flere avsnitt og samtidig returnere en kortfattet tabell med hver kildeplassering. Inkluder materialet som bestemmer resultatet, fremfor å fylle vinduet med uvedkommende innhold.
Koding av instruksjonssamtalen
Modellkortet begynner med produsentens v3-instruksjonstokenizer og viser deretter hvordan meldinger formateres med den tilsvarende chatmalen. Det utgitte vokabularet har 32 768 oppføringer. Den opprinnelige tokenizeren og en kompatibel tokenizer bør produsere samsvarende meldingsrepresentasjoner; modellkortet diskuterer uttrykkelig sammenligning av kodingene deres. Dette skiller seg fra å anta at Tekken-formatet brukt av senere Mistral-modeller kan brukes om hverandre med denne utgivelsen.
For en samtale skiller du mellom brukerspørsmålet, det tidligere assistentsvaret og eventuelle verktøyresultater. Behold det relevante tidligere svaret når du stiller et oppfølgingsspørsmål. En oppgave kan først be om en forklaring av et kildeutdrag og deretter be om en mer spesifikk sammenligning, samtidig som kildeinnholdet og formålet med diskusjonen bevares.
For flerspråklig redigering identifiserer du kildespråket, målspråket og terminologien som skal forbli uendret. Be om en revidert passasje som bevarer navn, betingelser og enheter. For et matematisk problem definerer du variablene og antakelsene og angir om det endelige resultatet skal være et eksakt uttrykk, en numerisk tilnærming eller et bevis. For programmering inkluderer du funksjonssignaturen, relevante deklarasjoner og forventet atferd før du ber om en implementasjon eller forklaring.
Funksjonskall og resultatene deres
Modellkortet dokumenterer innebygde funksjonskall med verktøybeskrivelser og parameterskjemaer. Applikasjonen oppgir operasjonene, modellen forbereder argumentene til den valgte funksjonen, og applikasjonen utfører den. Det returnerte resultatet må deretter legges til samtalen slik at modellen kan bruke det i neste svar. Modellkortet advarer om at ett forkortet kodeeksempel ikke demonstrerer hele denne syklusen.
En oppslagsoppgave bør identifisere hvilken informasjon som mangler, og hvilken oppgitt funksjon som kan returnere den. Inkluder de nødvendige verdiene eller be om den manglende informasjonen før applikasjonen utfører operasjonen. Hold det foreslåtte kallet atskilt fra de faktiske returnerte dataene; den endelige forklaringen kan da vise til resultatet som ble innhentet, fremfor et resultat utledet fra verktøyets navn.
I produsentens opprinnelige samtaleformat bruker verktøykall og tilhørende resultater ID-er med nøyaktig ni alfanumeriske tegn. Tokenizeren inneholder også spesialmarkører for tilgjengelige verktøy, verktøykall og verktøyresultater. Bevar den samsvarende representasjonen når du forbereder samtalen i det opprinnelige formatet; den synlige representasjonen i et innpakningslag er et separat grensesnittvalg.
Praktiske kode- og dokumentartefakter
For en koderettelse gir du den berørte funksjonen, inndata som avdekker problemet, og det forventede resultatet. Be om det reviderte fragmentet, årsaken til avviket og eksempelinndata som skiller den tiltenkte atferden. Å generere kode er et tekstartefakt; å kompilere, kjøre eller bruke den i et kodearkiv krever det tilknyttede utviklingsmiljøet.
For en dokumentforklaring ber du om utsagnet som svarer på spørsmålet, og avsnittet som underbygger det. En sammenligning kan skille felles betingelser, forskjeller og uavklarte detaljer. For en tekstpost med begrenset format definerer du feltnavnene og behandlingen av manglende verdier. Den opprinnelige familiekunngjøringen beskriver funksjonskall sammen med formatbegrensede utdata i produsentens tilknyttede tjeneste; disse formateringsfunksjonene forblir forskjellige fra å utføre en ekstern operasjon.
Utgave og genereringsgrenser
Modellkortet viser genereringsbudsjetter som 64 og 1 000 tokener for bestemte eksempler. De er demonstrasjonsinnstillinger, ikke uavhengige maksimale svarkapasiteter. Hold prompten og ønsket svar innenfor den faktiske konfigurerte konteksten, og be om en lengde som passer oppgaven.
Denne oppføringen gjelder det tekstbaserte Instruct v0.1-kontrollpunktet med v3-instruksjonsformateringen. Syn, tale og kontroller for hybrid resonnering introdusert i senere Mistral-familier skal ikke tilskrives den. Bevar den konkrete utgaven og kildematerialet når du forbereder forklaringen, kodeforslaget eller det verktøystøttede svaret neste steg trenger.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser mistralai/mixtral-8x22b-instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrevd | Verdier & grenser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrevd | Verdier & grenser | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content-streng
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages, max_tokens |
Parameteroptional_controls | Avtalestream |
Parametermaterial_types | Avtaletext |
Parametertext_file_material | AvtaleLes det faktiske UTF-8-dokumentet og legg teksten i den angitte input- eller meldingsinnholdsstrengen. |
Livssyklus: synchronous_or_streamed
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.004 / 1K tokener Utdata · Utgående tokener $0.012 / 1K tokener Inndata · Lesing fra hurtigbuffer $0.0004 / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.004 / 1K tokener Utdata · Utgående tokener $0.012 / 1K tokener Inndata · Lesing fra hurtigbuffer $0.0004 / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
{\n "model": "mistralai/mixtral-8x22b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mixtral-8x22b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mixtral-8x22b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold alle innholdsblokker, resonneringssignaturer og faktiske ID-er for verktøybruk. Sett sammen alle SSE-blokkendringer; den første tekstblokken er ikke hele resultatet.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra mistralai/mixtral-8x22b-instruct
Bruk metodestiene som vises ovenfor.
Teknisk eksempel på engelsk
Repair integer average division\n\nFix this Python function for nonempty numeric lists: def average(values): return sum(values) // len(values). Input [1, 2] must produce 1.5. Return the corrected function and assertions for [1, 2] and [2, 4]. State the nonempty-input assumption rather than inventing an empty-list policy.A focused function correction, two assertions and the retained input assumption.The function must preserve a fractional average and leave the unspecified empty-list behavior undecided.