Mixtral 8x22B Instruct v0.1 er Mistral AI's instruktionsfinjusterede version af den særskilt navngivne basismodel Mixtral 8x22B v0.1. Den modtager en tekstsamtale og producerer tekst, herunder forklaringer, kode og foreslåede funktionskald. Familieudgivelsen fremhæver engelsk, fransk, italiensk, tysk og spansk sammen med matematiske funktioner og kodefunktioner.
Sparsomme eksperter og kontekst
Producenten beskriver en sparsom mixture-of-experts-model med i alt 141 milliarder parametre og 39 milliarder aktive parametre. Den udgivne Instruct-konfiguration indeholder 8 eksperter med 2 valgt pr. token, 56 lag, 48 query-attentionhoveder og 8 key/value-hoveder. Det samlede parameterantal og de valgte eksperter beskriver modellens struktur frem for længden på et svar.
Familieudgivelsen dokumenterer en kontekst på 64K, og den præcise Instruct-konfiguration sætter maksimale positioner til 65.536. Brug pladsen til at bevare kildepassager, samtale og ønsket svar sammen. Et spørgsmål til et stort dokument kan bede om én betingelse på tværs af flere afsnit og returnere en kort tabel med hver kildeplacering. Medtag det materiale, der bestemmer resultatet, frem for at fylde vinduet med uvedkommende indhold.
Kodning af instruktionssamtalen
Modelkortet begynder med producentens v3-instruktionstokenizer og viser derefter, hvordan beskeder formateres med den tilhørende chatskabelon. Det udgivne ordforråd har 32.768 poster. Den oprindelige tokenizer og en kompatibel tokenizer bør producere matchende beskedrepræsentationer; modelkortet diskuterer udtrykkeligt sammenligning af deres kodninger. Det er forskelligt fra at antage, at Tekken-formatet, som bruges af senere Mistral-modeller, kan bruges i flæng med denne udgivelse.
I en samtale skal du skelne mellem brugerspørgsmålet, det tidligere assistentsvar og eventuelle værktøjsresultater. Bevar det relevante tidligere svar ved et opfølgningsspørgsmål. En opgave kan først bede om en forklaring af en kildepassage og derefter om en mere konkret sammenligning, mens kildeindholdet og diskussionens formål bevares.
Til flersproget redigering skal du identificere kildesprog, målsprog og terminologi, der skal forblive uændret. Bed om en revideret passage, der bevarer navne, betingelser og enheder. Til et matematisk problem skal du definere variabler og antagelser og angive, om det endelige resultat skal være et eksakt udtryk, en numerisk tilnærmelse eller et bevis. Til kodning skal du medtage funktionssignaturen, relevante deklarationer og forventet adfærd, før du beder om en implementering eller forklaring.
Funktionskald og deres resultater
Modelkortet dokumenterer indbygget funktionskald med værktøjsbeskrivelser og parameterskemaer. Applikationen leverer operationerne, modellen forbereder den valgte funktions argumenter, og applikationen udfører den. Det returnerede resultat skal derefter føjes til samtalen, så modellen kan bruge det i næste svar. Modelkortet advarer om, at ét forkortet kodeeksempel ikke demonstrerer denne komplette cyklus.
En opslagsopgave bør identificere, hvilke oplysninger der mangler, og hvilken angivet funktion der kan returnere dem. Medtag de krævede værdier, eller bed om de manglende oplysninger, før applikationen udfører operationen. Hold det foreslåede kald adskilt fra de faktisk returnerede data; den endelige forklaring kan dermed henvise til det opnåede resultat frem for et resultat udledt af værktøjets navn.
I producentens oprindelige samtaleformat bruger værktøjskald og tilhørende resultater ID'er på præcis ni alfanumeriske tegn. Tokenizeren indeholder også specialmarkører til tilgængelige værktøjer, værktøjskald og værktøjsresultater. Bevar den matchende repræsentation ved forberedelse af samtalen i det oprindelige format; et omslagslags synlige repræsentation er et særskilt grænsefladevalg.
Praktiske kode- og dokumentartefakter
Til en koderettelse skal du give den berørte funktion, et input, der viser problemet, og det forventede resultat. Bed om det reviderede fragment, årsagen til afvigelsen og eksempelinput, der adskiller den tilsigtede adfærd. Genereret kode er en tekstartefakt; kompilering, kørsel eller anvendelse i en kodebase kræver det tilsluttede udviklingsmiljø.
Til en dokumentforklaring skal du bede om det udsagn, der besvarer spørgsmålet, og afsnittet, der understøtter det. En sammenligning kan adskille fælles betingelser, forskelle og uafklarede detaljer. Til en begrænset tekstpost skal du definere feltnavne og behandlingen af manglende værdier. Den oprindelige familieannoncering beskriver funktionskald sammen med begrænset output i producentens tilsluttede tjeneste; disse formateringsfunktioner er fortsat forskellige fra udførelse af en ekstern operation.
Udgave og genereringsgrænser
Modelkortet viser genereringsbudgetter såsom 64 og 1.000 tokens til bestemte eksempler. Det er demonstrationsindstillinger og ikke selvstændige maksimale svarkapaciteter. Hold prompten og det ønskede svar inden for den faktiske konfigurerede kontekst, og bed om den længde, der passer til opgaven.
Denne post er det tekstbaserede Instruct v0.1-checkpoint med dets v3-instruktionsformatering. Syn, tale og styring af hybridt ræsonnement introduceret i senere Mistral-familier bør ikke tillægges det. Bevar den præcise udgave og kildematerialet ved forberedelse af den forklaring, det kodeforslag eller det værktøjsassisterede svar, næste trin har brug for.
", "aboutText": "Mixtral 8x22B Instruct v0.1 er Mistral AI's instruktionsfinjusterede version af den særskilt navngivne basismodel Mixtral 8x22B v0.1. Den modtager en tekstsamtale og producerer tekst, herunder forklaringer, kode og foreslåede funktionskald. Familieudgivelsen fremhæver engelsk, fransk, italiensk, tysk og spansk sammen med matematiske funktioner og kodefunktioner.\n\nSparsomme eksperter og kontekst\n\nProducenten beskriver en sparsom mixture-of-experts-model med i alt 141 milliarder parametre og 39 milliarder aktive parametre. Den udgivne Instruct-konfiguration indeholder 8 eksperter med 2 valgt pr. token, 56 lag, 48 query-attentionhoveder og 8 key/value-hoveder. Det samlede parameterantal og de valgte eksperter beskriver modellens struktur frem for længden på et svar.\n\nFamilieudgivelsen dokumenterer en kontekst på 64K, og den præcise Instruct-konfiguration sætter maksimale positioner til 65.536. Brug pladsen til at bevare kildepassager, samtale og ønsket svar sammen. Et spørgsmål til et stort dokument kan bede om én betingelse på tværs af flere afsnit og returnere en kort tabel med hver kildeplacering. Medtag det materiale, der bestemmer resultatet, frem for at fylde vinduet med uvedkommende indhold.\n\nKodning af instruktionssamtalen\n\nModelkortet begynder med producentens v3-instruktionstokenizer og viser derefter, hvordan beskeder formateres med den tilhørende chatskabelon. Det udgivne ordforråd har 32.768 poster. Den oprindelige tokenizer og en kompatibel tokenizer bør producere matchende beskedrepræsentationer; modelkortet diskuterer udtrykkeligt sammenligning af deres kodninger. Det er forskelligt fra at antage, at Tekken-formatet, som bruges af senere Mistral-modeller, kan bruges i flæng med denne udgivelse.\n\nI en samtale skal du skelne mellem brugerspørgsmålet, det tidligere assistentsvar og eventuelle værktøjsresultater. Bevar det relevante tidligere svar ved et opfølgningsspørgsmål. En opgave kan først bede om en forklaring af en kildepassage og derefter om en mere konkret sammenligning, mens kildeindholdet og diskussionens formål bevares.\n\nTil flersproget redigering skal du identificere kildesprog, målsprog og terminologi, der skal forblive uændret. Bed om en revideret passage, der bevarer navne, betingelser og enheder. Til et matematisk problem skal du definere variabler og antagelser og angive, om det endelige resultat skal være et eksakt udtryk, en numerisk tilnærmelse eller et bevis. Til kodning skal du medtage funktionssignaturen, relevante deklarationer og forventet adfærd, før du beder om en implementering eller forklaring.\n\nFunktionskald og deres resultater\n\nModelkortet dokumenterer indbygget funktionskald med værktøjsbeskrivelser og parameterskemaer. Applikationen leverer operationerne, modellen forbereder den valgte funktions argumenter, og applikationen udfører den. Det returnerede resultat skal derefter føjes til samtalen, så modellen kan bruge det i næste svar. Modelkortet advarer om, at ét forkortet kodeeksempel ikke demonstrerer denne komplette cyklus.\n\nEn opslagsopgave bør identificere, hvilke oplysninger der mangler, og hvilken angivet funktion der kan returnere dem. Medtag de krævede værdier, eller bed om de manglende oplysninger, før applikationen udfører operationen. Hold det foreslåede kald adskilt fra de faktisk returnerede data; den endelige forklaring kan dermed henvise til det opnåede resultat frem for et resultat udledt af værktøjets navn.\n\nI producentens oprindelige samtaleformat bruger værktøjskald og tilhørende resultater ID'er på præcis ni alfanumeriske tegn. Tokenizeren indeholder også specialmarkører til tilgængelige værktøjer, værktøjskald og værktøjsresultater. Bevar den matchende repræsentation ved forberedelse af samtalen i det oprindelige format; et omslagslags synlige repræsentation er et særskilt grænsefladevalg.\n\nPraktiske kode- og dokumentartefakter\n\nTil en koderettelse skal du give den berørte funktion, et input, der viser problemet, og det forventede resultat. Bed om det reviderede fragment, årsagen til afvigelsen og eksempelinput, der adskiller den tilsigtede adfærd. Genereret kode er en tekstartefakt; kompilering, kørsel eller anvendelse i en kodebase kræver det tilsluttede udviklingsmiljø.\n\nTil en dokumentforklaring skal du bede om det udsagn, der besvarer spørgsmålet, og afsnittet, der understøtter det. En sammenligning kan adskille fælles betingelser, forskelle og uafklarede detaljer. Til en begrænset tekstpost skal du definere feltnavne og behandlingen af manglende værdier. Den oprindelige familieannoncering beskriver funktionskald sammen med begrænset output i producentens tilsluttede tjeneste; disse formateringsfunktioner er fortsat forskellige fra udførelse af en ekstern operation.\n\nUdgave og genereringsgrænser\n\nModelkortet viser genereringsbudgetter såsom 64 og 1.000 tokens til bestemte eksempler. Det er demonstrationsindstillinger og ikke selvstændige maksimale svarkapaciteter. Hold prompten og det ønskede svar inden for den faktiske konfigurerede kontekst, og bed om den længde, der passer til opgaven.\n\nDenne post er det tekstbaserede Instruct v0.1-checkpoint med dets v3-instruktionsformatering. Syn, tale og styring af hybridt ræsonnement introduceret i senere Mistral-familier bør ikke tillægges det. Bevar den præcise udgave og kildematerialet ved forberedelse af den forklaring, det kodeforslag eller det værktøjsassisterede svar, næste trin har brug for.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Repair integer average division\n\nFix this Python function for nonempty numeric lists: def average(values): return sum(values) // len(values). Input [1, 2] must produce 1.5. Return the corrected function and assertions for [1, 2] and [2, 4]. State the nonempty-input assumption rather than inventing an empty-list policy.A focused function correction, two assertions and the retained input assumption.The function must preserve a fractional average and leave the unspecified empty-list behavior undecided.mistralai/mixtral-8x22b-instructMixtral 8x22B Instruct v0.1 er en flersproget tekstmodel til samtale, matematik, kode og funktionskald. Dens sparsomme mixture-of-experts-arkitektur bruger 39 milliarder aktive parametre ud af i alt 141 milliarder med en producentangivet kontekst på 64K og et særskilt v3-instruktionsformat.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Mixtral 8x22B Instruct v0.1 er Mistral AI's instruktionsfinjusterede version af den særskilt navngivne basismodel Mixtral 8x22B v0.1. Den modtager en tekstsamtale og producerer tekst, herunder forklaringer, kode og foreslåede funktionskald. Familieudgivelsen fremhæver engelsk, fransk, italiensk, tysk og spansk sammen med matematiske funktioner og kodefunktioner.
Sparsomme eksperter og kontekst
Producenten beskriver en sparsom mixture-of-experts-model med i alt 141 milliarder parametre og 39 milliarder aktive parametre. Den udgivne Instruct-konfiguration indeholder 8 eksperter med 2 valgt pr. token, 56 lag, 48 query-attentionhoveder og 8 key/value-hoveder. Det samlede parameterantal og de valgte eksperter beskriver modellens struktur frem for længden på et svar.
Familieudgivelsen dokumenterer en kontekst på 64K, og den præcise Instruct-konfiguration sætter maksimale positioner til 65.536. Brug pladsen til at bevare kildepassager, samtale og ønsket svar sammen. Et spørgsmål til et stort dokument kan bede om én betingelse på tværs af flere afsnit og returnere en kort tabel med hver kildeplacering. Medtag det materiale, der bestemmer resultatet, frem for at fylde vinduet med uvedkommende indhold.
Kodning af instruktionssamtalen
Modelkortet begynder med producentens v3-instruktionstokenizer og viser derefter, hvordan beskeder formateres med den tilhørende chatskabelon. Det udgivne ordforråd har 32.768 poster. Den oprindelige tokenizer og en kompatibel tokenizer bør producere matchende beskedrepræsentationer; modelkortet diskuterer udtrykkeligt sammenligning af deres kodninger. Det er forskelligt fra at antage, at Tekken-formatet, som bruges af senere Mistral-modeller, kan bruges i flæng med denne udgivelse.
I en samtale skal du skelne mellem brugerspørgsmålet, det tidligere assistentsvar og eventuelle værktøjsresultater. Bevar det relevante tidligere svar ved et opfølgningsspørgsmål. En opgave kan først bede om en forklaring af en kildepassage og derefter om en mere konkret sammenligning, mens kildeindholdet og diskussionens formål bevares.
Til flersproget redigering skal du identificere kildesprog, målsprog og terminologi, der skal forblive uændret. Bed om en revideret passage, der bevarer navne, betingelser og enheder. Til et matematisk problem skal du definere variabler og antagelser og angive, om det endelige resultat skal være et eksakt udtryk, en numerisk tilnærmelse eller et bevis. Til kodning skal du medtage funktionssignaturen, relevante deklarationer og forventet adfærd, før du beder om en implementering eller forklaring.
Funktionskald og deres resultater
Modelkortet dokumenterer indbygget funktionskald med værktøjsbeskrivelser og parameterskemaer. Applikationen leverer operationerne, modellen forbereder den valgte funktions argumenter, og applikationen udfører den. Det returnerede resultat skal derefter føjes til samtalen, så modellen kan bruge det i næste svar. Modelkortet advarer om, at ét forkortet kodeeksempel ikke demonstrerer denne komplette cyklus.
En opslagsopgave bør identificere, hvilke oplysninger der mangler, og hvilken angivet funktion der kan returnere dem. Medtag de krævede værdier, eller bed om de manglende oplysninger, før applikationen udfører operationen. Hold det foreslåede kald adskilt fra de faktisk returnerede data; den endelige forklaring kan dermed henvise til det opnåede resultat frem for et resultat udledt af værktøjets navn.
I producentens oprindelige samtaleformat bruger værktøjskald og tilhørende resultater ID'er på præcis ni alfanumeriske tegn. Tokenizeren indeholder også specialmarkører til tilgængelige værktøjer, værktøjskald og værktøjsresultater. Bevar den matchende repræsentation ved forberedelse af samtalen i det oprindelige format; et omslagslags synlige repræsentation er et særskilt grænsefladevalg.
Praktiske kode- og dokumentartefakter
Til en koderettelse skal du give den berørte funktion, et input, der viser problemet, og det forventede resultat. Bed om det reviderede fragment, årsagen til afvigelsen og eksempelinput, der adskiller den tilsigtede adfærd. Genereret kode er en tekstartefakt; kompilering, kørsel eller anvendelse i en kodebase kræver det tilsluttede udviklingsmiljø.
Til en dokumentforklaring skal du bede om det udsagn, der besvarer spørgsmålet, og afsnittet, der understøtter det. En sammenligning kan adskille fælles betingelser, forskelle og uafklarede detaljer. Til en begrænset tekstpost skal du definere feltnavne og behandlingen af manglende værdier. Den oprindelige familieannoncering beskriver funktionskald sammen med begrænset output i producentens tilsluttede tjeneste; disse formateringsfunktioner er fortsat forskellige fra udførelse af en ekstern operation.
Udgave og genereringsgrænser
Modelkortet viser genereringsbudgetter såsom 64 og 1.000 tokens til bestemte eksempler. Det er demonstrationsindstillinger og ikke selvstændige maksimale svarkapaciteter. Hold prompten og det ønskede svar inden for den faktiske konfigurerede kontekst, og bed om den længde, der passer til opgaven.
Denne post er det tekstbaserede Instruct v0.1-checkpoint med dets v3-instruktionsformatering. Syn, tale og styring af hybridt ræsonnement introduceret i senere Mistral-familier bør ikke tillægges det. Bevar den præcise udgave og kildematerialet ved forberedelse af den forklaring, det kodeforslag eller det værktøjsassisterede svar, næste trin har brug for.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser mistralai/mixtral-8x22b-instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser Eksempler: system, user, assistant, tool, function Betingelser: Disse roller er eksplicit repræsenteret i kildekodens kompatibilitetstyper; modellens præcise rollesæt er fortsat modelspecifikt. Afhænger af modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfrit | Værdier og grænser Gælder når: role=tool; brug det faktisk returnerede ID | Standard— |
Feltmessages[].name | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfrit | Værdier og grænser Gælder når: Send det faktisk returnerede ræsonnement tilbage, når modellen bruger det | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttemperature | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttop_p | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools[].type | Typestring | KravValgfrit | Værdier og grænser function Afhænger af modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrævet | Værdier og grænser Gælder når: funktionsværktøj angivet | Standard— |
Felttools[].function.description | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfrit | Værdier og grænser | Standard— |
Felttool_choice | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltservice_tier | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltinstructions | Typestring | KravValgfrit | Værdier og grænser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfrit | Værdier og grænser text | Standard— |
Feltprovider | Typeobject | KravValgfrit | Værdier og grænser Betingelser: provider.options afvises på denne Ultra-tekstrute | Standard— |
Feltcache_control.ttl | Typestring | KravValgfrit | Værdier og grænser Betingelser: 1h afvises på de faktiske placeringer for promptcaching | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages |
Parametermaterial_types | Kontrakttext |
Parametermessages | Kontraktbeskedarray med strukturen role/content |
Parameterfile_material | Kontraktfaktisk UTF-8-dokument indsat som bogstavelig tekst; intet fil-ID udledes |
Parameteroptional_controls | Kontraktstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontraktmodelspecifikt; brugerens funktionsværktøjer er forskellige fra hostede værktøjer |
Parameteroutput_modalities | Kontrakttext |
Parameterhosted_operations | Kontraktfalse |
Parametermultimodal_input_binding | Kontraktnull |
Livscyklus: synchronous_or_streamed
Send det præcise model-ID med messages.
Kontekstlængde er ikke et outputloft.
En tekstfil kan levere bogstavelig tekst; billed-, lyd- og filobjektinput kræver en præcis binding.
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
Knyt hver omkostning til de viste betingelser. Brug én takst for hver gruppe af alternative konfigurationer.
| Konfiguration | Takstplan | Konteksttokens, mere end | Konteksttokens, op til og med | Beløb |
|---|---|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Konteksttokens, mere end— | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.004 / 1K tokens Output · Outputtokens $0.012 / 1K tokens Input · Cachelæsning $0.0004 / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
| KonfigurationAnmodningslængde · niveau 1 | Takstplan— | Konteksttokens, mere end0 | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.004 / 1K tokens Output · Outputtokens $0.012 / 1K tokens Input · Cachelæsning $0.0004 / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "mistralai/mixtral-8x22b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='mistralai/mixtral-8x22b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='mistralai/mixtral-8x22b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar hvert valg og dets indhold, værktøjskald og ræsonnement. Saml i SSE deltaer efter valg-/værktøjsindeks, og bevar den endelige afslutningsårsag og forbrugsoplysningerne.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra mistralai/mixtral-8x22b-instruct
Brug metodestierne vist ovenfor.
mistralai/mixtral-8x22b-instructMixtral 8x22B Instruct v0.1 er en flersproget tekstmodel til samtale, matematik, kode og funktionskald. Dens sparsomme mixture-of-experts-arkitektur bruger 39 milliarder aktive parametre ud af i alt 141 milliarder med en producentangivet kontekst på 64K og et særskilt v3-instruktionsformat.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Mixtral 8x22B Instruct v0.1 er Mistral AI's instruktionsfinjusterede version af den særskilt navngivne basismodel Mixtral 8x22B v0.1. Den modtager en tekstsamtale og producerer tekst, herunder forklaringer, kode og foreslåede funktionskald. Familieudgivelsen fremhæver engelsk, fransk, italiensk, tysk og spansk sammen med matematiske funktioner og kodefunktioner.
Sparsomme eksperter og kontekst
Producenten beskriver en sparsom mixture-of-experts-model med i alt 141 milliarder parametre og 39 milliarder aktive parametre. Den udgivne Instruct-konfiguration indeholder 8 eksperter med 2 valgt pr. token, 56 lag, 48 query-attentionhoveder og 8 key/value-hoveder. Det samlede parameterantal og de valgte eksperter beskriver modellens struktur frem for længden på et svar.
Familieudgivelsen dokumenterer en kontekst på 64K, og den præcise Instruct-konfiguration sætter maksimale positioner til 65.536. Brug pladsen til at bevare kildepassager, samtale og ønsket svar sammen. Et spørgsmål til et stort dokument kan bede om én betingelse på tværs af flere afsnit og returnere en kort tabel med hver kildeplacering. Medtag det materiale, der bestemmer resultatet, frem for at fylde vinduet med uvedkommende indhold.
Kodning af instruktionssamtalen
Modelkortet begynder med producentens v3-instruktionstokenizer og viser derefter, hvordan beskeder formateres med den tilhørende chatskabelon. Det udgivne ordforråd har 32.768 poster. Den oprindelige tokenizer og en kompatibel tokenizer bør producere matchende beskedrepræsentationer; modelkortet diskuterer udtrykkeligt sammenligning af deres kodninger. Det er forskelligt fra at antage, at Tekken-formatet, som bruges af senere Mistral-modeller, kan bruges i flæng med denne udgivelse.
I en samtale skal du skelne mellem brugerspørgsmålet, det tidligere assistentsvar og eventuelle værktøjsresultater. Bevar det relevante tidligere svar ved et opfølgningsspørgsmål. En opgave kan først bede om en forklaring af en kildepassage og derefter om en mere konkret sammenligning, mens kildeindholdet og diskussionens formål bevares.
Til flersproget redigering skal du identificere kildesprog, målsprog og terminologi, der skal forblive uændret. Bed om en revideret passage, der bevarer navne, betingelser og enheder. Til et matematisk problem skal du definere variabler og antagelser og angive, om det endelige resultat skal være et eksakt udtryk, en numerisk tilnærmelse eller et bevis. Til kodning skal du medtage funktionssignaturen, relevante deklarationer og forventet adfærd, før du beder om en implementering eller forklaring.
Funktionskald og deres resultater
Modelkortet dokumenterer indbygget funktionskald med værktøjsbeskrivelser og parameterskemaer. Applikationen leverer operationerne, modellen forbereder den valgte funktions argumenter, og applikationen udfører den. Det returnerede resultat skal derefter føjes til samtalen, så modellen kan bruge det i næste svar. Modelkortet advarer om, at ét forkortet kodeeksempel ikke demonstrerer denne komplette cyklus.
En opslagsopgave bør identificere, hvilke oplysninger der mangler, og hvilken angivet funktion der kan returnere dem. Medtag de krævede værdier, eller bed om de manglende oplysninger, før applikationen udfører operationen. Hold det foreslåede kald adskilt fra de faktisk returnerede data; den endelige forklaring kan dermed henvise til det opnåede resultat frem for et resultat udledt af værktøjets navn.
I producentens oprindelige samtaleformat bruger værktøjskald og tilhørende resultater ID'er på præcis ni alfanumeriske tegn. Tokenizeren indeholder også specialmarkører til tilgængelige værktøjer, værktøjskald og værktøjsresultater. Bevar den matchende repræsentation ved forberedelse af samtalen i det oprindelige format; et omslagslags synlige repræsentation er et særskilt grænsefladevalg.
Praktiske kode- og dokumentartefakter
Til en koderettelse skal du give den berørte funktion, et input, der viser problemet, og det forventede resultat. Bed om det reviderede fragment, årsagen til afvigelsen og eksempelinput, der adskiller den tilsigtede adfærd. Genereret kode er en tekstartefakt; kompilering, kørsel eller anvendelse i en kodebase kræver det tilsluttede udviklingsmiljø.
Til en dokumentforklaring skal du bede om det udsagn, der besvarer spørgsmålet, og afsnittet, der understøtter det. En sammenligning kan adskille fælles betingelser, forskelle og uafklarede detaljer. Til en begrænset tekstpost skal du definere feltnavne og behandlingen af manglende værdier. Den oprindelige familieannoncering beskriver funktionskald sammen med begrænset output i producentens tilsluttede tjeneste; disse formateringsfunktioner er fortsat forskellige fra udførelse af en ekstern operation.
Udgave og genereringsgrænser
Modelkortet viser genereringsbudgetter såsom 64 og 1.000 tokens til bestemte eksempler. Det er demonstrationsindstillinger og ikke selvstændige maksimale svarkapaciteter. Hold prompten og det ønskede svar inden for den faktiske konfigurerede kontekst, og bed om den længde, der passer til opgaven.
Denne post er det tekstbaserede Instruct v0.1-checkpoint med dets v3-instruktionsformatering. Syn, tale og styring af hybridt ræsonnement introduceret i senere Mistral-familier bør ikke tillægges det. Bevar den præcise udgave og kildematerialet ved forberedelse af den forklaring, det kodeforslag eller det værktøjsassisterede svar, næste trin har brug for.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser mistralai/mixtral-8x22b-instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrævet | Værdier og grænser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrævet | Værdier og grænser | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content som streng
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages, max_tokens |
Parameteroptional_controls | Kontraktstream |
Parametermaterial_types | Kontrakttext |
Parametertext_file_material | KontraktLæs det faktiske UTF-8-dokument, og indsæt teksten i det angivne input eller beskedens indholdsstreng. |
Livscyklus: synchronous_or_streamed
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
Knyt hver omkostning til de viste betingelser. Brug én takst for hver gruppe af alternative konfigurationer.
| Konfiguration | Takstplan | Konteksttokens, mere end | Konteksttokens, op til og med | Beløb |
|---|---|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Konteksttokens, mere end— | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.004 / 1K tokens Output · Outputtokens $0.012 / 1K tokens Input · Cachelæsning $0.0004 / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
| KonfigurationAnmodningslængde · niveau 1 | Takstplan— | Konteksttokens, mere end0 | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.004 / 1K tokens Output · Outputtokens $0.012 / 1K tokens Input · Cachelæsning $0.0004 / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
{\n "model": "mistralai/mixtral-8x22b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mixtral-8x22b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mixtral-8x22b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar alle indholdsblokke, ræsonnementssignaturer og faktiske værktøjsbrugs-ID’er. Saml alle SSE-blokdeltaer; den første tekstblok er ikke hele outputtet.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra mistralai/mixtral-8x22b-instruct
Brug metodestierne vist ovenfor.
Teknisk eksempel på engelsk
Repair integer average division\n\nFix this Python function for nonempty numeric lists: def average(values): return sum(values) // len(values). Input [1, 2] must produce 1.5. Return the corrected function and assertions for [1, 2] and [2, 4]. State the nonempty-input assumption rather than inventing an empty-list policy.A focused function correction, two assertions and the retained input assumption.The function must preserve a fractional average and leave the unspecified empty-list behavior undecided.