Mixtral 8x22B Instruct v0.1 är Mistral AI:s instruktionsanpassade version av den separat namngivna basmodellen Mixtral 8x22B v0.1. Den tar emot ett textsamtal och producerar text, inklusive förklaringar, kod och föreslagna funktionsanrop. Familjens utgåva framhåller engelska, franska, italienska, tyska och spanska tillsammans med matematiska funktioner och kodningsfunktioner.
Glesa experter och kontext
Tillverkaren beskriver en gles mixture-of-experts-modell med totalt 141 miljarder parametrar och 39 miljarder aktiva parametrar. Den publicerade Instruct-konfigurationen innehåller 8 experter med 2 valda per token, 56 lager, 48 uppmärksamhetshuvuden för frågor och 8 nyckel-/värdehuvuden. Det totala parameterantalet och de valda experterna beskriver modellens struktur snarare än längden på ett svar.
Familjens utgåva dokumenterar en kontext på 64K token, och den specifika Instruct-konfigurationen anger maximalt 65 536 positioner. Använd utrymmet för att behålla källavsnitt, samtal och det begärda svaret tillsammans. En fråga om ett stort dokument kan efterfråga ett villkor över flera avsnitt och samtidigt returnera en kortfattad tabell med varje källhänvisning. Inkludera materialet som bestämmer resultatet i stället för att fylla fönstret med orelaterat innehåll.
Kodning av instruktionssamtalet
Modellkortet börjar med tillverkarens instruktionstokenizer v3 och visar sedan hur meddelanden formateras med den matchande chattmallen. Dess publicerade vokabulär har 32 768 poster. Den inbyggda tokenizern och en kompatibel tokenizer bör ge matchande meddelanderepresentationer; modellkortet diskuterar uttryckligen jämförelse av deras kodningar. Detta skiljer sig från att anta att Tekken-formatet som används av senare Mistral-modeller är utbytbart med den här utgåvan.
I ett samtal skiljer du användarfrågan, det tidigare assistentsvaret och eventuella verktygsresultat åt. Behåll det relevanta tidigare svaret när du ställer en följdfråga. En uppgift kan först begära en förklaring av ett källavsnitt och sedan en mer specifik jämförelse, med bevarande av källinnehållet och diskussionens syfte.
För flerspråkig redigering anger du källspråk, målspråk och terminologi som ska lämnas oförändrad. Begär ett reviderat avsnitt som bevarar namn, villkor och enheter. För ett matematiskt problem definierar du variabler och antaganden och anger om slutresultatet ska vara ett exakt uttryck, en numerisk approximation eller ett bevis. För kodning inkluderar du funktionssignaturen, relevanta deklarationer och förväntat beteende innan du begär en implementation eller förklaring.
Funktionsanrop och deras resultat
Modellkortet dokumenterar inbyggda funktionsanrop med verktygsbeskrivningar och parameterscheman. Applikationen tillhandahåller operationerna, modellen förbereder den valda funktionens argument och applikationen kör den. Det returnerade resultatet måste sedan läggas till i samtalet så att modellen kan använda det i nästa svar. Modellkortet varnar för att ett förkortat kodexempel inte visar hela cykeln.
En uppslagningsuppgift bör identifiera vilken information som saknas och vilken tillhandahållen funktion som kan returnera den. Inkludera nödvändiga värden eller begär den saknade informationen innan applikationen kör operationen. Håll det föreslagna anropet skilt från de data som faktiskt returneras; den slutliga förklaringen kan då hänvisa till resultatet som erhölls snarare än ett resultat som härletts ur verktygets namn.
I tillverkarens inbyggda samtalsformat använder verktygsanrop och motsvarande resultat ID:n med exakt nio alfanumeriska tecken. Tokenizern innehåller också särskilda markörer för tillgängliga verktyg, verktygsanrop och verktygsresultat. Bevara den matchande representationen när du förbereder samtalet i det inbyggda formatet; representationen som visas av ett omslutande gränssnitt är ett separat gränssnittsval.
Praktiska kod- och dokumentleveranser
För en kodkorrigering tillhandahåller du den berörda funktionen, indata som visar problemet och det förväntade resultatet. Begär det reviderade fragmentet, orsaken till avvikelsen och exempelindata som skiljer det avsedda beteendet från andra beteenden. Att generera kod är en textleverans; att kompilera, köra eller tillämpa den på ett kodarkiv kräver den anslutna utvecklingsmiljön.
För en dokumentförklaring begär du utsagan som besvarar frågan och avsnittet som stöder den. En jämförelse kan skilja gemensamma villkor, skillnader och olösta detaljer åt. För en textpost med begränsat format definierar du fältnamn och hantering av saknade värden. Det ursprungliga familjetillkännagivandet beskriver funktionsanrop tillsammans med formatbegränsade utdata i tillverkarens anslutna tjänst; dessa formateringsfunktioner förblir skilda från att utföra en extern operation.
Utgåva och genereringsgränser
Modellkortet visar genereringsbudgetar som 64 och 1 000 token för specifika exempel. De är demonstrationsinställningar, inte oberoende maximala svarskapaciteter. Håll prompten och det önskade svaret inom den faktiska konfigurerade kontexten och begär en längd som passar uppgiften.
Den här posten avser den textbaserade modellversionen Instruct v0.1 med instruktionsformatet v3. Bildförståelse, tal och hybridkontroller för resonemang som införts i senare Mistral-familjer ska inte tillskrivas den. Bevara den exakta utgåvan och källmaterialet när du förbereder förklaringen, kodförslaget eller det verktygsstödda svar som nästa steg behöver.
", "aboutText": "Mixtral 8x22B Instruct v0.1 är Mistral AI:s instruktionsanpassade version av den separat namngivna basmodellen Mixtral 8x22B v0.1. Den tar emot ett textsamtal och producerar text, inklusive förklaringar, kod och föreslagna funktionsanrop. Familjens utgåva framhåller engelska, franska, italienska, tyska och spanska tillsammans med matematiska funktioner och kodningsfunktioner.\n\nGlesa experter och kontext\n\nTillverkaren beskriver en gles mixture-of-experts-modell med totalt 141 miljarder parametrar och 39 miljarder aktiva parametrar. Den publicerade Instruct-konfigurationen innehåller 8 experter med 2 valda per token, 56 lager, 48 uppmärksamhetshuvuden för frågor och 8 nyckel-/värdehuvuden. Det totala parameterantalet och de valda experterna beskriver modellens struktur snarare än längden på ett svar.\n\nFamiljens utgåva dokumenterar en kontext på 64K token, och den specifika Instruct-konfigurationen anger maximalt 65 536 positioner. Använd utrymmet för att behålla källavsnitt, samtal och det begärda svaret tillsammans. En fråga om ett stort dokument kan efterfråga ett villkor över flera avsnitt och samtidigt returnera en kortfattad tabell med varje källhänvisning. Inkludera materialet som bestämmer resultatet i stället för att fylla fönstret med orelaterat innehåll.\n\nKodning av instruktionssamtalet\n\nModellkortet börjar med tillverkarens instruktionstokenizer v3 och visar sedan hur meddelanden formateras med den matchande chattmallen. Dess publicerade vokabulär har 32 768 poster. Den inbyggda tokenizern och en kompatibel tokenizer bör ge matchande meddelanderepresentationer; modellkortet diskuterar uttryckligen jämförelse av deras kodningar. Detta skiljer sig från att anta att Tekken-formatet som används av senare Mistral-modeller är utbytbart med den här utgåvan.\n\nI ett samtal skiljer du användarfrågan, det tidigare assistentsvaret och eventuella verktygsresultat åt. Behåll det relevanta tidigare svaret när du ställer en följdfråga. En uppgift kan först begära en förklaring av ett källavsnitt och sedan en mer specifik jämförelse, med bevarande av källinnehållet och diskussionens syfte.\n\nFör flerspråkig redigering anger du källspråk, målspråk och terminologi som ska lämnas oförändrad. Begär ett reviderat avsnitt som bevarar namn, villkor och enheter. För ett matematiskt problem definierar du variabler och antaganden och anger om slutresultatet ska vara ett exakt uttryck, en numerisk approximation eller ett bevis. För kodning inkluderar du funktionssignaturen, relevanta deklarationer och förväntat beteende innan du begär en implementation eller förklaring.\n\nFunktionsanrop och deras resultat\n\nModellkortet dokumenterar inbyggda funktionsanrop med verktygsbeskrivningar och parameterscheman. Applikationen tillhandahåller operationerna, modellen förbereder den valda funktionens argument och applikationen kör den. Det returnerade resultatet måste sedan läggas till i samtalet så att modellen kan använda det i nästa svar. Modellkortet varnar för att ett förkortat kodexempel inte visar hela cykeln.\n\nEn uppslagningsuppgift bör identifiera vilken information som saknas och vilken tillhandahållen funktion som kan returnera den. Inkludera nödvändiga värden eller begär den saknade informationen innan applikationen kör operationen. Håll det föreslagna anropet skilt från de data som faktiskt returneras; den slutliga förklaringen kan då hänvisa till resultatet som erhölls snarare än ett resultat som härletts ur verktygets namn.\n\nI tillverkarens inbyggda samtalsformat använder verktygsanrop och motsvarande resultat ID:n med exakt nio alfanumeriska tecken. Tokenizern innehåller också särskilda markörer för tillgängliga verktyg, verktygsanrop och verktygsresultat. Bevara den matchande representationen när du förbereder samtalet i det inbyggda formatet; representationen som visas av ett omslutande gränssnitt är ett separat gränssnittsval.\n\nPraktiska kod- och dokumentleveranser\n\nFör en kodkorrigering tillhandahåller du den berörda funktionen, indata som visar problemet och det förväntade resultatet. Begär det reviderade fragmentet, orsaken till avvikelsen och exempelindata som skiljer det avsedda beteendet från andra beteenden. Att generera kod är en textleverans; att kompilera, köra eller tillämpa den på ett kodarkiv kräver den anslutna utvecklingsmiljön.\n\nFör en dokumentförklaring begär du utsagan som besvarar frågan och avsnittet som stöder den. En jämförelse kan skilja gemensamma villkor, skillnader och olösta detaljer åt. För en textpost med begränsat format definierar du fältnamn och hantering av saknade värden. Det ursprungliga familjetillkännagivandet beskriver funktionsanrop tillsammans med formatbegränsade utdata i tillverkarens anslutna tjänst; dessa formateringsfunktioner förblir skilda från att utföra en extern operation.\n\nUtgåva och genereringsgränser\n\nModellkortet visar genereringsbudgetar som 64 och 1 000 token för specifika exempel. De är demonstrationsinställningar, inte oberoende maximala svarskapaciteter. Håll prompten och det önskade svaret inom den faktiska konfigurerade kontexten och begär en längd som passar uppgiften.\n\nDen här posten avser den textbaserade modellversionen Instruct v0.1 med instruktionsformatet v3. Bildförståelse, tal och hybridkontroller för resonemang som införts i senare Mistral-familjer ska inte tillskrivas den. Bevara den exakta utgåvan och källmaterialet när du förbereder förklaringen, kodförslaget eller det verktygsstödda svar som nästa steg behöver.", "editorialOverlay": { "copy_fields": { "practical_html": "Tekniskt exempel på engelska
Repair integer average division\n\nFix this Python function for nonempty numeric lists: def average(values): return sum(values) // len(values). Input [1, 2] must produce 1.5. Return the corrected function and assertions for [1, 2] and [2, 4]. State the nonempty-input assumption rather than inventing an empty-list policy.A focused function correction, two assertions and the retained input assumption.The function must preserve a fractional average and leave the unspecified empty-list behavior undecided.mistralai/mixtral-8x22b-instructMixtral 8x22B Instruct v0.1 är en flerspråkig textmodell för samtal, matematik, kod och funktionsanrop. Dess glesa mixture-of-experts-arkitektur använder 39 miljarder aktiva parametrar av totalt 141 miljarder, med en kontext på 64K token enligt tillverkaren och ett separat instruktionsformat v3.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Mixtral 8x22B Instruct v0.1 är Mistral AI:s instruktionsanpassade version av den separat namngivna basmodellen Mixtral 8x22B v0.1. Den tar emot ett textsamtal och producerar text, inklusive förklaringar, kod och föreslagna funktionsanrop. Familjens utgåva framhåller engelska, franska, italienska, tyska och spanska tillsammans med matematiska funktioner och kodningsfunktioner.
Glesa experter och kontext
Tillverkaren beskriver en gles mixture-of-experts-modell med totalt 141 miljarder parametrar och 39 miljarder aktiva parametrar. Den publicerade Instruct-konfigurationen innehåller 8 experter med 2 valda per token, 56 lager, 48 uppmärksamhetshuvuden för frågor och 8 nyckel-/värdehuvuden. Det totala parameterantalet och de valda experterna beskriver modellens struktur snarare än längden på ett svar.
Familjens utgåva dokumenterar en kontext på 64K token, och den specifika Instruct-konfigurationen anger maximalt 65 536 positioner. Använd utrymmet för att behålla källavsnitt, samtal och det begärda svaret tillsammans. En fråga om ett stort dokument kan efterfråga ett villkor över flera avsnitt och samtidigt returnera en kortfattad tabell med varje källhänvisning. Inkludera materialet som bestämmer resultatet i stället för att fylla fönstret med orelaterat innehåll.
Kodning av instruktionssamtalet
Modellkortet börjar med tillverkarens instruktionstokenizer v3 och visar sedan hur meddelanden formateras med den matchande chattmallen. Dess publicerade vokabulär har 32 768 poster. Den inbyggda tokenizern och en kompatibel tokenizer bör ge matchande meddelanderepresentationer; modellkortet diskuterar uttryckligen jämförelse av deras kodningar. Detta skiljer sig från att anta att Tekken-formatet som används av senare Mistral-modeller är utbytbart med den här utgåvan.
I ett samtal skiljer du användarfrågan, det tidigare assistentsvaret och eventuella verktygsresultat åt. Behåll det relevanta tidigare svaret när du ställer en följdfråga. En uppgift kan först begära en förklaring av ett källavsnitt och sedan en mer specifik jämförelse, med bevarande av källinnehållet och diskussionens syfte.
För flerspråkig redigering anger du källspråk, målspråk och terminologi som ska lämnas oförändrad. Begär ett reviderat avsnitt som bevarar namn, villkor och enheter. För ett matematiskt problem definierar du variabler och antaganden och anger om slutresultatet ska vara ett exakt uttryck, en numerisk approximation eller ett bevis. För kodning inkluderar du funktionssignaturen, relevanta deklarationer och förväntat beteende innan du begär en implementation eller förklaring.
Funktionsanrop och deras resultat
Modellkortet dokumenterar inbyggda funktionsanrop med verktygsbeskrivningar och parameterscheman. Applikationen tillhandahåller operationerna, modellen förbereder den valda funktionens argument och applikationen kör den. Det returnerade resultatet måste sedan läggas till i samtalet så att modellen kan använda det i nästa svar. Modellkortet varnar för att ett förkortat kodexempel inte visar hela cykeln.
En uppslagningsuppgift bör identifiera vilken information som saknas och vilken tillhandahållen funktion som kan returnera den. Inkludera nödvändiga värden eller begär den saknade informationen innan applikationen kör operationen. Håll det föreslagna anropet skilt från de data som faktiskt returneras; den slutliga förklaringen kan då hänvisa till resultatet som erhölls snarare än ett resultat som härletts ur verktygets namn.
I tillverkarens inbyggda samtalsformat använder verktygsanrop och motsvarande resultat ID:n med exakt nio alfanumeriska tecken. Tokenizern innehåller också särskilda markörer för tillgängliga verktyg, verktygsanrop och verktygsresultat. Bevara den matchande representationen när du förbereder samtalet i det inbyggda formatet; representationen som visas av ett omslutande gränssnitt är ett separat gränssnittsval.
Praktiska kod- och dokumentleveranser
För en kodkorrigering tillhandahåller du den berörda funktionen, indata som visar problemet och det förväntade resultatet. Begär det reviderade fragmentet, orsaken till avvikelsen och exempelindata som skiljer det avsedda beteendet från andra beteenden. Att generera kod är en textleverans; att kompilera, köra eller tillämpa den på ett kodarkiv kräver den anslutna utvecklingsmiljön.
För en dokumentförklaring begär du utsagan som besvarar frågan och avsnittet som stöder den. En jämförelse kan skilja gemensamma villkor, skillnader och olösta detaljer åt. För en textpost med begränsat format definierar du fältnamn och hantering av saknade värden. Det ursprungliga familjetillkännagivandet beskriver funktionsanrop tillsammans med formatbegränsade utdata i tillverkarens anslutna tjänst; dessa formateringsfunktioner förblir skilda från att utföra en extern operation.
Utgåva och genereringsgränser
Modellkortet visar genereringsbudgetar som 64 och 1 000 token för specifika exempel. De är demonstrationsinställningar, inte oberoende maximala svarskapaciteter. Håll prompten och det önskade svaret inom den faktiska konfigurerade kontexten och begär en längd som passar uppgiften.
Den här posten avser den textbaserade modellversionen Instruct v0.1 med instruktionsformatet v3. Bildförståelse, tal och hybridkontroller för resonemang som införts i senare Mistral-familjer ska inte tillskrivas den. Bevara den exakta utgåvan och källmaterialet när du förbereder förklaringen, kodförslaget eller det verktygsstödda svar som nästa steg behöver.
POST /v1/chat/completionstexttext| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser mistralai/mixtral-8x22b-instruct | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser Exempel: system, user, assistant, tool, function Villkor: Dessa roller representeras uttryckligen av källkodens kompatibilitetstyper; den exakta rolluppsättningen är fortfarande modellspecifik. Beror på modellen | Standard— |
Fältmessages[].content | Typstring|content_part[]|null | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_calls | Typtool_call[] | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_call_id | Typstring | KravValfritt | Värden & gränser Gäller när: role=tool; använd det faktiska returnerade ID:t | Standard— |
Fältmessages[].name | Typstring | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].reasoning_content | Typstring | KravValfritt | Värden & gränser Gäller när: Skicka tillbaka det faktiska returnerade resonemanget när modellen använder det | Standard— |
Fältmessages[].reasoning_details | Typobject|array | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmax_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältmax_completion_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Fältstream_options.include_usage | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttemperature | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttop_p | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältstop | Typstring|string[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools | Typfunction_tool[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools[].type | Typstring | KravValfritt | Värden & gränser function Beror på modellen | Standard— |
Fälttools[].function.name | Typstring | KravObligatoriskt | Värden & gränser Gäller när: verktyg av typen funktion har tillhandahållits | Standard— |
Fälttools[].function.description | Typstring | KravValfritt | Värden & gränser | Standard— |
Fälttools[].function.parameters | TypJSON_schema | KravValfritt | Värden & gränser | Standard— |
Fälttool_choice | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältparallel_tool_calls | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältresponse_format | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning_effort | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältservice_tier | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältinstructions | Typstring | KravValfritt | Värden & gränser Kompatibilitetsfält | Standard— |
Fältfunctions | Typfunction[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältfunction_call | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältprompt_cache_options | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmodalities | Typstring[] | KravValfritt | Värden & gränser text | Standard— |
Fältprovider | Typobject | KravValfritt | Värden & gränser Villkor: provider.options avvisas på denna Ultra-textrutt | Standard— |
Fältcache_control.ttl | Typstring | KravValfritt | Värden & gränser Villkor: 1h avvisas på de faktiska platserna för promptcache | Standard— |
Text · UTF8-text
messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages |
Parametermaterial_types | Avtaltext |
Parametermessages | Avtalmeddelandearray med strukturen role/content |
Parameterfile_material | Avtaldet faktiska UTF-8-dokumentet infogat som bokstavlig text; inget fil-ID härleds |
Parameteroptional_controls | Avtalstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalmodellspecifikt; användarens funktionsverktyg skiljer sig från värdbaserade verktyg |
Parameteroutput_modalities | Avtaltext |
Parameterhosted_operations | Avtalfalse |
Parametermultimodal_input_binding | Avtalnull |
Livscykel: synchronous_or_streamed
Skicka det exakta modell-ID:t tillsammans med messages.
Kontextlängden är inte en utdatagräns.
En textfil kan tillhandahålla bokstavlig text; bild-/ljud-/filobjektsindata kräver exakt bindning.
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.004 / 1K token Utdata · Utdatatoken $0.012 / 1K token Indata · Cacheläsning $0.0004 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.004 / 1K token Utdata · Utdatatoken $0.012 / 1K token Indata · Cacheläsning $0.0004 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "mistralai/mixtral-8x22b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='mistralai/mixtral-8x22b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='mistralai/mixtral-8x22b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll varje svarsalternativ och dess innehåll/verktygsanrop/resonemang. Sätt i SSE samman deltauppdateringar efter svarsalternativets/verktygets index och behåll den slutliga avslutsorsaken och användningsuppgifterna.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältchoices[].index | Typinteger |
Fältchoices[].message.content | Typstring|null |
Fältchoices[].message.tool_calls | Typtool_call[] |
Fältchoices[].message.reasoning_content | Typstring |
Fältchoices[].message.reasoning_details | Typobject|array |
Fältchoices[].finish_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra mistralai/mixtral-8x22b-instruct
Använd metodsökvägarna som visas ovan.
mistralai/mixtral-8x22b-instructMixtral 8x22B Instruct v0.1 är en flerspråkig textmodell för samtal, matematik, kod och funktionsanrop. Dess glesa mixture-of-experts-arkitektur använder 39 miljarder aktiva parametrar av totalt 141 miljarder, med en kontext på 64K token enligt tillverkaren och ett separat instruktionsformat v3.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Mixtral 8x22B Instruct v0.1 är Mistral AI:s instruktionsanpassade version av den separat namngivna basmodellen Mixtral 8x22B v0.1. Den tar emot ett textsamtal och producerar text, inklusive förklaringar, kod och föreslagna funktionsanrop. Familjens utgåva framhåller engelska, franska, italienska, tyska och spanska tillsammans med matematiska funktioner och kodningsfunktioner.
Glesa experter och kontext
Tillverkaren beskriver en gles mixture-of-experts-modell med totalt 141 miljarder parametrar och 39 miljarder aktiva parametrar. Den publicerade Instruct-konfigurationen innehåller 8 experter med 2 valda per token, 56 lager, 48 uppmärksamhetshuvuden för frågor och 8 nyckel-/värdehuvuden. Det totala parameterantalet och de valda experterna beskriver modellens struktur snarare än längden på ett svar.
Familjens utgåva dokumenterar en kontext på 64K token, och den specifika Instruct-konfigurationen anger maximalt 65 536 positioner. Använd utrymmet för att behålla källavsnitt, samtal och det begärda svaret tillsammans. En fråga om ett stort dokument kan efterfråga ett villkor över flera avsnitt och samtidigt returnera en kortfattad tabell med varje källhänvisning. Inkludera materialet som bestämmer resultatet i stället för att fylla fönstret med orelaterat innehåll.
Kodning av instruktionssamtalet
Modellkortet börjar med tillverkarens instruktionstokenizer v3 och visar sedan hur meddelanden formateras med den matchande chattmallen. Dess publicerade vokabulär har 32 768 poster. Den inbyggda tokenizern och en kompatibel tokenizer bör ge matchande meddelanderepresentationer; modellkortet diskuterar uttryckligen jämförelse av deras kodningar. Detta skiljer sig från att anta att Tekken-formatet som används av senare Mistral-modeller är utbytbart med den här utgåvan.
I ett samtal skiljer du användarfrågan, det tidigare assistentsvaret och eventuella verktygsresultat åt. Behåll det relevanta tidigare svaret när du ställer en följdfråga. En uppgift kan först begära en förklaring av ett källavsnitt och sedan en mer specifik jämförelse, med bevarande av källinnehållet och diskussionens syfte.
För flerspråkig redigering anger du källspråk, målspråk och terminologi som ska lämnas oförändrad. Begär ett reviderat avsnitt som bevarar namn, villkor och enheter. För ett matematiskt problem definierar du variabler och antaganden och anger om slutresultatet ska vara ett exakt uttryck, en numerisk approximation eller ett bevis. För kodning inkluderar du funktionssignaturen, relevanta deklarationer och förväntat beteende innan du begär en implementation eller förklaring.
Funktionsanrop och deras resultat
Modellkortet dokumenterar inbyggda funktionsanrop med verktygsbeskrivningar och parameterscheman. Applikationen tillhandahåller operationerna, modellen förbereder den valda funktionens argument och applikationen kör den. Det returnerade resultatet måste sedan läggas till i samtalet så att modellen kan använda det i nästa svar. Modellkortet varnar för att ett förkortat kodexempel inte visar hela cykeln.
En uppslagningsuppgift bör identifiera vilken information som saknas och vilken tillhandahållen funktion som kan returnera den. Inkludera nödvändiga värden eller begär den saknade informationen innan applikationen kör operationen. Håll det föreslagna anropet skilt från de data som faktiskt returneras; den slutliga förklaringen kan då hänvisa till resultatet som erhölls snarare än ett resultat som härletts ur verktygets namn.
I tillverkarens inbyggda samtalsformat använder verktygsanrop och motsvarande resultat ID:n med exakt nio alfanumeriska tecken. Tokenizern innehåller också särskilda markörer för tillgängliga verktyg, verktygsanrop och verktygsresultat. Bevara den matchande representationen när du förbereder samtalet i det inbyggda formatet; representationen som visas av ett omslutande gränssnitt är ett separat gränssnittsval.
Praktiska kod- och dokumentleveranser
För en kodkorrigering tillhandahåller du den berörda funktionen, indata som visar problemet och det förväntade resultatet. Begär det reviderade fragmentet, orsaken till avvikelsen och exempelindata som skiljer det avsedda beteendet från andra beteenden. Att generera kod är en textleverans; att kompilera, köra eller tillämpa den på ett kodarkiv kräver den anslutna utvecklingsmiljön.
För en dokumentförklaring begär du utsagan som besvarar frågan och avsnittet som stöder den. En jämförelse kan skilja gemensamma villkor, skillnader och olösta detaljer åt. För en textpost med begränsat format definierar du fältnamn och hantering av saknade värden. Det ursprungliga familjetillkännagivandet beskriver funktionsanrop tillsammans med formatbegränsade utdata i tillverkarens anslutna tjänst; dessa formateringsfunktioner förblir skilda från att utföra en extern operation.
Utgåva och genereringsgränser
Modellkortet visar genereringsbudgetar som 64 och 1 000 token för specifika exempel. De är demonstrationsinställningar, inte oberoende maximala svarskapaciteter. Håll prompten och det önskade svaret inom den faktiska konfigurerade kontexten och begär en längd som passar uppgiften.
Den här posten avser den textbaserade modellversionen Instruct v0.1 med instruktionsformatet v3. Bildförståelse, tal och hybridkontroller för resonemang som införts i senare Mistral-familjer ska inte tillskrivas den. Bevara den exakta utgåvan och källmaterialet när du förbereder förklaringen, kodförslaget eller det verktygsstödda svar som nästa steg behöver.
POST /v1/messagestextjson, sse| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser mistralai/mixtral-8x22b-instruct | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser user, assistant | Standard— |
Fältmessages[].content | Typstring | KravObligatoriskt | Värden & gränser | Standard— |
Fältmax_tokens | Typinteger | KravObligatoriskt | Värden & gränser | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Text · UTF-8-text
sträng i messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages, max_tokens |
Parameteroptional_controls | Avtalstream |
Parametermaterial_types | Avtaltext |
Parametertext_file_material | AvtalLäs det faktiska UTF-8-dokumentet och placera texten i det angivna input-fältet eller i strängen för meddelandets innehåll. |
Livscykel: synchronous_or_streamed
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
Matcha varje avgift mot de visade villkoren. Använd ett pris för varje uppsättning alternativa konfigurationer.
| Konfiguration | Prislista | Kontexttoken, fler än | Kontexttoken, upp till och med | Avgift |
|---|---|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Kontexttoken, fler än— | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.004 / 1K token Utdata · Utdatatoken $0.012 / 1K token Indata · Cacheläsning $0.0004 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
| KonfigurationNivå 1 för förfrågans längd | Prislista— | Kontexttoken, fler än0 | Kontexttoken, upp till och medIngen övre gräns | Avgift Indata · Indatatoken $0.004 / 1K token Utdata · Utdatatoken $0.012 / 1K token Indata · Cacheläsning $0.0004 / 1K token Indata · Skrivning till cache — / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
{\n "model": "mistralai/mixtral-8x22b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mixtral-8x22b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mixtral-8x22b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll alla innehållsblock, resonemangssignaturer och faktiska ID:n för verktygsanvändning. Sätt samman alla SSE-deltauppdateringar för blocken; ett första textblock är inte hela utdata.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältid | Typstring |
Fältmodel | Typstring |
Fältcontent[] | Typtext|thinking|tool_use|other content block |
Fältstop_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra mistralai/mixtral-8x22b-instruct
Använd metodsökvägarna som visas ovan.
Tekniskt exempel på engelska
Repair integer average division\n\nFix this Python function for nonempty numeric lists: def average(values): return sum(values) // len(values). Input [1, 2] must produce 1.5. Return the corrected function and assertions for [1, 2] and [2, 4]. State the nonempty-input assumption rather than inventing an empty-list policy.A focused function correction, two assertions and the retained input assumption.The function must preserve a fractional average and leave the unspecified empty-list behavior undecided.