Mixtral 8x22B Instruct v0.1 is de op instructies afgestemde versie van Mistral AI van het afzonderlijk benoemde basismodel Mixtral 8x22B v0.1. Het ontvangt een tekstconversatie en produceert tekst, waaronder uitleg, code en voorgestelde functieaanroepen. De familierelease benadrukt Engels, Frans, Italiaans, Duits en Spaans, samen met wiskundige en programmeermogelijkheden.
Sparse experts en context
De maker beschrijft een sparse mixture-of-experts-model met in totaal 141 miljard parameters en 39 miljard actieve parameters. De uitgebrachte Instruct-configuratie bevat 8 experts, waarvan er per token 2 worden geselecteerd, 56 lagen, 48 query-attentiekoppen en 8 key/value-koppen. Het totale parameteraantal en de geselecteerde experts beschrijven de modelstructuur en niet de lengte van een antwoord.
De familierelease documenteert een context van 64K, en de specifieke Instruct-configuratie stelt het maximale aantal posities in op 65.536. Gebruik die ruimte om bronpassages, conversatie en gevraagd antwoord samen te houden. Een vraag over een groot document kan één voorwaarde in meerdere secties onderzoeken en een beknopte tabel met elke bronlocatie retourneren. Neem het materiaal op dat het resultaat bepaalt in plaats van het venster met niet-gerelateerde inhoud te vullen.
De instructieconversatie coderen
De modelkaart begint bij de v3-instructietokenizer van de maker en toont vervolgens hoe berichten met het bijbehorende chatsjabloon worden opgemaakt. Het uitgebrachte vocabularium bevat 32.768 items. De oorspronkelijke tokenizer en een compatibele tokenizer moeten overeenkomende berichtrepresentaties produceren; de kaart bespreekt expliciet het vergelijken van hun coderingen. Dat verschilt van de aanname dat het Tekken-formaat van latere Mistral-modellen uitwisselbaar is met deze release.
Onderscheid in een conversatie de gebruikersvraag, het vorige assistentantwoord en eventuele toolresultaten. Behoud het relevante eerdere antwoord bij een vervolgvraag. Een taak kan eerst uitleg over een bronpassage vragen en vervolgens een specifiekere vergelijking, met behoud van de broninhoud en het doel van de bespreking.
Benoem voor meertalige redactie de brontaal, doeltaal en terminologie die ongewijzigd moet blijven. Vraag een herziene passage die namen, voorwaarden en eenheden behoudt. Definieer voor een wiskundig probleem de variabelen en aannames en geef aan of het eindresultaat een exacte uitdrukking, numerieke benadering of bewijs moet zijn. Neem voor programmeren de functiesignatuur, relevante declaraties en het verwachte gedrag op voordat u een implementatie of uitleg vraagt.
Functieaanroepen en hun resultaten
De modelkaart documenteert ingebouwde functieaanroepen met toolbeschrijvingen en parameterschema's. De toepassing levert de bewerkingen aan, het model bereidt de argumenten van de gekozen functie voor en de toepassing voert die uit. Het teruggegeven resultaat moet vervolgens aan de conversatie worden toegevoegd, zodat het model het in het volgende antwoord kan gebruiken. De kaart waarschuwt dat één ingekort codevoorbeeld deze volledige cyclus niet demonstreert.
Een opzoektaak moet aangeven welke informatie ontbreekt en welke aangeleverde functie ze kan teruggeven. Neem de vereiste waarden op of vraag naar ontbrekende informatie voordat de toepassing de bewerking uitvoert. Houd de voorgestelde aanroep gescheiden van de werkelijk teruggegeven gegevens; de uiteindelijke uitleg kan dan verwijzen naar het verkregen resultaat in plaats van een resultaat dat uit de toolnaam is afgeleid.
In het eigen conversatieformaat van de maker gebruiken toolaanroepen en bijbehorende resultaten ID's van exact negen alfanumerieke tekens. De tokenizer bevat ook speciale markeringen voor beschikbare tools, toolaanroepen en toolresultaten. Behoud de overeenkomende representatie bij het voorbereiden van de conversatie in het oorspronkelijke formaat; de zichtbare weergave van een wrapper is een afzonderlijke interfacekeuze.
Praktische code- en documentartefacten
Lever voor een codecorrectie de betrokken functie, invoer die het probleem blootlegt en het verwachte resultaat aan. Vraag het herziene fragment, de oorzaak van de afwijking en voorbeeldinvoer die het beoogde gedrag onderscheidt. Codegeneratie levert een tekstartefact op; compileren, uitvoeren of toepassen in een repository vereist de verbonden ontwikkelomgeving.
Vraag bij documentuitleg naar de uitspraak die de vraag beantwoordt en de ondersteunende sectie. Een vergelijking kan gedeelde voorwaarden, verschillen en onopgeloste details scheiden. Definieer voor een afgebakend tekstrecord de veldnamen en behandeling van ontbrekende waarden. De oorspronkelijke familieaankondiging beschrijft functieaanroepen samen met uitvoer volgens opgelegde vormvereisten in de verbonden service van de maker; die opmaakvoorzieningen blijven onderscheiden van het uitvoeren van een externe bewerking.
Editie en generatielimieten
De kaart toont generatiebudgetten zoals 64 en 1.000 tokens voor specifieke voorbeelden. Het zijn demonstratie-instellingen en geen onafhankelijke maximale antwoordcapaciteiten. Houd de prompt en het gewenste antwoord binnen de werkelijk ingestelde context en vraag een lengte die bij de taak past.
Deze vermelding betreft het tekstgebaseerde Instruct v0.1-checkpoint met zijn v3-instructieopmaak. Beeldbegrip, spraak en hybride redeneerinstellingen uit latere Mistral-families mogen er niet aan worden toegeschreven. Behoud de exacte editie en het bronmateriaal bij het voorbereiden van de uitleg, het codevoorstel of het antwoord met tools dat de volgende stap nodig heeft.
", "aboutText": "Mixtral 8x22B Instruct v0.1 is de op instructies afgestemde versie van Mistral AI van het afzonderlijk benoemde basismodel Mixtral 8x22B v0.1. Het ontvangt een tekstconversatie en produceert tekst, waaronder uitleg, code en voorgestelde functieaanroepen. De familierelease benadrukt Engels, Frans, Italiaans, Duits en Spaans, samen met wiskundige en programmeermogelijkheden.\n\nSparse experts en context\n\nDe maker beschrijft een sparse mixture-of-experts-model met in totaal 141 miljard parameters en 39 miljard actieve parameters. De uitgebrachte Instruct-configuratie bevat 8 experts, waarvan er per token 2 worden geselecteerd, 56 lagen, 48 query-attentiekoppen en 8 key/value-koppen. Het totale parameteraantal en de geselecteerde experts beschrijven de modelstructuur en niet de lengte van een antwoord.\n\nDe familierelease documenteert een context van 64K, en de specifieke Instruct-configuratie stelt het maximale aantal posities in op 65.536. Gebruik die ruimte om bronpassages, conversatie en gevraagd antwoord samen te houden. Een vraag over een groot document kan één voorwaarde in meerdere secties onderzoeken en een beknopte tabel met elke bronlocatie retourneren. Neem het materiaal op dat het resultaat bepaalt in plaats van het venster met niet-gerelateerde inhoud te vullen.\n\nDe instructieconversatie coderen\n\nDe modelkaart begint bij de v3-instructietokenizer van de maker en toont vervolgens hoe berichten met het bijbehorende chatsjabloon worden opgemaakt. Het uitgebrachte vocabularium bevat 32.768 items. De oorspronkelijke tokenizer en een compatibele tokenizer moeten overeenkomende berichtrepresentaties produceren; de kaart bespreekt expliciet het vergelijken van hun coderingen. Dat verschilt van de aanname dat het Tekken-formaat van latere Mistral-modellen uitwisselbaar is met deze release.\n\nOnderscheid in een conversatie de gebruikersvraag, het vorige assistentantwoord en eventuele toolresultaten. Behoud het relevante eerdere antwoord bij een vervolgvraag. Een taak kan eerst uitleg over een bronpassage vragen en vervolgens een specifiekere vergelijking, met behoud van de broninhoud en het doel van de bespreking.\n\nBenoem voor meertalige redactie de brontaal, doeltaal en terminologie die ongewijzigd moet blijven. Vraag een herziene passage die namen, voorwaarden en eenheden behoudt. Definieer voor een wiskundig probleem de variabelen en aannames en geef aan of het eindresultaat een exacte uitdrukking, numerieke benadering of bewijs moet zijn. Neem voor programmeren de functiesignatuur, relevante declaraties en het verwachte gedrag op voordat u een implementatie of uitleg vraagt.\n\nFunctieaanroepen en hun resultaten\n\nDe modelkaart documenteert ingebouwde functieaanroepen met toolbeschrijvingen en parameterschema's. De toepassing levert de bewerkingen aan, het model bereidt de argumenten van de gekozen functie voor en de toepassing voert die uit. Het teruggegeven resultaat moet vervolgens aan de conversatie worden toegevoegd, zodat het model het in het volgende antwoord kan gebruiken. De kaart waarschuwt dat één ingekort codevoorbeeld deze volledige cyclus niet demonstreert.\n\nEen opzoektaak moet aangeven welke informatie ontbreekt en welke aangeleverde functie ze kan teruggeven. Neem de vereiste waarden op of vraag naar ontbrekende informatie voordat de toepassing de bewerking uitvoert. Houd de voorgestelde aanroep gescheiden van de werkelijk teruggegeven gegevens; de uiteindelijke uitleg kan dan verwijzen naar het verkregen resultaat in plaats van een resultaat dat uit de toolnaam is afgeleid.\n\nIn het eigen conversatieformaat van de maker gebruiken toolaanroepen en bijbehorende resultaten ID's van exact negen alfanumerieke tekens. De tokenizer bevat ook speciale markeringen voor beschikbare tools, toolaanroepen en toolresultaten. Behoud de overeenkomende representatie bij het voorbereiden van de conversatie in het oorspronkelijke formaat; de zichtbare weergave van een wrapper is een afzonderlijke interfacekeuze.\n\nPraktische code- en documentartefacten\n\nLever voor een codecorrectie de betrokken functie, invoer die het probleem blootlegt en het verwachte resultaat aan. Vraag het herziene fragment, de oorzaak van de afwijking en voorbeeldinvoer die het beoogde gedrag onderscheidt. Codegeneratie levert een tekstartefact op; compileren, uitvoeren of toepassen in een repository vereist de verbonden ontwikkelomgeving.\n\nVraag bij documentuitleg naar de uitspraak die de vraag beantwoordt en de ondersteunende sectie. Een vergelijking kan gedeelde voorwaarden, verschillen en onopgeloste details scheiden. Definieer voor een afgebakend tekstrecord de veldnamen en behandeling van ontbrekende waarden. De oorspronkelijke familieaankondiging beschrijft functieaanroepen samen met uitvoer volgens opgelegde vormvereisten in de verbonden service van de maker; die opmaakvoorzieningen blijven onderscheiden van het uitvoeren van een externe bewerking.\n\nEditie en generatielimieten\n\nDe kaart toont generatiebudgetten zoals 64 en 1.000 tokens voor specifieke voorbeelden. Het zijn demonstratie-instellingen en geen onafhankelijke maximale antwoordcapaciteiten. Houd de prompt en het gewenste antwoord binnen de werkelijk ingestelde context en vraag een lengte die bij de taak past.\n\nDeze vermelding betreft het tekstgebaseerde Instruct v0.1-checkpoint met zijn v3-instructieopmaak. Beeldbegrip, spraak en hybride redeneerinstellingen uit latere Mistral-families mogen er niet aan worden toegeschreven. Behoud de exacte editie en het bronmateriaal bij het voorbereiden van de uitleg, het codevoorstel of het antwoord met tools dat de volgende stap nodig heeft.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisch voorbeeld in het Engels
Repair integer average division\n\nFix this Python function for nonempty numeric lists: def average(values): return sum(values) // len(values). Input [1, 2] must produce 1.5. Return the corrected function and assertions for [1, 2] and [2, 4]. State the nonempty-input assumption rather than inventing an empty-list policy.A focused function correction, two assertions and the retained input assumption.The function must preserve a fractional average and leave the unspecified empty-list behavior undecided.mistralai/mixtral-8x22b-instructMixtral 8x22B Instruct v0.1 is een meertalig tekstmodel voor conversatie, wiskunde, code en functieaanroepen. De sparse mixture-of-experts-architectuur gebruikt 39 miljard actieve parameters op een totaal van 141 miljard, met een door de maker opgegeven context van 64K en een eigen v3-instructieformaat.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Mixtral 8x22B Instruct v0.1 is de op instructies afgestemde versie van Mistral AI van het afzonderlijk benoemde basismodel Mixtral 8x22B v0.1. Het ontvangt een tekstconversatie en produceert tekst, waaronder uitleg, code en voorgestelde functieaanroepen. De familierelease benadrukt Engels, Frans, Italiaans, Duits en Spaans, samen met wiskundige en programmeermogelijkheden.
Sparse experts en context
De maker beschrijft een sparse mixture-of-experts-model met in totaal 141 miljard parameters en 39 miljard actieve parameters. De uitgebrachte Instruct-configuratie bevat 8 experts, waarvan er per token 2 worden geselecteerd, 56 lagen, 48 query-attentiekoppen en 8 key/value-koppen. Het totale parameteraantal en de geselecteerde experts beschrijven de modelstructuur en niet de lengte van een antwoord.
De familierelease documenteert een context van 64K, en de specifieke Instruct-configuratie stelt het maximale aantal posities in op 65.536. Gebruik die ruimte om bronpassages, conversatie en gevraagd antwoord samen te houden. Een vraag over een groot document kan één voorwaarde in meerdere secties onderzoeken en een beknopte tabel met elke bronlocatie retourneren. Neem het materiaal op dat het resultaat bepaalt in plaats van het venster met niet-gerelateerde inhoud te vullen.
De instructieconversatie coderen
De modelkaart begint bij de v3-instructietokenizer van de maker en toont vervolgens hoe berichten met het bijbehorende chatsjabloon worden opgemaakt. Het uitgebrachte vocabularium bevat 32.768 items. De oorspronkelijke tokenizer en een compatibele tokenizer moeten overeenkomende berichtrepresentaties produceren; de kaart bespreekt expliciet het vergelijken van hun coderingen. Dat verschilt van de aanname dat het Tekken-formaat van latere Mistral-modellen uitwisselbaar is met deze release.
Onderscheid in een conversatie de gebruikersvraag, het vorige assistentantwoord en eventuele toolresultaten. Behoud het relevante eerdere antwoord bij een vervolgvraag. Een taak kan eerst uitleg over een bronpassage vragen en vervolgens een specifiekere vergelijking, met behoud van de broninhoud en het doel van de bespreking.
Benoem voor meertalige redactie de brontaal, doeltaal en terminologie die ongewijzigd moet blijven. Vraag een herziene passage die namen, voorwaarden en eenheden behoudt. Definieer voor een wiskundig probleem de variabelen en aannames en geef aan of het eindresultaat een exacte uitdrukking, numerieke benadering of bewijs moet zijn. Neem voor programmeren de functiesignatuur, relevante declaraties en het verwachte gedrag op voordat u een implementatie of uitleg vraagt.
Functieaanroepen en hun resultaten
De modelkaart documenteert ingebouwde functieaanroepen met toolbeschrijvingen en parameterschema's. De toepassing levert de bewerkingen aan, het model bereidt de argumenten van de gekozen functie voor en de toepassing voert die uit. Het teruggegeven resultaat moet vervolgens aan de conversatie worden toegevoegd, zodat het model het in het volgende antwoord kan gebruiken. De kaart waarschuwt dat één ingekort codevoorbeeld deze volledige cyclus niet demonstreert.
Een opzoektaak moet aangeven welke informatie ontbreekt en welke aangeleverde functie ze kan teruggeven. Neem de vereiste waarden op of vraag naar ontbrekende informatie voordat de toepassing de bewerking uitvoert. Houd de voorgestelde aanroep gescheiden van de werkelijk teruggegeven gegevens; de uiteindelijke uitleg kan dan verwijzen naar het verkregen resultaat in plaats van een resultaat dat uit de toolnaam is afgeleid.
In het eigen conversatieformaat van de maker gebruiken toolaanroepen en bijbehorende resultaten ID's van exact negen alfanumerieke tekens. De tokenizer bevat ook speciale markeringen voor beschikbare tools, toolaanroepen en toolresultaten. Behoud de overeenkomende representatie bij het voorbereiden van de conversatie in het oorspronkelijke formaat; de zichtbare weergave van een wrapper is een afzonderlijke interfacekeuze.
Praktische code- en documentartefacten
Lever voor een codecorrectie de betrokken functie, invoer die het probleem blootlegt en het verwachte resultaat aan. Vraag het herziene fragment, de oorzaak van de afwijking en voorbeeldinvoer die het beoogde gedrag onderscheidt. Codegeneratie levert een tekstartefact op; compileren, uitvoeren of toepassen in een repository vereist de verbonden ontwikkelomgeving.
Vraag bij documentuitleg naar de uitspraak die de vraag beantwoordt en de ondersteunende sectie. Een vergelijking kan gedeelde voorwaarden, verschillen en onopgeloste details scheiden. Definieer voor een afgebakend tekstrecord de veldnamen en behandeling van ontbrekende waarden. De oorspronkelijke familieaankondiging beschrijft functieaanroepen samen met uitvoer volgens opgelegde vormvereisten in de verbonden service van de maker; die opmaakvoorzieningen blijven onderscheiden van het uitvoeren van een externe bewerking.
Editie en generatielimieten
De kaart toont generatiebudgetten zoals 64 en 1.000 tokens voor specifieke voorbeelden. Het zijn demonstratie-instellingen en geen onafhankelijke maximale antwoordcapaciteiten. Houd de prompt en het gewenste antwoord binnen de werkelijk ingestelde context en vraag een lengte die bij de taak past.
Deze vermelding betreft het tekstgebaseerde Instruct v0.1-checkpoint met zijn v3-instructieopmaak. Beeldbegrip, spraak en hybride redeneerinstellingen uit latere Mistral-families mogen er niet aan worden toegeschreven. Behoud de exacte editie en het bronmateriaal bij het voorbereiden van de uitleg, het codevoorstel of het antwoord met tools dat de volgende stap nodig heeft.
POST /v1/chat/completionstexttext| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten mistralai/mixtral-8x22b-instruct | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten Voorbeelden: system, user, assistant, tool, function Voorwaarden: Deze rollen worden expliciet weergegeven door compatibiliteitstypen in de broncode; de exacte rollenverzameling van het model blijft modelspecifiek. Afhankelijk van het model | Standaard— |
Veldmessages[].content | Typestring|content_part[]|null | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_calls | Typetool_call[] | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_call_id | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: role=tool; gebruik het werkelijk teruggegeven ID | Standaard— |
Veldmessages[].name | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].reasoning_content | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: Stuur de werkelijk teruggegeven redeneringen terug wanneer dit model ze gebruikt | Standaard— |
Veldmessages[].reasoning_details | Typeobject|array | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmax_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldmax_completion_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Veldstream_options.include_usage | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtemperature | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtop_p | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldstop | Typestring|string[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools | Typefunction_tool[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools[].type | Typestring | VereisteOptioneel | Waarden en limieten function Afhankelijk van het model | Standaard— |
Veldtools[].function.name | Typestring | VereisteVereist | Waarden en limieten Geldt wanneer: functietool opgegeven | Standaard— |
Veldtools[].function.description | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtools[].function.parameters | TypeJSON_schema | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtool_choice | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldparallel_tool_calls | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldresponse_format | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning_effort | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldservice_tier | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldinstructions | Typestring | VereisteOptioneel | Waarden en limieten Compatibiliteitsveld | Standaard— |
Veldfunctions | Typefunction[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldfunction_call | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldprompt_cache_options | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmodalities | Typestring[] | VereisteOptioneel | Waarden en limieten text | Standaard— |
Veldprovider | Typeobject | VereisteOptioneel | Waarden en limieten Voorwaarden: provider.options wordt op deze Ultra-tekstroute geweigerd | Standaard— |
Veldcache_control.ttl | Typestring | VereisteOptioneel | Waarden en limieten Voorwaarden: 1h wordt op de daadwerkelijke locaties voor promptcaching geweigerd | Standaard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages |
Parametermaterial_types | Contracttext |
Parametermessages | Contractberichtenarray met de structuur role/content |
Parameterfile_material | Contractwerkelijk UTF-8-document ingevoegd als letterlijke tekst; er wordt geen bestands-ID afgeleid |
Parameteroptional_controls | Contractstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Contractmodelspecifiek; functietools van de gebruiker verschillen van gehoste tools |
Parameteroutput_modalities | Contracttext |
Parameterhosted_operations | Contractfalse |
Parametermultimodal_input_binding | Contractnull |
Levenscyclus: synchronous_or_streamed
Stuur het exacte model-ID mee met messages.
Contextlengte is geen uitvoerlimiet.
Een tekstbestand kan letterlijke tekst aanleveren; beeld-, audio- en bestandsobjectinvoer vereisen een exacte koppeling.
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
Koppel elke kostenpost aan de getoonde voorwaarden. Gebruik één tarief voor elke groep alternatieve configuraties.
| Configuratie | Tariefstaffel | Contexttokens, meer dan | Contexttokens, tot en met | Kosten |
|---|---|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Contexttokens, meer dan— | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.004 / 1K tokens Uitvoer · Uitvoertokens $0.012 / 1K tokens Invoer · Cache lezen $0.0004 / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
| ConfiguratieAanvraaglengte · niveau 1 | Tariefstaffel— | Contexttokens, meer dan0 | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.004 / 1K tokens Uitvoer · Uitvoertokens $0.012 / 1K tokens Invoer · Cache lezen $0.0004 / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "mistralai/mixtral-8x22b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='mistralai/mixtral-8x22b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='mistralai/mixtral-8x22b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar elke keuze en de bijbehorende inhoud, toolaanroepen en redeneringen. Voeg in SSE delta’s samen per keuze-/toolindex en bewaar de uiteindelijke reden van beëindiging en de verbruiksgegevens.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldchoices[].index | Typeinteger |
Veldchoices[].message.content | Typestring|null |
Veldchoices[].message.tool_calls | Typetool_call[] |
Veldchoices[].message.reasoning_content | Typestring |
Veldchoices[].message.reasoning_details | Typeobject|array |
Veldchoices[].finish_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra mistralai/mixtral-8x22b-instruct
Gebruik de hierboven getoonde methodepaden.
mistralai/mixtral-8x22b-instructMixtral 8x22B Instruct v0.1 is een meertalig tekstmodel voor conversatie, wiskunde, code en functieaanroepen. De sparse mixture-of-experts-architectuur gebruikt 39 miljard actieve parameters op een totaal van 141 miljard, met een door de maker opgegeven context van 64K en een eigen v3-instructieformaat.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Mixtral 8x22B Instruct v0.1 is de op instructies afgestemde versie van Mistral AI van het afzonderlijk benoemde basismodel Mixtral 8x22B v0.1. Het ontvangt een tekstconversatie en produceert tekst, waaronder uitleg, code en voorgestelde functieaanroepen. De familierelease benadrukt Engels, Frans, Italiaans, Duits en Spaans, samen met wiskundige en programmeermogelijkheden.
Sparse experts en context
De maker beschrijft een sparse mixture-of-experts-model met in totaal 141 miljard parameters en 39 miljard actieve parameters. De uitgebrachte Instruct-configuratie bevat 8 experts, waarvan er per token 2 worden geselecteerd, 56 lagen, 48 query-attentiekoppen en 8 key/value-koppen. Het totale parameteraantal en de geselecteerde experts beschrijven de modelstructuur en niet de lengte van een antwoord.
De familierelease documenteert een context van 64K, en de specifieke Instruct-configuratie stelt het maximale aantal posities in op 65.536. Gebruik die ruimte om bronpassages, conversatie en gevraagd antwoord samen te houden. Een vraag over een groot document kan één voorwaarde in meerdere secties onderzoeken en een beknopte tabel met elke bronlocatie retourneren. Neem het materiaal op dat het resultaat bepaalt in plaats van het venster met niet-gerelateerde inhoud te vullen.
De instructieconversatie coderen
De modelkaart begint bij de v3-instructietokenizer van de maker en toont vervolgens hoe berichten met het bijbehorende chatsjabloon worden opgemaakt. Het uitgebrachte vocabularium bevat 32.768 items. De oorspronkelijke tokenizer en een compatibele tokenizer moeten overeenkomende berichtrepresentaties produceren; de kaart bespreekt expliciet het vergelijken van hun coderingen. Dat verschilt van de aanname dat het Tekken-formaat van latere Mistral-modellen uitwisselbaar is met deze release.
Onderscheid in een conversatie de gebruikersvraag, het vorige assistentantwoord en eventuele toolresultaten. Behoud het relevante eerdere antwoord bij een vervolgvraag. Een taak kan eerst uitleg over een bronpassage vragen en vervolgens een specifiekere vergelijking, met behoud van de broninhoud en het doel van de bespreking.
Benoem voor meertalige redactie de brontaal, doeltaal en terminologie die ongewijzigd moet blijven. Vraag een herziene passage die namen, voorwaarden en eenheden behoudt. Definieer voor een wiskundig probleem de variabelen en aannames en geef aan of het eindresultaat een exacte uitdrukking, numerieke benadering of bewijs moet zijn. Neem voor programmeren de functiesignatuur, relevante declaraties en het verwachte gedrag op voordat u een implementatie of uitleg vraagt.
Functieaanroepen en hun resultaten
De modelkaart documenteert ingebouwde functieaanroepen met toolbeschrijvingen en parameterschema's. De toepassing levert de bewerkingen aan, het model bereidt de argumenten van de gekozen functie voor en de toepassing voert die uit. Het teruggegeven resultaat moet vervolgens aan de conversatie worden toegevoegd, zodat het model het in het volgende antwoord kan gebruiken. De kaart waarschuwt dat één ingekort codevoorbeeld deze volledige cyclus niet demonstreert.
Een opzoektaak moet aangeven welke informatie ontbreekt en welke aangeleverde functie ze kan teruggeven. Neem de vereiste waarden op of vraag naar ontbrekende informatie voordat de toepassing de bewerking uitvoert. Houd de voorgestelde aanroep gescheiden van de werkelijk teruggegeven gegevens; de uiteindelijke uitleg kan dan verwijzen naar het verkregen resultaat in plaats van een resultaat dat uit de toolnaam is afgeleid.
In het eigen conversatieformaat van de maker gebruiken toolaanroepen en bijbehorende resultaten ID's van exact negen alfanumerieke tekens. De tokenizer bevat ook speciale markeringen voor beschikbare tools, toolaanroepen en toolresultaten. Behoud de overeenkomende representatie bij het voorbereiden van de conversatie in het oorspronkelijke formaat; de zichtbare weergave van een wrapper is een afzonderlijke interfacekeuze.
Praktische code- en documentartefacten
Lever voor een codecorrectie de betrokken functie, invoer die het probleem blootlegt en het verwachte resultaat aan. Vraag het herziene fragment, de oorzaak van de afwijking en voorbeeldinvoer die het beoogde gedrag onderscheidt. Codegeneratie levert een tekstartefact op; compileren, uitvoeren of toepassen in een repository vereist de verbonden ontwikkelomgeving.
Vraag bij documentuitleg naar de uitspraak die de vraag beantwoordt en de ondersteunende sectie. Een vergelijking kan gedeelde voorwaarden, verschillen en onopgeloste details scheiden. Definieer voor een afgebakend tekstrecord de veldnamen en behandeling van ontbrekende waarden. De oorspronkelijke familieaankondiging beschrijft functieaanroepen samen met uitvoer volgens opgelegde vormvereisten in de verbonden service van de maker; die opmaakvoorzieningen blijven onderscheiden van het uitvoeren van een externe bewerking.
Editie en generatielimieten
De kaart toont generatiebudgetten zoals 64 en 1.000 tokens voor specifieke voorbeelden. Het zijn demonstratie-instellingen en geen onafhankelijke maximale antwoordcapaciteiten. Houd de prompt en het gewenste antwoord binnen de werkelijk ingestelde context en vraag een lengte die bij de taak past.
Deze vermelding betreft het tekstgebaseerde Instruct v0.1-checkpoint met zijn v3-instructieopmaak. Beeldbegrip, spraak en hybride redeneerinstellingen uit latere Mistral-families mogen er niet aan worden toegeschreven. Behoud de exacte editie en het bronmateriaal bij het voorbereiden van de uitleg, het codevoorstel of het antwoord met tools dat de volgende stap nodig heeft.
POST /v1/messagestextjson, sse| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten mistralai/mixtral-8x22b-instruct | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten user, assistant | Standaard— |
Veldmessages[].content | Typestring | VereisteVereist | Waarden en limieten | Standaard— |
Veldmax_tokens | Typeinteger | VereisteVereist | Waarden en limieten | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Tekst · UTF-8-tekst
messages[].content als tekenreeks
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages, max_tokens |
Parameteroptional_controls | Contractstream |
Parametermaterial_types | Contracttext |
Parametertext_file_material | ContractLees het werkelijke UTF-8-document en plaats de tekst ervan in de aangegeven invoer of in de inhoudstekenreeks van een bericht. |
Levenscyclus: synchronous_or_streamed
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
Koppel elke kostenpost aan de getoonde voorwaarden. Gebruik één tarief voor elke groep alternatieve configuraties.
| Configuratie | Tariefstaffel | Contexttokens, meer dan | Contexttokens, tot en met | Kosten |
|---|---|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Contexttokens, meer dan— | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.004 / 1K tokens Uitvoer · Uitvoertokens $0.012 / 1K tokens Invoer · Cache lezen $0.0004 / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
| ConfiguratieAanvraaglengte · niveau 1 | Tariefstaffel— | Contexttokens, meer dan0 | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.004 / 1K tokens Uitvoer · Uitvoertokens $0.012 / 1K tokens Invoer · Cache lezen $0.0004 / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
{\n "model": "mistralai/mixtral-8x22b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mixtral-8x22b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mixtral-8x22b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar alle inhoudsblokken, handtekeningen van redeneringen en werkelijke toolgebruik-ID’s. Voeg alle SSE-blokdelta’s samen; het eerste tekstblok is niet de volledige uitvoer.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldid | Typestring |
Veldmodel | Typestring |
Veldcontent[] | Typetext|thinking|tool_use|other content block |
Veldstop_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra mistralai/mixtral-8x22b-instruct
Gebruik de hierboven getoonde methodepaden.
Technisch voorbeeld in het Engels
Repair integer average division\n\nFix this Python function for nonempty numeric lists: def average(values): return sum(values) // len(values). Input [1, 2] must produce 1.5. Return the corrected function and assertions for [1, 2] and [2, 4]. State the nonempty-input assumption rather than inventing an empty-list policy.A focused function correction, two assertions and the retained input assumption.The function must preserve a fractional average and leave the unspecified empty-list behavior undecided.