Mixtral 8x22B Instruct v0.1 est la version de Mistral AI ajustée pour suivre des instructions du modèle de base nommé séparément Mixtral 8x22B v0.1. Il reçoit une conversation textuelle et produit du texte, notamment des explications, du code et des appels de fonctions proposés. La publication de la famille met en avant l’anglais, le français, l’italien, l’allemand et l’espagnol, ainsi que les capacités mathématiques et de programmation.
Experts parcimonieux et contexte
Le fabricant décrit un modèle parcimonieux à mélange d’experts comprenant 141 milliards de paramètres au total et 39 milliards de paramètres actifs. La configuration Instruct publiée contient 8 experts, dont 2 sélectionnés par jeton, 56 couches, 48 têtes d’attention de requête et 8 têtes clé/valeur. Le nombre total de paramètres et les experts sélectionnés décrivent la structure du modèle plutôt que la longueur d’une réponse.
La publication de la famille documente un contexte de 64 K, et la configuration Instruct exacte fixe le maximum de positions à 65’536. Utilisez cet espace pour conserver ensemble les passages sources, la conversation et la réponse demandée. Une question sur un document volumineux peut porter sur une condition dans plusieurs sections tout en renvoyant un tableau concis avec chaque emplacement source. Incluez les éléments qui déterminent le résultat plutôt que de remplir la fenêtre de contenus sans rapport.
Encoder la conversation d’instructions
La fiche du modèle commence par le système de segmentation en jetons d’instructions v3 du fabricant, puis montre comment formater les messages avec le modèle de conversation correspondant. Son vocabulaire publié comprend 32’768 entrées. Le système natif de segmentation et un système compatible doivent produire des représentations de messages concordantes ; la fiche traite explicitement de la comparaison de leurs encodages. Cela diffère de l’hypothèse selon laquelle le format Tekken utilisé par des modèles Mistral ultérieurs serait interchangeable avec cette publication.
Pour une conversation, distinguez la question de l’utilisateur, la réponse précédente de l’assistant et tout résultat d’outil. Gardez la réponse antérieure pertinente lorsque vous posez une question de suivi. Une tâche peut d’abord demander l’explication d’un passage source, puis une comparaison plus précise, tout en conservant le contenu source et la finalité de la discussion.
Pour une révision multilingue, identifiez la langue source, la langue finale et la terminologie à conserver. Demandez un passage révisé qui préserve les noms, les conditions et les unités. Pour un problème mathématique, définissez les variables et les hypothèses et précisez si le résultat final doit être une expression exacte, une approximation numérique ou une preuve. Pour la programmation, incluez la signature de fonction, les déclarations pertinentes et le comportement attendu avant de demander une implémentation ou une explication.
Appels de fonctions et résultats
La fiche documente les appels de fonctions natifs avec des descriptions d’outils et des schémas de paramètres. L’application fournit les opérations, le modèle prépare les arguments de la fonction choisie, puis l’application l’exécute. Le résultat renvoyé doit ensuite être ajouté à la conversation afin que le modèle puisse l’utiliser dans la réponse suivante. La fiche avertit qu’un exemple de code abrégé ne démontre pas ce cycle complet.
Une tâche de recherche doit identifier l’information manquante et la fonction fournie qui peut la renvoyer. Incluez les valeurs requises ou demandez les informations manquantes avant que l’application exécute l’opération. Gardez l’appel proposé séparé des données réellement renvoyées ; l’explication finale peut alors se référer au résultat obtenu plutôt qu’à un résultat déduit du nom de l’outil.
Dans le format natif de conversation du fabricant, les appels d’outils et leurs résultats correspondants utilisent des identifiants d’exactement neuf caractères alphanumériques. Le système de segmentation contient aussi des marqueurs spéciaux pour les outils disponibles, les appels d’outils et les résultats d’outils. Préservez la représentation correspondante lors de la préparation de la conversation au format natif ; la représentation visible d’une couche d’intégration relève d’un choix d’interface séparé.
Livrables pratiques de code et de documents
Pour une correction de code, fournissez la fonction concernée, une entrée qui révèle le problème et le résultat attendu. Demandez le fragment révisé, la cause de l’écart et des exemples d’entrées qui distinguent le comportement souhaité. Générer du code est un livrable textuel ; le compiler, l’exécuter ou l’appliquer à un dépôt nécessite l’environnement de développement connecté.
Pour une explication documentaire, demandez l’énoncé qui répond à la question et la section qui l’étaye. Une comparaison peut séparer les conditions communes, les différences et les détails non résolus. Pour un enregistrement textuel contraint, définissez les noms de champs et le traitement des valeurs manquantes. L’annonce initiale de la famille décrit les appels de fonctions et la sortie contrainte dans le service connecté du fabricant ; ces fonctions de mise en forme restent distinctes de l’exécution d’une opération externe.
Limites de l’édition et de la génération
La fiche présente des budgets de génération tels que 64 et 1’000 jetons pour des exemples particuliers. Ce sont des réglages de démonstration, et non des capacités maximales de réponse indépendantes. Gardez l’instruction et la réponse souhaitée dans le contexte réellement configuré et demandez une longueur adaptée à la tâche.
Cette entrée désigne le point de contrôle textuel Instruct v0.1 avec son format d’instructions v3. La vision, la parole et les contrôles de raisonnement hybride introduits dans des familles Mistral ultérieures ne doivent pas lui être attribués. Préservez l’édition exacte et les sources lorsque vous préparez l’explication, la proposition de code ou la réponse assistée par outils nécessaire à l’étape suivante.
", "aboutText": "Mixtral 8x22B Instruct v0.1 est la version de Mistral AI ajustée pour suivre des instructions du modèle de base nommé séparément Mixtral 8x22B v0.1. Il reçoit une conversation textuelle et produit du texte, notamment des explications, du code et des appels de fonctions proposés. La publication de la famille met en avant l’anglais, le français, l’italien, l’allemand et l’espagnol, ainsi que les capacités mathématiques et de programmation.\n\nExperts parcimonieux et contexte\n\nLe fabricant décrit un modèle parcimonieux à mélange d’experts comprenant 141 milliards de paramètres au total et 39 milliards de paramètres actifs. La configuration Instruct publiée contient 8 experts, dont 2 sélectionnés par jeton, 56 couches, 48 têtes d’attention de requête et 8 têtes clé/valeur. Le nombre total de paramètres et les experts sélectionnés décrivent la structure du modèle plutôt que la longueur d’une réponse.\n\nLa publication de la famille documente un contexte de 64 K, et la configuration Instruct exacte fixe le maximum de positions à 65’536. Utilisez cet espace pour conserver ensemble les passages sources, la conversation et la réponse demandée. Une question sur un document volumineux peut porter sur une condition dans plusieurs sections tout en renvoyant un tableau concis avec chaque emplacement source. Incluez les éléments qui déterminent le résultat plutôt que de remplir la fenêtre de contenus sans rapport.\n\nEncoder la conversation d’instructions\n\nLa fiche du modèle commence par le système de segmentation en jetons d’instructions v3 du fabricant, puis montre comment formater les messages avec le modèle de conversation correspondant. Son vocabulaire publié comprend 32’768 entrées. Le système natif de segmentation et un système compatible doivent produire des représentations de messages concordantes ; la fiche traite explicitement de la comparaison de leurs encodages. Cela diffère de l’hypothèse selon laquelle le format Tekken utilisé par des modèles Mistral ultérieurs serait interchangeable avec cette publication.\n\nPour une conversation, distinguez la question de l’utilisateur, la réponse précédente de l’assistant et tout résultat d’outil. Gardez la réponse antérieure pertinente lorsque vous posez une question de suivi. Une tâche peut d’abord demander l’explication d’un passage source, puis une comparaison plus précise, tout en conservant le contenu source et la finalité de la discussion.\n\nPour une révision multilingue, identifiez la langue source, la langue finale et la terminologie à conserver. Demandez un passage révisé qui préserve les noms, les conditions et les unités. Pour un problème mathématique, définissez les variables et les hypothèses et précisez si le résultat final doit être une expression exacte, une approximation numérique ou une preuve. Pour la programmation, incluez la signature de fonction, les déclarations pertinentes et le comportement attendu avant de demander une implémentation ou une explication.\n\nAppels de fonctions et résultats\n\nLa fiche documente les appels de fonctions natifs avec des descriptions d’outils et des schémas de paramètres. L’application fournit les opérations, le modèle prépare les arguments de la fonction choisie, puis l’application l’exécute. Le résultat renvoyé doit ensuite être ajouté à la conversation afin que le modèle puisse l’utiliser dans la réponse suivante. La fiche avertit qu’un exemple de code abrégé ne démontre pas ce cycle complet.\n\nUne tâche de recherche doit identifier l’information manquante et la fonction fournie qui peut la renvoyer. Incluez les valeurs requises ou demandez les informations manquantes avant que l’application exécute l’opération. Gardez l’appel proposé séparé des données réellement renvoyées ; l’explication finale peut alors se référer au résultat obtenu plutôt qu’à un résultat déduit du nom de l’outil.\n\nDans le format natif de conversation du fabricant, les appels d’outils et leurs résultats correspondants utilisent des identifiants d’exactement neuf caractères alphanumériques. Le système de segmentation contient aussi des marqueurs spéciaux pour les outils disponibles, les appels d’outils et les résultats d’outils. Préservez la représentation correspondante lors de la préparation de la conversation au format natif ; la représentation visible d’une couche d’intégration relève d’un choix d’interface séparé.\n\nLivrables pratiques de code et de documents\n\nPour une correction de code, fournissez la fonction concernée, une entrée qui révèle le problème et le résultat attendu. Demandez le fragment révisé, la cause de l’écart et des exemples d’entrées qui distinguent le comportement souhaité. Générer du code est un livrable textuel ; le compiler, l’exécuter ou l’appliquer à un dépôt nécessite l’environnement de développement connecté.\n\nPour une explication documentaire, demandez l’énoncé qui répond à la question et la section qui l’étaye. Une comparaison peut séparer les conditions communes, les différences et les détails non résolus. Pour un enregistrement textuel contraint, définissez les noms de champs et le traitement des valeurs manquantes. L’annonce initiale de la famille décrit les appels de fonctions et la sortie contrainte dans le service connecté du fabricant ; ces fonctions de mise en forme restent distinctes de l’exécution d’une opération externe.\n\nLimites de l’édition et de la génération\n\nLa fiche présente des budgets de génération tels que 64 et 1’000 jetons pour des exemples particuliers. Ce sont des réglages de démonstration, et non des capacités maximales de réponse indépendantes. Gardez l’instruction et la réponse souhaitée dans le contexte réellement configuré et demandez une longueur adaptée à la tâche.\n\nCette entrée désigne le point de contrôle textuel Instruct v0.1 avec son format d’instructions v3. La vision, la parole et les contrôles de raisonnement hybride introduits dans des familles Mistral ultérieures ne doivent pas lui être attribués. Préservez l’édition exacte et les sources lorsque vous préparez l’explication, la proposition de code ou la réponse assistée par outils nécessaire à l’étape suivante.", "editorialOverlay": { "copy_fields": { "practical_html": "Exemple technique en anglais
Repair integer average division\n\nFix this Python function for nonempty numeric lists: def average(values): return sum(values) // len(values). Input [1, 2] must produce 1.5. Return the corrected function and assertions for [1, 2] and [2, 4]. State the nonempty-input assumption rather than inventing an empty-list policy.A focused function correction, two assertions and the retained input assumption.The function must preserve a fractional average and leave the unspecified empty-list behavior undecided.mistralai/mixtral-8x22b-instructMixtral 8x22B Instruct v0.1 est un modèle textuel multilingue pour la conversation, les mathématiques, le code et les appels de fonctions. Son architecture parcimonieuse à mélange d’experts utilise 39 milliards de paramètres actifs sur 141 milliards au total, avec un contexte fabricant de 64 K et un format d’instructions v3 distinct.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Mixtral 8x22B Instruct v0.1 est la version de Mistral AI ajustée pour suivre des instructions du modèle de base nommé séparément Mixtral 8x22B v0.1. Il reçoit une conversation textuelle et produit du texte, notamment des explications, du code et des appels de fonctions proposés. La publication de la famille met en avant l’anglais, le français, l’italien, l’allemand et l’espagnol, ainsi que les capacités mathématiques et de programmation.
Experts parcimonieux et contexte
Le fabricant décrit un modèle parcimonieux à mélange d’experts comprenant 141 milliards de paramètres au total et 39 milliards de paramètres actifs. La configuration Instruct publiée contient 8 experts, dont 2 sélectionnés par jeton, 56 couches, 48 têtes d’attention de requête et 8 têtes clé/valeur. Le nombre total de paramètres et les experts sélectionnés décrivent la structure du modèle plutôt que la longueur d’une réponse.
La publication de la famille documente un contexte de 64 K, et la configuration Instruct exacte fixe le maximum de positions à 65’536. Utilisez cet espace pour conserver ensemble les passages sources, la conversation et la réponse demandée. Une question sur un document volumineux peut porter sur une condition dans plusieurs sections tout en renvoyant un tableau concis avec chaque emplacement source. Incluez les éléments qui déterminent le résultat plutôt que de remplir la fenêtre de contenus sans rapport.
Encoder la conversation d’instructions
La fiche du modèle commence par le système de segmentation en jetons d’instructions v3 du fabricant, puis montre comment formater les messages avec le modèle de conversation correspondant. Son vocabulaire publié comprend 32’768 entrées. Le système natif de segmentation et un système compatible doivent produire des représentations de messages concordantes ; la fiche traite explicitement de la comparaison de leurs encodages. Cela diffère de l’hypothèse selon laquelle le format Tekken utilisé par des modèles Mistral ultérieurs serait interchangeable avec cette publication.
Pour une conversation, distinguez la question de l’utilisateur, la réponse précédente de l’assistant et tout résultat d’outil. Gardez la réponse antérieure pertinente lorsque vous posez une question de suivi. Une tâche peut d’abord demander l’explication d’un passage source, puis une comparaison plus précise, tout en conservant le contenu source et la finalité de la discussion.
Pour une révision multilingue, identifiez la langue source, la langue finale et la terminologie à conserver. Demandez un passage révisé qui préserve les noms, les conditions et les unités. Pour un problème mathématique, définissez les variables et les hypothèses et précisez si le résultat final doit être une expression exacte, une approximation numérique ou une preuve. Pour la programmation, incluez la signature de fonction, les déclarations pertinentes et le comportement attendu avant de demander une implémentation ou une explication.
Appels de fonctions et résultats
La fiche documente les appels de fonctions natifs avec des descriptions d’outils et des schémas de paramètres. L’application fournit les opérations, le modèle prépare les arguments de la fonction choisie, puis l’application l’exécute. Le résultat renvoyé doit ensuite être ajouté à la conversation afin que le modèle puisse l’utiliser dans la réponse suivante. La fiche avertit qu’un exemple de code abrégé ne démontre pas ce cycle complet.
Une tâche de recherche doit identifier l’information manquante et la fonction fournie qui peut la renvoyer. Incluez les valeurs requises ou demandez les informations manquantes avant que l’application exécute l’opération. Gardez l’appel proposé séparé des données réellement renvoyées ; l’explication finale peut alors se référer au résultat obtenu plutôt qu’à un résultat déduit du nom de l’outil.
Dans le format natif de conversation du fabricant, les appels d’outils et leurs résultats correspondants utilisent des identifiants d’exactement neuf caractères alphanumériques. Le système de segmentation contient aussi des marqueurs spéciaux pour les outils disponibles, les appels d’outils et les résultats d’outils. Préservez la représentation correspondante lors de la préparation de la conversation au format natif ; la représentation visible d’une couche d’intégration relève d’un choix d’interface séparé.
Livrables pratiques de code et de documents
Pour une correction de code, fournissez la fonction concernée, une entrée qui révèle le problème et le résultat attendu. Demandez le fragment révisé, la cause de l’écart et des exemples d’entrées qui distinguent le comportement souhaité. Générer du code est un livrable textuel ; le compiler, l’exécuter ou l’appliquer à un dépôt nécessite l’environnement de développement connecté.
Pour une explication documentaire, demandez l’énoncé qui répond à la question et la section qui l’étaye. Une comparaison peut séparer les conditions communes, les différences et les détails non résolus. Pour un enregistrement textuel contraint, définissez les noms de champs et le traitement des valeurs manquantes. L’annonce initiale de la famille décrit les appels de fonctions et la sortie contrainte dans le service connecté du fabricant ; ces fonctions de mise en forme restent distinctes de l’exécution d’une opération externe.
Limites de l’édition et de la génération
La fiche présente des budgets de génération tels que 64 et 1’000 jetons pour des exemples particuliers. Ce sont des réglages de démonstration, et non des capacités maximales de réponse indépendantes. Gardez l’instruction et la réponse souhaitée dans le contexte réellement configuré et demandez une longueur adaptée à la tâche.
Cette entrée désigne le point de contrôle textuel Instruct v0.1 avec son format d’instructions v3. La vision, la parole et les contrôles de raisonnement hybride introduits dans des familles Mistral ultérieures ne doivent pas lui être attribués. Préservez l’édition exacte et les sources lorsque vous préparez l’explication, la proposition de code ou la réponse assistée par outils nécessaire à l’étape suivante.
POST /v1/chat/completionstexttext| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites mistralai/mixtral-8x22b-instruct | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites Exemples : system, user, assistant, tool, function Conditions: Ces rôles sont explicitement représentés par les types de compatibilité du code source ; l’ensemble exact des rôles reste propre à chaque modèle. Selon le modèle | Par défaut— |
Champmessages[].content | Typestring|content_part[]|null | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_calls | Typetool_call[] | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_call_id | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: role=tool ; utilisez l’identifiant réellement renvoyé | Par défaut— |
Champmessages[].name | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].reasoning_content | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: Réinjectez le raisonnement réellement renvoyé lorsque ce modèle l’utilise | Par défaut— |
Champmessages[].reasoning_details | Typeobject|array | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champmax_completion_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Champstream_options.include_usage | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtemperature | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtop_p | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champstop | Typestring|string[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools | Typefunction_tool[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools[].type | Typestring | ExigenceFacultatif | Valeurs et limites function Selon le modèle | Par défaut— |
Champtools[].function.name | Typestring | ExigenceObligatoire | Valeurs et limites S’applique lorsque: outil de fonction fourni | Par défaut— |
Champtools[].function.description | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtools[].function.parameters | TypeJSON_schema | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtool_choice | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champparallel_tool_calls | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champresponse_format | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning_effort | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champservice_tier | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champinstructions | Typestring | ExigenceFacultatif | Valeurs et limites Champ de compatibilité | Par défaut— |
Champfunctions | Typefunction[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champfunction_call | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champprompt_cache_options | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmodalities | Typestring[] | ExigenceFacultatif | Valeurs et limites text | Par défaut— |
Champprovider | Typeobject | ExigenceFacultatif | Valeurs et limites Conditions: provider.options est rejeté sur cette route textuelle Ultra | Par défaut— |
Champcache_control.ttl | Typestring | ExigenceFacultatif | Valeurs et limites Conditions: 1h est rejeté dans les emplacements réels du cache de prompt | Par défaut— |
Texte · Texte UTF8
messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages |
Paramètrematerial_types | Contrattext |
Paramètremessages | Contrattableau de messages avec une structure role/content |
Paramètrefile_material | Contratdocument UTF-8 réel inséré sous forme de texte littéral ; aucun identifiant de fichier déduit |
Paramètreoptional_controls | Contratstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Paramètrecontrol_scope | Contratpropre au modèle ; les outils de fonctions de l’utilisateur diffèrent des outils hébergés |
Paramètreoutput_modalities | Contrattext |
Paramètrehosted_operations | Contratfalse |
Paramètremultimodal_input_binding | Contratnull |
Cycle de vie : synchronous_or_streamed
Envoyez l’identifiant exact du modèle avec messages.
La longueur du contexte n’est pas un plafond de sortie.
Un fichier texte peut fournir du texte littéral ; les entrées image/audio/objets fichier nécessitent une liaison exacte.
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.004 / 1K tokens Sortie · Tokens en sortie $0.012 / 1K tokens Entrée · Lecture du cache $0.0004 / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.004 / 1K tokens Sortie · Tokens en sortie $0.012 / 1K tokens Entrée · Lecture du cache $0.0004 / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "mistralai/mixtral-8x22b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='mistralai/mixtral-8x22b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='mistralai/mixtral-8x22b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, puis conservez le motif final de terminaison et les données d’utilisation.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champchoices[].index | Typeinteger |
Champchoices[].message.content | Typestring|null |
Champchoices[].message.tool_calls | Typetool_call[] |
Champchoices[].message.reasoning_content | Typestring |
Champchoices[].message.reasoning_details | Typeobject|array |
Champchoices[].finish_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra mistralai/mixtral-8x22b-instruct
Utilisez les chemins de méthode indiqués ci-dessus.
mistralai/mixtral-8x22b-instructMixtral 8x22B Instruct v0.1 est un modèle textuel multilingue pour la conversation, les mathématiques, le code et les appels de fonctions. Son architecture parcimonieuse à mélange d’experts utilise 39 milliards de paramètres actifs sur 141 milliards au total, avec un contexte fabricant de 64 K et un format d’instructions v3 distinct.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Mixtral 8x22B Instruct v0.1 est la version de Mistral AI ajustée pour suivre des instructions du modèle de base nommé séparément Mixtral 8x22B v0.1. Il reçoit une conversation textuelle et produit du texte, notamment des explications, du code et des appels de fonctions proposés. La publication de la famille met en avant l’anglais, le français, l’italien, l’allemand et l’espagnol, ainsi que les capacités mathématiques et de programmation.
Experts parcimonieux et contexte
Le fabricant décrit un modèle parcimonieux à mélange d’experts comprenant 141 milliards de paramètres au total et 39 milliards de paramètres actifs. La configuration Instruct publiée contient 8 experts, dont 2 sélectionnés par jeton, 56 couches, 48 têtes d’attention de requête et 8 têtes clé/valeur. Le nombre total de paramètres et les experts sélectionnés décrivent la structure du modèle plutôt que la longueur d’une réponse.
La publication de la famille documente un contexte de 64 K, et la configuration Instruct exacte fixe le maximum de positions à 65’536. Utilisez cet espace pour conserver ensemble les passages sources, la conversation et la réponse demandée. Une question sur un document volumineux peut porter sur une condition dans plusieurs sections tout en renvoyant un tableau concis avec chaque emplacement source. Incluez les éléments qui déterminent le résultat plutôt que de remplir la fenêtre de contenus sans rapport.
Encoder la conversation d’instructions
La fiche du modèle commence par le système de segmentation en jetons d’instructions v3 du fabricant, puis montre comment formater les messages avec le modèle de conversation correspondant. Son vocabulaire publié comprend 32’768 entrées. Le système natif de segmentation et un système compatible doivent produire des représentations de messages concordantes ; la fiche traite explicitement de la comparaison de leurs encodages. Cela diffère de l’hypothèse selon laquelle le format Tekken utilisé par des modèles Mistral ultérieurs serait interchangeable avec cette publication.
Pour une conversation, distinguez la question de l’utilisateur, la réponse précédente de l’assistant et tout résultat d’outil. Gardez la réponse antérieure pertinente lorsque vous posez une question de suivi. Une tâche peut d’abord demander l’explication d’un passage source, puis une comparaison plus précise, tout en conservant le contenu source et la finalité de la discussion.
Pour une révision multilingue, identifiez la langue source, la langue finale et la terminologie à conserver. Demandez un passage révisé qui préserve les noms, les conditions et les unités. Pour un problème mathématique, définissez les variables et les hypothèses et précisez si le résultat final doit être une expression exacte, une approximation numérique ou une preuve. Pour la programmation, incluez la signature de fonction, les déclarations pertinentes et le comportement attendu avant de demander une implémentation ou une explication.
Appels de fonctions et résultats
La fiche documente les appels de fonctions natifs avec des descriptions d’outils et des schémas de paramètres. L’application fournit les opérations, le modèle prépare les arguments de la fonction choisie, puis l’application l’exécute. Le résultat renvoyé doit ensuite être ajouté à la conversation afin que le modèle puisse l’utiliser dans la réponse suivante. La fiche avertit qu’un exemple de code abrégé ne démontre pas ce cycle complet.
Une tâche de recherche doit identifier l’information manquante et la fonction fournie qui peut la renvoyer. Incluez les valeurs requises ou demandez les informations manquantes avant que l’application exécute l’opération. Gardez l’appel proposé séparé des données réellement renvoyées ; l’explication finale peut alors se référer au résultat obtenu plutôt qu’à un résultat déduit du nom de l’outil.
Dans le format natif de conversation du fabricant, les appels d’outils et leurs résultats correspondants utilisent des identifiants d’exactement neuf caractères alphanumériques. Le système de segmentation contient aussi des marqueurs spéciaux pour les outils disponibles, les appels d’outils et les résultats d’outils. Préservez la représentation correspondante lors de la préparation de la conversation au format natif ; la représentation visible d’une couche d’intégration relève d’un choix d’interface séparé.
Livrables pratiques de code et de documents
Pour une correction de code, fournissez la fonction concernée, une entrée qui révèle le problème et le résultat attendu. Demandez le fragment révisé, la cause de l’écart et des exemples d’entrées qui distinguent le comportement souhaité. Générer du code est un livrable textuel ; le compiler, l’exécuter ou l’appliquer à un dépôt nécessite l’environnement de développement connecté.
Pour une explication documentaire, demandez l’énoncé qui répond à la question et la section qui l’étaye. Une comparaison peut séparer les conditions communes, les différences et les détails non résolus. Pour un enregistrement textuel contraint, définissez les noms de champs et le traitement des valeurs manquantes. L’annonce initiale de la famille décrit les appels de fonctions et la sortie contrainte dans le service connecté du fabricant ; ces fonctions de mise en forme restent distinctes de l’exécution d’une opération externe.
Limites de l’édition et de la génération
La fiche présente des budgets de génération tels que 64 et 1’000 jetons pour des exemples particuliers. Ce sont des réglages de démonstration, et non des capacités maximales de réponse indépendantes. Gardez l’instruction et la réponse souhaitée dans le contexte réellement configuré et demandez une longueur adaptée à la tâche.
Cette entrée désigne le point de contrôle textuel Instruct v0.1 avec son format d’instructions v3. La vision, la parole et les contrôles de raisonnement hybride introduits dans des familles Mistral ultérieures ne doivent pas lui être attribués. Préservez l’édition exacte et les sources lorsque vous préparez l’explication, la proposition de code ou la réponse assistée par outils nécessaire à l’étape suivante.
POST /v1/messagestextjson, sse| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites mistralai/mixtral-8x22b-instruct | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites user, assistant | Par défaut— |
Champmessages[].content | Typestring | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Texte · Texte UTF-8
chaîne messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages, max_tokens |
Paramètreoptional_controls | Contratstream |
Paramètrematerial_types | Contrattext |
Paramètretext_file_material | ContratLisez le document UTF-8 réel et placez son texte dans l’entrée indiquée ou dans la chaîne de contenu du message. |
Cycle de vie : synchronous_or_streamed
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.004 / 1K tokens Sortie · Tokens en sortie $0.012 / 1K tokens Entrée · Lecture du cache $0.0004 / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.004 / 1K tokens Sortie · Tokens en sortie $0.012 / 1K tokens Entrée · Lecture du cache $0.0004 / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
{\n "model": "mistralai/mixtral-8x22b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mixtral-8x22b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mixtral-8x22b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez tous les blocs de contenu, les signatures de raisonnement et les identifiants réels d’utilisation d’outils. Assemblez tous les deltas de blocs SSE ; un premier bloc de texte ne constitue pas la sortie complète.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champid | Typestring |
Champmodel | Typestring |
Champcontent[] | Typetext|thinking|tool_use|other content block |
Champstop_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra mistralai/mixtral-8x22b-instruct
Utilisez les chemins de méthode indiqués ci-dessus.
Exemple technique en anglais
Repair integer average division\n\nFix this Python function for nonempty numeric lists: def average(values): return sum(values) // len(values). Input [1, 2] must produce 1.5. Return the corrected function and assertions for [1, 2] and [2, 4]. State the nonempty-input assumption rather than inventing an empty-list policy.A focused function correction, two assertions and the retained input assumption.The function must preserve a fractional average and leave the unspecified empty-list behavior undecided.