Llama 3.2 1B Instruct est le modèle textuel compact de Meta ajusté aux instructions, avec 1,23 milliard de paramètres dans le tableau du fabricant. Il accepte du texte multilingue et renvoie du texte ou du code. La version vise le dialogue, la recherche de connaissances, la synthèse, les assistants de rédaction mobiles et la reformulation de requêtes ou d’instructions, plutôt que les tâches de compréhension d’images des éditions de vision distinctes de Llama.
Information sur le modèle et contexte
Le modèle utilise une architecture Transformer autorégressive avec attention à requêtes groupées et plongements partagés. Meta distingue les modèles 1B et 3B préentraînés de ceux ajustés aux instructions. Cette entrée correspond au point de contrôle 1B Instruct, dont la tâche est de suivre la demande de l’utilisateur dans une conversation plutôt que de servir de fondation préentraînée.
La version textuelle ordinaire est documentée avec un contexte de 128k. Le fabricant indique séparément un contexte de 8k pour ses modèles textuels quantifiés. Ces configurations doivent rester distinctes : la quantification ne permet pas de transférer le contexte de la version ordinaire à chaque point de contrôle de format plus petit ni de déduire la capacité configurée d’un service donné.
Utilisez le contexte pour les passages et la conversation pertinents à une opération définie. Un long document peut tout de même demander un bref résumé, une requête de recherche reformulée ou une réponse fondée sur les sources. Identifiez le contenu que le résultat doit conserver et la longueur ou les champs nécessaires à l’étape suivante de l’application.
Recherche documentaire, résumés et reformulation
Pour la synthèse, fournissez le passage ou la conversation réelle et précisez le public, la longueur et les faits essentiels. Un résultat utile peut distinguer le problème central, les décisions déjà énoncées et les questions ouvertes. Si la source contient plusieurs sujets, identifiez celui que le résumé doit couvrir plutôt que de demander une réduction non orientée de l’ensemble.
Pour la recherche de connaissances, fournissez les passages source sélectionnés ou l’information renvoyée par un composant de recherche documentaire. Demandez l’énoncé qui répond à la question et le passage qui l’appuie. La réponse textuelle du modèle peut expliquer l’information trouvée, tandis que la recherche dans une collection privée relève de l’application connectée. Le simple intitulé de cet usage ne lui donne pas accès à cette collection.
Pour la reformulation de requêtes, donnez la question originale et l’objectif de la recherche. Demandez une reformulation concise qui préserve l’entité, la condition et l’information souhaitée. Une requête d’assistance peut être reformulée avec le terme de produit et l’action importants, sans ajouter de fait absent du message de l’utilisateur. Renvoyez la requête révisée séparément de toute explication si un autre composant l’utilise directement.
Pour un assistant de rédaction, précisez le lecteur, le ton et les faits sources avant de demander une courte lettre ou un passage révisé. Pour une extraction, définissez les champs et la façon de représenter l’information absente. Ce sont des opérations concrètes qui relient l’orientation textuelle documentée du modèle compact à un livrable inspectable.
Langues prises en charge et entraînement
Les langues officiellement prises en charge sont l’anglais, l’allemand, le français, l’italien, le portugais, l’hindi, l’espagnol et le thaï. Le modèle est entraîné sur un ensemble linguistique plus large, distinct des huit langues explicitement prises en charge par la fiche. Identifiez la langue finale et les termes ou les identifiants qui doivent rester inchangés.
La famille est préentraînée sur jusqu’à neuf billions de jetons, avec une limite de données fixée à décembre 2023. Pour les modèles 1B et 3B, le fabricant utilise les sorties de Llama 3.1 8B et 70B comme cibles d’entraînement au niveau des jetons, ainsi que la distillation de connaissances après élagage. Il s’agit d’un processus d’entraînement; cela ne signifie pas que le modèle 1B déployé demande à ces modèles plus grands de répondre à chaque question de l’utilisateur.
La fiche décrit l’ajustement fin supervisé et l’alignement fondé sur les préférences, avec des cycles de postentraînement comprenant des exemples supervisés, l’échantillonnage par rejet et l’optimisation directe des préférences. Ces étapes produisent le comportement Instruct tout en conservant le point de contrôle nommé et la modalité exclusivement textuelle.
Conversation et éditions quantifiées
Le fabricant montre des messages système et utilisateur distincts utilisant le format de conversation correspondant. Définissez le rôle de l’assistant et les exigences de réponse séparément du texte source réel. Conservez la réponse antérieure pertinente lorsqu’un suivi demande une révision, une clarification ou une autre forme de la même information.
La version documente aussi des variantes distinctes quantifiées avec prise en compte de la quantification pendant l’entraînement et après entraînement. Leur précision et leur contexte de 8k appartiennent à ces variantes plutôt qu’à une spécification universelle pour cette entrée Instruct ordinaire. Utilisez le point de contrôle et la configuration exacts lorsque vous comparez une tâche répétée ou préparez un déploiement dérivé.
Limites substantielles
Cette version 1B est exclusivement textuelle. Elle ne doit pas hériter de l’entrée image des modèles de vision Llama 3.2 11B ou 90B, des capacités texte et image de Llama 4 ou des commandes d’effort de raisonnement nommées de Muse Spark. L’exemple de génération à 256 jetons dans la fiche est un réglage d’exemple, et non une capacité maximale de réponse énoncée séparément.
Un résultat final pratique est le résumé, la requête, l’enregistrement extrait ou le texte reformulé demandé, qui conserve le sens et les identifiants pertinents de la source. Les sources consultées n’indiquent pas de maximum strict distinct de jetons de sortie. Gardez la tâche ciblée, le contenu d’entrée complet pour cette opération et la distinction explicite entre les contextes ordinaire et quantifié.
", "aboutText": "Llama 3.2 1B Instruct est le modèle textuel compact de Meta ajusté aux instructions, avec 1,23 milliard de paramètres dans le tableau du fabricant. Il accepte du texte multilingue et renvoie du texte ou du code. La version vise le dialogue, la recherche de connaissances, la synthèse, les assistants de rédaction mobiles et la reformulation de requêtes ou d’instructions, plutôt que les tâches de compréhension d’images des éditions de vision distinctes de Llama.\n\nInformation sur le modèle et contexte\n\nLe modèle utilise une architecture Transformer autorégressive avec attention à requêtes groupées et plongements partagés. Meta distingue les modèles 1B et 3B préentraînés de ceux ajustés aux instructions. Cette entrée correspond au point de contrôle 1B Instruct, dont la tâche est de suivre la demande de l’utilisateur dans une conversation plutôt que de servir de fondation préentraînée.\n\nLa version textuelle ordinaire est documentée avec un contexte de 128k. Le fabricant indique séparément un contexte de 8k pour ses modèles textuels quantifiés. Ces configurations doivent rester distinctes : la quantification ne permet pas de transférer le contexte de la version ordinaire à chaque point de contrôle de format plus petit ni de déduire la capacité configurée d’un service donné.\n\nUtilisez le contexte pour les passages et la conversation pertinents à une opération définie. Un long document peut tout de même demander un bref résumé, une requête de recherche reformulée ou une réponse fondée sur les sources. Identifiez le contenu que le résultat doit conserver et la longueur ou les champs nécessaires à l’étape suivante de l’application.\n\nRecherche documentaire, résumés et reformulation\n\nPour la synthèse, fournissez le passage ou la conversation réelle et précisez le public, la longueur et les faits essentiels. Un résultat utile peut distinguer le problème central, les décisions déjà énoncées et les questions ouvertes. Si la source contient plusieurs sujets, identifiez celui que le résumé doit couvrir plutôt que de demander une réduction non orientée de l’ensemble.\n\nPour la recherche de connaissances, fournissez les passages source sélectionnés ou l’information renvoyée par un composant de recherche documentaire. Demandez l’énoncé qui répond à la question et le passage qui l’appuie. La réponse textuelle du modèle peut expliquer l’information trouvée, tandis que la recherche dans une collection privée relève de l’application connectée. Le simple intitulé de cet usage ne lui donne pas accès à cette collection.\n\nPour la reformulation de requêtes, donnez la question originale et l’objectif de la recherche. Demandez une reformulation concise qui préserve l’entité, la condition et l’information souhaitée. Une requête d’assistance peut être reformulée avec le terme de produit et l’action importants, sans ajouter de fait absent du message de l’utilisateur. Renvoyez la requête révisée séparément de toute explication si un autre composant l’utilise directement.\n\nPour un assistant de rédaction, précisez le lecteur, le ton et les faits sources avant de demander une courte lettre ou un passage révisé. Pour une extraction, définissez les champs et la façon de représenter l’information absente. Ce sont des opérations concrètes qui relient l’orientation textuelle documentée du modèle compact à un livrable inspectable.\n\nLangues prises en charge et entraînement\n\nLes langues officiellement prises en charge sont l’anglais, l’allemand, le français, l’italien, le portugais, l’hindi, l’espagnol et le thaï. Le modèle est entraîné sur un ensemble linguistique plus large, distinct des huit langues explicitement prises en charge par la fiche. Identifiez la langue finale et les termes ou les identifiants qui doivent rester inchangés.\n\nLa famille est préentraînée sur jusqu’à neuf billions de jetons, avec une limite de données fixée à décembre 2023. Pour les modèles 1B et 3B, le fabricant utilise les sorties de Llama 3.1 8B et 70B comme cibles d’entraînement au niveau des jetons, ainsi que la distillation de connaissances après élagage. Il s’agit d’un processus d’entraînement; cela ne signifie pas que le modèle 1B déployé demande à ces modèles plus grands de répondre à chaque question de l’utilisateur.\n\nLa fiche décrit l’ajustement fin supervisé et l’alignement fondé sur les préférences, avec des cycles de postentraînement comprenant des exemples supervisés, l’échantillonnage par rejet et l’optimisation directe des préférences. Ces étapes produisent le comportement Instruct tout en conservant le point de contrôle nommé et la modalité exclusivement textuelle.\n\nConversation et éditions quantifiées\n\nLe fabricant montre des messages système et utilisateur distincts utilisant le format de conversation correspondant. Définissez le rôle de l’assistant et les exigences de réponse séparément du texte source réel. Conservez la réponse antérieure pertinente lorsqu’un suivi demande une révision, une clarification ou une autre forme de la même information.\n\nLa version documente aussi des variantes distinctes quantifiées avec prise en compte de la quantification pendant l’entraînement et après entraînement. Leur précision et leur contexte de 8k appartiennent à ces variantes plutôt qu’à une spécification universelle pour cette entrée Instruct ordinaire. Utilisez le point de contrôle et la configuration exacts lorsque vous comparez une tâche répétée ou préparez un déploiement dérivé.\n\nLimites substantielles\n\nCette version 1B est exclusivement textuelle. Elle ne doit pas hériter de l’entrée image des modèles de vision Llama 3.2 11B ou 90B, des capacités texte et image de Llama 4 ou des commandes d’effort de raisonnement nommées de Muse Spark. L’exemple de génération à 256 jetons dans la fiche est un réglage d’exemple, et non une capacité maximale de réponse énoncée séparément.\n\nUn résultat final pratique est le résumé, la requête, l’enregistrement extrait ou le texte reformulé demandé, qui conserve le sens et les identifiants pertinents de la source. Les sources consultées n’indiquent pas de maximum strict distinct de jetons de sortie. Gardez la tâche ciblée, le contenu d’entrée complet pour cette opération et la distinction explicite entre les contextes ordinaire et quantifié.", "editorialOverlay": { "copy_fields": { "practical_html": "Exemple technique en anglais
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct est le modèle textuel compact de Meta à 1,23 milliard de paramètres pour le dialogue, la synthèse, la recherche de connaissances et la reformulation de requêtes. Le fabricant indique un contexte de 128k pour la version ordinaire et de 8k pour les variantes quantifiées distinctes, avec une sortie multilingue en texte et en code.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Llama 3.2 1B Instruct est le modèle textuel compact de Meta ajusté aux instructions, avec 1,23 milliard de paramètres dans le tableau du fabricant. Il accepte du texte multilingue et renvoie du texte ou du code. La version vise le dialogue, la recherche de connaissances, la synthèse, les assistants de rédaction mobiles et la reformulation de requêtes ou d’instructions, plutôt que les tâches de compréhension d’images des éditions de vision distinctes de Llama.
Information sur le modèle et contexte
Le modèle utilise une architecture Transformer autorégressive avec attention à requêtes groupées et plongements partagés. Meta distingue les modèles 1B et 3B préentraînés de ceux ajustés aux instructions. Cette entrée correspond au point de contrôle 1B Instruct, dont la tâche est de suivre la demande de l’utilisateur dans une conversation plutôt que de servir de fondation préentraînée.
La version textuelle ordinaire est documentée avec un contexte de 128k. Le fabricant indique séparément un contexte de 8k pour ses modèles textuels quantifiés. Ces configurations doivent rester distinctes : la quantification ne permet pas de transférer le contexte de la version ordinaire à chaque point de contrôle de format plus petit ni de déduire la capacité configurée d’un service donné.
Utilisez le contexte pour les passages et la conversation pertinents à une opération définie. Un long document peut tout de même demander un bref résumé, une requête de recherche reformulée ou une réponse fondée sur les sources. Identifiez le contenu que le résultat doit conserver et la longueur ou les champs nécessaires à l’étape suivante de l’application.
Recherche documentaire, résumés et reformulation
Pour la synthèse, fournissez le passage ou la conversation réelle et précisez le public, la longueur et les faits essentiels. Un résultat utile peut distinguer le problème central, les décisions déjà énoncées et les questions ouvertes. Si la source contient plusieurs sujets, identifiez celui que le résumé doit couvrir plutôt que de demander une réduction non orientée de l’ensemble.
Pour la recherche de connaissances, fournissez les passages source sélectionnés ou l’information renvoyée par un composant de recherche documentaire. Demandez l’énoncé qui répond à la question et le passage qui l’appuie. La réponse textuelle du modèle peut expliquer l’information trouvée, tandis que la recherche dans une collection privée relève de l’application connectée. Le simple intitulé de cet usage ne lui donne pas accès à cette collection.
Pour la reformulation de requêtes, donnez la question originale et l’objectif de la recherche. Demandez une reformulation concise qui préserve l’entité, la condition et l’information souhaitée. Une requête d’assistance peut être reformulée avec le terme de produit et l’action importants, sans ajouter de fait absent du message de l’utilisateur. Renvoyez la requête révisée séparément de toute explication si un autre composant l’utilise directement.
Pour un assistant de rédaction, précisez le lecteur, le ton et les faits sources avant de demander une courte lettre ou un passage révisé. Pour une extraction, définissez les champs et la façon de représenter l’information absente. Ce sont des opérations concrètes qui relient l’orientation textuelle documentée du modèle compact à un livrable inspectable.
Langues prises en charge et entraînement
Les langues officiellement prises en charge sont l’anglais, l’allemand, le français, l’italien, le portugais, l’hindi, l’espagnol et le thaï. Le modèle est entraîné sur un ensemble linguistique plus large, distinct des huit langues explicitement prises en charge par la fiche. Identifiez la langue finale et les termes ou les identifiants qui doivent rester inchangés.
La famille est préentraînée sur jusqu’à neuf billions de jetons, avec une limite de données fixée à décembre 2023. Pour les modèles 1B et 3B, le fabricant utilise les sorties de Llama 3.1 8B et 70B comme cibles d’entraînement au niveau des jetons, ainsi que la distillation de connaissances après élagage. Il s’agit d’un processus d’entraînement; cela ne signifie pas que le modèle 1B déployé demande à ces modèles plus grands de répondre à chaque question de l’utilisateur.
La fiche décrit l’ajustement fin supervisé et l’alignement fondé sur les préférences, avec des cycles de postentraînement comprenant des exemples supervisés, l’échantillonnage par rejet et l’optimisation directe des préférences. Ces étapes produisent le comportement Instruct tout en conservant le point de contrôle nommé et la modalité exclusivement textuelle.
Conversation et éditions quantifiées
Le fabricant montre des messages système et utilisateur distincts utilisant le format de conversation correspondant. Définissez le rôle de l’assistant et les exigences de réponse séparément du texte source réel. Conservez la réponse antérieure pertinente lorsqu’un suivi demande une révision, une clarification ou une autre forme de la même information.
La version documente aussi des variantes distinctes quantifiées avec prise en compte de la quantification pendant l’entraînement et après entraînement. Leur précision et leur contexte de 8k appartiennent à ces variantes plutôt qu’à une spécification universelle pour cette entrée Instruct ordinaire. Utilisez le point de contrôle et la configuration exacts lorsque vous comparez une tâche répétée ou préparez un déploiement dérivé.
Limites substantielles
Cette version 1B est exclusivement textuelle. Elle ne doit pas hériter de l’entrée image des modèles de vision Llama 3.2 11B ou 90B, des capacités texte et image de Llama 4 ou des commandes d’effort de raisonnement nommées de Muse Spark. L’exemple de génération à 256 jetons dans la fiche est un réglage d’exemple, et non une capacité maximale de réponse énoncée séparément.
Un résultat final pratique est le résumé, la requête, l’enregistrement extrait ou le texte reformulé demandé, qui conserve le sens et les identifiants pertinents de la source. Les sources consultées n’indiquent pas de maximum strict distinct de jetons de sortie. Gardez la tâche ciblée, le contenu d’entrée complet pour cette opération et la distinction explicite entre les contextes ordinaire et quantifié.
POST /v1/chat/completionstexttext| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites meta-llama/llama-3.2-1b-instruct | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites Exemples : system, user, assistant, tool, function Conditions: Ces rôles sont explicitement représentés par les types de compatibilité du code source ; l’ensemble exact des rôles reste propre à chaque modèle. Selon le modèle | Par défaut— |
Champmessages[].content | Typestring|content_part[]|null | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_calls | Typetool_call[] | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_call_id | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: role=tool ; utilisez l’ID réellement renvoyé | Par défaut— |
Champmessages[].name | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].reasoning_content | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: Réinjectez le raisonnement réellement renvoyé lorsque ce modèle l’utilise | Par défaut— |
Champmessages[].reasoning_details | Typeobject|array | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champmax_completion_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Champstream_options.include_usage | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtemperature | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtop_p | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champstop | Typestring|string[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools | Typefunction_tool[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools[].type | Typestring | ExigenceFacultatif | Valeurs et limites function Selon le modèle | Par défaut— |
Champtools[].function.name | Typestring | ExigenceObligatoire | Valeurs et limites S’applique lorsque: Fonction fournie comme outil | Par défaut— |
Champtools[].function.description | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtools[].function.parameters | TypeJSON_schema | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtool_choice | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champparallel_tool_calls | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champresponse_format | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning_effort | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champservice_tier | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champinstructions | Typestring | ExigenceFacultatif | Valeurs et limites Champ de compatibilité | Par défaut— |
Champfunctions | Typefunction[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champfunction_call | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champprompt_cache_options | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmodalities | Typestring[] | ExigenceFacultatif | Valeurs et limites text | Par défaut— |
Champprovider | Typeobject | ExigenceFacultatif | Valeurs et limites Conditions: provider.options est refusé sur cette route textuelle Ultra | Par défaut— |
Champcache_control.ttl | Typestring | ExigenceFacultatif | Valeurs et limites Conditions: La valeur 1h est refusée là où le cache des prompts est configuré | Par défaut— |
Texte · Texte UTF8
messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages |
Paramètrematerial_types | Contrattext |
Paramètremessages | ContratTableau de messages avec une structure role/content |
Paramètrefile_material | ContratDocument UTF-8 réel inséré comme texte littéral ; aucun ID de fichier déduit |
Paramètreoptional_controls | Contratstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Paramètrecontrol_scope | ContratPropre au modèle ; les outils de fonctions de l’utilisateur diffèrent des outils hébergés |
Paramètreoutput_modalities | Contrattext |
Paramètrehosted_operations | Contratfalse |
Paramètremultimodal_input_binding | Contratnull |
Cycle de vie : synchronous_or_streamed
Envoyez l’ID exact du modèle avec messages.
La longueur du contexte n’est pas un plafond de sortie.
Un fichier texte peut fournir du texte littéral ; les entrées image/audio/objet fichier nécessitent une liaison exacte.
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Jetons de contexte, plus de | Jetons de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des jetons | Barème tarifaireTarif de base | Jetons de contexte, plus de— | Jetons de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Jetons en entrée $0.000054 / 1K jetons Sortie · Jetons en sortie $0.000402 / 1K jetons Entrée · Lecture du cache — / 1K jetons Entrée · Écriture dans le cache — / 1K jetons Entrée · Écriture dans le cache, 1 h — / 1K jetons |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Jetons de contexte, plus de0 | Jetons de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Jetons en entrée $0.000054 / 1K jetons Sortie · Jetons en sortie $0.000402 / 1K jetons Entrée · Lecture du cache — / 1K jetons Entrée · Écriture dans le cache — / 1K jetons Entrée · Écriture dans le cache, 1 h — / 1K jetons |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-1b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, et conservez le motif final d’arrêt et les données d’utilisation.
Conservez les ID et les en-têtes de requête/réponse. Aucune URL générique de récupération de tâche textuelle n’est fournie.
| Champ | Type |
|---|---|
Champchoices[].index | Typeinteger |
Champchoices[].message.content | Typestring|null |
Champchoices[].message.tool_calls | Typetool_call[] |
Champchoices[].message.reasoning_content | Typestring |
Champchoices[].message.reasoning_details | Typeobject|array |
Champchoices[].finish_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des éléments fournis ou valeur de paramètre invalides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Utilisez les chemins de méthode indiqués ci-dessus.
meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct est le modèle textuel compact de Meta à 1,23 milliard de paramètres pour le dialogue, la synthèse, la recherche de connaissances et la reformulation de requêtes. Le fabricant indique un contexte de 128k pour la version ordinaire et de 8k pour les variantes quantifiées distinctes, avec une sortie multilingue en texte et en code.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Llama 3.2 1B Instruct est le modèle textuel compact de Meta ajusté aux instructions, avec 1,23 milliard de paramètres dans le tableau du fabricant. Il accepte du texte multilingue et renvoie du texte ou du code. La version vise le dialogue, la recherche de connaissances, la synthèse, les assistants de rédaction mobiles et la reformulation de requêtes ou d’instructions, plutôt que les tâches de compréhension d’images des éditions de vision distinctes de Llama.
Information sur le modèle et contexte
Le modèle utilise une architecture Transformer autorégressive avec attention à requêtes groupées et plongements partagés. Meta distingue les modèles 1B et 3B préentraînés de ceux ajustés aux instructions. Cette entrée correspond au point de contrôle 1B Instruct, dont la tâche est de suivre la demande de l’utilisateur dans une conversation plutôt que de servir de fondation préentraînée.
La version textuelle ordinaire est documentée avec un contexte de 128k. Le fabricant indique séparément un contexte de 8k pour ses modèles textuels quantifiés. Ces configurations doivent rester distinctes : la quantification ne permet pas de transférer le contexte de la version ordinaire à chaque point de contrôle de format plus petit ni de déduire la capacité configurée d’un service donné.
Utilisez le contexte pour les passages et la conversation pertinents à une opération définie. Un long document peut tout de même demander un bref résumé, une requête de recherche reformulée ou une réponse fondée sur les sources. Identifiez le contenu que le résultat doit conserver et la longueur ou les champs nécessaires à l’étape suivante de l’application.
Recherche documentaire, résumés et reformulation
Pour la synthèse, fournissez le passage ou la conversation réelle et précisez le public, la longueur et les faits essentiels. Un résultat utile peut distinguer le problème central, les décisions déjà énoncées et les questions ouvertes. Si la source contient plusieurs sujets, identifiez celui que le résumé doit couvrir plutôt que de demander une réduction non orientée de l’ensemble.
Pour la recherche de connaissances, fournissez les passages source sélectionnés ou l’information renvoyée par un composant de recherche documentaire. Demandez l’énoncé qui répond à la question et le passage qui l’appuie. La réponse textuelle du modèle peut expliquer l’information trouvée, tandis que la recherche dans une collection privée relève de l’application connectée. Le simple intitulé de cet usage ne lui donne pas accès à cette collection.
Pour la reformulation de requêtes, donnez la question originale et l’objectif de la recherche. Demandez une reformulation concise qui préserve l’entité, la condition et l’information souhaitée. Une requête d’assistance peut être reformulée avec le terme de produit et l’action importants, sans ajouter de fait absent du message de l’utilisateur. Renvoyez la requête révisée séparément de toute explication si un autre composant l’utilise directement.
Pour un assistant de rédaction, précisez le lecteur, le ton et les faits sources avant de demander une courte lettre ou un passage révisé. Pour une extraction, définissez les champs et la façon de représenter l’information absente. Ce sont des opérations concrètes qui relient l’orientation textuelle documentée du modèle compact à un livrable inspectable.
Langues prises en charge et entraînement
Les langues officiellement prises en charge sont l’anglais, l’allemand, le français, l’italien, le portugais, l’hindi, l’espagnol et le thaï. Le modèle est entraîné sur un ensemble linguistique plus large, distinct des huit langues explicitement prises en charge par la fiche. Identifiez la langue finale et les termes ou les identifiants qui doivent rester inchangés.
La famille est préentraînée sur jusqu’à neuf billions de jetons, avec une limite de données fixée à décembre 2023. Pour les modèles 1B et 3B, le fabricant utilise les sorties de Llama 3.1 8B et 70B comme cibles d’entraînement au niveau des jetons, ainsi que la distillation de connaissances après élagage. Il s’agit d’un processus d’entraînement; cela ne signifie pas que le modèle 1B déployé demande à ces modèles plus grands de répondre à chaque question de l’utilisateur.
La fiche décrit l’ajustement fin supervisé et l’alignement fondé sur les préférences, avec des cycles de postentraînement comprenant des exemples supervisés, l’échantillonnage par rejet et l’optimisation directe des préférences. Ces étapes produisent le comportement Instruct tout en conservant le point de contrôle nommé et la modalité exclusivement textuelle.
Conversation et éditions quantifiées
Le fabricant montre des messages système et utilisateur distincts utilisant le format de conversation correspondant. Définissez le rôle de l’assistant et les exigences de réponse séparément du texte source réel. Conservez la réponse antérieure pertinente lorsqu’un suivi demande une révision, une clarification ou une autre forme de la même information.
La version documente aussi des variantes distinctes quantifiées avec prise en compte de la quantification pendant l’entraînement et après entraînement. Leur précision et leur contexte de 8k appartiennent à ces variantes plutôt qu’à une spécification universelle pour cette entrée Instruct ordinaire. Utilisez le point de contrôle et la configuration exacts lorsque vous comparez une tâche répétée ou préparez un déploiement dérivé.
Limites substantielles
Cette version 1B est exclusivement textuelle. Elle ne doit pas hériter de l’entrée image des modèles de vision Llama 3.2 11B ou 90B, des capacités texte et image de Llama 4 ou des commandes d’effort de raisonnement nommées de Muse Spark. L’exemple de génération à 256 jetons dans la fiche est un réglage d’exemple, et non une capacité maximale de réponse énoncée séparément.
Un résultat final pratique est le résumé, la requête, l’enregistrement extrait ou le texte reformulé demandé, qui conserve le sens et les identifiants pertinents de la source. Les sources consultées n’indiquent pas de maximum strict distinct de jetons de sortie. Gardez la tâche ciblée, le contenu d’entrée complet pour cette opération et la distinction explicite entre les contextes ordinaire et quantifié.
POST /v1/messagestextjson, sse| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites meta-llama/llama-3.2-1b-instruct | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites user, assistant | Par défaut— |
Champmessages[].content | Typestring | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Texte · Texte UTF-8
Chaîne messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages, max_tokens |
Paramètreoptional_controls | Contratstream |
Paramètrematerial_types | Contrattext |
Paramètretext_file_material | ContratLisez le document UTF-8 réel et placez son texte dans l’entrée indiquée ou dans la chaîne de contenu du message. |
Cycle de vie : synchronous_or_streamed
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Jetons de contexte, plus de | Jetons de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des jetons | Barème tarifaireTarif de base | Jetons de contexte, plus de— | Jetons de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Jetons en entrée $0.000054 / 1K jetons Sortie · Jetons en sortie $0.000402 / 1K jetons Entrée · Lecture du cache — / 1K jetons Entrée · Écriture dans le cache — / 1K jetons Entrée · Écriture dans le cache, 1 h — / 1K jetons |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Jetons de contexte, plus de0 | Jetons de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Jetons en entrée $0.000054 / 1K jetons Sortie · Jetons en sortie $0.000402 / 1K jetons Entrée · Lecture du cache — / 1K jetons Entrée · Écriture dans le cache — / 1K jetons Entrée · Écriture dans le cache, 1 h — / 1K jetons |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
{\n "model": "meta-llama/llama-3.2-1b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez tous les blocs de contenu, les signatures de raisonnement et les ID réels d’utilisation d’outils. Assemblez tous les deltas de blocs SSE ; un premier bloc de texte ne constitue pas la sortie complète.
Conservez les ID et les en-têtes de requête/réponse. Aucune URL générique de récupération de tâche textuelle n’est fournie.
| Champ | Type |
|---|---|
Champid | Typestring |
Champmodel | Typestring |
Champcontent[] | Typetext|thinking|tool_use|other content block |
Champstop_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des éléments fournis ou valeur de paramètre invalides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Utilisez les chemins de méthode indiqués ci-dessus.
Exemple technique en anglais
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.