Llama 3.2 1B Instruct est le modèle textuel compact de Meta ajusté sur des instructions, avec 1,23 milliard de paramètres dans le tableau du fabricant. Il accepte du texte multilingue et renvoie du texte ou du code. La version vise le dialogue, la recherche de connaissances, la synthèse, les assistants mobiles de rédaction et la reformulation de requêtes ou de prompts, plutôt que les tâches de compréhension d’images des éditions visuelles distinctes de Llama.
Informations sur le modèle et contexte
Le modèle utilise une architecture Transformer autorégressive avec attention à requêtes groupées et embeddings partagés. Meta distingue les modèles 1B et 3B préentraînés de ceux ajustés sur des instructions. Cette entrée concerne le checkpoint 1B Instruct, dont le rôle est de suivre la demande de l’utilisateur dans une conversation plutôt que de servir de modèle de base préentraîné.
La version textuelle ordinaire est documentée avec un contexte de 128k. Le fabricant annonce séparément un contexte de 8k pour ses modèles textuels quantifiés. Ces configurations doivent rester distinctes : la quantification ne permet pas de transférer le contexte de la version ordinaire à chaque checkpoint de format réduit ni de déduire la capacité configurée d’un service donné.
Utilisez le contexte pour les passages et la conversation pertinents pour une opération définie. Un document long peut néanmoins appeler un bref résumé, une requête de recherche reformulée ou une réponse fondée sur une source. Identifiez les contenus à conserver dans le résultat ainsi que la longueur ou les champs nécessaires à l’étape suivante de l’application.
Recherche documentaire, résumés et réécriture
Pour une synthèse, fournissez le passage ou la conversation réels et précisez le public, la longueur et les faits essentiels. Un résultat utile peut distinguer le problème central, les décisions déjà énoncées et les questions ouvertes. Si la source comporte plusieurs sujets, identifiez celui que le résumé doit couvrir plutôt que de demander une réduction générale de l’ensemble.
Pour la recherche de connaissances, fournissez les passages sources sélectionnés ou les informations renvoyées par un composant de recherche. Demandez l’énoncé répondant à la question et le passage qui l’étaye. La réponse textuelle du modèle peut expliquer des informations récupérées, tandis que la recherche dans une collection privée reste une tâche de l’application connectée. La simple mention de ce cas d’usage ne lui donne pas accès à cette collection.
Pour la reformulation de requêtes, donnez la question d’origine et l’objectif de la recherche. Demandez une reformulation concise qui préserve l’entité, la condition et l’information souhaitée. Une requête d’assistance peut être réécrite avec le terme produit et l’action pertinents, sans ajouter de fait absent du message de l’utilisateur. Renvoyez la requête révisée séparément de toute explication si un autre composant doit l’utiliser directement.
Pour un assistant de rédaction, précisez le lecteur, le ton et les faits sources avant de demander une courte lettre ou un passage révisé. Pour une tâche d’extraction, définissez les champs et la représentation des informations absentes. Ce sont des opérations concrètes qui relient l’orientation textuelle documentée du modèle compact à un livrable vérifiable.
Langues prises en charge et entraînement
Les langues officiellement prises en charge sont l’anglais, l’allemand, le français, l’italien, le portugais, l’hindi, l’espagnol et le thaï. Le modèle est entraîné sur un ensemble linguistique plus large, distinct des huit langues explicitement prises en charge dans sa fiche. Identifiez la langue finale et tout terme ou identifiant devant rester inchangé.
La famille est préentraînée sur un volume allant jusqu’à neuf billions de tokens, avec une limite des données en décembre 2023. Pour les modèles 1B et 3B, le fabricant utilise les sorties de Llama 3.1 8B et 70B comme cibles d’entraînement au niveau des tokens et une distillation des connaissances après élagage. C’est un processus d’entraînement ; cela ne signifie pas que le modèle 1B déployé demande à ces modèles plus grands de répondre à chaque question de l’utilisateur.
La fiche décrit un ajustement supervisé et un alignement fondé sur les préférences, avec des cycles de postentraînement impliquant des exemples supervisés, de l’échantillonnage par rejet et de l’optimisation directe des préférences. Ces étapes produisent le comportement Instruct tout en conservant le checkpoint nommé et la modalité exclusivement textuelle.
Conversation et éditions quantifiées
Le fabricant présente des messages système et utilisateur distincts au moyen du format de conversation correspondant. Définissez le rôle de l’assistant et les exigences de réponse séparément du texte source réel. Conservez la réponse antérieure pertinente lorsqu’un échange suivant demande une révision, une clarification ou une autre forme de la même information.
La publication documente aussi des variantes distinctes obtenues par entraînement tenant compte de la quantification et par quantification après entraînement. Leur précision et leur contexte de 8k appartiennent à ces variantes plutôt qu’à une spécification universelle de cette entrée Instruct ordinaire. Utilisez le checkpoint et la configuration exacts pour comparer une tâche répétée ou préparer un déploiement dérivé.
Limites de fond
Cette version 1B est exclusivement textuelle. Elle ne doit pas hériter des images en entrée des modèles visuels 11B ou 90B de Llama 3.2, des capacités texte et image de Llama 4 ou des commandes nommées d’effort de raisonnement de Muse Spark. L’exemple de génération de 256 tokens de la fiche est un exemple de réglage, et non une capacité maximale de réponse déclarée séparément.
Un résultat final pratique est le résumé, la requête, l’enregistrement extrait ou le texte réécrit demandé, en préservant le sens et les identifiants pertinents de la source. Les sources consultées n’indiquent pas de maximum strict distinct pour les tokens de sortie. Gardez la tâche ciblée, les entrées complètes pour cette opération et la distinction explicite entre le contexte ordinaire et le contexte quantifié.
", "aboutText": "Llama 3.2 1B Instruct est le modèle textuel compact de Meta ajusté sur des instructions, avec 1,23 milliard de paramètres dans le tableau du fabricant. Il accepte du texte multilingue et renvoie du texte ou du code. La version vise le dialogue, la recherche de connaissances, la synthèse, les assistants mobiles de rédaction et la reformulation de requêtes ou de prompts, plutôt que les tâches de compréhension d’images des éditions visuelles distinctes de Llama.\n\nInformations sur le modèle et contexte\n\nLe modèle utilise une architecture Transformer autorégressive avec attention à requêtes groupées et embeddings partagés. Meta distingue les modèles 1B et 3B préentraînés de ceux ajustés sur des instructions. Cette entrée concerne le checkpoint 1B Instruct, dont le rôle est de suivre la demande de l’utilisateur dans une conversation plutôt que de servir de modèle de base préentraîné.\n\nLa version textuelle ordinaire est documentée avec un contexte de 128k. Le fabricant annonce séparément un contexte de 8k pour ses modèles textuels quantifiés. Ces configurations doivent rester distinctes : la quantification ne permet pas de transférer le contexte de la version ordinaire à chaque checkpoint de format réduit ni de déduire la capacité configurée d’un service donné.\n\nUtilisez le contexte pour les passages et la conversation pertinents pour une opération définie. Un document long peut néanmoins appeler un bref résumé, une requête de recherche reformulée ou une réponse fondée sur une source. Identifiez les contenus à conserver dans le résultat ainsi que la longueur ou les champs nécessaires à l’étape suivante de l’application.\n\nRecherche documentaire, résumés et réécriture\n\nPour une synthèse, fournissez le passage ou la conversation réels et précisez le public, la longueur et les faits essentiels. Un résultat utile peut distinguer le problème central, les décisions déjà énoncées et les questions ouvertes. Si la source comporte plusieurs sujets, identifiez celui que le résumé doit couvrir plutôt que de demander une réduction générale de l’ensemble.\n\nPour la recherche de connaissances, fournissez les passages sources sélectionnés ou les informations renvoyées par un composant de recherche. Demandez l’énoncé répondant à la question et le passage qui l’étaye. La réponse textuelle du modèle peut expliquer des informations récupérées, tandis que la recherche dans une collection privée reste une tâche de l’application connectée. La simple mention de ce cas d’usage ne lui donne pas accès à cette collection.\n\nPour la reformulation de requêtes, donnez la question d’origine et l’objectif de la recherche. Demandez une reformulation concise qui préserve l’entité, la condition et l’information souhaitée. Une requête d’assistance peut être réécrite avec le terme produit et l’action pertinents, sans ajouter de fait absent du message de l’utilisateur. Renvoyez la requête révisée séparément de toute explication si un autre composant doit l’utiliser directement.\n\nPour un assistant de rédaction, précisez le lecteur, le ton et les faits sources avant de demander une courte lettre ou un passage révisé. Pour une tâche d’extraction, définissez les champs et la représentation des informations absentes. Ce sont des opérations concrètes qui relient l’orientation textuelle documentée du modèle compact à un livrable vérifiable.\n\nLangues prises en charge et entraînement\n\nLes langues officiellement prises en charge sont l’anglais, l’allemand, le français, l’italien, le portugais, l’hindi, l’espagnol et le thaï. Le modèle est entraîné sur un ensemble linguistique plus large, distinct des huit langues explicitement prises en charge dans sa fiche. Identifiez la langue finale et tout terme ou identifiant devant rester inchangé.\n\nLa famille est préentraînée sur un volume allant jusqu’à neuf billions de tokens, avec une limite des données en décembre 2023. Pour les modèles 1B et 3B, le fabricant utilise les sorties de Llama 3.1 8B et 70B comme cibles d’entraînement au niveau des tokens et une distillation des connaissances après élagage. C’est un processus d’entraînement ; cela ne signifie pas que le modèle 1B déployé demande à ces modèles plus grands de répondre à chaque question de l’utilisateur.\n\nLa fiche décrit un ajustement supervisé et un alignement fondé sur les préférences, avec des cycles de postentraînement impliquant des exemples supervisés, de l’échantillonnage par rejet et de l’optimisation directe des préférences. Ces étapes produisent le comportement Instruct tout en conservant le checkpoint nommé et la modalité exclusivement textuelle.\n\nConversation et éditions quantifiées\n\nLe fabricant présente des messages système et utilisateur distincts au moyen du format de conversation correspondant. Définissez le rôle de l’assistant et les exigences de réponse séparément du texte source réel. Conservez la réponse antérieure pertinente lorsqu’un échange suivant demande une révision, une clarification ou une autre forme de la même information.\n\nLa publication documente aussi des variantes distinctes obtenues par entraînement tenant compte de la quantification et par quantification après entraînement. Leur précision et leur contexte de 8k appartiennent à ces variantes plutôt qu’à une spécification universelle de cette entrée Instruct ordinaire. Utilisez le checkpoint et la configuration exacts pour comparer une tâche répétée ou préparer un déploiement dérivé.\n\nLimites de fond\n\nCette version 1B est exclusivement textuelle. Elle ne doit pas hériter des images en entrée des modèles visuels 11B ou 90B de Llama 3.2, des capacités texte et image de Llama 4 ou des commandes nommées d’effort de raisonnement de Muse Spark. L’exemple de génération de 256 tokens de la fiche est un exemple de réglage, et non une capacité maximale de réponse déclarée séparément.\n\nUn résultat final pratique est le résumé, la requête, l’enregistrement extrait ou le texte réécrit demandé, en préservant le sens et les identifiants pertinents de la source. Les sources consultées n’indiquent pas de maximum strict distinct pour les tokens de sortie. Gardez la tâche ciblée, les entrées complètes pour cette opération et la distinction explicite entre le contexte ordinaire et le contexte quantifié.", "editorialOverlay": { "copy_fields": { "practical_html": "Exemple technique en anglais
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct est le modèle textuel compact de Meta à 1,23 milliard de paramètres pour le dialogue, la synthèse, la recherche de connaissances et la reformulation de requêtes. Le fabricant annonce un contexte de 128k pour la version ordinaire et de 8k pour les variantes quantifiées distinctes, avec des sorties textuelles multilingues et du code.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Llama 3.2 1B Instruct est le modèle textuel compact de Meta ajusté sur des instructions, avec 1,23 milliard de paramètres dans le tableau du fabricant. Il accepte du texte multilingue et renvoie du texte ou du code. La version vise le dialogue, la recherche de connaissances, la synthèse, les assistants mobiles de rédaction et la reformulation de requêtes ou de prompts, plutôt que les tâches de compréhension d’images des éditions visuelles distinctes de Llama.
Informations sur le modèle et contexte
Le modèle utilise une architecture Transformer autorégressive avec attention à requêtes groupées et embeddings partagés. Meta distingue les modèles 1B et 3B préentraînés de ceux ajustés sur des instructions. Cette entrée concerne le checkpoint 1B Instruct, dont le rôle est de suivre la demande de l’utilisateur dans une conversation plutôt que de servir de modèle de base préentraîné.
La version textuelle ordinaire est documentée avec un contexte de 128k. Le fabricant annonce séparément un contexte de 8k pour ses modèles textuels quantifiés. Ces configurations doivent rester distinctes : la quantification ne permet pas de transférer le contexte de la version ordinaire à chaque checkpoint de format réduit ni de déduire la capacité configurée d’un service donné.
Utilisez le contexte pour les passages et la conversation pertinents pour une opération définie. Un document long peut néanmoins appeler un bref résumé, une requête de recherche reformulée ou une réponse fondée sur une source. Identifiez les contenus à conserver dans le résultat ainsi que la longueur ou les champs nécessaires à l’étape suivante de l’application.
Recherche documentaire, résumés et réécriture
Pour une synthèse, fournissez le passage ou la conversation réels et précisez le public, la longueur et les faits essentiels. Un résultat utile peut distinguer le problème central, les décisions déjà énoncées et les questions ouvertes. Si la source comporte plusieurs sujets, identifiez celui que le résumé doit couvrir plutôt que de demander une réduction générale de l’ensemble.
Pour la recherche de connaissances, fournissez les passages sources sélectionnés ou les informations renvoyées par un composant de recherche. Demandez l’énoncé répondant à la question et le passage qui l’étaye. La réponse textuelle du modèle peut expliquer des informations récupérées, tandis que la recherche dans une collection privée reste une tâche de l’application connectée. La simple mention de ce cas d’usage ne lui donne pas accès à cette collection.
Pour la reformulation de requêtes, donnez la question d’origine et l’objectif de la recherche. Demandez une reformulation concise qui préserve l’entité, la condition et l’information souhaitée. Une requête d’assistance peut être réécrite avec le terme produit et l’action pertinents, sans ajouter de fait absent du message de l’utilisateur. Renvoyez la requête révisée séparément de toute explication si un autre composant doit l’utiliser directement.
Pour un assistant de rédaction, précisez le lecteur, le ton et les faits sources avant de demander une courte lettre ou un passage révisé. Pour une tâche d’extraction, définissez les champs et la représentation des informations absentes. Ce sont des opérations concrètes qui relient l’orientation textuelle documentée du modèle compact à un livrable vérifiable.
Langues prises en charge et entraînement
Les langues officiellement prises en charge sont l’anglais, l’allemand, le français, l’italien, le portugais, l’hindi, l’espagnol et le thaï. Le modèle est entraîné sur un ensemble linguistique plus large, distinct des huit langues explicitement prises en charge dans sa fiche. Identifiez la langue finale et tout terme ou identifiant devant rester inchangé.
La famille est préentraînée sur un volume allant jusqu’à neuf billions de tokens, avec une limite des données en décembre 2023. Pour les modèles 1B et 3B, le fabricant utilise les sorties de Llama 3.1 8B et 70B comme cibles d’entraînement au niveau des tokens et une distillation des connaissances après élagage. C’est un processus d’entraînement ; cela ne signifie pas que le modèle 1B déployé demande à ces modèles plus grands de répondre à chaque question de l’utilisateur.
La fiche décrit un ajustement supervisé et un alignement fondé sur les préférences, avec des cycles de postentraînement impliquant des exemples supervisés, de l’échantillonnage par rejet et de l’optimisation directe des préférences. Ces étapes produisent le comportement Instruct tout en conservant le checkpoint nommé et la modalité exclusivement textuelle.
Conversation et éditions quantifiées
Le fabricant présente des messages système et utilisateur distincts au moyen du format de conversation correspondant. Définissez le rôle de l’assistant et les exigences de réponse séparément du texte source réel. Conservez la réponse antérieure pertinente lorsqu’un échange suivant demande une révision, une clarification ou une autre forme de la même information.
La publication documente aussi des variantes distinctes obtenues par entraînement tenant compte de la quantification et par quantification après entraînement. Leur précision et leur contexte de 8k appartiennent à ces variantes plutôt qu’à une spécification universelle de cette entrée Instruct ordinaire. Utilisez le checkpoint et la configuration exacts pour comparer une tâche répétée ou préparer un déploiement dérivé.
Limites de fond
Cette version 1B est exclusivement textuelle. Elle ne doit pas hériter des images en entrée des modèles visuels 11B ou 90B de Llama 3.2, des capacités texte et image de Llama 4 ou des commandes nommées d’effort de raisonnement de Muse Spark. L’exemple de génération de 256 tokens de la fiche est un exemple de réglage, et non une capacité maximale de réponse déclarée séparément.
Un résultat final pratique est le résumé, la requête, l’enregistrement extrait ou le texte réécrit demandé, en préservant le sens et les identifiants pertinents de la source. Les sources consultées n’indiquent pas de maximum strict distinct pour les tokens de sortie. Gardez la tâche ciblée, les entrées complètes pour cette opération et la distinction explicite entre le contexte ordinaire et le contexte quantifié.
POST /v1/chat/completionstexttext| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites meta-llama/llama-3.2-1b-instruct | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites Exemples : system, user, assistant, tool, function Conditions: Ces rôles sont explicitement représentés par les types de compatibilité du code source ; l’ensemble exact des rôles reste propre à chaque modèle. Selon le modèle | Par défaut— |
Champmessages[].content | Typestring|content_part[]|null | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_calls | Typetool_call[] | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_call_id | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: role=tool ; utilisez l’identifiant réellement renvoyé | Par défaut— |
Champmessages[].name | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].reasoning_content | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: Réinjectez le raisonnement réellement renvoyé lorsque ce modèle l’utilise | Par défaut— |
Champmessages[].reasoning_details | Typeobject|array | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champmax_completion_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Champstream_options.include_usage | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtemperature | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtop_p | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champstop | Typestring|string[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools | Typefunction_tool[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools[].type | Typestring | ExigenceFacultatif | Valeurs et limites function Selon le modèle | Par défaut— |
Champtools[].function.name | Typestring | ExigenceObligatoire | Valeurs et limites S’applique lorsque: outil de fonction fourni | Par défaut— |
Champtools[].function.description | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtools[].function.parameters | TypeJSON_schema | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtool_choice | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champparallel_tool_calls | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champresponse_format | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning_effort | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champservice_tier | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champinstructions | Typestring | ExigenceFacultatif | Valeurs et limites Champ de compatibilité | Par défaut— |
Champfunctions | Typefunction[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champfunction_call | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champprompt_cache_options | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmodalities | Typestring[] | ExigenceFacultatif | Valeurs et limites text | Par défaut— |
Champprovider | Typeobject | ExigenceFacultatif | Valeurs et limites Conditions: provider.options est rejeté sur cette route textuelle Ultra | Par défaut— |
Champcache_control.ttl | Typestring | ExigenceFacultatif | Valeurs et limites Conditions: 1h est rejeté dans les emplacements réels du cache de prompt | Par défaut— |
Texte · Texte UTF8
messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages |
Paramètrematerial_types | Contrattext |
Paramètremessages | Contrattableau de messages avec une structure role/content |
Paramètrefile_material | Contratdocument UTF-8 réel inséré sous forme de texte littéral ; aucun identifiant de fichier déduit |
Paramètreoptional_controls | Contratstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Paramètrecontrol_scope | Contratpropre au modèle ; les outils de fonctions de l’utilisateur diffèrent des outils hébergés |
Paramètreoutput_modalities | Contrattext |
Paramètrehosted_operations | Contratfalse |
Paramètremultimodal_input_binding | Contratnull |
Cycle de vie : synchronous_or_streamed
Envoyez l’identifiant exact du modèle avec messages.
La longueur du contexte n’est pas un plafond de sortie.
Un fichier texte peut fournir du texte littéral ; les entrées image/audio/objets fichier nécessitent une liaison exacte.
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.000054 / 1K tokens Sortie · Tokens en sortie $0.000402 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.000054 / 1K tokens Sortie · Tokens en sortie $0.000402 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-1b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, puis conservez le motif final de terminaison et les données d’utilisation.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champchoices[].index | Typeinteger |
Champchoices[].message.content | Typestring|null |
Champchoices[].message.tool_calls | Typetool_call[] |
Champchoices[].message.reasoning_content | Typestring |
Champchoices[].message.reasoning_details | Typeobject|array |
Champchoices[].finish_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Utilisez les chemins de méthode indiqués ci-dessus.
meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct est le modèle textuel compact de Meta à 1,23 milliard de paramètres pour le dialogue, la synthèse, la recherche de connaissances et la reformulation de requêtes. Le fabricant annonce un contexte de 128k pour la version ordinaire et de 8k pour les variantes quantifiées distinctes, avec des sorties textuelles multilingues et du code.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Llama 3.2 1B Instruct est le modèle textuel compact de Meta ajusté sur des instructions, avec 1,23 milliard de paramètres dans le tableau du fabricant. Il accepte du texte multilingue et renvoie du texte ou du code. La version vise le dialogue, la recherche de connaissances, la synthèse, les assistants mobiles de rédaction et la reformulation de requêtes ou de prompts, plutôt que les tâches de compréhension d’images des éditions visuelles distinctes de Llama.
Informations sur le modèle et contexte
Le modèle utilise une architecture Transformer autorégressive avec attention à requêtes groupées et embeddings partagés. Meta distingue les modèles 1B et 3B préentraînés de ceux ajustés sur des instructions. Cette entrée concerne le checkpoint 1B Instruct, dont le rôle est de suivre la demande de l’utilisateur dans une conversation plutôt que de servir de modèle de base préentraîné.
La version textuelle ordinaire est documentée avec un contexte de 128k. Le fabricant annonce séparément un contexte de 8k pour ses modèles textuels quantifiés. Ces configurations doivent rester distinctes : la quantification ne permet pas de transférer le contexte de la version ordinaire à chaque checkpoint de format réduit ni de déduire la capacité configurée d’un service donné.
Utilisez le contexte pour les passages et la conversation pertinents pour une opération définie. Un document long peut néanmoins appeler un bref résumé, une requête de recherche reformulée ou une réponse fondée sur une source. Identifiez les contenus à conserver dans le résultat ainsi que la longueur ou les champs nécessaires à l’étape suivante de l’application.
Recherche documentaire, résumés et réécriture
Pour une synthèse, fournissez le passage ou la conversation réels et précisez le public, la longueur et les faits essentiels. Un résultat utile peut distinguer le problème central, les décisions déjà énoncées et les questions ouvertes. Si la source comporte plusieurs sujets, identifiez celui que le résumé doit couvrir plutôt que de demander une réduction générale de l’ensemble.
Pour la recherche de connaissances, fournissez les passages sources sélectionnés ou les informations renvoyées par un composant de recherche. Demandez l’énoncé répondant à la question et le passage qui l’étaye. La réponse textuelle du modèle peut expliquer des informations récupérées, tandis que la recherche dans une collection privée reste une tâche de l’application connectée. La simple mention de ce cas d’usage ne lui donne pas accès à cette collection.
Pour la reformulation de requêtes, donnez la question d’origine et l’objectif de la recherche. Demandez une reformulation concise qui préserve l’entité, la condition et l’information souhaitée. Une requête d’assistance peut être réécrite avec le terme produit et l’action pertinents, sans ajouter de fait absent du message de l’utilisateur. Renvoyez la requête révisée séparément de toute explication si un autre composant doit l’utiliser directement.
Pour un assistant de rédaction, précisez le lecteur, le ton et les faits sources avant de demander une courte lettre ou un passage révisé. Pour une tâche d’extraction, définissez les champs et la représentation des informations absentes. Ce sont des opérations concrètes qui relient l’orientation textuelle documentée du modèle compact à un livrable vérifiable.
Langues prises en charge et entraînement
Les langues officiellement prises en charge sont l’anglais, l’allemand, le français, l’italien, le portugais, l’hindi, l’espagnol et le thaï. Le modèle est entraîné sur un ensemble linguistique plus large, distinct des huit langues explicitement prises en charge dans sa fiche. Identifiez la langue finale et tout terme ou identifiant devant rester inchangé.
La famille est préentraînée sur un volume allant jusqu’à neuf billions de tokens, avec une limite des données en décembre 2023. Pour les modèles 1B et 3B, le fabricant utilise les sorties de Llama 3.1 8B et 70B comme cibles d’entraînement au niveau des tokens et une distillation des connaissances après élagage. C’est un processus d’entraînement ; cela ne signifie pas que le modèle 1B déployé demande à ces modèles plus grands de répondre à chaque question de l’utilisateur.
La fiche décrit un ajustement supervisé et un alignement fondé sur les préférences, avec des cycles de postentraînement impliquant des exemples supervisés, de l’échantillonnage par rejet et de l’optimisation directe des préférences. Ces étapes produisent le comportement Instruct tout en conservant le checkpoint nommé et la modalité exclusivement textuelle.
Conversation et éditions quantifiées
Le fabricant présente des messages système et utilisateur distincts au moyen du format de conversation correspondant. Définissez le rôle de l’assistant et les exigences de réponse séparément du texte source réel. Conservez la réponse antérieure pertinente lorsqu’un échange suivant demande une révision, une clarification ou une autre forme de la même information.
La publication documente aussi des variantes distinctes obtenues par entraînement tenant compte de la quantification et par quantification après entraînement. Leur précision et leur contexte de 8k appartiennent à ces variantes plutôt qu’à une spécification universelle de cette entrée Instruct ordinaire. Utilisez le checkpoint et la configuration exacts pour comparer une tâche répétée ou préparer un déploiement dérivé.
Limites de fond
Cette version 1B est exclusivement textuelle. Elle ne doit pas hériter des images en entrée des modèles visuels 11B ou 90B de Llama 3.2, des capacités texte et image de Llama 4 ou des commandes nommées d’effort de raisonnement de Muse Spark. L’exemple de génération de 256 tokens de la fiche est un exemple de réglage, et non une capacité maximale de réponse déclarée séparément.
Un résultat final pratique est le résumé, la requête, l’enregistrement extrait ou le texte réécrit demandé, en préservant le sens et les identifiants pertinents de la source. Les sources consultées n’indiquent pas de maximum strict distinct pour les tokens de sortie. Gardez la tâche ciblée, les entrées complètes pour cette opération et la distinction explicite entre le contexte ordinaire et le contexte quantifié.
POST /v1/messagestextjson, sse| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites meta-llama/llama-3.2-1b-instruct | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites user, assistant | Par défaut— |
Champmessages[].content | Typestring | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Texte · Texte UTF-8
chaîne messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages, max_tokens |
Paramètreoptional_controls | Contratstream |
Paramètrematerial_types | Contrattext |
Paramètretext_file_material | ContratLisez le document UTF-8 réel et placez son texte dans l’entrée indiquée ou dans la chaîne de contenu du message. |
Cycle de vie : synchronous_or_streamed
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.000054 / 1K tokens Sortie · Tokens en sortie $0.000402 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.000054 / 1K tokens Sortie · Tokens en sortie $0.000402 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
{\n "model": "meta-llama/llama-3.2-1b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez tous les blocs de contenu, les signatures de raisonnement et les identifiants réels d’utilisation d’outils. Assemblez tous les deltas de blocs SSE ; un premier bloc de texte ne constitue pas la sortie complète.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champid | Typestring |
Champmodel | Typestring |
Champcontent[] | Typetext|thinking|tool_use|other content block |
Champstop_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Utilisez les chemins de méthode indiqués ci-dessus.
Exemple technique en anglais
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.