Meta Llama 3.2 3B Instruct est un modèle textuel ajusté au suivi des consignes, conçu pour les conversations multilingues avec un assistant, le travail fondé sur des informations récupérées et la synthèse. Le tableau du fabricant identifie une catégorie 3B comptant 3,21 milliards de paramètres. Il accepte du texte et produit du texte ou du code. Son développement combine l’élagage du modèle et la distillation des connaissances avec l’ajustement aux consignes, créant un petit profil de modèle pour des tâches ciblées de rédaction et d’assistance.
Donnez au modèle le matériel source, la question et la forme attendue de la réponse. Une demande d’aide à la rédaction peut préciser le public, le ton et les détails à conserver. Un résumé peut identifier les sections à couvrir ainsi que la longueur ou la structure souhaitée. Pour une réponse courte tirée d’une base de connaissances, fournissez le passage pertinent et demandez une explication fondée sur cette source.
Le fabricant cite la récupération de connaissances, la synthèse, les assistants de rédaction mobiles, la réécriture de requêtes et la réécriture de prompts parmi les usages prévus des modèles textuels ajustés aux consignes. Une application de récupération peut fournir les passages trouvés et demander au modèle de composer la réponse. Conservez les identifiants des passages avec le résultat afin qu’un lecteur ou un autre composant puisse examiner les éléments probants.
Pour la réécriture d’une requête, conservez la question originale et demandez une formulation de recherche concise qui en garde l’intention. Pour le résumé d’un document, demandez les affirmations principales et les réserves qui les affectent. Examinez la sortie réelle pour repérer les conditions omises, les nombres modifiés ou les informations inventées, surtout lorsqu’une réponse courte condense une source plus volumineuse.
L’anglais, l’allemand, le français, l’italien, le portugais, l’hindi, l’espagnol et le thaï sont les huit langues officiellement prises en charge. Précisez la langue de sortie souhaitée et conservez l’orthographe des noms ou de la terminologie spécialisée qui doivent rester inchangés. Une tâche multilingue doit comporter suffisamment de contexte source pour juger le sens de la formulation renvoyée, au lieu de s’appuyer uniquement sur sa fluidité.
Le checkpoint textuel standard de Llama 3.2 dispose d’une fenêtre de contexte de 128K tokens. Utilisez ce budget pour le matériel source pertinent, l’historique de conversation et le résultat généré. Conservez les décisions antérieures nécessaires à la poursuite et réservez de la place pour la réponse. La limite temporelle des données de préentraînement est décembre 2023 : les informations ultérieures exigent donc des éléments probants fournis avec la tâche ou par l’application de récupération qui l’entoure.
Il s’agit du checkpoint Instruct, préparé pour un dialogue de type assistant. La fiche décrit un affinage supervisé et un alignement sur les préférences humaines, avec une distillation supplémentaire lors du développement des petits modèles. Ses exemples fournissent des messages système et utilisateur dans un format de chat. Une consigne système peut définir le rôle et les attentes de sortie, tandis que le message utilisateur fournit la tâche actuelle et les sources.
Gardez un format de conversation adapté à la version choisie lorsque vous utilisez directement son checkpoint. Définissez clairement le résultat et examinez la réponse générée, y compris son lien avec les éléments probants fournis. Pour un livrable textuel structuré, précisez les champs ou les titres requis et validez la sortie réelle avant qu’une application ne la consomme ; une demande écrite de format ne garantit pas l’exactitude de chaque valeur.
Le fabricant distingue le modèle textuel standard des profils textuels quantifiés de Llama 3.2 publiés séparément. Son tableau indique un contexte de 8K pour ces profils quantifiés, distinct de la fenêtre standard de 128K. Sélectionnez ensemble le modèle et le budget de travail au lieu de supposer que tout déploiement étiqueté 3B conserve la même capacité de contexte.
Le modèle 3B Instruct est aussi distinct des modèles de vision plus grands de Llama 3.2. Pour ce profil textuel, préparez du matériel source écrit ou du texte obtenu par l’application. Utilisez le modèle pour une réponse ciblée, une réécriture, un résumé ou une courte explication de code. Conservez le checkpoint choisi, le prompt et la source avec le résultat, puis formulez une consigne suivante propre au détail manquant ou à l’erreur observée.
", "aboutText": "Meta Llama 3.2 3B Instruct est un modèle textuel ajusté au suivi des consignes, conçu pour les conversations multilingues avec un assistant, le travail fondé sur des informations récupérées et la synthèse. Le tableau du fabricant identifie une catégorie 3B comptant 3,21 milliards de paramètres. Il accepte du texte et produit du texte ou du code. Son développement combine l’élagage du modèle et la distillation des connaissances avec l’ajustement aux consignes, créant un petit profil de modèle pour des tâches ciblées de rédaction et d’assistance.\n\n### Définir un résultat textuel délimité\n\nDonnez au modèle le matériel source, la question et la forme attendue de la réponse. Une demande d’aide à la rédaction peut préciser le public, le ton et les détails à conserver. Un résumé peut identifier les sections à couvrir ainsi que la longueur ou la structure souhaitée. Pour une réponse courte tirée d’une base de connaissances, fournissez le passage pertinent et demandez une explication fondée sur cette source.\n\nLe fabricant cite la récupération de connaissances, la synthèse, les assistants de rédaction mobiles, la réécriture de requêtes et la réécriture de prompts parmi les usages prévus des modèles textuels ajustés aux consignes. Une application de récupération peut fournir les passages trouvés et demander au modèle de composer la réponse. Conservez les identifiants des passages avec le résultat afin qu’un lecteur ou un autre composant puisse examiner les éléments probants.\n\nPour la réécriture d’une requête, conservez la question originale et demandez une formulation de recherche concise qui en garde l’intention. Pour le résumé d’un document, demandez les affirmations principales et les réserves qui les affectent. Examinez la sortie réelle pour repérer les conditions omises, les nombres modifiés ou les informations inventées, surtout lorsqu’une réponse courte condense une source plus volumineuse.\n\n### Langues et contexte\n\nL’anglais, l’allemand, le français, l’italien, le portugais, l’hindi, l’espagnol et le thaï sont les huit langues officiellement prises en charge. Précisez la langue de sortie souhaitée et conservez l’orthographe des noms ou de la terminologie spécialisée qui doivent rester inchangés. Une tâche multilingue doit comporter suffisamment de contexte source pour juger le sens de la formulation renvoyée, au lieu de s’appuyer uniquement sur sa fluidité.\n\nLe checkpoint textuel standard de Llama 3.2 dispose d’une fenêtre de contexte de 128K tokens. Utilisez ce budget pour le matériel source pertinent, l’historique de conversation et le résultat généré. Conservez les décisions antérieures nécessaires à la poursuite et réservez de la place pour la réponse. La limite temporelle des données de préentraînement est décembre 2023 : les informations ultérieures exigent donc des éléments probants fournis avec la tâche ou par l’application de récupération qui l’entoure.\n\n### Ajustement aux consignes et format de conversation\n\nIl s’agit du checkpoint Instruct, préparé pour un dialogue de type assistant. La fiche décrit un affinage supervisé et un alignement sur les préférences humaines, avec une distillation supplémentaire lors du développement des petits modèles. Ses exemples fournissent des messages système et utilisateur dans un format de chat. Une consigne système peut définir le rôle et les attentes de sortie, tandis que le message utilisateur fournit la tâche actuelle et les sources.\n\nGardez un format de conversation adapté à la version choisie lorsque vous utilisez directement son checkpoint. Définissez clairement le résultat et examinez la réponse générée, y compris son lien avec les éléments probants fournis. Pour un livrable textuel structuré, précisez les champs ou les titres requis et validez la sortie réelle avant qu’une application ne la consomme ; une demande écrite de format ne garantit pas l’exactitude de chaque valeur.\n\n### Profils standard, quantifiés et de vision\n\nLe fabricant distingue le modèle textuel standard des profils textuels quantifiés de Llama 3.2 publiés séparément. Son tableau indique un contexte de 8K pour ces profils quantifiés, distinct de la fenêtre standard de 128K. Sélectionnez ensemble le modèle et le budget de travail au lieu de supposer que tout déploiement étiqueté 3B conserve la même capacité de contexte.\n\nLe modèle 3B Instruct est aussi distinct des modèles de vision plus grands de Llama 3.2. Pour ce profil textuel, préparez du matériel source écrit ou du texte obtenu par l’application. Utilisez le modèle pour une réponse ciblée, une réécriture, un résumé ou une courte explication de code. Conservez le checkpoint choisi, le prompt et la source avec le résultat, puis formulez une consigne suivante propre au détail manquant ou à l’erreur observée.", "editorialOverlay": { "copy_fields": { "practical_html": "Exemple technique en anglais
Rewrite a knowledge-base query\n\nRewrite this support question into one concise search query: 'I changed my work email yesterday and now the old address still gets export notifications, even though I log in with the new one.' Preserve the distinction between login identity and notification destination. Return the query and two key concepts it must retain; do not answer the question.One search query plus two retained concepts covering changed login email and stale export-notification address.The rewrite keeps the notification problem and does not collapse it into a login failure.meta-llama/llama-3.2-3b-instructMeta Llama 3.2 3B Instruct est un modèle textuel compact pour le chat multilingue, les résumés fondés sur des informations récupérées et l’aide à la rédaction. Son checkpoint standard dispose d’un contexte de 128K ; les variantes quantifiées publiées séparément ont une fenêtre de travail différente.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Meta Llama 3.2 3B Instruct est un modèle textuel ajusté au suivi des consignes, conçu pour les conversations multilingues avec un assistant, le travail fondé sur des informations récupérées et la synthèse. Le tableau du fabricant identifie une catégorie 3B comptant 3,21 milliards de paramètres. Il accepte du texte et produit du texte ou du code. Son développement combine l’élagage du modèle et la distillation des connaissances avec l’ajustement aux consignes, créant un petit profil de modèle pour des tâches ciblées de rédaction et d’assistance.
Donnez au modèle le matériel source, la question et la forme attendue de la réponse. Une demande d’aide à la rédaction peut préciser le public, le ton et les détails à conserver. Un résumé peut identifier les sections à couvrir ainsi que la longueur ou la structure souhaitée. Pour une réponse courte tirée d’une base de connaissances, fournissez le passage pertinent et demandez une explication fondée sur cette source.
Le fabricant cite la récupération de connaissances, la synthèse, les assistants de rédaction mobiles, la réécriture de requêtes et la réécriture de prompts parmi les usages prévus des modèles textuels ajustés aux consignes. Une application de récupération peut fournir les passages trouvés et demander au modèle de composer la réponse. Conservez les identifiants des passages avec le résultat afin qu’un lecteur ou un autre composant puisse examiner les éléments probants.
Pour la réécriture d’une requête, conservez la question originale et demandez une formulation de recherche concise qui en garde l’intention. Pour le résumé d’un document, demandez les affirmations principales et les réserves qui les affectent. Examinez la sortie réelle pour repérer les conditions omises, les nombres modifiés ou les informations inventées, surtout lorsqu’une réponse courte condense une source plus volumineuse.
L’anglais, l’allemand, le français, l’italien, le portugais, l’hindi, l’espagnol et le thaï sont les huit langues officiellement prises en charge. Précisez la langue de sortie souhaitée et conservez l’orthographe des noms ou de la terminologie spécialisée qui doivent rester inchangés. Une tâche multilingue doit comporter suffisamment de contexte source pour juger le sens de la formulation renvoyée, au lieu de s’appuyer uniquement sur sa fluidité.
Le checkpoint textuel standard de Llama 3.2 dispose d’une fenêtre de contexte de 128K tokens. Utilisez ce budget pour le matériel source pertinent, l’historique de conversation et le résultat généré. Conservez les décisions antérieures nécessaires à la poursuite et réservez de la place pour la réponse. La limite temporelle des données de préentraînement est décembre 2023 : les informations ultérieures exigent donc des éléments probants fournis avec la tâche ou par l’application de récupération qui l’entoure.
Il s’agit du checkpoint Instruct, préparé pour un dialogue de type assistant. La fiche décrit un affinage supervisé et un alignement sur les préférences humaines, avec une distillation supplémentaire lors du développement des petits modèles. Ses exemples fournissent des messages système et utilisateur dans un format de chat. Une consigne système peut définir le rôle et les attentes de sortie, tandis que le message utilisateur fournit la tâche actuelle et les sources.
Gardez un format de conversation adapté à la version choisie lorsque vous utilisez directement son checkpoint. Définissez clairement le résultat et examinez la réponse générée, y compris son lien avec les éléments probants fournis. Pour un livrable textuel structuré, précisez les champs ou les titres requis et validez la sortie réelle avant qu’une application ne la consomme ; une demande écrite de format ne garantit pas l’exactitude de chaque valeur.
Le fabricant distingue le modèle textuel standard des profils textuels quantifiés de Llama 3.2 publiés séparément. Son tableau indique un contexte de 8K pour ces profils quantifiés, distinct de la fenêtre standard de 128K. Sélectionnez ensemble le modèle et le budget de travail au lieu de supposer que tout déploiement étiqueté 3B conserve la même capacité de contexte.
Le modèle 3B Instruct est aussi distinct des modèles de vision plus grands de Llama 3.2. Pour ce profil textuel, préparez du matériel source écrit ou du texte obtenu par l’application. Utilisez le modèle pour une réponse ciblée, une réécriture, un résumé ou une courte explication de code. Conservez le checkpoint choisi, le prompt et la source avec le résultat, puis formulez une consigne suivante propre au détail manquant ou à l’erreur observée.
POST /v1/chat/completionstexttext| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites meta-llama/llama-3.2-3b-instruct | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites Exemples : system, user, assistant, tool, function Conditions: Ces rôles sont explicitement représentés par les types de compatibilité du code source ; l’ensemble exact des rôles reste propre à chaque modèle. Selon le modèle | Par défaut— |
Champmessages[].content | Typestring|content_part[]|null | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_calls | Typetool_call[] | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_call_id | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: role=tool ; utilisez l’identifiant réellement renvoyé | Par défaut— |
Champmessages[].name | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].reasoning_content | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: Réinjectez le raisonnement réellement renvoyé lorsque ce modèle l’utilise | Par défaut— |
Champmessages[].reasoning_details | Typeobject|array | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champmax_completion_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Champstream_options.include_usage | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtemperature | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtop_p | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champstop | Typestring|string[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools | Typefunction_tool[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools[].type | Typestring | ExigenceFacultatif | Valeurs et limites function Selon le modèle | Par défaut— |
Champtools[].function.name | Typestring | ExigenceObligatoire | Valeurs et limites S’applique lorsque: outil de fonction fourni | Par défaut— |
Champtools[].function.description | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtools[].function.parameters | TypeJSON_schema | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtool_choice | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champparallel_tool_calls | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champresponse_format | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning_effort | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champservice_tier | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champinstructions | Typestring | ExigenceFacultatif | Valeurs et limites Champ de compatibilité | Par défaut— |
Champfunctions | Typefunction[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champfunction_call | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champprompt_cache_options | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmodalities | Typestring[] | ExigenceFacultatif | Valeurs et limites text | Par défaut— |
Champprovider | Typeobject | ExigenceFacultatif | Valeurs et limites Conditions: provider.options est rejeté sur cette route textuelle Ultra | Par défaut— |
Champcache_control.ttl | Typestring | ExigenceFacultatif | Valeurs et limites Conditions: 1h est rejeté dans les emplacements réels du cache de prompt | Par défaut— |
Texte · Texte UTF8
messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages |
Paramètrematerial_types | Contrattext |
Paramètremessages | Contrattableau de messages avec une structure role/content |
Paramètrefile_material | Contratdocument UTF-8 réel inséré sous forme de texte littéral ; aucun identifiant de fichier déduit |
Paramètreoptional_controls | Contratstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Paramètrecontrol_scope | Contratpropre au modèle ; les outils de fonctions de l’utilisateur diffèrent des outils hébergés |
Paramètreoutput_modalities | Contrattext |
Paramètrehosted_operations | Contratfalse |
Paramètremultimodal_input_binding | Contratnull |
Cycle de vie : synchronous_or_streamed
Envoyez l’identifiant exact du modèle avec messages.
La longueur du contexte n’est pas un plafond de sortie.
Un fichier texte peut fournir du texte littéral ; les entrées image/audio/objets fichier nécessitent une liaison exacte.
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.0001 / 1K tokens Sortie · Tokens en sortie $0.00066 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.0001 / 1K tokens Sortie · Tokens en sortie $0.00066 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-3b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-3b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-3b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, puis conservez le motif final de terminaison et les données d’utilisation.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champchoices[].index | Typeinteger |
Champchoices[].message.content | Typestring|null |
Champchoices[].message.tool_calls | Typetool_call[] |
Champchoices[].message.reasoning_content | Typestring |
Champchoices[].message.reasoning_details | Typeobject|array |
Champchoices[].finish_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra meta-llama/llama-3.2-3b-instruct
Utilisez les chemins de méthode indiqués ci-dessus.
meta-llama/llama-3.2-3b-instructMeta Llama 3.2 3B Instruct est un modèle textuel compact pour le chat multilingue, les résumés fondés sur des informations récupérées et l’aide à la rédaction. Son checkpoint standard dispose d’un contexte de 128K ; les variantes quantifiées publiées séparément ont une fenêtre de travail différente.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Meta Llama 3.2 3B Instruct est un modèle textuel ajusté au suivi des consignes, conçu pour les conversations multilingues avec un assistant, le travail fondé sur des informations récupérées et la synthèse. Le tableau du fabricant identifie une catégorie 3B comptant 3,21 milliards de paramètres. Il accepte du texte et produit du texte ou du code. Son développement combine l’élagage du modèle et la distillation des connaissances avec l’ajustement aux consignes, créant un petit profil de modèle pour des tâches ciblées de rédaction et d’assistance.
Donnez au modèle le matériel source, la question et la forme attendue de la réponse. Une demande d’aide à la rédaction peut préciser le public, le ton et les détails à conserver. Un résumé peut identifier les sections à couvrir ainsi que la longueur ou la structure souhaitée. Pour une réponse courte tirée d’une base de connaissances, fournissez le passage pertinent et demandez une explication fondée sur cette source.
Le fabricant cite la récupération de connaissances, la synthèse, les assistants de rédaction mobiles, la réécriture de requêtes et la réécriture de prompts parmi les usages prévus des modèles textuels ajustés aux consignes. Une application de récupération peut fournir les passages trouvés et demander au modèle de composer la réponse. Conservez les identifiants des passages avec le résultat afin qu’un lecteur ou un autre composant puisse examiner les éléments probants.
Pour la réécriture d’une requête, conservez la question originale et demandez une formulation de recherche concise qui en garde l’intention. Pour le résumé d’un document, demandez les affirmations principales et les réserves qui les affectent. Examinez la sortie réelle pour repérer les conditions omises, les nombres modifiés ou les informations inventées, surtout lorsqu’une réponse courte condense une source plus volumineuse.
L’anglais, l’allemand, le français, l’italien, le portugais, l’hindi, l’espagnol et le thaï sont les huit langues officiellement prises en charge. Précisez la langue de sortie souhaitée et conservez l’orthographe des noms ou de la terminologie spécialisée qui doivent rester inchangés. Une tâche multilingue doit comporter suffisamment de contexte source pour juger le sens de la formulation renvoyée, au lieu de s’appuyer uniquement sur sa fluidité.
Le checkpoint textuel standard de Llama 3.2 dispose d’une fenêtre de contexte de 128K tokens. Utilisez ce budget pour le matériel source pertinent, l’historique de conversation et le résultat généré. Conservez les décisions antérieures nécessaires à la poursuite et réservez de la place pour la réponse. La limite temporelle des données de préentraînement est décembre 2023 : les informations ultérieures exigent donc des éléments probants fournis avec la tâche ou par l’application de récupération qui l’entoure.
Il s’agit du checkpoint Instruct, préparé pour un dialogue de type assistant. La fiche décrit un affinage supervisé et un alignement sur les préférences humaines, avec une distillation supplémentaire lors du développement des petits modèles. Ses exemples fournissent des messages système et utilisateur dans un format de chat. Une consigne système peut définir le rôle et les attentes de sortie, tandis que le message utilisateur fournit la tâche actuelle et les sources.
Gardez un format de conversation adapté à la version choisie lorsque vous utilisez directement son checkpoint. Définissez clairement le résultat et examinez la réponse générée, y compris son lien avec les éléments probants fournis. Pour un livrable textuel structuré, précisez les champs ou les titres requis et validez la sortie réelle avant qu’une application ne la consomme ; une demande écrite de format ne garantit pas l’exactitude de chaque valeur.
Le fabricant distingue le modèle textuel standard des profils textuels quantifiés de Llama 3.2 publiés séparément. Son tableau indique un contexte de 8K pour ces profils quantifiés, distinct de la fenêtre standard de 128K. Sélectionnez ensemble le modèle et le budget de travail au lieu de supposer que tout déploiement étiqueté 3B conserve la même capacité de contexte.
Le modèle 3B Instruct est aussi distinct des modèles de vision plus grands de Llama 3.2. Pour ce profil textuel, préparez du matériel source écrit ou du texte obtenu par l’application. Utilisez le modèle pour une réponse ciblée, une réécriture, un résumé ou une courte explication de code. Conservez le checkpoint choisi, le prompt et la source avec le résultat, puis formulez une consigne suivante propre au détail manquant ou à l’erreur observée.
POST /v1/messagestextjson, sse| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites meta-llama/llama-3.2-3b-instruct | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites user, assistant | Par défaut— |
Champmessages[].content | Typestring | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Texte · Texte UTF-8
chaîne messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages, max_tokens |
Paramètreoptional_controls | Contratstream |
Paramètrematerial_types | Contrattext |
Paramètretext_file_material | ContratLisez le document UTF-8 réel et placez son texte dans l’entrée indiquée ou dans la chaîne de contenu du message. |
Cycle de vie : synchronous_or_streamed
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.0001 / 1K tokens Sortie · Tokens en sortie $0.00066 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.0001 / 1K tokens Sortie · Tokens en sortie $0.00066 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
{\n "model": "meta-llama/llama-3.2-3b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-3b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-3b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez tous les blocs de contenu, les signatures de raisonnement et les identifiants réels d’utilisation d’outils. Assemblez tous les deltas de blocs SSE ; un premier bloc de texte ne constitue pas la sortie complète.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champid | Typestring |
Champmodel | Typestring |
Champcontent[] | Typetext|thinking|tool_use|other content block |
Champstop_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra meta-llama/llama-3.2-3b-instruct
Utilisez les chemins de méthode indiqués ci-dessus.
Exemple technique en anglais
Rewrite a knowledge-base query\n\nRewrite this support question into one concise search query: 'I changed my work email yesterday and now the old address still gets export notifications, even though I log in with the new one.' Preserve the distinction between login identity and notification destination. Return the query and two key concepts it must retain; do not answer the question.One search query plus two retained concepts covering changed login email and stale export-notification address.The rewrite keeps the notification problem and does not collapse it into a login failure.