Source: https://ailoot.ai/models/fr-be/meta-llama-llama-3-1-8b-instruct/ Canonical: https://ailoot.ai/models/fr-be/meta-llama-llama-3-1-8b-instruct/ Language: fr-be # Meta: Llama 3.1 8B Instruct [Markdown](https://ailoot.ai/models/fr-be/meta-llama-llama-3-1-8b-instruct/index.md) · [JSON](https://ailoot.ai/models/fr-be/meta-llama-llama-3-1-8b-instruct/facts.json) ## [Meta: Llama 3.1 8B Instruct](https://ailoot.ai/models/fr-be/meta-llama-llama-3-1-8b-instruct/) Llama 3.1 8B Instruct est un modèle textuel de Meta de taille réduite, ajusté aux consignes, pour le dialogue multilingue, les résumés et les réponses fondées sur des sources. Il possède 8 milliards de paramètres, un contexte de 128 k annoncé par le fabricant, une attention à requêtes groupées et des formats documentés d’utilisation d’outils, et produit du texte ou du code. - [**Ailoot Ultra · Chat OpenAI** `POST /v1/chat/completions` `meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/fr-be/meta-llama-llama-3-1-8b-instruct/#method-0) - [**Ailoot Ultra · Messages Anthropic** `POST /v1/messages` `meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/fr-be/meta-llama-llama-3-1-8b-instruct/#method-1) À propos du modèle Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous. Llama 3.1 8B Instruct est le modèle textuel de Meta à huit milliards de paramètres pour le dialogue multilingue et les assistants guidés par des consignes. Il accepte une conversation écrite et des sources, et produit du texte ou du code. C’est l’édition Instruct de taille 8B, distincte de sa base préentraînée et des modèles 70B et 405B de la famille. Architecture, contexte et langues Le modèle utilise une architecture Transformer autorégressive avec attention à requêtes groupées. La famille ajustée aux consignes utilise l’affinage supervisé et l’apprentissage par renforcement à partir de retours humains pour aligner ses réponses conversationnelles. Le fabricant documente un contexte de 128 k pour cette version textuelle ; il ne s’agit pas des spécifications de vision ou de contexte long d’un modèle Llama 4 ultérieur. Les huit langues officiellement prises en charge sont l’anglais, l’allemand, le français, l’italien, le portugais, l’hindi, l’espagnol et le thaï. Les données de préentraînement couvrent un ensemble plus large, distinct des langues explicitement prises en charge par la fiche. Indiquez la langue finale et les noms, identifiants de variables ou termes qui doivent rester inchangés dans un résultat multilingue. La famille est préentraînée sur environ quinze mille milliards de tokens, avec une date limite des données en décembre 2023. L’affinage comprend des contenus de consignes et plus de vingt-cinq millions d’exemples synthétiques. Cela décrit l’entraînement du modèle, et non un accès à une base de connaissances privée ou à des informations en direct lorsqu’une nouvelle question arrive. Opérations textuelles définies Une demande d’assistance peut fournir le message de l’utilisateur et les passages de référence pertinents, puis demander la réponse et la condition qui l’étaye. Un relevé compact peut séparer le problème, les informations déjà fournies et l’étape suivante nécessaire. Définissez les noms des champs et le traitement des valeurs manquantes lorsqu’une application doit traiter ce résultat. Pour une synthèse, fournissez le passage ou l’échange réel et précisez le public, la longueur et les faits à conserver. Demandez les décisions ou questions non résolues pertinentes pour un sujet, au lieu d’un résumé sans direction de contenus sans rapport. Une demande suivante peut viser une réponse plus courte ou une explication plus claire d’une condition, tout en préservant les mêmes faits sources. Pour une révision, précisez le lecteur et le ton, et identifiez le sens qui doit rester inchangé. Une tâche pratique peut demander un message plus clair suivi d’une courte liste de modifications, ou le seul message révisé s’il doit être utilisé directement. Une tâche de classification doit fournir les étiquettes autorisées et ce qui les distingue, plutôt que de compter sur leur nom pour définir la règle. Génération de code et d’exemples La sortie documentée comprend aussi du code. Fournissez le langage, les entrées requises et le résultat attendu avant de demander une fonction. Pour une explication, donnez la fonction existante et une entrée concrète, puis demandez quelles étapes déterminent sa valeur de retour. Pour une correction, incluez l’échec observé et le comportement attendu, en conservant l’interface qui doit rester compatible. Une sortie utile peut séparer le code proposé, ses hypothèses et des entrées d’exemple. L’application ou le développeur effectue la compilation, l’exécution ou la modification du dépôt réelle. Le code source écrit est un livrable à examiner, et non une opération externe accomplie simplement parce que le modèle l’a renvoyé. La famille prend aussi en charge l’utilisation des sorties générées pour des exemples synthétiques et la distillation. Une requête textuelle définie peut produire des variantes selon des règles fournies et dans un format donné. Préservez les règles et les étiquettes afin que chaque exemple puisse être examiné ; les exemples générés n’établissent pas indépendamment l’exactitude d’un jeu de données d’entraînement. Rôles de conversation et utilisation d’outils La fiche du modèle présente un gabarit de conversation avec des messages système et utilisateur séparés. Définissez le rôle de l’assistant et les exigences de réponse dans le contexte système, puis fournissez la question et les sources comme tâche. Conservez les messages précédents pertinents lors d’une demande de suivi ou de l’apport de nouveaux éléments qui modifient le résultat. Llama 3.1 documente plusieurs formats d’utilisation d’outils. L’application décrit une fonction, le modèle génère l’appel proposé et ses arguments, l’application l’exécute et renvoie le résultat avec le rôle tool. La réponse suivante peut alors utiliser les informations renvoyées. Gardez liés l’opération d’origine et son résultat au fil de la conversation. Une recherche peut par exemple renvoyer la valeur de référence actuelle manquante dans un passage, ou un outil de calcul peut fournir le résultat numérique nécessaire à l’explication. Un assistant doté d’outils a besoin que l’environnement fournisse ces opérations. Le comportement textuel du modèle ne crée pas à lui seul une connexion à une source externe et n’accomplit pas un effet de bord. Limites pratiques La mention de contexte 128 k du fabricant doit rester liée à la version exacte 8B Instruct et à la configuration applicable. L’exemple de génération de 256 tokens est seulement un choix d’utilisation ; les sources consultées n’indiquent pas de capacité maximale stricte distincte pour la réponse. La taille 8B ne doit pas hériter du nombre de paramètres d’un autre membre ni des réglages de raisonnement nommés d’une autre famille. C’est un modèle exclusivement textuel. Les entrées visuelles, la compréhension audio et la génération de parole nécessitent des composants spécifiés séparément. Définissez le livrable final avant de fournir les contenus : une réponse concise, un enregistrement extrait, un passage révisé, une explication ou une proposition de code. Conservez les informations sources nécessaires à l’examen du sens et du format de ce livrable. Cas pratique ### Cas pratique Exemple technique en anglais ``` Translate a delivery notice into German Translate this customer notice into German: 'Order BN-42 will leave our warehouse on Thursday. Delivery normally takes three business days. We will send tracking details after dispatch.' Preserve BN-42, distinguish dispatch from delivery and use a polite professional tone. Return only the translation; do not turn the normal transit time into a guaranteed arrival date. ``` #### Résultat attendu ``` One German customer notice preserving the identifier, event sequence and qualified transit time. ``` #### Vérifier le résultat ``` The translation distinguishes warehouse dispatch from delivery and retains the word's sense of a normal estimate. ``` **Ailoot Ultra · Chat OpenAI** `POST /v1/chat/completions` `meta-llama/llama-3.1-8b-instruct` [`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/fr-be/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=chat) Meta /`meta-llama/llama-3.1-8b-instruct` ### Premiers pas Llama 3.1 8B Instruct est un modèle textuel de Meta de taille réduite, ajusté aux consignes, pour le dialogue multilingue, les résumés et les réponses fondées sur des sources. Il possède 8 milliards de paramètres, un contexte de 128 k annoncé par le fabricant, une attention à requêtes groupées et des formats documentés d’utilisation d’outils, et produit du texte ou du code. Entrées acceptées Texte Résultats Texte ### Disponible dans Ailoot · entrées et méthodes **Ailoot Ultra · Chat OpenAI** `POST /v1/chat/completions` Entrée `text` Sortie `text` Format de sortie json ou SSE | Champ | Type | Exigence | Valeurs et limites | Par défaut | | --- | --- | --- | --- | --- | | Champ`model` | Type`string` | ExigenceObligatoire | Valeurs et limites meta-llama/llama-3.1-8b-instruct | Par défaut— | | Champ`messages` | Type`message[]` | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 | Par défaut— | | Champ`messages[].role` | Type`string` | ExigenceObligatoire | Valeurs et limites Exemples : system, user, assistant, tool, function Conditions: Ces rôles sont explicitement représentés par les types de compatibilité du code source ; l’ensemble exact des rôles reste propre à chaque modèle. Selon le modèle | Par défaut— | | Champ`messages[].content` | Type`string\|content_part[]\|null` | ExigenceFacultatif | Valeurs et limites | Par défaut— | | Champ`messages[].tool_calls` | Type`tool_call[]` | ExigenceFacultatif | Valeurs et limites | Par défaut— | | Champ`messages[].tool_call_id` | Type`string` | ExigenceFacultatif | Valeurs et limites S’applique lorsque: role=tool ; utilisez l’identifiant réellement renvoyé | Par défaut— | | Champ`messages[].name` | Type`string` | ExigenceFacultatif | Valeurs et limites | Par défaut— | | Champ`messages[].reasoning_content` | Type`string` | ExigenceFacultatif | Valeurs et limites S’applique lorsque: Réinjectez le raisonnement réellement renvoyé lorsque ce modèle l’utilise | Par défaut— | | Champ`messages[].reasoning_details` | Type`object\|array` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`max_tokens` | Type`integer` | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— | | Champ`max_completion_tokens` | Type`integer` | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— | | Champ`stream` | Type`boolean` | ExigenceFacultatif | Valeurs et limites | Par défautfalse | | Champ`stream_options.include_usage` | Type`boolean` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`temperature` | Type`number` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`top_p` | Type`number` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`stop` | Type`string\|string[]` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`tools` | Type`function_tool[]` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`tools[].type` | Type`string` | ExigenceFacultatif | Valeurs et limites function Selon le modèle | Par défaut— | | Champ`tools[].function.name` | Type`string` | ExigenceObligatoire | Valeurs et limites S’applique lorsque: outil de fonction fourni | Par défaut— | | Champ`tools[].function.description` | Type`string` | ExigenceFacultatif | Valeurs et limites | Par défaut— | | Champ`tools[].function.parameters` | Type`JSON_schema` | ExigenceFacultatif | Valeurs et limites | Par défaut— | | Champ`tool_choice` | Type`string\|object` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`parallel_tool_calls` | Type`boolean` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`response_format` | Type`object` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`reasoning_effort` | Type`string` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`reasoning` | Type`object` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`service_tier` | Type`string` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`instructions` | Type`string` | ExigenceFacultatif | Valeurs et limites Champ de compatibilité | Par défaut— | | Champ`functions` | Type`function[]` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`function_call` | Type`string\|object` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`prompt_cache_options` | Type`object` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`modalities` | Type`string[]` | ExigenceFacultatif | Valeurs et limites text | Par défaut— | | Champ`provider` | Type`object` | ExigenceFacultatif | Valeurs et limites Conditions: provider.options est rejeté sur cette route textuelle Ultra | Par défaut— | | Champ`cache_control.ttl` | Type`string` | ExigenceFacultatif | Valeurs et limites Conditions: 1h est rejeté dans les emplacements réels du cache de prompt | Par défaut— | Combinaisons d’éléments d’entrée **Texte** · Texte UTF8 `messages[].content` Paramètres et cycle de vie de la méthode | Paramètre | Contrat | | --- | --- | | Paramètre`content_type` | Contratapplication/json | | Paramètre`required` | Contratmodel, messages | | Paramètre`material_types` | Contrattext | | Paramètre`messages` | Contrattableau de messages avec une structure role/content | | Paramètre`file_material` | Contratdocument UTF-8 réel inséré sous forme de texte littéral ; aucun identifiant de fichier déduit | | Paramètre`optional_controls` | Contratstream, temperature, top\_p, stop, max\_tokens, max\_completion\_tokens, reasoning, response\_format, tools, tool\_choice | | Paramètre`control_scope` | Contratpropre au modèle ; les outils de fonctions de l’utilisateur diffèrent des outils hébergés | | Paramètre`output_modalities` | Contrattext | | Paramètre`hosted_operations` | Contratfalse | | Paramètre`multimodal_input_binding` | Contratnull | Cycle de vie : `synchronous_or_streamed` Envoyez l’identifiant exact du modèle avec messages. La longueur du contexte n’est pas un plafond de sortie. Un fichier texte peut fournir du texte littéral ; les entrées image/audio/objets fichier nécessitent une liaison exacte. ### Tarifs Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée. Mode rapide Tarif standard Lorsque le mode rapide est sélectionné Mode Flex Tarif standard Lorsque le mode flex est sélectionné Effort de raisonnement maximal Tarif standard Lorsque l’effort de raisonnement maximal utilise l’ajustement par défaut (default) #### Tarifs Ailoot #### Prix par configuration Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives. | Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût | | --- | --- | --- | --- | --- | | ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée **$0.00044** / 1K tokens Sortie · Tokens en sortie **$0.00044** / 1K tokens Entrée · Lecture du cache **$0.00044** / 1K tokens Entrée · Écriture dans le cache **—** / 1K tokens Entrée · Écriture dans le cache, 1 h **—** / 1K tokens | | ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée **$0.00044** / 1K tokens Sortie · Tokens en sortie **$0.00044** / 1K tokens Entrée · Lecture du cache **$0.00044** / 1K tokens Entrée · Écriture dans le cache **—** / 1K tokens Entrée · Écriture dans le cache, 1 h **—** / 1K tokens | Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. [Fonctionnement de la réservation et du débit →](https://ailoot.ai/docs/fr-be/billing/reserve/) ### Exemples de requêtes #### Ailoot Ultra · Chat OpenAI curlPython SDKStreaming Python ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "meta-llama/llama-3.1-8b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}') Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path r=json.loads(Path("result.json").read_text()) for x in r.get("choices",[]): if x.get("message",{}).get("content"): print(x["message"]["content"]) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) result=client.chat.completions.create(model='meta-llama/llama-3.1-8b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(result.to_dict(mode="json")) ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='meta-llama/llama-3.1-8b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Recevoir et enregistrer les résultats #### Ailoot Ultra · Chat OpenAI json ou SSE ##### Conserver tous les résultats terminés Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité. Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, puis conservez le motif final de terminaison et les données d’utilisation. ##### Si la réponse d’origine doit être vérifiée Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie. Champs de la réponse | Champ | Type | | --- | --- | | Champ`choices[].index` | Typeinteger | | Champ`choices[].message.content` | Typestring\|null | | Champ`choices[].message.tool_calls` | Typetool\_call\[\] | | Champ`choices[].message.reasoning_content` | Typestring | | Champ`choices[].message.reasoning_details` | Typeobject\|array | | Champ`choices[].finish_reason` | Typestring\|null | | Champ`usage` | Typeobject | Erreurs et étapes suivantes | Réponse | Condition | Étape suivante | | --- | --- | --- | | Réponse400 · `invalid_request_error` | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. | ### Alias #### Alias du modèle **Ailoot Ultra** [`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/fr-be/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=chat) #### Alias des chemins de méthode Utilisez les chemins de méthode indiqués ci-dessus. #### ID d’appel associés [`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/fr-be/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=chat) **Ailoot Ultra · Messages Anthropic** `POST /v1/messages` `meta-llama/llama-3.1-8b-instruct` [`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/fr-be/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=messages) Meta /`meta-llama/llama-3.1-8b-instruct` ### Premiers pas Llama 3.1 8B Instruct est un modèle textuel de Meta de taille réduite, ajusté aux consignes, pour le dialogue multilingue, les résumés et les réponses fondées sur des sources. Il possède 8 milliards de paramètres, un contexte de 128 k annoncé par le fabricant, une attention à requêtes groupées et des formats documentés d’utilisation d’outils, et produit du texte ou du code. Entrées acceptées Texte Résultats json · sse ### Disponible dans Ailoot · entrées et méthodes **Ailoot Ultra · Messages Anthropic** `POST /v1/messages` Entrée `text` Sortie `json`, `sse` Format de sortie JSON ou SSE | Champ | Type | Exigence | Valeurs et limites | Par défaut | | --- | --- | --- | --- | --- | | Champ`model` | Type`string` | ExigenceObligatoire | Valeurs et limites meta-llama/llama-3.1-8b-instruct | Par défaut— | | Champ`messages` | Type`message[]` | ExigenceObligatoire | Valeurs et limites | Par défaut— | | Champ`messages[].role` | Type`string` | ExigenceObligatoire | Valeurs et limites user, assistant | Par défaut— | | Champ`messages[].content` | Type`string` | ExigenceObligatoire | Valeurs et limites | Par défaut— | | Champ`max_tokens` | Type`integer` | ExigenceObligatoire | Valeurs et limites | Par défaut— | | Champ`stream` | Type`boolean` | ExigenceFacultatif | Valeurs et limites | Par défautfalse | Combinaisons d’éléments d’entrée **Texte** · Texte UTF-8 `chaîne messages[].content` Paramètres et cycle de vie de la méthode | Paramètre | Contrat | | --- | --- | | Paramètre`content_type` | Contratapplication/json | | Paramètre`required` | Contratmodel, messages, max\_tokens | | Paramètre`optional_controls` | Contratstream | | Paramètre`material_types` | Contrattext | | Paramètre`text_file_material` | ContratLisez le document UTF-8 réel et placez son texte dans l’entrée indiquée ou dans la chaîne de contenu du message. | Cycle de vie : `synchronous_or_streamed` ### Tarifs Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée. Mode rapide Tarif standard Lorsque le mode rapide est sélectionné Mode Flex Tarif standard Lorsque le mode flex est sélectionné Effort de raisonnement maximal Tarif standard Lorsque l’effort de raisonnement maximal utilise l’ajustement par défaut (default) #### Tarifs Ailoot #### Prix par configuration Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives. | Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût | | --- | --- | --- | --- | --- | | ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée **$0.00044** / 1K tokens Sortie · Tokens en sortie **$0.00044** / 1K tokens Entrée · Lecture du cache **$0.00044** / 1K tokens Entrée · Écriture dans le cache **—** / 1K tokens Entrée · Écriture dans le cache, 1 h **—** / 1K tokens | | ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée **$0.00044** / 1K tokens Sortie · Tokens en sortie **$0.00044** / 1K tokens Entrée · Lecture du cache **$0.00044** / 1K tokens Entrée · Écriture dans le cache **—** / 1K tokens Entrée · Écriture dans le cache, 1 h **—** / 1K tokens | Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. [Fonctionnement de la réservation et du débit →](https://ailoot.ai/docs/fr-be/billing/reserve/) ### Exemples de requêtes #### Ailoot Ultra · Messages Anthropic Corps JSON minimal completcurl · utilisez votre document UTF-8Python · enregistrez le résultat complet ```json { "model": "meta-llama/llama-3.1-8b-instruct", "max_tokens": 128, "messages": [ { "role": "user", "content": "Summarize the incident report." } ], "stream": false } ``` ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8') PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \ -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) PY_RESULT ``` ```python import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text from urllib.request import Request, urlopen from urllib.error import HTTPError api_key = os.environ['AILOOT_API_KEY'] if not api_key.strip(): raise SystemExit('Set AILOOT_API_KEY before making a request') headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'} headers['x-api-key'] = api_key request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST') try: with urlopen(request, timeout=120) as response: raw = response.read() Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8') except HTTPError as error: Path('result.json').write_bytes(error.read()) Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8') raise Path('result.json').write_bytes(raw) import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) ``` ### Recevoir et enregistrer les résultats #### Ailoot Ultra · Messages Anthropic JSON ou SSE ##### Conserver tous les résultats terminés Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité. Conservez tous les blocs de contenu, les signatures de raisonnement et les identifiants réels d’utilisation d’outils. Assemblez tous les deltas de blocs SSE ; un premier bloc de texte ne constitue pas la sortie complète. ##### Si la réponse d’origine doit être vérifiée Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie. Champs de la réponse | Champ | Type | | --- | --- | | Champ`id` | Typestring | | Champ`model` | Typestring | | Champ`content[]` | Typetext\|thinking\|tool\_use\|other content block | | Champ`stop_reason` | Typestring\|null | | Champ`usage` | Typeobject | Erreurs et étapes suivantes | Réponse | Condition | Étape suivante | | --- | --- | --- | | Réponse400 · `invalid_request_error` | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. | ### Alias #### Alias du modèle **Ailoot Ultra** [`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/fr-be/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=messages) #### Alias des chemins de méthode Utilisez les chemins de méthode indiqués ci-dessus. #### ID d’appel associés [`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/fr-be/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=messages) FAQ · Meta: Llama 3.1 8B Instruct Quelles entrées et quels résultats sont disponibles ? `POST /v1/chat/completions` · `meta-llama/llama-3.1-8b-instruct`: `text` → `text` `POST /v1/messages` · `meta-llama/llama-3.1-8b-instruct`: `text` → `json`, `sse` Quels champs la requête utilise-t-elle ? `POST /v1/chat/completions` · `meta-llama/llama-3.1-8b-instruct`: `model`, `messages`, `stream`, `modalities`, `provider` `POST /v1/messages` · `meta-llama/llama-3.1-8b-instruct`: `model`, `messages`, `max_tokens`, `stream` Quelles limites s’appliquent ? `POST /v1/chat/completions` · `meta-llama/llama-3.1-8b-instruct`: `messages.min_items`: `1` Connectez Ailoot à Claude Code, OpenCode, Hermes ou à votre application. ## L’entreprise et son portefeuille de projets L’entreprise et son portefeuille de projets : des millions de clients ; des ventes qui se chiffrent en milliards chaque mois. ## Achetez des tokens à prix réduit. Une remise d’abonnement pour le travail régulier. Des codes promo jusqu’à 50% sur l’achat de tokens. Abonnement Choisissez une offre à tarif réduit pour vos requêtes régulières. Code promo jusqu’à 50% Saisissez le code à l’achat. Le prix est recalculé selon la promotion en cours. Dépenses dans l’historique Modèle, tokens et montant sont enregistrés pour chaque requête. [Choisir un abonnement](https://ailoot.ai/docs/fr-be/billing/subscriptions/) · [Voir les prix des modèles](https://ailoot.ai/models/fr-be/) ## Connectez l’API au produit que vous vendez. SaaS, applications et bots selon l’offre officielle et le contrat de licence Ailoot. Pour la revente, demandez une licence revendeur. Application commerciale Intégrez la génération de texte, d’images, de vidéo et de son aux fonctions payantes de votre service. Licence revendeur Envoyez la description du projet et le mode d’accès. Demandez des conditions écrites d’utilisation et de revente. Documents sur le site L’offre officielle, le contrat de licence et la politique de traitement des données sont accessibles avant connexion. [Demander une licence revendeur](mailto:support@ailoot.ai) · [Offre officielle et contrat de licence](https://ailoot.ai/legal/offer?lang=fr-be) ## Ailoot · L’entreprise et son portefeuille de projets Ailoot s’appuie sur une expérience opérationnelle éprouvée, une large clientèle, un service stable et un suivi continu des KPI. L’entreprise et son portefeuille de projets : des millions de clients ; des ventes qui se chiffrent en milliards chaque mois. Ailoot met cette expérience opérationnelle au service de l’accès API aux fonctions d’IA dans les produits des clients, leurs agents, applications et automatisations.