Source: https://ailoot.ai/models/fr-be/meta-llama-llama-3-1-70b-instruct/ Canonical: https://ailoot.ai/models/fr-be/meta-llama-llama-3-1-70b-instruct/ Language: fr-be # Meta: Llama 3.1 70B Instruct [Markdown](https://ailoot.ai/models/fr-be/meta-llama-llama-3-1-70b-instruct/index.md) · [JSON](https://ailoot.ai/models/fr-be/meta-llama-llama-3-1-70b-instruct/facts.json) ## [Meta: Llama 3.1 70B Instruct](https://ailoot.ai/models/fr-be/meta-llama-llama-3-1-70b-instruct/) Llama 3.1 70B Instruct est le modèle textuel de Meta pour le dialogue multilingue, le raisonnement documentaire et le code. Sa version à 70 milliards de paramètres ajustée aux consignes utilise une attention à requêtes groupées, un contexte fabricant de 128 k et des formats documentés de conversation avec appels d’outils, avec des sorties en texte et en code. - [**Ailoot Ultra · Chat OpenAI** `POST /v1/chat/completions` `meta-llama/llama-3.1-70b-instruct`](https://ailoot.ai/models/fr-be/meta-llama-llama-3-1-70b-instruct/#method-0) - [**Ailoot Ultra · Messages Anthropic** `POST /v1/messages` `meta-llama/llama-3.1-70b-instruct`](https://ailoot.ai/models/fr-be/meta-llama-llama-3-1-70b-instruct/#method-1) À propos du modèle Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous. Llama 3.1 70B Instruct est le modèle textuel de Meta à 70 milliards de paramètres, optimisé pour le dialogue multilingue et les demandes de type assistant. Il s’agit d’un point de contrôle ajusté aux consignes dans une famille qui comprend aussi les tailles 8B et 405B et des modèles préentraînés séparés. Il accepte du texte et renvoie du texte multilingue ou du code ; l’édition nommée 70B conserve sa propre taille et son identité. Informations sur le modèle et entraînement La version utilise une architecture Transformer autorégressive avec attention à requêtes groupées. Les modèles ajustés sont alignés à l’aide d’un affinage supervisé et d’un apprentissage par renforcement à partir de retours humains. Ce sont des étapes d’entraînement visant un comportement conversationnel utile, et non un commutateur d’exécution nommé entre des modes séparés avec et sans raisonnement. Le fabricant documente un contexte de 128 k pour les modèles textuels et prend officiellement en charge l’anglais, l’allemand, le français, l’italien, le portugais, l’hindi, l’espagnol et le thaï. L’entraînement inclut un ensemble de langues plus large, ce qui ne signifie pas que toutes sont également prises en charge. Précisez la langue de sortie, la terminologie et le lecteur avant de demander un livrable multilingue. Le corpus de préentraînement de la famille est décrit comme comptant environ quinze mille milliards de tokens, avec une date limite en décembre 2023. L’affinage comprend des jeux de données de consignes et plus de vingt-cinq millions d’exemples synthétiques. Cette date délimite les données d’entraînement ; une question dépendant d’informations plus récentes ou privées nécessite que celles-ci soient fournies dans la tâche ou renvoyées par une source connectée. Chat de type assistant et analyse de sources L’édition Instruct est conçue pour répondre à une demande conversationnelle, tandis que la version préentraînée constitue une fondation adaptable à d’autres tâches de génération. Pour une réponse fondée sur des sources, fournissez la question et les passages qui déterminent le résultat. Étiquetez les sources et demandez la section ou l’énoncé justificatif à côté de chaque constat. Une comparaison pratique peut fournir deux procédures et demander les conditions communes, les différences et les conflits non résolus. Le guide obtenu peut conserver l’ordre d’origine et les conditions d’application de chaque action. Une tâche de révision documentaire peut préciser le public, les faits à conserver et si le livrable final doit être un passage révisé seul ou accompagné d’une explication. Pour une réponse plus longue, nommez les sections requises et la finalité de chacune. Un grand contexte peut garder ensemble des contenus liés, alors que le résultat final reste une matrice ou une explication concise. L’identité des sources et une question bien définie comptent davantage que le simple ajout de tous les documents disponibles. Code et exemples générés La sortie documentée comprend du code. Pour une implémentation proposée, fournissez le langage, les types d’entrée, le résultat attendu et l’interface qui doit rester compatible. Incluez le fragment existant et les déclarations pertinentes si la tâche est une correction. Demandez le code séparément de ses hypothèses et de ses exemples pour permettre son examen à l’étape suivante du développement. Pour une explication de code, fournissez l’entrée à suivre et demandez comment la fonction fournie atteint la valeur renvoyée. Pour une explication mathématique, définissez les symboles et les hypothèses, et précisez si le résultat doit être exact, approximatif ou prendre la forme d’une preuve. La génération de code et le raisonnement écrit ne compilent pas à eux seuls un programme et n’exécutent pas un calcul. Le fabricant cite aussi la génération de données synthétiques et la distillation parmi les usages de la famille. Une tâche textuelle peut demander des exemples variés dans un format spécifié, en conservant les règles fournies. Leur aptitude à servir à un entraînement ultérieur relève d’une décision distincte de l’application ; la sortie textuelle seule ne vérifie pas indépendamment leur exactitude. Format de conversation et outils La fiche présente des messages système et utilisateur séparés avec le gabarit de conversation correspondant. Utilisez la consigne système pour le rôle, le ton et les règles durables de réponse, tandis que la demande utilisateur contient le problème réel et les sources. Conservez les messages antérieurs pertinents lorsqu’un suivi s’appuie sur une réponse précédente. Llama 3.1 prend en charge plusieurs formats documentés d’utilisation d’outils. L’application fournit les fonctions et les paramètres, le modèle prépare un appel proposé, l’application l’exécute et ajoute le résultat à la conversation. Une génération ultérieure peut utiliser ce résultat. Le bref exemple de la fiche montre explicitement l’ajout de l’appel de l’assistant, puis du résultat de l’outil ; sélectionner une fonction se distingue de l’accomplissement de son opération. Pour une recherche, précisez l’information nécessaire et définissez la fonction qui la renvoie. Conservez la valeur réellement renvoyée avec l’appel d’origine avant de demander l’explication finale. Pour un calcul, distinguez l’opération proposée par le modèle du résultat renvoyé par la calculatrice. Le format natif des outils et la représentation visible d’une interface d’enrobage doivent conserver leurs conventions documentées respectives. Édition et limites pratiques Le réglage de génération de 256 tokens de la fiche consultée est un exemple d’utilisation, plutôt qu’une capacité maximale de sortie énoncée indépendamment. Le contexte de 128 k concerne les contenus et la conversation générée dans la version configurée. Ne lui substituez pas le contexte ou les capacités visuelles de Llama 4 ni la taille d’un autre point de contrôle Llama 3.1. C’est un modèle Instruct exclusivement textuel. Une image, un enregistrement ou une vidéo nécessitent que leurs contenus pertinents soient préparés par un autre composant. La recherche externe, l’exécution de programmes et les modifications de fichiers relèvent aussi de l’application connectée à l’assistant. Préservez l’édition exacte 70B Instruct et demandez l’explication reliée aux sources, le document révisé, le code ou le texte structuré nécessaire à la tâche. Cas pratique ### Cas pratique Exemple technique en anglais ``` Produce a bilingual maintenance notice Write a maintenance notice in English and Spanish from these facts: warehouse entrance B closes on Tuesday from 08:00 to 11:00; deliveries must use entrance A; pedestrian access is unchanged. Use three short sentences per language and preserve entrance letters and times. Do not add a date, delay estimate or closure of pedestrian access. ``` #### Résultat attendu ``` Two labelled language blocks with equivalent three-sentence notices. ``` #### Vérifier le résultat ``` Compare both versions for entrance A/B, Tuesday, the time range and unchanged pedestrian access. ``` **Ailoot Ultra · Chat OpenAI** `POST /v1/chat/completions` `meta-llama/llama-3.1-70b-instruct` [`meta-llama/llama-3.1-70b-instruct`](https://ailoot.ai/models/fr-be/#m=meta-llama%2Fllama-3.1-70b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-70b-instruct&fmt=chat) Meta /`meta-llama/llama-3.1-70b-instruct` ### Premiers pas Llama 3.1 70B Instruct est le modèle textuel de Meta pour le dialogue multilingue, le raisonnement documentaire et le code. Sa version à 70 milliards de paramètres ajustée aux consignes utilise une attention à requêtes groupées, un contexte fabricant de 128 k et des formats documentés de conversation avec appels d’outils, avec des sorties en texte et en code. Entrées acceptées Texte Résultats Texte ### Disponible dans Ailoot · entrées et méthodes **Ailoot Ultra · Chat OpenAI** `POST /v1/chat/completions` Entrée `text` Sortie `text` Format de sortie json ou SSE | Champ | Type | Exigence | Valeurs et limites | Par défaut | | --- | --- | --- | --- | --- | | Champ`model` | Type`string` | ExigenceObligatoire | Valeurs et limites meta-llama/llama-3.1-70b-instruct | Par défaut— | | Champ`messages` | Type`message[]` | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 | Par défaut— | | Champ`messages[].role` | Type`string` | ExigenceObligatoire | Valeurs et limites Exemples : system, user, assistant, tool, function Conditions: Ces rôles sont explicitement représentés par les types de compatibilité du code source ; l’ensemble exact des rôles reste propre à chaque modèle. Selon le modèle | Par défaut— | | Champ`messages[].content` | Type`string\|content_part[]\|null` | ExigenceFacultatif | Valeurs et limites | Par défaut— | | Champ`messages[].tool_calls` | Type`tool_call[]` | ExigenceFacultatif | Valeurs et limites | Par défaut— | | Champ`messages[].tool_call_id` | Type`string` | ExigenceFacultatif | Valeurs et limites S’applique lorsque: role=tool ; utilisez l’identifiant réellement renvoyé | Par défaut— | | Champ`messages[].name` | Type`string` | ExigenceFacultatif | Valeurs et limites | Par défaut— | | Champ`messages[].reasoning_content` | Type`string` | ExigenceFacultatif | Valeurs et limites S’applique lorsque: Réinjectez le raisonnement réellement renvoyé lorsque ce modèle l’utilise | Par défaut— | | Champ`messages[].reasoning_details` | Type`object\|array` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`max_tokens` | Type`integer` | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— | | Champ`max_completion_tokens` | Type`integer` | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— | | Champ`stream` | Type`boolean` | ExigenceFacultatif | Valeurs et limites | Par défautfalse | | Champ`stream_options.include_usage` | Type`boolean` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`temperature` | Type`number` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`top_p` | Type`number` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`stop` | Type`string\|string[]` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`tools` | Type`function_tool[]` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`tools[].type` | Type`string` | ExigenceFacultatif | Valeurs et limites function Selon le modèle | Par défaut— | | Champ`tools[].function.name` | Type`string` | ExigenceObligatoire | Valeurs et limites S’applique lorsque: outil de fonction fourni | Par défaut— | | Champ`tools[].function.description` | Type`string` | ExigenceFacultatif | Valeurs et limites | Par défaut— | | Champ`tools[].function.parameters` | Type`JSON_schema` | ExigenceFacultatif | Valeurs et limites | Par défaut— | | Champ`tool_choice` | Type`string\|object` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`parallel_tool_calls` | Type`boolean` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`response_format` | Type`object` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`reasoning_effort` | Type`string` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`reasoning` | Type`object` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`service_tier` | Type`string` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`instructions` | Type`string` | ExigenceFacultatif | Valeurs et limites Champ de compatibilité | Par défaut— | | Champ`functions` | Type`function[]` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`function_call` | Type`string\|object` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`prompt_cache_options` | Type`object` | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— | | Champ`modalities` | Type`string[]` | ExigenceFacultatif | Valeurs et limites text | Par défaut— | | Champ`provider` | Type`object` | ExigenceFacultatif | Valeurs et limites Conditions: provider.options est rejeté sur cette route textuelle Ultra | Par défaut— | | Champ`cache_control.ttl` | Type`string` | ExigenceFacultatif | Valeurs et limites Conditions: 1h est rejeté dans les emplacements réels du cache de prompt | Par défaut— | Combinaisons d’éléments d’entrée **Texte** · Texte UTF8 `messages[].content` Paramètres et cycle de vie de la méthode | Paramètre | Contrat | | --- | --- | | Paramètre`content_type` | Contratapplication/json | | Paramètre`required` | Contratmodel, messages | | Paramètre`material_types` | Contrattext | | Paramètre`messages` | Contrattableau de messages avec une structure role/content | | Paramètre`file_material` | Contratdocument UTF-8 réel inséré sous forme de texte littéral ; aucun identifiant de fichier déduit | | Paramètre`optional_controls` | Contratstream, temperature, top\_p, stop, max\_tokens, max\_completion\_tokens, reasoning, response\_format, tools, tool\_choice | | Paramètre`control_scope` | Contratpropre au modèle ; les outils de fonctions de l’utilisateur diffèrent des outils hébergés | | Paramètre`output_modalities` | Contrattext | | Paramètre`hosted_operations` | Contratfalse | | Paramètre`multimodal_input_binding` | Contratnull | Cycle de vie : `synchronous_or_streamed` Envoyez l’identifiant exact du modèle avec messages. La longueur du contexte n’est pas un plafond de sortie. Un fichier texte peut fournir du texte littéral ; les entrées image/audio/objets fichier nécessitent une liaison exacte. ### Tarifs Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée. Mode rapide Tarif standard Lorsque le mode rapide est sélectionné Mode Flex Tarif standard Lorsque le mode flex est sélectionné Effort de raisonnement maximal Tarif standard Lorsque l’effort de raisonnement maximal utilise l’ajustement par défaut (default) #### Tarifs Ailoot #### Prix par configuration Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives. | Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût | | --- | --- | --- | --- | --- | | ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée **$0.00144** / 1K tokens Sortie · Tokens en sortie **$0.00144** / 1K tokens Entrée · Lecture du cache **—** / 1K tokens Entrée · Écriture dans le cache **—** / 1K tokens Entrée · Écriture dans le cache, 1 h **—** / 1K tokens | | ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée **$0.00144** / 1K tokens Sortie · Tokens en sortie **$0.00144** / 1K tokens Entrée · Lecture du cache **—** / 1K tokens Entrée · Écriture dans le cache **—** / 1K tokens Entrée · Écriture dans le cache, 1 h **—** / 1K tokens | Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. [Fonctionnement de la réservation et du débit →](https://ailoot.ai/docs/fr-be/billing/reserve/) ### Exemples de requêtes #### Ailoot Ultra · Chat OpenAI curlPython SDKStreaming Python ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "meta-llama/llama-3.1-70b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}') Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path r=json.loads(Path("result.json").read_text()) for x in r.get("choices",[]): if x.get("message",{}).get("content"): print(x["message"]["content"]) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) result=client.chat.completions.create(model='meta-llama/llama-3.1-70b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(result.to_dict(mode="json")) ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='meta-llama/llama-3.1-70b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Recevoir et enregistrer les résultats #### Ailoot Ultra · Chat OpenAI json ou SSE ##### Conserver tous les résultats terminés Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité. Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, puis conservez le motif final de terminaison et les données d’utilisation. ##### Si la réponse d’origine doit être vérifiée Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie. Champs de la réponse | Champ | Type | | --- | --- | | Champ`choices[].index` | Typeinteger | | Champ`choices[].message.content` | Typestring\|null | | Champ`choices[].message.tool_calls` | Typetool\_call\[\] | | Champ`choices[].message.reasoning_content` | Typestring | | Champ`choices[].message.reasoning_details` | Typeobject\|array | | Champ`choices[].finish_reason` | Typestring\|null | | Champ`usage` | Typeobject | Erreurs et étapes suivantes | Réponse | Condition | Étape suivante | | --- | --- | --- | | Réponse400 · `invalid_request_error` | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. | ### Alias #### Alias du modèle **Ailoot Ultra** [`meta-llama/llama-3.1-70b-instruct`](https://ailoot.ai/models/fr-be/#m=meta-llama%2Fllama-3.1-70b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-70b-instruct&fmt=chat) #### Alias des chemins de méthode Utilisez les chemins de méthode indiqués ci-dessus. #### ID d’appel associés [`meta-llama/llama-3.1-70b-instruct`](https://ailoot.ai/models/fr-be/#m=meta-llama%2Fllama-3.1-70b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-70b-instruct&fmt=chat) **Ailoot Ultra · Messages Anthropic** `POST /v1/messages` `meta-llama/llama-3.1-70b-instruct` [`meta-llama/llama-3.1-70b-instruct`](https://ailoot.ai/models/fr-be/#m=meta-llama%2Fllama-3.1-70b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-70b-instruct&fmt=messages) Meta /`meta-llama/llama-3.1-70b-instruct` ### Premiers pas Llama 3.1 70B Instruct est le modèle textuel de Meta pour le dialogue multilingue, le raisonnement documentaire et le code. Sa version à 70 milliards de paramètres ajustée aux consignes utilise une attention à requêtes groupées, un contexte fabricant de 128 k et des formats documentés de conversation avec appels d’outils, avec des sorties en texte et en code. Entrées acceptées Texte Résultats json · sse ### Disponible dans Ailoot · entrées et méthodes **Ailoot Ultra · Messages Anthropic** `POST /v1/messages` Entrée `text` Sortie `json`, `sse` Format de sortie JSON ou SSE | Champ | Type | Exigence | Valeurs et limites | Par défaut | | --- | --- | --- | --- | --- | | Champ`model` | Type`string` | ExigenceObligatoire | Valeurs et limites meta-llama/llama-3.1-70b-instruct | Par défaut— | | Champ`messages` | Type`message[]` | ExigenceObligatoire | Valeurs et limites | Par défaut— | | Champ`messages[].role` | Type`string` | ExigenceObligatoire | Valeurs et limites user, assistant | Par défaut— | | Champ`messages[].content` | Type`string` | ExigenceObligatoire | Valeurs et limites | Par défaut— | | Champ`max_tokens` | Type`integer` | ExigenceObligatoire | Valeurs et limites | Par défaut— | | Champ`stream` | Type`boolean` | ExigenceFacultatif | Valeurs et limites | Par défautfalse | Combinaisons d’éléments d’entrée **Texte** · Texte UTF-8 `chaîne messages[].content` Paramètres et cycle de vie de la méthode | Paramètre | Contrat | | --- | --- | | Paramètre`content_type` | Contratapplication/json | | Paramètre`required` | Contratmodel, messages, max\_tokens | | Paramètre`optional_controls` | Contratstream | | Paramètre`material_types` | Contrattext | | Paramètre`text_file_material` | ContratLisez le document UTF-8 réel et placez son texte dans l’entrée indiquée ou dans la chaîne de contenu du message. | Cycle de vie : `synchronous_or_streamed` ### Tarifs Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée. Mode rapide Tarif standard Lorsque le mode rapide est sélectionné Mode Flex Tarif standard Lorsque le mode flex est sélectionné Effort de raisonnement maximal Tarif standard Lorsque l’effort de raisonnement maximal utilise l’ajustement par défaut (default) #### Tarifs Ailoot #### Prix par configuration Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives. | Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût | | --- | --- | --- | --- | --- | | ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée **$0.00144** / 1K tokens Sortie · Tokens en sortie **$0.00144** / 1K tokens Entrée · Lecture du cache **—** / 1K tokens Entrée · Écriture dans le cache **—** / 1K tokens Entrée · Écriture dans le cache, 1 h **—** / 1K tokens | | ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée **$0.00144** / 1K tokens Sortie · Tokens en sortie **$0.00144** / 1K tokens Entrée · Lecture du cache **—** / 1K tokens Entrée · Écriture dans le cache **—** / 1K tokens Entrée · Écriture dans le cache, 1 h **—** / 1K tokens | Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. [Fonctionnement de la réservation et du débit →](https://ailoot.ai/docs/fr-be/billing/reserve/) ### Exemples de requêtes #### Ailoot Ultra · Messages Anthropic Corps JSON minimal completcurl · utilisez votre document UTF-8Python · enregistrez le résultat complet ```json { "model": "meta-llama/llama-3.1-70b-instruct", "max_tokens": 128, "messages": [ { "role": "user", "content": "Summarize the incident report." } ], "stream": false } ``` ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'meta-llama/llama-3.1-70b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8') PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \ -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) PY_RESULT ``` ```python import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'meta-llama/llama-3.1-70b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text from urllib.request import Request, urlopen from urllib.error import HTTPError api_key = os.environ['AILOOT_API_KEY'] if not api_key.strip(): raise SystemExit('Set AILOOT_API_KEY before making a request') headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'} headers['x-api-key'] = api_key request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST') try: with urlopen(request, timeout=120) as response: raw = response.read() Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8') except HTTPError as error: Path('result.json').write_bytes(error.read()) Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8') raise Path('result.json').write_bytes(raw) import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) ``` ### Recevoir et enregistrer les résultats #### Ailoot Ultra · Messages Anthropic JSON ou SSE ##### Conserver tous les résultats terminés Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité. Conservez tous les blocs de contenu, les signatures de raisonnement et les identifiants réels d’utilisation d’outils. Assemblez tous les deltas de blocs SSE ; un premier bloc de texte ne constitue pas la sortie complète. ##### Si la réponse d’origine doit être vérifiée Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie. Champs de la réponse | Champ | Type | | --- | --- | | Champ`id` | Typestring | | Champ`model` | Typestring | | Champ`content[]` | Typetext\|thinking\|tool\_use\|other content block | | Champ`stop_reason` | Typestring\|null | | Champ`usage` | Typeobject | Erreurs et étapes suivantes | Réponse | Condition | Étape suivante | | --- | --- | --- | | Réponse400 · `invalid_request_error` | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. | ### Alias #### Alias du modèle **Ailoot Ultra** [`meta-llama/llama-3.1-70b-instruct`](https://ailoot.ai/models/fr-be/#m=meta-llama%2Fllama-3.1-70b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-70b-instruct&fmt=messages) #### Alias des chemins de méthode Utilisez les chemins de méthode indiqués ci-dessus. #### ID d’appel associés [`meta-llama/llama-3.1-70b-instruct`](https://ailoot.ai/models/fr-be/#m=meta-llama%2Fllama-3.1-70b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-70b-instruct&fmt=messages) FAQ · Meta: Llama 3.1 70B Instruct Quelles entrées et quels résultats sont disponibles ? `POST /v1/chat/completions` · `meta-llama/llama-3.1-70b-instruct`: `text` → `text` `POST /v1/messages` · `meta-llama/llama-3.1-70b-instruct`: `text` → `json`, `sse` Quels champs la requête utilise-t-elle ? `POST /v1/chat/completions` · `meta-llama/llama-3.1-70b-instruct`: `model`, `messages`, `stream`, `modalities`, `provider` `POST /v1/messages` · `meta-llama/llama-3.1-70b-instruct`: `model`, `messages`, `max_tokens`, `stream` Quelles limites s’appliquent ? `POST /v1/chat/completions` · `meta-llama/llama-3.1-70b-instruct`: `messages.min_items`: `1` Connectez Ailoot à Claude Code, OpenCode, Hermes ou à votre application. ## L’entreprise et son portefeuille de projets L’entreprise et son portefeuille de projets : des millions de clients ; des ventes qui se chiffrent en milliards chaque mois. ## Achetez des tokens à prix réduit. Une remise d’abonnement pour le travail régulier. Des codes promo jusqu’à 50% sur l’achat de tokens. Abonnement Choisissez une offre à tarif réduit pour vos requêtes régulières. Code promo jusqu’à 50% Saisissez le code à l’achat. Le prix est recalculé selon la promotion en cours. Dépenses dans l’historique Modèle, tokens et montant sont enregistrés pour chaque requête. [Choisir un abonnement](https://ailoot.ai/docs/fr-be/billing/subscriptions/) · [Voir les prix des modèles](https://ailoot.ai/models/fr-be/) ## Connectez l’API au produit que vous vendez. SaaS, applications et bots selon l’offre officielle et le contrat de licence Ailoot. Pour la revente, demandez une licence revendeur. Application commerciale Intégrez la génération de texte, d’images, de vidéo et de son aux fonctions payantes de votre service. Licence revendeur Envoyez la description du projet et le mode d’accès. Demandez des conditions écrites d’utilisation et de revente. Documents sur le site L’offre officielle, le contrat de licence et la politique de traitement des données sont accessibles avant connexion. [Demander une licence revendeur](mailto:support@ailoot.ai) · [Offre officielle et contrat de licence](https://ailoot.ai/legal/offer?lang=fr-be) ## Ailoot · L’entreprise et son portefeuille de projets Ailoot s’appuie sur une expérience opérationnelle éprouvée, une large clientèle, un service stable et un suivi continu des KPI. L’entreprise et son portefeuille de projets : des millions de clients ; des ventes qui se chiffrent en milliards chaque mois. Ailoot met cette expérience opérationnelle au service de l’accès API aux fonctions d’IA dans les produits des clients, leurs agents, applications et automatisations.