Command R7B est le modèle textuel compact de Cohere de décembre 2024. Son architecture de 7 milliards de paramètres est conçue pour le raisonnement, la synthèse, les questions-réponses, la programmation et l’assistance en entreprise. L’éditeur l’entraîne également à la génération augmentée par la recherche et à l’utilisation de plusieurs outils sur plusieurs étapes. Il accepte du texte et génère du texte, avec un contexte de 128K et une sortie maximale de 4 000 tokens dans le profil publié de l’éditeur.
Le modèle utilise un Transformer autorégressif avec ajustement supervisé et entraînement par préférences. Son schéma d’attention combine trois couches locales à fenêtre glissante, utilisant une fenêtre de 4 096 tokens avec encodage positionnel rotatif, et une couche d’attention globale. Il est entraîné sur 23 langues, dont le russe, l’anglais et les langues énumérées dans la fiche exacte du modèle.
L’éditeur distingue les préambules conversationnels et les préambules d’instruction. L’usage conversationnel ajoute un comportement de dialogue, des introductions, des questions de suivi et une mise en forme comme Markdown. L’usage par instruction vise des réponses concises mais complètes pour l’extraction, la synthèse, la traduction et la catégorisation, sans Markdown ni LaTeX par défaut. Le modèle publié est livré sans préambule système ; l’éditeur recommande donc de fournir celui qui convient à la tâche.
Pour un processus de classification, donnez les définitions des catégories et indiquez au modèle comment traiter un élément qui ne correspond à aucune d’elles. Pour une réponse d’assistance, fournissez la question et les contenus produit approuvés, puis demandez une réponse dans la langue de l’utilisateur. Une spécification de sortie claire évite que des ajouts conversationnels deviennent accidentellement des champs d’un enregistrement de données.
R7B est entraîné pour l’étape de réponse finale de la génération augmentée par la recherche. Le modèle de prompt de l’éditeur associe la conversation aux extraits de documents fournis. L’éditeur recommande des blocs courts, généralement de 100 à 400 mots, représentés par des clés descriptives courtes et des valeurs textuelles ou semi-structurées. Il recommande aussi d’évaluer si l’insertion directe des documents pertinents dans le message utilisateur fonctionne mieux pour un cas d’usage donné.
Une tâche illustrative est : « Utilisez ces passages nommés pour répondre à la question, identifiez l’énoncé qui étaye la réponse et signalez les informations que les passages ne contiennent pas. » Préservez les titres et les unités pour qu’un fait extrait puisse être vérifié dans le contenu d’origine. L’application récupère ou fournit les documents ; le modèle génère une réponse à partir de ce contexte.
L’exemple d’utilisation d’outils de l’éditeur fournit des définitions de fonctions en schéma JSON et conserve l’appel choisi, son plan et son résultat dans la conversation. Chaque résultat est un dictionnaire associé à l’identifiant de l’appel d’outil correspondant. La réponse suivante peut ainsi utiliser l’observation réelle. Un assistant de programmation peut donc mener une tâche ciblée lorsque l’application environnante fournit des outils adaptés d’inspection ou de validation.
La fiche du modèle met en avant SQL et la traduction de code, ainsi que les extraits, les explications et les réécritures. Donnez le schéma, l’entrée ou le code source et le comportement à préserver. L’éditeur recommande une température basse ou un décodage glouton pour la génération de code. Considérez l’instruction générée comme un livrable proposé jusqu’à sa vérification dans l’environnement prévu.
Le rôle compact de R7B convient aux tâches claires et répétées ainsi qu’aux conversations réactives. Réservez de la place dans le contexte pour la réponse et l’historique d’outils utile, et explicitez le critère d’achèvement. Pour les affirmations dépendant des sources, fournissez les éléments pertinents plutôt que d’attendre de la seule taille du modèle ou d’un long prompt qu’ils établissent l’exactitude.
", "aboutText": "Command R7B est le modèle textuel compact de Cohere de décembre 2024. Son architecture de 7 milliards de paramètres est conçue pour le raisonnement, la synthèse, les questions-réponses, la programmation et l’assistance en entreprise. L’éditeur l’entraîne également à la génération augmentée par la recherche et à l’utilisation de plusieurs outils sur plusieurs étapes. Il accepte du texte et génère du texte, avec un contexte de 128K et une sortie maximale de 4 000 tokens dans le profil publié de l’éditeur.\n\n### Modèle et comportement des réponses\n\nLe modèle utilise un Transformer autorégressif avec ajustement supervisé et entraînement par préférences. Son schéma d’attention combine trois couches locales à fenêtre glissante, utilisant une fenêtre de 4 096 tokens avec encodage positionnel rotatif, et une couche d’attention globale. Il est entraîné sur 23 langues, dont le russe, l’anglais et les langues énumérées dans la fiche exacte du modèle.\n\nL’éditeur distingue les préambules conversationnels et les préambules d’instruction. L’usage conversationnel ajoute un comportement de dialogue, des introductions, des questions de suivi et une mise en forme comme Markdown. L’usage par instruction vise des réponses concises mais complètes pour l’extraction, la synthèse, la traduction et la catégorisation, sans Markdown ni LaTeX par défaut. Le modèle publié est livré sans préambule système ; l’éditeur recommande donc de fournir celui qui convient à la tâche.\n\nPour un processus de classification, donnez les définitions des catégories et indiquez au modèle comment traiter un élément qui ne correspond à aucune d’elles. Pour une réponse d’assistance, fournissez la question et les contenus produit approuvés, puis demandez une réponse dans la langue de l’utilisateur. Une spécification de sortie claire évite que des ajouts conversationnels deviennent accidentellement des champs d’un enregistrement de données.\n\n### Réponses à partir de documents\n\nR7B est entraîné pour l’étape de réponse finale de la génération augmentée par la recherche. Le modèle de prompt de l’éditeur associe la conversation aux extraits de documents fournis. L’éditeur recommande des blocs courts, généralement de 100 à 400 mots, représentés par des clés descriptives courtes et des valeurs textuelles ou semi-structurées. Il recommande aussi d’évaluer si l’insertion directe des documents pertinents dans le message utilisateur fonctionne mieux pour un cas d’usage donné.\n\nUne tâche illustrative est : « Utilisez ces passages nommés pour répondre à la question, identifiez l’énoncé qui étaye la réponse et signalez les informations que les passages ne contiennent pas. » Préservez les titres et les unités pour qu’un fait extrait puisse être vérifié dans le contenu d’origine. L’application récupère ou fournit les documents ; le modèle génère une réponse à partir de ce contexte.\n\n### Outils et programmation\n\nL’exemple d’utilisation d’outils de l’éditeur fournit des définitions de fonctions en schéma JSON et conserve l’appel choisi, son plan et son résultat dans la conversation. Chaque résultat est un dictionnaire associé à l’identifiant de l’appel d’outil correspondant. La réponse suivante peut ainsi utiliser l’observation réelle. Un assistant de programmation peut donc mener une tâche ciblée lorsque l’application environnante fournit des outils adaptés d’inspection ou de validation.\n\nLa fiche du modèle met en avant SQL et la traduction de code, ainsi que les extraits, les explications et les réécritures. Donnez le schéma, l’entrée ou le code source et le comportement à préserver. L’éditeur recommande une température basse ou un décodage glouton pour la génération de code. Considérez l’instruction générée comme un livrable proposé jusqu’à sa vérification dans l’environnement prévu.\n\nLe rôle compact de R7B convient aux tâches claires et répétées ainsi qu’aux conversations réactives. Réservez de la place dans le contexte pour la réponse et l’historique d’outils utile, et explicitez le critère d’achèvement. Pour les affirmations dépendant des sources, fournissez les éléments pertinents plutôt que d’attendre de la seule taille du modèle ou d’un long prompt qu’ils établissent l’exactitude.", "editorialOverlay": { "copy_fields": { "practical_html": "Exemple technique en anglais
Answer from support snippets\n\nAnswer the customer using only these support snippets. [Returns] Unused items can be returned within 14 days of receipt. [Shipping] Return shipping is paid by the buyer unless the item is defective. Question: "My unused item arrived 10 days ago. Can I return it, and who pays postage?" Cite the relevant snippet names.A concise customer answer citing Returns and Shipping, including the defect exception.Ensure the answer uses receipt time and preserves the buyer-paid postage exception.cohere/command-r7b-12-2024Command R7B est le modèle textuel compact de 7B de Cohere pour le chat, l’extraction, l’aide à la programmation et les agents guidés par des outils. L’édition de décembre 2024 est entraînée sur 23 langues, prend en charge un contexte de 128K et vise des tâches d’entreprise ciblées et réactives à partir de documents ou de résultats d’outils fournis.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Command R7B est le modèle textuel compact de Cohere de décembre 2024. Son architecture de 7 milliards de paramètres est conçue pour le raisonnement, la synthèse, les questions-réponses, la programmation et l’assistance en entreprise. L’éditeur l’entraîne également à la génération augmentée par la recherche et à l’utilisation de plusieurs outils sur plusieurs étapes. Il accepte du texte et génère du texte, avec un contexte de 128K et une sortie maximale de 4 000 tokens dans le profil publié de l’éditeur.
Le modèle utilise un Transformer autorégressif avec ajustement supervisé et entraînement par préférences. Son schéma d’attention combine trois couches locales à fenêtre glissante, utilisant une fenêtre de 4 096 tokens avec encodage positionnel rotatif, et une couche d’attention globale. Il est entraîné sur 23 langues, dont le russe, l’anglais et les langues énumérées dans la fiche exacte du modèle.
L’éditeur distingue les préambules conversationnels et les préambules d’instruction. L’usage conversationnel ajoute un comportement de dialogue, des introductions, des questions de suivi et une mise en forme comme Markdown. L’usage par instruction vise des réponses concises mais complètes pour l’extraction, la synthèse, la traduction et la catégorisation, sans Markdown ni LaTeX par défaut. Le modèle publié est livré sans préambule système ; l’éditeur recommande donc de fournir celui qui convient à la tâche.
Pour un processus de classification, donnez les définitions des catégories et indiquez au modèle comment traiter un élément qui ne correspond à aucune d’elles. Pour une réponse d’assistance, fournissez la question et les contenus produit approuvés, puis demandez une réponse dans la langue de l’utilisateur. Une spécification de sortie claire évite que des ajouts conversationnels deviennent accidentellement des champs d’un enregistrement de données.
R7B est entraîné pour l’étape de réponse finale de la génération augmentée par la recherche. Le modèle de prompt de l’éditeur associe la conversation aux extraits de documents fournis. L’éditeur recommande des blocs courts, généralement de 100 à 400 mots, représentés par des clés descriptives courtes et des valeurs textuelles ou semi-structurées. Il recommande aussi d’évaluer si l’insertion directe des documents pertinents dans le message utilisateur fonctionne mieux pour un cas d’usage donné.
Une tâche illustrative est : « Utilisez ces passages nommés pour répondre à la question, identifiez l’énoncé qui étaye la réponse et signalez les informations que les passages ne contiennent pas. » Préservez les titres et les unités pour qu’un fait extrait puisse être vérifié dans le contenu d’origine. L’application récupère ou fournit les documents ; le modèle génère une réponse à partir de ce contexte.
L’exemple d’utilisation d’outils de l’éditeur fournit des définitions de fonctions en schéma JSON et conserve l’appel choisi, son plan et son résultat dans la conversation. Chaque résultat est un dictionnaire associé à l’identifiant de l’appel d’outil correspondant. La réponse suivante peut ainsi utiliser l’observation réelle. Un assistant de programmation peut donc mener une tâche ciblée lorsque l’application environnante fournit des outils adaptés d’inspection ou de validation.
La fiche du modèle met en avant SQL et la traduction de code, ainsi que les extraits, les explications et les réécritures. Donnez le schéma, l’entrée ou le code source et le comportement à préserver. L’éditeur recommande une température basse ou un décodage glouton pour la génération de code. Considérez l’instruction générée comme un livrable proposé jusqu’à sa vérification dans l’environnement prévu.
Le rôle compact de R7B convient aux tâches claires et répétées ainsi qu’aux conversations réactives. Réservez de la place dans le contexte pour la réponse et l’historique d’outils utile, et explicitez le critère d’achèvement. Pour les affirmations dépendant des sources, fournissez les éléments pertinents plutôt que d’attendre de la seule taille du modèle ou d’un long prompt qu’ils établissent l’exactitude.
POST /v1/chat/completionstexttext| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites cohere/command-r7b-12-2024 | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites Exemples : system, user, assistant, tool, function Conditions: Ces rôles sont explicitement représentés par les types de compatibilité du code source ; l’ensemble exact des rôles reste propre à chaque modèle. Selon le modèle | Par défaut— |
Champmessages[].content | Typestring|content_part[]|null | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_calls | Typetool_call[] | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_call_id | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: role=tool ; utilisez l’identifiant réellement renvoyé | Par défaut— |
Champmessages[].name | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].reasoning_content | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: Réinjectez le raisonnement réellement renvoyé lorsque ce modèle l’utilise | Par défaut— |
Champmessages[].reasoning_details | Typeobject|array | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champmax_completion_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Champstream_options.include_usage | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtemperature | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtop_p | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champstop | Typestring|string[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools | Typefunction_tool[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools[].type | Typestring | ExigenceFacultatif | Valeurs et limites function Selon le modèle | Par défaut— |
Champtools[].function.name | Typestring | ExigenceObligatoire | Valeurs et limites S’applique lorsque: outil de fonction fourni | Par défaut— |
Champtools[].function.description | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtools[].function.parameters | TypeJSON_schema | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtool_choice | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champparallel_tool_calls | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champresponse_format | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning_effort | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champservice_tier | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champinstructions | Typestring | ExigenceFacultatif | Valeurs et limites Champ de compatibilité | Par défaut— |
Champfunctions | Typefunction[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champfunction_call | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champprompt_cache_options | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmodalities | Typestring[] | ExigenceFacultatif | Valeurs et limites text | Par défaut— |
Champprovider | Typeobject | ExigenceFacultatif | Valeurs et limites Conditions: provider.options est rejeté sur cette route textuelle Ultra | Par défaut— |
Champcache_control.ttl | Typestring | ExigenceFacultatif | Valeurs et limites Conditions: 1h est rejeté dans les emplacements réels du cache de prompt | Par défaut— |
Texte · Texte UTF8
messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages |
Paramètrematerial_types | Contrattext |
Paramètremessages | Contrattableau de messages avec une structure role/content |
Paramètrefile_material | Contratdocument UTF-8 réel inséré sous forme de texte littéral ; aucun identifiant de fichier déduit |
Paramètreoptional_controls | Contratstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Paramètrecontrol_scope | Contratpropre au modèle ; les outils de fonctions de l’utilisateur diffèrent des outils hébergés |
Paramètreoutput_modalities | Contrattext |
Paramètrehosted_operations | Contratfalse |
Paramètremultimodal_input_binding | Contratnull |
Cycle de vie : synchronous_or_streamed
Envoyez l’identifiant exact du modèle avec messages.
La longueur du contexte n’est pas un plafond de sortie.
Un fichier texte peut fournir du texte littéral ; les entrées image/audio/objets fichier nécessitent une liaison exacte.
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.000075 / 1K tokens Sortie · Tokens en sortie $0.0003 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.000075 / 1K tokens Sortie · Tokens en sortie $0.0003 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "cohere/command-r7b-12-2024", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='cohere/command-r7b-12-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='cohere/command-r7b-12-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, puis conservez le motif final de terminaison et les données d’utilisation.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champchoices[].index | Typeinteger |
Champchoices[].message.content | Typestring|null |
Champchoices[].message.tool_calls | Typetool_call[] |
Champchoices[].message.reasoning_content | Typestring |
Champchoices[].message.reasoning_details | Typeobject|array |
Champchoices[].finish_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra cohere/command-r7b-12-2024
Utilisez les chemins de méthode indiqués ci-dessus.
cohere/command-r7b-12-2024Command R7B est le modèle textuel compact de 7B de Cohere pour le chat, l’extraction, l’aide à la programmation et les agents guidés par des outils. L’édition de décembre 2024 est entraînée sur 23 langues, prend en charge un contexte de 128K et vise des tâches d’entreprise ciblées et réactives à partir de documents ou de résultats d’outils fournis.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Command R7B est le modèle textuel compact de Cohere de décembre 2024. Son architecture de 7 milliards de paramètres est conçue pour le raisonnement, la synthèse, les questions-réponses, la programmation et l’assistance en entreprise. L’éditeur l’entraîne également à la génération augmentée par la recherche et à l’utilisation de plusieurs outils sur plusieurs étapes. Il accepte du texte et génère du texte, avec un contexte de 128K et une sortie maximale de 4 000 tokens dans le profil publié de l’éditeur.
Le modèle utilise un Transformer autorégressif avec ajustement supervisé et entraînement par préférences. Son schéma d’attention combine trois couches locales à fenêtre glissante, utilisant une fenêtre de 4 096 tokens avec encodage positionnel rotatif, et une couche d’attention globale. Il est entraîné sur 23 langues, dont le russe, l’anglais et les langues énumérées dans la fiche exacte du modèle.
L’éditeur distingue les préambules conversationnels et les préambules d’instruction. L’usage conversationnel ajoute un comportement de dialogue, des introductions, des questions de suivi et une mise en forme comme Markdown. L’usage par instruction vise des réponses concises mais complètes pour l’extraction, la synthèse, la traduction et la catégorisation, sans Markdown ni LaTeX par défaut. Le modèle publié est livré sans préambule système ; l’éditeur recommande donc de fournir celui qui convient à la tâche.
Pour un processus de classification, donnez les définitions des catégories et indiquez au modèle comment traiter un élément qui ne correspond à aucune d’elles. Pour une réponse d’assistance, fournissez la question et les contenus produit approuvés, puis demandez une réponse dans la langue de l’utilisateur. Une spécification de sortie claire évite que des ajouts conversationnels deviennent accidentellement des champs d’un enregistrement de données.
R7B est entraîné pour l’étape de réponse finale de la génération augmentée par la recherche. Le modèle de prompt de l’éditeur associe la conversation aux extraits de documents fournis. L’éditeur recommande des blocs courts, généralement de 100 à 400 mots, représentés par des clés descriptives courtes et des valeurs textuelles ou semi-structurées. Il recommande aussi d’évaluer si l’insertion directe des documents pertinents dans le message utilisateur fonctionne mieux pour un cas d’usage donné.
Une tâche illustrative est : « Utilisez ces passages nommés pour répondre à la question, identifiez l’énoncé qui étaye la réponse et signalez les informations que les passages ne contiennent pas. » Préservez les titres et les unités pour qu’un fait extrait puisse être vérifié dans le contenu d’origine. L’application récupère ou fournit les documents ; le modèle génère une réponse à partir de ce contexte.
L’exemple d’utilisation d’outils de l’éditeur fournit des définitions de fonctions en schéma JSON et conserve l’appel choisi, son plan et son résultat dans la conversation. Chaque résultat est un dictionnaire associé à l’identifiant de l’appel d’outil correspondant. La réponse suivante peut ainsi utiliser l’observation réelle. Un assistant de programmation peut donc mener une tâche ciblée lorsque l’application environnante fournit des outils adaptés d’inspection ou de validation.
La fiche du modèle met en avant SQL et la traduction de code, ainsi que les extraits, les explications et les réécritures. Donnez le schéma, l’entrée ou le code source et le comportement à préserver. L’éditeur recommande une température basse ou un décodage glouton pour la génération de code. Considérez l’instruction générée comme un livrable proposé jusqu’à sa vérification dans l’environnement prévu.
Le rôle compact de R7B convient aux tâches claires et répétées ainsi qu’aux conversations réactives. Réservez de la place dans le contexte pour la réponse et l’historique d’outils utile, et explicitez le critère d’achèvement. Pour les affirmations dépendant des sources, fournissez les éléments pertinents plutôt que d’attendre de la seule taille du modèle ou d’un long prompt qu’ils établissent l’exactitude.
POST /v1/messagestextjson, sse| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites cohere/command-r7b-12-2024 | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites user, assistant | Par défaut— |
Champmessages[].content | Typestring | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Texte · Texte UTF-8
chaîne messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages, max_tokens |
Paramètreoptional_controls | Contratstream |
Paramètrematerial_types | Contrattext |
Paramètretext_file_material | ContratLisez le document UTF-8 réel et placez son texte dans l’entrée indiquée ou dans la chaîne de contenu du message. |
Cycle de vie : synchronous_or_streamed
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.000075 / 1K tokens Sortie · Tokens en sortie $0.0003 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.000075 / 1K tokens Sortie · Tokens en sortie $0.0003 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
{\n "model": "cohere/command-r7b-12-2024",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r7b-12-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r7b-12-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez tous les blocs de contenu, les signatures de raisonnement et les identifiants réels d’utilisation d’outils. Assemblez tous les deltas de blocs SSE ; un premier bloc de texte ne constitue pas la sortie complète.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champid | Typestring |
Champmodel | Typestring |
Champcontent[] | Typetext|thinking|tool_use|other content block |
Champstop_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra cohere/command-r7b-12-2024
Utilisez les chemins de méthode indiqués ci-dessus.
Exemple technique en anglais
Answer from support snippets\n\nAnswer the customer using only these support snippets. [Returns] Unused items can be returned within 14 days of receipt. [Shipping] Return shipping is paid by the buyer unless the item is defective. Question: "My unused item arrived 10 days ago. Can I return it, and who pays postage?" Cite the relevant snippet names.A concise customer answer citing Returns and Shipping, including the defect exception.Ensure the answer uses receipt time and preserves the buyer-paid postage exception.