Command R7B est le modèle textuel compact de Cohere de décembre 2024. Son architecture de 7 milliards de paramètres est conçue pour le raisonnement, la synthèse, les questions-réponses, la programmation et l’assistance en entreprise. Le fabricant l’entraîne aussi à la génération augmentée par récupération documentaire et à l’utilisation de plusieurs outils sur plusieurs étapes. Il reçoit et génère du texte, avec un contexte de 128K et une sortie maximale de 4 000 tokens dans le profil publié du producteur.
Le modèle utilise un Transformer autorégressif avec affinage supervisé et entraînement sur les préférences. Son attention associe trois couches locales à fenêtre glissante de 4 096 tokens avec encodage positionnel rotatif à une couche d’attention globale. Il est entraîné dans 23 langues, dont le russe, l’anglais et les langues énumérées dans la fiche exacte du modèle.
Le producteur distingue les préambules conversationnel et instructif. L’usage conversationnel ajoute des comportements de dialogue, des introductions, des questions complémentaires et une mise en forme comme Markdown. L’usage instructif vise des réponses concises mais complètes pour l’extraction, la synthèse, la traduction et la catégorisation, sans Markdown ni LaTeX par défaut. Le modèle publié est livré sans préambule système: le fabricant recommande donc d’en fournir un adapté à la tâche.
Pour un processus de classification, donnez les définitions des catégories et expliquez comment traiter un élément qui ne correspond à aucune. Pour une réponse d’assistance, fournissez la question et les documents produit approuvés, puis demandez une réponse dans la langue de l’utilisateur. Une spécification claire évite que des ajouts conversationnels deviennent des champs accidentels dans un enregistrement de données.
R7B est entraîné pour l’étape finale de réponse de la génération augmentée par récupération documentaire. Le modèle de consigne du producteur associe la conversation à des extraits fournis. Le fabricant recommande des segments courts, généralement de 100 à 400 mots, représentés par de brèves clés descriptives et des valeurs textuelles ou semi-structurées. Il recommande aussi d’évaluer si l’insertion des documents pertinents directement dans le message utilisateur fonctionne mieux pour un usage donné.
Voici une tâche illustrative: «Utilise ces passages nommés pour répondre à la question, identifie l’énoncé qui étaye la réponse et signale les informations absentes des passages.» Conservez les titres et unités pour qu’un fait extrait puisse être comparé au document original. L’application récupère ou fournit les documents; le modèle génère une réponse à partir de ce contexte.
L’exemple d’utilisation d’outils du fabricant fournit des définitions de fonctions JSON Schema et conserve dans la conversation l’appel choisi, son plan et son résultat. Chaque résultat est un dictionnaire associé à l’identifiant d’appel correspondant. La réponse suivante peut ainsi utiliser l’observation réelle. Un assistant de programmation peut donc mener une tâche ciblée lorsque l’application environnante fournit des outils d’inspection ou de validation adaptés.
La fiche met en avant le SQL et la traduction de code, ainsi que les extraits, explications et réécritures. Donnez le schéma, l’entrée ou le code source et le comportement à préserver. Le producteur recommande une température basse ou un décodage glouton pour la génération de code. Traitez l’instruction générée comme un artefact proposé jusqu’à sa vérification dans l’environnement prévu.
Le rôle compact de R7B convient aux tâches claires et répétées et à une conversation réactive. Réservez de la place dans le contexte pour la réponse et l’historique d’outils utile et explicitez le critère d’achèvement. Pour les affirmations dépendant de sources, fournissez les éléments pertinents au lieu d’attendre de la seule taille du modèle ou d’une longue consigne qu’elles établissent l’exactitude.
", "aboutText": "Command R7B est le modèle textuel compact de Cohere de décembre 2024. Son architecture de 7 milliards de paramètres est conçue pour le raisonnement, la synthèse, les questions-réponses, la programmation et l’assistance en entreprise. Le fabricant l’entraîne aussi à la génération augmentée par récupération documentaire et à l’utilisation de plusieurs outils sur plusieurs étapes. Il reçoit et génère du texte, avec un contexte de 128K et une sortie maximale de 4 000 tokens dans le profil publié du producteur.\n\n### Modèle et comportement de réponse\n\nLe modèle utilise un Transformer autorégressif avec affinage supervisé et entraînement sur les préférences. Son attention associe trois couches locales à fenêtre glissante de 4 096 tokens avec encodage positionnel rotatif à une couche d’attention globale. Il est entraîné dans 23 langues, dont le russe, l’anglais et les langues énumérées dans la fiche exacte du modèle.\n\nLe producteur distingue les préambules conversationnel et instructif. L’usage conversationnel ajoute des comportements de dialogue, des introductions, des questions complémentaires et une mise en forme comme Markdown. L’usage instructif vise des réponses concises mais complètes pour l’extraction, la synthèse, la traduction et la catégorisation, sans Markdown ni LaTeX par défaut. Le modèle publié est livré sans préambule système: le fabricant recommande donc d’en fournir un adapté à la tâche.\n\nPour un processus de classification, donnez les définitions des catégories et expliquez comment traiter un élément qui ne correspond à aucune. Pour une réponse d’assistance, fournissez la question et les documents produit approuvés, puis demandez une réponse dans la langue de l’utilisateur. Une spécification claire évite que des ajouts conversationnels deviennent des champs accidentels dans un enregistrement de données.\n\n### Réponses à partir de documents\n\nR7B est entraîné pour l’étape finale de réponse de la génération augmentée par récupération documentaire. Le modèle de consigne du producteur associe la conversation à des extraits fournis. Le fabricant recommande des segments courts, généralement de 100 à 400 mots, représentés par de brèves clés descriptives et des valeurs textuelles ou semi-structurées. Il recommande aussi d’évaluer si l’insertion des documents pertinents directement dans le message utilisateur fonctionne mieux pour un usage donné.\n\nVoici une tâche illustrative: «Utilise ces passages nommés pour répondre à la question, identifie l’énoncé qui étaye la réponse et signale les informations absentes des passages.» Conservez les titres et unités pour qu’un fait extrait puisse être comparé au document original. L’application récupère ou fournit les documents; le modèle génère une réponse à partir de ce contexte.\n\n### Outils et programmation\n\nL’exemple d’utilisation d’outils du fabricant fournit des définitions de fonctions JSON Schema et conserve dans la conversation l’appel choisi, son plan et son résultat. Chaque résultat est un dictionnaire associé à l’identifiant d’appel correspondant. La réponse suivante peut ainsi utiliser l’observation réelle. Un assistant de programmation peut donc mener une tâche ciblée lorsque l’application environnante fournit des outils d’inspection ou de validation adaptés.\n\nLa fiche met en avant le SQL et la traduction de code, ainsi que les extraits, explications et réécritures. Donnez le schéma, l’entrée ou le code source et le comportement à préserver. Le producteur recommande une température basse ou un décodage glouton pour la génération de code. Traitez l’instruction générée comme un artefact proposé jusqu’à sa vérification dans l’environnement prévu.\n\nLe rôle compact de R7B convient aux tâches claires et répétées et à une conversation réactive. Réservez de la place dans le contexte pour la réponse et l’historique d’outils utile et explicitez le critère d’achèvement. Pour les affirmations dépendant de sources, fournissez les éléments pertinents au lieu d’attendre de la seule taille du modèle ou d’une longue consigne qu’elles établissent l’exactitude.", "editorialOverlay": { "copy_fields": { "practical_html": "Exemple technique en anglais
Answer from support snippets\n\nAnswer the customer using only these support snippets. [Returns] Unused items can be returned within 14 days of receipt. [Shipping] Return shipping is paid by the buyer unless the item is defective. Question: "My unused item arrived 10 days ago. Can I return it, and who pays postage?" Cite the relevant snippet names.A concise customer answer citing Returns and Shipping, including the defect exception.Ensure the answer uses receipt time and preserves the buyer-paid postage exception.cohere/command-r7b-12-2024Command R7B est le modèle textuel compact de 7 milliards de paramètres de Cohere pour la conversation, l’extraction, l’aide au code et les agents guidés par des outils. L’édition de décembre 2024 est entraînée dans 23 langues, prend en charge un contexte de 128K et vise les tâches d’entreprise ciblées et réactives à partir de documents ou de résultats d’outils fournis.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Command R7B est le modèle textuel compact de Cohere de décembre 2024. Son architecture de 7 milliards de paramètres est conçue pour le raisonnement, la synthèse, les questions-réponses, la programmation et l’assistance en entreprise. Le fabricant l’entraîne aussi à la génération augmentée par récupération documentaire et à l’utilisation de plusieurs outils sur plusieurs étapes. Il reçoit et génère du texte, avec un contexte de 128K et une sortie maximale de 4 000 tokens dans le profil publié du producteur.
Le modèle utilise un Transformer autorégressif avec affinage supervisé et entraînement sur les préférences. Son attention associe trois couches locales à fenêtre glissante de 4 096 tokens avec encodage positionnel rotatif à une couche d’attention globale. Il est entraîné dans 23 langues, dont le russe, l’anglais et les langues énumérées dans la fiche exacte du modèle.
Le producteur distingue les préambules conversationnel et instructif. L’usage conversationnel ajoute des comportements de dialogue, des introductions, des questions complémentaires et une mise en forme comme Markdown. L’usage instructif vise des réponses concises mais complètes pour l’extraction, la synthèse, la traduction et la catégorisation, sans Markdown ni LaTeX par défaut. Le modèle publié est livré sans préambule système: le fabricant recommande donc d’en fournir un adapté à la tâche.
Pour un processus de classification, donnez les définitions des catégories et expliquez comment traiter un élément qui ne correspond à aucune. Pour une réponse d’assistance, fournissez la question et les documents produit approuvés, puis demandez une réponse dans la langue de l’utilisateur. Une spécification claire évite que des ajouts conversationnels deviennent des champs accidentels dans un enregistrement de données.
R7B est entraîné pour l’étape finale de réponse de la génération augmentée par récupération documentaire. Le modèle de consigne du producteur associe la conversation à des extraits fournis. Le fabricant recommande des segments courts, généralement de 100 à 400 mots, représentés par de brèves clés descriptives et des valeurs textuelles ou semi-structurées. Il recommande aussi d’évaluer si l’insertion des documents pertinents directement dans le message utilisateur fonctionne mieux pour un usage donné.
Voici une tâche illustrative: «Utilise ces passages nommés pour répondre à la question, identifie l’énoncé qui étaye la réponse et signale les informations absentes des passages.» Conservez les titres et unités pour qu’un fait extrait puisse être comparé au document original. L’application récupère ou fournit les documents; le modèle génère une réponse à partir de ce contexte.
L’exemple d’utilisation d’outils du fabricant fournit des définitions de fonctions JSON Schema et conserve dans la conversation l’appel choisi, son plan et son résultat. Chaque résultat est un dictionnaire associé à l’identifiant d’appel correspondant. La réponse suivante peut ainsi utiliser l’observation réelle. Un assistant de programmation peut donc mener une tâche ciblée lorsque l’application environnante fournit des outils d’inspection ou de validation adaptés.
La fiche met en avant le SQL et la traduction de code, ainsi que les extraits, explications et réécritures. Donnez le schéma, l’entrée ou le code source et le comportement à préserver. Le producteur recommande une température basse ou un décodage glouton pour la génération de code. Traitez l’instruction générée comme un artefact proposé jusqu’à sa vérification dans l’environnement prévu.
Le rôle compact de R7B convient aux tâches claires et répétées et à une conversation réactive. Réservez de la place dans le contexte pour la réponse et l’historique d’outils utile et explicitez le critère d’achèvement. Pour les affirmations dépendant de sources, fournissez les éléments pertinents au lieu d’attendre de la seule taille du modèle ou d’une longue consigne qu’elles établissent l’exactitude.
POST /v1/chat/completionstexttext| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites cohere/command-r7b-12-2024 | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites Exemples : system, user, assistant, tool, function Conditions: Ces rôles sont explicitement représentés par les types de compatibilité du code source ; l’ensemble exact des rôles reste propre à chaque modèle. Selon le modèle | Par défaut— |
Champmessages[].content | Typestring|content_part[]|null | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_calls | Typetool_call[] | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].tool_call_id | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: role=tool ; utilisez l’identifiant réellement renvoyé | Par défaut— |
Champmessages[].name | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champmessages[].reasoning_content | Typestring | ExigenceFacultatif | Valeurs et limites S’applique lorsque: Réinjectez le raisonnement réellement renvoyé lorsque ce modèle l’utilise | Par défaut— |
Champmessages[].reasoning_details | Typeobject|array | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champmax_completion_tokens | Typeinteger | ExigenceFacultatif | Valeurs et limites Minimum: 1 Selon le modèle | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Champstream_options.include_usage | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtemperature | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtop_p | Typenumber | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champstop | Typestring|string[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools | Typefunction_tool[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champtools[].type | Typestring | ExigenceFacultatif | Valeurs et limites function Selon le modèle | Par défaut— |
Champtools[].function.name | Typestring | ExigenceObligatoire | Valeurs et limites S’applique lorsque: outil de fonction fourni | Par défaut— |
Champtools[].function.description | Typestring | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtools[].function.parameters | TypeJSON_schema | ExigenceFacultatif | Valeurs et limites | Par défaut— |
Champtool_choice | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champparallel_tool_calls | Typeboolean | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champresponse_format | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning_effort | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champreasoning | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champservice_tier | Typestring | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champinstructions | Typestring | ExigenceFacultatif | Valeurs et limites Champ de compatibilité | Par défaut— |
Champfunctions | Typefunction[] | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champfunction_call | Typestring|object | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champprompt_cache_options | Typeobject | ExigenceFacultatif | Valeurs et limites Selon le modèle | Par défaut— |
Champmodalities | Typestring[] | ExigenceFacultatif | Valeurs et limites text | Par défaut— |
Champprovider | Typeobject | ExigenceFacultatif | Valeurs et limites Conditions: provider.options est rejeté sur cette route textuelle Ultra | Par défaut— |
Champcache_control.ttl | Typestring | ExigenceFacultatif | Valeurs et limites Conditions: 1h est rejeté dans les emplacements réels du cache de prompt | Par défaut— |
Texte · Texte UTF8
messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages |
Paramètrematerial_types | Contrattext |
Paramètremessages | Contrattableau de messages avec une structure role/content |
Paramètrefile_material | Contratdocument UTF-8 réel inséré sous forme de texte littéral ; aucun identifiant de fichier déduit |
Paramètreoptional_controls | Contratstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Paramètrecontrol_scope | Contratpropre au modèle ; les outils de fonctions de l’utilisateur diffèrent des outils hébergés |
Paramètreoutput_modalities | Contrattext |
Paramètrehosted_operations | Contratfalse |
Paramètremultimodal_input_binding | Contratnull |
Cycle de vie : synchronous_or_streamed
Envoyez l’identifiant exact du modèle avec messages.
La longueur du contexte n’est pas un plafond de sortie.
Un fichier texte peut fournir du texte littéral ; les entrées image/audio/objets fichier nécessitent une liaison exacte.
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.000075 / 1K tokens Sortie · Tokens en sortie $0.0003 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.000075 / 1K tokens Sortie · Tokens en sortie $0.0003 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "cohere/command-r7b-12-2024", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='cohere/command-r7b-12-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='cohere/command-r7b-12-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, puis conservez le motif final de terminaison et les données d’utilisation.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champchoices[].index | Typeinteger |
Champchoices[].message.content | Typestring|null |
Champchoices[].message.tool_calls | Typetool_call[] |
Champchoices[].message.reasoning_content | Typestring |
Champchoices[].message.reasoning_details | Typeobject|array |
Champchoices[].finish_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra cohere/command-r7b-12-2024
Utilisez les chemins de méthode indiqués ci-dessus.
cohere/command-r7b-12-2024Command R7B est le modèle textuel compact de 7 milliards de paramètres de Cohere pour la conversation, l’extraction, l’aide au code et les agents guidés par des outils. L’édition de décembre 2024 est entraînée dans 23 langues, prend en charge un contexte de 128K et vise les tâches d’entreprise ciblées et réactives à partir de documents ou de résultats d’outils fournis.
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Command R7B est le modèle textuel compact de Cohere de décembre 2024. Son architecture de 7 milliards de paramètres est conçue pour le raisonnement, la synthèse, les questions-réponses, la programmation et l’assistance en entreprise. Le fabricant l’entraîne aussi à la génération augmentée par récupération documentaire et à l’utilisation de plusieurs outils sur plusieurs étapes. Il reçoit et génère du texte, avec un contexte de 128K et une sortie maximale de 4 000 tokens dans le profil publié du producteur.
Le modèle utilise un Transformer autorégressif avec affinage supervisé et entraînement sur les préférences. Son attention associe trois couches locales à fenêtre glissante de 4 096 tokens avec encodage positionnel rotatif à une couche d’attention globale. Il est entraîné dans 23 langues, dont le russe, l’anglais et les langues énumérées dans la fiche exacte du modèle.
Le producteur distingue les préambules conversationnel et instructif. L’usage conversationnel ajoute des comportements de dialogue, des introductions, des questions complémentaires et une mise en forme comme Markdown. L’usage instructif vise des réponses concises mais complètes pour l’extraction, la synthèse, la traduction et la catégorisation, sans Markdown ni LaTeX par défaut. Le modèle publié est livré sans préambule système: le fabricant recommande donc d’en fournir un adapté à la tâche.
Pour un processus de classification, donnez les définitions des catégories et expliquez comment traiter un élément qui ne correspond à aucune. Pour une réponse d’assistance, fournissez la question et les documents produit approuvés, puis demandez une réponse dans la langue de l’utilisateur. Une spécification claire évite que des ajouts conversationnels deviennent des champs accidentels dans un enregistrement de données.
R7B est entraîné pour l’étape finale de réponse de la génération augmentée par récupération documentaire. Le modèle de consigne du producteur associe la conversation à des extraits fournis. Le fabricant recommande des segments courts, généralement de 100 à 400 mots, représentés par de brèves clés descriptives et des valeurs textuelles ou semi-structurées. Il recommande aussi d’évaluer si l’insertion des documents pertinents directement dans le message utilisateur fonctionne mieux pour un usage donné.
Voici une tâche illustrative: «Utilise ces passages nommés pour répondre à la question, identifie l’énoncé qui étaye la réponse et signale les informations absentes des passages.» Conservez les titres et unités pour qu’un fait extrait puisse être comparé au document original. L’application récupère ou fournit les documents; le modèle génère une réponse à partir de ce contexte.
L’exemple d’utilisation d’outils du fabricant fournit des définitions de fonctions JSON Schema et conserve dans la conversation l’appel choisi, son plan et son résultat. Chaque résultat est un dictionnaire associé à l’identifiant d’appel correspondant. La réponse suivante peut ainsi utiliser l’observation réelle. Un assistant de programmation peut donc mener une tâche ciblée lorsque l’application environnante fournit des outils d’inspection ou de validation adaptés.
La fiche met en avant le SQL et la traduction de code, ainsi que les extraits, explications et réécritures. Donnez le schéma, l’entrée ou le code source et le comportement à préserver. Le producteur recommande une température basse ou un décodage glouton pour la génération de code. Traitez l’instruction générée comme un artefact proposé jusqu’à sa vérification dans l’environnement prévu.
Le rôle compact de R7B convient aux tâches claires et répétées et à une conversation réactive. Réservez de la place dans le contexte pour la réponse et l’historique d’outils utile et explicitez le critère d’achèvement. Pour les affirmations dépendant de sources, fournissez les éléments pertinents au lieu d’attendre de la seule taille du modèle ou d’une longue consigne qu’elles établissent l’exactitude.
POST /v1/messagestextjson, sse| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites cohere/command-r7b-12-2024 | Par défaut— |
Champmessages | Typemessage[] | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmessages[].role | Typestring | ExigenceObligatoire | Valeurs et limites user, assistant | Par défaut— |
Champmessages[].content | Typestring | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champmax_tokens | Typeinteger | ExigenceObligatoire | Valeurs et limites | Par défaut— |
Champstream | Typeboolean | ExigenceFacultatif | Valeurs et limites | Par défautfalse |
Texte · Texte UTF-8
chaîne messages[].content
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, messages, max_tokens |
Paramètreoptional_controls | Contratstream |
Paramètrematerial_types | Contrattext |
Paramètretext_file_material | ContratLisez le document UTF-8 réel et placez son texte dans l’entrée indiquée ou dans la chaîne de contenu du message. |
Cycle de vie : synchronous_or_streamed
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
Associez chaque coût aux conditions indiquées. Utilisez un seul tarif pour chaque ensemble de configurations alternatives.
| Configuration | Barème tarifaire | Tokens de contexte, plus de | Tokens de contexte, jusqu’à la limite incluse | Coût |
|---|---|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Tokens de contexte, plus de— | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.000075 / 1K tokens Sortie · Tokens en sortie $0.0003 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
| ConfigurationPalier 1 de longueur de requête | Barème tarifaire— | Tokens de contexte, plus de0 | Tokens de contexte, jusqu’à la limite incluseSans borne supérieure | Coût Entrée · Tokens en entrée $0.000075 / 1K tokens Sortie · Tokens en sortie $0.0003 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
{\n "model": "cohere/command-r7b-12-2024",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r7b-12-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r7b-12-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ou SSE
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez tous les blocs de contenu, les signatures de raisonnement et les identifiants réels d’utilisation d’outils. Assemblez tous les deltas de blocs SSE ; un premier bloc de texte ne constitue pas la sortie complète.
Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.
| Champ | Type |
|---|---|
Champid | Typestring |
Champmodel | Typestring |
Champcontent[] | Typetext|thinking|tool_use|other content block |
Champstop_reason | Typestring|null |
Champusage | Typeobject |
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Ailoot Ultra cohere/command-r7b-12-2024
Utilisez les chemins de méthode indiqués ci-dessus.
Exemple technique en anglais
Answer from support snippets\n\nAnswer the customer using only these support snippets. [Returns] Unused items can be returned within 14 days of receipt. [Shipping] Return shipping is paid by the buyer unless the item is defective. Question: "My unused item arrived 10 days ago. Can I return it, and who pays postage?" Cite the relevant snippet names.A concise customer answer citing Returns and Shipping, including the defect exception.Ensure the answer uses receipt time and preserves the buyer-paid postage exception.