Command R (08-2024) is de editie van augustus 2024 van het schaalbare tekstmodel van Cohere voor gesprekken, werk met lange context en antwoorden op basis van bronnen. Het exacte model heeft 32 miljard parameters, accepteert tekst en produceert tekst. Het gebruikt een context van 128K, met een maximale uitvoer van 4.000 tokens in het gepubliceerde dienstprofiel van de maker. De identiteit blijft gescheiden van het eerdere Command R, de grotere R+-update en latere Command A-modellen.
De maker beschrijft een autoregressieve transformer met grouped-query-attention, gevolgd door supervised fine-tuning en voorkeurstraining. Het model is getraind in 23 talen en geëvalueerd op tien hoofdtalen. Geef de antwoordtaal op, houd vereiste namen intact en lever de bronbewoording mee wanneer een vertaling of taaloverschrijdende vergelijking een precies onderscheid moet behouden.
De update van augustus verbetert beslissingen over wanneer tools moeten worden gebruikt, het volgen van systeeminstructies, het bewerken van gestructureerde gegevens en robuustheid tegen wijzigingen zoals witruimte. Ze ondersteunt ook retrievalworkflows zonder bronverwijzingen en is getraind om vragen af te wijzen die niet vanuit de beschikbare informatie kunnen worden beantwoord. Geef het model expliciete criteria voor een antwoord en beschrijf de behandeling van ontbrekende gegevens, in plaats van het te vragen elk veld ongeacht het bewijs in te vullen.
Command R is getraind om antwoorden te genereren vanuit aangeleverde documentfragmenten en brongebonden tekstspannen aan de broninformatie te koppelen. De producent beveelt zijn specifieke promptsjabloon aan omdat dit gedrag met die representatie is getraind. Gebruik korte fragmenten, doorgaans 100–400 woorden, met beschrijvende sleutels en tekstuele of semigestructureerde inhoud. Behoud de identificatoren die nodig zijn om de bronverwijzingen te interpreteren.
De exacte modelkaart onderscheidt nauwkeurige en snelle bronverwijzingsmodi. De nauwkeurige modus identificeert eerst relevante documenten en te citeren bronnen, werkt het antwoord uit en voegt vervolgens brongebonden tekstspannen toe. De snelle modus genereert het antwoord rechtstreeks met die tekstspannen, waardoor minder tokens worden gegenereerd ten koste van enige nauwkeurigheid van de bronkoppeling. Kies de workflow van de producent volgens de behoefte aan brongetrouwheid en het antwoordbudget van de taak.
Lever voor een praktische vergelijking benoemde vereisten en een voorstel aan en vraag vervolgens om elke afwijking met de bronpassage die ze aantoont. Definieer voor samenvatting de doelgroep en de feiten die behouden moeten blijven. Een bruikbaar resultaat koppelt elke uitspraak aan de daadwerkelijke fragmenten, in plaats van een bronmarkering als bewijs te behandelen dat externe retrieval heeft plaatsgevonden.
De eigen toolworkflow van de modelkaart heeft twee modelfasen: selectie van functies en argumenten, gevolgd door antwoordgeneratie nadat de applicatie die aanroepen heeft uitgevoerd en de resultaten heeft teruggegeven. Het model kan een deelverzameling van de tools selecteren en kan een aangeleverde tool meer dan één keer aanroepen. De gedocumenteerde optie directly_answer drukt een keuze uit om zonder een andere externe bewerking te antwoorden.
Geef functies specifieke namen, doelen en parameterdefinities. Een tool voor productinformatie kan het relevante record teruggeven, waarna het antwoord de waarde moet uitleggen die de gebruiker nodig heeft. De applicatie voert de opzoeking uit en controleert de argumenten; de gegenereerde actielijst voert die acties niet zelfstandig uit. Deze editie ondersteunt ook een afzonderlijk getrainde workflow met meerdere stappen die vóór het eindantwoord door acties, waarnemingen en reflectie itereert; het specifieke sjabloon verschilt van het formaat voor één stap.
Houd de vraag, opgehaalde passages en waarnemingen binnen de toepasselijke context en laat ruimte voor het eindantwoord. De bruikbare oplevering is een beknopt tekstueel resultaat met bronverbanden en een expliciete weergave van eventuele informatie die in het aangeleverde bewijs ontbreekt.
", "aboutText": "Command R (08-2024) is de editie van augustus 2024 van het schaalbare tekstmodel van Cohere voor gesprekken, werk met lange context en antwoorden op basis van bronnen. Het exacte model heeft 32 miljard parameters, accepteert tekst en produceert tekst. Het gebruikt een context van 128K, met een maximale uitvoer van 4.000 tokens in het gepubliceerde dienstprofiel van de maker. De identiteit blijft gescheiden van het eerdere Command R, de grotere R+-update en latere Command A-modellen.\n\n### Modeldetails en de update van augustus\n\nDe maker beschrijft een autoregressieve transformer met grouped-query-attention, gevolgd door supervised fine-tuning en voorkeurstraining. Het model is getraind in 23 talen en geëvalueerd op tien hoofdtalen. Geef de antwoordtaal op, houd vereiste namen intact en lever de bronbewoording mee wanneer een vertaling of taaloverschrijdende vergelijking een precies onderscheid moet behouden.\n\nDe update van augustus verbetert beslissingen over wanneer tools moeten worden gebruikt, het volgen van systeeminstructies, het bewerken van gestructureerde gegevens en robuustheid tegen wijzigingen zoals witruimte. Ze ondersteunt ook retrievalworkflows zonder bronverwijzingen en is getraind om vragen af te wijzen die niet vanuit de beschikbare informatie kunnen worden beantwoord. Geef het model expliciete criteria voor een antwoord en beschrijf de behandeling van ontbrekende gegevens, in plaats van het te vragen elk veld ongeacht het bewijs in te vullen.\n\n### Generatie op basis van bronnen\n\nCommand R is getraind om antwoorden te genereren vanuit aangeleverde documentfragmenten en brongebonden tekstspannen aan de broninformatie te koppelen. De producent beveelt zijn specifieke promptsjabloon aan omdat dit gedrag met die representatie is getraind. Gebruik korte fragmenten, doorgaans 100–400 woorden, met beschrijvende sleutels en tekstuele of semigestructureerde inhoud. Behoud de identificatoren die nodig zijn om de bronverwijzingen te interpreteren.\n\nDe exacte modelkaart onderscheidt nauwkeurige en snelle bronverwijzingsmodi. De nauwkeurige modus identificeert eerst relevante documenten en te citeren bronnen, werkt het antwoord uit en voegt vervolgens brongebonden tekstspannen toe. De snelle modus genereert het antwoord rechtstreeks met die tekstspannen, waardoor minder tokens worden gegenereerd ten koste van enige nauwkeurigheid van de bronkoppeling. Kies de workflow van de producent volgens de behoefte aan brongetrouwheid en het antwoordbudget van de taak.\n\nLever voor een praktische vergelijking benoemde vereisten en een voorstel aan en vraag vervolgens om elke afwijking met de bronpassage die ze aantoont. Definieer voor samenvatting de doelgroep en de feiten die behouden moeten blijven. Een bruikbaar resultaat koppelt elke uitspraak aan de daadwerkelijke fragmenten, in plaats van een bronmarkering als bewijs te behandelen dat externe retrieval heeft plaatsgevonden.\n\n### Toolgebruik met één stap en meerdere stappen\n\nDe eigen toolworkflow van de modelkaart heeft twee modelfasen: selectie van functies en argumenten, gevolgd door antwoordgeneratie nadat de applicatie die aanroepen heeft uitgevoerd en de resultaten heeft teruggegeven. Het model kan een deelverzameling van de tools selecteren en kan een aangeleverde tool meer dan één keer aanroepen. De gedocumenteerde optie directly_answer drukt een keuze uit om zonder een andere externe bewerking te antwoorden.\n\nGeef functies specifieke namen, doelen en parameterdefinities. Een tool voor productinformatie kan het relevante record teruggeven, waarna het antwoord de waarde moet uitleggen die de gebruiker nodig heeft. De applicatie voert de opzoeking uit en controleert de argumenten; de gegenereerde actielijst voert die acties niet zelfstandig uit. Deze editie ondersteunt ook een afzonderlijk getrainde workflow met meerdere stappen die vóór het eindantwoord door acties, waarnemingen en reflectie itereert; het specifieke sjabloon verschilt van het formaat voor één stap.\n\nHoud de vraag, opgehaalde passages en waarnemingen binnen de toepasselijke context en laat ruimte voor het eindantwoord. De bruikbare oplevering is een beknopt tekstueel resultaat met bronverbanden en een expliciete weergave van eventuele informatie die in het aangeleverde bewijs ontbreekt.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisch voorbeeld in het Engels
Ground a cancellation answer\n\nAnswer the customer from these excerpts only. [POLICY] Monthly plans may be canceled before renewal; service continues to the paid-through date. [ORDER] Plan renews 1 November; paid-through date is 31 October. Question: If I cancel on 20 October, when does access end? Give a concise answer with source labels and identify anything these excerpts do not establish.A short answer with POLICY and ORDER references plus a clearly marked evidence gap, if any.Check each asserted date against ORDER and avoid inventing a refund entitlement.cohere/command-r-08-2024Command R (08-2024) is het tekstmodel van Cohere met 32B parameters voor gespreksantwoorden en antwoorden op basis van documenten. De context van 128K, bronverwijzingen bij tekstdelen en function calling in één stap ondersteunen meertalige kennisassistenten, extractie en vragen die vanuit aangeleverd bewijs worden beantwoord.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Command R (08-2024) is de editie van augustus 2024 van het schaalbare tekstmodel van Cohere voor gesprekken, werk met lange context en antwoorden op basis van bronnen. Het exacte model heeft 32 miljard parameters, accepteert tekst en produceert tekst. Het gebruikt een context van 128K, met een maximale uitvoer van 4.000 tokens in het gepubliceerde dienstprofiel van de maker. De identiteit blijft gescheiden van het eerdere Command R, de grotere R+-update en latere Command A-modellen.
De maker beschrijft een autoregressieve transformer met grouped-query-attention, gevolgd door supervised fine-tuning en voorkeurstraining. Het model is getraind in 23 talen en geëvalueerd op tien hoofdtalen. Geef de antwoordtaal op, houd vereiste namen intact en lever de bronbewoording mee wanneer een vertaling of taaloverschrijdende vergelijking een precies onderscheid moet behouden.
De update van augustus verbetert beslissingen over wanneer tools moeten worden gebruikt, het volgen van systeeminstructies, het bewerken van gestructureerde gegevens en robuustheid tegen wijzigingen zoals witruimte. Ze ondersteunt ook retrievalworkflows zonder bronverwijzingen en is getraind om vragen af te wijzen die niet vanuit de beschikbare informatie kunnen worden beantwoord. Geef het model expliciete criteria voor een antwoord en beschrijf de behandeling van ontbrekende gegevens, in plaats van het te vragen elk veld ongeacht het bewijs in te vullen.
Command R is getraind om antwoorden te genereren vanuit aangeleverde documentfragmenten en brongebonden tekstspannen aan de broninformatie te koppelen. De producent beveelt zijn specifieke promptsjabloon aan omdat dit gedrag met die representatie is getraind. Gebruik korte fragmenten, doorgaans 100–400 woorden, met beschrijvende sleutels en tekstuele of semigestructureerde inhoud. Behoud de identificatoren die nodig zijn om de bronverwijzingen te interpreteren.
De exacte modelkaart onderscheidt nauwkeurige en snelle bronverwijzingsmodi. De nauwkeurige modus identificeert eerst relevante documenten en te citeren bronnen, werkt het antwoord uit en voegt vervolgens brongebonden tekstspannen toe. De snelle modus genereert het antwoord rechtstreeks met die tekstspannen, waardoor minder tokens worden gegenereerd ten koste van enige nauwkeurigheid van de bronkoppeling. Kies de workflow van de producent volgens de behoefte aan brongetrouwheid en het antwoordbudget van de taak.
Lever voor een praktische vergelijking benoemde vereisten en een voorstel aan en vraag vervolgens om elke afwijking met de bronpassage die ze aantoont. Definieer voor samenvatting de doelgroep en de feiten die behouden moeten blijven. Een bruikbaar resultaat koppelt elke uitspraak aan de daadwerkelijke fragmenten, in plaats van een bronmarkering als bewijs te behandelen dat externe retrieval heeft plaatsgevonden.
De eigen toolworkflow van de modelkaart heeft twee modelfasen: selectie van functies en argumenten, gevolgd door antwoordgeneratie nadat de applicatie die aanroepen heeft uitgevoerd en de resultaten heeft teruggegeven. Het model kan een deelverzameling van de tools selecteren en kan een aangeleverde tool meer dan één keer aanroepen. De gedocumenteerde optie directly_answer drukt een keuze uit om zonder een andere externe bewerking te antwoorden.
Geef functies specifieke namen, doelen en parameterdefinities. Een tool voor productinformatie kan het relevante record teruggeven, waarna het antwoord de waarde moet uitleggen die de gebruiker nodig heeft. De applicatie voert de opzoeking uit en controleert de argumenten; de gegenereerde actielijst voert die acties niet zelfstandig uit. Deze editie ondersteunt ook een afzonderlijk getrainde workflow met meerdere stappen die vóór het eindantwoord door acties, waarnemingen en reflectie itereert; het specifieke sjabloon verschilt van het formaat voor één stap.
Houd de vraag, opgehaalde passages en waarnemingen binnen de toepasselijke context en laat ruimte voor het eindantwoord. De bruikbare oplevering is een beknopt tekstueel resultaat met bronverbanden en een expliciete weergave van eventuele informatie die in het aangeleverde bewijs ontbreekt.
POST /v1/chat/completionstexttext| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten cohere/command-r-08-2024 | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten Voorbeelden: system, user, assistant, tool, function Voorwaarden: Deze rollen worden expliciet weergegeven door compatibiliteitstypen in de broncode; de exacte rollenverzameling van het model blijft modelspecifiek. Afhankelijk van het model | Standaard— |
Veldmessages[].content | Typestring|content_part[]|null | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_calls | Typetool_call[] | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_call_id | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: role=tool; gebruik het werkelijk teruggegeven ID | Standaard— |
Veldmessages[].name | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].reasoning_content | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: Stuur de werkelijk teruggegeven redeneringen terug wanneer dit model ze gebruikt | Standaard— |
Veldmessages[].reasoning_details | Typeobject|array | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmax_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldmax_completion_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Veldstream_options.include_usage | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtemperature | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtop_p | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldstop | Typestring|string[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools | Typefunction_tool[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools[].type | Typestring | VereisteOptioneel | Waarden en limieten function Afhankelijk van het model | Standaard— |
Veldtools[].function.name | Typestring | VereisteVereist | Waarden en limieten Geldt wanneer: functietool opgegeven | Standaard— |
Veldtools[].function.description | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtools[].function.parameters | TypeJSON_schema | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtool_choice | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldparallel_tool_calls | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldresponse_format | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning_effort | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldservice_tier | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldinstructions | Typestring | VereisteOptioneel | Waarden en limieten Compatibiliteitsveld | Standaard— |
Veldfunctions | Typefunction[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldfunction_call | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldprompt_cache_options | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmodalities | Typestring[] | VereisteOptioneel | Waarden en limieten text | Standaard— |
Veldprovider | Typeobject | VereisteOptioneel | Waarden en limieten Voorwaarden: provider.options wordt op deze Ultra-tekstroute geweigerd | Standaard— |
Veldcache_control.ttl | Typestring | VereisteOptioneel | Waarden en limieten Voorwaarden: 1h wordt op de daadwerkelijke locaties voor promptcaching geweigerd | Standaard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages |
Parametermaterial_types | Contracttext |
Parametermessages | Contractberichtenarray met de structuur role/content |
Parameterfile_material | Contractwerkelijk UTF-8-document ingevoegd als letterlijke tekst; er wordt geen bestands-ID afgeleid |
Parameteroptional_controls | Contractstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Contractmodelspecifiek; functietools van de gebruiker verschillen van gehoste tools |
Parameteroutput_modalities | Contracttext |
Parameterhosted_operations | Contractfalse |
Parametermultimodal_input_binding | Contractnull |
Levenscyclus: synchronous_or_streamed
Stuur het exacte model-ID mee met messages.
Contextlengte is geen uitvoerlimiet.
Een tekstbestand kan letterlijke tekst aanleveren; beeld-, audio- en bestandsobjectinvoer vereisen een exacte koppeling.
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
Koppel elke kostenpost aan de getoonde voorwaarden. Gebruik één tarief voor elke groep alternatieve configuraties.
| Configuratie | Tariefstaffel | Contexttokens, meer dan | Contexttokens, tot en met | Kosten |
|---|---|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Contexttokens, meer dan— | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.0003 / 1K tokens Uitvoer · Uitvoertokens $0.0012 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
| ConfiguratieAanvraaglengte · niveau 1 | Tariefstaffel— | Contexttokens, meer dan0 | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.0003 / 1K tokens Uitvoer · Uitvoertokens $0.0012 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "cohere/command-r-08-2024", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='cohere/command-r-08-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='cohere/command-r-08-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar elke keuze en de bijbehorende inhoud, toolaanroepen en redeneringen. Voeg in SSE delta’s samen per keuze-/toolindex en bewaar de uiteindelijke reden van beëindiging en de verbruiksgegevens.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldchoices[].index | Typeinteger |
Veldchoices[].message.content | Typestring|null |
Veldchoices[].message.tool_calls | Typetool_call[] |
Veldchoices[].message.reasoning_content | Typestring |
Veldchoices[].message.reasoning_details | Typeobject|array |
Veldchoices[].finish_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra cohere/command-r-08-2024
Gebruik de hierboven getoonde methodepaden.
cohere/command-r-08-2024Command R (08-2024) is het tekstmodel van Cohere met 32B parameters voor gespreksantwoorden en antwoorden op basis van documenten. De context van 128K, bronverwijzingen bij tekstdelen en function calling in één stap ondersteunen meertalige kennisassistenten, extractie en vragen die vanuit aangeleverd bewijs worden beantwoord.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Command R (08-2024) is de editie van augustus 2024 van het schaalbare tekstmodel van Cohere voor gesprekken, werk met lange context en antwoorden op basis van bronnen. Het exacte model heeft 32 miljard parameters, accepteert tekst en produceert tekst. Het gebruikt een context van 128K, met een maximale uitvoer van 4.000 tokens in het gepubliceerde dienstprofiel van de maker. De identiteit blijft gescheiden van het eerdere Command R, de grotere R+-update en latere Command A-modellen.
De maker beschrijft een autoregressieve transformer met grouped-query-attention, gevolgd door supervised fine-tuning en voorkeurstraining. Het model is getraind in 23 talen en geëvalueerd op tien hoofdtalen. Geef de antwoordtaal op, houd vereiste namen intact en lever de bronbewoording mee wanneer een vertaling of taaloverschrijdende vergelijking een precies onderscheid moet behouden.
De update van augustus verbetert beslissingen over wanneer tools moeten worden gebruikt, het volgen van systeeminstructies, het bewerken van gestructureerde gegevens en robuustheid tegen wijzigingen zoals witruimte. Ze ondersteunt ook retrievalworkflows zonder bronverwijzingen en is getraind om vragen af te wijzen die niet vanuit de beschikbare informatie kunnen worden beantwoord. Geef het model expliciete criteria voor een antwoord en beschrijf de behandeling van ontbrekende gegevens, in plaats van het te vragen elk veld ongeacht het bewijs in te vullen.
Command R is getraind om antwoorden te genereren vanuit aangeleverde documentfragmenten en brongebonden tekstspannen aan de broninformatie te koppelen. De producent beveelt zijn specifieke promptsjabloon aan omdat dit gedrag met die representatie is getraind. Gebruik korte fragmenten, doorgaans 100–400 woorden, met beschrijvende sleutels en tekstuele of semigestructureerde inhoud. Behoud de identificatoren die nodig zijn om de bronverwijzingen te interpreteren.
De exacte modelkaart onderscheidt nauwkeurige en snelle bronverwijzingsmodi. De nauwkeurige modus identificeert eerst relevante documenten en te citeren bronnen, werkt het antwoord uit en voegt vervolgens brongebonden tekstspannen toe. De snelle modus genereert het antwoord rechtstreeks met die tekstspannen, waardoor minder tokens worden gegenereerd ten koste van enige nauwkeurigheid van de bronkoppeling. Kies de workflow van de producent volgens de behoefte aan brongetrouwheid en het antwoordbudget van de taak.
Lever voor een praktische vergelijking benoemde vereisten en een voorstel aan en vraag vervolgens om elke afwijking met de bronpassage die ze aantoont. Definieer voor samenvatting de doelgroep en de feiten die behouden moeten blijven. Een bruikbaar resultaat koppelt elke uitspraak aan de daadwerkelijke fragmenten, in plaats van een bronmarkering als bewijs te behandelen dat externe retrieval heeft plaatsgevonden.
De eigen toolworkflow van de modelkaart heeft twee modelfasen: selectie van functies en argumenten, gevolgd door antwoordgeneratie nadat de applicatie die aanroepen heeft uitgevoerd en de resultaten heeft teruggegeven. Het model kan een deelverzameling van de tools selecteren en kan een aangeleverde tool meer dan één keer aanroepen. De gedocumenteerde optie directly_answer drukt een keuze uit om zonder een andere externe bewerking te antwoorden.
Geef functies specifieke namen, doelen en parameterdefinities. Een tool voor productinformatie kan het relevante record teruggeven, waarna het antwoord de waarde moet uitleggen die de gebruiker nodig heeft. De applicatie voert de opzoeking uit en controleert de argumenten; de gegenereerde actielijst voert die acties niet zelfstandig uit. Deze editie ondersteunt ook een afzonderlijk getrainde workflow met meerdere stappen die vóór het eindantwoord door acties, waarnemingen en reflectie itereert; het specifieke sjabloon verschilt van het formaat voor één stap.
Houd de vraag, opgehaalde passages en waarnemingen binnen de toepasselijke context en laat ruimte voor het eindantwoord. De bruikbare oplevering is een beknopt tekstueel resultaat met bronverbanden en een expliciete weergave van eventuele informatie die in het aangeleverde bewijs ontbreekt.
POST /v1/messagestextjson, sse| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten cohere/command-r-08-2024 | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten user, assistant | Standaard— |
Veldmessages[].content | Typestring | VereisteVereist | Waarden en limieten | Standaard— |
Veldmax_tokens | Typeinteger | VereisteVereist | Waarden en limieten | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Tekst · UTF-8-tekst
messages[].content als tekenreeks
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages, max_tokens |
Parameteroptional_controls | Contractstream |
Parametermaterial_types | Contracttext |
Parametertext_file_material | ContractLees het werkelijke UTF-8-document en plaats de tekst ervan in de aangegeven invoer of in de inhoudstekenreeks van een bericht. |
Levenscyclus: synchronous_or_streamed
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
Koppel elke kostenpost aan de getoonde voorwaarden. Gebruik één tarief voor elke groep alternatieve configuraties.
| Configuratie | Tariefstaffel | Contexttokens, meer dan | Contexttokens, tot en met | Kosten |
|---|---|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Contexttokens, meer dan— | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.0003 / 1K tokens Uitvoer · Uitvoertokens $0.0012 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
| ConfiguratieAanvraaglengte · niveau 1 | Tariefstaffel— | Contexttokens, meer dan0 | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.0003 / 1K tokens Uitvoer · Uitvoertokens $0.0012 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
{\n "model": "cohere/command-r-08-2024",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r-08-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r-08-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar alle inhoudsblokken, handtekeningen van redeneringen en werkelijke toolgebruik-ID’s. Voeg alle SSE-blokdelta’s samen; het eerste tekstblok is niet de volledige uitvoer.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldid | Typestring |
Veldmodel | Typestring |
Veldcontent[] | Typetext|thinking|tool_use|other content block |
Veldstop_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra cohere/command-r-08-2024
Gebruik de hierboven getoonde methodepaden.
Technisch voorbeeld in het Engels
Ground a cancellation answer\n\nAnswer the customer from these excerpts only. [POLICY] Monthly plans may be canceled before renewal; service continues to the paid-through date. [ORDER] Plan renews 1 November; paid-through date is 31 October. Question: If I cancel on 20 October, when does access end? Give a concise answer with source labels and identify anything these excerpts do not establish.A short answer with POLICY and ORDER references plus a clearly marked evidence gap, if any.Check each asserted date against ORDER and avoid inventing a refund entitlement.