Command R7B is het compacte tekstmodel van Cohere uit december 2024. De architectuur met 7 miljard parameters is ontworpen voor redeneren, samenvatten, vragen beantwoorden, programmeren en zakelijke ondersteuning. De ontwikkelaar traint het ook voor retrieval-augmented generation en het gebruik van meerdere tools over meerdere stappen. Het accepteert tekst en genereert tekst, met een context van 128K en maximaal 4.000 uitvoertokens in het gepubliceerde ontwikkelaarsprofiel.
Het model gebruikt een autoregressieve transformer met supervised fine-tuning en voorkeurstraining. Het attention-patroon combineert drie lokale sliding-window-lagen, met een venster van 4.096 tokens en rotatiegebaseerde positiecodering, met een globale-attention-laag. Het is getraind in 23 talen, waaronder Russisch, Engels en de talen die in de exacte modelkaart staan vermeld.
De ontwikkelaar onderscheidt voorinstructies voor gesprekken en voor instructietaken. Gespreksgebruik voegt dialooggedrag, inleidingen, vervolgvragen en opmaak zoals Markdown toe. Instructiegebruik richt zich op beknopte maar volledige antwoorden voor extractie, samenvatting, vertaling en categorisering, standaard zonder Markdown of LaTeX. Het gepubliceerde model wordt zonder systeemvoorinstructie geleverd; de ontwikkelaar beveelt daarom aan de passende voorinstructie voor de taak aan te leveren.
Geef voor een classificatieproces de categoriedefinities en vertel het model hoe het een item moet behandelen dat in geen enkele categorie past. Lever voor een ondersteuningsantwoord de vraag en het goedgekeurde productmateriaal aan en vraag vervolgens om een antwoord in de taal van de gebruiker. Een duidelijke uitvoerspecificatie voorkomt dat gesprekstoevoegingen onbedoeld velden in een gegevensrecord worden.
R7B is getraind voor de eindantwoordstap van retrieval-augmented generation. De sjabloon van de ontwikkelaar combineert het gesprek met aangeleverde documentfragmenten. De ontwikkelaar beveelt korte fragmenten aan, meestal 100–400 woorden, weergegeven met korte beschrijvende sleutels en tekstuele of semigestructureerde waarden. Ook wordt aanbevolen te beoordelen of het voor een specifieke toepassing beter werkt om de relevante documenten rechtstreeks in het gebruikersbericht te plaatsen.
Een voorbeeldtaak is: “Gebruik deze benoemde passages om de vraag te beantwoorden, identificeer de uitspraak die het antwoord ondersteunt en markeer informatie die de passages niet bevatten.” Houd koppen en eenheden intact, zodat een geëxtraheerd feit aan het oorspronkelijke materiaal kan worden getoetst. De applicatie haalt de documenten op of levert ze aan; het model genereert een antwoord vanuit die context.
Het toolgebruikvoorbeeld van de ontwikkelaar levert functiedefinities volgens JSON Schema aan en bewaart de gekozen aanroep, het plan en het resultaat in het gesprek. Elk resultaat is een dictionary die aan de bijbehorende toolaanroep-ID is gekoppeld. Daardoor kan het volgende antwoord de daadwerkelijke waarneming gebruiken. Een codeassistent kan zo een gerichte taak doorlopen wanneer de omringende applicatie geschikte onderzoeks- of validatietools biedt.
De modelkaart benadrukt SQL en codevertaling naast fragmenten, uitleg en herschrijven. Geef het schema, de invoer of broncode en het gedrag dat behouden moet blijven. De ontwikkelaar beveelt een lage temperature of greedy decoding aan voor codegeneratie. Behandel de gegenereerde opdracht als een voorgesteld resultaat totdat deze in de bedoelde omgeving is gecontroleerd.
De compacte rol van R7B past goed bij duidelijke, herhaalde taken en vlotte gesprekken. Reserveer binnen de context ruimte voor het antwoord en nuttige toolgeschiedenis en maak het afrondingscriterium expliciet. Lever voor bronafhankelijke uitspraken het relevante bewijs aan, in plaats van te verwachten dat alleen de modelgrootte of een lange prompt correctheid vaststelt.
", "aboutText": "Command R7B is het compacte tekstmodel van Cohere uit december 2024. De architectuur met 7 miljard parameters is ontworpen voor redeneren, samenvatten, vragen beantwoorden, programmeren en zakelijke ondersteuning. De ontwikkelaar traint het ook voor retrieval-augmented generation en het gebruik van meerdere tools over meerdere stappen. Het accepteert tekst en genereert tekst, met een context van 128K en maximaal 4.000 uitvoertokens in het gepubliceerde ontwikkelaarsprofiel.\n\n### Model- en antwoordgedrag\n\nHet model gebruikt een autoregressieve transformer met supervised fine-tuning en voorkeurstraining. Het attention-patroon combineert drie lokale sliding-window-lagen, met een venster van 4.096 tokens en rotatiegebaseerde positiecodering, met een globale-attention-laag. Het is getraind in 23 talen, waaronder Russisch, Engels en de talen die in de exacte modelkaart staan vermeld.\n\nDe ontwikkelaar onderscheidt voorinstructies voor gesprekken en voor instructietaken. Gespreksgebruik voegt dialooggedrag, inleidingen, vervolgvragen en opmaak zoals Markdown toe. Instructiegebruik richt zich op beknopte maar volledige antwoorden voor extractie, samenvatting, vertaling en categorisering, standaard zonder Markdown of LaTeX. Het gepubliceerde model wordt zonder systeemvoorinstructie geleverd; de ontwikkelaar beveelt daarom aan de passende voorinstructie voor de taak aan te leveren.\n\nGeef voor een classificatieproces de categoriedefinities en vertel het model hoe het een item moet behandelen dat in geen enkele categorie past. Lever voor een ondersteuningsantwoord de vraag en het goedgekeurde productmateriaal aan en vraag vervolgens om een antwoord in de taal van de gebruiker. Een duidelijke uitvoerspecificatie voorkomt dat gesprekstoevoegingen onbedoeld velden in een gegevensrecord worden.\n\n### Antwoorden uit documenten\n\nR7B is getraind voor de eindantwoordstap van retrieval-augmented generation. De sjabloon van de ontwikkelaar combineert het gesprek met aangeleverde documentfragmenten. De ontwikkelaar beveelt korte fragmenten aan, meestal 100–400 woorden, weergegeven met korte beschrijvende sleutels en tekstuele of semigestructureerde waarden. Ook wordt aanbevolen te beoordelen of het voor een specifieke toepassing beter werkt om de relevante documenten rechtstreeks in het gebruikersbericht te plaatsen.\n\nEen voorbeeldtaak is: “Gebruik deze benoemde passages om de vraag te beantwoorden, identificeer de uitspraak die het antwoord ondersteunt en markeer informatie die de passages niet bevatten.” Houd koppen en eenheden intact, zodat een geëxtraheerd feit aan het oorspronkelijke materiaal kan worden getoetst. De applicatie haalt de documenten op of levert ze aan; het model genereert een antwoord vanuit die context.\n\n### Tools en programmeren\n\nHet toolgebruikvoorbeeld van de ontwikkelaar levert functiedefinities volgens JSON Schema aan en bewaart de gekozen aanroep, het plan en het resultaat in het gesprek. Elk resultaat is een dictionary die aan de bijbehorende toolaanroep-ID is gekoppeld. Daardoor kan het volgende antwoord de daadwerkelijke waarneming gebruiken. Een codeassistent kan zo een gerichte taak doorlopen wanneer de omringende applicatie geschikte onderzoeks- of validatietools biedt.\n\nDe modelkaart benadrukt SQL en codevertaling naast fragmenten, uitleg en herschrijven. Geef het schema, de invoer of broncode en het gedrag dat behouden moet blijven. De ontwikkelaar beveelt een lage temperature of greedy decoding aan voor codegeneratie. Behandel de gegenereerde opdracht als een voorgesteld resultaat totdat deze in de bedoelde omgeving is gecontroleerd.\n\nDe compacte rol van R7B past goed bij duidelijke, herhaalde taken en vlotte gesprekken. Reserveer binnen de context ruimte voor het antwoord en nuttige toolgeschiedenis en maak het afrondingscriterium expliciet. Lever voor bronafhankelijke uitspraken het relevante bewijs aan, in plaats van te verwachten dat alleen de modelgrootte of een lange prompt correctheid vaststelt.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisch voorbeeld in het Engels
Answer from support snippets\n\nAnswer the customer using only these support snippets. [Returns] Unused items can be returned within 14 days of receipt. [Shipping] Return shipping is paid by the buyer unless the item is defective. Question: "My unused item arrived 10 days ago. Can I return it, and who pays postage?" Cite the relevant snippet names.A concise customer answer citing Returns and Shipping, including the defect exception.Ensure the answer uses receipt time and preserves the buyer-paid postage exception.cohere/command-r7b-12-2024Command R7B is het compacte 7B-tekstmodel van Cohere voor chat, extractie, programmeerhulp en agents met tools. De editie van december 2024 is getraind in 23 talen, ondersteunt een context van 128K en is ontworpen voor gerichte, vlot reagerende zakelijke taken met aangeleverde documenten of toolresultaten.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Command R7B is het compacte tekstmodel van Cohere uit december 2024. De architectuur met 7 miljard parameters is ontworpen voor redeneren, samenvatten, vragen beantwoorden, programmeren en zakelijke ondersteuning. De ontwikkelaar traint het ook voor retrieval-augmented generation en het gebruik van meerdere tools over meerdere stappen. Het accepteert tekst en genereert tekst, met een context van 128K en maximaal 4.000 uitvoertokens in het gepubliceerde ontwikkelaarsprofiel.
Het model gebruikt een autoregressieve transformer met supervised fine-tuning en voorkeurstraining. Het attention-patroon combineert drie lokale sliding-window-lagen, met een venster van 4.096 tokens en rotatiegebaseerde positiecodering, met een globale-attention-laag. Het is getraind in 23 talen, waaronder Russisch, Engels en de talen die in de exacte modelkaart staan vermeld.
De ontwikkelaar onderscheidt voorinstructies voor gesprekken en voor instructietaken. Gespreksgebruik voegt dialooggedrag, inleidingen, vervolgvragen en opmaak zoals Markdown toe. Instructiegebruik richt zich op beknopte maar volledige antwoorden voor extractie, samenvatting, vertaling en categorisering, standaard zonder Markdown of LaTeX. Het gepubliceerde model wordt zonder systeemvoorinstructie geleverd; de ontwikkelaar beveelt daarom aan de passende voorinstructie voor de taak aan te leveren.
Geef voor een classificatieproces de categoriedefinities en vertel het model hoe het een item moet behandelen dat in geen enkele categorie past. Lever voor een ondersteuningsantwoord de vraag en het goedgekeurde productmateriaal aan en vraag vervolgens om een antwoord in de taal van de gebruiker. Een duidelijke uitvoerspecificatie voorkomt dat gesprekstoevoegingen onbedoeld velden in een gegevensrecord worden.
R7B is getraind voor de eindantwoordstap van retrieval-augmented generation. De sjabloon van de ontwikkelaar combineert het gesprek met aangeleverde documentfragmenten. De ontwikkelaar beveelt korte fragmenten aan, meestal 100–400 woorden, weergegeven met korte beschrijvende sleutels en tekstuele of semigestructureerde waarden. Ook wordt aanbevolen te beoordelen of het voor een specifieke toepassing beter werkt om de relevante documenten rechtstreeks in het gebruikersbericht te plaatsen.
Een voorbeeldtaak is: “Gebruik deze benoemde passages om de vraag te beantwoorden, identificeer de uitspraak die het antwoord ondersteunt en markeer informatie die de passages niet bevatten.” Houd koppen en eenheden intact, zodat een geëxtraheerd feit aan het oorspronkelijke materiaal kan worden getoetst. De applicatie haalt de documenten op of levert ze aan; het model genereert een antwoord vanuit die context.
Het toolgebruikvoorbeeld van de ontwikkelaar levert functiedefinities volgens JSON Schema aan en bewaart de gekozen aanroep, het plan en het resultaat in het gesprek. Elk resultaat is een dictionary die aan de bijbehorende toolaanroep-ID is gekoppeld. Daardoor kan het volgende antwoord de daadwerkelijke waarneming gebruiken. Een codeassistent kan zo een gerichte taak doorlopen wanneer de omringende applicatie geschikte onderzoeks- of validatietools biedt.
De modelkaart benadrukt SQL en codevertaling naast fragmenten, uitleg en herschrijven. Geef het schema, de invoer of broncode en het gedrag dat behouden moet blijven. De ontwikkelaar beveelt een lage temperature of greedy decoding aan voor codegeneratie. Behandel de gegenereerde opdracht als een voorgesteld resultaat totdat deze in de bedoelde omgeving is gecontroleerd.
De compacte rol van R7B past goed bij duidelijke, herhaalde taken en vlotte gesprekken. Reserveer binnen de context ruimte voor het antwoord en nuttige toolgeschiedenis en maak het afrondingscriterium expliciet. Lever voor bronafhankelijke uitspraken het relevante bewijs aan, in plaats van te verwachten dat alleen de modelgrootte of een lange prompt correctheid vaststelt.
POST /v1/chat/completionstexttext| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten cohere/command-r7b-12-2024 | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten Voorbeelden: system, user, assistant, tool, function Voorwaarden: Deze rollen worden expliciet weergegeven door compatibiliteitstypen in de broncode; de exacte rollenverzameling van het model blijft modelspecifiek. Afhankelijk van het model | Standaard— |
Veldmessages[].content | Typestring|content_part[]|null | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_calls | Typetool_call[] | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_call_id | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: role=tool; gebruik het werkelijk teruggegeven ID | Standaard— |
Veldmessages[].name | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].reasoning_content | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: Stuur de werkelijk teruggegeven redeneringen terug wanneer dit model ze gebruikt | Standaard— |
Veldmessages[].reasoning_details | Typeobject|array | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmax_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldmax_completion_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Veldstream_options.include_usage | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtemperature | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtop_p | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldstop | Typestring|string[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools | Typefunction_tool[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools[].type | Typestring | VereisteOptioneel | Waarden en limieten function Afhankelijk van het model | Standaard— |
Veldtools[].function.name | Typestring | VereisteVereist | Waarden en limieten Geldt wanneer: functietool opgegeven | Standaard— |
Veldtools[].function.description | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtools[].function.parameters | TypeJSON_schema | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtool_choice | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldparallel_tool_calls | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldresponse_format | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning_effort | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldservice_tier | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldinstructions | Typestring | VereisteOptioneel | Waarden en limieten Compatibiliteitsveld | Standaard— |
Veldfunctions | Typefunction[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldfunction_call | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldprompt_cache_options | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmodalities | Typestring[] | VereisteOptioneel | Waarden en limieten text | Standaard— |
Veldprovider | Typeobject | VereisteOptioneel | Waarden en limieten Voorwaarden: provider.options wordt op deze Ultra-tekstroute geweigerd | Standaard— |
Veldcache_control.ttl | Typestring | VereisteOptioneel | Waarden en limieten Voorwaarden: 1h wordt op de daadwerkelijke locaties voor promptcaching geweigerd | Standaard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages |
Parametermaterial_types | Contracttext |
Parametermessages | Contractberichtenarray met de structuur role/content |
Parameterfile_material | Contractwerkelijk UTF-8-document ingevoegd als letterlijke tekst; er wordt geen bestands-ID afgeleid |
Parameteroptional_controls | Contractstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Contractmodelspecifiek; functietools van de gebruiker verschillen van gehoste tools |
Parameteroutput_modalities | Contracttext |
Parameterhosted_operations | Contractfalse |
Parametermultimodal_input_binding | Contractnull |
Levenscyclus: synchronous_or_streamed
Stuur het exacte model-ID mee met messages.
Contextlengte is geen uitvoerlimiet.
Een tekstbestand kan letterlijke tekst aanleveren; beeld-, audio- en bestandsobjectinvoer vereisen een exacte koppeling.
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
Koppel elke kostenpost aan de getoonde voorwaarden. Gebruik één tarief voor elke groep alternatieve configuraties.
| Configuratie | Tariefstaffel | Contexttokens, meer dan | Contexttokens, tot en met | Kosten |
|---|---|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Contexttokens, meer dan— | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.000075 / 1K tokens Uitvoer · Uitvoertokens $0.0003 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
| ConfiguratieNiveau 1 voor aanvraaglengte | Tariefstaffel— | Contexttokens, meer dan0 | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.000075 / 1K tokens Uitvoer · Uitvoertokens $0.0003 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "cohere/command-r7b-12-2024", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='cohere/command-r7b-12-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='cohere/command-r7b-12-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar elke keuze en de bijbehorende inhoud, toolaanroepen en redeneringen. Voeg in SSE delta’s samen per keuze-/toolindex en bewaar de uiteindelijke reden van beëindiging en de verbruiksgegevens.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldchoices[].index | Typeinteger |
Veldchoices[].message.content | Typestring|null |
Veldchoices[].message.tool_calls | Typetool_call[] |
Veldchoices[].message.reasoning_content | Typestring |
Veldchoices[].message.reasoning_details | Typeobject|array |
Veldchoices[].finish_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra cohere/command-r7b-12-2024
Gebruik de hierboven getoonde methodepaden.
cohere/command-r7b-12-2024Command R7B is het compacte 7B-tekstmodel van Cohere voor chat, extractie, programmeerhulp en agents met tools. De editie van december 2024 is getraind in 23 talen, ondersteunt een context van 128K en is ontworpen voor gerichte, vlot reagerende zakelijke taken met aangeleverde documenten of toolresultaten.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Command R7B is het compacte tekstmodel van Cohere uit december 2024. De architectuur met 7 miljard parameters is ontworpen voor redeneren, samenvatten, vragen beantwoorden, programmeren en zakelijke ondersteuning. De ontwikkelaar traint het ook voor retrieval-augmented generation en het gebruik van meerdere tools over meerdere stappen. Het accepteert tekst en genereert tekst, met een context van 128K en maximaal 4.000 uitvoertokens in het gepubliceerde ontwikkelaarsprofiel.
Het model gebruikt een autoregressieve transformer met supervised fine-tuning en voorkeurstraining. Het attention-patroon combineert drie lokale sliding-window-lagen, met een venster van 4.096 tokens en rotatiegebaseerde positiecodering, met een globale-attention-laag. Het is getraind in 23 talen, waaronder Russisch, Engels en de talen die in de exacte modelkaart staan vermeld.
De ontwikkelaar onderscheidt voorinstructies voor gesprekken en voor instructietaken. Gespreksgebruik voegt dialooggedrag, inleidingen, vervolgvragen en opmaak zoals Markdown toe. Instructiegebruik richt zich op beknopte maar volledige antwoorden voor extractie, samenvatting, vertaling en categorisering, standaard zonder Markdown of LaTeX. Het gepubliceerde model wordt zonder systeemvoorinstructie geleverd; de ontwikkelaar beveelt daarom aan de passende voorinstructie voor de taak aan te leveren.
Geef voor een classificatieproces de categoriedefinities en vertel het model hoe het een item moet behandelen dat in geen enkele categorie past. Lever voor een ondersteuningsantwoord de vraag en het goedgekeurde productmateriaal aan en vraag vervolgens om een antwoord in de taal van de gebruiker. Een duidelijke uitvoerspecificatie voorkomt dat gesprekstoevoegingen onbedoeld velden in een gegevensrecord worden.
R7B is getraind voor de eindantwoordstap van retrieval-augmented generation. De sjabloon van de ontwikkelaar combineert het gesprek met aangeleverde documentfragmenten. De ontwikkelaar beveelt korte fragmenten aan, meestal 100–400 woorden, weergegeven met korte beschrijvende sleutels en tekstuele of semigestructureerde waarden. Ook wordt aanbevolen te beoordelen of het voor een specifieke toepassing beter werkt om de relevante documenten rechtstreeks in het gebruikersbericht te plaatsen.
Een voorbeeldtaak is: “Gebruik deze benoemde passages om de vraag te beantwoorden, identificeer de uitspraak die het antwoord ondersteunt en markeer informatie die de passages niet bevatten.” Houd koppen en eenheden intact, zodat een geëxtraheerd feit aan het oorspronkelijke materiaal kan worden getoetst. De applicatie haalt de documenten op of levert ze aan; het model genereert een antwoord vanuit die context.
Het toolgebruikvoorbeeld van de ontwikkelaar levert functiedefinities volgens JSON Schema aan en bewaart de gekozen aanroep, het plan en het resultaat in het gesprek. Elk resultaat is een dictionary die aan de bijbehorende toolaanroep-ID is gekoppeld. Daardoor kan het volgende antwoord de daadwerkelijke waarneming gebruiken. Een codeassistent kan zo een gerichte taak doorlopen wanneer de omringende applicatie geschikte onderzoeks- of validatietools biedt.
De modelkaart benadrukt SQL en codevertaling naast fragmenten, uitleg en herschrijven. Geef het schema, de invoer of broncode en het gedrag dat behouden moet blijven. De ontwikkelaar beveelt een lage temperature of greedy decoding aan voor codegeneratie. Behandel de gegenereerde opdracht als een voorgesteld resultaat totdat deze in de bedoelde omgeving is gecontroleerd.
De compacte rol van R7B past goed bij duidelijke, herhaalde taken en vlotte gesprekken. Reserveer binnen de context ruimte voor het antwoord en nuttige toolgeschiedenis en maak het afrondingscriterium expliciet. Lever voor bronafhankelijke uitspraken het relevante bewijs aan, in plaats van te verwachten dat alleen de modelgrootte of een lange prompt correctheid vaststelt.
POST /v1/messagestextjson, sse| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten cohere/command-r7b-12-2024 | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten user, assistant | Standaard— |
Veldmessages[].content | Typestring | VereisteVereist | Waarden en limieten | Standaard— |
Veldmax_tokens | Typeinteger | VereisteVereist | Waarden en limieten | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Tekst · UTF-8-tekst
messages[].content als tekenreeks
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages, max_tokens |
Parameteroptional_controls | Contractstream |
Parametermaterial_types | Contracttext |
Parametertext_file_material | ContractLees het werkelijke UTF-8-document en plaats de tekst ervan in de aangegeven invoer of in de inhoudstekenreeks van een bericht. |
Levenscyclus: synchronous_or_streamed
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
Koppel elke kostenpost aan de getoonde voorwaarden. Gebruik één tarief voor elke groep alternatieve configuraties.
| Configuratie | Tariefstaffel | Contexttokens, meer dan | Contexttokens, tot en met | Kosten |
|---|---|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Contexttokens, meer dan— | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.000075 / 1K tokens Uitvoer · Uitvoertokens $0.0003 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
| ConfiguratieNiveau 1 voor aanvraaglengte | Tariefstaffel— | Contexttokens, meer dan0 | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.000075 / 1K tokens Uitvoer · Uitvoertokens $0.0003 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
{\n "model": "cohere/command-r7b-12-2024",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r7b-12-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r7b-12-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar alle inhoudsblokken, handtekeningen van redeneringen en werkelijke toolgebruik-ID’s. Voeg alle SSE-blokdelta’s samen; het eerste tekstblok is niet de volledige uitvoer.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldid | Typestring |
Veldmodel | Typestring |
Veldcontent[] | Typetext|thinking|tool_use|other content block |
Veldstop_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra cohere/command-r7b-12-2024
Gebruik de hierboven getoonde methodepaden.
Technisch voorbeeld in het Engels
Answer from support snippets\n\nAnswer the customer using only these support snippets. [Returns] Unused items can be returned within 14 days of receipt. [Shipping] Return shipping is paid by the buyer unless the item is defective. Question: "My unused item arrived 10 days ago. Can I return it, and who pays postage?" Cite the relevant snippet names.A concise customer answer citing Returns and Shipping, including the defect exception.Ensure the answer uses receipt time and preserves the buyer-paid postage exception.