Command R (08-2024) er Coheres august 2024-udgave af dens skalerbare tekstmodel til samtale, arbejde med lang kontekst og kildebaserede svar. Den konkrete model har 32 milliarder parametre, accepterer tekst og producerer tekst. Den bruger en 128K-kontekst med et maksimalt output på 4.000 tokens i producentens offentliggjorte tjenesteprofil. Dens identitet forbliver adskilt fra den tidligere Command R, den større R+-opdatering og senere Command A-modeller.
Producenten beskriver en autoregressiv transformer med grouped-query-opmærksomhed efterfulgt af superviseret finjustering og præferencetræning. Modellen er trænet på 23 sprog og evalueret på ti hovedsprog. Angiv svarenes sprog, bevar nødvendige navne, og lever kildens ordlyd, når en oversættelse eller en sammenligning på tværs af sprog skal bevare en præcis forskel.
Augustopdateringen forbedrer beslutninger om, hvornår værktøjer skal bruges, efterlevelse af systeminstruktioner, behandling af strukturerede data og robusthed over for ændringer såsom mellemrum. Den understøtter også søgearbejdsgange uden kildehenvisninger og er trænet til at afvise spørgsmål, som ikke kan besvares ud fra de tilgængelige oplysninger. Giv modellen eksplicitte kriterier for et svar, og beskriv håndteringen af manglende data frem for at bede den udfylde hvert felt uanset dokumentationen.
Command R er trænet til at generere svar ud fra leverede dokumentuddrag og knytte kildeforankrede tekstspænd til kildeoplysningerne. Producenten anbefaler sin særlige promptskabelon, fordi denne adfærd blev trænet med den repræsentation. Brug korte blokke, typisk 100–400 ord, med beskrivende nøgler og tekstligt eller semistruktureret indhold. Bevar de identifikatorer, der er nødvendige for at fortolke kildehenvisningerne.
Det konkrete kort skelner mellem præcise og hurtige kildehenvisningstilstande. Præcis tilstand identificerer først relevante dokumenter og kilder, som skal citeres, udvikler svaret og tilføjer derefter kildeforankrede tekstspænd. Hurtig tilstand genererer svaret med disse spænd direkte, hvilket reducerer genererede tokens med en vis afvejning i kildeforankringens præcision. Vælg producentarbejdsgangen efter behovet for kildetroskab og opgavens svarbudget.
Ved en praktisk sammenligning skal du levere navngivne krav og et forslag og derefter bede om hver uoverensstemmelse med den kildepassage, der fastslår den. Ved opsummering skal du definere målgruppen og de fakta, der skal bevares. Et nyttigt resultat knytter hver påstand til de faktiske uddrag frem for at behandle en kildemarkør som dokumentation for, at ekstern informationssøgning fandt sted.
Kortets oprindelige værktøjsarbejdsgang har to modeltrin: Valg af funktioner og argumenter efterfulgt af svargenerering, efter at applikationen har udført disse kald og returneret deres resultater. Modellen kan vælge en delmængde af værktøjerne og kan kalde et leveret værktøj mere end én gang. Dens dokumenterede mulighed directly_answer udtrykker et valg om at svare uden endnu en ekstern handling.
Giv funktioner specifikke navne, formål og parameterdefinitioner. Et produktinformationsværktøj kan returnere den relevante post, hvorefter svaret skal forklare den værdi, brugeren har brug for. Applikationen udfører opslaget og kontrollerer argumenterne; den genererede handlingsliste udfører dem ikke selvstændigt. Denne udgave understøtter også en særskilt trænet arbejdsgang med flere trin, som itererer gennem handlinger, observationer og refleksion før det endelige svar; dens særlige skabelon adskiller sig fra formatet med ét trin.
Hold spørgsmålet, de hentede passager og observationerne inden for den gældende kontekst med plads til det endelige svar. Den nyttige leverance er et kortfattet tekstligt resultat med sine kildeforbindelser og en eksplicit redegørelse for eventuelle oplysninger, som stadig ikke er tilgængelige i den leverede dokumentation.
", "aboutText": "Command R (08-2024) er Coheres august 2024-udgave af dens skalerbare tekstmodel til samtale, arbejde med lang kontekst og kildebaserede svar. Den konkrete model har 32 milliarder parametre, accepterer tekst og producerer tekst. Den bruger en 128K-kontekst med et maksimalt output på 4.000 tokens i producentens offentliggjorte tjenesteprofil. Dens identitet forbliver adskilt fra den tidligere Command R, den større R+-opdatering og senere Command A-modeller.\n\n### Modeldetaljer og augustopdateringen\n\nProducenten beskriver en autoregressiv transformer med grouped-query-opmærksomhed efterfulgt af superviseret finjustering og præferencetræning. Modellen er trænet på 23 sprog og evalueret på ti hovedsprog. Angiv svarenes sprog, bevar nødvendige navne, og lever kildens ordlyd, når en oversættelse eller en sammenligning på tværs af sprog skal bevare en præcis forskel.\n\nAugustopdateringen forbedrer beslutninger om, hvornår værktøjer skal bruges, efterlevelse af systeminstruktioner, behandling af strukturerede data og robusthed over for ændringer såsom mellemrum. Den understøtter også søgearbejdsgange uden kildehenvisninger og er trænet til at afvise spørgsmål, som ikke kan besvares ud fra de tilgængelige oplysninger. Giv modellen eksplicitte kriterier for et svar, og beskriv håndteringen af manglende data frem for at bede den udfylde hvert felt uanset dokumentationen.\n\n### Generering med kildegrundlag\n\nCommand R er trænet til at generere svar ud fra leverede dokumentuddrag og knytte kildeforankrede tekstspænd til kildeoplysningerne. Producenten anbefaler sin særlige promptskabelon, fordi denne adfærd blev trænet med den repræsentation. Brug korte blokke, typisk 100–400 ord, med beskrivende nøgler og tekstligt eller semistruktureret indhold. Bevar de identifikatorer, der er nødvendige for at fortolke kildehenvisningerne.\n\nDet konkrete kort skelner mellem præcise og hurtige kildehenvisningstilstande. Præcis tilstand identificerer først relevante dokumenter og kilder, som skal citeres, udvikler svaret og tilføjer derefter kildeforankrede tekstspænd. Hurtig tilstand genererer svaret med disse spænd direkte, hvilket reducerer genererede tokens med en vis afvejning i kildeforankringens præcision. Vælg producentarbejdsgangen efter behovet for kildetroskab og opgavens svarbudget.\n\nVed en praktisk sammenligning skal du levere navngivne krav og et forslag og derefter bede om hver uoverensstemmelse med den kildepassage, der fastslår den. Ved opsummering skal du definere målgruppen og de fakta, der skal bevares. Et nyttigt resultat knytter hver påstand til de faktiske uddrag frem for at behandle en kildemarkør som dokumentation for, at ekstern informationssøgning fandt sted.\n\n### Værktøjsbrug i ét eller flere trin\n\nKortets oprindelige værktøjsarbejdsgang har to modeltrin: Valg af funktioner og argumenter efterfulgt af svargenerering, efter at applikationen har udført disse kald og returneret deres resultater. Modellen kan vælge en delmængde af værktøjerne og kan kalde et leveret værktøj mere end én gang. Dens dokumenterede mulighed directly_answer udtrykker et valg om at svare uden endnu en ekstern handling.\n\nGiv funktioner specifikke navne, formål og parameterdefinitioner. Et produktinformationsværktøj kan returnere den relevante post, hvorefter svaret skal forklare den værdi, brugeren har brug for. Applikationen udfører opslaget og kontrollerer argumenterne; den genererede handlingsliste udfører dem ikke selvstændigt. Denne udgave understøtter også en særskilt trænet arbejdsgang med flere trin, som itererer gennem handlinger, observationer og refleksion før det endelige svar; dens særlige skabelon adskiller sig fra formatet med ét trin.\n\nHold spørgsmålet, de hentede passager og observationerne inden for den gældende kontekst med plads til det endelige svar. Den nyttige leverance er et kortfattet tekstligt resultat med sine kildeforbindelser og en eksplicit redegørelse for eventuelle oplysninger, som stadig ikke er tilgængelige i den leverede dokumentation.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Ground a cancellation answer\n\nAnswer the customer from these excerpts only. [POLICY] Monthly plans may be canceled before renewal; service continues to the paid-through date. [ORDER] Plan renews 1 November; paid-through date is 31 October. Question: If I cancel on 20 October, when does access end? Give a concise answer with source labels and identify anything these excerpts do not establish.A short answer with POLICY and ORDER references plus a clearly marked evidence gap, if any.Check each asserted date against ORDER and avoid inventing a refund entitlement.cohere/command-r-08-2024Command R (08-2024) er Coheres tekstmodel med 32B parametre til samtalebaserede og dokumentbaserede svar. Dens 128K-kontekst, kildehenvisninger til tekstspænd og funktionskald i ét trin understøtter flersprogede vidensassistenter, udtræk og spørgsmål besvaret ud fra leveret dokumentation.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Command R (08-2024) er Coheres august 2024-udgave af dens skalerbare tekstmodel til samtale, arbejde med lang kontekst og kildebaserede svar. Den konkrete model har 32 milliarder parametre, accepterer tekst og producerer tekst. Den bruger en 128K-kontekst med et maksimalt output på 4.000 tokens i producentens offentliggjorte tjenesteprofil. Dens identitet forbliver adskilt fra den tidligere Command R, den større R+-opdatering og senere Command A-modeller.
Producenten beskriver en autoregressiv transformer med grouped-query-opmærksomhed efterfulgt af superviseret finjustering og præferencetræning. Modellen er trænet på 23 sprog og evalueret på ti hovedsprog. Angiv svarenes sprog, bevar nødvendige navne, og lever kildens ordlyd, når en oversættelse eller en sammenligning på tværs af sprog skal bevare en præcis forskel.
Augustopdateringen forbedrer beslutninger om, hvornår værktøjer skal bruges, efterlevelse af systeminstruktioner, behandling af strukturerede data og robusthed over for ændringer såsom mellemrum. Den understøtter også søgearbejdsgange uden kildehenvisninger og er trænet til at afvise spørgsmål, som ikke kan besvares ud fra de tilgængelige oplysninger. Giv modellen eksplicitte kriterier for et svar, og beskriv håndteringen af manglende data frem for at bede den udfylde hvert felt uanset dokumentationen.
Command R er trænet til at generere svar ud fra leverede dokumentuddrag og knytte kildeforankrede tekstspænd til kildeoplysningerne. Producenten anbefaler sin særlige promptskabelon, fordi denne adfærd blev trænet med den repræsentation. Brug korte blokke, typisk 100–400 ord, med beskrivende nøgler og tekstligt eller semistruktureret indhold. Bevar de identifikatorer, der er nødvendige for at fortolke kildehenvisningerne.
Det konkrete kort skelner mellem præcise og hurtige kildehenvisningstilstande. Præcis tilstand identificerer først relevante dokumenter og kilder, som skal citeres, udvikler svaret og tilføjer derefter kildeforankrede tekstspænd. Hurtig tilstand genererer svaret med disse spænd direkte, hvilket reducerer genererede tokens med en vis afvejning i kildeforankringens præcision. Vælg producentarbejdsgangen efter behovet for kildetroskab og opgavens svarbudget.
Ved en praktisk sammenligning skal du levere navngivne krav og et forslag og derefter bede om hver uoverensstemmelse med den kildepassage, der fastslår den. Ved opsummering skal du definere målgruppen og de fakta, der skal bevares. Et nyttigt resultat knytter hver påstand til de faktiske uddrag frem for at behandle en kildemarkør som dokumentation for, at ekstern informationssøgning fandt sted.
Kortets oprindelige værktøjsarbejdsgang har to modeltrin: Valg af funktioner og argumenter efterfulgt af svargenerering, efter at applikationen har udført disse kald og returneret deres resultater. Modellen kan vælge en delmængde af værktøjerne og kan kalde et leveret værktøj mere end én gang. Dens dokumenterede mulighed directly_answer udtrykker et valg om at svare uden endnu en ekstern handling.
Giv funktioner specifikke navne, formål og parameterdefinitioner. Et produktinformationsværktøj kan returnere den relevante post, hvorefter svaret skal forklare den værdi, brugeren har brug for. Applikationen udfører opslaget og kontrollerer argumenterne; den genererede handlingsliste udfører dem ikke selvstændigt. Denne udgave understøtter også en særskilt trænet arbejdsgang med flere trin, som itererer gennem handlinger, observationer og refleksion før det endelige svar; dens særlige skabelon adskiller sig fra formatet med ét trin.
Hold spørgsmålet, de hentede passager og observationerne inden for den gældende kontekst med plads til det endelige svar. Den nyttige leverance er et kortfattet tekstligt resultat med sine kildeforbindelser og en eksplicit redegørelse for eventuelle oplysninger, som stadig ikke er tilgængelige i den leverede dokumentation.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser cohere/command-r-08-2024 | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser Eksempler: system, user, assistant, tool, function Betingelser: Disse roller er eksplicit repræsenteret i kildekodens kompatibilitetstyper; modellens præcise rollesæt er fortsat modelspecifikt. Afhænger af modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfrit | Værdier og grænser Gælder når: role=tool; brug det faktisk returnerede ID | Standard— |
Feltmessages[].name | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfrit | Værdier og grænser Gælder når: Send det faktisk returnerede ræsonnement tilbage, når modellen bruger det | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttemperature | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttop_p | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools[].type | Typestring | KravValgfrit | Værdier og grænser function Afhænger af modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrævet | Værdier og grænser Gælder når: funktionsværktøj angivet | Standard— |
Felttools[].function.description | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfrit | Værdier og grænser | Standard— |
Felttool_choice | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltservice_tier | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltinstructions | Typestring | KravValgfrit | Værdier og grænser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfrit | Værdier og grænser text | Standard— |
Feltprovider | Typeobject | KravValgfrit | Værdier og grænser Betingelser: provider.options afvises på denne Ultra-tekstrute | Standard— |
Feltcache_control.ttl | Typestring | KravValgfrit | Værdier og grænser Betingelser: 1h afvises på de faktiske placeringer for promptcaching | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages |
Parametermaterial_types | Kontrakttext |
Parametermessages | Kontraktbeskedarray med strukturen role/content |
Parameterfile_material | Kontraktfaktisk UTF-8-dokument indsat som bogstavelig tekst; intet fil-ID udledes |
Parameteroptional_controls | Kontraktstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontraktmodelspecifikt; brugerens funktionsværktøjer er forskellige fra hostede værktøjer |
Parameteroutput_modalities | Kontrakttext |
Parameterhosted_operations | Kontraktfalse |
Parametermultimodal_input_binding | Kontraktnull |
Livscyklus: synchronous_or_streamed
Send det præcise model-ID med messages.
Kontekstlængde er ikke et outputloft.
En tekstfil kan levere bogstavelig tekst; billed-, lyd- og filobjektinput kræver en præcis binding.
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
Knyt hver omkostning til de viste betingelser. Brug én takst for hver gruppe af alternative konfigurationer.
| Konfiguration | Takstplan | Konteksttokens, mere end | Konteksttokens, op til og med | Beløb |
|---|---|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Konteksttokens, mere end— | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.0003 / 1K tokens Output · Outputtokens $0.0012 / 1K tokens Input · Cachelæsning — / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
| KonfigurationAnmodningslængde · niveau 1 | Takstplan— | Konteksttokens, mere end0 | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.0003 / 1K tokens Output · Outputtokens $0.0012 / 1K tokens Input · Cachelæsning — / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "cohere/command-r-08-2024", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='cohere/command-r-08-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='cohere/command-r-08-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar hvert valg og dets indhold, værktøjskald og ræsonnement. Saml i SSE deltaer efter valg-/værktøjsindeks, og bevar den endelige afslutningsårsag og forbrugsoplysningerne.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra cohere/command-r-08-2024
Brug metodestierne vist ovenfor.
cohere/command-r-08-2024Command R (08-2024) er Coheres tekstmodel med 32B parametre til samtalebaserede og dokumentbaserede svar. Dens 128K-kontekst, kildehenvisninger til tekstspænd og funktionskald i ét trin understøtter flersprogede vidensassistenter, udtræk og spørgsmål besvaret ud fra leveret dokumentation.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Command R (08-2024) er Coheres august 2024-udgave af dens skalerbare tekstmodel til samtale, arbejde med lang kontekst og kildebaserede svar. Den konkrete model har 32 milliarder parametre, accepterer tekst og producerer tekst. Den bruger en 128K-kontekst med et maksimalt output på 4.000 tokens i producentens offentliggjorte tjenesteprofil. Dens identitet forbliver adskilt fra den tidligere Command R, den større R+-opdatering og senere Command A-modeller.
Producenten beskriver en autoregressiv transformer med grouped-query-opmærksomhed efterfulgt af superviseret finjustering og præferencetræning. Modellen er trænet på 23 sprog og evalueret på ti hovedsprog. Angiv svarenes sprog, bevar nødvendige navne, og lever kildens ordlyd, når en oversættelse eller en sammenligning på tværs af sprog skal bevare en præcis forskel.
Augustopdateringen forbedrer beslutninger om, hvornår værktøjer skal bruges, efterlevelse af systeminstruktioner, behandling af strukturerede data og robusthed over for ændringer såsom mellemrum. Den understøtter også søgearbejdsgange uden kildehenvisninger og er trænet til at afvise spørgsmål, som ikke kan besvares ud fra de tilgængelige oplysninger. Giv modellen eksplicitte kriterier for et svar, og beskriv håndteringen af manglende data frem for at bede den udfylde hvert felt uanset dokumentationen.
Command R er trænet til at generere svar ud fra leverede dokumentuddrag og knytte kildeforankrede tekstspænd til kildeoplysningerne. Producenten anbefaler sin særlige promptskabelon, fordi denne adfærd blev trænet med den repræsentation. Brug korte blokke, typisk 100–400 ord, med beskrivende nøgler og tekstligt eller semistruktureret indhold. Bevar de identifikatorer, der er nødvendige for at fortolke kildehenvisningerne.
Det konkrete kort skelner mellem præcise og hurtige kildehenvisningstilstande. Præcis tilstand identificerer først relevante dokumenter og kilder, som skal citeres, udvikler svaret og tilføjer derefter kildeforankrede tekstspænd. Hurtig tilstand genererer svaret med disse spænd direkte, hvilket reducerer genererede tokens med en vis afvejning i kildeforankringens præcision. Vælg producentarbejdsgangen efter behovet for kildetroskab og opgavens svarbudget.
Ved en praktisk sammenligning skal du levere navngivne krav og et forslag og derefter bede om hver uoverensstemmelse med den kildepassage, der fastslår den. Ved opsummering skal du definere målgruppen og de fakta, der skal bevares. Et nyttigt resultat knytter hver påstand til de faktiske uddrag frem for at behandle en kildemarkør som dokumentation for, at ekstern informationssøgning fandt sted.
Kortets oprindelige værktøjsarbejdsgang har to modeltrin: Valg af funktioner og argumenter efterfulgt af svargenerering, efter at applikationen har udført disse kald og returneret deres resultater. Modellen kan vælge en delmængde af værktøjerne og kan kalde et leveret værktøj mere end én gang. Dens dokumenterede mulighed directly_answer udtrykker et valg om at svare uden endnu en ekstern handling.
Giv funktioner specifikke navne, formål og parameterdefinitioner. Et produktinformationsværktøj kan returnere den relevante post, hvorefter svaret skal forklare den værdi, brugeren har brug for. Applikationen udfører opslaget og kontrollerer argumenterne; den genererede handlingsliste udfører dem ikke selvstændigt. Denne udgave understøtter også en særskilt trænet arbejdsgang med flere trin, som itererer gennem handlinger, observationer og refleksion før det endelige svar; dens særlige skabelon adskiller sig fra formatet med ét trin.
Hold spørgsmålet, de hentede passager og observationerne inden for den gældende kontekst med plads til det endelige svar. Den nyttige leverance er et kortfattet tekstligt resultat med sine kildeforbindelser og en eksplicit redegørelse for eventuelle oplysninger, som stadig ikke er tilgængelige i den leverede dokumentation.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser cohere/command-r-08-2024 | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrævet | Værdier og grænser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrævet | Værdier og grænser | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content som streng
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages, max_tokens |
Parameteroptional_controls | Kontraktstream |
Parametermaterial_types | Kontrakttext |
Parametertext_file_material | KontraktLæs det faktiske UTF-8-dokument, og indsæt teksten i det angivne input eller beskedens indholdsstreng. |
Livscyklus: synchronous_or_streamed
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
Knyt hver omkostning til de viste betingelser. Brug én takst for hver gruppe af alternative konfigurationer.
| Konfiguration | Takstplan | Konteksttokens, mere end | Konteksttokens, op til og med | Beløb |
|---|---|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Konteksttokens, mere end— | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.0003 / 1K tokens Output · Outputtokens $0.0012 / 1K tokens Input · Cachelæsning — / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
| KonfigurationAnmodningslængde · niveau 1 | Takstplan— | Konteksttokens, mere end0 | Konteksttokens, op til og medIngen øvre grænse | Beløb Input · Inputtokens $0.0003 / 1K tokens Output · Outputtokens $0.0012 / 1K tokens Input · Cachelæsning — / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
{\n "model": "cohere/command-r-08-2024",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r-08-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r-08-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar alle indholdsblokke, ræsonnementssignaturer og faktiske værktøjsbrugs-ID’er. Saml alle SSE-blokdeltaer; den første tekstblok er ikke hele outputtet.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra cohere/command-r-08-2024
Brug metodestierne vist ovenfor.
Teknisk eksempel på engelsk
Ground a cancellation answer\n\nAnswer the customer from these excerpts only. [POLICY] Monthly plans may be canceled before renewal; service continues to the paid-through date. [ORDER] Plan renews 1 November; paid-through date is 31 October. Question: If I cancel on 20 October, when does access end? Give a concise answer with source labels and identify anything these excerpts do not establish.A short answer with POLICY and ORDER references plus a clearly marked evidence gap, if any.Check each asserted date against ORDER and avoid inventing a refund entitlement.