Command R (08-2024) è l'edizione dell'agosto 2024 del modello testuale scalabile di Cohere per conversazione, lavoro su contesti lunghi e risposte fondate sulle fonti. Questo preciso modello ha 32 miliardi di parametri, accetta testo e produce testo. Usa un contesto di 128K, con un output massimo di 4.000 token nel profilo di servizio pubblicato dal produttore. La sua identità resta separata dal precedente Command R, dall'aggiornamento R+ più grande e dai successivi modelli Command A.
Il produttore descrive un transformer autoregressivo con grouped-query attention, seguito da fine-tuning supervisionato e addestramento sulle preferenze. Il modello è addestrato in 23 lingue e valutato su dieci lingue principali. Specifica la lingua della risposta, mantieni intatti i nomi richiesti e fornisci il testo della fonte quando una traduzione o un confronto tra lingue deve preservare una distinzione precisa.
L'aggiornamento di agosto migliora le decisioni su quando usare strumenti, l'esecuzione delle istruzioni di sistema, la manipolazione dei dati strutturati e la robustezza a modifiche come gli spazi bianchi. Supporta anche flussi di recupero senza citazioni ed è addestrato a rifiutare domande a cui non si può rispondere con le informazioni disponibili. Fornisci al modello criteri espliciti per una risposta e descrivi il trattamento dei dati mancanti, evitando di chiedergli di riempire ogni campo indipendentemente dalle prove.
Command R è addestrato a generare risposte da estratti documentali forniti e a collegare porzioni della risposta alle informazioni di origine. Il produttore consiglia il proprio template di prompt dedicato perché questo comportamento è stato addestrato con quella rappresentazione. Usa segmenti brevi, in genere di 100–400 parole, con chiavi descrittive e contenuti testuali o semistrutturati. Conserva gli identificatori necessari a interpretare i riferimenti alle fonti.
La scheda esatta distingue modalità di citazione accurate e fast. La modalità accurate identifica prima i documenti pertinenti e le fonti da citare, sviluppa la risposta e poi aggiunge le porzioni collegate alle fonti. La modalità fast genera direttamente la risposta con tali collegamenti, riducendo i token generati a fronte di una certa perdita di accuratezza nell'ancoraggio alle fonti. Scegli il flusso del produttore in base all'esigenza di fedeltà alle fonti e al budget di risposta dell'attività.
Per un confronto pratico, fornisci requisiti nominati e una proposta, quindi chiedi ogni discrepanza con il passaggio della fonte che la dimostra. Per una sintesi, definisci il pubblico e i fatti che devono restare. Un risultato utile collega ogni affermazione agli estratti effettivi, senza trattare un marcatore di fonte come prova che sia avvenuto un recupero esterno.
Il flusso nativo della scheda per gli strumenti ha due fasi del modello: selezione di funzioni e argomenti, seguita dalla generazione della risposta dopo che l'applicazione ha eseguito le chiamate e ne ha restituito i risultati. Il modello può selezionare un sottoinsieme di strumenti e invocare più volte uno strumento fornito. L'opzione documentata directly_answer esprime la scelta di rispondere senza un'altra operazione esterna.
Assegna alle funzioni nomi specifici, scopi e definizioni dei parametri. Uno strumento di informazioni sui prodotti può restituire il record pertinente, dopo di che la risposta deve spiegare il valore necessario all'utente. L'applicazione esegue la ricerca e controlla gli argomenti; l'elenco di azioni generato non le esegue autonomamente. Questa edizione supporta anche un flusso a più passaggi addestrato separatamente che itera tra azioni, osservazioni e riflessione prima della risposta finale; il suo template dedicato differisce dal formato a singolo passaggio.
Mantieni la domanda, i passaggi recuperati e le osservazioni nel contesto applicabile, lasciando spazio per la risposta finale. Il risultato utile è un testo conciso con i collegamenti alle fonti e una descrizione esplicita delle informazioni che restano assenti dalle prove fornite.
", "aboutText": "Command R (08-2024) è l'edizione dell'agosto 2024 del modello testuale scalabile di Cohere per conversazione, lavoro su contesti lunghi e risposte fondate sulle fonti. Questo preciso modello ha 32 miliardi di parametri, accetta testo e produce testo. Usa un contesto di 128K, con un output massimo di 4.000 token nel profilo di servizio pubblicato dal produttore. La sua identità resta separata dal precedente Command R, dall'aggiornamento R+ più grande e dai successivi modelli Command A.\n\n### Dettagli del modello e aggiornamento di agosto\n\nIl produttore descrive un transformer autoregressivo con grouped-query attention, seguito da fine-tuning supervisionato e addestramento sulle preferenze. Il modello è addestrato in 23 lingue e valutato su dieci lingue principali. Specifica la lingua della risposta, mantieni intatti i nomi richiesti e fornisci il testo della fonte quando una traduzione o un confronto tra lingue deve preservare una distinzione precisa.\n\nL'aggiornamento di agosto migliora le decisioni su quando usare strumenti, l'esecuzione delle istruzioni di sistema, la manipolazione dei dati strutturati e la robustezza a modifiche come gli spazi bianchi. Supporta anche flussi di recupero senza citazioni ed è addestrato a rifiutare domande a cui non si può rispondere con le informazioni disponibili. Fornisci al modello criteri espliciti per una risposta e descrivi il trattamento dei dati mancanti, evitando di chiedergli di riempire ogni campo indipendentemente dalle prove.\n\n### Generazione fondata sulle fonti\n\nCommand R è addestrato a generare risposte da estratti documentali forniti e a collegare porzioni della risposta alle informazioni di origine. Il produttore consiglia il proprio template di prompt dedicato perché questo comportamento è stato addestrato con quella rappresentazione. Usa segmenti brevi, in genere di 100–400 parole, con chiavi descrittive e contenuti testuali o semistrutturati. Conserva gli identificatori necessari a interpretare i riferimenti alle fonti.\n\nLa scheda esatta distingue modalità di citazione accurate e fast. La modalità accurate identifica prima i documenti pertinenti e le fonti da citare, sviluppa la risposta e poi aggiunge le porzioni collegate alle fonti. La modalità fast genera direttamente la risposta con tali collegamenti, riducendo i token generati a fronte di una certa perdita di accuratezza nell'ancoraggio alle fonti. Scegli il flusso del produttore in base all'esigenza di fedeltà alle fonti e al budget di risposta dell'attività.\n\nPer un confronto pratico, fornisci requisiti nominati e una proposta, quindi chiedi ogni discrepanza con il passaggio della fonte che la dimostra. Per una sintesi, definisci il pubblico e i fatti che devono restare. Un risultato utile collega ogni affermazione agli estratti effettivi, senza trattare un marcatore di fonte come prova che sia avvenuto un recupero esterno.\n\n### Uso di strumenti in singolo passaggio e in più passaggi\n\nIl flusso nativo della scheda per gli strumenti ha due fasi del modello: selezione di funzioni e argomenti, seguita dalla generazione della risposta dopo che l'applicazione ha eseguito le chiamate e ne ha restituito i risultati. Il modello può selezionare un sottoinsieme di strumenti e invocare più volte uno strumento fornito. L'opzione documentata directly_answer esprime la scelta di rispondere senza un'altra operazione esterna.\n\nAssegna alle funzioni nomi specifici, scopi e definizioni dei parametri. Uno strumento di informazioni sui prodotti può restituire il record pertinente, dopo di che la risposta deve spiegare il valore necessario all'utente. L'applicazione esegue la ricerca e controlla gli argomenti; l'elenco di azioni generato non le esegue autonomamente. Questa edizione supporta anche un flusso a più passaggi addestrato separatamente che itera tra azioni, osservazioni e riflessione prima della risposta finale; il suo template dedicato differisce dal formato a singolo passaggio.\n\nMantieni la domanda, i passaggi recuperati e le osservazioni nel contesto applicabile, lasciando spazio per la risposta finale. Il risultato utile è un testo conciso con i collegamenti alle fonti e una descrizione esplicita delle informazioni che restano assenti dalle prove fornite.", "editorialOverlay": { "copy_fields": { "practical_html": "Esempio tecnico in inglese
Ground a cancellation answer\n\nAnswer the customer from these excerpts only. [POLICY] Monthly plans may be canceled before renewal; service continues to the paid-through date. [ORDER] Plan renews 1 November; paid-through date is 31 October. Question: If I cancel on 20 October, when does access end? Give a concise answer with source labels and identify anything these excerpts do not establish.A short answer with POLICY and ORDER references plus a clearly marked evidence gap, if any.Check each asserted date against ORDER and avoid inventing a refund entitlement.cohere/command-r-08-2024Command R (08-2024) è il modello testuale da 32B di Cohere per risposte conversazionali e fondate sui documenti. Il suo contesto di 128K, le citazioni collegate a porzioni delle fonti e le chiamate a funzioni in singolo passaggio supportano assistenti informativi multilingue, estrazione e risposte basate sulle prove fornite.
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Command R (08-2024) è l'edizione dell'agosto 2024 del modello testuale scalabile di Cohere per conversazione, lavoro su contesti lunghi e risposte fondate sulle fonti. Questo preciso modello ha 32 miliardi di parametri, accetta testo e produce testo. Usa un contesto di 128K, con un output massimo di 4.000 token nel profilo di servizio pubblicato dal produttore. La sua identità resta separata dal precedente Command R, dall'aggiornamento R+ più grande e dai successivi modelli Command A.
Il produttore descrive un transformer autoregressivo con grouped-query attention, seguito da fine-tuning supervisionato e addestramento sulle preferenze. Il modello è addestrato in 23 lingue e valutato su dieci lingue principali. Specifica la lingua della risposta, mantieni intatti i nomi richiesti e fornisci il testo della fonte quando una traduzione o un confronto tra lingue deve preservare una distinzione precisa.
L'aggiornamento di agosto migliora le decisioni su quando usare strumenti, l'esecuzione delle istruzioni di sistema, la manipolazione dei dati strutturati e la robustezza a modifiche come gli spazi bianchi. Supporta anche flussi di recupero senza citazioni ed è addestrato a rifiutare domande a cui non si può rispondere con le informazioni disponibili. Fornisci al modello criteri espliciti per una risposta e descrivi il trattamento dei dati mancanti, evitando di chiedergli di riempire ogni campo indipendentemente dalle prove.
Command R è addestrato a generare risposte da estratti documentali forniti e a collegare porzioni della risposta alle informazioni di origine. Il produttore consiglia il proprio template di prompt dedicato perché questo comportamento è stato addestrato con quella rappresentazione. Usa segmenti brevi, in genere di 100–400 parole, con chiavi descrittive e contenuti testuali o semistrutturati. Conserva gli identificatori necessari a interpretare i riferimenti alle fonti.
La scheda esatta distingue modalità di citazione accurate e fast. La modalità accurate identifica prima i documenti pertinenti e le fonti da citare, sviluppa la risposta e poi aggiunge le porzioni collegate alle fonti. La modalità fast genera direttamente la risposta con tali collegamenti, riducendo i token generati a fronte di una certa perdita di accuratezza nell'ancoraggio alle fonti. Scegli il flusso del produttore in base all'esigenza di fedeltà alle fonti e al budget di risposta dell'attività.
Per un confronto pratico, fornisci requisiti nominati e una proposta, quindi chiedi ogni discrepanza con il passaggio della fonte che la dimostra. Per una sintesi, definisci il pubblico e i fatti che devono restare. Un risultato utile collega ogni affermazione agli estratti effettivi, senza trattare un marcatore di fonte come prova che sia avvenuto un recupero esterno.
Il flusso nativo della scheda per gli strumenti ha due fasi del modello: selezione di funzioni e argomenti, seguita dalla generazione della risposta dopo che l'applicazione ha eseguito le chiamate e ne ha restituito i risultati. Il modello può selezionare un sottoinsieme di strumenti e invocare più volte uno strumento fornito. L'opzione documentata directly_answer esprime la scelta di rispondere senza un'altra operazione esterna.
Assegna alle funzioni nomi specifici, scopi e definizioni dei parametri. Uno strumento di informazioni sui prodotti può restituire il record pertinente, dopo di che la risposta deve spiegare il valore necessario all'utente. L'applicazione esegue la ricerca e controlla gli argomenti; l'elenco di azioni generato non le esegue autonomamente. Questa edizione supporta anche un flusso a più passaggi addestrato separatamente che itera tra azioni, osservazioni e riflessione prima della risposta finale; il suo template dedicato differisce dal formato a singolo passaggio.
Mantieni la domanda, i passaggi recuperati e le osservazioni nel contesto applicabile, lasciando spazio per la risposta finale. Il risultato utile è un testo conciso con i collegamenti alle fonti e una descrizione esplicita delle informazioni che restano assenti dalle prove fornite.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti cohere/command-r-08-2024 | Predefinito— |
Campomessages | Tipomessage[] | RequisitoObbligatorio | Valori e limiti Numero minimo di elementi: 1 | Predefinito— |
Campomessages[].role | Tipostring | RequisitoObbligatorio | Valori e limiti Esempi: system, user, assistant, tool, function Condizioni: Questi ruoli sono rappresentati esplicitamente dai tipi di compatibilità del codice sorgente; l’insieme esatto dei ruoli rimane specifico del modello. Dipende dal modello | Predefinito— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].tool_call_id | Tipostring | RequisitoFacoltativo | Valori e limiti Si applica quando: role=tool; usa l’ID effettivamente restituito | Predefinito— |
Campomessages[].name | Tipostring | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].reasoning_content | Tipostring | RequisitoFacoltativo | Valori e limiti Si applica quando: Reinserisci il ragionamento effettivamente restituito quando il modello lo utilizza | Predefinito— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campomax_tokens | Tipointeger | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— |
Campomax_completion_tokens | Tipointeger | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— |
Campostream | Tipoboolean | RequisitoFacoltativo | Valori e limiti | Predefinitofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotemperature | Tiponumber | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotop_p | Tiponumber | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campostop | Tipostring|string[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotools | Tipofunction_tool[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotools[].type | Tipostring | RequisitoFacoltativo | Valori e limiti function Dipende dal modello | Predefinito— |
Campotools[].function.name | Tipostring | RequisitoObbligatorio | Valori e limiti Si applica quando: Funzione fornita come strumento | Predefinito— |
Campotools[].function.description | Tipostring | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campotool_choice | Tipostring|object | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoparallel_tool_calls | Tipoboolean | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporesponse_format | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporeasoning_effort | Tipostring | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporeasoning | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camposervice_tier | Tipostring | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoinstructions | Tipostring | RequisitoFacoltativo | Valori e limiti Campo di compatibilità | Predefinito— |
Campofunctions | Tipofunction[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campofunction_call | Tipostring|object | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoprompt_cache_options | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campomodalities | Tipostring[] | RequisitoFacoltativo | Valori e limiti text | Predefinito— |
Campoprovider | Tipoobject | RequisitoFacoltativo | Valori e limiti Condizioni: provider.options viene rifiutato su questa rotta testuale Ultra | Predefinito— |
Campocache_control.ttl | Tipostring | RequisitoFacoltativo | Valori e limiti Condizioni: 1h viene rifiutato nelle posizioni effettive della cache dei prompt | Predefinito— |
Testo · Testo UTF8
messages[].content
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, messages |
Parametromaterial_types | Contrattotext |
Parametromessages | ContrattoArray di messaggi con struttura role/content |
Parametrofile_material | ContrattoDocumento UTF-8 effettivo inserito come testo letterale; nessun ID di file dedotto |
Parametrooptional_controls | Contrattostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrocontrol_scope | ContrattoSpecifico del modello; gli strumenti di funzione dell’utente differiscono dagli strumenti ospitati |
Parametrooutput_modalities | Contrattotext |
Parametrohosted_operations | Contrattofalse |
Parametromultimodal_input_binding | Contrattonull |
Ciclo di vita: synchronous_or_streamed
Invia l’ID esatto del modello con messages.
La lunghezza del contesto non è un limite di uscita.
Un file di testo può fornire testo letterale; gli ingressi immagine/audio/oggetto file richiedono un’associazione esatta.
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
Associa ogni costo alle condizioni indicate. Usa una sola tariffa per ogni insieme di configurazioni alternative.
| Configurazione | Listino delle tariffe | Token di contesto, più di | Token di contesto, fino al limite incluso | Costo |
|---|---|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Token di contesto, più di— | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.0003 / 1K token Output · Token in output $0.0012 / 1K token Input · Lettura dalla cache — / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
| ConfigurazioneFascia 1 di lunghezza della richiesta | Listino delle tariffe— | Token di contesto, più di0 | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.0003 / 1K token Output · Token in output $0.0012 / 1K token Input · Lettura dalla cache — / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "cohere/command-r-08-2024", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='cohere/command-r-08-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='cohere/command-r-08-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva ogni scelta con contenuto, chiamate agli strumenti e ragionamento. In SSE assembla i delta per indice di scelta e strumento e conserva il motivo finale di completamento e i dati di utilizzo.
Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Ailoot Ultra cohere/command-r-08-2024
Usa i percorsi dei metodi indicati sopra.
cohere/command-r-08-2024Command R (08-2024) è il modello testuale da 32B di Cohere per risposte conversazionali e fondate sui documenti. Il suo contesto di 128K, le citazioni collegate a porzioni delle fonti e le chiamate a funzioni in singolo passaggio supportano assistenti informativi multilingue, estrazione e risposte basate sulle prove fornite.
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Command R (08-2024) è l'edizione dell'agosto 2024 del modello testuale scalabile di Cohere per conversazione, lavoro su contesti lunghi e risposte fondate sulle fonti. Questo preciso modello ha 32 miliardi di parametri, accetta testo e produce testo. Usa un contesto di 128K, con un output massimo di 4.000 token nel profilo di servizio pubblicato dal produttore. La sua identità resta separata dal precedente Command R, dall'aggiornamento R+ più grande e dai successivi modelli Command A.
Il produttore descrive un transformer autoregressivo con grouped-query attention, seguito da fine-tuning supervisionato e addestramento sulle preferenze. Il modello è addestrato in 23 lingue e valutato su dieci lingue principali. Specifica la lingua della risposta, mantieni intatti i nomi richiesti e fornisci il testo della fonte quando una traduzione o un confronto tra lingue deve preservare una distinzione precisa.
L'aggiornamento di agosto migliora le decisioni su quando usare strumenti, l'esecuzione delle istruzioni di sistema, la manipolazione dei dati strutturati e la robustezza a modifiche come gli spazi bianchi. Supporta anche flussi di recupero senza citazioni ed è addestrato a rifiutare domande a cui non si può rispondere con le informazioni disponibili. Fornisci al modello criteri espliciti per una risposta e descrivi il trattamento dei dati mancanti, evitando di chiedergli di riempire ogni campo indipendentemente dalle prove.
Command R è addestrato a generare risposte da estratti documentali forniti e a collegare porzioni della risposta alle informazioni di origine. Il produttore consiglia il proprio template di prompt dedicato perché questo comportamento è stato addestrato con quella rappresentazione. Usa segmenti brevi, in genere di 100–400 parole, con chiavi descrittive e contenuti testuali o semistrutturati. Conserva gli identificatori necessari a interpretare i riferimenti alle fonti.
La scheda esatta distingue modalità di citazione accurate e fast. La modalità accurate identifica prima i documenti pertinenti e le fonti da citare, sviluppa la risposta e poi aggiunge le porzioni collegate alle fonti. La modalità fast genera direttamente la risposta con tali collegamenti, riducendo i token generati a fronte di una certa perdita di accuratezza nell'ancoraggio alle fonti. Scegli il flusso del produttore in base all'esigenza di fedeltà alle fonti e al budget di risposta dell'attività.
Per un confronto pratico, fornisci requisiti nominati e una proposta, quindi chiedi ogni discrepanza con il passaggio della fonte che la dimostra. Per una sintesi, definisci il pubblico e i fatti che devono restare. Un risultato utile collega ogni affermazione agli estratti effettivi, senza trattare un marcatore di fonte come prova che sia avvenuto un recupero esterno.
Il flusso nativo della scheda per gli strumenti ha due fasi del modello: selezione di funzioni e argomenti, seguita dalla generazione della risposta dopo che l'applicazione ha eseguito le chiamate e ne ha restituito i risultati. Il modello può selezionare un sottoinsieme di strumenti e invocare più volte uno strumento fornito. L'opzione documentata directly_answer esprime la scelta di rispondere senza un'altra operazione esterna.
Assegna alle funzioni nomi specifici, scopi e definizioni dei parametri. Uno strumento di informazioni sui prodotti può restituire il record pertinente, dopo di che la risposta deve spiegare il valore necessario all'utente. L'applicazione esegue la ricerca e controlla gli argomenti; l'elenco di azioni generato non le esegue autonomamente. Questa edizione supporta anche un flusso a più passaggi addestrato separatamente che itera tra azioni, osservazioni e riflessione prima della risposta finale; il suo template dedicato differisce dal formato a singolo passaggio.
Mantieni la domanda, i passaggi recuperati e le osservazioni nel contesto applicabile, lasciando spazio per la risposta finale. Il risultato utile è un testo conciso con i collegamenti alle fonti e una descrizione esplicita delle informazioni che restano assenti dalle prove fornite.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti cohere/command-r-08-2024 | Predefinito— |
Campomessages | Tipomessage[] | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campomessages[].role | Tipostring | RequisitoObbligatorio | Valori e limiti user, assistant | Predefinito— |
Campomessages[].content | Tipostring | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campomax_tokens | Tipointeger | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campostream | Tipoboolean | RequisitoFacoltativo | Valori e limiti | Predefinitofalse |
Testo · Testo UTF-8
Stringa messages[].content
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, messages, max_tokens |
Parametrooptional_controls | Contrattostream |
Parametromaterial_types | Contrattotext |
Parametrotext_file_material | ContrattoLeggi il documento UTF-8 effettivo e inserisci il testo nell’ingresso indicato o nella stringa del contenuto del messaggio. |
Ciclo di vita: synchronous_or_streamed
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
Associa ogni costo alle condizioni indicate. Usa una sola tariffa per ogni insieme di configurazioni alternative.
| Configurazione | Listino delle tariffe | Token di contesto, più di | Token di contesto, fino al limite incluso | Costo |
|---|---|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Token di contesto, più di— | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.0003 / 1K token Output · Token in output $0.0012 / 1K token Input · Lettura dalla cache — / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
| ConfigurazioneFascia 1 di lunghezza della richiesta | Listino delle tariffe— | Token di contesto, più di0 | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.0003 / 1K token Output · Token in output $0.0012 / 1K token Input · Lettura dalla cache — / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
{\n "model": "cohere/command-r-08-2024",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r-08-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r-08-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva tutti i blocchi di contenuto, le firme di ragionamento e gli ID effettivi di utilizzo degli strumenti. Assembla tutti i delta dei blocchi SSE; il primo blocco di testo non è l’uscita completa.
Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Ailoot Ultra cohere/command-r-08-2024
Usa i percorsi dei metodi indicati sopra.
Esempio tecnico in inglese
Ground a cancellation answer\n\nAnswer the customer from these excerpts only. [POLICY] Monthly plans may be canceled before renewal; service continues to the paid-through date. [ORDER] Plan renews 1 November; paid-through date is 31 October. Question: If I cancel on 20 October, when does access end? Give a concise answer with source labels and identify anything these excerpts do not establish.A short answer with POLICY and ORDER references plus a clearly marked evidence gap, if any.Check each asserted date against ORDER and avoid inventing a refund entitlement.