Command R7B è il modello testuale compatto di Cohere del dicembre 2024. La sua architettura da 7 miliardi di parametri è progettata per ragionamento, sintesi, risposta a domande, programmazione e assistenza aziendale. Il produttore lo addestra anche per la generazione aumentata dal recupero di informazioni e l'uso di più strumenti su diversi passaggi. Accetta testo e genera testo, con un contesto di 128K e un output massimo di 4.000 token nel profilo pubblicato del produttore.
Il modello usa un transformer autoregressivo con fine-tuning supervisionato e addestramento sulle preferenze. Il suo schema di attenzione combina tre livelli locali a finestra scorrevole, con una finestra di 4.096 token e codifica rotatoria della posizione, con un livello di attenzione globale. È addestrato in 23 lingue, tra cui russo, inglese e le lingue elencate nella scheda esatta del modello.
Il produttore distingue preamboli conversazionali e instruct. L'uso conversazionale aggiunge comportamento dialogico, introduzioni, domande di approfondimento e formattazione come Markdown. L'uso instruct mira a risposte concise ma complete per estrazione, sintesi, traduzione e categorizzazione, senza Markdown o LaTeX per impostazione predefinita. Il modello pubblicato viene fornito senza un preambolo di sistema, quindi il produttore consiglia di fornire quello appropriato all'attività.
Per un flusso di classificazione, fornisci le definizioni delle categorie e indica al modello come gestire un elemento che non rientra in nessuna. Per una risposta di supporto, fornisci la domanda e il materiale approvato sul prodotto, quindi chiedi una risposta nella lingua dell'utente. Una specifica chiara dell'output impedisce che aggiunte conversazionali diventino campi accidentali in un record di dati.
R7B è addestrato per la fase finale di risposta nella generazione aumentata dal recupero di informazioni. Il template del produttore unisce la conversazione a estratti documentali forniti. Il produttore consiglia segmenti brevi, in genere di 100–400 parole, rappresentati con brevi chiavi descrittive e valori testuali o semistrutturati. Consiglia anche di valutare se inserire i documenti pertinenti direttamente nel messaggio dell'utente funzioni meglio per uno specifico caso d'uso.
Un'attività esemplificativa è: «Usa questi passaggi nominati per rispondere alla domanda, identifica l'affermazione che sostiene la risposta e segnala le informazioni che i passaggi non contengono». Mantieni intatti titoli e unità, così che un fatto estratto possa essere verificato rispetto al materiale originale. L'applicazione recupera o fornisce i documenti; il modello genera una risposta a partire da quel contesto.
L'esempio del produttore per l'uso di strumenti fornisce definizioni delle funzioni in JSON Schema e mantiene nella conversazione la chiamata selezionata, il suo piano e il suo risultato. Ogni risultato è un dizionario associato all'identificatore corrispondente della chiamata allo strumento. Questo consente alla risposta successiva di usare l'osservazione effettiva. Un assistente di programmazione può quindi affrontare un'attività mirata quando l'applicazione circostante fornisce strumenti di ispezione o validazione adeguati.
La scheda del modello evidenzia SQL e traduzione del codice, insieme a estratti, spiegazioni e riscritture. Fornisci lo schema, l'input o il codice sorgente e il comportamento da preservare. Il produttore consiglia una temperatura bassa o greedy decoding per la generazione di codice. Tratta l'istruzione generata come artefatto proposto finché non è stata verificata nell'ambiente previsto.
Il ruolo compatto di R7B si adatta bene ad attività chiare e ripetute e a conversazioni reattive. Riserva nel contesto spazio per la risposta e la cronologia utile degli strumenti e rendi esplicito il criterio di completamento. Per affermazioni dipendenti dalle fonti, fornisci le prove pertinenti, senza aspettarti che le dimensioni del modello o un prompt lungo stabiliscano da sole la correttezza.
", "aboutText": "Command R7B è il modello testuale compatto di Cohere del dicembre 2024. La sua architettura da 7 miliardi di parametri è progettata per ragionamento, sintesi, risposta a domande, programmazione e assistenza aziendale. Il produttore lo addestra anche per la generazione aumentata dal recupero di informazioni e l'uso di più strumenti su diversi passaggi. Accetta testo e genera testo, con un contesto di 128K e un output massimo di 4.000 token nel profilo pubblicato del produttore.\n\n### Modello e comportamento delle risposte\n\nIl modello usa un transformer autoregressivo con fine-tuning supervisionato e addestramento sulle preferenze. Il suo schema di attenzione combina tre livelli locali a finestra scorrevole, con una finestra di 4.096 token e codifica rotatoria della posizione, con un livello di attenzione globale. È addestrato in 23 lingue, tra cui russo, inglese e le lingue elencate nella scheda esatta del modello.\n\nIl produttore distingue preamboli conversazionali e instruct. L'uso conversazionale aggiunge comportamento dialogico, introduzioni, domande di approfondimento e formattazione come Markdown. L'uso instruct mira a risposte concise ma complete per estrazione, sintesi, traduzione e categorizzazione, senza Markdown o LaTeX per impostazione predefinita. Il modello pubblicato viene fornito senza un preambolo di sistema, quindi il produttore consiglia di fornire quello appropriato all'attività.\n\nPer un flusso di classificazione, fornisci le definizioni delle categorie e indica al modello come gestire un elemento che non rientra in nessuna. Per una risposta di supporto, fornisci la domanda e il materiale approvato sul prodotto, quindi chiedi una risposta nella lingua dell'utente. Una specifica chiara dell'output impedisce che aggiunte conversazionali diventino campi accidentali in un record di dati.\n\n### Risposte dai documenti\n\nR7B è addestrato per la fase finale di risposta nella generazione aumentata dal recupero di informazioni. Il template del produttore unisce la conversazione a estratti documentali forniti. Il produttore consiglia segmenti brevi, in genere di 100–400 parole, rappresentati con brevi chiavi descrittive e valori testuali o semistrutturati. Consiglia anche di valutare se inserire i documenti pertinenti direttamente nel messaggio dell'utente funzioni meglio per uno specifico caso d'uso.\n\nUn'attività esemplificativa è: «Usa questi passaggi nominati per rispondere alla domanda, identifica l'affermazione che sostiene la risposta e segnala le informazioni che i passaggi non contengono». Mantieni intatti titoli e unità, così che un fatto estratto possa essere verificato rispetto al materiale originale. L'applicazione recupera o fornisce i documenti; il modello genera una risposta a partire da quel contesto.\n\n### Strumenti e programmazione\n\nL'esempio del produttore per l'uso di strumenti fornisce definizioni delle funzioni in JSON Schema e mantiene nella conversazione la chiamata selezionata, il suo piano e il suo risultato. Ogni risultato è un dizionario associato all'identificatore corrispondente della chiamata allo strumento. Questo consente alla risposta successiva di usare l'osservazione effettiva. Un assistente di programmazione può quindi affrontare un'attività mirata quando l'applicazione circostante fornisce strumenti di ispezione o validazione adeguati.\n\nLa scheda del modello evidenzia SQL e traduzione del codice, insieme a estratti, spiegazioni e riscritture. Fornisci lo schema, l'input o il codice sorgente e il comportamento da preservare. Il produttore consiglia una temperatura bassa o greedy decoding per la generazione di codice. Tratta l'istruzione generata come artefatto proposto finché non è stata verificata nell'ambiente previsto.\n\nIl ruolo compatto di R7B si adatta bene ad attività chiare e ripetute e a conversazioni reattive. Riserva nel contesto spazio per la risposta e la cronologia utile degli strumenti e rendi esplicito il criterio di completamento. Per affermazioni dipendenti dalle fonti, fornisci le prove pertinenti, senza aspettarti che le dimensioni del modello o un prompt lungo stabiliscano da sole la correttezza.", "editorialOverlay": { "copy_fields": { "practical_html": "Esempio tecnico in inglese
Answer from support snippets\n\nAnswer the customer using only these support snippets. [Returns] Unused items can be returned within 14 days of receipt. [Shipping] Return shipping is paid by the buyer unless the item is defective. Question: "My unused item arrived 10 days ago. Can I return it, and who pays postage?" Cite the relevant snippet names.A concise customer answer citing Returns and Shipping, including the defect exception.Ensure the answer uses receipt time and preserves the buyer-paid postage exception.cohere/command-r7b-12-2024Command R7B è il modello testuale compatto da 7B di Cohere per chat, estrazione, assistenza alla programmazione e agenti guidati da strumenti. L'edizione del dicembre 2024 è addestrata in 23 lingue, supporta un contesto di 128K ed è progettata per attività aziendali mirate e reattive con documenti o risultati di strumenti forniti.
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Command R7B è il modello testuale compatto di Cohere del dicembre 2024. La sua architettura da 7 miliardi di parametri è progettata per ragionamento, sintesi, risposta a domande, programmazione e assistenza aziendale. Il produttore lo addestra anche per la generazione aumentata dal recupero di informazioni e l'uso di più strumenti su diversi passaggi. Accetta testo e genera testo, con un contesto di 128K e un output massimo di 4.000 token nel profilo pubblicato del produttore.
Il modello usa un transformer autoregressivo con fine-tuning supervisionato e addestramento sulle preferenze. Il suo schema di attenzione combina tre livelli locali a finestra scorrevole, con una finestra di 4.096 token e codifica rotatoria della posizione, con un livello di attenzione globale. È addestrato in 23 lingue, tra cui russo, inglese e le lingue elencate nella scheda esatta del modello.
Il produttore distingue preamboli conversazionali e instruct. L'uso conversazionale aggiunge comportamento dialogico, introduzioni, domande di approfondimento e formattazione come Markdown. L'uso instruct mira a risposte concise ma complete per estrazione, sintesi, traduzione e categorizzazione, senza Markdown o LaTeX per impostazione predefinita. Il modello pubblicato viene fornito senza un preambolo di sistema, quindi il produttore consiglia di fornire quello appropriato all'attività.
Per un flusso di classificazione, fornisci le definizioni delle categorie e indica al modello come gestire un elemento che non rientra in nessuna. Per una risposta di supporto, fornisci la domanda e il materiale approvato sul prodotto, quindi chiedi una risposta nella lingua dell'utente. Una specifica chiara dell'output impedisce che aggiunte conversazionali diventino campi accidentali in un record di dati.
R7B è addestrato per la fase finale di risposta nella generazione aumentata dal recupero di informazioni. Il template del produttore unisce la conversazione a estratti documentali forniti. Il produttore consiglia segmenti brevi, in genere di 100–400 parole, rappresentati con brevi chiavi descrittive e valori testuali o semistrutturati. Consiglia anche di valutare se inserire i documenti pertinenti direttamente nel messaggio dell'utente funzioni meglio per uno specifico caso d'uso.
Un'attività esemplificativa è: «Usa questi passaggi nominati per rispondere alla domanda, identifica l'affermazione che sostiene la risposta e segnala le informazioni che i passaggi non contengono». Mantieni intatti titoli e unità, così che un fatto estratto possa essere verificato rispetto al materiale originale. L'applicazione recupera o fornisce i documenti; il modello genera una risposta a partire da quel contesto.
L'esempio del produttore per l'uso di strumenti fornisce definizioni delle funzioni in JSON Schema e mantiene nella conversazione la chiamata selezionata, il suo piano e il suo risultato. Ogni risultato è un dizionario associato all'identificatore corrispondente della chiamata allo strumento. Questo consente alla risposta successiva di usare l'osservazione effettiva. Un assistente di programmazione può quindi affrontare un'attività mirata quando l'applicazione circostante fornisce strumenti di ispezione o validazione adeguati.
La scheda del modello evidenzia SQL e traduzione del codice, insieme a estratti, spiegazioni e riscritture. Fornisci lo schema, l'input o il codice sorgente e il comportamento da preservare. Il produttore consiglia una temperatura bassa o greedy decoding per la generazione di codice. Tratta l'istruzione generata come artefatto proposto finché non è stata verificata nell'ambiente previsto.
Il ruolo compatto di R7B si adatta bene ad attività chiare e ripetute e a conversazioni reattive. Riserva nel contesto spazio per la risposta e la cronologia utile degli strumenti e rendi esplicito il criterio di completamento. Per affermazioni dipendenti dalle fonti, fornisci le prove pertinenti, senza aspettarti che le dimensioni del modello o un prompt lungo stabiliscano da sole la correttezza.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti cohere/command-r7b-12-2024 | Predefinito— |
Campomessages | Tipomessage[] | RequisitoObbligatorio | Valori e limiti Numero minimo di elementi: 1 | Predefinito— |
Campomessages[].role | Tipostring | RequisitoObbligatorio | Valori e limiti Esempi: system, user, assistant, tool, function Condizioni: Questi ruoli sono rappresentati esplicitamente dai tipi di compatibilità del codice sorgente; l’insieme esatto dei ruoli rimane specifico del modello. Dipende dal modello | Predefinito— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].tool_call_id | Tipostring | RequisitoFacoltativo | Valori e limiti Si applica quando: role=tool; usa l’ID effettivamente restituito | Predefinito— |
Campomessages[].name | Tipostring | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campomessages[].reasoning_content | Tipostring | RequisitoFacoltativo | Valori e limiti Si applica quando: Reinserisci il ragionamento effettivamente restituito quando il modello lo utilizza | Predefinito— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campomax_tokens | Tipointeger | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— |
Campomax_completion_tokens | Tipointeger | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— |
Campostream | Tipoboolean | RequisitoFacoltativo | Valori e limiti | Predefinitofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotemperature | Tiponumber | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotop_p | Tiponumber | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campostop | Tipostring|string[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotools | Tipofunction_tool[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campotools[].type | Tipostring | RequisitoFacoltativo | Valori e limiti function Dipende dal modello | Predefinito— |
Campotools[].function.name | Tipostring | RequisitoObbligatorio | Valori e limiti Si applica quando: Funzione fornita come strumento | Predefinito— |
Campotools[].function.description | Tipostring | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoFacoltativo | Valori e limiti | Predefinito— |
Campotool_choice | Tipostring|object | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoparallel_tool_calls | Tipoboolean | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporesponse_format | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporeasoning_effort | Tipostring | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camporeasoning | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Camposervice_tier | Tipostring | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoinstructions | Tipostring | RequisitoFacoltativo | Valori e limiti Campo di compatibilità | Predefinito— |
Campofunctions | Tipofunction[] | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campofunction_call | Tipostring|object | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campoprompt_cache_options | Tipoobject | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— |
Campomodalities | Tipostring[] | RequisitoFacoltativo | Valori e limiti text | Predefinito— |
Campoprovider | Tipoobject | RequisitoFacoltativo | Valori e limiti Condizioni: provider.options viene rifiutato su questa rotta testuale Ultra | Predefinito— |
Campocache_control.ttl | Tipostring | RequisitoFacoltativo | Valori e limiti Condizioni: 1h viene rifiutato nelle posizioni effettive della cache dei prompt | Predefinito— |
Testo · Testo UTF8
messages[].content
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, messages |
Parametromaterial_types | Contrattotext |
Parametromessages | ContrattoArray di messaggi con struttura role/content |
Parametrofile_material | ContrattoDocumento UTF-8 effettivo inserito come testo letterale; nessun ID di file dedotto |
Parametrooptional_controls | Contrattostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrocontrol_scope | ContrattoSpecifico del modello; gli strumenti di funzione dell’utente differiscono dagli strumenti ospitati |
Parametrooutput_modalities | Contrattotext |
Parametrohosted_operations | Contrattofalse |
Parametromultimodal_input_binding | Contrattonull |
Ciclo di vita: synchronous_or_streamed
Invia l’ID esatto del modello con messages.
La lunghezza del contesto non è un limite di uscita.
Un file di testo può fornire testo letterale; gli ingressi immagine/audio/oggetto file richiedono un’associazione esatta.
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
Associa ogni costo alle condizioni indicate. Usa una sola tariffa per ogni insieme di configurazioni alternative.
| Configurazione | Listino delle tariffe | Token di contesto, più di | Token di contesto, fino al limite incluso | Costo |
|---|---|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Token di contesto, più di— | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.000075 / 1K token Output · Token in output $0.0003 / 1K token Input · Lettura dalla cache — / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
| ConfigurazioneFascia 1 di lunghezza della richiesta | Listino delle tariffe— | Token di contesto, più di0 | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.000075 / 1K token Output · Token in output $0.0003 / 1K token Input · Lettura dalla cache — / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "cohere/command-r7b-12-2024", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='cohere/command-r7b-12-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='cohere/command-r7b-12-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva ogni scelta con contenuto, chiamate agli strumenti e ragionamento. In SSE assembla i delta per indice di scelta e strumento e conserva il motivo finale di completamento e i dati di utilizzo.
Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Ailoot Ultra cohere/command-r7b-12-2024
Usa i percorsi dei metodi indicati sopra.
cohere/command-r7b-12-2024Command R7B è il modello testuale compatto da 7B di Cohere per chat, estrazione, assistenza alla programmazione e agenti guidati da strumenti. L'edizione del dicembre 2024 è addestrata in 23 lingue, supporta un contesto di 128K ed è progettata per attività aziendali mirate e reattive con documenti o risultati di strumenti forniti.
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Command R7B è il modello testuale compatto di Cohere del dicembre 2024. La sua architettura da 7 miliardi di parametri è progettata per ragionamento, sintesi, risposta a domande, programmazione e assistenza aziendale. Il produttore lo addestra anche per la generazione aumentata dal recupero di informazioni e l'uso di più strumenti su diversi passaggi. Accetta testo e genera testo, con un contesto di 128K e un output massimo di 4.000 token nel profilo pubblicato del produttore.
Il modello usa un transformer autoregressivo con fine-tuning supervisionato e addestramento sulle preferenze. Il suo schema di attenzione combina tre livelli locali a finestra scorrevole, con una finestra di 4.096 token e codifica rotatoria della posizione, con un livello di attenzione globale. È addestrato in 23 lingue, tra cui russo, inglese e le lingue elencate nella scheda esatta del modello.
Il produttore distingue preamboli conversazionali e instruct. L'uso conversazionale aggiunge comportamento dialogico, introduzioni, domande di approfondimento e formattazione come Markdown. L'uso instruct mira a risposte concise ma complete per estrazione, sintesi, traduzione e categorizzazione, senza Markdown o LaTeX per impostazione predefinita. Il modello pubblicato viene fornito senza un preambolo di sistema, quindi il produttore consiglia di fornire quello appropriato all'attività.
Per un flusso di classificazione, fornisci le definizioni delle categorie e indica al modello come gestire un elemento che non rientra in nessuna. Per una risposta di supporto, fornisci la domanda e il materiale approvato sul prodotto, quindi chiedi una risposta nella lingua dell'utente. Una specifica chiara dell'output impedisce che aggiunte conversazionali diventino campi accidentali in un record di dati.
R7B è addestrato per la fase finale di risposta nella generazione aumentata dal recupero di informazioni. Il template del produttore unisce la conversazione a estratti documentali forniti. Il produttore consiglia segmenti brevi, in genere di 100–400 parole, rappresentati con brevi chiavi descrittive e valori testuali o semistrutturati. Consiglia anche di valutare se inserire i documenti pertinenti direttamente nel messaggio dell'utente funzioni meglio per uno specifico caso d'uso.
Un'attività esemplificativa è: «Usa questi passaggi nominati per rispondere alla domanda, identifica l'affermazione che sostiene la risposta e segnala le informazioni che i passaggi non contengono». Mantieni intatti titoli e unità, così che un fatto estratto possa essere verificato rispetto al materiale originale. L'applicazione recupera o fornisce i documenti; il modello genera una risposta a partire da quel contesto.
L'esempio del produttore per l'uso di strumenti fornisce definizioni delle funzioni in JSON Schema e mantiene nella conversazione la chiamata selezionata, il suo piano e il suo risultato. Ogni risultato è un dizionario associato all'identificatore corrispondente della chiamata allo strumento. Questo consente alla risposta successiva di usare l'osservazione effettiva. Un assistente di programmazione può quindi affrontare un'attività mirata quando l'applicazione circostante fornisce strumenti di ispezione o validazione adeguati.
La scheda del modello evidenzia SQL e traduzione del codice, insieme a estratti, spiegazioni e riscritture. Fornisci lo schema, l'input o il codice sorgente e il comportamento da preservare. Il produttore consiglia una temperatura bassa o greedy decoding per la generazione di codice. Tratta l'istruzione generata come artefatto proposto finché non è stata verificata nell'ambiente previsto.
Il ruolo compatto di R7B si adatta bene ad attività chiare e ripetute e a conversazioni reattive. Riserva nel contesto spazio per la risposta e la cronologia utile degli strumenti e rendi esplicito il criterio di completamento. Per affermazioni dipendenti dalle fonti, fornisci le prove pertinenti, senza aspettarti che le dimensioni del modello o un prompt lungo stabiliscano da sole la correttezza.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti cohere/command-r7b-12-2024 | Predefinito— |
Campomessages | Tipomessage[] | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campomessages[].role | Tipostring | RequisitoObbligatorio | Valori e limiti user, assistant | Predefinito— |
Campomessages[].content | Tipostring | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campomax_tokens | Tipointeger | RequisitoObbligatorio | Valori e limiti | Predefinito— |
Campostream | Tipoboolean | RequisitoFacoltativo | Valori e limiti | Predefinitofalse |
Testo · Testo UTF-8
Stringa messages[].content
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, messages, max_tokens |
Parametrooptional_controls | Contrattostream |
Parametromaterial_types | Contrattotext |
Parametrotext_file_material | ContrattoLeggi il documento UTF-8 effettivo e inserisci il testo nell’ingresso indicato o nella stringa del contenuto del messaggio. |
Ciclo di vita: synchronous_or_streamed
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
Associa ogni costo alle condizioni indicate. Usa una sola tariffa per ogni insieme di configurazioni alternative.
| Configurazione | Listino delle tariffe | Token di contesto, più di | Token di contesto, fino al limite incluso | Costo |
|---|---|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Token di contesto, più di— | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.000075 / 1K token Output · Token in output $0.0003 / 1K token Input · Lettura dalla cache — / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
| ConfigurazioneFascia 1 di lunghezza della richiesta | Listino delle tariffe— | Token di contesto, più di0 | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input $0.000075 / 1K token Output · Token in output $0.0003 / 1K token Input · Lettura dalla cache — / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
{\n "model": "cohere/command-r7b-12-2024",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r7b-12-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r7b-12-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva tutti i blocchi di contenuto, le firme di ragionamento e gli ID effettivi di utilizzo degli strumenti. Assembla tutti i delta dei blocchi SSE; il primo blocco di testo non è l’uscita completa.
Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Ailoot Ultra cohere/command-r7b-12-2024
Usa i percorsi dei metodi indicati sopra.
Esempio tecnico in inglese
Answer from support snippets\n\nAnswer the customer using only these support snippets. [Returns] Unused items can be returned within 14 days of receipt. [Shipping] Return shipping is paid by the buyer unless the item is defective. Question: "My unused item arrived 10 days ago. Can I return it, and who pays postage?" Cite the relevant snippet names.A concise customer answer citing Returns and Shipping, including the defect exception.Ensure the answer uses receipt time and preserves the buyer-paid postage exception.