Command R7B ist Coheres kompaktes Textmodell vom Dezember 2024. Seine Architektur mit 7 Milliarden Parametern ist auf Schlussfolgern, Zusammenfassung, Fragebeantwortung, Programmierung und Unternehmenshilfe ausgelegt. Der Hersteller trainiert es auch für Retrieval-Augmented Generation und die Nutzung mehrerer Werkzeuge über mehrere Schritte hinweg. Es akzeptiert Text und generiert Text, mit einem Kontext von 128K und maximal 4'000 Ausgabetokens im veröffentlichten Herstellerprofil.
Das Modell verwendet einen autoregressiven Transformer mit überwachtem Feintraining und Präferenztraining. Sein Attention-Muster verbindet drei lokale Sliding-Window-Schichten mit einem Fenster von 4'096 Tokens und rotierender Positionscodierung mit einer globalen Attention-Schicht. Es wurde auf 23 Sprachen trainiert, darunter Russisch, Englisch und die in der genauen Modellkarte aufgeführten Sprachen.
Der Hersteller unterscheidet dialogorientierte und anweisungsorientierte Einleitungen. Dialogorientierte Nutzung ergänzt Dialogverhalten, Einleitungen, Folgefragen und Formatierung wie Markdown. Anweisungsorientierte Nutzung zielt auf knappe, aber vollständige Antworten für Extraktion, Zusammenfassung, Übersetzung und Kategorisierung, standardmässig ohne Markdown oder LaTeX. Das veröffentlichte Modell wird ohne Systemeinleitung geliefert; der Hersteller empfiehlt daher eine für die Aufgabe geeignete Einleitung.
Geben Sie für einen Klassifikationsablauf die Kategoriedefinitionen und den Umgang mit einem keiner Kategorie entsprechenden Eintrag an. Stellen Sie für eine Supportantwort die Frage und freigegebenes Produktmaterial bereit und verlangen Sie eine Antwort in der Nutzersprache. Eine klare Ausgabespezifikation verhindert, dass Dialogergänzungen unbeabsichtigt zu Feldern eines Datensatzes werden.
R7B ist für den endgültigen Antwortschritt der Retrieval-Augmented Generation trainiert. Seine Herstellervorlage verbindet den Dialog mit bereitgestellten Dokumentauszügen. Der Hersteller empfiehlt kurze Abschnitte, typischerweise 100–400 Wörter, mit kurzen beschreibenden Schlüsseln und textlichen oder halbstrukturierten Werten. Er empfiehlt auch zu prüfen, ob relevante Dokumente direkt in der Nutzernachricht für einen bestimmten Anwendungsfall besser funktionieren.
Eine beispielhafte Aufgabe lautet: «Verwende diese benannten Passagen zur Beantwortung der Frage, benenne die die Antwort stützende Aussage und markiere Informationen, die die Passagen nicht enthalten.» Bewahren Sie Überschriften und Einheiten, damit ein extrahierter Fakt anhand des ursprünglichen Materials geprüft werden kann. Die Anwendung ruft Dokumente ab oder stellt sie bereit; das Modell erzeugt eine Antwort aus diesem Kontext.
Das Werkzeugnutzungsbeispiel des Herstellers stellt Funktionsdefinitionen als JSON-Schema bereit und bewahrt den ausgewählten Aufruf, seinen Plan und sein Ergebnis im Dialog. Jedes Ergebnis ist ein Dictionary, das der passenden Werkzeugaufrufkennung zugeordnet ist. So kann die nächste Antwort die tatsächliche Beobachtung nutzen. Ein Codeassistent kann daher eine fokussierte Aufgabe durcharbeiten, wenn die umgebende Anwendung geeignete Prüf- oder Validierungswerkzeuge bereitstellt.
Die Modellkarte hebt SQL und Codeübersetzung neben Ausschnitten, Erklärungen und Überarbeitungen hervor. Stellen Sie Schema, Eingabe oder Quellcode sowie das zu bewahrende Verhalten bereit. Der Hersteller empfiehlt niedrige Temperatur oder Greedy Decoding für Codegenerierung. Behandeln Sie die erzeugte Anweisung als Vorschlag, bis sie in ihrer vorgesehenen Umgebung geprüft wurde.
Die kompakte Rolle von R7B eignet sich gut für klare wiederholte Aufgaben und reaktionsschnelle Dialoge. Reservieren Sie im Kontext Platz für Antwort und nützlichen Werkzeugverlauf und machen Sie das Abschlusskriterium ausdrücklich. Stellen Sie für quellenabhängige Aussagen die relevanten Belege bereit, statt allein von Modellgrösse oder langem Prompt Richtigkeit zu erwarten.
", "aboutText": "Command R7B ist Coheres kompaktes Textmodell vom Dezember 2024. Seine Architektur mit 7 Milliarden Parametern ist auf Schlussfolgern, Zusammenfassung, Fragebeantwortung, Programmierung und Unternehmenshilfe ausgelegt. Der Hersteller trainiert es auch für Retrieval-Augmented Generation und die Nutzung mehrerer Werkzeuge über mehrere Schritte hinweg. Es akzeptiert Text und generiert Text, mit einem Kontext von 128K und maximal 4'000 Ausgabetokens im veröffentlichten Herstellerprofil.\n\n### Modell und Antwortverhalten\n\nDas Modell verwendet einen autoregressiven Transformer mit überwachtem Feintraining und Präferenztraining. Sein Attention-Muster verbindet drei lokale Sliding-Window-Schichten mit einem Fenster von 4'096 Tokens und rotierender Positionscodierung mit einer globalen Attention-Schicht. Es wurde auf 23 Sprachen trainiert, darunter Russisch, Englisch und die in der genauen Modellkarte aufgeführten Sprachen.\n\nDer Hersteller unterscheidet dialogorientierte und anweisungsorientierte Einleitungen. Dialogorientierte Nutzung ergänzt Dialogverhalten, Einleitungen, Folgefragen und Formatierung wie Markdown. Anweisungsorientierte Nutzung zielt auf knappe, aber vollständige Antworten für Extraktion, Zusammenfassung, Übersetzung und Kategorisierung, standardmässig ohne Markdown oder LaTeX. Das veröffentlichte Modell wird ohne Systemeinleitung geliefert; der Hersteller empfiehlt daher eine für die Aufgabe geeignete Einleitung.\n\nGeben Sie für einen Klassifikationsablauf die Kategoriedefinitionen und den Umgang mit einem keiner Kategorie entsprechenden Eintrag an. Stellen Sie für eine Supportantwort die Frage und freigegebenes Produktmaterial bereit und verlangen Sie eine Antwort in der Nutzersprache. Eine klare Ausgabespezifikation verhindert, dass Dialogergänzungen unbeabsichtigt zu Feldern eines Datensatzes werden.\n\n### Antworten aus Dokumenten\n\nR7B ist für den endgültigen Antwortschritt der Retrieval-Augmented Generation trainiert. Seine Herstellervorlage verbindet den Dialog mit bereitgestellten Dokumentauszügen. Der Hersteller empfiehlt kurze Abschnitte, typischerweise 100–400 Wörter, mit kurzen beschreibenden Schlüsseln und textlichen oder halbstrukturierten Werten. Er empfiehlt auch zu prüfen, ob relevante Dokumente direkt in der Nutzernachricht für einen bestimmten Anwendungsfall besser funktionieren.\n\nEine beispielhafte Aufgabe lautet: «Verwende diese benannten Passagen zur Beantwortung der Frage, benenne die die Antwort stützende Aussage und markiere Informationen, die die Passagen nicht enthalten.» Bewahren Sie Überschriften und Einheiten, damit ein extrahierter Fakt anhand des ursprünglichen Materials geprüft werden kann. Die Anwendung ruft Dokumente ab oder stellt sie bereit; das Modell erzeugt eine Antwort aus diesem Kontext.\n\n### Werkzeuge und Programmierung\n\nDas Werkzeugnutzungsbeispiel des Herstellers stellt Funktionsdefinitionen als JSON-Schema bereit und bewahrt den ausgewählten Aufruf, seinen Plan und sein Ergebnis im Dialog. Jedes Ergebnis ist ein Dictionary, das der passenden Werkzeugaufrufkennung zugeordnet ist. So kann die nächste Antwort die tatsächliche Beobachtung nutzen. Ein Codeassistent kann daher eine fokussierte Aufgabe durcharbeiten, wenn die umgebende Anwendung geeignete Prüf- oder Validierungswerkzeuge bereitstellt.\n\nDie Modellkarte hebt SQL und Codeübersetzung neben Ausschnitten, Erklärungen und Überarbeitungen hervor. Stellen Sie Schema, Eingabe oder Quellcode sowie das zu bewahrende Verhalten bereit. Der Hersteller empfiehlt niedrige Temperatur oder Greedy Decoding für Codegenerierung. Behandeln Sie die erzeugte Anweisung als Vorschlag, bis sie in ihrer vorgesehenen Umgebung geprüft wurde.\n\nDie kompakte Rolle von R7B eignet sich gut für klare wiederholte Aufgaben und reaktionsschnelle Dialoge. Reservieren Sie im Kontext Platz für Antwort und nützlichen Werkzeugverlauf und machen Sie das Abschlusskriterium ausdrücklich. Stellen Sie für quellenabhängige Aussagen die relevanten Belege bereit, statt allein von Modellgrösse oder langem Prompt Richtigkeit zu erwarten.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Answer from support snippets\n\nAnswer the customer using only these support snippets. [Returns] Unused items can be returned within 14 days of receipt. [Shipping] Return shipping is paid by the buyer unless the item is defective. Question: "My unused item arrived 10 days ago. Can I return it, and who pays postage?" Cite the relevant snippet names.A concise customer answer citing Returns and Shipping, including the defect exception.Ensure the answer uses receipt time and preserves the buyer-paid postage exception.cohere/command-r7b-12-2024Command R7B ist Coheres kompaktes 7B-Textmodell für Chat, Extraktion, Programmierhilfe und werkzeuggestützte Agenten. Die Version vom Dezember 2024 wurde auf 23 Sprachen trainiert, unterstützt einen Kontext von 128K und ist für fokussierte, reaktionsschnelle Unternehmensaufgaben mit bereitgestellten Dokumenten oder Werkzeugergebnissen ausgelegt.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Command R7B ist Coheres kompaktes Textmodell vom Dezember 2024. Seine Architektur mit 7 Milliarden Parametern ist auf Schlussfolgern, Zusammenfassung, Fragebeantwortung, Programmierung und Unternehmenshilfe ausgelegt. Der Hersteller trainiert es auch für Retrieval-Augmented Generation und die Nutzung mehrerer Werkzeuge über mehrere Schritte hinweg. Es akzeptiert Text und generiert Text, mit einem Kontext von 128K und maximal 4'000 Ausgabetokens im veröffentlichten Herstellerprofil.
Das Modell verwendet einen autoregressiven Transformer mit überwachtem Feintraining und Präferenztraining. Sein Attention-Muster verbindet drei lokale Sliding-Window-Schichten mit einem Fenster von 4'096 Tokens und rotierender Positionscodierung mit einer globalen Attention-Schicht. Es wurde auf 23 Sprachen trainiert, darunter Russisch, Englisch und die in der genauen Modellkarte aufgeführten Sprachen.
Der Hersteller unterscheidet dialogorientierte und anweisungsorientierte Einleitungen. Dialogorientierte Nutzung ergänzt Dialogverhalten, Einleitungen, Folgefragen und Formatierung wie Markdown. Anweisungsorientierte Nutzung zielt auf knappe, aber vollständige Antworten für Extraktion, Zusammenfassung, Übersetzung und Kategorisierung, standardmässig ohne Markdown oder LaTeX. Das veröffentlichte Modell wird ohne Systemeinleitung geliefert; der Hersteller empfiehlt daher eine für die Aufgabe geeignete Einleitung.
Geben Sie für einen Klassifikationsablauf die Kategoriedefinitionen und den Umgang mit einem keiner Kategorie entsprechenden Eintrag an. Stellen Sie für eine Supportantwort die Frage und freigegebenes Produktmaterial bereit und verlangen Sie eine Antwort in der Nutzersprache. Eine klare Ausgabespezifikation verhindert, dass Dialogergänzungen unbeabsichtigt zu Feldern eines Datensatzes werden.
R7B ist für den endgültigen Antwortschritt der Retrieval-Augmented Generation trainiert. Seine Herstellervorlage verbindet den Dialog mit bereitgestellten Dokumentauszügen. Der Hersteller empfiehlt kurze Abschnitte, typischerweise 100–400 Wörter, mit kurzen beschreibenden Schlüsseln und textlichen oder halbstrukturierten Werten. Er empfiehlt auch zu prüfen, ob relevante Dokumente direkt in der Nutzernachricht für einen bestimmten Anwendungsfall besser funktionieren.
Eine beispielhafte Aufgabe lautet: «Verwende diese benannten Passagen zur Beantwortung der Frage, benenne die die Antwort stützende Aussage und markiere Informationen, die die Passagen nicht enthalten.» Bewahren Sie Überschriften und Einheiten, damit ein extrahierter Fakt anhand des ursprünglichen Materials geprüft werden kann. Die Anwendung ruft Dokumente ab oder stellt sie bereit; das Modell erzeugt eine Antwort aus diesem Kontext.
Das Werkzeugnutzungsbeispiel des Herstellers stellt Funktionsdefinitionen als JSON-Schema bereit und bewahrt den ausgewählten Aufruf, seinen Plan und sein Ergebnis im Dialog. Jedes Ergebnis ist ein Dictionary, das der passenden Werkzeugaufrufkennung zugeordnet ist. So kann die nächste Antwort die tatsächliche Beobachtung nutzen. Ein Codeassistent kann daher eine fokussierte Aufgabe durcharbeiten, wenn die umgebende Anwendung geeignete Prüf- oder Validierungswerkzeuge bereitstellt.
Die Modellkarte hebt SQL und Codeübersetzung neben Ausschnitten, Erklärungen und Überarbeitungen hervor. Stellen Sie Schema, Eingabe oder Quellcode sowie das zu bewahrende Verhalten bereit. Der Hersteller empfiehlt niedrige Temperatur oder Greedy Decoding für Codegenerierung. Behandeln Sie die erzeugte Anweisung als Vorschlag, bis sie in ihrer vorgesehenen Umgebung geprüft wurde.
Die kompakte Rolle von R7B eignet sich gut für klare wiederholte Aufgaben und reaktionsschnelle Dialoge. Reservieren Sie im Kontext Platz für Antwort und nützlichen Werkzeugverlauf und machen Sie das Abschlusskriterium ausdrücklich. Stellen Sie für quellenabhängige Aussagen die relevanten Belege bereit, statt allein von Modellgrösse oder langem Prompt Richtigkeit zu erwarten.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits cohere/command-r7b-12-2024 | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschliesslich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.000075 / 1K Tokens Ausgabe · Ausgabetoken $0.0003 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.000075 / 1K Tokens Ausgabe · Ausgabetoken $0.0003 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "cohere/command-r7b-12-2024", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='cohere/command-r7b-12-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='cohere/command-r7b-12-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra cohere/command-r7b-12-2024
Verwenden Sie die oben angezeigten Methodenpfade.
cohere/command-r7b-12-2024Command R7B ist Coheres kompaktes 7B-Textmodell für Chat, Extraktion, Programmierhilfe und werkzeuggestützte Agenten. Die Version vom Dezember 2024 wurde auf 23 Sprachen trainiert, unterstützt einen Kontext von 128K und ist für fokussierte, reaktionsschnelle Unternehmensaufgaben mit bereitgestellten Dokumenten oder Werkzeugergebnissen ausgelegt.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Command R7B ist Coheres kompaktes Textmodell vom Dezember 2024. Seine Architektur mit 7 Milliarden Parametern ist auf Schlussfolgern, Zusammenfassung, Fragebeantwortung, Programmierung und Unternehmenshilfe ausgelegt. Der Hersteller trainiert es auch für Retrieval-Augmented Generation und die Nutzung mehrerer Werkzeuge über mehrere Schritte hinweg. Es akzeptiert Text und generiert Text, mit einem Kontext von 128K und maximal 4'000 Ausgabetokens im veröffentlichten Herstellerprofil.
Das Modell verwendet einen autoregressiven Transformer mit überwachtem Feintraining und Präferenztraining. Sein Attention-Muster verbindet drei lokale Sliding-Window-Schichten mit einem Fenster von 4'096 Tokens und rotierender Positionscodierung mit einer globalen Attention-Schicht. Es wurde auf 23 Sprachen trainiert, darunter Russisch, Englisch und die in der genauen Modellkarte aufgeführten Sprachen.
Der Hersteller unterscheidet dialogorientierte und anweisungsorientierte Einleitungen. Dialogorientierte Nutzung ergänzt Dialogverhalten, Einleitungen, Folgefragen und Formatierung wie Markdown. Anweisungsorientierte Nutzung zielt auf knappe, aber vollständige Antworten für Extraktion, Zusammenfassung, Übersetzung und Kategorisierung, standardmässig ohne Markdown oder LaTeX. Das veröffentlichte Modell wird ohne Systemeinleitung geliefert; der Hersteller empfiehlt daher eine für die Aufgabe geeignete Einleitung.
Geben Sie für einen Klassifikationsablauf die Kategoriedefinitionen und den Umgang mit einem keiner Kategorie entsprechenden Eintrag an. Stellen Sie für eine Supportantwort die Frage und freigegebenes Produktmaterial bereit und verlangen Sie eine Antwort in der Nutzersprache. Eine klare Ausgabespezifikation verhindert, dass Dialogergänzungen unbeabsichtigt zu Feldern eines Datensatzes werden.
R7B ist für den endgültigen Antwortschritt der Retrieval-Augmented Generation trainiert. Seine Herstellervorlage verbindet den Dialog mit bereitgestellten Dokumentauszügen. Der Hersteller empfiehlt kurze Abschnitte, typischerweise 100–400 Wörter, mit kurzen beschreibenden Schlüsseln und textlichen oder halbstrukturierten Werten. Er empfiehlt auch zu prüfen, ob relevante Dokumente direkt in der Nutzernachricht für einen bestimmten Anwendungsfall besser funktionieren.
Eine beispielhafte Aufgabe lautet: «Verwende diese benannten Passagen zur Beantwortung der Frage, benenne die die Antwort stützende Aussage und markiere Informationen, die die Passagen nicht enthalten.» Bewahren Sie Überschriften und Einheiten, damit ein extrahierter Fakt anhand des ursprünglichen Materials geprüft werden kann. Die Anwendung ruft Dokumente ab oder stellt sie bereit; das Modell erzeugt eine Antwort aus diesem Kontext.
Das Werkzeugnutzungsbeispiel des Herstellers stellt Funktionsdefinitionen als JSON-Schema bereit und bewahrt den ausgewählten Aufruf, seinen Plan und sein Ergebnis im Dialog. Jedes Ergebnis ist ein Dictionary, das der passenden Werkzeugaufrufkennung zugeordnet ist. So kann die nächste Antwort die tatsächliche Beobachtung nutzen. Ein Codeassistent kann daher eine fokussierte Aufgabe durcharbeiten, wenn die umgebende Anwendung geeignete Prüf- oder Validierungswerkzeuge bereitstellt.
Die Modellkarte hebt SQL und Codeübersetzung neben Ausschnitten, Erklärungen und Überarbeitungen hervor. Stellen Sie Schema, Eingabe oder Quellcode sowie das zu bewahrende Verhalten bereit. Der Hersteller empfiehlt niedrige Temperatur oder Greedy Decoding für Codegenerierung. Behandeln Sie die erzeugte Anweisung als Vorschlag, bis sie in ihrer vorgesehenen Umgebung geprüft wurde.
Die kompakte Rolle von R7B eignet sich gut für klare wiederholte Aufgaben und reaktionsschnelle Dialoge. Reservieren Sie im Kontext Platz für Antwort und nützlichen Werkzeugverlauf und machen Sie das Abschlusskriterium ausdrücklich. Stellen Sie für quellenabhängige Aussagen die relevanten Belege bereit, statt allein von Modellgrösse oder langem Prompt Richtigkeit zu erwarten.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits cohere/command-r7b-12-2024 | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschliesslich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.000075 / 1K Tokens Ausgabe · Ausgabetoken $0.0003 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.000075 / 1K Tokens Ausgabe · Ausgabetoken $0.0003 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "cohere/command-r7b-12-2024",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r7b-12-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r7b-12-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra cohere/command-r7b-12-2024
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Answer from support snippets\n\nAnswer the customer using only these support snippets. [Returns] Unused items can be returned within 14 days of receipt. [Shipping] Return shipping is paid by the buyer unless the item is defective. Question: "My unused item arrived 10 days ago. Can I return it, and who pays postage?" Cite the relevant snippet names.A concise customer answer citing Returns and Shipping, including the defect exception.Ensure the answer uses receipt time and preserves the buyer-paid postage exception.