Command R7B ist Coheres kompaktes Textmodell vom Dezember 2024. Seine Architektur mit 7 Milliarden Parametern ist für Schlussfolgern, Zusammenfassung, Fragenbeantwortung, Programmierung und Unternehmensunterstützung ausgelegt. Der Hersteller trainiert es auch für Retrieval-Augmented Generation und die Nutzung mehrerer Werkzeuge über mehrere Schritte. Es akzeptiert Text und erzeugt Text, mit einem Kontext von 128K und einer maximalen Ausgabe von 4.000 Tokens im veröffentlichten Herstellerprofil.
Das Modell verwendet einen autoregressiven Transformer mit überwachtem Fine-Tuning und Präferenztraining. Sein Attention-Muster verbindet drei lokale Sliding-Window-Layer mit einem Fenster von 4.096 Tokens und rotierender Positionskodierung mit einem globalen Attention-Layer. Es wird in 23 Sprachen trainiert, darunter Russisch, Englisch und die in der genauen Modellkarte aufgeführten Sprachen.
Der Hersteller unterscheidet dialogorientierte und anweisungsorientierte Präambeln. Dialogorientierte Nutzung ergänzt Gesprächsverhalten, Einleitungen, Rückfragen und Formatierung wie Markdown. Anweisungsorientierte Nutzung zielt auf knappe, aber vollständige Antworten für Extraktion, Zusammenfassung, Übersetzung und Kategorisierung, standardmäßig ohne Markdown oder LaTeX. Das veröffentlichte Modell wird ohne Systempräambel ausgeliefert; der Hersteller empfiehlt deshalb, eine für die Aufgabe geeignete Präambel bereitzustellen.
Geben Sie für einen Klassifikationsablauf die Kategoriedefinitionen an und erklären Sie dem Modell den Umgang mit einem Element, das in keine davon passt. Stellen Sie für eine Supportantwort die Frage und freigegebenes Produktmaterial bereit und fordern Sie dann eine Antwort in der Sprache des Nutzers an. Eine klare Ausgabespezifikation verhindert, dass dialogtypische Ergänzungen versehentlich zu Feldern eines Datensatzes werden.
R7B wird für den abschließenden Antwortschritt von Retrieval-Augmented Generation trainiert. Sein Hersteller-Template verbindet den Dialog mit bereitgestellten Dokumentauszügen. Der Hersteller empfiehlt kurze Abschnitte, typischerweise 100–400 Wörter, dargestellt durch kurze beschreibende Schlüssel und textuelle oder halbstrukturierte Werte. Er empfiehlt außerdem zu prüfen, ob relevante Dokumente direkt in der Nutzernachricht für einen bestimmten Anwendungsfall besser funktionieren.
Eine beispielhafte Aufgabe lautet: „Verwende diese benannten Passagen zur Beantwortung der Frage, nenne die stützende Aussage und markiere Informationen, die in den Passagen nicht enthalten sind.“ Bewahren Sie Überschriften und Einheiten, damit ein extrahierter Fakt anhand des Originalmaterials geprüft werden kann. Die Anwendung ruft die Dokumente ab oder stellt sie bereit; das Modell erzeugt aus diesem Kontext eine Antwort.
Das Werkzeugbeispiel des Herstellers liefert Funktionsdefinitionen in JSON-Schema und bewahrt den gewählten Aufruf, seinen Plan und sein Ergebnis im Dialog. Jedes Ergebnis ist ein Dictionary, das der passenden Werkzeugaufrufkennung zugeordnet ist. So kann die nächste Antwort die tatsächliche Beobachtung nutzen. Ein Programmierassistent kann deshalb eine gezielte Aufgabe durcharbeiten, wenn die umgebende Anwendung geeignete Prüf- oder Validierungswerkzeuge bereitstellt.
Die Modellkarte hebt SQL und Codeübersetzung neben Ausschnitten, Erklärungen und Überarbeitungen hervor. Geben Sie Schema, Eingabe oder Quellcode und das zu erhaltende Verhalten an. Der Hersteller empfiehlt für Codeerzeugung eine niedrige Temperatur oder Greedy Decoding. Behandeln Sie die erzeugte Anweisung als vorgeschlagenes Ergebnis, bis sie in ihrer vorgesehenen Umgebung geprüft wurde.
Die kompakte Rolle von R7B eignet sich gut für klare, wiederholte Aufgaben und reaktionsschnelle Dialoge. Reservieren Sie innerhalb des Kontexts Platz für die Antwort und nützlichen Werkzeugverlauf und nennen Sie das Abschlusskriterium ausdrücklich. Stellen Sie für quellenabhängige Aussagen die relevanten Belege bereit, statt von Modellgröße oder einem langen Prompt allein den Nachweis der Korrektheit zu erwarten.
", "aboutText": "Command R7B ist Coheres kompaktes Textmodell vom Dezember 2024. Seine Architektur mit 7 Milliarden Parametern ist für Schlussfolgern, Zusammenfassung, Fragenbeantwortung, Programmierung und Unternehmensunterstützung ausgelegt. Der Hersteller trainiert es auch für Retrieval-Augmented Generation und die Nutzung mehrerer Werkzeuge über mehrere Schritte. Es akzeptiert Text und erzeugt Text, mit einem Kontext von 128K und einer maximalen Ausgabe von 4.000 Tokens im veröffentlichten Herstellerprofil.\n\n### Modell und Antwortverhalten\n\nDas Modell verwendet einen autoregressiven Transformer mit überwachtem Fine-Tuning und Präferenztraining. Sein Attention-Muster verbindet drei lokale Sliding-Window-Layer mit einem Fenster von 4.096 Tokens und rotierender Positionskodierung mit einem globalen Attention-Layer. Es wird in 23 Sprachen trainiert, darunter Russisch, Englisch und die in der genauen Modellkarte aufgeführten Sprachen.\n\nDer Hersteller unterscheidet dialogorientierte und anweisungsorientierte Präambeln. Dialogorientierte Nutzung ergänzt Gesprächsverhalten, Einleitungen, Rückfragen und Formatierung wie Markdown. Anweisungsorientierte Nutzung zielt auf knappe, aber vollständige Antworten für Extraktion, Zusammenfassung, Übersetzung und Kategorisierung, standardmäßig ohne Markdown oder LaTeX. Das veröffentlichte Modell wird ohne Systempräambel ausgeliefert; der Hersteller empfiehlt deshalb, eine für die Aufgabe geeignete Präambel bereitzustellen.\n\nGeben Sie für einen Klassifikationsablauf die Kategoriedefinitionen an und erklären Sie dem Modell den Umgang mit einem Element, das in keine davon passt. Stellen Sie für eine Supportantwort die Frage und freigegebenes Produktmaterial bereit und fordern Sie dann eine Antwort in der Sprache des Nutzers an. Eine klare Ausgabespezifikation verhindert, dass dialogtypische Ergänzungen versehentlich zu Feldern eines Datensatzes werden.\n\n### Antworten aus Dokumenten\n\nR7B wird für den abschließenden Antwortschritt von Retrieval-Augmented Generation trainiert. Sein Hersteller-Template verbindet den Dialog mit bereitgestellten Dokumentauszügen. Der Hersteller empfiehlt kurze Abschnitte, typischerweise 100–400 Wörter, dargestellt durch kurze beschreibende Schlüssel und textuelle oder halbstrukturierte Werte. Er empfiehlt außerdem zu prüfen, ob relevante Dokumente direkt in der Nutzernachricht für einen bestimmten Anwendungsfall besser funktionieren.\n\nEine beispielhafte Aufgabe lautet: „Verwende diese benannten Passagen zur Beantwortung der Frage, nenne die stützende Aussage und markiere Informationen, die in den Passagen nicht enthalten sind.“ Bewahren Sie Überschriften und Einheiten, damit ein extrahierter Fakt anhand des Originalmaterials geprüft werden kann. Die Anwendung ruft die Dokumente ab oder stellt sie bereit; das Modell erzeugt aus diesem Kontext eine Antwort.\n\n### Werkzeuge und Programmierung\n\nDas Werkzeugbeispiel des Herstellers liefert Funktionsdefinitionen in JSON-Schema und bewahrt den gewählten Aufruf, seinen Plan und sein Ergebnis im Dialog. Jedes Ergebnis ist ein Dictionary, das der passenden Werkzeugaufrufkennung zugeordnet ist. So kann die nächste Antwort die tatsächliche Beobachtung nutzen. Ein Programmierassistent kann deshalb eine gezielte Aufgabe durcharbeiten, wenn die umgebende Anwendung geeignete Prüf- oder Validierungswerkzeuge bereitstellt.\n\nDie Modellkarte hebt SQL und Codeübersetzung neben Ausschnitten, Erklärungen und Überarbeitungen hervor. Geben Sie Schema, Eingabe oder Quellcode und das zu erhaltende Verhalten an. Der Hersteller empfiehlt für Codeerzeugung eine niedrige Temperatur oder Greedy Decoding. Behandeln Sie die erzeugte Anweisung als vorgeschlagenes Ergebnis, bis sie in ihrer vorgesehenen Umgebung geprüft wurde.\n\nDie kompakte Rolle von R7B eignet sich gut für klare, wiederholte Aufgaben und reaktionsschnelle Dialoge. Reservieren Sie innerhalb des Kontexts Platz für die Antwort und nützlichen Werkzeugverlauf und nennen Sie das Abschlusskriterium ausdrücklich. Stellen Sie für quellenabhängige Aussagen die relevanten Belege bereit, statt von Modellgröße oder einem langen Prompt allein den Nachweis der Korrektheit zu erwarten.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Answer from support snippets\n\nAnswer the customer using only these support snippets. [Returns] Unused items can be returned within 14 days of receipt. [Shipping] Return shipping is paid by the buyer unless the item is defective. Question: "My unused item arrived 10 days ago. Can I return it, and who pays postage?" Cite the relevant snippet names.A concise customer answer citing Returns and Shipping, including the defect exception.Ensure the answer uses receipt time and preserves the buyer-paid postage exception.cohere/command-r7b-12-2024Command R7B ist Coheres kompaktes Textmodell mit 7B für Dialoge, Extraktion, Programmierhilfe und werkzeuggestützte Agenten. Die Edition vom Dezember 2024 wird in 23 Sprachen trainiert, unterstützt einen Kontext von 128K und ist für gezielte, reaktionsschnelle Unternehmensaufgaben mit bereitgestellten Dokumenten oder Werkzeugergebnissen ausgelegt.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Command R7B ist Coheres kompaktes Textmodell vom Dezember 2024. Seine Architektur mit 7 Milliarden Parametern ist für Schlussfolgern, Zusammenfassung, Fragenbeantwortung, Programmierung und Unternehmensunterstützung ausgelegt. Der Hersteller trainiert es auch für Retrieval-Augmented Generation und die Nutzung mehrerer Werkzeuge über mehrere Schritte. Es akzeptiert Text und erzeugt Text, mit einem Kontext von 128K und einer maximalen Ausgabe von 4.000 Tokens im veröffentlichten Herstellerprofil.
Das Modell verwendet einen autoregressiven Transformer mit überwachtem Fine-Tuning und Präferenztraining. Sein Attention-Muster verbindet drei lokale Sliding-Window-Layer mit einem Fenster von 4.096 Tokens und rotierender Positionskodierung mit einem globalen Attention-Layer. Es wird in 23 Sprachen trainiert, darunter Russisch, Englisch und die in der genauen Modellkarte aufgeführten Sprachen.
Der Hersteller unterscheidet dialogorientierte und anweisungsorientierte Präambeln. Dialogorientierte Nutzung ergänzt Gesprächsverhalten, Einleitungen, Rückfragen und Formatierung wie Markdown. Anweisungsorientierte Nutzung zielt auf knappe, aber vollständige Antworten für Extraktion, Zusammenfassung, Übersetzung und Kategorisierung, standardmäßig ohne Markdown oder LaTeX. Das veröffentlichte Modell wird ohne Systempräambel ausgeliefert; der Hersteller empfiehlt deshalb, eine für die Aufgabe geeignete Präambel bereitzustellen.
Geben Sie für einen Klassifikationsablauf die Kategoriedefinitionen an und erklären Sie dem Modell den Umgang mit einem Element, das in keine davon passt. Stellen Sie für eine Supportantwort die Frage und freigegebenes Produktmaterial bereit und fordern Sie dann eine Antwort in der Sprache des Nutzers an. Eine klare Ausgabespezifikation verhindert, dass dialogtypische Ergänzungen versehentlich zu Feldern eines Datensatzes werden.
R7B wird für den abschließenden Antwortschritt von Retrieval-Augmented Generation trainiert. Sein Hersteller-Template verbindet den Dialog mit bereitgestellten Dokumentauszügen. Der Hersteller empfiehlt kurze Abschnitte, typischerweise 100–400 Wörter, dargestellt durch kurze beschreibende Schlüssel und textuelle oder halbstrukturierte Werte. Er empfiehlt außerdem zu prüfen, ob relevante Dokumente direkt in der Nutzernachricht für einen bestimmten Anwendungsfall besser funktionieren.
Eine beispielhafte Aufgabe lautet: „Verwende diese benannten Passagen zur Beantwortung der Frage, nenne die stützende Aussage und markiere Informationen, die in den Passagen nicht enthalten sind.“ Bewahren Sie Überschriften und Einheiten, damit ein extrahierter Fakt anhand des Originalmaterials geprüft werden kann. Die Anwendung ruft die Dokumente ab oder stellt sie bereit; das Modell erzeugt aus diesem Kontext eine Antwort.
Das Werkzeugbeispiel des Herstellers liefert Funktionsdefinitionen in JSON-Schema und bewahrt den gewählten Aufruf, seinen Plan und sein Ergebnis im Dialog. Jedes Ergebnis ist ein Dictionary, das der passenden Werkzeugaufrufkennung zugeordnet ist. So kann die nächste Antwort die tatsächliche Beobachtung nutzen. Ein Programmierassistent kann deshalb eine gezielte Aufgabe durcharbeiten, wenn die umgebende Anwendung geeignete Prüf- oder Validierungswerkzeuge bereitstellt.
Die Modellkarte hebt SQL und Codeübersetzung neben Ausschnitten, Erklärungen und Überarbeitungen hervor. Geben Sie Schema, Eingabe oder Quellcode und das zu erhaltende Verhalten an. Der Hersteller empfiehlt für Codeerzeugung eine niedrige Temperatur oder Greedy Decoding. Behandeln Sie die erzeugte Anweisung als vorgeschlagenes Ergebnis, bis sie in ihrer vorgesehenen Umgebung geprüft wurde.
Die kompakte Rolle von R7B eignet sich gut für klare, wiederholte Aufgaben und reaktionsschnelle Dialoge. Reservieren Sie innerhalb des Kontexts Platz für die Antwort und nützlichen Werkzeugverlauf und nennen Sie das Abschlusskriterium ausdrücklich. Stellen Sie für quellenabhängige Aussagen die relevanten Belege bereit, statt von Modellgröße oder einem langen Prompt allein den Nachweis der Korrektheit zu erwarten.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits cohere/command-r7b-12-2024 | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.000075 / 1K Token Ausgabe · Ausgabetoken $0.0003 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.000075 / 1K Token Ausgabe · Ausgabetoken $0.0003 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "cohere/command-r7b-12-2024", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='cohere/command-r7b-12-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='cohere/command-r7b-12-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra cohere/command-r7b-12-2024
Verwenden Sie die oben angezeigten Methodenpfade.
cohere/command-r7b-12-2024Command R7B ist Coheres kompaktes Textmodell mit 7B für Dialoge, Extraktion, Programmierhilfe und werkzeuggestützte Agenten. Die Edition vom Dezember 2024 wird in 23 Sprachen trainiert, unterstützt einen Kontext von 128K und ist für gezielte, reaktionsschnelle Unternehmensaufgaben mit bereitgestellten Dokumenten oder Werkzeugergebnissen ausgelegt.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Command R7B ist Coheres kompaktes Textmodell vom Dezember 2024. Seine Architektur mit 7 Milliarden Parametern ist für Schlussfolgern, Zusammenfassung, Fragenbeantwortung, Programmierung und Unternehmensunterstützung ausgelegt. Der Hersteller trainiert es auch für Retrieval-Augmented Generation und die Nutzung mehrerer Werkzeuge über mehrere Schritte. Es akzeptiert Text und erzeugt Text, mit einem Kontext von 128K und einer maximalen Ausgabe von 4.000 Tokens im veröffentlichten Herstellerprofil.
Das Modell verwendet einen autoregressiven Transformer mit überwachtem Fine-Tuning und Präferenztraining. Sein Attention-Muster verbindet drei lokale Sliding-Window-Layer mit einem Fenster von 4.096 Tokens und rotierender Positionskodierung mit einem globalen Attention-Layer. Es wird in 23 Sprachen trainiert, darunter Russisch, Englisch und die in der genauen Modellkarte aufgeführten Sprachen.
Der Hersteller unterscheidet dialogorientierte und anweisungsorientierte Präambeln. Dialogorientierte Nutzung ergänzt Gesprächsverhalten, Einleitungen, Rückfragen und Formatierung wie Markdown. Anweisungsorientierte Nutzung zielt auf knappe, aber vollständige Antworten für Extraktion, Zusammenfassung, Übersetzung und Kategorisierung, standardmäßig ohne Markdown oder LaTeX. Das veröffentlichte Modell wird ohne Systempräambel ausgeliefert; der Hersteller empfiehlt deshalb, eine für die Aufgabe geeignete Präambel bereitzustellen.
Geben Sie für einen Klassifikationsablauf die Kategoriedefinitionen an und erklären Sie dem Modell den Umgang mit einem Element, das in keine davon passt. Stellen Sie für eine Supportantwort die Frage und freigegebenes Produktmaterial bereit und fordern Sie dann eine Antwort in der Sprache des Nutzers an. Eine klare Ausgabespezifikation verhindert, dass dialogtypische Ergänzungen versehentlich zu Feldern eines Datensatzes werden.
R7B wird für den abschließenden Antwortschritt von Retrieval-Augmented Generation trainiert. Sein Hersteller-Template verbindet den Dialog mit bereitgestellten Dokumentauszügen. Der Hersteller empfiehlt kurze Abschnitte, typischerweise 100–400 Wörter, dargestellt durch kurze beschreibende Schlüssel und textuelle oder halbstrukturierte Werte. Er empfiehlt außerdem zu prüfen, ob relevante Dokumente direkt in der Nutzernachricht für einen bestimmten Anwendungsfall besser funktionieren.
Eine beispielhafte Aufgabe lautet: „Verwende diese benannten Passagen zur Beantwortung der Frage, nenne die stützende Aussage und markiere Informationen, die in den Passagen nicht enthalten sind.“ Bewahren Sie Überschriften und Einheiten, damit ein extrahierter Fakt anhand des Originalmaterials geprüft werden kann. Die Anwendung ruft die Dokumente ab oder stellt sie bereit; das Modell erzeugt aus diesem Kontext eine Antwort.
Das Werkzeugbeispiel des Herstellers liefert Funktionsdefinitionen in JSON-Schema und bewahrt den gewählten Aufruf, seinen Plan und sein Ergebnis im Dialog. Jedes Ergebnis ist ein Dictionary, das der passenden Werkzeugaufrufkennung zugeordnet ist. So kann die nächste Antwort die tatsächliche Beobachtung nutzen. Ein Programmierassistent kann deshalb eine gezielte Aufgabe durcharbeiten, wenn die umgebende Anwendung geeignete Prüf- oder Validierungswerkzeuge bereitstellt.
Die Modellkarte hebt SQL und Codeübersetzung neben Ausschnitten, Erklärungen und Überarbeitungen hervor. Geben Sie Schema, Eingabe oder Quellcode und das zu erhaltende Verhalten an. Der Hersteller empfiehlt für Codeerzeugung eine niedrige Temperatur oder Greedy Decoding. Behandeln Sie die erzeugte Anweisung als vorgeschlagenes Ergebnis, bis sie in ihrer vorgesehenen Umgebung geprüft wurde.
Die kompakte Rolle von R7B eignet sich gut für klare, wiederholte Aufgaben und reaktionsschnelle Dialoge. Reservieren Sie innerhalb des Kontexts Platz für die Antwort und nützlichen Werkzeugverlauf und nennen Sie das Abschlusskriterium ausdrücklich. Stellen Sie für quellenabhängige Aussagen die relevanten Belege bereit, statt von Modellgröße oder einem langen Prompt allein den Nachweis der Korrektheit zu erwarten.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits cohere/command-r7b-12-2024 | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.000075 / 1K Token Ausgabe · Ausgabetoken $0.0003 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.000075 / 1K Token Ausgabe · Ausgabetoken $0.0003 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "cohere/command-r7b-12-2024",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r7b-12-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r7b-12-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra cohere/command-r7b-12-2024
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Answer from support snippets\n\nAnswer the customer using only these support snippets. [Returns] Unused items can be returned within 14 days of receipt. [Shipping] Return shipping is paid by the buyer unless the item is defective. Question: "My unused item arrived 10 days ago. Can I return it, and who pays postage?" Cite the relevant snippet names.A concise customer answer citing Returns and Shipping, including the defect exception.Ensure the answer uses receipt time and preserves the buyer-paid postage exception.