Command R7B es el modelo textual compacto de Cohere de diciembre de 2024. Su arquitectura de 7 mil millones de parámetros está diseñada para razonamiento, resumen, respuesta a preguntas, programación y asistencia empresarial. El fabricante también lo entrena para generación aumentada por recuperación y uso de varias herramientas a lo largo de múltiples pasos. Acepta texto y genera texto, con un contexto de 128K y una salida máxima de 4,000 tokens en el perfil publicado del productor.
El modelo utiliza un Transformer autorregresivo con ajuste fino supervisado y entrenamiento de preferencias. Su patrón de atención combina tres capas locales de ventana deslizante, que utilizan una ventana de 4,096 tokens con codificación de posición rotatoria, con una capa de atención global. Está entrenado en 23 idiomas, incluidos ruso, inglés y los idiomas indicados en la ficha exacta del modelo.
El productor distingue preámbulos conversacionales y de instrucciones. El uso conversacional añade comportamiento de diálogo, introducciones, preguntas de seguimiento y formatos como Markdown. El uso por instrucciones busca respuestas concisas pero completas para extracción, resumen, traducción y categorización, sin Markdown ni LaTeX de forma predeterminada. El modelo publicado se entrega sin un preámbulo de sistema, por lo que el fabricante recomienda proporcionar el adecuado para cada tarea.
Para un flujo de clasificación, da las definiciones de las categorías e indica al modelo cómo tratar un elemento que no encaje en ninguna. Para una respuesta de soporte, proporciona la pregunta y el material aprobado del producto, y solicita una respuesta en el idioma del usuario. Una especificación clara de salida evita que los añadidos conversacionales se conviertan en campos accidentales de un registro de datos.
R7B está entrenado para el paso final de respuesta en la generación aumentada por recuperación. La plantilla del productor combina la conversación con fragmentos de documentos proporcionados. El fabricante recomienda fragmentos breves, normalmente de 100–400 palabras, representados con claves descriptivas cortas y valores textuales o semiestructurados. También recomienda evaluar si incluir los documentos pertinentes directamente en el mensaje del usuario funciona mejor para un caso de uso concreto.
Una tarea ilustrativa es: «Utiliza estos pasajes identificados para responder a la pregunta, identifica el enunciado que respalda la respuesta y marca la información que los pasajes no contienen». Mantén intactos los encabezados y las unidades para que un dato extraído pueda comprobarse contra el material original. La aplicación recupera o proporciona los documentos; el modelo genera una respuesta a partir de ese contexto.
El ejemplo de uso de herramientas del fabricante proporciona definiciones de funciones mediante esquemas JSON y conserva la llamada seleccionada, su plan y su resultado en la conversación. Cada resultado es un diccionario asociado al identificador de la llamada a herramienta correspondiente. Esto permite que la siguiente respuesta utilice la observación real. Por tanto, un asistente de programación puede abordar una tarea concreta cuando la aplicación que lo rodea proporciona herramientas adecuadas de inspección o validación.
La ficha del modelo destaca SQL y la traducción de código, junto con fragmentos, explicaciones y reescrituras. Proporciona el esquema, la entrada o el código fuente y el comportamiento que debe conservarse. El productor recomienda temperatura baja o decodificación voraz para generar código. Trata la sentencia generada como un artefacto propuesto hasta que se haya comprobado en su entorno previsto.
La función compacta de R7B se adapta bien a tareas claras y repetidas y a conversaciones ágiles. Reserva espacio en el contexto para la respuesta y el historial útil de herramientas, y explicita el criterio de finalización. Para afirmaciones que dependan de fuentes, proporciona las pruebas pertinentes en lugar de esperar que el tamaño del modelo o un prompt largo establezcan por sí solos la corrección.
", "aboutText": "Command R7B es el modelo textual compacto de Cohere de diciembre de 2024. Su arquitectura de 7 mil millones de parámetros está diseñada para razonamiento, resumen, respuesta a preguntas, programación y asistencia empresarial. El fabricante también lo entrena para generación aumentada por recuperación y uso de varias herramientas a lo largo de múltiples pasos. Acepta texto y genera texto, con un contexto de 128K y una salida máxima de 4,000 tokens en el perfil publicado del productor.\n\n### Modelo y comportamiento de respuesta\n\nEl modelo utiliza un Transformer autorregresivo con ajuste fino supervisado y entrenamiento de preferencias. Su patrón de atención combina tres capas locales de ventana deslizante, que utilizan una ventana de 4,096 tokens con codificación de posición rotatoria, con una capa de atención global. Está entrenado en 23 idiomas, incluidos ruso, inglés y los idiomas indicados en la ficha exacta del modelo.\n\nEl productor distingue preámbulos conversacionales y de instrucciones. El uso conversacional añade comportamiento de diálogo, introducciones, preguntas de seguimiento y formatos como Markdown. El uso por instrucciones busca respuestas concisas pero completas para extracción, resumen, traducción y categorización, sin Markdown ni LaTeX de forma predeterminada. El modelo publicado se entrega sin un preámbulo de sistema, por lo que el fabricante recomienda proporcionar el adecuado para cada tarea.\n\nPara un flujo de clasificación, da las definiciones de las categorías e indica al modelo cómo tratar un elemento que no encaje en ninguna. Para una respuesta de soporte, proporciona la pregunta y el material aprobado del producto, y solicita una respuesta en el idioma del usuario. Una especificación clara de salida evita que los añadidos conversacionales se conviertan en campos accidentales de un registro de datos.\n\n### Respuestas a partir de documentos\n\nR7B está entrenado para el paso final de respuesta en la generación aumentada por recuperación. La plantilla del productor combina la conversación con fragmentos de documentos proporcionados. El fabricante recomienda fragmentos breves, normalmente de 100–400 palabras, representados con claves descriptivas cortas y valores textuales o semiestructurados. También recomienda evaluar si incluir los documentos pertinentes directamente en el mensaje del usuario funciona mejor para un caso de uso concreto.\n\nUna tarea ilustrativa es: «Utiliza estos pasajes identificados para responder a la pregunta, identifica el enunciado que respalda la respuesta y marca la información que los pasajes no contienen». Mantén intactos los encabezados y las unidades para que un dato extraído pueda comprobarse contra el material original. La aplicación recupera o proporciona los documentos; el modelo genera una respuesta a partir de ese contexto.\n\n### Herramientas y programación\n\nEl ejemplo de uso de herramientas del fabricante proporciona definiciones de funciones mediante esquemas JSON y conserva la llamada seleccionada, su plan y su resultado en la conversación. Cada resultado es un diccionario asociado al identificador de la llamada a herramienta correspondiente. Esto permite que la siguiente respuesta utilice la observación real. Por tanto, un asistente de programación puede abordar una tarea concreta cuando la aplicación que lo rodea proporciona herramientas adecuadas de inspección o validación.\n\nLa ficha del modelo destaca SQL y la traducción de código, junto con fragmentos, explicaciones y reescrituras. Proporciona el esquema, la entrada o el código fuente y el comportamiento que debe conservarse. El productor recomienda temperatura baja o decodificación voraz para generar código. Trata la sentencia generada como un artefacto propuesto hasta que se haya comprobado en su entorno previsto.\n\nLa función compacta de R7B se adapta bien a tareas claras y repetidas y a conversaciones ágiles. Reserva espacio en el contexto para la respuesta y el historial útil de herramientas, y explicita el criterio de finalización. Para afirmaciones que dependan de fuentes, proporciona las pruebas pertinentes en lugar de esperar que el tamaño del modelo o un prompt largo establezcan por sí solos la corrección.", "editorialOverlay": { "copy_fields": { "practical_html": "Ejemplo técnico en inglés
Answer from support snippets\n\nAnswer the customer using only these support snippets. [Returns] Unused items can be returned within 14 days of receipt. [Shipping] Return shipping is paid by the buyer unless the item is defective. Question: "My unused item arrived 10 days ago. Can I return it, and who pays postage?" Cite the relevant snippet names.A concise customer answer citing Returns and Shipping, including the defect exception.Ensure the answer uses receipt time and preserves the buyer-paid postage exception.cohere/command-r7b-12-2024Command R7B es el modelo textual compacto de 7B de Cohere para chat, extracción, asistencia de programación y agentes guiados por herramientas. La edición de diciembre de 2024 está entrenada en 23 idiomas, admite contexto de 128K y está diseñada para tareas empresariales concretas y ágiles con documentos o resultados de herramientas proporcionados.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Command R7B es el modelo textual compacto de Cohere de diciembre de 2024. Su arquitectura de 7 mil millones de parámetros está diseñada para razonamiento, resumen, respuesta a preguntas, programación y asistencia empresarial. El fabricante también lo entrena para generación aumentada por recuperación y uso de varias herramientas a lo largo de múltiples pasos. Acepta texto y genera texto, con un contexto de 128K y una salida máxima de 4,000 tokens en el perfil publicado del productor.
El modelo utiliza un Transformer autorregresivo con ajuste fino supervisado y entrenamiento de preferencias. Su patrón de atención combina tres capas locales de ventana deslizante, que utilizan una ventana de 4,096 tokens con codificación de posición rotatoria, con una capa de atención global. Está entrenado en 23 idiomas, incluidos ruso, inglés y los idiomas indicados en la ficha exacta del modelo.
El productor distingue preámbulos conversacionales y de instrucciones. El uso conversacional añade comportamiento de diálogo, introducciones, preguntas de seguimiento y formatos como Markdown. El uso por instrucciones busca respuestas concisas pero completas para extracción, resumen, traducción y categorización, sin Markdown ni LaTeX de forma predeterminada. El modelo publicado se entrega sin un preámbulo de sistema, por lo que el fabricante recomienda proporcionar el adecuado para cada tarea.
Para un flujo de clasificación, da las definiciones de las categorías e indica al modelo cómo tratar un elemento que no encaje en ninguna. Para una respuesta de soporte, proporciona la pregunta y el material aprobado del producto, y solicita una respuesta en el idioma del usuario. Una especificación clara de salida evita que los añadidos conversacionales se conviertan en campos accidentales de un registro de datos.
R7B está entrenado para el paso final de respuesta en la generación aumentada por recuperación. La plantilla del productor combina la conversación con fragmentos de documentos proporcionados. El fabricante recomienda fragmentos breves, normalmente de 100–400 palabras, representados con claves descriptivas cortas y valores textuales o semiestructurados. También recomienda evaluar si incluir los documentos pertinentes directamente en el mensaje del usuario funciona mejor para un caso de uso concreto.
Una tarea ilustrativa es: «Utiliza estos pasajes identificados para responder a la pregunta, identifica el enunciado que respalda la respuesta y marca la información que los pasajes no contienen». Mantén intactos los encabezados y las unidades para que un dato extraído pueda comprobarse contra el material original. La aplicación recupera o proporciona los documentos; el modelo genera una respuesta a partir de ese contexto.
El ejemplo de uso de herramientas del fabricante proporciona definiciones de funciones mediante esquemas JSON y conserva la llamada seleccionada, su plan y su resultado en la conversación. Cada resultado es un diccionario asociado al identificador de la llamada a herramienta correspondiente. Esto permite que la siguiente respuesta utilice la observación real. Por tanto, un asistente de programación puede abordar una tarea concreta cuando la aplicación que lo rodea proporciona herramientas adecuadas de inspección o validación.
La ficha del modelo destaca SQL y la traducción de código, junto con fragmentos, explicaciones y reescrituras. Proporciona el esquema, la entrada o el código fuente y el comportamiento que debe conservarse. El productor recomienda temperatura baja o decodificación voraz para generar código. Trata la sentencia generada como un artefacto propuesto hasta que se haya comprobado en su entorno previsto.
La función compacta de R7B se adapta bien a tareas claras y repetidas y a conversaciones ágiles. Reserva espacio en el contexto para la respuesta y el historial útil de herramientas, y explicita el criterio de finalización. Para afirmaciones que dependan de fuentes, proporciona las pruebas pertinentes en lugar de esperar que el tamaño del modelo o un prompt largo establezcan por sí solos la corrección.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites cohere/command-r7b-12-2024 | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites Número mínimo de elementos: 1 | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites Ejemplos: system, user, assistant, tool, function Condiciones: Estos roles están representados explícitamente por los tipos de compatibilidad del código fuente; el conjunto exacto de roles depende del modelo. Depende del modelo | Predeterminado— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_call_id | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: role=tool; utiliza el ID real devuelto | Predeterminado— |
Campomessages[].name | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].reasoning_content | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: Devuelve en los turnos siguientes el razonamiento realmente recibido cuando este modelo lo utilice | Predeterminado— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campomax_completion_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotemperature | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotop_p | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campostop | Tipostring|string[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools | Tipofunction_tool[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools[].type | Tipostring | RequisitoOpcional | Valores y límites function Depende del modelo | Predeterminado— |
Campotools[].function.name | Tipostring | RequisitoObligatorio | Valores y límites Se aplica cuando: herramienta de función proporcionada | Predeterminado— |
Campotools[].function.description | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotool_choice | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoparallel_tool_calls | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporesponse_format | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning_effort | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camposervice_tier | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoinstructions | Tipostring | RequisitoOpcional | Valores y límites Campo de compatibilidad | Predeterminado— |
Campofunctions | Tipofunction[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campofunction_call | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoprompt_cache_options | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomodalities | Tipostring[] | RequisitoOpcional | Valores y límites text | Predeterminado— |
Campoprovider | Tipoobject | RequisitoOpcional | Valores y límites Condiciones: provider.options se rechaza en esta ruta de texto Ultra | Predeterminado— |
Campocache_control.ttl | Tipostring | RequisitoOpcional | Valores y límites Condiciones: 1h se rechaza en los campos reales de caché de instrucciones | Predeterminado— |
Texto · Texto UTF8
messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages |
Parámetromaterial_types | Contratotext |
Parámetromessages | Contratomatriz de mensajes con estructura role/content |
Parámetrofile_material | Contratodocumento real en UTF-8 insertado como texto literal; no se deduce ningún ID de archivo |
Parámetrooptional_controls | Contratostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parámetrocontrol_scope | Contratodepende del modelo; las herramientas de funciones del usuario difieren de las herramientas alojadas |
Parámetrooutput_modalities | Contratotext |
Parámetrohosted_operations | Contratofalse |
Parámetromultimodal_input_binding | Contratonull |
Ciclo de vida: synchronous_or_streamed
Envía el ID exacto del modelo junto con messages.
La longitud del contexto no es un límite máximo de salida.
Un archivo de texto puede aportar texto literal; las entradas de imagen, audio u objetos de archivo requieren una vinculación exacta.
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas.
| Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo |
|---|---|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.000075 / 1K tokens Salida · Tokens de salida $0.0003 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
| ConfiguraciónTramo 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.000075 / 1K tokens Salida · Tokens de salida $0.0003 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un importe estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "cohere/command-r7b-12-2024", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='cohere/command-r7b-12-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='cohere/command-r7b-12-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva cada alternativa y su contenido, llamadas de herramientas y razonamiento. En SSE, ensambla los fragmentos incrementales por índice de alternativa/herramienta y conserva el motivo final de terminación y el uso.
Conserva los ID de solicitud y respuesta y las cabeceras. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra cohere/command-r7b-12-2024
Usa las rutas de método indicadas arriba.
cohere/command-r7b-12-2024Command R7B es el modelo textual compacto de 7B de Cohere para chat, extracción, asistencia de programación y agentes guiados por herramientas. La edición de diciembre de 2024 está entrenada en 23 idiomas, admite contexto de 128K y está diseñada para tareas empresariales concretas y ágiles con documentos o resultados de herramientas proporcionados.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Command R7B es el modelo textual compacto de Cohere de diciembre de 2024. Su arquitectura de 7 mil millones de parámetros está diseñada para razonamiento, resumen, respuesta a preguntas, programación y asistencia empresarial. El fabricante también lo entrena para generación aumentada por recuperación y uso de varias herramientas a lo largo de múltiples pasos. Acepta texto y genera texto, con un contexto de 128K y una salida máxima de 4,000 tokens en el perfil publicado del productor.
El modelo utiliza un Transformer autorregresivo con ajuste fino supervisado y entrenamiento de preferencias. Su patrón de atención combina tres capas locales de ventana deslizante, que utilizan una ventana de 4,096 tokens con codificación de posición rotatoria, con una capa de atención global. Está entrenado en 23 idiomas, incluidos ruso, inglés y los idiomas indicados en la ficha exacta del modelo.
El productor distingue preámbulos conversacionales y de instrucciones. El uso conversacional añade comportamiento de diálogo, introducciones, preguntas de seguimiento y formatos como Markdown. El uso por instrucciones busca respuestas concisas pero completas para extracción, resumen, traducción y categorización, sin Markdown ni LaTeX de forma predeterminada. El modelo publicado se entrega sin un preámbulo de sistema, por lo que el fabricante recomienda proporcionar el adecuado para cada tarea.
Para un flujo de clasificación, da las definiciones de las categorías e indica al modelo cómo tratar un elemento que no encaje en ninguna. Para una respuesta de soporte, proporciona la pregunta y el material aprobado del producto, y solicita una respuesta en el idioma del usuario. Una especificación clara de salida evita que los añadidos conversacionales se conviertan en campos accidentales de un registro de datos.
R7B está entrenado para el paso final de respuesta en la generación aumentada por recuperación. La plantilla del productor combina la conversación con fragmentos de documentos proporcionados. El fabricante recomienda fragmentos breves, normalmente de 100–400 palabras, representados con claves descriptivas cortas y valores textuales o semiestructurados. También recomienda evaluar si incluir los documentos pertinentes directamente en el mensaje del usuario funciona mejor para un caso de uso concreto.
Una tarea ilustrativa es: «Utiliza estos pasajes identificados para responder a la pregunta, identifica el enunciado que respalda la respuesta y marca la información que los pasajes no contienen». Mantén intactos los encabezados y las unidades para que un dato extraído pueda comprobarse contra el material original. La aplicación recupera o proporciona los documentos; el modelo genera una respuesta a partir de ese contexto.
El ejemplo de uso de herramientas del fabricante proporciona definiciones de funciones mediante esquemas JSON y conserva la llamada seleccionada, su plan y su resultado en la conversación. Cada resultado es un diccionario asociado al identificador de la llamada a herramienta correspondiente. Esto permite que la siguiente respuesta utilice la observación real. Por tanto, un asistente de programación puede abordar una tarea concreta cuando la aplicación que lo rodea proporciona herramientas adecuadas de inspección o validación.
La ficha del modelo destaca SQL y la traducción de código, junto con fragmentos, explicaciones y reescrituras. Proporciona el esquema, la entrada o el código fuente y el comportamiento que debe conservarse. El productor recomienda temperatura baja o decodificación voraz para generar código. Trata la sentencia generada como un artefacto propuesto hasta que se haya comprobado en su entorno previsto.
La función compacta de R7B se adapta bien a tareas claras y repetidas y a conversaciones ágiles. Reserva espacio en el contexto para la respuesta y el historial útil de herramientas, y explicita el criterio de finalización. Para afirmaciones que dependan de fuentes, proporciona las pruebas pertinentes en lugar de esperar que el tamaño del modelo o un prompt largo establezcan por sí solos la corrección.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites cohere/command-r7b-12-2024 | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites user, assistant | Predeterminado— |
Campomessages[].content | Tipostring | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Texto · Texto UTF-8
cadena messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages, max_tokens |
Parámetrooptional_controls | Contratostream |
Parámetromaterial_types | Contratotext |
Parámetrotext_file_material | ContratoLee el documento real en UTF-8 y coloca su texto en el campo input indicado o en la cadena de contenido del mensaje. |
Ciclo de vida: synchronous_or_streamed
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas.
| Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo |
|---|---|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.000075 / 1K tokens Salida · Tokens de salida $0.0003 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
| ConfiguraciónTramo 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.000075 / 1K tokens Salida · Tokens de salida $0.0003 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un importe estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
{\n "model": "cohere/command-r7b-12-2024",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r7b-12-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r7b-12-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva todos los bloques de contenido, las firmas de razonamiento y los ID reales de uso de herramientas. Ensambla todos los fragmentos incrementales de los bloques SSE; el primer bloque de texto no constituye la salida completa.
Conserva los ID de solicitud y respuesta y las cabeceras. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra cohere/command-r7b-12-2024
Usa las rutas de método indicadas arriba.
Ejemplo técnico en inglés
Answer from support snippets\n\nAnswer the customer using only these support snippets. [Returns] Unused items can be returned within 14 days of receipt. [Shipping] Return shipping is paid by the buyer unless the item is defective. Question: "My unused item arrived 10 days ago. Can I return it, and who pays postage?" Cite the relevant snippet names.A concise customer answer citing Returns and Shipping, including the defect exception.Ensure the answer uses receipt time and preserves the buyer-paid postage exception.