Mistral Nemo Instruct 2407 es la edición ajustada a instrucciones del modelo de lenguaje Mistral Nemo de 12B. Se obtiene mediante ajuste fino del modelo Nemo Base 2407, que tiene un nombre propio. El fabricante describe un entrenamiento con una gran proporción de material multilingüe y código y una ventana de contexto de 128k tokens, que permite instrucciones escritas, conversación y tareas de programación.
Características principales y arquitectura
La versión ofrece ediciones preentrenadas y ajustadas a instrucciones distintas. Esta entrada corresponde al modelo Instruct: una petición de texto puede solicitar una explicación, un documento revisado, código de programa o una llamada de función propuesta. Su ajuste a instrucciones se describe como una mejora del seguimiento preciso de instrucciones, el razonamiento, el diálogo de varios turnos y la generación de código frente a la línea Mistral 7B anterior.
El modelo tiene 40 capas Transformer y una anchura de modelo de 5.120. Utiliza SwiGLU, 32 cabezas de atención y 8 cabezas de clave/valor en atención de consultas agrupadas, con una dimensión de cabeza de 128 y una dimensión oculta de 14.336. Los embeddings rotatorios utilizan un valor theta de un millón. El vocabulario publicado contiene 2 elevado a 17 entradas, es decir, 131.072; el tamaño del vocabulario es distinto de la etiqueta de contexto de tarea de 128k.
El anuncio del fabricante también describe entrenamiento consciente de la cuantización e inferencia FP8. Son características de la versión y de su precisión, no modalidades de contenido adicionales. Conserva el modelo entrenado exacto y su tokenizador correspondiente en vez de tratar otro modelo de 12B o de la familia Mistral como la misma edición.
Texto multilingüe y Tekken
La versión destaca inglés, francés, alemán, español, italiano, portugués, chino, japonés, coreano, árabe e hindi; el ruso también figura en los metadatos de idiomas de la ficha. Establece el idioma final, el público y la terminología antes de pedir el resultado. Para una tarea documental multilingüe, conserva nombres, identificadores y unidades al adaptar el resto del texto.
Nemo utiliza el tokenizador Tekken, entrenado con más de 100 idiomas y diseñado para representar eficazmente lenguaje natural y código fuente. El tokenizador determina cómo ocupa contexto el material de origen; por tanto, contar caracteres no equivale a contar tokens. Utiliza el tokenizador correspondiente y mantén junto el material relevante para la tarea en vez de estimar el contexto solo por la longitud visible de un pasaje.
Preparación de instrucciones y código
Para explicar un documento, proporciona el pasaje original e identifica la condición o el término que debe explicarse. Pide la explicación en el idioma del lector, conservando los nombres originales y la afirmación de la fuente que respalda la respuesta. Para editar, especifica qué significado y condiciones deben mantenerse tras la reescritura y si el resultado debe ser únicamente el pasaje revisado o también una explicación.
Para programación, indica el lenguaje, los tipos de entrada, la salida esperada y la interfaz existente. Incluye la función o las declaraciones que determinan el cambio. Un resultado útil puede contener la implementación, sus supuestos y entradas de ejemplo con las salidas esperadas. Otra pregunta puede pedir al modelo que siga una entrada a través del código suministrado para que la explicación se refiera a un recorrido concreto en lugar de un programa sin especificar.
Para una conversación de varios turnos, conserva la respuesta anterior pertinente y plantea una continuación acotada o aporta material nuevo que cambie la tarea. Define si la siguiente respuesta debe revisar el artefacto anterior, explicar una decisión o producir otra representación de los mismos hechos de origen. Esto hace explícita la continuación de la conversación.
Llamadas de función y muestreo
El fabricante documenta las llamadas de función utilizando el formato de conversación correspondiente. El modelo genera la operación propuesta y sus argumentos; la aplicación ejecuta la función e incorpora su resultado a la conversación antes de la siguiente generación. La ficha señala expresamente que un ejemplo de código abreviado no muestra el ciclo completo, por lo que los pasos de ejecución y devolución del resultado siguen siendo partes necesarias de una aplicación asistida por herramientas.
En ese formato de herramientas publicado, los identificadores de llamada y los de sus resultados correspondientes tienen exactamente nueve caracteres alfanuméricos. Conserva la asociación entre la operación y su resultado al preparar la conversación en formato nativo. Una interfaz envolvente puede representar la conversación de otra manera; el requisito de la versión describe el formato del modelo del fabricante y no un identificador universal de cliente inventado.
El fabricante recomienda una temperatura de 0.3 y señala que Nemo utiliza temperaturas más bajas que los modelos Mistral anteriores. Los distintos valores de 64, 128, 256 y 1.000 tokens mostrados en los ejemplos son opciones de generación para esas demostraciones, no capacidades máximas de respuesta publicadas de forma independiente.
Límites relevantes
La ficha Instruct describe este modelo entrenado como una demostración de ajuste fino del modelo base e indica expresamente que no contiene un mecanismo de moderación. Las aplicaciones que necesiten un comportamiento moderado deben proporcionarlo en el sistema que lo rodea. Esta propiedad corresponde al modelo publicado y no constituye una afirmación sobre todos los servicios que alojan un modelo Nemo.
La tarea documentada aquí para Nemo es la generación de texto, con su propio contexto de 128k y formato de conversación. No deben atribuirse a esta edición la comprensión de imágenes, la transcripción de voz ni los controles de razonamiento híbrido de familias Mistral posteriores. Proporciona la condición escrita completa, el material original pertinente y el artefacto final requerido para que el resultado siga siendo útil como explicación, texto revisado o implementación propuesta.
", "aboutText": "Mistral Nemo Instruct 2407 es la edición ajustada a instrucciones del modelo de lenguaje Mistral Nemo de 12B. Se obtiene mediante ajuste fino del modelo Nemo Base 2407, que tiene un nombre propio. El fabricante describe un entrenamiento con una gran proporción de material multilingüe y código y una ventana de contexto de 128k tokens, que permite instrucciones escritas, conversación y tareas de programación.\n\nCaracterísticas principales y arquitectura\n\nLa versión ofrece ediciones preentrenadas y ajustadas a instrucciones distintas. Esta entrada corresponde al modelo Instruct: una petición de texto puede solicitar una explicación, un documento revisado, código de programa o una llamada de función propuesta. Su ajuste a instrucciones se describe como una mejora del seguimiento preciso de instrucciones, el razonamiento, el diálogo de varios turnos y la generación de código frente a la línea Mistral 7B anterior.\n\nEl modelo tiene 40 capas Transformer y una anchura de modelo de 5.120. Utiliza SwiGLU, 32 cabezas de atención y 8 cabezas de clave/valor en atención de consultas agrupadas, con una dimensión de cabeza de 128 y una dimensión oculta de 14.336. Los embeddings rotatorios utilizan un valor theta de un millón. El vocabulario publicado contiene 2 elevado a 17 entradas, es decir, 131.072; el tamaño del vocabulario es distinto de la etiqueta de contexto de tarea de 128k.\n\nEl anuncio del fabricante también describe entrenamiento consciente de la cuantización e inferencia FP8. Son características de la versión y de su precisión, no modalidades de contenido adicionales. Conserva el modelo entrenado exacto y su tokenizador correspondiente en vez de tratar otro modelo de 12B o de la familia Mistral como la misma edición.\n\nTexto multilingüe y Tekken\n\nLa versión destaca inglés, francés, alemán, español, italiano, portugués, chino, japonés, coreano, árabe e hindi; el ruso también figura en los metadatos de idiomas de la ficha. Establece el idioma final, el público y la terminología antes de pedir el resultado. Para una tarea documental multilingüe, conserva nombres, identificadores y unidades al adaptar el resto del texto.\n\nNemo utiliza el tokenizador Tekken, entrenado con más de 100 idiomas y diseñado para representar eficazmente lenguaje natural y código fuente. El tokenizador determina cómo ocupa contexto el material de origen; por tanto, contar caracteres no equivale a contar tokens. Utiliza el tokenizador correspondiente y mantén junto el material relevante para la tarea en vez de estimar el contexto solo por la longitud visible de un pasaje.\n\nPreparación de instrucciones y código\n\nPara explicar un documento, proporciona el pasaje original e identifica la condición o el término que debe explicarse. Pide la explicación en el idioma del lector, conservando los nombres originales y la afirmación de la fuente que respalda la respuesta. Para editar, especifica qué significado y condiciones deben mantenerse tras la reescritura y si el resultado debe ser únicamente el pasaje revisado o también una explicación.\n\nPara programación, indica el lenguaje, los tipos de entrada, la salida esperada y la interfaz existente. Incluye la función o las declaraciones que determinan el cambio. Un resultado útil puede contener la implementación, sus supuestos y entradas de ejemplo con las salidas esperadas. Otra pregunta puede pedir al modelo que siga una entrada a través del código suministrado para que la explicación se refiera a un recorrido concreto en lugar de un programa sin especificar.\n\nPara una conversación de varios turnos, conserva la respuesta anterior pertinente y plantea una continuación acotada o aporta material nuevo que cambie la tarea. Define si la siguiente respuesta debe revisar el artefacto anterior, explicar una decisión o producir otra representación de los mismos hechos de origen. Esto hace explícita la continuación de la conversación.\n\nLlamadas de función y muestreo\n\nEl fabricante documenta las llamadas de función utilizando el formato de conversación correspondiente. El modelo genera la operación propuesta y sus argumentos; la aplicación ejecuta la función e incorpora su resultado a la conversación antes de la siguiente generación. La ficha señala expresamente que un ejemplo de código abreviado no muestra el ciclo completo, por lo que los pasos de ejecución y devolución del resultado siguen siendo partes necesarias de una aplicación asistida por herramientas.\n\nEn ese formato de herramientas publicado, los identificadores de llamada y los de sus resultados correspondientes tienen exactamente nueve caracteres alfanuméricos. Conserva la asociación entre la operación y su resultado al preparar la conversación en formato nativo. Una interfaz envolvente puede representar la conversación de otra manera; el requisito de la versión describe el formato del modelo del fabricante y no un identificador universal de cliente inventado.\n\nEl fabricante recomienda una temperatura de 0.3 y señala que Nemo utiliza temperaturas más bajas que los modelos Mistral anteriores. Los distintos valores de 64, 128, 256 y 1.000 tokens mostrados en los ejemplos son opciones de generación para esas demostraciones, no capacidades máximas de respuesta publicadas de forma independiente.\n\nLímites relevantes\n\nLa ficha Instruct describe este modelo entrenado como una demostración de ajuste fino del modelo base e indica expresamente que no contiene un mecanismo de moderación. Las aplicaciones que necesiten un comportamiento moderado deben proporcionarlo en el sistema que lo rodea. Esta propiedad corresponde al modelo publicado y no constituye una afirmación sobre todos los servicios que alojan un modelo Nemo.\n\nLa tarea documentada aquí para Nemo es la generación de texto, con su propio contexto de 128k y formato de conversación. No deben atribuirse a esta edición la comprensión de imágenes, la transcripción de voz ni los controles de razonamiento híbrido de familias Mistral posteriores. Proporciona la condición escrita completa, el material original pertinente y el artefacto final requerido para que el resultado siga siendo útil como explicación, texto revisado o implementación propuesta.", "editorialOverlay": { "copy_fields": { "practical_html": "Ejemplo técnico en inglés
Trace and repair a loop boundary\n\nTrace this Python function for n=3, then correct it to sum integers from 1 through n inclusively: def total(n): return sum(range(1, n)). Inputs are nonnegative integers. Preserve the total(n) interface. Return the corrected function and examples for n=0, n=1 and n=3, with expected outputs.A concise trace, a corrected function and three input/output examples.Check that n=0 remains zero and that the upper endpoint n is included for positive inputs.mistralai/mistral-nemoMistral Nemo Instruct 2407 es un modelo de texto multilingüe de 12 mil millones de parámetros para instrucciones precisas, conversación de varios turnos y código. Cuenta con un contexto de 128k según el fabricante, un tokenizador Tekken, llamadas a funciones documentadas y un punto de control diferenciado ajustado para instrucciones con sus propias recomendaciones de muestreo.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Mistral Nemo Instruct 2407 es la edición ajustada a instrucciones del modelo de lenguaje Mistral Nemo de 12B. Se obtiene mediante ajuste fino del modelo Nemo Base 2407, que tiene un nombre propio. El fabricante describe un entrenamiento con una gran proporción de material multilingüe y código y una ventana de contexto de 128k tokens, que permite instrucciones escritas, conversación y tareas de programación.
Características principales y arquitectura
La versión ofrece ediciones preentrenadas y ajustadas a instrucciones distintas. Esta entrada corresponde al modelo Instruct: una petición de texto puede solicitar una explicación, un documento revisado, código de programa o una llamada de función propuesta. Su ajuste a instrucciones se describe como una mejora del seguimiento preciso de instrucciones, el razonamiento, el diálogo de varios turnos y la generación de código frente a la línea Mistral 7B anterior.
El modelo tiene 40 capas Transformer y una anchura de modelo de 5.120. Utiliza SwiGLU, 32 cabezas de atención y 8 cabezas de clave/valor en atención de consultas agrupadas, con una dimensión de cabeza de 128 y una dimensión oculta de 14.336. Los embeddings rotatorios utilizan un valor theta de un millón. El vocabulario publicado contiene 2 elevado a 17 entradas, es decir, 131.072; el tamaño del vocabulario es distinto de la etiqueta de contexto de tarea de 128k.
El anuncio del fabricante también describe entrenamiento consciente de la cuantización e inferencia FP8. Son características de la versión y de su precisión, no modalidades de contenido adicionales. Conserva el modelo entrenado exacto y su tokenizador correspondiente en vez de tratar otro modelo de 12B o de la familia Mistral como la misma edición.
Texto multilingüe y Tekken
La versión destaca inglés, francés, alemán, español, italiano, portugués, chino, japonés, coreano, árabe e hindi; el ruso también figura en los metadatos de idiomas de la ficha. Establece el idioma final, el público y la terminología antes de pedir el resultado. Para una tarea documental multilingüe, conserva nombres, identificadores y unidades al adaptar el resto del texto.
Nemo utiliza el tokenizador Tekken, entrenado con más de 100 idiomas y diseñado para representar eficazmente lenguaje natural y código fuente. El tokenizador determina cómo ocupa contexto el material de origen; por tanto, contar caracteres no equivale a contar tokens. Utiliza el tokenizador correspondiente y mantén junto el material relevante para la tarea en vez de estimar el contexto solo por la longitud visible de un pasaje.
Preparación de instrucciones y código
Para explicar un documento, proporciona el pasaje original e identifica la condición o el término que debe explicarse. Pide la explicación en el idioma del lector, conservando los nombres originales y la afirmación de la fuente que respalda la respuesta. Para editar, especifica qué significado y condiciones deben mantenerse tras la reescritura y si el resultado debe ser únicamente el pasaje revisado o también una explicación.
Para programación, indica el lenguaje, los tipos de entrada, la salida esperada y la interfaz existente. Incluye la función o las declaraciones que determinan el cambio. Un resultado útil puede contener la implementación, sus supuestos y entradas de ejemplo con las salidas esperadas. Otra pregunta puede pedir al modelo que siga una entrada a través del código suministrado para que la explicación se refiera a un recorrido concreto en lugar de un programa sin especificar.
Para una conversación de varios turnos, conserva la respuesta anterior pertinente y plantea una continuación acotada o aporta material nuevo que cambie la tarea. Define si la siguiente respuesta debe revisar el artefacto anterior, explicar una decisión o producir otra representación de los mismos hechos de origen. Esto hace explícita la continuación de la conversación.
Llamadas de función y muestreo
El fabricante documenta las llamadas de función utilizando el formato de conversación correspondiente. El modelo genera la operación propuesta y sus argumentos; la aplicación ejecuta la función e incorpora su resultado a la conversación antes de la siguiente generación. La ficha señala expresamente que un ejemplo de código abreviado no muestra el ciclo completo, por lo que los pasos de ejecución y devolución del resultado siguen siendo partes necesarias de una aplicación asistida por herramientas.
En ese formato de herramientas publicado, los identificadores de llamada y los de sus resultados correspondientes tienen exactamente nueve caracteres alfanuméricos. Conserva la asociación entre la operación y su resultado al preparar la conversación en formato nativo. Una interfaz envolvente puede representar la conversación de otra manera; el requisito de la versión describe el formato del modelo del fabricante y no un identificador universal de cliente inventado.
El fabricante recomienda una temperatura de 0.3 y señala que Nemo utiliza temperaturas más bajas que los modelos Mistral anteriores. Los distintos valores de 64, 128, 256 y 1.000 tokens mostrados en los ejemplos son opciones de generación para esas demostraciones, no capacidades máximas de respuesta publicadas de forma independiente.
Límites relevantes
La ficha Instruct describe este modelo entrenado como una demostración de ajuste fino del modelo base e indica expresamente que no contiene un mecanismo de moderación. Las aplicaciones que necesiten un comportamiento moderado deben proporcionarlo en el sistema que lo rodea. Esta propiedad corresponde al modelo publicado y no constituye una afirmación sobre todos los servicios que alojan un modelo Nemo.
La tarea documentada aquí para Nemo es la generación de texto, con su propio contexto de 128k y formato de conversación. No deben atribuirse a esta edición la comprensión de imágenes, la transcripción de voz ni los controles de razonamiento híbrido de familias Mistral posteriores. Proporciona la condición escrita completa, el material original pertinente y el artefacto final requerido para que el resultado siga siendo útil como explicación, texto revisado o implementación propuesta.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites mistralai/mistral-nemo | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites Número mínimo de elementos: 1 | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites Ejemplos: system, user, assistant, tool, function Condiciones: Estos roles están representados explícitamente por los tipos de compatibilidad del código fuente; el conjunto exacto de roles depende del modelo. Depende del modelo | Predeterminado— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_call_id | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: role=tool; utiliza el ID real devuelto | Predeterminado— |
Campomessages[].name | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].reasoning_content | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: Devuelve en los turnos siguientes el razonamiento realmente recibido cuando este modelo lo utilice | Predeterminado— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campomax_completion_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotemperature | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotop_p | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campostop | Tipostring|string[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools | Tipofunction_tool[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools[].type | Tipostring | RequisitoOpcional | Valores y límites function Depende del modelo | Predeterminado— |
Campotools[].function.name | Tipostring | RequisitoObligatorio | Valores y límites Se aplica cuando: herramienta de función proporcionada | Predeterminado— |
Campotools[].function.description | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotool_choice | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoparallel_tool_calls | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporesponse_format | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning_effort | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camposervice_tier | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoinstructions | Tipostring | RequisitoOpcional | Valores y límites Campo de compatibilidad | Predeterminado— |
Campofunctions | Tipofunction[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campofunction_call | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoprompt_cache_options | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomodalities | Tipostring[] | RequisitoOpcional | Valores y límites text | Predeterminado— |
Campoprovider | Tipoobject | RequisitoOpcional | Valores y límites Condiciones: provider.options se rechaza en esta ruta de texto Ultra | Predeterminado— |
Campocache_control.ttl | Tipostring | RequisitoOpcional | Valores y límites Condiciones: 1h se rechaza en los campos reales de caché de instrucciones | Predeterminado— |
Texto · Texto UTF8
messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages |
Parámetromaterial_types | Contratotext |
Parámetromessages | Contratomatriz de mensajes con estructura role/content |
Parámetrofile_material | Contratodocumento real en UTF-8 insertado como texto literal; no se deduce ningún ID de archivo |
Parámetrooptional_controls | Contratostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parámetrocontrol_scope | Contratodepende del modelo; las herramientas de funciones del usuario difieren de las herramientas alojadas |
Parámetrooutput_modalities | Contratotext |
Parámetrohosted_operations | Contratofalse |
Parámetromultimodal_input_binding | Contratonull |
Ciclo de vida: synchronous_or_streamed
Envía el ID exacto del modelo junto con messages.
La longitud del contexto no es un límite máximo de salida.
Un archivo de texto puede aportar texto literal; las entradas de imagen, audio u objetos de archivo requieren una vinculación exacta.
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas.
| Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo |
|---|---|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.0003 / 1K tokens Salida · Tokens de salida $0.0003 / 1K tokens Entrada · Lectura de caché $0.00003 / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
| ConfiguraciónTramo 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.0003 / 1K tokens Salida · Tokens de salida $0.0003 / 1K tokens Entrada · Lectura de caché $0.00003 / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un importe estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "mistralai/mistral-nemo", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='mistralai/mistral-nemo',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='mistralai/mistral-nemo',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva cada alternativa y su contenido, llamadas de herramientas y razonamiento. En SSE, ensambla los fragmentos incrementales por índice de alternativa/herramienta y conserva el motivo final de terminación y el uso.
Conserva los ID de solicitud y respuesta y las cabeceras. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra mistralai/mistral-nemo
Usa las rutas de método indicadas arriba.
mistralai/mistral-nemoMistral Nemo Instruct 2407 es un modelo de texto multilingüe de 12 mil millones de parámetros para instrucciones precisas, conversación de varios turnos y código. Cuenta con un contexto de 128k según el fabricante, un tokenizador Tekken, llamadas a funciones documentadas y un punto de control diferenciado ajustado para instrucciones con sus propias recomendaciones de muestreo.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Mistral Nemo Instruct 2407 es la edición ajustada a instrucciones del modelo de lenguaje Mistral Nemo de 12B. Se obtiene mediante ajuste fino del modelo Nemo Base 2407, que tiene un nombre propio. El fabricante describe un entrenamiento con una gran proporción de material multilingüe y código y una ventana de contexto de 128k tokens, que permite instrucciones escritas, conversación y tareas de programación.
Características principales y arquitectura
La versión ofrece ediciones preentrenadas y ajustadas a instrucciones distintas. Esta entrada corresponde al modelo Instruct: una petición de texto puede solicitar una explicación, un documento revisado, código de programa o una llamada de función propuesta. Su ajuste a instrucciones se describe como una mejora del seguimiento preciso de instrucciones, el razonamiento, el diálogo de varios turnos y la generación de código frente a la línea Mistral 7B anterior.
El modelo tiene 40 capas Transformer y una anchura de modelo de 5.120. Utiliza SwiGLU, 32 cabezas de atención y 8 cabezas de clave/valor en atención de consultas agrupadas, con una dimensión de cabeza de 128 y una dimensión oculta de 14.336. Los embeddings rotatorios utilizan un valor theta de un millón. El vocabulario publicado contiene 2 elevado a 17 entradas, es decir, 131.072; el tamaño del vocabulario es distinto de la etiqueta de contexto de tarea de 128k.
El anuncio del fabricante también describe entrenamiento consciente de la cuantización e inferencia FP8. Son características de la versión y de su precisión, no modalidades de contenido adicionales. Conserva el modelo entrenado exacto y su tokenizador correspondiente en vez de tratar otro modelo de 12B o de la familia Mistral como la misma edición.
Texto multilingüe y Tekken
La versión destaca inglés, francés, alemán, español, italiano, portugués, chino, japonés, coreano, árabe e hindi; el ruso también figura en los metadatos de idiomas de la ficha. Establece el idioma final, el público y la terminología antes de pedir el resultado. Para una tarea documental multilingüe, conserva nombres, identificadores y unidades al adaptar el resto del texto.
Nemo utiliza el tokenizador Tekken, entrenado con más de 100 idiomas y diseñado para representar eficazmente lenguaje natural y código fuente. El tokenizador determina cómo ocupa contexto el material de origen; por tanto, contar caracteres no equivale a contar tokens. Utiliza el tokenizador correspondiente y mantén junto el material relevante para la tarea en vez de estimar el contexto solo por la longitud visible de un pasaje.
Preparación de instrucciones y código
Para explicar un documento, proporciona el pasaje original e identifica la condición o el término que debe explicarse. Pide la explicación en el idioma del lector, conservando los nombres originales y la afirmación de la fuente que respalda la respuesta. Para editar, especifica qué significado y condiciones deben mantenerse tras la reescritura y si el resultado debe ser únicamente el pasaje revisado o también una explicación.
Para programación, indica el lenguaje, los tipos de entrada, la salida esperada y la interfaz existente. Incluye la función o las declaraciones que determinan el cambio. Un resultado útil puede contener la implementación, sus supuestos y entradas de ejemplo con las salidas esperadas. Otra pregunta puede pedir al modelo que siga una entrada a través del código suministrado para que la explicación se refiera a un recorrido concreto en lugar de un programa sin especificar.
Para una conversación de varios turnos, conserva la respuesta anterior pertinente y plantea una continuación acotada o aporta material nuevo que cambie la tarea. Define si la siguiente respuesta debe revisar el artefacto anterior, explicar una decisión o producir otra representación de los mismos hechos de origen. Esto hace explícita la continuación de la conversación.
Llamadas de función y muestreo
El fabricante documenta las llamadas de función utilizando el formato de conversación correspondiente. El modelo genera la operación propuesta y sus argumentos; la aplicación ejecuta la función e incorpora su resultado a la conversación antes de la siguiente generación. La ficha señala expresamente que un ejemplo de código abreviado no muestra el ciclo completo, por lo que los pasos de ejecución y devolución del resultado siguen siendo partes necesarias de una aplicación asistida por herramientas.
En ese formato de herramientas publicado, los identificadores de llamada y los de sus resultados correspondientes tienen exactamente nueve caracteres alfanuméricos. Conserva la asociación entre la operación y su resultado al preparar la conversación en formato nativo. Una interfaz envolvente puede representar la conversación de otra manera; el requisito de la versión describe el formato del modelo del fabricante y no un identificador universal de cliente inventado.
El fabricante recomienda una temperatura de 0.3 y señala que Nemo utiliza temperaturas más bajas que los modelos Mistral anteriores. Los distintos valores de 64, 128, 256 y 1.000 tokens mostrados en los ejemplos son opciones de generación para esas demostraciones, no capacidades máximas de respuesta publicadas de forma independiente.
Límites relevantes
La ficha Instruct describe este modelo entrenado como una demostración de ajuste fino del modelo base e indica expresamente que no contiene un mecanismo de moderación. Las aplicaciones que necesiten un comportamiento moderado deben proporcionarlo en el sistema que lo rodea. Esta propiedad corresponde al modelo publicado y no constituye una afirmación sobre todos los servicios que alojan un modelo Nemo.
La tarea documentada aquí para Nemo es la generación de texto, con su propio contexto de 128k y formato de conversación. No deben atribuirse a esta edición la comprensión de imágenes, la transcripción de voz ni los controles de razonamiento híbrido de familias Mistral posteriores. Proporciona la condición escrita completa, el material original pertinente y el artefacto final requerido para que el resultado siga siendo útil como explicación, texto revisado o implementación propuesta.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites mistralai/mistral-nemo | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites user, assistant | Predeterminado— |
Campomessages[].content | Tipostring | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Texto · Texto UTF-8
cadena messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages, max_tokens |
Parámetrooptional_controls | Contratostream |
Parámetromaterial_types | Contratotext |
Parámetrotext_file_material | ContratoLee el documento real en UTF-8 y coloca su texto en el campo input indicado o en la cadena de contenido del mensaje. |
Ciclo de vida: synchronous_or_streamed
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas.
| Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo |
|---|---|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.0003 / 1K tokens Salida · Tokens de salida $0.0003 / 1K tokens Entrada · Lectura de caché $0.00003 / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
| ConfiguraciónTramo 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.0003 / 1K tokens Salida · Tokens de salida $0.0003 / 1K tokens Entrada · Lectura de caché $0.00003 / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un importe estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
{\n "model": "mistralai/mistral-nemo",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mistral-nemo', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mistral-nemo', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva todos los bloques de contenido, las firmas de razonamiento y los ID reales de uso de herramientas. Ensambla todos los fragmentos incrementales de los bloques SSE; el primer bloque de texto no constituye la salida completa.
Conserva los ID de solicitud y respuesta y las cabeceras. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra mistralai/mistral-nemo
Usa las rutas de método indicadas arriba.
Ejemplo técnico en inglés
Trace and repair a loop boundary\n\nTrace this Python function for n=3, then correct it to sum integers from 1 through n inclusively: def total(n): return sum(range(1, n)). Inputs are nonnegative integers. Preserve the total(n) interface. Return the corrected function and examples for n=0, n=1 and n=3, with expected outputs.A concise trace, a corrected function and three input/output examples.Check that n=0 remains zero and that the upper endpoint n is included for positive inputs.