Hunyuan A13B Instruct es el modelo de lenguaje de mezcla de expertos de Tencent ajustado para seguir instrucciones en tareas generales de texto y razonamiento. Su productor especifica 80 mil millones de parámetros totales, con 13B de parámetros activos. La atención de consultas agrupadas y la activación dispersa forman parte de su diseño de eficiencia. Se mantiene separado del modelo base preentrenado y de los artefactos instruct cuantizados publicados por separado.
El razonamiento híbrido es una función explícita de esta edición. El razonamiento lento es el predeterminado y produce una etapa de razonamiento antes de la respuesta final. El razonamiento rápido omite esa etapa y devuelve la respuesta directamente. Las convenciones de prompts y plantillas de chat del fabricante permiten elegir entre esos comportamientos; no definen una escala de esfuerzo low, medium, high y xhigh.
El productor describe un contexto completo de 256K, o 262,144 tokens, mientras que su configuración predeterminada limita el contexto a 32K para reducir la presión sobre la memoria. Habilitar el contexto completo requiere la configuración adecuada del modelo y del servicio de inferencia. Su despliegue recomendado para contexto largo usa cuatro dispositivos de 96 GB con el modelo y la caché en bfloat16, y señala que una caché FP8 puede afectar la calidad de generación. Son condiciones de despliegue del productor, no una promesa sobre una ruta de modelo específica.
Para razonar sobre documentos largos, proporciona el material pertinente y define la pregunta, las restricciones y el informe que se debe devolver. Pide pasajes de respaldo e identifica cómo se debe tratar la falta de evidencia. Para código o matemáticas, incluye la implementación o las premisas y pide la respuesta propuesta con los pasos o las verificaciones necesarios para evaluarla.
El modelo también se orienta a tareas de agentes y llamadas a funciones. El fabricante publica un analizador dedicado y un ejemplo de agente para sus llamadas a herramientas generadas. La aplicación proporciona las definiciones de las herramientas, ejecuta una llamada propuesta y devuelve el resultado. Mantén la llamada y su observación juntas para que el siguiente turno pueda continuar desde lo que ocurrió.
Elige el comportamiento de razonamiento según la tarea: una respuesta directa puede servir para una instrucción concreta, mientras que una etapa de razonamiento puede respaldar un análisis con pasos dependientes. Especifica el artefacto final deseado y conserva las restricciones activas durante los seguimientos. Revisa el texto, el código o la llamada propuesta contra el encargo original y la evidencia proporcionada por la aplicación que lo integra.
", "aboutText": "Hunyuan A13B Instruct es el modelo de lenguaje de mezcla de expertos de Tencent ajustado para seguir instrucciones en tareas generales de texto y razonamiento. Su productor especifica 80 mil millones de parámetros totales, con 13B de parámetros activos. La atención de consultas agrupadas y la activación dispersa forman parte de su diseño de eficiencia. Se mantiene separado del modelo base preentrenado y de los artefactos instruct cuantizados publicados por separado.\n\nEl razonamiento híbrido es una función explícita de esta edición. El razonamiento lento es el predeterminado y produce una etapa de razonamiento antes de la respuesta final. El razonamiento rápido omite esa etapa y devuelve la respuesta directamente. Las convenciones de prompts y plantillas de chat del fabricante permiten elegir entre esos comportamientos; no definen una escala de esfuerzo low, medium, high y xhigh.\n\nEl productor describe un contexto completo de 256K, o 262,144 tokens, mientras que su configuración predeterminada limita el contexto a 32K para reducir la presión sobre la memoria. Habilitar el contexto completo requiere la configuración adecuada del modelo y del servicio de inferencia. Su despliegue recomendado para contexto largo usa cuatro dispositivos de 96 GB con el modelo y la caché en bfloat16, y señala que una caché FP8 puede afectar la calidad de generación. Son condiciones de despliegue del productor, no una promesa sobre una ruta de modelo específica.\n\nPara razonar sobre documentos largos, proporciona el material pertinente y define la pregunta, las restricciones y el informe que se debe devolver. Pide pasajes de respaldo e identifica cómo se debe tratar la falta de evidencia. Para código o matemáticas, incluye la implementación o las premisas y pide la respuesta propuesta con los pasos o las verificaciones necesarios para evaluarla.\n\nEl modelo también se orienta a tareas de agentes y llamadas a funciones. El fabricante publica un analizador dedicado y un ejemplo de agente para sus llamadas a herramientas generadas. La aplicación proporciona las definiciones de las herramientas, ejecuta una llamada propuesta y devuelve el resultado. Mantén la llamada y su observación juntas para que el siguiente turno pueda continuar desde lo que ocurrió.\n\nElige el comportamiento de razonamiento según la tarea: una respuesta directa puede servir para una instrucción concreta, mientras que una etapa de razonamiento puede respaldar un análisis con pasos dependientes. Especifica el artefacto final deseado y conserva las restricciones activas durante los seguimientos. Revisa el texto, el código o la llamada propuesta contra el encargo original y la evidencia proporcionada por la aplicación que lo integra.", "editorialOverlay": { "copy_fields": { "practical_html": "Ejemplo técnico en inglés
Check a routing rule against cases\n\nA workshop rule says: route wooden items to bench W; route metal items to bench M; mixed-material items require supervisor review. A draft sends anything containing wood to W. Evaluate cases 'wood only', 'metal only' and 'wood plus metal'. Return the first rule conflict and a corrected decision sequence without adding new material categories.A case analysis and corrected routing sequence preserving the mixed-material exception.The wood-plus-metal item must go to supervisor review rather than directly to W.tencent/hunyuan-a13b-instructHunyuan A13B Instruct de Tencent es un modelo de texto MoE de 80B, con 13B de parámetros activos y razonamiento híbrido. Admite un contexto ampliado de 256K y tareas orientadas a herramientas, con razonamiento lento por defecto y una opción de respuesta directa.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Hunyuan A13B Instruct es el modelo de lenguaje de mezcla de expertos de Tencent ajustado para seguir instrucciones en tareas generales de texto y razonamiento. Su productor especifica 80 mil millones de parámetros totales, con 13B de parámetros activos. La atención de consultas agrupadas y la activación dispersa forman parte de su diseño de eficiencia. Se mantiene separado del modelo base preentrenado y de los artefactos instruct cuantizados publicados por separado.
El razonamiento híbrido es una función explícita de esta edición. El razonamiento lento es el predeterminado y produce una etapa de razonamiento antes de la respuesta final. El razonamiento rápido omite esa etapa y devuelve la respuesta directamente. Las convenciones de prompts y plantillas de chat del fabricante permiten elegir entre esos comportamientos; no definen una escala de esfuerzo low, medium, high y xhigh.
El productor describe un contexto completo de 256K, o 262,144 tokens, mientras que su configuración predeterminada limita el contexto a 32K para reducir la presión sobre la memoria. Habilitar el contexto completo requiere la configuración adecuada del modelo y del servicio de inferencia. Su despliegue recomendado para contexto largo usa cuatro dispositivos de 96 GB con el modelo y la caché en bfloat16, y señala que una caché FP8 puede afectar la calidad de generación. Son condiciones de despliegue del productor, no una promesa sobre una ruta de modelo específica.
Para razonar sobre documentos largos, proporciona el material pertinente y define la pregunta, las restricciones y el informe que se debe devolver. Pide pasajes de respaldo e identifica cómo se debe tratar la falta de evidencia. Para código o matemáticas, incluye la implementación o las premisas y pide la respuesta propuesta con los pasos o las verificaciones necesarios para evaluarla.
El modelo también se orienta a tareas de agentes y llamadas a funciones. El fabricante publica un analizador dedicado y un ejemplo de agente para sus llamadas a herramientas generadas. La aplicación proporciona las definiciones de las herramientas, ejecuta una llamada propuesta y devuelve el resultado. Mantén la llamada y su observación juntas para que el siguiente turno pueda continuar desde lo que ocurrió.
Elige el comportamiento de razonamiento según la tarea: una respuesta directa puede servir para una instrucción concreta, mientras que una etapa de razonamiento puede respaldar un análisis con pasos dependientes. Especifica el artefacto final deseado y conserva las restricciones activas durante los seguimientos. Revisa el texto, el código o la llamada propuesta contra el encargo original y la evidencia proporcionada por la aplicación que lo integra.
POST /v1/chat/completionstexttext| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites tencent/hunyuan-a13b-instruct | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites Número mínimo de elementos: 1 | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites Ejemplos: system, user, assistant, tool, function Condiciones: Estos roles están representados explícitamente por los tipos de compatibilidad del código fuente; el conjunto exacto de roles depende del modelo. Depende del modelo | Predeterminado— |
Campomessages[].content | Tipostring|content_part[]|null | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_calls | Tipotool_call[] | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].tool_call_id | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: role=tool; utiliza el ID real devuelto | Predeterminado— |
Campomessages[].name | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campomessages[].reasoning_content | Tipostring | RequisitoOpcional | Valores y límites Se aplica cuando: Devuelve en los turnos siguientes el razonamiento realmente recibido cuando este modelo lo utilice | Predeterminado— |
Campomessages[].reasoning_details | Tipoobject|array | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campomax_completion_tokens | Tipointeger | RequisitoOpcional | Valores y límites Mínimo: 1 Depende del modelo | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Campostream_options.include_usage | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotemperature | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotop_p | Tiponumber | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campostop | Tipostring|string[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools | Tipofunction_tool[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campotools[].type | Tipostring | RequisitoOpcional | Valores y límites function Depende del modelo | Predeterminado— |
Campotools[].function.name | Tipostring | RequisitoObligatorio | Valores y límites Se aplica cuando: herramienta de función proporcionada | Predeterminado— |
Campotools[].function.description | Tipostring | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotools[].function.parameters | TipoJSON_schema | RequisitoOpcional | Valores y límites | Predeterminado— |
Campotool_choice | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoparallel_tool_calls | Tipoboolean | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporesponse_format | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning_effort | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camporeasoning | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Camposervice_tier | Tipostring | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoinstructions | Tipostring | RequisitoOpcional | Valores y límites Campo de compatibilidad | Predeterminado— |
Campofunctions | Tipofunction[] | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campofunction_call | Tipostring|object | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campoprompt_cache_options | Tipoobject | RequisitoOpcional | Valores y límites Depende del modelo | Predeterminado— |
Campomodalities | Tipostring[] | RequisitoOpcional | Valores y límites text | Predeterminado— |
Campoprovider | Tipoobject | RequisitoOpcional | Valores y límites Condiciones: provider.options se rechaza en esta ruta de texto Ultra | Predeterminado— |
Campocache_control.ttl | Tipostring | RequisitoOpcional | Valores y límites Condiciones: 1h se rechaza en los campos reales de caché de instrucciones | Predeterminado— |
Texto · Texto UTF8
messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages |
Parámetromaterial_types | Contratotext |
Parámetromessages | Contratomatriz de mensajes con estructura role/content |
Parámetrofile_material | Contratodocumento real en UTF-8 insertado como texto literal; no se deduce ningún ID de archivo |
Parámetrooptional_controls | Contratostream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parámetrocontrol_scope | Contratodepende del modelo; las herramientas de funciones del usuario difieren de las herramientas alojadas |
Parámetrooutput_modalities | Contratotext |
Parámetrohosted_operations | Contratofalse |
Parámetromultimodal_input_binding | Contratonull |
Ciclo de vida: synchronous_or_streamed
Envía el ID exacto del modelo junto con messages.
La longitud del contexto no es un límite máximo de salida.
Un archivo de texto puede aportar texto literal; las entradas de imagen, audio u objetos de archivo requieren una vinculación exacta.
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas.
| Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo |
|---|---|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.00028 / 1K tokens Salida · Tokens de salida $0.0012 / 1K tokens Entrada · Lectura de caché $0 / 1K tokens Entrada · Escritura en caché $0 / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
| ConfiguraciónNivel 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.00028 / 1K tokens Salida · Tokens de salida $0.0012 / 1K tokens Entrada · Lectura de caché $0 / 1K tokens Entrada · Escritura en caché $0 / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un monto estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "tencent/hunyuan-a13b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='tencent/hunyuan-a13b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='tencent/hunyuan-a13b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva cada alternativa y su contenido, llamadas de herramientas y razonamiento. En SSE, ensambla los fragmentos incrementales por índice de alternativa/herramienta y conserva el motivo final de terminación y el uso.
Conserva los ID de solicitud y respuesta y los encabezados. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campochoices[].index | Tipointeger |
Campochoices[].message.content | Tipostring|null |
Campochoices[].message.tool_calls | Tipotool_call[] |
Campochoices[].message.reasoning_content | Tipostring |
Campochoices[].message.reasoning_details | Tipoobject|array |
Campochoices[].finish_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra tencent/hunyuan-a13b-instruct
Usa las rutas de método indicadas arriba.
tencent/hunyuan-a13b-instructHunyuan A13B Instruct de Tencent es un modelo de texto MoE de 80B, con 13B de parámetros activos y razonamiento híbrido. Admite un contexto ampliado de 256K y tareas orientadas a herramientas, con razonamiento lento por defecto y una opción de respuesta directa.
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
Hunyuan A13B Instruct es el modelo de lenguaje de mezcla de expertos de Tencent ajustado para seguir instrucciones en tareas generales de texto y razonamiento. Su productor especifica 80 mil millones de parámetros totales, con 13B de parámetros activos. La atención de consultas agrupadas y la activación dispersa forman parte de su diseño de eficiencia. Se mantiene separado del modelo base preentrenado y de los artefactos instruct cuantizados publicados por separado.
El razonamiento híbrido es una función explícita de esta edición. El razonamiento lento es el predeterminado y produce una etapa de razonamiento antes de la respuesta final. El razonamiento rápido omite esa etapa y devuelve la respuesta directamente. Las convenciones de prompts y plantillas de chat del fabricante permiten elegir entre esos comportamientos; no definen una escala de esfuerzo low, medium, high y xhigh.
El productor describe un contexto completo de 256K, o 262,144 tokens, mientras que su configuración predeterminada limita el contexto a 32K para reducir la presión sobre la memoria. Habilitar el contexto completo requiere la configuración adecuada del modelo y del servicio de inferencia. Su despliegue recomendado para contexto largo usa cuatro dispositivos de 96 GB con el modelo y la caché en bfloat16, y señala que una caché FP8 puede afectar la calidad de generación. Son condiciones de despliegue del productor, no una promesa sobre una ruta de modelo específica.
Para razonar sobre documentos largos, proporciona el material pertinente y define la pregunta, las restricciones y el informe que se debe devolver. Pide pasajes de respaldo e identifica cómo se debe tratar la falta de evidencia. Para código o matemáticas, incluye la implementación o las premisas y pide la respuesta propuesta con los pasos o las verificaciones necesarios para evaluarla.
El modelo también se orienta a tareas de agentes y llamadas a funciones. El fabricante publica un analizador dedicado y un ejemplo de agente para sus llamadas a herramientas generadas. La aplicación proporciona las definiciones de las herramientas, ejecuta una llamada propuesta y devuelve el resultado. Mantén la llamada y su observación juntas para que el siguiente turno pueda continuar desde lo que ocurrió.
Elige el comportamiento de razonamiento según la tarea: una respuesta directa puede servir para una instrucción concreta, mientras que una etapa de razonamiento puede respaldar un análisis con pasos dependientes. Especifica el artefacto final deseado y conserva las restricciones activas durante los seguimientos. Revisa el texto, el código o la llamada propuesta contra el encargo original y la evidencia proporcionada por la aplicación que lo integra.
POST /v1/messagestextjson, sse| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites tencent/hunyuan-a13b-instruct | Predeterminado— |
Campomessages | Tipomessage[] | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomessages[].role | Tipostring | RequisitoObligatorio | Valores y límites user, assistant | Predeterminado— |
Campomessages[].content | Tipostring | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campomax_tokens | Tipointeger | RequisitoObligatorio | Valores y límites | Predeterminado— |
Campostream | Tipoboolean | RequisitoOpcional | Valores y límites | Predeterminadofalse |
Texto · Texto UTF-8
cadena messages[].content
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, messages, max_tokens |
Parámetrooptional_controls | Contratostream |
Parámetromaterial_types | Contratotext |
Parámetrotext_file_material | ContratoLee el documento real en UTF-8 y coloca su texto en el campo input indicado o en la cadena de contenido del mensaje. |
Ciclo de vida: synchronous_or_streamed
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
Relaciona cada cargo con las condiciones mostradas. Usa una tarifa para cada conjunto de configuraciones alternativas.
| Configuración | Tabla de tarifas | Tokens de contexto, más de | Tokens de contexto, hasta inclusive | Cargo |
|---|---|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Tokens de contexto, más de— | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.00028 / 1K tokens Salida · Tokens de salida $0.0012 / 1K tokens Entrada · Lectura de caché $0 / 1K tokens Entrada · Escritura en caché $0 / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
| ConfiguraciónNivel 1 por longitud de la solicitud | Tabla de tarifas— | Tokens de contexto, más de0 | Tokens de contexto, hasta inclusiveSin límite superior | Cargo Entrada · Tokens de entrada $0.00028 / 1K tokens Salida · Tokens de salida $0.0012 / 1K tokens Entrada · Lectura de caché $0 / 1K tokens Entrada · Escritura en caché $0 / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un monto estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
{\n "model": "tencent/hunyuan-a13b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'tencent/hunyuan-a13b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'tencent/hunyuan-a13b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON o SSE
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva todos los bloques de contenido, las firmas de razonamiento y los ID reales de uso de herramientas. Ensambla todos los fragmentos incrementales de los bloques SSE; el primer bloque de texto no constituye la salida completa.
Conserva los ID de solicitud y respuesta y los encabezados. No se proporciona una URL genérica para recuperar tareas de texto.
| Campo | Tipo |
|---|---|
Campoid | Tipostring |
Campomodel | Tipostring |
Campocontent[] | Tipotext|thinking|tool_use|other content block |
Campostop_reason | Tipostring|null |
Campousage | Tipoobject |
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Ailoot Ultra tencent/hunyuan-a13b-instruct
Usa las rutas de método indicadas arriba.
Ejemplo técnico en inglés
Check a routing rule against cases\n\nA workshop rule says: route wooden items to bench W; route metal items to bench M; mixed-material items require supervisor review. A draft sends anything containing wood to W. Evaluate cases 'wood only', 'metal only' and 'wood plus metal'. Return the first rule conflict and a corrected decision sequence without adding new material categories.A case analysis and corrected routing sequence preserving the mixed-material exception.The wood-plus-metal item must go to supervisor review rather than directly to W.