ERNIE 4.5 0.3B

ERNIE 4.5 0.3B admite conversaciones de texto a través de Ailoot Ultra. El ID exacto del modelo es baidu/ernie-4.5-0.3b. Incluye el material de origen directamente en tus mensajes y describe el resultado que necesitas. Este perfil de texto resulta adecuado para tareas como convertir notas de clientes en una respuesta, condensar un extracto de un documento o extraer un conjunto específico de datos con un formato acordado.

Una solicitud útil combina el material, la tarea y los requisitos de la respuesta. Para una respuesta de soporte, proporciona el mensaje del cliente y el texto de la política que debe seguir la respuesta. Para un resumen, indica a quién va dirigido y solicita las decisiones, las preguntas pendientes y las acciones que deben realizarse. Para una extracción, especifica los nombres de los campos e indica al modelo cómo representar los datos que no aparecen en la fuente. Estas instrucciones permiten obtener un resultado que puede contrastarse con el material que has proporcionado.

Con Chat Completions, envía POST /v1/chat/completions con model y un array messages no vacío. Cada mensaje incluye un role y un content de texto. Incluye los turnos anteriores pertinentes cuando la respuesta dependa de una conversación. Para trabajar a partir de un documento, lee su texto real e introduce el contenido pertinente en el mensaje; el nombre de un archivo por sí solo no aporta el documento.

Con Messages, envía POST /v1/messages con model, messages y max_tokens. Utiliza turnos user y assistant, con una instrucción system independiente opcional. El contenido puede ser una cadena de texto o bloques de texto. max_tokens es un entero de al menos 1. La ficha publicada del modelo indica un máximo de generación de 8000 tokens y un contexto de 120 000 tokens; deja espacio para la respuesta solicitada al preparar la conversación. El tamaño del contexto no significa que una respuesta pueda contener 120 000 tokens.

Ambas interfaces ofrecen el control booleano stream, cuyo valor predeterminado es false. Para una respuesta JSON completa, conserva todos los campos del resultado y los registros de usage devueltos. Para la entrega en streaming, recopila los eventos y ensambla todo el contenido de la respuesta antes de considerarla completa. Chat Completions coloca la respuesta normal en choices[].message.content; Messages devuelve bloques de contenido junto con stop_reason y usage. Conserva la identidad de la solicitud original y cualquier respuesta recibida si la conexión termina antes de completarse, para poder investigar una respuesta incompleta sin volver a enviar a ciegas la misma solicitud.