inclusionAI: Ling 3.0 Flash

Ling 3.0 Flash es un modelo de texto a texto de inclusionAI. Su arquitectura publicada es una mezcla de expertos con 124 mil millones de parámetros totales y aproximadamente 5.1 mil millones de parámetros activos por token. Selecciona inclusionai/ling-3.0-flash mediante POST /v1/chat/completions con model y un array messages. Las instrucciones, el material de origen y los turnos de conversación anteriores deben incluirse en el texto de los mensajes.

Utiliza un prompt centrado en la tarea para convertir el material proporcionado en un resultado específico. Para una respuesta a un cliente, proporciona la pregunta del cliente y el texto del producto o de la política que debe utilizar la respuesta, y especifica después el tono y el siguiente paso. Para un resumen de documento, indica las secciones que necesitas, como decisiones, preguntas sin resolver y acciones. Para una extracción, define los campos solicitados y cómo representar los datos que no aparecen en la fuente. Para trabajar con código, incluye la función o el extracto de archivo pertinente y solicita una explicación, una propuesta de cambio o una revisión frente a un requisito explícito.

La ventana de contexto publicada es de 262 144 tokens, con un máximo de 32 768 tokens de generación indicados para el modelo. Calcula conjuntamente el texto de origen, las instrucciones, el historial de conversación y la generación solicitada. Utiliza max_tokens para establecer la cantidad de salida solicitada. Un documento debe proporcionarse como su texto real cuando quieras que la respuesta dependa de su contenido; haz referencia explícita a las secciones pertinentes cuando una solicitud combine varios pasajes.

La lista de parámetros admitidos incluye tools y tool_choice para llamadas a funciones. Define en la solicitud las funciones disponibles y las descripciones de sus argumentos. Tu aplicación valida una llamada devuelta, ejecuta la función seleccionada y aporta su resultado a la conversación antes de solicitar una respuesta de seguimiento. Por ejemplo, un flujo de soporte puede ofrecer una consulta de pedidos de alcance limitado y utilizar los datos devueltos al redactar la respuesta. Mantén los resultados de las herramientas asociados al turno de conversación correcto para que el modelo pueda distinguirlos de la solicitud original del usuario.

El modelo admite response_format para salida JSON, sin aplicación obligatoria de un esquema JSON. Indica los campos previstos y valida el objeto devuelto en tu aplicación antes de utilizarlo. Otros controles publicados incluyen temperature, top_p, top_k, min_p, stop, seed y las penalizaciones enumeradas de repetición, frecuencia y presencia. La lista de parámetros también incluye reasoning e include_reasoning; elige su representación admitida a partir de la especificación de la solicitud en lugar de dar por válidos valores de otra edición.

Chat Completions puede devolver una respuesta completa o texto en streaming. Para una respuesta completa, lee el contenido del mensaje devuelto y conserva las choices de la respuesta y usage. Con streaming, ensambla los deltas antes de considerar completa la respuesta y conserva las llamadas a herramientas devueltas con sus argumentos. El resultado es texto o una solicitud de llamada a función para el siguiente paso de la aplicación; la aplicación que lo integra es responsable de la ejecución y del uso de la respuesta completada.