Thenlper: GTE-Large
Alibaba DAMO Academy GTE-large convierte texto en inglés en vectores de 1024 dimensiones para recuperación, similaridad semántica y reordenación basada en embeddings. Su receta de referencia utiliza pooling por media, normalización opcional y una longitud máxima de secuencia de 512 tokens.
Sobre el modelo
Esta descripción cubre las capacidades del modelo. Las entradas, salidas y opciones disponibles en Ailoot se indican a continuación para el método seleccionado.
GTE-large es el modelo de tamaño grande General Text Embeddings entrenado por Alibaba DAMO Academy. Es un codificador de texto en inglés basado principalmente en el marco BERT, con una representación densa de 1024 dimensiones para cada entrada. El fabricante entrena la familia GTE con pares textuales de relevancia de distintos dominios e identifica la recuperación, la similaridad semántica textual y la reordenación de texto como aplicaciones posteriores.
Representa el contenido de una sección
Prepara el pasaje en inglés que se deba comparar con una consulta de búsqueda. Para una colección de informes técnicos, conserva el tema, la observación y la condición pertinente de una sección corta. Un informe que describa vibración solo bajo una carga particular debe conservar esa condición, en lugar de dejar una afirmación genérica sobre vibración.
Mantén los identificadores de origen, títulos documentales y ubicaciones de sección junto con los vectores almacenados. Una consulta puede recuperar secciones candidatas, mientras que el informe original sigue disponible para verificar el equipo, la condición y la conclusión. El embedding aporta una representación numérica del contenido del pasaje.
Pooling, normalización y uso de vectores
La receta publicada utiliza pooling por media de representaciones de tokens con la máscara de atención, excluyendo el relleno de la media. También muestra normalización L2 opcional seguida de una comparación por producto escalar de vectores normalizados. El ejemplo de Sentence Transformers utiliza similaridad del coseno.
Conserva los mismos ajustes de preparación, pooling y comparación entre la colección y el lado de consulta. Cada representación contiene 1024 componentes. La mayor cantidad de componentes es un detalle de edición; no establece que los vectores GTE-large puedan mezclarse con la representación de 768 dimensiones de GTE-base o con otro codificador de 1024 dimensiones.
Un flujo de reordenación puede comparar un embedding de consulta con un conjunto de embeddings candidatos ya recuperado y reordenar esos registros. Mantén la distinción entre esa comparación vectorial y un modelo separado que evalúa conjuntamente un par de consulta y pasaje.
Longitud de entrada y limitación al inglés
La ficha restringe expresamente este modelo exacto al texto en inglés y trunca las entradas largas a un máximo de 512 tokens. Divide un informe técnico largo en secciones coherentes y mantén suficiente contexto local para que cada sección pueda entenderse por separado. Si una frase depende de un matiz anterior, conserva ese matiz en la misma unidad indexada cuando quepa.
Un límite de tokens es distinto de una cantidad visible de palabras. Verifica la longitud de la sección preparada y asegúrate de que el detalle necesario para la búsqueda prevista no quede más allá de la parte conservada tras el truncamiento.
Examina la evidencia recuperada
Para una aplicación de búsqueda de informes, presenta secciones candidatas con sus ubicaciones de origen y examina su contenido real. Observaciones similares pueden tener causas o recomendaciones diferentes. Una puntuación vectorial ayuda a ordenar los candidatos con la configuración de comparación elegida; no establece que la conclusión de un informe se aplique a una situación nueva.
Para RAG, utiliza las secciones seleccionadas como contexto de origen para la etapa de redacción de respuestas y conserva sus asociaciones documentales. Este perfil exacto GTE-large aporta embeddings densos en inglés con 1024 dimensiones y un límite de entrada de 512 tokens. Las ediciones GTE multilingües y de contexto ampliado posteriores tienen identidades separadas, por lo que su cobertura lingüística o ajustes de entrada no se derivan del nombre de familia de este checkpoint.
Ailoot Ultra · Representaciones vectoriales POST /v1/embeddings thenlper/gte-large
thenlper/gte-largePrimeros pasos
Alibaba DAMO Academy GTE-large convierte texto en inglés en vectores de 1024 dimensiones para recuperación, similaridad semántica y reordenación basada en embeddings. Su receta de referencia utiliza pooling por media, normalización opcional y una longitud máxima de secuencia de 512 tokens.
- Entradas aceptadas
- Texto · token_ids
- Resultados
- embedding
Disponible en Ailoot · entradas y métodos
Ailoot Ultra · Representaciones vectoriales POST /v1/embeddings
- Tipos de entrada
text,token_ids- Tipos de salida
embedding- Formato de salida
- json
| Campo | Tipo | Requisito | Valores y límites | Predeterminado |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObligatorio | Valores y límites thenlper/gte-large | Predeterminado— |
Campoinput | Tipostring|string[]|integer[]|integer[][] | RequisitoObligatorio | Valores y límites Número mínimo de elementos: 1 Condiciones: Lote homogéneo no vacío. Los ID de tokens son números enteros no negativos. Presupuesto de entrada: Máximo: 512 · Unidad de texto: bytes UTF8 · Unidad de tokens: elementos de un array de tokens | Predeterminado— |
Campoencoding_format | Tipostring | RequisitoOpcional | Valores y límites float | Predeterminadofloat |
Campodimensions | Tipointeger | RequisitoNo compatible | Valores y límites Mínimo: 1 | Predeterminado— |
Campouser | Tipojson_value | RequisitoOpcional | Valores y límites Condiciones: Source permite este campo de metadatos JSON; su semántica exacta en el proveedor depende de cada modelo. | Predeterminado— |
Camposession_id | Tipojson_value | RequisitoOpcional | Valores y límites Condiciones: Source permite este campo de metadatos JSON; su semántica exacta en el proveedor depende de cada modelo. | Predeterminado— |
Campotrace | Tipojson_value | RequisitoOpcional | Valores y límites Condiciones: Source permite este campo de metadatos JSON; su semántica exacta en el proveedor depende de cada modelo. | Predeterminado— |
Campoprovider | Tipoobject | RequisitoOpcional | Valores y límites Condiciones: provider.options se rechaza | Predeterminado— |
Combinaciones de materiales de entrada
text_to_embedding
Parámetros del método y ciclo de vida
| Parámetro | Contrato |
|---|---|
Parámetrocontent_type | Contratoapplication/json |
Parámetrorequired | Contratomodel, input |
Parámetroinput_shapes | Contratostring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parámetroencoding_format | Contratofloat |
Parámetrodimensions_override | Contratofalse |
Parámetromax_input_budget_units | Contrato512 |
Parámetromultimodal_objects | Contratofalse |
Parámetromaterial_types | Contratotext, token_ids |
Ciclo de vida: synchronous_json
Conserva todos los índices y dimensiones de los vectores.
Que el modelo tenga un nombre multimodal no permite enviar objetos de imagen por esta ruta concreta.
Planes
Las referencias tarifarias no añaden opciones a la solicitud. Los parámetros admitidos se indican en el método seleccionado.
- Modo rápido
- Sin especificar Cuando se selecciona el modo rápido
- Modo flex
- Sin especificar Cuando se selecciona el modo flex
- Esfuerzo máximo de razonamiento
- Sin especificar Cuando el esfuerzo máximo de razonamiento utiliza el ajuste predeterminado (default)
Tarifas de Ailoot
Precios por configuración
| Configuración | Tabla de tarifas | Cargo |
|---|---|---|
| ConfiguraciónTarifas base por token | Tabla de tarifasTarifa base | Cargo Entrada · Tokens de entrada $0.00002 / 1K tokens Salida · Tokens de salida $0 / 1K tokens Entrada · Lectura de caché — / 1K tokens Entrada · Escritura en caché — / 1K tokens Entrada · Escritura en caché, 1 hora — / 1K tokens |
Ailoot reserva un importe estimado antes de la solicitud. Tras obtener el resultado, liquida el cargo definitivo según el uso medido. En las respuestas en flujo, la liquidación usa el registro de uso final. Cómo funcionan la reserva y la liquidación →
Solicitudes de ejemplo
Ailoot Ultra · Representaciones vectoriales
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "thenlper/gte-large", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='thenlper/gte-large',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Recibir y guardar resultados
Ailoot Ultra · Representaciones vectoriales
json
Conserva todos los resultados completados
Conserva todas las respuestas, archivos y partes de contenido completos recibidos.
Conserva cada vector con su índice. El número de vectores debe coincidir con el número de entradas; las dimensiones deben ser coherentes.
Si es necesario revisar la respuesta original
No se introduce ningún endpoint de trabajos de embeddings.
Campos de respuesta
| Campo | Tipo |
|---|---|
Campoobject | Tipostring |
Campomodel | Tipostring |
Campodata[].index | Tipointeger |
Campodata[].embedding | Tipofinite float[] |
Campousage | Tipoobject |
Errores y siguientes pasos
| Respuesta | Condición | Siguiente paso |
|---|---|---|
Respuesta400 · invalid_request_error | CondiciónCampos obligatorios, representación del material o valor del parámetro no válidos | Siguiente pasoCorrige los campos indicados antes de una nueva solicitud de creación. |
Alias
Alias del modelo
Ailoot Ultra thenlper/gte-large
Alias de rutas de métodos
Usa las rutas de método indicadas arriba.
ID de modelo relacionados
FAQ · Thenlper: GTE-Large
- ¿Qué entradas y resultados están disponibles?
POST /v1/embeddings·thenlper/gte-large:text,token_ids→embedding- ¿Qué campos utiliza la solicitud?
POST /v1/embeddings·thenlper/gte-large:model,input,encoding_format,provider- ¿Qué límites se aplican?
POST /v1/embeddings·thenlper/gte-large:input.budget.maximum:512(bytes UTF8);input.min_items:1