Thenlper: GTE-Large
GTE-large d’Alibaba DAMO Academy convertit du texte anglais en vecteurs de 1024 dimensions pour la recherche d’information, la similarité sémantique et le reclassement fondé sur les plongements. Sa recette de référence utilise une agrégation par moyenne, une normalisation facultative et une longueur de séquence maximale de 512 tokens.
À propos du modèle
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
GTE-large est le modèle de grande taille General Text Embeddings entraîné par Alibaba DAMO Academy. Il s’agit d’un encodeur de texte anglais principalement fondé sur l’architecture BERT, avec une représentation dense de 1024 dimensions pour chaque entrée. Le fabricant entraîne la famille GTE sur des paires de textes liées par leur pertinence dans plusieurs domaines et identifie la recherche d’information, la similarité sémantique textuelle et le reclassement de textes comme des applications en aval.
Représenter le contenu d’une section
Préparez le passage anglais à comparer à une requête de recherche. Pour une collection de rapports techniques, conservez le sujet, l’observation et la condition pertinente d’une courte section. Un rapport décrivant des vibrations uniquement sous une charge particulière doit préserver cette condition, plutôt que de laisser un énoncé général sur les vibrations.
Gardez les identifiants sources, les titres des documents et les emplacements des sections avec les vecteurs stockés. Une requête peut retrouver des sections candidates, tandis que le rapport d’origine reste disponible pour vérifier l’équipement, la condition et la conclusion. Le plongement fournit une représentation numérique du contenu du passage.
Agrégation, normalisation et utilisation des vecteurs
La recette publiée utilise une agrégation par moyenne des représentations des tokens avec le masque d’attention, en excluant le remplissage de la moyenne. Elle montre aussi une normalisation L2 facultative, suivie d’une comparaison des vecteurs normalisés par produit scalaire. L’exemple Sentence Transformers utilise la similarité cosinus.
Conservez les mêmes réglages de préparation, d’agrégation et de comparaison pour la collection et le côté des requêtes. Chaque représentation contient 1024 composantes. Le nombre plus élevé de composantes est un détail de l’édition ; il n’établit pas que les vecteurs GTE-large peuvent être mélangés à la représentation GTE-base de 768 dimensions ou à ceux d’un autre encodeur de 1024 dimensions.
Un processus de reclassement peut comparer un plongement de requête à un ensemble de plongements candidats déjà retrouvés et réordonner ces enregistrements. Gardez la distinction entre cette comparaison vectorielle et un modèle distinct évaluant conjointement une paire requête–passage.
Longueur d’entrée et limitation à l’anglais
La fiche limite explicitement ce modèle exact au texte anglais et tronque les entrées longues à un maximum de 512 tokens. Divisez un long rapport technique en sections cohérentes et gardez assez de contexte local pour que chaque section soit compréhensible de manière autonome. Si une phrase dépend d’une précision précédente, conservez cette précision dans la même unité indexée lorsqu’elle tient dans la fenêtre.
Une limite en tokens diffère d’un nombre visible de mots. Vérifiez la longueur de la section préparée et assurez-vous que le détail nécessaire à la recherche visée ne se trouve pas au-delà de la partie conservée après troncature.
Examiner les éléments retrouvés
Pour une application de recherche de rapports, présentez les sections candidates avec leurs emplacements sources et examinez leur contenu réel. Des observations similaires peuvent avoir des causes ou des recommandations différentes. Un score vectoriel aide à ordonner les candidats dans la configuration de comparaison choisie ; il n’établit pas que la conclusion d’un rapport s’applique à une nouvelle situation.
Pour le RAG, utilisez les sections sélectionnées comme contexte source pour l’étape de rédaction de la réponse et conservez leurs associations documentaires. Ce profil GTE-large exact fournit des plongements denses anglais de 1024 dimensions avec une limite d’entrée de 512 tokens. Les éditions GTE multilingues et à contexte étendu ultérieures possèdent des identités distinctes ; leur couverture linguistique ou leurs réglages d’entrée ne découlent donc pas du nom de famille de cette version.
Ailoot Ultra · Embeddings POST /v1/embeddings thenlper/gte-large
thenlper/gte-largePremiers pas
GTE-large d’Alibaba DAMO Academy convertit du texte anglais en vecteurs de 1024 dimensions pour la recherche d’information, la similarité sémantique et le reclassement fondé sur les plongements. Sa recette de référence utilise une agrégation par moyenne, une normalisation facultative et une longueur de séquence maximale de 512 tokens.
- Entrées acceptées
- Texte · token_ids
- Résultats
- embedding
Disponible dans Ailoot · entrées et méthodes
Ailoot Ultra · Embeddings POST /v1/embeddings
- Entrée
text,token_ids- Sortie
embedding- Format de sortie
- json
| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites thenlper/gte-large | Par défaut— |
Champinput | Typestring|string[]|integer[]|integer[][] | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 Conditions: Lot homogène non vide. Les identifiants de jetons sont des entiers positifs ou nuls. Budget d’entrée : Maximum: 512 · Unité de texte: octets UTF8 · Unité de tokens: éléments du tableau de jetons | Par défaut— |
Champencoding_format | Typestring | ExigenceFacultatif | Valeurs et limites float | Par défautfloat |
Champdimensions | Typeinteger | ExigenceNon pris en charge | Valeurs et limites Minimum: 1 | Par défaut— |
Champuser | Typejson_value | ExigenceFacultatif | Valeurs et limites Conditions: La source autorise ce champ de métadonnées JSON ; sa sémantique exacte en amont dépend du modèle. | Par défaut— |
Champsession_id | Typejson_value | ExigenceFacultatif | Valeurs et limites Conditions: La source autorise ce champ de métadonnées JSON ; sa sémantique exacte en amont dépend du modèle. | Par défaut— |
Champtrace | Typejson_value | ExigenceFacultatif | Valeurs et limites Conditions: La source autorise ce champ de métadonnées JSON ; sa sémantique exacte en amont dépend du modèle. | Par défaut— |
Champprovider | Typeobject | ExigenceFacultatif | Valeurs et limites Conditions: provider.options est refusé | Par défaut— |
Combinaisons d’éléments d’entrée
text_to_embedding
Paramètres et cycle de vie de la méthode
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, input |
Paramètreinput_shapes | Contratstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Paramètreencoding_format | Contratfloat |
Paramètredimensions_override | Contratfalse |
Paramètremax_input_budget_units | Contrat512 |
Paramètremultimodal_objects | Contratfalse |
Paramètrematerial_types | Contrattext, token_ids |
Cycle de vie : synchronous_json
Conservez tous les indices et toutes les dimensions des vecteurs.
Un nom de modèle multimodal n’autorise pas les objets image sur ce chemin précis.
Tarifs
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
- Mode rapide
- Non précisé Lorsque le mode rapide est sélectionné
- Mode Flex
- Non précisé Lorsque le mode flex est sélectionné
- Effort de raisonnement maximal
- Non précisé Lorsque l’effort de raisonnement maximal utilise l’ajustement par défaut (default)
Tarifs Ailoot
Prix par configuration
| Configuration | Barème tarifaire | Coût |
|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Coût Entrée · Tokens en entrée $0.00002 / 1K tokens Sortie · Tokens en sortie $0 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
Exemples de requêtes
Ailoot Ultra · Embeddings
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "thenlper/gte-large", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='thenlper/gte-large',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Recevoir et enregistrer les résultats
Ailoot Ultra · Embeddings
json
Conserver tous les résultats terminés
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez chaque vecteur avec son indice. Le nombre de vecteurs doit être égal au nombre d’entrées ; les dimensions doivent être cohérentes.
Si la réponse d’origine doit être vérifiée
Aucun point de terminaison dédié aux tâches d’embedding n’est ajouté.
Champs de la réponse
| Champ | Type |
|---|---|
Champobject | Typestring |
Champmodel | Typestring |
Champdata[].index | Typeinteger |
Champdata[].embedding | Typefinite float[] |
Champusage | Typeobject |
Erreurs et étapes suivantes
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Alias
Alias du modèle
Ailoot Ultra thenlper/gte-large
Alias des chemins de méthode
Utilisez les chemins de méthode indiqués ci-dessus.
ID d’appel associés
FAQ · Thenlper: GTE-Large
- Quelles entrées et quels résultats sont disponibles ?
POST /v1/embeddings·thenlper/gte-large:text,token_ids→embedding- Quels champs la requête utilise-t-elle ?
POST /v1/embeddings·thenlper/gte-large:model,input,encoding_format,provider- Quelles limites s’appliquent ?
POST /v1/embeddings·thenlper/gte-large:input.budget.maximum:512(octets UTF8);input.min_items:1