Thenlper: GTE-Base
Alibaba DAMO Academy GTE-base bettet englischen Text in 768-dimensionale Vektoren für Informationssuche und semantische Ähnlichkeit ein. Dieses konkrete Modell verwendet Average Pooling, unterstützt Sequenzen bis zu 512 Tokens und dokumentiert kosinusbasierten Vergleich mit optionaler Normalisierung.
Über das Modell
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
GTE-base ist das von Alibaba DAMO Academy trainierte General-Text-Embeddings-Modell in Basisgröße. Dieser englische Textencoder basiert hauptsächlich auf dem BERT-Framework und erzeugt 768-dimensionale dichte Vektoren. Sein Training verwendet einen großen Korpus relevanzbezogener Paare aus verschiedenen Domänen; zu den genannten Anwendungen gehören Informationssuche, semantische Textähnlichkeit und Embedding-basiertes Text-Reranking.
Englische Anfragen und Passagen vorbereiten
Verwenden Sie lesbaren englischen Text sowohl für den Informationsbedarf als auch für das zu durchsuchende Material. Eine Anfrage zum Austausch eines verschlissenen Bauteils kann beispielsweise mit kurzen Wartungsabschnitten verglichen werden, die Austauschkriterien, Prüfschritte und Bestellanweisungen beschreiben. Bewahren Sie den Bauteilnamen und die Bedingungen, die diese Abschnitte unterscheiden.
Das veröffentlichte Beispiel kodiert Fragen und mögliche Texte direkt, ohne zusätzliche Aufgabeninstruktion. Halten Sie diese Vorbereitung in der Sammlung und bei späteren Anfragen einheitlich. Speichern Sie die Originalpassage und ihre Kennung beim Vektor, damit ein sortiertes Ergebnis die repräsentierten Informationen zeigen kann.
Average Pooling und Vergleich
Das Referenzrezept mittelt die Token-Repräsentationen des Modells mithilfe der Attention-Maske, sodass Padding-Positionen nicht zum Ergebnis beitragen. Anschließend zeigt es optionale L2-Normalisierung und vergleicht die normalisierten Vektoren anhand ihres Skalarprodukts. Ein separates Beispiel verwendet Kosinusähnlichkeit.
Wählen und bewahren Sie einen einheitlichen Normalisierungs- und Vergleichsaufbau für Indizierung und Informationssuche. Die Ausgabe enthält 768 numerische Komponenten; sie enthält keine generierte Antwort. Kodieren Sie für einen Kandidaten-Reranking-Schritt die möglichen Passagen mit demselben Modell und sortieren Sie sie anhand ihrer Ähnlichkeit zur Anfrage. Dies bleibt ein Embedding-basierter Vergleich und ist keine Aussage, dass das Modell jedes Anfrage-Passagen-Paar gemeinsam als Cross-Encoder liest.
Englischer Sprachumfang und Eingaben mit 512 Tokens
Die konkrete Karte beschränkt dieses Modell auf englischen Text und gibt an, dass lange Eingaben auf höchstens 512 Tokens gekürzt werden. Ein langes Handbuch sollte daher vor der Indizierung in sinnvolle Abschnitte aufgeteilt werden. Bewahren Sie eine Warnung, Ausnahme oder Einschränkung bei der Regel, die sie verändert, wenn diese Details zum Verständnis der Passage nötig sind.
Bei einer Frage zu Wartungsintervallen ist ein Abschnitt mit dem Intervall und der Betriebsbedingung nützlicher als ein Fragment, das nur eine Zahl enthält. Bewahren Sie die Überschrift oder Geräteidentität, wenn sie die Anweisung eindeutig macht. Prüfen Sie die Tokenizer-Länge, statt sich auf die sichtbare Wortanzahl zu verlassen.
Die Quellpassagen hinter dem Wert nutzen
Die Informationssuche gibt Kandidaten aus der indizierten Sammlung zurück. Prüfen Sie die führenden Passagen anhand der konkreten Aufgabe und bewahren Sie ihre Quellpositionen bei der Übergabe an einen RAG-Antwortschreibschritt. Eine verwandte Passage kann eine Inspektion beschreiben, ohne einen Austausch zu erlauben; diese Unterscheidung muss im Quellmaterial sichtbar bleiben.
GTE-base unterscheidet sich von GTE-large, das 1024-dimensionale Vektoren erzeugt, und von späteren mehrsprachigen GTE-Ausgaben oder Ausgaben mit erweitertem Kontext. Seine veröffentlichte Modellidentität definiert den englischen Sprachumfang, die Repräsentation mit 768 Komponenten und die Grenze von 512 Tokens. Verwenden Sie dieses konkrete Profil mit repräsentativen Anfragen und Quelldatensätzen, wenn Sie eine Suchsammlung bewerten.
Ailoot Ultra · Embeddings POST /v1/embeddings thenlper/gte-base
thenlper/gte-baseStart
Alibaba DAMO Academy GTE-base bettet englischen Text in 768-dimensionale Vektoren für Informationssuche und semantische Ähnlichkeit ein. Dieses konkrete Modell verwendet Average Pooling, unterstützt Sequenzen bis zu 512 Tokens und dokumentiert kosinusbasierten Vergleich mit optionaler Normalisierung.
- Zulässige Eingaben
- Text · token_ids
- Ergebnisse
- embedding
In Ailoot verfügbar · Eingaben und Methoden
Ailoot Ultra · Embeddings POST /v1/embeddings
- Eingabetypen
text,token_ids- Ausgabetypen
embedding- Ausgabeformat
- json
| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits thenlper/gte-base | Standard— |
Feldinput | Typstring|string[]|integer[]|integer[][] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 Bedingungen: Nicht leerer, homogener Batch. Token-IDs sind nichtnegative Ganzzahlen. Eingabebudget: Maximum: 512 · Texteinheit: UTF8-Bytes · Tokeneinheit: Elemente des Token-Arrays | Standard— |
Feldencoding_format | Typstring | AnforderungOptional | Werte und Limits float | Standardfloat |
Felddimensions | Typinteger | AnforderungNicht unterstützt | Werte und Limits Minimum: 1 | Standard— |
Felduser | Typjson_value | AnforderungOptional | Werte und Limits Bedingungen: Der Quellcode erlaubt dieses JSON-Metadatenfeld; die genaue Semantik beim vorgelagerten Anbieter ist modellspezifisch. | Standard— |
Feldsession_id | Typjson_value | AnforderungOptional | Werte und Limits Bedingungen: Der Quellcode erlaubt dieses JSON-Metadatenfeld; die genaue Semantik beim vorgelagerten Anbieter ist modellspezifisch. | Standard— |
Feldtrace | Typjson_value | AnforderungOptional | Werte und Limits Bedingungen: Der Quellcode erlaubt dieses JSON-Metadatenfeld; die genaue Semantik beim vorgelagerten Anbieter ist modellspezifisch. | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options abgelehnt | Standard— |
Kombinationen von Eingabematerialien
text_to_embedding
Methodenparameter und Lebenszyklus
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, input |
Parameterinput_shapes | Vertragstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Vertragfloat |
Parameterdimensions_override | Vertragfalse |
Parametermax_input_budget_units | Vertrag512 |
Parametermultimodal_objects | Vertragfalse |
Parametermaterial_types | Vertragtext, token_ids |
Lebenszyklus: synchronous_json
Jeden Vektorindex und jede Dimension beibehalten.
Ein multimodaler Modellname erlaubt auf genau diesem Pfad keine Bildobjekte.
Tarife
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
- Schnellmodus
- Nicht angegeben Wenn der Schnellmodus ausgewählt ist
- Flex-Modus
- Nicht angegeben Wenn der Modus flex ausgewählt ist
- Maximaler Denkaufwand
- Nicht angegeben Wenn beim maximalen Denkaufwand die Standardanpassung (default) verwendet wird
Ailoot-Tarife
Preise nach Konfiguration
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0.00001 / 1K Token Ausgabe · Ausgabetoken $0 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
Beispielanfragen
Ailoot Ultra · Embeddings
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "thenlper/gte-base", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='thenlper/gte-base',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Ergebnisse abrufen und speichern
Ailoot Ultra · Embeddings
json
Alle fertiggestellten Ergebnisse aufbewahren
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Jeden Vektor mit seinem Index beibehalten. Die Anzahl der Vektoren muss der Anzahl der Eingaben entsprechen; die Dimensionen müssen konsistent sein.
Wenn die ursprüngliche Antwort geprüft werden muss
Es wird kein Endpunkt für Embedding-Aufträge eingeführt.
Antwortfelder
| Feld | Typ |
|---|---|
Feldobject | Typstring |
Feldmodel | Typstring |
Felddata[].index | Typinteger |
Felddata[].embedding | Typfinite float[] |
Feldusage | Typobject |
Fehler und nächste Schritte
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Aliasnamen
Modellaliasnamen
Ailoot Ultra thenlper/gte-base
Aliasnamen für Methodenpfade
Verwenden Sie die oben angezeigten Methodenpfade.
Zugehörige Aufrufer-IDs
FAQ · Thenlper: GTE-Base
- Welche Eingaben und Ergebnisse sind verfügbar?
POST /v1/embeddings·thenlper/gte-base:text,token_ids→embedding- Welche Felder verwendet die Anfrage?
POST /v1/embeddings·thenlper/gte-base:model,input,encoding_format,provider- Welche Grenzen gelten?
POST /v1/embeddings·thenlper/gte-base:input.budget.maximum:512(UTF8-Bytes);input.min_items:1