Thenlper: GTE-Large
Alibaba DAMO Academy GTE-large zet Engelse tekst om in 1024-dimensionale vectoren voor informatieopvraging, semantische gelijkenis en embeddinggebaseerde herrangschikking. Het referentierecept gebruikt average pooling, optionele normalisatie en een maximale sequentielengte van 512 tokens.
Over het model
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
GTE-large is het grote General-Text-Embeddings-model dat door Alibaba DAMO Academy is getraind. Het is een Engelse tekstencoder die voornamelijk op het BERT-framework is gebaseerd, met een 1024-dimensionale dense representatie voor elke invoer. De maker traint de GTE-familie op tekstparen met relevantierelaties uit verschillende domeinen en noemt informatieopvraging, semantische tekstgelijkenis en tekstherrangschikking als vervolgtoepassingen.
Representeer de inhoud van een sectie
Bereid de Engelse passage voor die met een zoekvraag moet worden vergeleken. Behoud bij een verzameling technische rapporten het onderwerp, de waarneming en de relevante voorwaarde van een korte sectie. Een rapport dat trillingen alleen onder een specifieke belasting beschrijft moet die voorwaarde bewaren in plaats van een algemene uitspraak over trillingen over te laten.
Bewaar bronidentifiers, documenttitels en sectielocaties bij de opgeslagen vectoren. Een zoekvraag kan kandidaatsecties ophalen, terwijl het oorspronkelijke rapport beschikbaar blijft om apparatuur, voorwaarde en conclusie te verifiëren. De embedding levert een numerieke representatie van de passage-inhoud.
Pooling, normalisatie en vectorgebruik
Het gepubliceerde recept gebruikt average pooling over tokenrepresentaties met het attention-masker en sluit padding van het gemiddelde uit. Het toont ook optionele L2-normalisatie, gevolgd door een inproductvergelijking van genormaliseerde vectoren. Het Sentence-Transformers-voorbeeld gebruikt cosinusgelijkenis.
Behoud dezelfde voorbereidings-, pooling- en vergelijkingsinstellingen in de verzameling en aan de zoekvraagzijde. Elke representatie bevat 1024 componenten. Het grotere aantal componenten is een editiedetail; het stelt niet vast dat GTE-large-vectoren kunnen worden gemengd met de 768-dimensionale GTE-base-representatie of een andere 1024-dimensionale encoder.
Een herrangschikkingsworkflow kan een zoekvraag-embedding vergelijken met een al opgehaalde verzameling kandidaat-embeddings en die records opnieuw ordenen. Behoud het onderscheid tussen die vectorvergelijking en een afzonderlijk model dat een zoekvraag-passagepaar gezamenlijk beoordeelt.
Invoerlengte en beperking tot Engels
De kaart beperkt dit exacte model expliciet tot Engelse tekst en kapt lange invoer af op maximaal 512 tokens. Splits een lang technisch rapport in samenhangende secties en bewaar genoeg lokale context om elke sectie zelfstandig begrijpelijk te maken. Als een zin van een voorafgaande nuancering afhangt, behoud die dan in dezelfde geïndexeerde eenheid wanneer ze past.
Een tokengrens verschilt van een zichtbaar woordenaantal. Controleer de lengte van de voorbereide sectie en zorg dat het detail dat de beoogde zoekopdracht nodig heeft niet buiten het na afkappen behouden deel staat.
Onderzoek de opgehaalde onderbouwing
Presenteer bij een rapportzoektoepassing kandidaatsecties met hun bronlocaties en onderzoek de daadwerkelijke inhoud. Vergelijkbare waarnemingen kunnen verschillende oorzaken of aanbevelingen hebben. Een vectorscore helpt de kandidaten onder de gekozen vergelijkingsopzet te ordenen; hij stelt niet vast dat de conclusie van een rapport op een nieuwe situatie van toepassing is.
Gebruik voor RAG de geselecteerde secties als broncontext voor de antwoordschrijffase en behoud hun documentkoppelingen. Dit exacte GTE-large-profiel levert Engelse dense embeddings met 1024 dimensies en een invoergrens van 512 tokens. Latere meertalige GTE-edities en edities met uitgebreide context hebben afzonderlijke identiteiten, dus hun taalbereik of invoerinstellingen volgen niet uit de familienaam van dit checkpoint.
Ailoot Ultra · Embeddings POST /v1/embeddings thenlper/gte-large
thenlper/gte-largeAan de slag
Alibaba DAMO Academy GTE-large zet Engelse tekst om in 1024-dimensionale vectoren voor informatieopvraging, semantische gelijkenis en embeddinggebaseerde herrangschikking. Het referentierecept gebruikt average pooling, optionele normalisatie en een maximale sequentielengte van 512 tokens.
- Toegestane invoer
- Tekst · token_ids
- Resultaten
- embedding
Beschikbaar in Ailoot · invoer en methoden
Ailoot Ultra · Embeddings POST /v1/embeddings
- Invoertypen
text,token_ids- Uitvoertypen
embedding- Uitvoerformaat
- json
| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten thenlper/gte-large | Standaard— |
Veldinput | Typestring|string[]|integer[]|integer[][] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 Voorwaarden: Niet-lege homogene batch. Token-ID’s zijn niet-negatieve gehele getallen. Invoerbudget: Maximum: 512 · Teksteenheid: UTF8-bytes · Tokeneenheid: elementen van de token-array | Standaard— |
Veldencoding_format | Typestring | VereisteOptioneel | Waarden en limieten float | Standaardfloat |
Velddimensions | Typeinteger | VereisteNiet ondersteund | Waarden en limieten Minimum: 1 | Standaard— |
Velduser | Typejson_value | VereisteOptioneel | Waarden en limieten Voorwaarden: De bron staat dit JSON-metadataveld toe; de exacte betekenis bij de upstreamprovider verschilt per model. | Standaard— |
Veldsession_id | Typejson_value | VereisteOptioneel | Waarden en limieten Voorwaarden: De bron staat dit JSON-metadataveld toe; de exacte betekenis bij de upstreamprovider verschilt per model. | Standaard— |
Veldtrace | Typejson_value | VereisteOptioneel | Waarden en limieten Voorwaarden: De bron staat dit JSON-metadataveld toe; de exacte betekenis bij de upstreamprovider verschilt per model. | Standaard— |
Veldprovider | Typeobject | VereisteOptioneel | Waarden en limieten Voorwaarden: provider.options geweigerd | Standaard— |
Combinaties van invoermaterialen
text_to_embedding
Methodeparameters en levenscyclus
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, input |
Parameterinput_shapes | Contractstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Contractfloat |
Parameterdimensions_override | Contractfalse |
Parametermax_input_budget_units | Contract512 |
Parametermultimodal_objects | Contractfalse |
Parametermaterial_types | Contracttext, token_ids |
Levenscyclus: synchronous_json
Bewaar elke vectorindex en dimensie.
Een multimodale modelnaam houdt niet in dat afbeeldingsobjecten op dit specifieke pad zijn toegestaan.
Tarieven
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
- Snelle modus
- Niet opgegeven Wanneer de snelle modus is geselecteerd
- Flexmodus
- Niet opgegeven Wanneer de modus flex is geselecteerd
- Maximale redeneerinspanning
- Niet opgegeven Wanneer bij maximale redeneerinspanning de default-aanpassing wordt gebruikt
Ailoot-tarieven
Prijzen per configuratie
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.00002 / 1K tokens Uitvoer · Uitvoertokens $0 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
Voorbeeldverzoeken
Ailoot Ultra · Embeddings
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "thenlper/gte-large", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='thenlper/gte-large',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Resultaten ophalen en opslaan
Ailoot Ultra · Embeddings
json
Alle voltooide resultaten bewaren
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar elke vector met zijn index. Het aantal vectoren moet gelijk zijn aan het aantal invoeritems; de dimensies moeten consistent zijn.
Als het oorspronkelijke antwoord moet worden gecontroleerd
Er wordt geen endpoint voor embeddingtaken geïntroduceerd.
Antwoordvelden
| Veld | Type |
|---|---|
Veldobject | Typestring |
Veldmodel | Typestring |
Velddata[].index | Typeinteger |
Velddata[].embedding | Typefinite float[] |
Veldusage | Typeobject |
Fouten en vervolgstappen
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Aliasnamen
Modelaliasnamen
Ailoot Ultra thenlper/gte-large
Aliasnamen voor methodepaden
Gebruik de hierboven getoonde methodepaden.
Gerelateerde aanroeper-ID’s
FAQ · Thenlper: GTE-Large
- Welke invoer en resultaten zijn beschikbaar?
POST /v1/embeddings·thenlper/gte-large:text,token_ids→embedding- Welke velden gebruikt het verzoek?
POST /v1/embeddings·thenlper/gte-large:model,input,encoding_format,provider- Welke limieten gelden?
POST /v1/embeddings·thenlper/gte-large:input.budget.maximum:512(UTF8-bytes);input.min_items:1