GTE-large er storutgaven av General Text Embeddings-modellen trent av Alibaba DAMO Academy. Den er en engelsk tekstencoder hovedsakelig basert på BERT-rammeverket, med en tett representasjon på 1024 dimensjoner for hver inndatatekst. Produsenten trener GTE-familien på relevanspar av tekst på tvers av domener og oppgir gjenfinning, semantisk tekstlikhet og tekstreranking som etterfølgende bruksområder.
Forbered den engelske passasjen som skal sammenlignes med en søkeforespørsel. I en samling tekniske rapporter bevarer du emnet, observasjonen og den relevante betingelsen i en kort seksjon. En rapport som beskriver vibrasjon bare under en bestemt belastning, bør bevare den betingelsen fremfor å etterlate et generelt utsagn om vibrasjon.
Hold kildeidentifikatorer, dokumenttitler og seksjonsplasseringer med de lagrede vektorene. En forespørsel kan gjenfinne kandidatseksjoner, mens originalrapporten fortsatt er tilgjengelig for å kontrollere utstyret, betingelsen og konklusjonen. Embeddingvektoren gir en numerisk representasjon av passasjens innhold.
Den publiserte oppskriften bruker gjennomsnittspooling over tokenrepresentasjonene med attention-masken og utelukker padding fra gjennomsnittet. Den viser også valgfri L2-normalisering etterfulgt av en prikkproduktsammenligning av normaliserte vektorer. Sentence Transformers-eksemplet bruker cosinuslikhet.
Behold samme forberedelses-, pooling- og sammenligningsinnstillinger på tvers av samlingen og forespørselssiden. Hver representasjon inneholder 1024 komponenter. Det større komponentantallet er en utgavedetalj; det fastslår ikke at GTE-large-vektorer kan blandes med den 768-dimensjonale GTE-base-representasjonen eller en annen 1024-dimensjonal encoder.
En rerankingarbeidsflyt kan sammenligne en forespørselsembedding med et allerede gjenfunnet sett kandidatembeddinger og omordne postene. Bevar skillet mellom denne vektorsammenligningen og en separat modell som vurderer et forespørsel–passasje-par samlet.
Modellkortet begrenser uttrykkelig denne nøyaktige modellen til engelsk tekst og avkorter lange inndata til høyst 512 tokener. Del en lang teknisk rapport i sammenhengende seksjoner og behold nok lokal kontekst til at hver seksjon kan stå på egne ben. Hvis en setning avhenger av et foregående forbehold, behold forbeholdet i samme indekserte enhet når det får plass.
En tokengrense er forskjellig fra et synlig ordantall. Kontroller lengden på den forberedte seksjonen og sørg for at detaljen det tilsiktede søket trenger, ikke ligger utenfor delen som beholdes etter avkorting.
For en rapportsøkeapplikasjon presenterer du kandidatseksjoner med kildeplasseringene og undersøker det faktiske innholdet. Lignende observasjoner kan ha ulike årsaker eller anbefalinger. En vektorskår hjelper med å ordne kandidatene under det valgte sammenligningsoppsettet; den fastslår ikke at en rapportkonklusjon gjelder en ny situasjon.
For RAG bruker du de valgte seksjonene som kildekontekst for svarskrivingstrinnet og beholder dokumentkoblingene. Denne nøyaktige GTE-large-profilen gir engelske tette embeddinger med 1024 dimensjoner og en inndatagrense på 512 tokener. Senere flerspråklige GTE-utgaver og utgaver med utvidet kontekst har separate identiteter, så språkdekningen eller inndatainnstillingene deres følger ikke av modellfamilienavnet til dette checkpointet.
", "aboutText": "GTE-large er storutgaven av General Text Embeddings-modellen trent av Alibaba DAMO Academy. Den er en engelsk tekstencoder hovedsakelig basert på BERT-rammeverket, med en tett representasjon på 1024 dimensjoner for hver inndatatekst. Produsenten trener GTE-familien på relevanspar av tekst på tvers av domener og oppgir gjenfinning, semantisk tekstlikhet og tekstreranking som etterfølgende bruksområder.\n\n### Representer innholdet i en seksjon\n\nForbered den engelske passasjen som skal sammenlignes med en søkeforespørsel. I en samling tekniske rapporter bevarer du emnet, observasjonen og den relevante betingelsen i en kort seksjon. En rapport som beskriver vibrasjon bare under en bestemt belastning, bør bevare den betingelsen fremfor å etterlate et generelt utsagn om vibrasjon.\n\nHold kildeidentifikatorer, dokumenttitler og seksjonsplasseringer med de lagrede vektorene. En forespørsel kan gjenfinne kandidatseksjoner, mens originalrapporten fortsatt er tilgjengelig for å kontrollere utstyret, betingelsen og konklusjonen. Embeddingvektoren gir en numerisk representasjon av passasjens innhold.\n\n### Pooling, normalisering og vektorbruk\n\nDen publiserte oppskriften bruker gjennomsnittspooling over tokenrepresentasjonene med attention-masken og utelukker padding fra gjennomsnittet. Den viser også valgfri L2-normalisering etterfulgt av en prikkproduktsammenligning av normaliserte vektorer. Sentence Transformers-eksemplet bruker cosinuslikhet.\n\nBehold samme forberedelses-, pooling- og sammenligningsinnstillinger på tvers av samlingen og forespørselssiden. Hver representasjon inneholder 1024 komponenter. Det større komponentantallet er en utgavedetalj; det fastslår ikke at GTE-large-vektorer kan blandes med den 768-dimensjonale GTE-base-representasjonen eller en annen 1024-dimensjonal encoder.\n\nEn rerankingarbeidsflyt kan sammenligne en forespørselsembedding med et allerede gjenfunnet sett kandidatembeddinger og omordne postene. Bevar skillet mellom denne vektorsammenligningen og en separat modell som vurderer et forespørsel–passasje-par samlet.\n\n### Inndatalengde og begrensning til engelsk\n\nModellkortet begrenser uttrykkelig denne nøyaktige modellen til engelsk tekst og avkorter lange inndata til høyst 512 tokener. Del en lang teknisk rapport i sammenhengende seksjoner og behold nok lokal kontekst til at hver seksjon kan stå på egne ben. Hvis en setning avhenger av et foregående forbehold, behold forbeholdet i samme indekserte enhet når det får plass.\n\nEn tokengrense er forskjellig fra et synlig ordantall. Kontroller lengden på den forberedte seksjonen og sørg for at detaljen det tilsiktede søket trenger, ikke ligger utenfor delen som beholdes etter avkorting.\n\n### Undersøk den gjenfunne evidensen\n\nFor en rapportsøkeapplikasjon presenterer du kandidatseksjoner med kildeplasseringene og undersøker det faktiske innholdet. Lignende observasjoner kan ha ulike årsaker eller anbefalinger. En vektorskår hjelper med å ordne kandidatene under det valgte sammenligningsoppsettet; den fastslår ikke at en rapportkonklusjon gjelder en ny situasjon.\n\nFor RAG bruker du de valgte seksjonene som kildekontekst for svarskrivingstrinnet og beholder dokumentkoblingene. Denne nøyaktige GTE-large-profilen gir engelske tette embeddinger med 1024 dimensjoner og en inndatagrense på 512 tokener. Senere flerspråklige GTE-utgaver og utgaver med utvidet kontekst har separate identiteter, så språkdekningen eller inndatainnstillingene deres følger ikke av modellfamilienavnet til dette checkpointet.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "642a334c67d0cc041c1b19fdfdd5a91aad8033a06c03174bb8861bd0ad188756", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "nb", "methods": [ { "html": "thenlper/gte-largeAlibaba DAMO Academy GTE-large omdanner engelsk tekst til 1024-dimensjonale vektorer for gjenfinning, semantisk likhet og embeddingbasert reranking. Referanseoppskriften bruker gjennomsnittspooling, valgfri normalisering og en maksimal sekvenslengde på 512 tokener.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
GTE-large er storutgaven av General Text Embeddings-modellen trent av Alibaba DAMO Academy. Den er en engelsk tekstencoder hovedsakelig basert på BERT-rammeverket, med en tett representasjon på 1024 dimensjoner for hver inndatatekst. Produsenten trener GTE-familien på relevanspar av tekst på tvers av domener og oppgir gjenfinning, semantisk tekstlikhet og tekstreranking som etterfølgende bruksområder.
Forbered den engelske passasjen som skal sammenlignes med en søkeforespørsel. I en samling tekniske rapporter bevarer du emnet, observasjonen og den relevante betingelsen i en kort seksjon. En rapport som beskriver vibrasjon bare under en bestemt belastning, bør bevare den betingelsen fremfor å etterlate et generelt utsagn om vibrasjon.
Hold kildeidentifikatorer, dokumenttitler og seksjonsplasseringer med de lagrede vektorene. En forespørsel kan gjenfinne kandidatseksjoner, mens originalrapporten fortsatt er tilgjengelig for å kontrollere utstyret, betingelsen og konklusjonen. Embeddingvektoren gir en numerisk representasjon av passasjens innhold.
Den publiserte oppskriften bruker gjennomsnittspooling over tokenrepresentasjonene med attention-masken og utelukker padding fra gjennomsnittet. Den viser også valgfri L2-normalisering etterfulgt av en prikkproduktsammenligning av normaliserte vektorer. Sentence Transformers-eksemplet bruker cosinuslikhet.
Behold samme forberedelses-, pooling- og sammenligningsinnstillinger på tvers av samlingen og forespørselssiden. Hver representasjon inneholder 1024 komponenter. Det større komponentantallet er en utgavedetalj; det fastslår ikke at GTE-large-vektorer kan blandes med den 768-dimensjonale GTE-base-representasjonen eller en annen 1024-dimensjonal encoder.
En rerankingarbeidsflyt kan sammenligne en forespørselsembedding med et allerede gjenfunnet sett kandidatembeddinger og omordne postene. Bevar skillet mellom denne vektorsammenligningen og en separat modell som vurderer et forespørsel–passasje-par samlet.
Modellkortet begrenser uttrykkelig denne nøyaktige modellen til engelsk tekst og avkorter lange inndata til høyst 512 tokener. Del en lang teknisk rapport i sammenhengende seksjoner og behold nok lokal kontekst til at hver seksjon kan stå på egne ben. Hvis en setning avhenger av et foregående forbehold, behold forbeholdet i samme indekserte enhet når det får plass.
En tokengrense er forskjellig fra et synlig ordantall. Kontroller lengden på den forberedte seksjonen og sørg for at detaljen det tilsiktede søket trenger, ikke ligger utenfor delen som beholdes etter avkorting.
For en rapportsøkeapplikasjon presenterer du kandidatseksjoner med kildeplasseringene og undersøker det faktiske innholdet. Lignende observasjoner kan ha ulike årsaker eller anbefalinger. En vektorskår hjelper med å ordne kandidatene under det valgte sammenligningsoppsettet; den fastslår ikke at en rapportkonklusjon gjelder en ny situasjon.
For RAG bruker du de valgte seksjonene som kildekontekst for svarskrivingstrinnet og beholder dokumentkoblingene. Denne nøyaktige GTE-large-profilen gir engelske tette embeddinger med 1024 dimensjoner og en inndatagrense på 512 tokener. Senere flerspråklige GTE-utgaver og utgaver med utvidet kontekst har separate identiteter, så språkdekningen eller inndatainnstillingene deres følger ikke av modellfamilienavnet til dette checkpointet.
POST /v1/embeddingstext, token_idsembedding| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser thenlper/gte-large | Standard— |
Feltinput | Typestring|string[]|integer[]|integer[][] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 Vilkår: Ikke-tom batch med ensartede elementer. Token-ID-er er ikke-negative heltall. Inndatabudsjett: Maksimum: 512 · Tekstenhet: UTF8-byte · Tokenenhet: elementer i token-arrayet | Standard— |
Feltencoding_format | Typestring | KravValgfritt | Verdier & grenser float | Standardfloat |
Feltdimensions | Typeinteger | KravStøttes ikke | Verdier & grenser Minimum: 1 | Standard— |
Feltuser | Typejson_value | KravValgfritt | Verdier & grenser Vilkår: Kilden tillater dette JSON-metadatafeltet; den nøyaktige semantikken hos den underliggende leverandøren er modellavhengig. | Standard— |
Feltsession_id | Typejson_value | KravValgfritt | Verdier & grenser Vilkår: Kilden tillater dette JSON-metadatafeltet; den nøyaktige semantikken hos den underliggende leverandøren er modellavhengig. | Standard— |
Felttrace | Typejson_value | KravValgfritt | Verdier & grenser Vilkår: Kilden tillater dette JSON-metadatafeltet; den nøyaktige semantikken hos den underliggende leverandøren er modellavhengig. | Standard— |
Feltprovider | Typeobject | KravValgfritt | Verdier & grenser Vilkår: provider.options avvises | Standard— |
text_to_embedding
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, input |
Parameterinput_shapes | Avtalestring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Avtalefloat |
Parameterdimensions_override | Avtalefalse |
Parametermax_input_budget_units | Avtale512 |
Parametermultimodal_objects | Avtalefalse |
Parametermaterial_types | Avtaletext, token_ids |
Livssyklus: synchronous_json
Bevar hver vektors indeks og dimensjon.
Et multimodalt modellnavn innebærer ikke at bildeobjekter er tillatt på denne nøyaktige stien.
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
| Konfigurasjon | Prisplan | Kostnad |
|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Kostnad Inndata · Inngående tokener $0.00002 / 1K tokener Utdata · Utgående tokener $0 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "thenlper/gte-large", "input": ["First document", "Second document"]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.embeddings.create(model='thenlper/gte-large',input=["First document","Second document"])\nprint(result)\nfor item in result.data:print(item.index,item.embedding)\njson
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Bevar hver vektor sammen med indeksen. Antall vektorer må være lik antall inndata; dimensjonene må være konsistente.
Det innføres ikke noe endepunkt for embedding-jobber.
| Felt | Type |
|---|---|
Feltobject | Typestring |
Feltmodel | Typestring |
Feltdata[].index | Typeinteger |
Feltdata[].embedding | Typefinite float[] |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra thenlper/gte-large
Bruk metodestiene som vises ovenfor.