Thenlper: GTE-Large
Alibaba DAMO Academy GTE-large anglų kalbos tekstą paverčia 1024 matmenų vektoriais informacijos paieškai, semantinio panašumo vertinimui ir įterpiniais pagrįstam perrikiavimui. Etaloninė procedūra naudoja vidurkinimą, pasirenkamą normalizavimą ir didžiausią 512 žetonų sekos ilgį.
Apie modelį
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
GTE-large yra didžioji General Text Embeddings modelio versija, išmokyta Alibaba DAMO Academy. Tai anglų kalbos teksto koduotuvas, daugiausia pagrįstas BERT architektūra, kiekvienai įvesčiai pateikiantis 1024 matmenų tankųjį atvaizdą. Gamintojas GTE šeimą moko naudodamas susijusių tekstų poras iš skirtingų sričių ir kaip tolesnius taikymus nurodo informacijos paiešką, semantinio tekstų panašumo vertinimą ir tekstų perrikiavimą.
Atvaizduokite skyriaus turinį
Paruoškite anglų kalbos ištrauką, kurią reikės palyginti su paieškos užklausa. Techninių ataskaitų kolekcijoje išsaugokite trumpo skyriaus temą, pastebėjimą ir aktualią sąlygą. Ataskaita, aprašanti vibraciją tik esant konkrečiai apkrovai, turėtų išsaugoti šią sąlygą, o ne palikti bendrą teiginį apie vibraciją.
Šaltinių identifikatorius, dokumentų pavadinimus ir skyrių vietas saugokite kartu su įrašytais vektoriais. Užklausa gali rasti kandidatinius skyrius, o originali ataskaita lieka prieinama įrangai, sąlygai ir išvadai patikrinti. Įterpinys pateikia skaitinį ištraukos turinio atvaizdą.
Agregavimas, normalizavimas ir vektorių naudojimas
Paskelbta procedūra naudoja žetonų atvaizdų vidurkinimą su dėmesio kauke, neįtraukdama užpildymo pozicijų į vidurkį. Joje taip pat parodytas pasirenkamas L2 normalizavimas ir po jo atliekamas normalizuotų vektorių palyginimas skaliarine sandauga. Sentence Transformers pavyzdyje naudojamas kosinuso panašumas.
Kolekcijos ir užklausų pusėse išsaugokite tuos pačius paruošimo, agregavimo ir palyginimo nustatymus. Kiekvienas atvaizdas turi 1024 komponentus. Didesnis komponentų skaičius yra versijos detalė; jis neįrodo, kad GTE-large vektorius galima maišyti su 768 matmenų GTE-base reprezentacija ar kitu 1024 matmenų koduotuvu.
Perrikiavimo procese galima palyginti užklausos įterpinį su jau rastu kandidatų įterpinių rinkiniu ir pakeisti tų įrašų tvarką. Išsaugokite skirtumą tarp tokio vektorių palyginimo ir atskiro modelio, kuris kartu vertina užklausos ir ištraukos porą.
Įvesties ilgis ir apribojimas anglų kalbai
Kortelėje šis konkretus modelis aiškiai apribotas anglų kalbos tekstu, o ilgos įvestys nukerpamos iki daugiausia 512 žetonų. Ilgą techninę ataskaitą padalykite į rišlius skyrius ir išsaugokite pakankamai vietinio konteksto, kad kiekvienas skyrius būtų suprantamas atskirai. Jei sakinys priklauso nuo ankstesnio patikslinimo, išsaugokite jį tame pačiame indeksuojamame vienete, kai telpa.
Žetonų riba skiriasi nuo matomo žodžių skaičiaus. Patikrinkite paruošto skyriaus ilgį ir įsitikinkite, kad numatytai paieškai reikalinga detalė nėra už dalies, išsaugomos po nukirpimo, ribos.
Patikrinkite rastą pagrindžiančią medžiagą
Ataskaitų paieškos programoje pateikite kandidatinius skyrius su jų vietomis šaltiniuose ir patikrinkite tikrąjį turinį. Panašūs pastebėjimai gali turėti skirtingas priežastis ar rekomendacijas. Vektoriaus balas padeda surikiuoti kandidatus pagal pasirinktus palyginimo nustatymus; jis neįrodo, kad ataskaitos išvada tinka naujai situacijai.
RAG atveju pasirinktus skyrius naudokite kaip šaltinio kontekstą atsakymo rašymo etapui ir išsaugokite jų ryšius su dokumentais. Šis konkretus GTE-large profilis pateikia anglų kalbos tankiuosius įterpinius su 1024 matmenimis ir 512 žetonų įvesties riba. Vėlesnės daugiakalbės ir išplėsto konteksto GTE versijos turi atskiras tapatybes, todėl jų kalbų aprėptis ar įvesties nustatymai nekyla iš šios modelio versijos šeimos pavadinimo.
Ailoot Ultra · Įterpiniai POST /v1/embeddings thenlper/gte-large
thenlper/gte-largePradžia
Alibaba DAMO Academy GTE-large anglų kalbos tekstą paverčia 1024 matmenų vektoriais informacijos paieškai, semantinio panašumo vertinimui ir įterpiniais pagrįstam perrikiavimui. Etaloninė procedūra naudoja vidurkinimą, pasirenkamą normalizavimą ir didžiausią 512 žetonų sekos ilgį.
- Leidžiamos įvestys
- Tekstas · token_ids
- Rezultatai
- embedding
Prieinama Ailoot · įvestys ir metodai
Ailoot Ultra · Įterpiniai POST /v1/embeddings
- Įvestis
text,token_ids- Išvestis
embedding- Išvesties formatas
- json
| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos thenlper/gte-large | Numatyta— |
Laukasinput | Tipasstring|string[]|integer[]|integer[][] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 Sąlygos: Netuščias vienalyčių įvesčių paketas. Žetonų ID yra neneigiami sveikieji skaičiai. Įvesties biudžetas: Didžiausia reikšmė: 512 · Teksto vienetas: UTF8 baitai · Tokenų vienetas: žetonų masyvo elementai | Numatyta— |
Laukasencoding_format | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos float | Numatytafloat |
Laukasdimensions | Tipasinteger | ReikalavimasNepalaikoma | Reikšmės ir ribos Mažiausia reikšmė: 1 | Numatyta— |
Laukasuser | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukassession_id | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukastrace | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukasprovider | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: provider.options atmetamas | Numatyta— |
Įvesties medžiagos deriniai
text_to_embedding
Metodo parametrai ir gyvavimo ciklas
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, input |
Parametrasinput_shapes | Specifikacijastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrasencoding_format | Specifikacijafloat |
Parametrasdimensions_override | Specifikacijafalse |
Parametrasmax_input_budget_units | Specifikacija512 |
Parametrasmultimodal_objects | Specifikacijafalse |
Parametrasmaterial_types | Specifikacijatext, token_ids |
Gyvavimo ciklas: synchronous_json
Išsaugokite kiekvieną vektoriaus indeksą ir matmenį.
Tai, kad modelio pavadinimas nurodo multimodalumą, nereiškia, jog šiuo konkrečiu keliu priimami vaizdų objektai.
Planai
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
- Spartusis režimas
- Nenurodyta Pasirinkus spartųjį režimą
- Flex režimas
- Nenurodyta Pasirinkus flex režimą
- Didžiausios samprotavimo pastangos
- Nenurodyta Kai didžiausioms samprotavimo pastangoms taikomas numatytasis koregavimas (default)
Ailoot įkainiai
Kainos pagal konfigūraciją
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.00002 / 1K tokenų Išvestis · Išvesties tokenai $0 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
Užklausų pavyzdžiai
Ailoot Ultra · Įterpiniai
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "thenlper/gte-large", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='thenlper/gte-large',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Gauti ir išsaugoti rezultatus
Ailoot Ultra · Įterpiniai
json
Išsaugoti visus baigtus rezultatus
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną vektorių su jo indeksu. Vektorių skaičius turi sutapti su įvesčių skaičiumi; jų matmenų skaičius turi būti vienodas.
Jei reikia patikrinti pradinį atsakymą
Vektorių generavimo užduotims atskiras API galinis taškas neįvedamas.
Atsakymo laukai
| Laukas | Tipas |
|---|---|
Laukasobject | Tipasstring |
Laukasmodel | Tipasstring |
Laukasdata[].index | Tipasinteger |
Laukasdata[].embedding | Tipasfinite float[] |
Laukasusage | Tipasobject |
Klaidos ir tolesni veiksmai
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Pseudonimai
Modelių pseudonimai
Ailoot Ultra thenlper/gte-large
Metodų kelių pseudonimai
Naudokite aukščiau nurodytus metodų kelius.
Susiję ID iškvietimui
FAQ · Thenlper: GTE-Large
- Kokios įvestys ir rezultatai prieinami?
POST /v1/embeddings·thenlper/gte-large:text,token_ids→embedding- Kokius laukus naudoja užklausa?
POST /v1/embeddings·thenlper/gte-large:model,input,encoding_format,provider- Kokie apribojimai taikomi?
POST /v1/embeddings·thenlper/gte-large:input.budget.maximum:512(UTF8 baitai);input.min_items:1