GTE-large er den store General Text Embeddings-model trænet af Alibaba DAMO Academy. Det er en engelsksproget tekstencoder, hovedsageligt baseret på BERT-rammeværket, med en tæt repræsentation på 1024 dimensioner for hvert input. Producenten træner GTE-familien på relevanspar af tekst på tværs af domæner og angiver genfinding, semantisk tekstlighed og tekstreranking som efterfølgende anvendelser.
Forbered den engelske passage, der skal sammenlignes med en søgeforespørgsel. Ved en samling af tekniske rapporter skal du bevare et kort afsnits emne, observation og relevante betingelse. En rapport, der kun beskriver vibration ved en bestemt belastning, bør bevare denne betingelse frem for at efterlade et generelt udsagn om vibration.
Gem kildeidentifikatorer, dokumenttitler og afsnitsplaceringer sammen med de lagrede vektorer. En forespørgsel kan genfinde kandidatafsnit, mens den oprindelige rapport fortsat er tilgængelig til at kontrollere udstyr, betingelse og konklusion. Embeddingvektoren giver en numerisk repræsentation af passagens indhold.
Den offentliggjorte opskrift bruger gennemsnitspooling over tokenrepræsentationer med attention-masken og udelukker padding fra gennemsnittet. Den viser også valgfri L2-normalisering efterfulgt af prikproduktsammenligning af normaliserede vektorer. Sentence Transformers-eksemplet bruger cosinuslighed.
Bevar samme indstillinger for forberedelse, pooling og sammenligning på tværs af samlingen og forespørgselssiden. Hver repræsentation indeholder 1024 komponenter. Det større komponentantal er en udgavedetalje; det fastslår ikke, at GTE-large-vektorer kan blandes med den 768-dimensionale GTE-base-repræsentation eller en anden 1024-dimensional encoder.
En rerankingarbejdsgang kan sammenligne en forespørgselsembedding med et allerede genfundet sæt kandidatembeddings og omordne posterne. Bevar forskellen mellem denne vektorsammenligning og en separat model, der vurderer et forespørgsels–passage-par samlet.
Modelkortet begrænser udtrykkeligt denne præcise model til engelsk tekst og afkorter lange input til højst 512 tokens. Opdel en lang teknisk rapport i sammenhængende afsnit, og bevar tilstrækkelig lokal kontekst til, at hvert afsnit kan stå alene. Hvis en sætning afhænger af et forudgående forbehold, skal dette forbehold bevares i samme indekserede enhed, når det kan være der.
En tokengrænse er forskellig fra et synligt antal ord. Kontrollér længden af det forberedte afsnit, og sørg for, at den detalje, den tilsigtede søgning kræver, ikke ligger efter den del, der bevares ved afkortning.
Ved en applikation til rapportsøgning skal kandidatafsnit præsenteres med kildeplaceringer, og deres faktiske indhold undersøges. Lignende observationer kan have forskellige årsager eller anbefalinger. En vektorscore hjælper med at ordne kandidaterne under den valgte sammenligningsopsætning; den fastslår ikke, at en rapports konklusion gælder i en ny situation.
Ved RAG skal de valgte afsnit bruges som kildekontekst til svarskrivningstrinnet, og deres dokumenttilknytninger bevares. Denne præcise GTE-large-profil leverer engelske tætte embeddings med 1024 dimensioner og en inputgrænse på 512 tokens. Senere flersprogede GTE-udgaver og udgaver med udvidet kontekst har særskilte identiteter, så deres sprogdækning eller inputindstillinger følger ikke af dette checkpoints familienavn.
", "aboutText": "GTE-large er den store General Text Embeddings-model trænet af Alibaba DAMO Academy. Det er en engelsksproget tekstencoder, hovedsageligt baseret på BERT-rammeværket, med en tæt repræsentation på 1024 dimensioner for hvert input. Producenten træner GTE-familien på relevanspar af tekst på tværs af domæner og angiver genfinding, semantisk tekstlighed og tekstreranking som efterfølgende anvendelser.\n\n### Repræsentér indholdet i et afsnit\n\nForbered den engelske passage, der skal sammenlignes med en søgeforespørgsel. Ved en samling af tekniske rapporter skal du bevare et kort afsnits emne, observation og relevante betingelse. En rapport, der kun beskriver vibration ved en bestemt belastning, bør bevare denne betingelse frem for at efterlade et generelt udsagn om vibration.\n\nGem kildeidentifikatorer, dokumenttitler og afsnitsplaceringer sammen med de lagrede vektorer. En forespørgsel kan genfinde kandidatafsnit, mens den oprindelige rapport fortsat er tilgængelig til at kontrollere udstyr, betingelse og konklusion. Embeddingvektoren giver en numerisk repræsentation af passagens indhold.\n\n### Pooling, normalisering og vektorbrug\n\nDen offentliggjorte opskrift bruger gennemsnitspooling over tokenrepræsentationer med attention-masken og udelukker padding fra gennemsnittet. Den viser også valgfri L2-normalisering efterfulgt af prikproduktsammenligning af normaliserede vektorer. Sentence Transformers-eksemplet bruger cosinuslighed.\n\nBevar samme indstillinger for forberedelse, pooling og sammenligning på tværs af samlingen og forespørgselssiden. Hver repræsentation indeholder 1024 komponenter. Det større komponentantal er en udgavedetalje; det fastslår ikke, at GTE-large-vektorer kan blandes med den 768-dimensionale GTE-base-repræsentation eller en anden 1024-dimensional encoder.\n\nEn rerankingarbejdsgang kan sammenligne en forespørgselsembedding med et allerede genfundet sæt kandidatembeddings og omordne posterne. Bevar forskellen mellem denne vektorsammenligning og en separat model, der vurderer et forespørgsels–passage-par samlet.\n\n### Inputlængde og begrænsning til engelsk\n\nModelkortet begrænser udtrykkeligt denne præcise model til engelsk tekst og afkorter lange input til højst 512 tokens. Opdel en lang teknisk rapport i sammenhængende afsnit, og bevar tilstrækkelig lokal kontekst til, at hvert afsnit kan stå alene. Hvis en sætning afhænger af et forudgående forbehold, skal dette forbehold bevares i samme indekserede enhed, når det kan være der.\n\nEn tokengrænse er forskellig fra et synligt antal ord. Kontrollér længden af det forberedte afsnit, og sørg for, at den detalje, den tilsigtede søgning kræver, ikke ligger efter den del, der bevares ved afkortning.\n\n### Undersøg den genfundne evidens\n\nVed en applikation til rapportsøgning skal kandidatafsnit præsenteres med kildeplaceringer, og deres faktiske indhold undersøges. Lignende observationer kan have forskellige årsager eller anbefalinger. En vektorscore hjælper med at ordne kandidaterne under den valgte sammenligningsopsætning; den fastslår ikke, at en rapports konklusion gælder i en ny situation.\n\nVed RAG skal de valgte afsnit bruges som kildekontekst til svarskrivningstrinnet, og deres dokumenttilknytninger bevares. Denne præcise GTE-large-profil leverer engelske tætte embeddings med 1024 dimensioner og en inputgrænse på 512 tokens. Senere flersprogede GTE-udgaver og udgaver med udvidet kontekst har særskilte identiteter, så deres sprogdækning eller inputindstillinger følger ikke af dette checkpoints familienavn.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "e1038942d71e5a0c68ab5dd4a66e39ae69b65b1f37aed5516d52d835432b848d", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "da", "methods": [ { "html": "thenlper/gte-largeAlibaba DAMO Academy GTE-large omdanner engelsk tekst til 1024-dimensionale vektorer til genfinding, semantisk lighed og embeddingbaseret reranking. Referenceopskriften bruger gennemsnitspooling, valgfri normalisering og en maksimal sekvenslængde på 512 tokens.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
GTE-large er den store General Text Embeddings-model trænet af Alibaba DAMO Academy. Det er en engelsksproget tekstencoder, hovedsageligt baseret på BERT-rammeværket, med en tæt repræsentation på 1024 dimensioner for hvert input. Producenten træner GTE-familien på relevanspar af tekst på tværs af domæner og angiver genfinding, semantisk tekstlighed og tekstreranking som efterfølgende anvendelser.
Forbered den engelske passage, der skal sammenlignes med en søgeforespørgsel. Ved en samling af tekniske rapporter skal du bevare et kort afsnits emne, observation og relevante betingelse. En rapport, der kun beskriver vibration ved en bestemt belastning, bør bevare denne betingelse frem for at efterlade et generelt udsagn om vibration.
Gem kildeidentifikatorer, dokumenttitler og afsnitsplaceringer sammen med de lagrede vektorer. En forespørgsel kan genfinde kandidatafsnit, mens den oprindelige rapport fortsat er tilgængelig til at kontrollere udstyr, betingelse og konklusion. Embeddingvektoren giver en numerisk repræsentation af passagens indhold.
Den offentliggjorte opskrift bruger gennemsnitspooling over tokenrepræsentationer med attention-masken og udelukker padding fra gennemsnittet. Den viser også valgfri L2-normalisering efterfulgt af prikproduktsammenligning af normaliserede vektorer. Sentence Transformers-eksemplet bruger cosinuslighed.
Bevar samme indstillinger for forberedelse, pooling og sammenligning på tværs af samlingen og forespørgselssiden. Hver repræsentation indeholder 1024 komponenter. Det større komponentantal er en udgavedetalje; det fastslår ikke, at GTE-large-vektorer kan blandes med den 768-dimensionale GTE-base-repræsentation eller en anden 1024-dimensional encoder.
En rerankingarbejdsgang kan sammenligne en forespørgselsembedding med et allerede genfundet sæt kandidatembeddings og omordne posterne. Bevar forskellen mellem denne vektorsammenligning og en separat model, der vurderer et forespørgsels–passage-par samlet.
Modelkortet begrænser udtrykkeligt denne præcise model til engelsk tekst og afkorter lange input til højst 512 tokens. Opdel en lang teknisk rapport i sammenhængende afsnit, og bevar tilstrækkelig lokal kontekst til, at hvert afsnit kan stå alene. Hvis en sætning afhænger af et forudgående forbehold, skal dette forbehold bevares i samme indekserede enhed, når det kan være der.
En tokengrænse er forskellig fra et synligt antal ord. Kontrollér længden af det forberedte afsnit, og sørg for, at den detalje, den tilsigtede søgning kræver, ikke ligger efter den del, der bevares ved afkortning.
Ved en applikation til rapportsøgning skal kandidatafsnit præsenteres med kildeplaceringer, og deres faktiske indhold undersøges. Lignende observationer kan have forskellige årsager eller anbefalinger. En vektorscore hjælper med at ordne kandidaterne under den valgte sammenligningsopsætning; den fastslår ikke, at en rapports konklusion gælder i en ny situation.
Ved RAG skal de valgte afsnit bruges som kildekontekst til svarskrivningstrinnet, og deres dokumenttilknytninger bevares. Denne præcise GTE-large-profil leverer engelske tætte embeddings med 1024 dimensioner og en inputgrænse på 512 tokens. Senere flersprogede GTE-udgaver og udgaver med udvidet kontekst har særskilte identiteter, så deres sprogdækning eller inputindstillinger følger ikke af dette checkpoints familienavn.
POST /v1/embeddingstext, token_idsembedding| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser thenlper/gte-large | Standard— |
Feltinput | Typestring|string[]|integer[]|integer[][] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 Betingelser: Ikke-tom batch med ensartede elementer. Token-ID’er er ikke-negative heltal. Inputbudget: Maksimum: 512 · Tekstenhed: UTF8-bytes · Tokenenhed: elementer i et tokenarray | Standard— |
Feltencoding_format | Typestring | KravValgfrit | Værdier og grænser float | Standardfloat |
Feltdimensions | Typeinteger | KravIkke understøttet | Værdier og grænser Minimum: 1 | Standard— |
Feltuser | Typejson_value | KravValgfrit | Værdier og grænser Betingelser: Kilden tillader dette JSON-metadatafelt; den præcise betydning hos den bagvedliggende udbyder afhænger af modellen. | Standard— |
Feltsession_id | Typejson_value | KravValgfrit | Værdier og grænser Betingelser: Kilden tillader dette JSON-metadatafelt; den præcise betydning hos den bagvedliggende udbyder afhænger af modellen. | Standard— |
Felttrace | Typejson_value | KravValgfrit | Værdier og grænser Betingelser: Kilden tillader dette JSON-metadatafelt; den præcise betydning hos den bagvedliggende udbyder afhænger af modellen. | Standard— |
Feltprovider | Typeobject | KravValgfrit | Værdier og grænser Betingelser: provider.options afvist | Standard— |
text_to_embedding
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, input |
Parameterinput_shapes | Kontraktstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Kontraktfloat |
Parameterdimensions_override | Kontraktfalse |
Parametermax_input_budget_units | Kontrakt512 |
Parametermultimodal_objects | Kontraktfalse |
Parametermaterial_types | Kontrakttext, token_ids |
Livscyklus: synchronous_json
Gem hver vektors indeks og dimension.
Et multimodalt modelnavn giver ikke adgang til at bruge billedobjekter på denne præcise sti.
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0.00002 / 1K tokens Output · Outputtokens $0 / 1K tokens Input · Cachelæsning — / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "thenlper/gte-large", "input": ["First document", "Second document"]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.embeddings.create(model='thenlper/gte-large',input=["First document","Second document"])\nprint(result)\nfor item in result.data:print(item.index,item.embedding)\njson
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Gem hver vektor med dens indeks. Antallet af vektorer skal svare til antallet af input; dimensionerne skal være ensartede.
Der indføres intet endpoint til embedding-job.
| Felt | Type |
|---|---|
Feltobject | Typestring |
Feltmodel | Typestring |
Feltdata[].index | Typeinteger |
Feltdata[].embedding | Typefinite float[] |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra thenlper/gte-large
Brug metodestierne vist ovenfor.