Thenlper: GTE-Large
Alibaba DAMO Academy GTE-large ағылшын мәтінін іздеуге, семантикалық ұқсастықты бағалауға және эмбеддинг негізінде қайта ранжирлеуге арналған 1024 өлшемді векторларға айналдырады. Эталондық үлгі орташа пулингті, міндетті емес нормалауды және ең көбі 512 токендік тізбекті қолданады.
Модель туралы
Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.
GTE-large — Alibaba DAMO Academy оқытқан General Text Embeddings моделінің үлкен нұсқасы. Бұл негізінен BERT құрылымына сүйенетін, әр кіріске 1024 өлшемді тығыз көрсетілім беретін ағылшын мәтінінің энкодері. Өндіруші GTE тобын әртүрлі салалардағы қатыстылықпен байланысқан мәтін жұптары арқылы оқытып, кейінгі қолданыстар ретінде іздеуді, мәтіндердің семантикалық ұқсастығын және мәтіндерді қайта ранжирлеуді атайды.
Бөлім мазмұнын көрсетіңіз
Іздеу сұрауымен салыстырылатын ағылшын тіліндегі үзіндіні дайындаңыз. Техникалық есептер жинағында қысқа бөлімнің тақырыбын, бақылауын және тиісті шартын сақтаңыз. Дірілді тек белгілі бір жүктеме кезінде сипаттайтын есепте діріл туралы жалпы мәлімдеме ғана қалмай, сол шарт сақталуы тиіс.
Дереккөз идентификаторларын, құжат атауларын және бөлім орындарын сақталған векторлармен бірге ұстаңыз. Сұрау кандидат бөлімдерді таба алады, ал жабдықты, шартты және қорытындыны тексеруге бастапқы есеп қолжетімді қалады. Эмбеддинг үзінді мазмұнының сандық көрсетілімін береді.
Пулинг, нормалау және векторды пайдалану
Жарияланған үлгі назар маскасымен токен көрсетілімдерінің орташа мәнін алатын пулингті қолданады және толықтыруды орташа мәннен шығарады. Ол сондай-ақ міндетті емес L2 нормалауды, содан кейін нормаланған векторларды скалярлық көбейтінді арқылы салыстыруды көрсетеді. Sentence Transformers мысалы косинустық ұқсастықты қолданады.
Жинақ пен сұрау жағында бірдей дайындау, пулинг және салыстыру параметрлерін сақтаңыз. Әр көрсетілім 1024 компоненттен тұрады. Компонент санының көбірек болуы — нұсқаға тән мәлімет; бұл GTE-large векторларын 768 өлшемді GTE-base көрсетілімімен немесе басқа 1024 өлшемді энкодермен араластыруға болатынын дәлелдемейді.
Қайта ранжирлеу үдерісі сұрау эмбеддингін бұрын табылған кандидат эмбеддингтер жиынымен салыстырып, сол жазбалардың ретін өзгерте алады. Мұндай векторлық салыстыру мен сұрау–үзінді жұбын бірге бағалайтын бөлек модельдің айырмашылығын сақтаңыз.
Кіріс ұзындығы және ағылшын тілімен шектелуі
Карточка осы нақты модельді тек ағылшын мәтінімен шектейді және ұзын кірістерді ең көбі 512 токенге дейін қысқартады. Ұзын техникалық есепті мағыналық тұтас бөлімдерге бөліп, әрқайсысы дербес түсінікті болуы үшін жеткілікті жергілікті контекст сақтаңыз. Сөйлем алдыңғы нақтылауға тәуелді болса, ол сыйған жағдайда сол нақтылауды бір индекстелген бірлікте сақтаңыз.
Токен шекарасы көзге көрінетін сөз санынан өзгеше. Дайындалған бөлімнің ұзындығын тексеріп, көзделген іздеуге қажет мәлімет қысқартудан кейін сақталған бөліктен тыс орналаспағанына көз жеткізіңіз.
Табылған дәлелдерді тексеріңіз
Есеп іздеу қолданбасында кандидат бөлімдерді дереккөздегі орындарымен көрсетіп, нақты мазмұнын тексеріңіз. Ұқсас бақылаулардың себептері немесе ұсыныстары әртүрлі болуы мүмкін. Вектор ұпайы таңдалған салыстыру баптауларына сай кандидаттарды реттеуге көмектеседі; ол есеп қорытындысының жаңа жағдайға қолданылатынын дәлелдемейді.
RAG үшін таңдалған бөлімдерді жауап жазу кезеңінің бастапқы контексті ретінде қолданып, құжаттармен байланысын сақтаңыз. Осы нақты GTE-large профилі ағылшын тілінің 1024 өлшемді тығыз эмбеддингтерін және 512 токендік кіріс шекарасын береді. Кейінгі көптілді және кеңейтілген контексті GTE нұсқаларының сәйкестігі бөлек, сондықтан олардың тіл қамтуы немесе кіріс баптаулары осы нақты модельдің топ атауынан туындамайды.
Ailoot Ultra · Эмбеддингтер POST /v1/embeddings thenlper/gte-large
thenlper/gte-largeБастау
Alibaba DAMO Academy GTE-large ағылшын мәтінін іздеуге, семантикалық ұқсастықты бағалауға және эмбеддинг негізінде қайта ранжирлеуге арналған 1024 өлшемді векторларға айналдырады. Эталондық үлгі орташа пулингті, міндетті емес нормалауды және ең көбі 512 токендік тізбекті қолданады.
- Қабылданатын кіріс деректері
- Мәтін · token_ids
- Нәтижелер
- embedding
Ailoot жүйесінде қолжетімді · кіріс деректері мен әдістер
Ailoot Ultra · Эмбеддингтер POST /v1/embeddings
- Кіріс
text,token_ids- Шығыс
embedding- Шығыс пішімі
- json
| Өріс | Түрі | Талап | Мәндер мен шектеулер | Әдепкі |
|---|---|---|---|---|
Өрісmodel | Түріstring | ТалапМіндетті | Мәндер мен шектеулер thenlper/gte-large | Әдепкі— |
Өрісinput | Түріstring|string[]|integer[]|integer[][] | ТалапМіндетті | Мәндер мен шектеулер Элементтердің ең аз саны: 1 Шарттар: Бос емес, біртекті пакет. Токендердің ID мәндері — теріс емес бүтін сандар. Кіріс бюджеті: Ең көбі: 512 · Мәтін бірлігі: UTF8 байттары · Токен бірлігі: токендер массивінің элементтері | Әдепкі— |
Өрісencoding_format | Түріstring | ТалапМіндетті емес | Мәндер мен шектеулер float | Әдепкіfloat |
Өрісdimensions | Түріinteger | ТалапҚолдау көрсетілмейді | Мәндер мен шектеулер Ең азы: 1 | Әдепкі— |
Өрісuser | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісsession_id | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісtrace | Түріjson_value | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: Дереккөз бұл JSON метадерек өрісіне рұқсат береді; бастапқы провайдердегі нақты мағынасы модельге байланысты. | Әдепкі— |
Өрісprovider | Түріobject | ТалапМіндетті емес | Мәндер мен шектеулер Шарттар: provider.options қабылданбайды | Әдепкі— |
Кіріс материалдарының үйлесімдері
text_to_embedding
Әдіс параметрлері мен өмірлік циклі
| Параметр | Параметр талаптары |
|---|---|
Параметрcontent_type | Параметр талаптарыapplication/json |
Параметрrequired | Параметр талаптарыmodel, input |
Параметрinput_shapes | Параметр талаптарыstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Параметрencoding_format | Параметр талаптарыfloat |
Параметрdimensions_override | Параметр талаптарыfalse |
Параметрmax_input_budget_units | Параметр талаптары512 |
Параметрmultimodal_objects | Параметр талаптарыfalse |
Параметрmaterial_types | Параметр талаптарыtext, token_ids |
Өмірлік цикл: synchronous_json
Әрбір вектордың индексін және өлшемін сақтаңыз.
Модель атауының мультимодаль болуы осы нақты жолда кескін объектілерін қабылдауға рұқсат бермейді.
Тарифтер
Тариф анықтамасы сұрау мүмкіндіктерін қоспайды. Қолдау көрсетілетін параметрлер таңдалған әдісте берілген.
- Жылдам режим
- Көрсетілмеген Жылдам режим таңдалғанда
- Икемді режим
- Көрсетілмеген flex режимі таңдалғанда
- Ой қорытудың ең жоғары деңгейі
- Көрсетілмеген Ой қорыту деңгейі ең жоғары болып, default түзетуі қолданылғанда
Ailoot мөлшерлемелері
Баптаулар бойынша бағалар
| Баптау | Мөлшерлемелер кестесі | Төлем |
|---|---|---|
| БаптауТокендердің базалық тарифтері | Мөлшерлемелер кестесіНегізгі мөлшерлеме | Төлем Кіріс · Кіріс токендері $0.00002 / 1K токен Шығыс · Шығыс токендері $0 / 1K токен Кіріс · Кэшті оқу — / 1K токен Кіріс · Кэшке жазу — / 1K токен Кіріс · Кэшке жазу, 1 сағ — / 1K токен |
Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →
Сұрау мысалдары
Ailoot Ultra · Эмбеддингтер
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "thenlper/gte-large", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='thenlper/gte-large',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Нәтижелерді алу және сақтау
Ailoot Ultra · Эмбеддингтер
json
Барлық дайын нәтижені сақтау
Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.
Әрбір векторды индексімен бірге сақтаңыз. Векторлар саны кіріс элементтерінің санына тең болуы керек; өлшемдері бірдей болуы керек.
Бастапқы жауапты тексеру қажет болса
Эмбеддинг тапсырмасы үшін жаңа эндпоинт енгізілмейді.
Жауап өрістері
| Өріс | Түрі |
|---|---|
Өрісobject | Түріstring |
Өрісmodel | Түріstring |
Өрісdata[].index | Түріinteger |
Өрісdata[].embedding | Түріfinite float[] |
Өрісusage | Түріobject |
Қателер және келесі қадамдар
| Жауап | Шарт | Келесі қадам |
|---|---|---|
Жауап400 · invalid_request_error | ШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қате | Келесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз. |
Балама атаулар
Модельдердің балама атаулары
Ailoot Ultra thenlper/gte-large
Әдіс жолдарының балама атаулары
Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.
Шақыруға арналған байланысты ID
FAQ · Thenlper: GTE-Large
- Қандай кіріс деректері мен нәтижелер қолжетімді?
POST /v1/embeddings·thenlper/gte-large:text,token_ids→embedding- Сұрау қандай өрістерді пайдаланады?
POST /v1/embeddings·thenlper/gte-large:model,input,encoding_format,provider- Қандай шектеулер қолданылады?
POST /v1/embeddings·thenlper/gte-large:input.budget.maximum:512(UTF8 байттары);input.min_items:1