Mistral: Mistral Embed 2312
Mistral Embed 2312 tekstą paverčia 1024 matmenų vektoriais semantinei paieškai, informacijos paieškai ir susijusių tekstų analizei. Gamintojo puslapyje dokumentuotas 8k kontekstas; rezultatas yra su kiekviena įvestimi susietas skaitinis atvaizdas, o ne sugeneruotas atsakymas.
Apie modelį
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Mistral Embed 2312 yra Mistral AI teksto įterpinių modelis, skirtas reikšmei skaitiškai atvaizduoti. Jis priima teksto eilutę arba eilučių sąrašą ir kiekvienai įvesčiai grąžina įterpinį. Rezultatas yra vektorius, kurį programa naudoja panašumui vertinti, informacijai ieškoti, klasifikuoti ar grupuoti į klasterius, o ne pokalbio paaiškinimas. Konkrečiai modelio versijai skirtame gamintojo puslapyje nurodytas mistral-embed-2312.
Įvestis, kontekstas ir vektoriaus forma
Konkretaus modelio puslapyje dokumentuota 8k konteksto žyma. Kiekvieną teksto poziciją paruoškite neviršydami taikomos įvesties talpos ir saugokite jos tapatybę kartu su vektoriumi. Ilgą šaltinio dokumentą galima padalyti į naudingas ištraukas, išsaugant dokumento pavadinimą, skyrių ir vietą šaltinyje, kurių reikės vėliau norint grąžinti tinkamą medžiagą.
Gamintojo Mistral Embed vadove kiekvienam teksto įterpiniui nurodyti 1024 matmenys, nepriklausomai nuo matomos įvesties ilgio. Todėl trumpas klausimas ir ilgesnė ištrauka turi tokią pačią vektoriaus formą, nors jų turinys ir žetonų skaičius skiriasi. Tai išvesties reprezentacijos matmenų skaičius, o ne atsakymo žetonų biudžetas ar išsaugotų šaltinio žodžių kiekio matas.
Dokumentuotame atsake pateikiami įterpiniai ir žetonų naudojimo informacija; galinio taško pavyzdyje kiekvienas vektorius susiejamas su įvesties indeksu. Apdorodami kelis tekstus išsaugokite šį ryšį. Kad programa galėtų parodyti naudingą paieškos rezultatą arba pateikti šaltinio medžiagą vėlesniam veiksmui, jai reikia originalaus teksto ir jo identifikatorių bei skaitinio rezultato.
Semantinis panašumas
Vadove paaiškinama, kad susiję tekstai įterpinių erdvėje paprastai būna arti vienas kito. Tai padeda rasti ištraukas, kurios skirtingais žodžiais išreiškia tą pačią temą ar reikalavimą. Iliustracinėje žinių bazės užklausoje gali būti klausiama, kaip atkurti prieigą, o atitinkamoje procedūroje tai pačiai operacijai nusakyti vartojama kita frazė. Programa gali palyginti užklausos vektorių su saugomais ištraukų vektoriais, užuot pasikliovusi tik tikslia žodžių atitiktimi.
Gamintojo pavyzdžiuose naudojami iki vienetinės normos normalizuoti įterpiniai. Tokiems vektoriams kosinuso panašumas, skaliarinė sandauga ir Euklido atstumas pateikia suderintą panašumo rikiavimą, nors jų skaitinės reikšmės nėra tapačios. Pasirinkite vieną tinkamą palyginimo metodą ir nuosekliai taikykite jį užklausų ir dokumentų atvaizdams.
Panašumas neįrodo, kad du teiginiai yra tarpusavyje pakeičiami. Išsaugokite šaltinio tekstą ir patikrinkite klausimui svarbią sąlygą, datą ar identifikatorių. Dvi ištraukos gali būti ta pačia tema, bet aprašyti skirtingas procedūras ar išimtis. Įterpinys pateikia paieškos signalą; pasirinktos ištraukos interpretavimas yra atskira užduoties dalis.
Paieška ir šaltiniais pagrįsti atsakymai
Praktiniame dokumentų procese paruošiami žinių bazės ištraukų vektoriai, išsaugomi jų identifikatoriai ir originalus tekstas, o tada naujas klausimas lyginamas su šia kolekcija. Grąžinkite svarbias ištraukas su jų vietomis šaltiniuose. Programa gali šias ištraukas parodyti tiesiogiai arba pateikti jas teksto generavimo modeliui, kuris parašo rasta medžiaga pagrįstą atsakymą.
Kad paieškos rezultatas būtų naudingas, išsaugokite dokumento pavadinimą, skyrių, ištrauką ir identifikatorių, naudotą jai rasti. Tuomet pagalbos asistentas gali rasti naudotojo klausimui aktualią procedūrą ir perduoti ją atsakymo rašymo etapui. Mistral Embed atlieka skaitinio atvaizdavimo veiksmą; jis pats neparengia galutinio paaiškinimo ir nevykdo išorinio veiksmo.
Kiti dokumentuoti naudojimo būdai
Gamintojas tarp įterpinių naudojimo procesų taip pat nurodo perfrazavimo aptikimą, klasifikavimą, grupavimą į klasterius ir paketinį apdorojimą. Palyginimo užduotis gali rasti susijusios reikšmės ištraukas peržiūrai. Klasifikavimo procese įvestį galima palyginti su pažymėtais pavyzdžiais arba vektorius naudoti kaip požymius atskiram klasifikatoriui. Grupavimo į klasterius procese panašias pozicijas galima sugrupuoti, kad vėliau jas aprašytų žmogus arba programos lygmens veiksmas.
Prieš ruošdami duomenis apibrėžkite reprezentacijos paskirtį. Semantinei paieškai naudojama ištrauka turėtų išsaugoti informaciją, kurios kam nors reikės ją radus; klasifikavimo pavyzdyje turėtų būti formuluotė, išskirianti klasę. Išlaikykite nuoseklų paruošimą, kad užklausa ir saugoma pozicija atvaizduotų palyginamą medžiagą.
Versijos ir išvesties ribos
Dokumentams ir jų užklausoms naudokite tą pačią modelio versiją ir suderinamą reprezentaciją. Kito modelio vektorius su tokiu pačiu koordinačių skaičiumi automatiškai nepriklauso tai pačiai semantinei erdvei. Pakeitus modelį ar reprezentaciją, saugomos pozicijos ir užklausos turi likti suderintos.
Šiame įraše aprašoma teksto įvestis ir skaitinių vektorių išvestis, su gamintojo nurodytu 8k kontekstu ir dokumentuota 1024 matmenų Mistral Embed reprezentacija. Konfigūruojami Codestral Embed matmenys ir kvantuoti formatai priklauso tam atskirai pavadintam kodo modeliui ir čia neturėtų būti numanomi. Vaizdai, garsas, generuotas tekstas ir įrankių vykdymas yra atskiros galimybės už šio teksto įterpinių rezultato ribų.
Ailoot Ultra · Įterpiniai POST /v1/embeddings mistralai/mistral-embed-2312
mistralai/mistral-embed-2312Pradžia
Mistral Embed 2312 tekstą paverčia 1024 matmenų vektoriais semantinei paieškai, informacijos paieškai ir susijusių tekstų analizei. Gamintojo puslapyje dokumentuotas 8k kontekstas; rezultatas yra su kiekviena įvestimi susietas skaitinis atvaizdas, o ne sugeneruotas atsakymas.
- Leidžiamos įvestys
- Tekstas · token_ids
- Rezultatai
- embedding
Prieinama Ailoot · įvestys ir metodai
Ailoot Ultra · Įterpiniai POST /v1/embeddings
- Įvestis
text,token_ids- Išvestis
embedding- Kontekstas
- 8 192 tokens
- Išvesties formatas
- json
| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos mistralai/mistral-embed-2312 | Numatyta— |
Laukasinput | Tipasstring|string[]|integer[]|integer[][] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 Sąlygos: Netuščias vienalyčių įvesčių paketas. Žetonų ID yra neneigiami sveikieji skaičiai. Įvesties biudžetas: Didžiausia reikšmė: 8 192 · Teksto vienetas: UTF8 baitai · Tokenų vienetas: žetonų masyvo elementai | Numatyta— |
Laukasencoding_format | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos float | Numatytafloat |
Laukasdimensions | Tipasinteger | ReikalavimasNepalaikoma | Reikšmės ir ribos Mažiausia reikšmė: 1 | Numatyta— |
Laukasuser | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukassession_id | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukastrace | Tipasjson_value | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: Šaltinis leidžia šį JSON metaduomenų lauką; tiksli jo reikšmė tiekėjo sistemoje priklauso nuo modelio. | Numatyta— |
Laukasprovider | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: provider.options atmetamas | Numatyta— |
Įvesties medžiagos deriniai
text_to_embedding
Metodo parametrai ir gyvavimo ciklas
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, input |
Parametrasinput_shapes | Specifikacijastring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrasencoding_format | Specifikacijafloat |
Parametrasdimensions_override | Specifikacijafalse |
Parametrasmax_input_budget_units | Specifikacija8192 |
Parametrasmultimodal_objects | Specifikacijafalse |
Parametrasmaterial_types | Specifikacijatext, token_ids |
Gyvavimo ciklas: synchronous_json
Išsaugokite kiekvieną vektoriaus indeksą ir matmenį.
Tai, kad modelio pavadinimas nurodo multimodalumą, nereiškia, jog šiuo konkrečiu keliu priimami vaizdų objektai.
Planai
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
- Spartusis režimas
- Standartinis įkainis Pasirinkus spartųjį režimą
- Flex režimas
- Standartinis įkainis Pasirinkus flex režimą
- Didžiausios samprotavimo pastangos
- Standartinis įkainis Kai didžiausioms samprotavimo pastangoms taikomas numatytasis koregavimas (default)
Ailoot įkainiai
Kainos pagal konfigūraciją
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.0002 / 1K tokenų Išvestis · Išvesties tokenai $0 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
Užklausų pavyzdžiai
Ailoot Ultra · Įterpiniai
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "mistralai/mistral-embed-2312", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='mistralai/mistral-embed-2312',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Gauti ir išsaugoti rezultatus
Ailoot Ultra · Įterpiniai
json
Išsaugoti visus baigtus rezultatus
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną vektorių su jo indeksu. Vektorių skaičius turi sutapti su įvesčių skaičiumi; jų matmenų skaičius turi būti vienodas.
Jei reikia patikrinti pradinį atsakymą
Vektorių generavimo užduotims atskiras API galinis taškas neįvedamas.
Atsakymo laukai
| Laukas | Tipas |
|---|---|
Laukasobject | Tipasstring |
Laukasmodel | Tipasstring |
Laukasdata[].index | Tipasinteger |
Laukasdata[].embedding | Tipasfinite float[] |
Laukasusage | Tipasobject |
Klaidos ir tolesni veiksmai
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Pseudonimai
Modelių pseudonimai
Ailoot Ultra mistralai/mistral-embed-2312
Metodų kelių pseudonimai
Naudokite aukščiau nurodytus metodų kelius.
Susiję ID iškvietimui
FAQ · Mistral: Mistral Embed 2312
- Kokios įvestys ir rezultatai prieinami?
POST /v1/embeddings·mistralai/mistral-embed-2312:text,token_ids→embedding- Kokius laukus naudoja užklausa?
POST /v1/embeddings·mistralai/mistral-embed-2312:model,input,encoding_format,provider- Kokie apribojimai taikomi?
POST /v1/embeddings·mistralai/mistral-embed-2312:ctx:8192;input.budget.maximum:8192(UTF8 baitai);input.min_items:1