Intfloat: E5-Large-v2
intfloat E5-Large-v2 mengekod pertanyaan dan petikan bahasa Inggeris sebagai vektor 1024 dimensi. Model 24 lapisannya menggunakan peranan query/passage, mean pooling dan had input 512 token untuk carian, keserupaan semantik dan ciri teks berangka.
Tentang model
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
E5-Large-v2 ialah model embedding teks bahasa Inggeris intfloat dengan dua puluh empat lapisan dan output 1024 dimensi. Ia direka untuk mewakili pertanyaan dan petikan secara berangka bagi pemerolehan semula dan tugas embedding lain. Konvensyen penyediaan E5 merupakan sebahagian daripada latihannya: teks input membawa awalan peranan, dan perwakilan token terenkod digabungkan menjadi satu vektor untuk teks tersebut.
Nyatakan peranan pertanyaan dan petikan dengan jelas
Untuk pemerolehan semula tidak simetri, mulakan soalan dengan “query:” dan teks korpus dengan “passage:”. Peranan ini membezakan perkara yang dicari pengguna daripada bahan yang mungkin menjawabnya. Untuk perbandingan simetri, carian parafrasa, pengelompokan atau ciri pengelasan, pembuat mengesyorkan “query:” bagi teks yang dihasilkan embeddingnya.
Koleksi praktikal boleh mengindeks penerangan sokongan bahasa Inggeris. Sediakan soalan seperti “query: What should I check before replacing the connector?” dan padankannya dengan petikan sumber yang menerangkan semakan serta pengecualian. Teks petikan mengekalkan awalan yang sepadan. Simpan pengecam sumber dan ungkapan asal di sisi setiap vektor supaya hasil dapat mengembalikan bahan yang perlu dibaca pengguna.
Awalan bukan label hiasan untuk dibuang daripada salah satu bahagian tugas. Pengeluar menyatakan bahawa penggugurannya menurunkan prestasi pemerolehan semula kerana model dilatih dengan penyediaan tersebut. Gunakan peranan terpilih secara konsisten ketika membina korpus dan ketika menghasilkan embedding pertanyaan kemudian.
Mean pooling dan vektor ternormal
Contoh pengekodan rasmi mempuratakan perwakilan token sambil mengecualikan kedudukan padding dengan topeng perhatian. Kemudian ia menormalkan vektor hasil. Hasil darab titik antara vektor pertanyaan dan petikan ternormal memberikan keserupaan kosinus untuk menyusun calon. Resipi mean pooling ini khusus untuk E5-Large-v2; resipi pooling token pertama daripada keluarga lain ialah pilihan penyediaan berasingan.
Sebanyak 1024 nilai output membentuk embedding, bukan jawapan bertulis atau label kategori langsung. Peringkat carian membandingkan nilai itu dengan perwakilan korpus yang serasi dan peringkat kemudian menggunakan teks petikan terpilih. Jika vektor digunakan sebagai ciri pengelompokan atau pengelas, kekalkan perkaitan antara setiap vektor dengan rekod input yang cirinya diwakili.
Teks bahasa Inggeris dalam tetingkap
Kad model menetapkan teks bahasa Inggeris sahaja dan pemotongan input panjang kepada paling banyak 512 token. Pastikan setiap petikan dokumen koheren dalam tetingkap itu, termasuk awalan peranan dan konteks sumber yang berguna. Manual panjang perlu disediakan sebagai bahagian dengan tajuk, syarat dan arahan yang dapat difahami apabila diperoleh semula secara berasingan.
Contohnya, klausa yang menerangkan tetapan mungkin memerlukan takrif tetapan tersebut dan pengecualian dalam ayat berikutnya. Kekalkan unit kecil itu bersama-sama, bukannya memisahkan semata-mata mengikut bilangan aksara. Simpan dokumen induk dan versi sumber bersama petikan supaya kemas kini menggantikan bahan yang betul.
Tafsir kedudukan sebagai bukti pemerolehan semula
Pembuat menerangkan bahawa urutan skor kosinus lebih penting daripada nilai mutlaknya. Skor tidak patut ditafsirkan sebagai kebarangkalian terkalibrasi bahawa petikan menjawab soalan. Periksa petikan yang diketahui mengandungi jawapan serta bahan tidak berkaitan yang berdekatan ketika memilih bilangan hasil untuk disimpan atau tempat menapis set calon.
Output berguna ialah perwakilan korpus atau pertanyaan, isyarat perbandingan semantik atau ciri berangka untuk tugas lain. Checkpoint English Large v2 tepat ini kekal berasingan daripada E5-Base-v2 dan Multilingual-E5-Large. Dimensi yang sepadan sahaja tidak menjadikan vektornya ruang embedding bersama yang didokumenkan.
Ailoot Ultra · Pembenaman POST /v1/embeddings intfloat/e5-large-v2
intfloat/e5-large-v2Pengenalan
intfloat E5-Large-v2 mengekod pertanyaan dan petikan bahasa Inggeris sebagai vektor 1024 dimensi. Model 24 lapisannya menggunakan peranan query/passage, mean pooling dan had input 512 token untuk carian, keserupaan semantik dan ciri teks berangka.
- Input yang diterima
- Teks · token_ids
- Hasil
- embedding
Tersedia di Ailoot · input & kaedah
Ailoot Ultra · Pembenaman POST /v1/embeddings
- Input
text,token_ids- Output
embedding- Format output
- json
| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had intfloat/e5-large-v2 | Lalai— |
Medaninput | Jenisstring|string[]|integer[]|integer[][] | KeperluanDiperlukan | Nilai & had Item minimum: 1 Syarat: Kelompok homogen yang tidak kosong. ID token ialah integer bukan negatif. Bajet input: Maksimum: 512 · Unit teks: bait UTF8 · Unit token: elemen tatasusunan token | Lalai— |
Medanencoding_format | Jenisstring | KeperluanPilihan | Nilai & had float | Lalaifloat |
Medandimensions | Jenisinteger | KeperluanTidak disokong | Nilai & had Minimum: 1 | Lalai— |
Medanuser | Jenisjson_value | KeperluanPilihan | Nilai & had Syarat: Sumber membenarkan medan metadata JSON ini; semantik tepat di pihak huluan bergantung pada model. | Lalai— |
Medansession_id | Jenisjson_value | KeperluanPilihan | Nilai & had Syarat: Sumber membenarkan medan metadata JSON ini; semantik tepat di pihak huluan bergantung pada model. | Lalai— |
Medantrace | Jenisjson_value | KeperluanPilihan | Nilai & had Syarat: Sumber membenarkan medan metadata JSON ini; semantik tepat di pihak huluan bergantung pada model. | Lalai— |
Medanprovider | Jenisobject | KeperluanPilihan | Nilai & had Syarat: provider.options ditolak | Lalai— |
Gabungan bahan input
text_to_embedding
Parameter kaedah dan kitar hayat
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, input |
Parameterinput_shapes | Kontrakstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Kontrakfloat |
Parameterdimensions_override | Kontrakfalse |
Parametermax_input_budget_units | Kontrak512 |
Parametermultimodal_objects | Kontrakfalse |
Parametermaterial_types | Kontraktext, token_ids |
Kitar hayat: synchronous_json
Simpan setiap indeks dan dimensi vektor.
Nama model multimodal tidak bermakna objek imej dibenarkan pada laluan khusus ini.
Pelan harga
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
- Mod pantas
- Tidak dinyatakan Apabila mod pantas dipilih
- Mod flex
- Tidak dinyatakan Apabila mod flex dipilih
- Usaha penaakulan maksimum
- Tidak dinyatakan Apabila usaha penaakulan maksimum menggunakan pelarasan default
Kadar Ailoot
Harga mengikut konfigurasi
| Konfigurasi | Jadual kadar | Caj |
|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Caj Input · Token input $0.00002 / 1K token Output · Token output $0 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
Contoh permintaan
Ailoot Ultra · Pembenaman
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "intfloat/e5-large-v2", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='intfloat/e5-large-v2',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Terima dan simpan hasil
Ailoot Ultra · Pembenaman
json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Simpan setiap vektor bersama indeksnya. Bilangan vektor mesti sama dengan bilangan input; dimensi mesti konsisten.
Jika respons asal perlu disemak
Tiada titik akhir tugas pembenaman diperkenalkan.
Medan respons
| Medan | Jenis |
|---|---|
Medanobject | Jenisstring |
Medanmodel | Jenisstring |
Medandata[].index | Jenisinteger |
Medandata[].embedding | Jenisfinite float[] |
Medanusage | Jenisobject |
Ralat dan langkah seterusnya
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Alias
Alias model
Ailoot Ultra intfloat/e5-large-v2
Alias laluan kaedah
Gunakan laluan kaedah yang dipaparkan di atas.
ID pemanggil berkaitan
FAQ · Intfloat: E5-Large-v2
- Apakah input dan hasil yang tersedia?
POST /v1/embeddings·intfloat/e5-large-v2:text,token_ids→embedding- Apakah medan yang digunakan oleh permintaan?
POST /v1/embeddings·intfloat/e5-large-v2:model,input,encoding_format,provider- Apakah had yang terpakai?
POST /v1/embeddings·intfloat/e5-large-v2:input.budget.maximum:512(bait UTF8);input.min_items:1