Intfloat: E5-Large-v2
intfloat E5-Large-v2 mengodekan kueri dan bagian teks berbahasa Inggris sebagai vektor 1024 dimensi. Model 24 lapisannya menggunakan peran query/passage, mean pooling, dan batas masukan 512 token untuk pencarian, kemiripan semantik, serta fitur teks numerik.
Tentang model
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
E5-Large-v2 adalah model embedding teks bahasa Inggris intfloat dengan dua puluh empat lapisan dan keluaran 1024 dimensi. Model dirancang untuk merepresentasikan kueri dan bagian teks secara numerik bagi temu kembali dan tugas embedding lainnya. Konvensi persiapan E5 merupakan bagian dari pelatihannya: teks masukan membawa prefiks peran, dan representasi token terenkode digabungkan menjadi satu vektor untuk teks tersebut.
Nyatakan peran kueri dan bagian teks secara eksplisit
Untuk temu kembali asimetris, awali pertanyaan dengan “query:” dan teks korpus dengan “passage:”. Peran ini membedakan hal yang dicari pengguna dari materi yang mungkin menjawabnya. Untuk perbandingan simetris, pencarian parafrasa, pengelompokan, atau fitur klasifikasi, pembuat menyarankan “query:” pada teks yang akan dibuat embedding-nya.
Koleksi praktis dapat mengindeks penjelasan dukungan berbahasa Inggris. Siapkan pertanyaan seperti “query: What should I check before replacing the connector?” dan pasangkan dengan bagian sumber yang menjelaskan pemeriksaan serta pengecualian. Teks bagian sumber mempertahankan prefiks yang sesuai. Simpan pengenal sumber dan pilihan kata asli di samping setiap vektor agar hasil dapat mengembalikan materi yang perlu dibaca pengguna.
Prefiks bukan label hiasan yang dapat dihilangkan dari salah satu sisi tugas. Produsen menyatakan bahwa menghilangkannya menurunkan kinerja temu kembali karena model dilatih dengan persiapan tersebut. Terapkan peran yang dipilih secara konsisten saat membangun korpus dan saat kemudian membuat embedding kueri.
Mean pooling dan vektor yang dinormalisasi
Contoh pengodean resmi merata-ratakan representasi token sambil mengecualikan posisi padding menggunakan masker atensi. Kemudian vektor hasil dinormalisasi. Hasil kali titik antara vektor kueri dan bagian teks yang dinormalisasi memberikan kemiripan kosinus untuk mengurutkan kandidat. Resep mean pooling ini milik E5-Large-v2; resep pooling token pertama dari keluarga lain merupakan pilihan persiapan terpisah.
Sebanyak 1024 nilai keluaran membentuk embedding, bukan jawaban tertulis atau label kategori langsung. Tahap pencarian membandingkan nilai-nilai tersebut dengan representasi korpus yang kompatibel, dan tahap berikutnya menggunakan teks bagian terpilih. Jika vektor menjadi fitur pengelompokan atau pengklasifikasi, pertahankan hubungan setiap vektor dengan rekaman masukan yang fiturnya diwakili.
Teks bahasa Inggris dalam jendela
Kartu model menetapkan teks bahasa Inggris saja dan pemotongan masukan panjang hingga paling banyak 512 token. Buat setiap bagian dokumen tetap koheren dalam jendela tersebut, termasuk prefiks peran dan konteks sumber yang berguna. Manual panjang harus disiapkan sebagai bagian-bagian yang judul, kondisi, dan instruksinya dapat dipahami saat ditemukan secara terpisah.
Misalnya, klausa yang menjelaskan pengaturan mungkin membutuhkan definisi pengaturan tersebut dan pengecualian pada kalimat berikutnya. Pertahankan unit kecil itu bersama-sama alih-alih membaginya murni berdasarkan jumlah karakter. Simpan dokumen induk dan versi sumber bersama bagian teks agar pembaruan mengganti materi yang tepat.
Baca peringkat sebagai bukti temu kembali
Pembuat menjelaskan bahwa urutan skor kosinus lebih penting daripada nilai absolutnya. Skor tidak boleh ditafsirkan sebagai probabilitas terkalibrasi bahwa suatu bagian menjawab pertanyaan. Periksa bagian yang diketahui memuat jawaban dan materi tidak relevan di dekatnya saat menentukan jumlah hasil yang dipertahankan atau tempat menyaring himpunan kandidat.
Keluaran yang berguna adalah representasi korpus atau kueri, sinyal perbandingan semantik, atau fitur numerik untuk tugas lain. Checkpoint English Large v2 yang tepat ini tetap terpisah dari E5-Base-v2 dan Multilingual-E5-Large. Dimensi yang sama saja tidak membuat vektornya berada dalam ruang embedding bersama yang didokumentasikan.
Ailoot Ultra · Embedding POST /v1/embeddings intfloat/e5-large-v2
intfloat/e5-large-v2Mulai
intfloat E5-Large-v2 mengodekan kueri dan bagian teks berbahasa Inggris sebagai vektor 1024 dimensi. Model 24 lapisannya menggunakan peran query/passage, mean pooling, dan batas masukan 512 token untuk pencarian, kemiripan semantik, serta fitur teks numerik.
- Masukan yang diterima
- Teks · token_ids
- Hasil
- embedding
Tersedia di Ailoot · masukan & metode
Ailoot Ultra · Embedding POST /v1/embeddings
- Masukan
text,token_ids- Keluaran
embedding- Format keluaran
- json
| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan intfloat/e5-large-v2 | Bawaan— |
Kolominput | Jenisstring|string[]|integer[]|integer[][] | PersyaratanWajib | Nilai & batasan Item minimum: 1 Kondisi: Batch homogen yang tidak kosong. ID token berupa bilangan bulat nonnegatif. Anggaran masukan: Maksimum: 512 · Satuan teks: byte UTF8 · Satuan token: elemen array token | Bawaan— |
Kolomencoding_format | Jenisstring | PersyaratanOpsional | Nilai & batasan float | Bawaanfloat |
Kolomdimensions | Jenisinteger | PersyaratanTidak didukung | Nilai & batasan Minimum: 1 | Bawaan— |
Kolomuser | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomsession_id | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomtrace | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak | Bawaan— |
Kombinasi bahan masukan
text_to_embedding
Parameter metode dan siklus hidup
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, input |
Parameterinput_shapes | Kontrakstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Kontrakfloat |
Parameterdimensions_override | Kontrakfalse |
Parametermax_input_budget_units | Kontrak512 |
Parametermultimodal_objects | Kontrakfalse |
Parametermaterial_types | Kontraktext, token_ids |
Siklus hidup: synchronous_json
Pertahankan index dan dimensi setiap vektor.
Nama model multimodal tidak mengizinkan objek gambar pada jalur persis ini.
Paket
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
- Mode Fast
- Tidak ditentukan Saat mode fast dipilih
- Mode Flex
- Tidak ditentukan Saat mode flex dipilih
- Upaya penalaran maksimum
- Tidak ditentukan Saat upaya penalaran maksimum menggunakan penyesuaian default
Tarif Ailoot
Harga menurut konfigurasi
| Konfigurasi | Jadwal tarif | Biaya |
|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Biaya Masukan · Token masukan $0.00002 / 1K token Keluaran · Token keluaran $0 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
Contoh permintaan
Ailoot Ultra · Embedding
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "intfloat/e5-large-v2", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='intfloat/e5-large-v2',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Terima dan simpan hasil
Ailoot Ultra · Embedding
json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap vektor beserta index masing-masing. Jumlah vektor harus sama dengan jumlah input; dimensinya harus konsisten.
Jika respons asli perlu diperiksa
Endpoint untuk tugas embedding tidak ditambahkan.
Kolom respons
| Kolom | Jenis |
|---|---|
Kolomobject | Jenisstring |
Kolommodel | Jenisstring |
Kolomdata[].index | Jenisinteger |
Kolomdata[].embedding | Jenisfinite float[] |
Kolomusage | Jenisobject |
Kesalahan dan langkah berikutnya
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Alias
Alias model
Ailoot Ultra intfloat/e5-large-v2
Alias jalur metode
Gunakan jalur metode yang ditampilkan di atas.
ID pemanggil terkait
FAQ · Intfloat: E5-Large-v2
- Input dan hasil apa yang tersedia?
POST /v1/embeddings·intfloat/e5-large-v2:text,token_ids→embedding- Kolom apa yang digunakan permintaan?
POST /v1/embeddings·intfloat/e5-large-v2:model,input,encoding_format,provider- Batasan apa yang berlaku?
POST /v1/embeddings·intfloat/e5-large-v2:input.budget.maximum:512(byte UTF8);input.min_items:1