LiquidAI: LFM2.5-Embedding-350M (free)
LiquidAI LFM2.5-Embedding-350M menghasilkan satu vektor berdimensi 1024 per teks untuk pencarian multibahasa dan lintas bahasa. Model ini menargetkan 11 bahasa dan masukan singkat 512 token, dengan prefiks kueri/dokumen yang berbeda.
Tentang model
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
LFM2.5-Embedding-350M adalah bi-encoder dense LiquidAI untuk temu kembali multibahasa dan lintas bahasa. Model menghasilkan satu vektor 1024 dimensi untuk setiap teks dan menyasar pencarian berkonteks pendek dalam sebelas bahasa. Keluarga model bernama 350M menggunakan adaptasi dua arah LFM2.5-350M-Base; tabel model terperinci memberikan sekitar 354 juta parameter untuk edisi embedding ini.
Representasi temu kembali dua arah
Produsen mengadaptasi backbone agar atensi dan konvolusi lokal dapat menggunakan konteks pada kedua sisi token. Pooling bergaya CLS mengubah teks yang diproses menjadi satu vektor dense. Tabel model menjelaskan tujuh belas lapisan: sepuluh blok konvolusi, enam blok atensi, dan satu tahap pooling. Ini adalah encoder temu kembali dengan persiapan serta keluarannya sendiri, bukan tugas pembangkitan teks model dasar.
LFM2.5-ColBERT-350M yang dinamai terpisah mempertahankan vektor per token untuk interaksi akhir. Representasi tersebut membutuhkan indeks dan metode perbandingan berbeda. Model Embedding di sini memberikan satu vektor per dokumen atau kueri, dengan kemiripan kosinus sebagai perbandingan yang didokumentasikan.
Gunakan prompt asimetris yang tepat
Siapkan kueri pencarian dengan “query:” dan bagian sumber dengan “document:”. Produsen menyimpan prompt tersebut dalam konfigurasinya, dan alur rujukannya menerapkan nama prompt yang sesuai. Produsen secara khusus menyarankan peran yang sesuai pada setiap sisi karena model dilatih dengan prefiks tersebut. Prefiks dokumen ini berbeda dari konvensi “passage:” model E5.
Koleksi pencarian produk praktis dapat menyimpan deskripsi dalam bahasa yang didukung. Siapkan pilihan kata pencarian pengguna sebagai kueri dan setiap deskripsi produk sebagai dokumen. Simpan teks asli, pengenal produk, dan bahasa bersama vektor agar hasil pencarian dapat mengembalikan rekaman terkait. Untuk koleksi dukungan, pertahankan kebijakan atau instruksi yang relevan dengan pertanyaan alih-alih menggantinya dengan label pendek yang tidak terkait.
Bahasa dan ukuran bagian teks
Himpunan bahasa yang didokumentasikan adalah Inggris, Spanyol, Jerman, Prancis, Italia, Portugis, Arab, Swedia, Norwegia, Jepang, dan Korea. Produsen secara eksplisit menyasar temu kembali dalam satu bahasa maupun lintas batas bahasa. Siapkan pertanyaan nyata dari audiens tujuan dan periksa teks dokumen hasil dalam bahasa-bahasa tersebut.
Spesifikasi panjang dokumen adalah 512 token. Bagi sumber panjang menjadi bagian koheren yang mempertahankan judul, definisi, dan kondisi yang diperlukan hasil temu kembali. Prefiks peran dan konteks tambahan termasuk dalam masukan yang disiapkan. Jawaban FAQ, penjelasan produk, atau bagian terfokus dokumen teknis merupakan unit yang lebih sesuai daripada seluruh manual terlalu besar.
Pelatihan dan pencocokan
Pembuat menjelaskan tiga tahap pelatihan: prapelatihan kontrastif bahasa Inggris, distilasi multibahasa dan lintas bahasa, lalu fine-tuning dengan contoh negatif sulit hasil penambangan. Model hasilnya ditujukan untuk katalog produk, koleksi FAQ dan dukungan, pencarian berkas atau catatan, serta temu kembali pengetahuan perusahaan. Itu adalah tugas representasi teks, bukan klaim penerapan aplikasi tertentu.
Contoh produsen menormalisasi vektor kueri dan dokumen lalu memeringkatnya dengan hasil kali titik, setara kemiripan kosinus. Hitung representasi korpus terlebih dahulu ketika materi sumber disiapkan, lalu buat embedding kueri pencarian dan kembalikan dokumen kandidat bersama teks serta pengenalnya. Simpan model yang dipilih dan konvensi peran bersama indeks agar perbandingan numerik menggunakan representasi kompatibel.
Hasil yang berguna adalah indeks pencarian dense ringkas atau vektor kueri yang menemukan materi sumber dalam himpunan bahasa yang didokumentasikan. Edisi LFM2.5 Embedding yang tepat ini tetap terpisah dari model ColBERT pendamping, retriever LFM2 sebelumnya, dan implementasi terkuantisasi eksternal. Teks bagian terpilih adalah bukti yang digunakan pembaca atau tahap jawaban RAG berikutnya.
Ailoot Ultra · Embedding POST /v1/embeddings liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:freeMulai
LiquidAI LFM2.5-Embedding-350M menghasilkan satu vektor berdimensi 1024 per teks untuk pencarian multibahasa dan lintas bahasa. Model ini menargetkan 11 bahasa dan masukan singkat 512 token, dengan prefiks kueri/dokumen yang berbeda.
- Masukan yang diterima
- Teks · token_ids
- Hasil
- embedding
Tersedia di Ailoot · masukan & metode
Ailoot Ultra · Embedding POST /v1/embeddings
- Masukan
text,token_ids- Keluaran
embedding- Konteks
- 512 tokens
- Format keluaran
- json
| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan liquid/lfm-2.5-embedding-350m:free | Bawaan— |
Kolominput | Jenisstring|string[]|integer[]|integer[][] | PersyaratanWajib | Nilai & batasan Item minimum: 1 Kondisi: Batch homogen yang tidak kosong. ID token berupa bilangan bulat nonnegatif. Anggaran masukan: Maksimum: 512 · Satuan teks: byte UTF8 · Satuan token: elemen array token | Bawaan— |
Kolomencoding_format | Jenisstring | PersyaratanOpsional | Nilai & batasan float | Bawaanfloat |
Kolomdimensions | Jenisinteger | PersyaratanTidak didukung | Nilai & batasan Minimum: 1 | Bawaan— |
Kolomuser | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomsession_id | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomtrace | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak | Bawaan— |
Kombinasi bahan masukan
text_to_embedding
Parameter metode dan siklus hidup
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, input |
Parameterinput_shapes | Kontrakstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Kontrakfloat |
Parameterdimensions_override | Kontrakfalse |
Parametermax_input_budget_units | Kontrak512 |
Parametermultimodal_objects | Kontrakfalse |
Parametermaterial_types | Kontraktext, token_ids |
Siklus hidup: synchronous_json
Pertahankan index dan dimensi setiap vektor.
Nama model multimodal tidak mengizinkan objek gambar pada jalur persis ini.
Paket
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
- Mode Fast
- Tarif standar Saat mode fast dipilih
- Mode Flex
- Tarif standar Saat mode flex dipilih
- Upaya penalaran maksimum
- Tarif standar Saat upaya penalaran maksimum menggunakan penyesuaian default
Tarif Ailoot
Harga menurut konfigurasi
| Konfigurasi | Jadwal tarif | Biaya |
|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Biaya Masukan · Token masukan $0 / 1K token Keluaran · Token keluaran $0 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
Contoh permintaan
Ailoot Ultra · Embedding
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "liquid/lfm-2.5-embedding-350m:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='liquid/lfm-2.5-embedding-350m:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Terima dan simpan hasil
Ailoot Ultra · Embedding
json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap vektor beserta index masing-masing. Jumlah vektor harus sama dengan jumlah input; dimensinya harus konsisten.
Jika respons asli perlu diperiksa
Endpoint untuk tugas embedding tidak ditambahkan.
Kolom respons
| Kolom | Jenis |
|---|---|
Kolomobject | Jenisstring |
Kolommodel | Jenisstring |
Kolomdata[].index | Jenisinteger |
Kolomdata[].embedding | Jenisfinite float[] |
Kolomusage | Jenisobject |
Kesalahan dan langkah berikutnya
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Alias
Alias model
Ailoot Ultra liquid/lfm-2.5-embedding-350m:free
Alias jalur metode
Gunakan jalur metode yang ditampilkan di atas.
ID pemanggil terkait
FAQ · LiquidAI: LFM2.5-Embedding-350M (free)
- Input dan hasil apa yang tersedia?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:text,token_ids→embedding- Kolom apa yang digunakan permintaan?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:model,input,encoding_format,provider- Batasan apa yang berlaku?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:ctx:512;input.budget.maximum:512(byte UTF8);input.min_items:1