LiquidAI: LFM2.5-Embedding-350M (free)
LiquidAI LFM2.5-Embedding-350M menghasilkan satu vektor 1024 dimensi bagi setiap teks untuk carian berbilang bahasa dan rentas bahasa. Model ini menyasarkan 11 bahasa dan input pendek 512 token, dengan awalan pertanyaan/dokumen yang berbeza.
Tentang model
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
LFM2.5-Embedding-350M ialah bi-encoder padat LiquidAI untuk pemerolehan semula berbilang bahasa dan merentas bahasa. Ia menghasilkan satu vektor 1024 dimensi bagi setiap teks dan menyasarkan carian berkonteks pendek merentas sebelas bahasa. Keluarga model bernama 350M menggunakan penyesuaian dwihala LFM2.5-350M-Base; jadual model terperinci memberikan kira-kira 354 juta parameter untuk edisi embedding ini.
Perwakilan pemerolehan semula dwihala
Pengeluar menyesuaikan seni bina asas supaya perhatian dan konvolusi setempat boleh menggunakan konteks pada kedua-dua sisi token. Pooling gaya CLS menukarkan teks diproses kepada satu vektor padat. Jadual model menerangkan tujuh belas lapisan: sepuluh blok konvolusi, enam blok perhatian dan satu peringkat pooling. Ini pengekod pemerolehan semula dengan penyediaan serta output sendiri, bukannya tugas penjanaan teks model asas.
LFM2.5-ColBERT-350M yang dinamakan secara berasingan mengekalkan vektor setiap token untuk interaksi lewat. Perwakilan itu memerlukan indeks dan kaedah perbandingan berbeza. Model Embedding di sini membekalkan satu vektor bagi setiap dokumen atau pertanyaan, dengan keserupaan kosinus sebagai perbandingan yang didokumenkan.
Gunakan prompt tidak simetri yang betul
Sediakan pertanyaan carian dengan “query:” dan petikan sumber dengan “document:”. Pengeluar menyimpan prompt itu dalam konfigurasi dan aliran kerja rujukannya menggunakan nama prompt yang sepadan. Ia secara khusus mengesyorkan peranan yang sepadan pada setiap sisi kerana model dilatih dengan awalan tersebut. Awalan dokumen ini berbeza daripada konvensyen “passage:” model E5.
Koleksi carian produk praktikal boleh menyimpan penerangan dalam bahasa yang disokong. Sediakan ungkapan carian pengguna sebagai pertanyaan dan setiap penerangan produk sebagai dokumen. Simpan teks asal, pengecam produk dan bahasa bersama vektor supaya hasil carian dapat mengembalikan rekod yang sepadan. Untuk koleksi sokongan, kekalkan dasar atau arahan yang relevan kepada soalan, bukannya menggantikannya dengan label pendek yang tidak berkaitan.
Bahasa dan saiz petikan
Set bahasa yang didokumenkan ialah bahasa Inggeris, Sepanyol, Jerman, Perancis, Itali, Portugis, Arab, Sweden, Norway, Jepun dan Korea. Pengeluar secara jelas menyasarkan pemerolehan semula dalam satu bahasa serta merentas sempadan bahasa. Sediakan soalan sebenar daripada khalayak sasaran dan periksa teks dokumen yang dikembalikan dalam bahasa tersebut.
Spesifikasi panjang dokumen ialah 512 token. Bahagikan sumber panjang kepada petikan koheren yang mengekalkan tajuk, takrif dan syarat yang diperlukan hasil pemerolehan semula. Awalan peranan dan konteks tambahan tergolong dalam input yang disediakan. Jawapan FAQ, penerangan produk atau bahagian terfokus dokumen teknikal ialah unit lebih sesuai daripada seluruh manual terlalu besar.
Latihan dan pemadanan
Pembuat menerangkan tiga peringkat latihan: pralatihan kontrastif bahasa Inggeris, penyulingan berbilang bahasa dan merentas bahasa, kemudian penalaan halus dengan contoh negatif sukar yang dilombong. Model hasil ditujukan untuk katalog produk, koleksi FAQ dan sokongan, carian fail atau nota serta pemerolehan semula pengetahuan perusahaan. Itu tugas untuk perwakilan teks, bukan dakwaan penggunaan sebenar aplikasi tertentu.
Contoh pengeluar menormalkan vektor pertanyaan dan dokumen serta menyusunnya mengikut hasil darab titik, bersamaan keserupaan kosinus. Kirakan terlebih dahulu perwakilan korpus apabila bahan sumber disediakan, kemudian hasilkan embedding pertanyaan carian dan kembalikan dokumen calon bersama teks serta pengecamnya. Simpan model terpilih dan konvensyen peranan bersama indeks supaya perbandingan berangka menggunakan perwakilan serasi.
Hasil berguna ialah indeks carian padat kompak atau vektor pertanyaan yang mendapatkan bahan sumber merentas set bahasa yang didokumenkan. Edisi LFM2.5 Embedding tepat ini kekal berasingan daripada pendamping ColBERT, pemeroleh semula LFM2 terdahulu dan pelaksanaan terkuantum luaran. Teks petikan terpilih ialah bukti yang digunakan pembaca atau peringkat jawapan RAG kemudian.
Ailoot Ultra · Pembenaman POST /v1/embeddings liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:freePengenalan
LiquidAI LFM2.5-Embedding-350M menghasilkan satu vektor 1024 dimensi bagi setiap teks untuk carian berbilang bahasa dan rentas bahasa. Model ini menyasarkan 11 bahasa dan input pendek 512 token, dengan awalan pertanyaan/dokumen yang berbeza.
- Input yang diterima
- Teks · token_ids
- Hasil
- embedding
Tersedia di Ailoot · input & kaedah
Ailoot Ultra · Pembenaman POST /v1/embeddings
- Input
text,token_ids- Output
embedding- Konteks
- 512 tokens
- Format output
- json
| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had liquid/lfm-2.5-embedding-350m:free | Lalai— |
Medaninput | Jenisstring|string[]|integer[]|integer[][] | KeperluanDiperlukan | Nilai & had Item minimum: 1 Syarat: Kelompok homogen yang tidak kosong. ID token ialah integer bukan negatif. Bajet input: Maksimum: 512 · Unit teks: bait UTF8 · Unit token: elemen tatasusunan token | Lalai— |
Medanencoding_format | Jenisstring | KeperluanPilihan | Nilai & had float | Lalaifloat |
Medandimensions | Jenisinteger | KeperluanTidak disokong | Nilai & had Minimum: 1 | Lalai— |
Medanuser | Jenisjson_value | KeperluanPilihan | Nilai & had Syarat: Sumber membenarkan medan metadata JSON ini; semantik tepat di pihak huluan bergantung pada model. | Lalai— |
Medansession_id | Jenisjson_value | KeperluanPilihan | Nilai & had Syarat: Sumber membenarkan medan metadata JSON ini; semantik tepat di pihak huluan bergantung pada model. | Lalai— |
Medantrace | Jenisjson_value | KeperluanPilihan | Nilai & had Syarat: Sumber membenarkan medan metadata JSON ini; semantik tepat di pihak huluan bergantung pada model. | Lalai— |
Medanprovider | Jenisobject | KeperluanPilihan | Nilai & had Syarat: provider.options ditolak | Lalai— |
Gabungan bahan input
text_to_embedding
Parameter kaedah dan kitar hayat
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, input |
Parameterinput_shapes | Kontrakstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Kontrakfloat |
Parameterdimensions_override | Kontrakfalse |
Parametermax_input_budget_units | Kontrak512 |
Parametermultimodal_objects | Kontrakfalse |
Parametermaterial_types | Kontraktext, token_ids |
Kitar hayat: synchronous_json
Simpan setiap indeks dan dimensi vektor.
Nama model multimodal tidak bermakna objek imej dibenarkan pada laluan khusus ini.
Pelan harga
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
- Mod pantas
- Kadar standard Apabila mod pantas dipilih
- Mod flex
- Kadar standard Apabila mod flex dipilih
- Usaha penaakulan maksimum
- Kadar standard Apabila usaha penaakulan maksimum menggunakan pelarasan default
Kadar Ailoot
Harga mengikut konfigurasi
| Konfigurasi | Jadual kadar | Caj |
|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Caj Input · Token input $0 / 1K token Output · Token output $0 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
Contoh permintaan
Ailoot Ultra · Pembenaman
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "liquid/lfm-2.5-embedding-350m:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='liquid/lfm-2.5-embedding-350m:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Terima dan simpan hasil
Ailoot Ultra · Pembenaman
json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Simpan setiap vektor bersama indeksnya. Bilangan vektor mesti sama dengan bilangan input; dimensi mesti konsisten.
Jika respons asal perlu disemak
Tiada titik akhir tugas pembenaman diperkenalkan.
Medan respons
| Medan | Jenis |
|---|---|
Medanobject | Jenisstring |
Medanmodel | Jenisstring |
Medandata[].index | Jenisinteger |
Medandata[].embedding | Jenisfinite float[] |
Medanusage | Jenisobject |
Ralat dan langkah seterusnya
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Alias
Alias model
Ailoot Ultra liquid/lfm-2.5-embedding-350m:free
Alias laluan kaedah
Gunakan laluan kaedah yang dipaparkan di atas.
ID pemanggil berkaitan
FAQ · LiquidAI: LFM2.5-Embedding-350M (free)
- Apakah input dan hasil yang tersedia?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:text,token_ids→embedding- Apakah medan yang digunakan oleh permintaan?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:model,input,encoding_format,provider- Apakah had yang terpakai?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:ctx:512;input.budget.maximum:512(bait UTF8);input.min_items:1