BAAI: bge-m3
BAAI BGE-M3 menyokong perolehan dense, sparse lexical dan multi-vector dalam lebih 100 bahasa. Output dense-nya mempunyai 1024 dimensi, dan tetingkap 8192 tokennya menampung ayat hingga dokumen lebih panjang tanpa arahan pertanyaan wajib.
Tentang model
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
BGE-M3 ialah model pemerolehan semula berbilang bahasa BAAI yang direka berdasarkan tiga jenis kepelbagaian: pelbagai fungsi pemerolehan semula, pelbagai bahasa dan panjang input berbeza. Pengeluar mendokumenkan sokongan untuk lebih daripada seratus bahasa dan input sehingga 8192 token. Model bersepadunya boleh menyediakan vektor padat, pemberat leksikal jarang dan perwakilan berbilang vektor, maka reka bentuk pemerolehan semula boleh memilih atau menggabungkan lebih daripada satu jenis bukti.
Tiga perwakilan untuk pemerolehan semula
Mod padat memetakan teks kepada satu vektor 1024 dimensi. Ia menyokong perbandingan makna yang diwakili oleh pertanyaan dan petikan. Mod jarang memberikan pemberat kepada token yang hadir dalam teks untuk pemadanan leksikal. Mod berbilang vektor mewakili teks dengan beberapa vektor dan menggunakan interaksi ala ColBERT untuk membandingkan pertanyaan dan dokumen pada peringkat lebih terperinci.
Output ini mempunyai peranan berbeza dalam indeks carian. Vektor padat menyediakan satu perwakilan untuk petikan; peta pemberat token jarang mengekalkan isyarat leksikal; beberapa vektor menyediakan struktur perbandingan berbeza. Contoh pengeluar menunjukkan pengembalian perwakilan terpilih dan pengiraan skor untuk pasangan teks. Jadikan perwakilan serta kaedah penskoran terpilih sebagai bahagian tugas pemerolehan semula yang ditentukan dengan sengaja.
Teks berbilang bahasa dan penyediaan input
BGE-M3 tidak memerlukan penambahan arahan pemerolehan semula yang digunakan model BGE terdahulu. Sediakan pertanyaan dan petikan sumber sebenar secara langsung. Koleksi pengetahuan berbilang bahasa boleh mengekalkan setiap petikan dalam bahasa asalnya, bersama pengecam dokumen dan locale. Gunakan soalan pengguna sebenar daripada campuran bahasa sasaran ketika memeriksa hasil.
Tugas praktikal ialah mencari penerangan dasar, bantuan produk atau dokumentasi teknikal yang disimpan dalam beberapa bahasa. Kekalkan nama, nombor model dan istilah yang penting bagi soalan. Perwakilan leksikal boleh membantu mengekalkan padanan istilah itu, manakala perwakilan padat membekalkan bukti semantik. Petikan yang diperoleh semula perlu merangkumi teks dan lokasi sumber yang boleh diperiksa pembaca.
Dokumen lebih panjang dan aras perincian
Tetingkap input 8192 token membolehkan model mewakili bahan daripada ayat pendek hingga dokumen lebih panjang. Pilih aras perincian berdasarkan jawapan yang patut dikembalikan carian. Bahagian lengkap boleh mengekalkan takrif dan pengecualiannya; petikan lebih kecil boleh memudahkan pencarian arahan tertentu. Tetingkap panjang memungkinkan pilihan itu, tetapi vektor tetap dikaitkan dengan bahan yang benar-benar dikodkan.
Pastikan setiap petikan dipautkan kepada dokumen induk dan versinya. Untuk laporan panjang, kekalkan tajuk dan penerangan sekeliling bagi angka atau kesimpulan berkaitan. Jangan bergantung pada tajuk hasil carian sahaja apabila bukti berada dalam isi. Jika sumber berubah, simpan metadata yang mencukupi untuk mengemas kini perwakilan pemerolehan semula yang sepadan.
Skor hibrid dan penggunaan hiliran
Pengeluar mengesyorkan pemerolehan semula hibrid diikuti peringkat penyusunan semula kedudukan yang berasingan. Contohnya mengira skor padat, jarang dan berbilang vektor serta membentuk gabungan berwajaran. Pilih gabungan berdasarkan soalan dan kosa kata koleksi; pemberat yang ditunjukkan dalam contoh bukan tetapan sejagat untuk setiap korpus.
Hasil berguna ialah set calon dengan petikan sumber yang kekal tersedia, bersama perwakilan dan kaedah penentuan kedudukan yang direkodkan. Penyusun semula kedudukan berasingan boleh memperhalus set itu dan peringkat penjanaan teks berasingan boleh menggunakan kandungan petikan. Keupayaan jarang dan berbilang vektor BGE-M3 ialah mod model pengeluar; embedding padat, output leksikal dan skor pasangan merupakan artifak berbeza, bukannya tatasusunan yang boleh saling ditukar ganti.
Ailoot Ultra · Pembenaman POST /v1/embeddings baai/bge-m3
baai/bge-m3Pengenalan
BAAI BGE-M3 menyokong perolehan dense, sparse lexical dan multi-vector dalam lebih 100 bahasa. Output dense-nya mempunyai 1024 dimensi, dan tetingkap 8192 tokennya menampung ayat hingga dokumen lebih panjang tanpa arahan pertanyaan wajib.
- Input yang diterima
- Teks · token_ids
- Hasil
- embedding
Tersedia di Ailoot · input & kaedah
Ailoot Ultra · Pembenaman POST /v1/embeddings
- Input
text,token_ids- Output
embedding- Konteks
- 8,194 tokens
- Format output
- json
| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had baai/bge-m3 | Lalai— |
Medaninput | Jenisstring|string[]|integer[]|integer[][] | KeperluanDiperlukan | Nilai & had Item minimum: 1 Syarat: Kelompok homogen yang tidak kosong. ID token ialah integer bukan negatif. Bajet input: Maksimum: 8,194 · Unit teks: bait UTF8 · Unit token: elemen tatasusunan token | Lalai— |
Medanencoding_format | Jenisstring | KeperluanPilihan | Nilai & had float | Lalaifloat |
Medandimensions | Jenisinteger | KeperluanTidak disokong | Nilai & had Minimum: 1 | Lalai— |
Medanuser | Jenisjson_value | KeperluanPilihan | Nilai & had Syarat: Sumber membenarkan medan metadata JSON ini; semantik tepat di pihak huluan bergantung pada model. | Lalai— |
Medansession_id | Jenisjson_value | KeperluanPilihan | Nilai & had Syarat: Sumber membenarkan medan metadata JSON ini; semantik tepat di pihak huluan bergantung pada model. | Lalai— |
Medantrace | Jenisjson_value | KeperluanPilihan | Nilai & had Syarat: Sumber membenarkan medan metadata JSON ini; semantik tepat di pihak huluan bergantung pada model. | Lalai— |
Medanprovider | Jenisobject | KeperluanPilihan | Nilai & had Syarat: provider.options ditolak | Lalai— |
Gabungan bahan input
text_to_embedding
Parameter kaedah dan kitar hayat
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, input |
Parameterinput_shapes | Kontrakstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Kontrakfloat |
Parameterdimensions_override | Kontrakfalse |
Parametermax_input_budget_units | Kontrak8194 |
Parametermultimodal_objects | Kontrakfalse |
Parametermaterial_types | Kontraktext, token_ids |
Kitar hayat: synchronous_json
Simpan setiap indeks dan dimensi vektor.
Nama model multimodal tidak bermakna objek imej dibenarkan pada laluan khusus ini.
Pelan harga
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
- Mod pantas
- Kadar standard Apabila mod pantas dipilih
- Mod flex
- Kadar standard Apabila mod flex dipilih
- Usaha penaakulan maksimum
- Kadar standard Apabila usaha penaakulan maksimum menggunakan pelarasan default
Kadar Ailoot
Harga mengikut konfigurasi
| Konfigurasi | Jadual kadar | Caj |
|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Caj Input · Token input $0.00004 / 1K token Output · Token output $0 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
Contoh permintaan
Ailoot Ultra · Pembenaman
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "baai/bge-m3", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='baai/bge-m3',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Terima dan simpan hasil
Ailoot Ultra · Pembenaman
json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Simpan setiap vektor bersama indeksnya. Bilangan vektor mesti sama dengan bilangan input; dimensi mesti konsisten.
Jika respons asal perlu disemak
Tiada titik akhir tugas pembenaman diperkenalkan.
Medan respons
| Medan | Jenis |
|---|---|
Medanobject | Jenisstring |
Medanmodel | Jenisstring |
Medandata[].index | Jenisinteger |
Medandata[].embedding | Jenisfinite float[] |
Medanusage | Jenisobject |
Ralat dan langkah seterusnya
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Alias
Alias model
Ailoot Ultra baai/bge-m3
Alias laluan kaedah
Gunakan laluan kaedah yang dipaparkan di atas.
ID pemanggil berkaitan
FAQ · BAAI: bge-m3
- Apakah input dan hasil yang tersedia?
POST /v1/embeddings·baai/bge-m3:text,token_ids→embedding- Apakah medan yang digunakan oleh permintaan?
POST /v1/embeddings·baai/bge-m3:model,input,encoding_format,provider- Apakah had yang terpakai?
POST /v1/embeddings·baai/bge-m3:ctx:8194;input.budget.maximum:8194(bait UTF8);input.min_items:1