BAAI: bge-m3
BAAI BGE-M3 mendukung pencarian dense, sparse lexical, dan multi-vector dalam lebih dari 100 bahasa. Keluaran dense-nya memiliki 1024 dimensi, dan jendela 8192 tokennya menampung kalimat hingga dokumen yang lebih panjang tanpa instruksi kueri wajib.
Tentang model
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
BGE-M3 adalah model temu kembali multibahasa BAAI yang dirancang berdasarkan tiga bentuk keserbagunaan: berbagai fungsi temu kembali, berbagai bahasa, dan panjang masukan yang berbeda. Produsen mendokumentasikan dukungan untuk lebih dari seratus bahasa dan masukan hingga 8192 token. Model terpadunya dapat menyediakan vektor dense, bobot leksikal sparse, dan representasi multivektor, sehingga rancangan temu kembali dapat memilih atau menggabungkan lebih dari satu jenis bukti.
Tiga representasi untuk temu kembali
Mode dense memetakan teks menjadi satu vektor 1024 dimensi. Mode ini mendukung perbandingan makna yang diwakili kueri dan bagian teks. Mode sparse memberikan bobot pada token yang ada dalam teks untuk pencocokan leksikal. Mode multivektor merepresentasikan teks dengan beberapa vektor dan menggunakan interaksi bergaya ColBERT untuk membandingkan kueri dan dokumen pada tingkat yang lebih rinci.
Keluaran tersebut memiliki peran berbeda dalam indeks pencarian. Vektor dense memberikan satu representasi untuk bagian teks; pemetaan bobot token sparse mempertahankan sinyal leksikal; beberapa vektor menyediakan struktur perbandingan berbeda. Contoh produsen menunjukkan pengembalian representasi terpilih dan penghitungan skor untuk pasangan teks. Perlakukan representasi dan metode penilaian yang dipilih sebagai bagian yang ditetapkan secara sengaja dari tugas temu kembali.
Teks multibahasa dan persiapan masukan
BGE-M3 tidak memerlukan penambahan instruksi temu kembali yang digunakan model BGE sebelumnya. Siapkan kueri dan bagian sumber sebenarnya secara langsung. Koleksi pengetahuan multibahasa dapat mempertahankan setiap bagian dalam bahasa aslinya, bersama pengenal dokumen dan locale. Gunakan pertanyaan pengguna nyata dari campuran bahasa tujuan saat memeriksa hasil.
Tugas praktisnya adalah mencari penjelasan kebijakan, bantuan produk, atau dokumentasi teknis yang tersimpan dalam beberapa bahasa. Pertahankan nama, nomor model, dan istilah yang penting bagi pertanyaan. Representasi leksikal dapat membantu mempertahankan pencocokan pada istilah-istilah itu, sedangkan representasi dense memberikan bukti semantik. Bagian yang ditemukan harus mencakup teks dan lokasi sumber yang dapat diperiksa pembaca.
Dokumen lebih panjang dan tingkat perincian
Jendela masukan 8192 token memungkinkan model merepresentasikan materi dari kalimat singkat hingga dokumen yang lebih panjang. Pilih tingkat perincian berdasarkan jawaban yang seharusnya dikembalikan pencarian. Bagian lengkap dapat mempertahankan definisi dan pengecualiannya; bagian yang lebih kecil dapat memudahkan pencarian instruksi tertentu. Jendela panjang memungkinkan pilihan tersebut, tetapi vektor tetap terkait dengan materi yang benar-benar dikodekan.
Pertahankan hubungan setiap bagian dengan dokumen induk dan versinya. Untuk laporan panjang, simpan judul dan penjelasan di sekitar angka atau kesimpulan yang relevan. Jangan mengandalkan judul hasil pencarian saja ketika bukti berada dalam isi. Jika sumber berubah, simpan metadata yang cukup untuk memperbarui representasi temu kembali yang terkait.
Skor hibrida dan penggunaan berikutnya
Produsen menyarankan temu kembali hibrida yang diikuti tahap pemeringkatan ulang terpisah. Contohnya menghitung skor dense, sparse, dan multivektor serta membentuk kombinasi berbobot. Pilih kombinasi berdasarkan pertanyaan dan kosakata koleksi; bobot dalam contoh bukan pengaturan universal untuk setiap korpus.
Hasil yang berguna adalah himpunan kandidat dengan bagian sumber yang tetap tersedia, beserta representasi dan metode pemeringkatan yang dicatat. Reranker terpisah dapat memperbaiki himpunan tersebut, dan tahap pembangkitan teks terpisah dapat menggunakan isi bagian sumber. Kemampuan sparse dan multivektor BGE-M3 adalah mode model produsen; embedding dense, keluaran leksikal, dan skor pasangan merupakan artefak berbeda, bukan larik yang dapat saling dipertukarkan.
Ailoot Ultra · Embedding POST /v1/embeddings baai/bge-m3
baai/bge-m3Mulai
BAAI BGE-M3 mendukung pencarian dense, sparse lexical, dan multi-vector dalam lebih dari 100 bahasa. Keluaran dense-nya memiliki 1024 dimensi, dan jendela 8192 tokennya menampung kalimat hingga dokumen yang lebih panjang tanpa instruksi kueri wajib.
- Masukan yang diterima
- Teks · token_ids
- Hasil
- embedding
Tersedia di Ailoot · masukan & metode
Ailoot Ultra · Embedding POST /v1/embeddings
- Masukan
text,token_ids- Keluaran
embedding- Konteks
- 8.194 tokens
- Format keluaran
- json
| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan baai/bge-m3 | Bawaan— |
Kolominput | Jenisstring|string[]|integer[]|integer[][] | PersyaratanWajib | Nilai & batasan Item minimum: 1 Kondisi: Batch homogen yang tidak kosong. ID token berupa bilangan bulat nonnegatif. Anggaran masukan: Maksimum: 8.194 · Satuan teks: byte UTF8 · Satuan token: elemen array token | Bawaan— |
Kolomencoding_format | Jenisstring | PersyaratanOpsional | Nilai & batasan float | Bawaanfloat |
Kolomdimensions | Jenisinteger | PersyaratanTidak didukung | Nilai & batasan Minimum: 1 | Bawaan— |
Kolomuser | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomsession_id | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomtrace | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak | Bawaan— |
Kombinasi bahan masukan
text_to_embedding
Parameter metode dan siklus hidup
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, input |
Parameterinput_shapes | Kontrakstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Kontrakfloat |
Parameterdimensions_override | Kontrakfalse |
Parametermax_input_budget_units | Kontrak8194 |
Parametermultimodal_objects | Kontrakfalse |
Parametermaterial_types | Kontraktext, token_ids |
Siklus hidup: synchronous_json
Pertahankan index dan dimensi setiap vektor.
Nama model multimodal tidak mengizinkan objek gambar pada jalur persis ini.
Paket
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
- Mode Fast
- Tarif standar Saat mode fast dipilih
- Mode Flex
- Tarif standar Saat mode flex dipilih
- Upaya penalaran maksimum
- Tarif standar Saat upaya penalaran maksimum menggunakan penyesuaian default
Tarif Ailoot
Harga menurut konfigurasi
| Konfigurasi | Jadwal tarif | Biaya |
|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Biaya Masukan · Token masukan $0.00004 / 1K token Keluaran · Token keluaran $0 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
Contoh permintaan
Ailoot Ultra · Embedding
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "baai/bge-m3", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='baai/bge-m3',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Terima dan simpan hasil
Ailoot Ultra · Embedding
json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap vektor beserta index masing-masing. Jumlah vektor harus sama dengan jumlah input; dimensinya harus konsisten.
Jika respons asli perlu diperiksa
Endpoint untuk tugas embedding tidak ditambahkan.
Kolom respons
| Kolom | Jenis |
|---|---|
Kolomobject | Jenisstring |
Kolommodel | Jenisstring |
Kolomdata[].index | Jenisinteger |
Kolomdata[].embedding | Jenisfinite float[] |
Kolomusage | Jenisobject |
Kesalahan dan langkah berikutnya
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Alias
Alias model
Ailoot Ultra baai/bge-m3
Alias jalur metode
Gunakan jalur metode yang ditampilkan di atas.
ID pemanggil terkait
FAQ · BAAI: bge-m3
- Input dan hasil apa yang tersedia?
POST /v1/embeddings·baai/bge-m3:text,token_ids→embedding- Kolom apa yang digunakan permintaan?
POST /v1/embeddings·baai/bge-m3:model,input,encoding_format,provider- Batasan apa yang berlaku?
POST /v1/embeddings·baai/bge-m3:ctx:8194;input.budget.maximum:8194(byte UTF8);input.min_items:1