Sentence Transformers: multi-qa-mpnet-base-dot-v1
Sentence Transformers multi-qa-mpnet-base-dot-v1 mengekod soalan dan petikan kepada vektor 768 dimensi untuk carian semantik. Ia menggunakan pooling CLS dan embedding tidak ternormal yang direka untuk penskoran hasil darab titik, dengan had input 512 unit word piece.
Tentang model
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
multi-qa-mpnet-base-dot-v1 ialah model Sentence Transformers yang direka untuk mendapatkan petikan teks bagi soalan atau pertanyaan. Latihannya menggunakan kira-kira 215 juta pasangan soalan–jawapan. Setiap input menjadi vektor padat 768 dimensi, dengan pooling CLS dan penskoran hasil darab titik menentukan edisi tepat ini.
Sediakan soalan dan petikan calon
Tulis pertanyaan sebagai keperluan maklumat dan sediakan entri korpus sebagai petikan teks yang boleh dibaca. Contohnya, soalan tentang menukar alamat penghantaran boleh dibandingkan dengan perenggan berasingan tentang perubahan alamat, pembatalan pesanan dan penjejakan penghantaran. Kekalkan syarat berkaitan dalam petikan perubahan alamat, termasuk sama ada pesanan sudah dihantar.
Kodkan pertanyaan dan petikan menggunakan model yang sama ini. Contoh yang diterbitkan melakukannya secara langsung, tanpa awalan query/document, dan menyusun petikan mengikut skor hasil darab titiknya. Pastikan setiap vektor dipautkan kepada petikan asal dan pengecam dokumen supaya hasil berperingkat dapat menunjukkan bahan yang benar-benar diindeks.
Pooling CLS dan edisi hasil darab titik
Kaedah rujukan model mengambil perwakilan token pertama, dikenali sebagai pooling CLS. Jadual teknikalnya secara jelas menyatakan bahawa embedding tidak dinormalkan dan menyenaraikan hasil darab titik sebagai fungsi penskoran yang sesuai. Kekalkan kaedah itu ketika menyediakan koleksi dan bahagian pertanyaan.
Penormalan L2 vektor ini mengubah geometri penskorannya. Profil all-mpnet-base-v2 ternormal menggunakan kaedah berbeza dan ialah checkpoint berasingan, walaupun berkongsi keluarga MPNet dan output 768 komponen. Simpan edisi tepat dan fungsi perbandingan bersama koleksi tersimpan, bukannya memilihnya berdasarkan panjang vektor sahaja.
Had panjang dan petikan lebih panjang
Had input yang dinyatakan ialah 512 unit word piece; teks lebih panjang dipotong. Pembuat turut menyatakan bahawa input latihan hanya mencapai 250 unit word piece dan teks lebih panjang mungkin berfungsi kurang baik. Oleh itu, panjang yang diterima tokenizer dan batasan panjang latihan menerangkan sempadan praktikal berbeza.
Untuk artikel bantuan besar, sediakan bahagian pendek yang menjawab soalan khusus. Kekalkan tajuk apabila ia mengenal pasti topik dan simpan peraturan bersama pengecualian yang diperlukan untuk membacanya dengan betul. Satu input halaman penuh mungkin kehilangan bahan kemudian akibat pemotongan, manakala fragmen terlalu kecil boleh kehilangan syarat yang menjadikannya berguna.
Gunakan kedudukan dalam pemerolehan semula dan RAG
Vektor padat menyokong peringkat pemerolehan semula awal. Kembalikan petikan calon berskor tertinggi bersama rujukan sumbernya, kemudian periksa sama ada petikan menjawab soalan sebenar. Dalam aliran kerja RAG, berikan petikan itu kepada peringkat penulisan jawapan sebagai bahan sumber; pemerolehan semula sendiri tidak mengarang jawapan.
Gunakan soalan yang mewakili tugas dengan petikan relevan yang diketahui untuk memilih bilangan hasil dan menilai kedudukan. Sertakan contoh dengan kosa kata serupa tetapi niat berbeza, seperti mengubah alamat berbanding melihat alamat semasa. Tafsir skor secara relatif terhadap calon di bawah model dan tetapan penskoran yang sama, bukannya sebagai kebarangkalian ketepatan terkalibrasi.
Output berguna checkpoint ini ialah ruang embedding soalan dan petikan untuk carian semantik. Vektor tidak ternormal, pooling CLS, skor hasil darab titik dan batasan input panjang yang diterbitkan ialah perincian yang perlu dikekalkan ketika menyediakan dan menggunakan hasil.
Ailoot Ultra · Pembenaman POST /v1/embeddings sentence-transformers/multi-qa-mpnet-base-dot-v1
sentence-transformers/multi-qa-mpnet-base-dot-v1
sentence-transformers/multi-qa-mpnet-base-dot-v1Pengenalan
Sentence Transformers multi-qa-mpnet-base-dot-v1 mengekod soalan dan petikan kepada vektor 768 dimensi untuk carian semantik. Ia menggunakan pooling CLS dan embedding tidak ternormal yang direka untuk penskoran hasil darab titik, dengan had input 512 unit word piece.
- Input yang diterima
- Teks · token_ids
- Hasil
- embedding
Tersedia di Ailoot · input & kaedah
Ailoot Ultra · Pembenaman POST /v1/embeddings
- Input
text,token_ids- Output
embedding- Format output
- json
| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had sentence-transformers/multi-qa-mpnet-base-dot-v1 | Lalai— |
Medaninput | Jenisstring|string[]|integer[]|integer[][] | KeperluanDiperlukan | Nilai & had Item minimum: 1 Syarat: Kelompok homogen yang tidak kosong. ID token ialah integer bukan negatif. Bajet input: Maksimum: 512 · Unit teks: bait UTF8 · Unit token: elemen tatasusunan token | Lalai— |
Medanencoding_format | Jenisstring | KeperluanPilihan | Nilai & had float | Lalaifloat |
Medandimensions | Jenisinteger | KeperluanTidak disokong | Nilai & had Minimum: 1 | Lalai— |
Medanuser | Jenisjson_value | KeperluanPilihan | Nilai & had Syarat: Sumber membenarkan medan metadata JSON ini; semantik tepat di pihak huluan bergantung pada model. | Lalai— |
Medansession_id | Jenisjson_value | KeperluanPilihan | Nilai & had Syarat: Sumber membenarkan medan metadata JSON ini; semantik tepat di pihak huluan bergantung pada model. | Lalai— |
Medantrace | Jenisjson_value | KeperluanPilihan | Nilai & had Syarat: Sumber membenarkan medan metadata JSON ini; semantik tepat di pihak huluan bergantung pada model. | Lalai— |
Medanprovider | Jenisobject | KeperluanPilihan | Nilai & had Syarat: provider.options ditolak | Lalai— |
Gabungan bahan input
text_to_embedding
Parameter kaedah dan kitar hayat
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, input |
Parameterinput_shapes | Kontrakstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Kontrakfloat |
Parameterdimensions_override | Kontrakfalse |
Parametermax_input_budget_units | Kontrak512 |
Parametermultimodal_objects | Kontrakfalse |
Parametermaterial_types | Kontraktext, token_ids |
Kitar hayat: synchronous_json
Simpan setiap indeks dan dimensi vektor.
Nama model multimodal tidak bermakna objek imej dibenarkan pada laluan khusus ini.
Pelan harga
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
- Mod pantas
- Tidak dinyatakan Apabila mod pantas dipilih
- Mod flex
- Tidak dinyatakan Apabila mod flex dipilih
- Usaha penaakulan maksimum
- Tidak dinyatakan Apabila usaha penaakulan maksimum menggunakan pelarasan default
Kadar Ailoot
Harga mengikut konfigurasi
| Konfigurasi | Jadual kadar | Caj |
|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Caj Input · Token input $0.00001 / 1K token Output · Token output $0 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
Contoh permintaan
Ailoot Ultra · Pembenaman
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "sentence-transformers/multi-qa-mpnet-base-dot-v1", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='sentence-transformers/multi-qa-mpnet-base-dot-v1',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Terima dan simpan hasil
Ailoot Ultra · Pembenaman
json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Simpan setiap vektor bersama indeksnya. Bilangan vektor mesti sama dengan bilangan input; dimensi mesti konsisten.
Jika respons asal perlu disemak
Tiada titik akhir tugas pembenaman diperkenalkan.
Medan respons
| Medan | Jenis |
|---|---|
Medanobject | Jenisstring |
Medanmodel | Jenisstring |
Medandata[].index | Jenisinteger |
Medandata[].embedding | Jenisfinite float[] |
Medanusage | Jenisobject |
Ralat dan langkah seterusnya
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Alias
Alias model
Ailoot Ultra sentence-transformers/multi-qa-mpnet-base-dot-v1
Alias laluan kaedah
Gunakan laluan kaedah yang dipaparkan di atas.
ID pemanggil berkaitan
FAQ · Sentence Transformers: multi-qa-mpnet-base-dot-v1
- Apakah input dan hasil yang tersedia?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:text,token_ids→embedding- Apakah medan yang digunakan oleh permintaan?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:model,input,encoding_format,provider- Apakah had yang terpakai?
POST /v1/embeddings·sentence-transformers/multi-qa-mpnet-base-dot-v1:input.budget.maximum:512(bait UTF8);input.min_items:1