VoyageAI by MongoDB: voyage-4-lite
Voyage AI voyage-4-lite adalah edisi embedding teks berorientasi latensi dalam keluarga Voyage 4. Model mendukung masukan 32.000 token, empat pilihan dimensi vektor, dan representasi terkuantisasi, dengan ruang embedding bersama yang kompatibel dengan model teks Voyage 4 lainnya.
Tentang model
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
voyage-4-lite adalah model embedding teks berorientasi latensi dalam keluarga Voyage 4 Voyage AI. Model merepresentasikan kueri dan dokumen sebagai vektor numerik untuk temu kembali serbaguna. Ciri khas keluarganya adalah ruang embedding bersama dengan voyage-4, voyage-4-large, dan voyage-4-nano, yang memungkinkan model kueri serta dokumen dipilih secara terpisah.
Mulai dari peran temu kembali
Siapkan kebutuhan informasi pengguna sebagai kueri dan materi yang dapat dicari sebagai dokumen. Voyage menyarankan jenis masukan query/document untuk temu kembali; resep yang diterbitkan menambahkan instruksi temu kembali terkait saat memvektorkan teks.
Untuk koleksi buku panduan karyawan, kueri tentang membawa sisa cuti yang belum digunakan ke periode berikutnya harus dibandingkan dengan bagian kebijakan spesifik. Simpan aturan, kondisi, dan pengecualian relevan dalam bagian terindeks. Simpan dokumen asli serta pengenal bagian di samping vektor agar aplikasi dapat mengembalikan teks kebijakan sebenarnya.
Jenis masukan yang tidak ditentukan merepresentasikan teks langsung, sedangkan peran query/document menyesuaikannya untuk temu kembali. Pembuat menyatakan bahwa embedding yang dihasilkan dengan dan tanpa pengaturan peran tersebut kompatibel, tetapi kebijakan persiapan yang konsisten membuat koleksi lebih mudah dinilai.
Ruang bersama dalam keluarga teks Voyage 4
Voyage secara eksplisit mendokumentasikan alur temu kembali asimetris: dokumen dapat dikodekan dengan voyage-4-large dan dicari menggunakan vektor kueri dari voyage-4-lite. Ini adalah pernyataan kompatibilitas tingkat keluarga, bukan kesimpulan yang ditarik dari dua model yang mengembalikan vektor sama panjang.
Pertahankan keselarasan dimensi vektor dan representasi yang dipilih antara koleksi dan sisi kueri. Ruang bersama juga memungkinkan penggantian model kueri dalam keluarga teks Voyage 4 yang disebutkan ini tanpa memvektorkan ulang dokumen yang ada. Nilai peringkat hasil menggunakan pertanyaan yang representatif saat memilih edisi kueri.
Peran edisi Lite adalah pilihan embedding kueri dan teks yang lebih kecil serta berfokus pada latensi. Pembuat mengaitkan arsitektur mixture-of-experts secara khusus dengan voyage-4-large; nama keluarga tidak membuktikan arsitektur tersebut untuk Lite.
Konteks, dimensi, dan format hasil
Panjang konteks yang diterbitkan adalah 32.000 token per teks. Vektor bawaan memiliki 1024 dimensi, dengan 256, 512, dan 2048 juga tersedia melalui pembelajaran Matryoshka. Alur embedding teks pembuat mendokumentasikan representasi floating-point, integer 8 bit bertanda dan tanpa tanda, serta biner dengan bit terkemas untuk voyage-4-lite.
Untuk vektor floating-point standar, panduan kemiripan Voyage menjelaskan embedding berpanjang satu, sehingga kemiripan kosinus dan hasil kali titik setara. Bentuk terkuantisasi membutuhkan penanganan representasi terkait. Misalnya, daftar biner dengan bit terkemas menyimpan delapan bit embedding dalam setiap byte; panjang daftarnya berbeda dari dimensi vektor semantik.
Dalam resep batch Voyage yang didokumentasikan, satu daftar memuat paling banyak 1000 teks dan total satu juta token untuk edisi Lite yang tepat ini. Perilaku bawaan untuk masukan terlalu panjang memotong teks individual pada batas konteks; pengaturan alternatif menolak masukan terlalu panjang. Batas batch dan per teks ini berbeda.
Siapkan dan periksa hasil temu kembali
Bagi materi sumber panjang menjadi bagian koheren yang dapat dikembalikan sebagai bukti. Konteks 32.000 token memungkinkan masukan panjang, tetapi unit temu kembali yang berguna tetap harus mengarah ke bagian sumber relevan. Sertakan judul atau detail pengenal yang dibutuhkan untuk menafsirkan aturan.
Untuk RAG, temukan bagian kandidat dan berikan teks aslinya ke tahap penulisan jawaban bersama hubungan sumber. Model embedding menghasilkan vektor dan tidak menghasilkan jawaban kebijakan. Kemiripan memeringkat kandidat di bawah model serta pengaturan perbandingan yang dipilih; tinjau bagian sebenarnya untuk kondisi tepat yang ditanyakan.
Kombinasi khusus edisi voyage-4-lite yang berguna adalah model teks berfokus pada latensi, representasi fleksibel, konteks 32.000 token, dan kompatibilitas yang didokumentasikan dalam keluarga teks Voyage 4. Simpan sifat tersebut bersama koleksi terindeks dan gunakan hasil temu kembali berbasis sumber untuk mendukung aplikasi di sekelilingnya.
Ailoot Ultra · Embedding POST /v1/embeddings voyageai/voyage-4-lite
voyageai/voyage-4-liteMulai
Voyage AI voyage-4-lite adalah edisi embedding teks berorientasi latensi dalam keluarga Voyage 4. Model mendukung masukan 32.000 token, empat pilihan dimensi vektor, dan representasi terkuantisasi, dengan ruang embedding bersama yang kompatibel dengan model teks Voyage 4 lainnya.
- Masukan yang diterima
- Teks · token_ids
- Hasil
- embedding
Tersedia di Ailoot · masukan & metode
Ailoot Ultra · Embedding POST /v1/embeddings
- Masukan
text,token_ids- Keluaran
embedding- Konteks
- 32.000 tokens
- Format keluaran
- json
| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan voyageai/voyage-4-lite | Bawaan— |
Kolominput | Jenisstring|string[]|integer[]|integer[][] | PersyaratanWajib | Nilai & batasan Item minimum: 1 Kondisi: Batch homogen yang tidak kosong. ID token berupa bilangan bulat nonnegatif. Anggaran masukan: Maksimum: 32.000 · Satuan teks: byte UTF8 · Satuan token: elemen array token | Bawaan— |
Kolomencoding_format | Jenisstring | PersyaratanOpsional | Nilai & batasan float | Bawaanfloat |
Kolomdimensions | Jenisinteger | PersyaratanTidak didukung | Nilai & batasan Minimum: 1 | Bawaan— |
Kolomuser | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomsession_id | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomtrace | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak | Bawaan— |
Kombinasi bahan masukan
text_to_embedding
Parameter metode dan siklus hidup
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, input |
Parameterinput_shapes | Kontrakstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Kontrakfloat |
Parameterdimensions_override | Kontrakfalse |
Parametermax_input_budget_units | Kontrak32000 |
Parametermultimodal_objects | Kontrakfalse |
Parametermaterial_types | Kontraktext, token_ids |
Siklus hidup: synchronous_json
Pertahankan index dan dimensi setiap vektor.
Nama model multimodal tidak mengizinkan objek gambar pada jalur persis ini.
Paket
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
- Mode Fast
- Tarif standar Saat mode fast dipilih
- Mode Flex
- Tarif standar Saat mode flex dipilih
- Upaya penalaran maksimum
- Tarif standar Saat upaya penalaran maksimum menggunakan penyesuaian default
Tarif Ailoot
Harga menurut konfigurasi
| Konfigurasi | Jadwal tarif | Biaya |
|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Biaya Masukan · Token masukan $0.00004 / 1K token Keluaran · Token keluaran $0 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
Contoh permintaan
Ailoot Ultra · Embedding
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "voyageai/voyage-4-lite", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='voyageai/voyage-4-lite',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Terima dan simpan hasil
Ailoot Ultra · Embedding
json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap vektor beserta index masing-masing. Jumlah vektor harus sama dengan jumlah input; dimensinya harus konsisten.
Jika respons asli perlu diperiksa
Endpoint untuk tugas embedding tidak ditambahkan.
Kolom respons
| Kolom | Jenis |
|---|---|
Kolomobject | Jenisstring |
Kolommodel | Jenisstring |
Kolomdata[].index | Jenisinteger |
Kolomdata[].embedding | Jenisfinite float[] |
Kolomusage | Jenisobject |
Kesalahan dan langkah berikutnya
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Alias
Alias model
Ailoot Ultra voyageai/voyage-4-lite
Alias jalur metode
Gunakan jalur metode yang ditampilkan di atas.
ID pemanggil terkait
FAQ · VoyageAI by MongoDB: voyage-4-lite
- Input dan hasil apa yang tersedia?
POST /v1/embeddings·voyageai/voyage-4-lite:text,token_ids→embedding- Kolom apa yang digunakan permintaan?
POST /v1/embeddings·voyageai/voyage-4-lite:model,input,encoding_format,provider- Batasan apa yang berlaku?
POST /v1/embeddings·voyageai/voyage-4-lite:ctx:32000;input.budget.maximum:32000(byte UTF8);input.min_items:1