Qwen: Qwen3 Embedding 8B
Qwen3-Embedding-8B mengubah teks menjadi vektor semantik untuk pencarian multibahasa, penelusuran kode, klasifikasi, dan pengelompokan. Model ini mendukung panjang urutan 32K token dan dimensi embedding khusus dari 32 hingga 4.096.
Tentang model
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Qwen3-Embedding-8B adalah model embedding teks 8B Qwen, yang dibangun dari model fondasi Qwen3 dense. Model ini merepresentasikan teks sebagai vektor numerik alih-alih menghasilkan jawaban percakapan. Qwen mencantumkan penelusuran teks, penelusuran kode, klasifikasi, pengelompokan, dan penambangan teks paralel dwibahasa di antara bidang aplikasi yang didukung. Sistem pencarian dapat menggunakan vektor ini untuk membandingkan pertanyaan dengan bagian teks yang relevan; koleksi dokumen dapat menggunakannya untuk menemukan materi yang terkait secara semantik atau mengatur rekaman ke dalam kelompok.
Model yang persis ini mendukung panjang urutan 32K token dan embedding hingga 4.096 dimensi. Model ini juga mendukung dimensi keluaran yang ditentukan pengguna dari 32 hingga 4.096 melalui Matryoshka Representation Learning. Dengan demikian, panjang vektor merupakan pilihan desain yang disengaja: vektor lebih pendek mengubah ukuran representasi, sedangkan keluaran penuh mempertahankan dimensionalitas maksimum model. Pertahankan dimensi pilihan yang konsisten untuk dokumen dan kueri yang dibandingkan dalam satu indeks. Qwen3-Embedding-4B merupakan edisi terpisah dengan dimensi maksimum berbeda, bukan sumber vektor yang dapat saling menggantikan untuk koleksi 8B yang sudah ada.
Produsen menjelaskan dukungan untuk lebih dari 100 bahasa, termasuk bahasa pemrograman, serta penelusuran multibahasa, lintas bahasa, dan kode. Koleksi praktis dapat berisi dokumen dalam beberapa bahasa sementara kueri mencari makna yang relevan, atau bagian kode sumber yang diindeks untuk pertanyaan bahasa alami. Pertahankan pengenal penting, judul, dan istilah bidang dalam masukan. Untuk kode, pertahankan penjelasan di sekitar fungsi atau modul bersama cuplikan ketika konteks itu menjadi bagian dari pertanyaan. Keluarannya tetap berupa representasi vektor; mengembalikan teks dokumen yang cocok merupakan langkah berikutnya dari aplikasi pencarian.
Model ini peka terhadap instruksi. Qwen merekomendasikan instruksi satu kalimat yang disesuaikan dengan tugas penelusuran dan, untuk penggunaan multibahasa, merekomendasikan penulisan instruksi tersebut dalam bahasa Inggris. Contoh langsungnya memformat kueri dengan Instruct: diikuti deskripsi tugas dan Query: diikuti pertanyaan. Dokumen yang ditelusuri tidak membutuhkan prefiks instruksi yang sama dalam contoh tersebut. Arahan awal yang sesuai dapat menjelaskan pencarian bagian teknis yang menerangkan kesalahan pengguna, lalu menempatkan deskripsi kesalahan tertentu dalam kueri. Instruksi menjelaskan jenis hubungan semantik yang sebaiknya diprioritaskan oleh pencarian.
Contoh Qwen mengodekan kueri dan dokumen secara terpisah, membandingkan vektornya menggunakan kemiripan kosinus, dan menunjukkan prosedur tingkat lebih rendah yang mengambil keadaan tersembunyi token terakhir serta menormalkan embedding sebelum perbandingan perkalian titik. Alur kerja yang berguna mempertahankan vektor setiap bagian teks terkait dengan pengenal sumbernya, membandingkan kueri yang disiapkan dengan vektor tersimpan, dan mengembalikan bagian teks yang bersesuaian menurut urutan kemiripan. Pengaturan pemotongan 8.192 token dalam contoh merupakan pengaturan pemrosesan masukan yang dipilih, berbeda dari panjang urutan 32K model yang didokumentasikan. Tinjau apa yang dipertahankan saat menyiapkan masukan panjang.
Model embedding dan pemeringkatan ulang merupakan komponen berbeda dalam rilis Qwen. Model embedding merepresentasikan satu segmen teks dan memungkinkan pencarian kemiripan awal. Pemeringkat ulang terpisah mengevaluasi hubungan antara kueri dan bagian teks kandidat serta dapat menyempurnakan urutannya. Qwen menjelaskan penggabungan kedua modul, tetapi Qwen3-Embedding-8B sendiri mengembalikan embedding alih-alih penilaian relevansi pemeringkat ulang atau jawaban tertulis. Untuk penelusuran yang diikuti jawaban, pertahankan teks sumber yang cocok dan teruskan bukti tersebut ke tahap penjawaban. Pilih dan pertahankan model, dimensi, serta instruksi kueri yang konsisten untuk koleksi yang dicari.
Ailoot Ultra · Embedding POST /v1/embeddings qwen/qwen3-embedding-8b
qwen/qwen3-embedding-8bMulai
Qwen3-Embedding-8B mengubah teks menjadi vektor semantik untuk pencarian multibahasa, penelusuran kode, klasifikasi, dan pengelompokan. Model ini mendukung panjang urutan 32K token dan dimensi embedding khusus dari 32 hingga 4.096.
- Masukan yang diterima
- Teks · token_ids
- Hasil
- embedding
Tersedia di Ailoot · masukan & metode
Ailoot Ultra · Embedding POST /v1/embeddings
- Masukan
text,token_ids- Keluaran
embedding- Konteks
- 32.768 tokens
- Format keluaran
- json
| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan qwen/qwen3-embedding-8b | Bawaan— |
Kolominput | Jenisstring|string[]|integer[]|integer[][] | PersyaratanWajib | Nilai & batasan Item minimum: 1 Kondisi: Batch homogen yang tidak kosong. ID token berupa bilangan bulat nonnegatif. Anggaran masukan: Maksimum: 32.768 · Satuan teks: byte UTF8 · Satuan token: elemen array token | Bawaan— |
Kolomencoding_format | Jenisstring | PersyaratanOpsional | Nilai & batasan float | Bawaanfloat |
Kolomdimensions | Jenisinteger | PersyaratanTidak didukung | Nilai & batasan Minimum: 1 | Bawaan— |
Kolomuser | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomsession_id | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomtrace | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak | Bawaan— |
Kombinasi bahan masukan
text_to_embedding
Parameter metode dan siklus hidup
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, input |
Parameterinput_shapes | Kontrakstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Kontrakfloat |
Parameterdimensions_override | Kontrakfalse |
Parametermax_input_budget_units | Kontrak32768 |
Parametermultimodal_objects | Kontrakfalse |
Parametermaterial_types | Kontraktext, token_ids |
Siklus hidup: synchronous_json
Pertahankan index dan dimensi setiap vektor.
Nama model multimodal tidak mengizinkan objek gambar pada jalur persis ini.
Paket
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
- Mode Fast
- Tarif standar Saat mode fast dipilih
- Mode Flex
- Tarif standar Saat mode flex dipilih
- Upaya penalaran maksimum
- Tarif standar Saat upaya penalaran maksimum menggunakan penyesuaian default
Tarif Ailoot
Harga menurut konfigurasi
| Konfigurasi | Jadwal tarif | Biaya |
|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Biaya Masukan · Token masukan $0.00002 / 1K token Keluaran · Token keluaran $0 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
Contoh permintaan
Ailoot Ultra · Embedding
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "qwen/qwen3-embedding-8b", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='qwen/qwen3-embedding-8b',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Terima dan simpan hasil
Ailoot Ultra · Embedding
json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap vektor beserta index masing-masing. Jumlah vektor harus sama dengan jumlah input; dimensinya harus konsisten.
Jika respons asli perlu diperiksa
Endpoint untuk tugas embedding tidak ditambahkan.
Kolom respons
| Kolom | Jenis |
|---|---|
Kolomobject | Jenisstring |
Kolommodel | Jenisstring |
Kolomdata[].index | Jenisinteger |
Kolomdata[].embedding | Jenisfinite float[] |
Kolomusage | Jenisobject |
Kesalahan dan langkah berikutnya
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Alias
Alias model
Ailoot Ultra qwen/qwen3-embedding-8b
Alias jalur metode
Gunakan jalur metode yang ditampilkan di atas.
ID pemanggil terkait
FAQ · Qwen: Qwen3 Embedding 8B
- Input dan hasil apa yang tersedia?
POST /v1/embeddings·qwen/qwen3-embedding-8b:text,token_ids→embedding- Kolom apa yang digunakan permintaan?
POST /v1/embeddings·qwen/qwen3-embedding-8b:model,input,encoding_format,provider- Batasan apa yang berlaku?
POST /v1/embeddings·qwen/qwen3-embedding-8b:ctx:32768;input.budget.maximum:32768(byte UTF8);input.min_items:1