Thenlper: GTE-Large
Alibaba DAMO Academy GTE-large mengubah teks bahasa Inggris menjadi vektor 1024 dimensi untuk temu kembali, kemiripan semantik, dan pemeringkatan ulang berbasis embedding. Resep rujukannya menggunakan average pooling, normalisasi opsional, dan panjang urutan maksimum 512 token.
Tentang model
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
GTE-large adalah model General Text Embeddings berukuran besar yang dilatih Alibaba DAMO Academy. Model ini merupakan encoder teks bahasa Inggris yang terutama berbasis kerangka BERT, dengan representasi dense 1024 dimensi untuk setiap masukan. Pembuat melatih keluarga GTE pada pasangan teks berbasis relevansi lintas domain dan mengidentifikasi temu kembali, kemiripan teks semantik, serta pemeringkatan ulang teks sebagai aplikasi berikutnya.
Representasikan konten suatu bagian
Siapkan bagian teks bahasa Inggris yang akan dibandingkan dengan kueri pencarian. Untuk koleksi laporan teknis, pertahankan subjek, pengamatan, dan kondisi relevan dari bagian singkat. Laporan yang menjelaskan getaran hanya pada beban tertentu harus mempertahankan kondisi tersebut, bukan meninggalkan pernyataan umum tentang getaran.
Simpan pengenal sumber, judul dokumen, dan lokasi bagian bersama vektor tersimpan. Kueri dapat menemukan bagian kandidat, sementara laporan asli tetap tersedia untuk memverifikasi peralatan, kondisi, dan kesimpulan. Embedding memberikan representasi numerik dari konten bagian tersebut.
Pooling, normalisasi, dan penggunaan vektor
Resep yang diterbitkan menggunakan average pooling pada representasi token dengan masker atensi, mengecualikan padding dari rata-rata. Resep juga menunjukkan normalisasi L2 opsional yang diikuti perbandingan hasil kali titik vektor ternormalisasi. Contoh Sentence Transformers menggunakan kemiripan kosinus.
Pertahankan persiapan, pooling, dan pengaturan perbandingan yang sama pada koleksi serta sisi kueri. Setiap representasi memuat 1024 komponen. Jumlah komponen yang lebih besar adalah detail edisi; hal itu tidak membuktikan bahwa vektor GTE-large dapat dicampur dengan representasi GTE-base 768 dimensi atau encoder 1024 dimensi lainnya.
Alur pemeringkatan ulang dapat membandingkan embedding kueri dengan himpunan embedding kandidat yang telah ditemukan dan mengurutkan ulang rekaman tersebut. Pertahankan perbedaan antara perbandingan vektor ini dan model terpisah yang mengevaluasi pasangan kueri–bagian teks secara bersama.
Panjang masukan dan batasan bahasa Inggris
Kartu secara eksplisit membatasi model yang tepat ini pada teks bahasa Inggris dan memotong masukan panjang hingga maksimum 512 token. Bagi laporan teknis panjang menjadi bagian koheren dan simpan konteks lokal yang cukup agar setiap bagian dapat dipahami sendiri. Jika suatu kalimat bergantung pada kondisi atau batasan sebelumnya, pertahankan kondisi atau batasan itu dalam unit terindeks yang sama ketika muat.
Batas token berbeda dari jumlah kata yang terlihat. Periksa panjang bagian yang disiapkan dan pastikan detail yang dibutuhkan pencarian tujuan tidak berada di luar bagian yang dipertahankan setelah pemotongan.
Periksa bukti hasil temu kembali
Untuk aplikasi pencarian laporan, sajikan bagian kandidat bersama lokasi sumber dan periksa konten sebenarnya. Pengamatan serupa dapat memiliki penyebab atau rekomendasi berbeda. Skor vektor membantu mengurutkan kandidat di bawah pengaturan perbandingan yang dipilih; skor tidak membuktikan bahwa kesimpulan laporan berlaku untuk situasi baru.
Untuk RAG, gunakan bagian terpilih sebagai konteks sumber bagi tahap penulisan jawaban dan pertahankan hubungannya dengan dokumen. Profil GTE-large yang tepat ini memberikan embedding dense bahasa Inggris dengan 1024 dimensi dan batas masukan 512 token. Edisi GTE multibahasa dan berkonteks lebih panjang yang lebih baru memiliki identitas terpisah, sehingga cakupan bahasa atau pengaturan masukannya tidak mengikuti nama keluarga checkpoint ini.
Ailoot Ultra · Embedding POST /v1/embeddings thenlper/gte-large
thenlper/gte-largeMulai
Alibaba DAMO Academy GTE-large mengubah teks bahasa Inggris menjadi vektor 1024 dimensi untuk temu kembali, kemiripan semantik, dan pemeringkatan ulang berbasis embedding. Resep rujukannya menggunakan average pooling, normalisasi opsional, dan panjang urutan maksimum 512 token.
- Masukan yang diterima
- Teks · token_ids
- Hasil
- embedding
Tersedia di Ailoot · masukan & metode
Ailoot Ultra · Embedding POST /v1/embeddings
- Masukan
text,token_ids- Keluaran
embedding- Format keluaran
- json
| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan thenlper/gte-large | Bawaan— |
Kolominput | Jenisstring|string[]|integer[]|integer[][] | PersyaratanWajib | Nilai & batasan Item minimum: 1 Kondisi: Batch homogen yang tidak kosong. ID token berupa bilangan bulat nonnegatif. Anggaran masukan: Maksimum: 512 · Satuan teks: byte UTF8 · Satuan token: elemen array token | Bawaan— |
Kolomencoding_format | Jenisstring | PersyaratanOpsional | Nilai & batasan float | Bawaanfloat |
Kolomdimensions | Jenisinteger | PersyaratanTidak didukung | Nilai & batasan Minimum: 1 | Bawaan— |
Kolomuser | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomsession_id | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomtrace | Jenisjson_value | PersyaratanOpsional | Nilai & batasan Kondisi: Sumber mengizinkan kolom metadata JSON ini; makna tepatnya pada layanan hulu bergantung pada model. | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak | Bawaan— |
Kombinasi bahan masukan
text_to_embedding
Parameter metode dan siklus hidup
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, input |
Parameterinput_shapes | Kontrakstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Kontrakfloat |
Parameterdimensions_override | Kontrakfalse |
Parametermax_input_budget_units | Kontrak512 |
Parametermultimodal_objects | Kontrakfalse |
Parametermaterial_types | Kontraktext, token_ids |
Siklus hidup: synchronous_json
Pertahankan index dan dimensi setiap vektor.
Nama model multimodal tidak mengizinkan objek gambar pada jalur persis ini.
Paket
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
- Mode Fast
- Tidak ditentukan Saat mode fast dipilih
- Mode Flex
- Tidak ditentukan Saat mode flex dipilih
- Upaya penalaran maksimum
- Tidak ditentukan Saat upaya penalaran maksimum menggunakan penyesuaian default
Tarif Ailoot
Harga menurut konfigurasi
| Konfigurasi | Jadwal tarif | Biaya |
|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Biaya Masukan · Token masukan $0.00002 / 1K token Keluaran · Token keluaran $0 / 1K token Masukan · Pembacaan cache — / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
Contoh permintaan
Ailoot Ultra · Embedding
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "thenlper/gte-large", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='thenlper/gte-large',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Terima dan simpan hasil
Ailoot Ultra · Embedding
json
Simpan semua hasil yang selesai
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap vektor beserta index masing-masing. Jumlah vektor harus sama dengan jumlah input; dimensinya harus konsisten.
Jika respons asli perlu diperiksa
Endpoint untuk tugas embedding tidak ditambahkan.
Kolom respons
| Kolom | Jenis |
|---|---|
Kolomobject | Jenisstring |
Kolommodel | Jenisstring |
Kolomdata[].index | Jenisinteger |
Kolomdata[].embedding | Jenisfinite float[] |
Kolomusage | Jenisobject |
Kesalahan dan langkah berikutnya
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Alias
Alias model
Ailoot Ultra thenlper/gte-large
Alias jalur metode
Gunakan jalur metode yang ditampilkan di atas.
ID pemanggil terkait
FAQ · Thenlper: GTE-Large
- Input dan hasil apa yang tersedia?
POST /v1/embeddings·thenlper/gte-large:text,token_ids→embedding- Kolom apa yang digunakan permintaan?
POST /v1/embeddings·thenlper/gte-large:model,input,encoding_format,provider- Batasan apa yang berlaku?
POST /v1/embeddings·thenlper/gte-large:input.budget.maximum:512(byte UTF8);input.min_items:1