Thenlper: GTE-Large
Alibaba DAMO Academy GTE-large แปลงข้อความภาษาอังกฤษเป็นเวกเตอร์ 1024 มิติสำหรับการค้นคืน ความคล้ายเชิงความหมาย และการจัดอันดับซ้ำที่ใช้เอ็มเบดดิง วิธีอ้างอิงใช้การรวมแบบเฉลี่ย normalization ที่เลือกทำได้ และความยาวลำดับสูงสุด 512 โทเคน
เกี่ยวกับโมเดล
คำอธิบายนี้ครอบคลุมความสามารถของโมเดล อินพุต เอาต์พุต และตัวเลือกที่ใช้ได้ใน Ailoot แสดงด้านล่างตามเมธอดที่เลือก
GTE-large เป็นโมเดล General Text Embeddings ขนาดใหญ่ที่ Alibaba DAMO Academy ฝึก เป็นตัวเข้ารหัสข้อความภาษาอังกฤษที่อิงเฟรมเวิร์ก BERT เป็นหลัก โดยมีตัวแทนหนาแน่น 1024 มิติสำหรับแต่ละอินพุต ผู้ผลิตฝึกตระกูล GTE บนคู่ข้อความที่เกี่ยวข้องข้ามโดเมน และระบุการค้นคืน ความคล้ายเชิงความหมายของข้อความ และการจัดอันดับข้อความซ้ำเป็นการใช้งานต่อเนื่อง
แทนเนื้อหาของส่วน
เตรียมย่อหน้าภาษาอังกฤษที่จะเปรียบเทียบกับคำค้น สำหรับคอลเล็กชันรายงานเทคนิค ให้รักษาหัวเรื่อง ข้อสังเกต และเงื่อนไขที่เกี่ยวข้องของส่วนสั้น รายงานที่อธิบายการสั่นเฉพาะภายใต้โหลดบางแบบควรคงเงื่อนไขนั้น แทนการเหลือข้อความทั่วไปเกี่ยวกับการสั่น
เก็บตัวระบุแหล่งที่มา ชื่อเอกสาร และตำแหน่งส่วนกับเวกเตอร์ที่จัดเก็บ คำค้นค้นคืนส่วนตัวเลือกได้ ขณะที่รายงานต้นฉบับยังใช้ตรวจอุปกรณ์ เงื่อนไข และข้อสรุป เอ็มเบดดิงให้ตัวแทนเชิงตัวเลขของเนื้อหาย่อหน้า
การรวมตัวแทน normalization และการใช้เวกเตอร์
วิธีที่เผยแพร่ใช้การรวมแบบเฉลี่ยบนตัวแทนโทเคนด้วย attention mask โดยตัด padding ออกจากค่าเฉลี่ย ยังแสดง L2 normalization ที่เลือกทำได้ ตามด้วยการเปรียบเทียบผลคูณจุดของเวกเตอร์ที่ผ่าน normalization ตัวอย่าง Sentence Transformers ใช้ความคล้ายโคไซน์
รักษาการเตรียม การรวม และการตั้งค่าเปรียบเทียบเดียวกันระหว่างคอลเล็กชันกับคำค้น แต่ละตัวแทนมี 1024 องค์ประกอบ จำนวนองค์ประกอบมากกว่าเป็นรายละเอียดรุ่น ไม่ได้ยืนยันว่าเวกเตอร์ GTE-large ผสมกับตัวแทน GTE-base ขนาด 768 มิติหรือตัวเข้ารหัส 1024 มิติอื่นได้
เวิร์กโฟลว์จัดอันดับซ้ำเปรียบเทียบเอ็มเบดดิงคำค้นกับชุดเอ็มเบดดิงตัวเลือกที่ค้นคืนแล้วและเรียงระเบียนใหม่ได้ รักษาความต่างระหว่างการเปรียบเทียบเวกเตอร์นั้นกับโมเดลแยกที่ประเมินคู่คำค้น–ย่อหน้าร่วมกัน
ความยาวอินพุตและข้อจำกัดภาษาอังกฤษ
โมเดลการ์ดจำกัดโมเดลที่ตรงนี้เฉพาะข้อความภาษาอังกฤษอย่างชัดเจน และตัดอินพุตยาวเหลือไม่เกิน 512 โทเคน แบ่งรายงานเทคนิคยาวเป็นส่วนที่เชื่อมโยงกัน และเก็บบริบทเฉพาะที่พอให้แต่ละส่วนเข้าใจได้เอง หากประโยคพึ่งเงื่อนไขกำกับก่อนหน้า ให้เก็บเงื่อนไขนั้นในหน่วยดัชนีเดียวกันเมื่อพอดี
ขอบโทเคนต่างจากจำนวนคำที่มองเห็น ตรวจความยาวส่วนที่เตรียมและให้แน่ใจว่ารายละเอียดที่การค้นหาเป้าหมายต้องใช้ไม่อยู่เลยส่วนที่คงไว้หลังตัด
ตรวจหลักฐานที่ค้นคืน
สำหรับแอปพลิเคชันค้นรายงาน ให้แสดงส่วนตัวเลือกพร้อมตำแหน่งแหล่งที่มาและตรวจเนื้อหาจริง ข้อสังเกตคล้ายกันอาจมีสาเหตุหรือคำแนะนำต่างกัน คะแนนเวกเตอร์ช่วยเรียงตัวเลือกภายใต้การตั้งค่าเปรียบเทียบที่เลือก ไม่ได้ยืนยันว่าข้อสรุปรายงานใช้กับสถานการณ์ใหม่
สำหรับ RAG ใช้ส่วนที่เลือกเป็นบริบทต้นฉบับให้ขั้นตอนเขียนคำตอบ และรักษาความสัมพันธ์เอกสาร โปรไฟล์ GTE-large ที่ตรงนี้ให้เอ็มเบดดิงหนาแน่นภาษาอังกฤษ 1024 มิติพร้อมขอบอินพุต 512 โทเคน รุ่น GTE หลายภาษาและบริบทขยายภายหลังมีตัวตนแยก ขอบเขตภาษาหรือการตั้งค่าอินพุตจึงไม่ได้ตามมาจากชื่อตระกูลของเช็กพอยต์นี้
Ailoot Ultra · เอ็มเบดดิง POST /v1/embeddings thenlper/gte-large
thenlper/gte-largeเริ่มต้น
Alibaba DAMO Academy GTE-large แปลงข้อความภาษาอังกฤษเป็นเวกเตอร์ 1024 มิติสำหรับการค้นคืน ความคล้ายเชิงความหมาย และการจัดอันดับซ้ำที่ใช้เอ็มเบดดิง วิธีอ้างอิงใช้การรวมแบบเฉลี่ย normalization ที่เลือกทำได้ และความยาวลำดับสูงสุด 512 โทเคน
- อินพุตที่รองรับ
- ข้อความ · token_ids
- ผลลัพธ์
- embedding
ใช้งานได้ใน Ailoot · อินพุตและเมธอด
Ailoot Ultra · เอ็มเบดดิง POST /v1/embeddings
- ขาเข้า
text,token_ids- ขาออก
embedding- รูปแบบเอาต์พุต
- json
| ฟิลด์ | ประเภท | ข้อกำหนด | ค่าและข้อจำกัด | ค่าเริ่มต้น |
|---|---|---|---|---|
ฟิลด์model | ประเภทstring | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด thenlper/gte-large | ค่าเริ่มต้น— |
ฟิลด์input | ประเภทstring|string[]|integer[]|integer[][] | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด จำนวนรายการขั้นต่ำ: 1 เงื่อนไข: ชุดข้อมูลต้องไม่ว่างและประกอบด้วยข้อมูลชนิดเดียวกัน ID โทเคนต้องเป็นจำนวนเต็มที่ไม่ติดลบ โควตาอินพุต: สูงสุด: 512 · หน่วยข้อความ: ไบต์ UTF8 · หน่วยโทเค็น: องค์ประกอบในอาร์เรย์โทเค็น | ค่าเริ่มต้น— |
ฟิลด์encoding_format | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด float | ค่าเริ่มต้นfloat |
ฟิลด์dimensions | ประเภทinteger | ข้อกำหนดไม่รองรับ | ค่าและข้อจำกัด ขั้นต่ำ: 1 | ค่าเริ่มต้น— |
ฟิลด์user | ประเภทjson_value | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด เงื่อนไข: ต้นฉบับอนุญาตฟิลด์เมทาดาทา JSON นี้ โดยความหมายที่แน่นอนในระบบต้นทางขึ้นอยู่กับแต่ละโมเดล | ค่าเริ่มต้น— |
ฟิลด์session_id | ประเภทjson_value | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด เงื่อนไข: ต้นฉบับอนุญาตฟิลด์เมทาดาทา JSON นี้ โดยความหมายที่แน่นอนในระบบต้นทางขึ้นอยู่กับแต่ละโมเดล | ค่าเริ่มต้น— |
ฟิลด์trace | ประเภทjson_value | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด เงื่อนไข: ต้นฉบับอนุญาตฟิลด์เมทาดาทา JSON นี้ โดยความหมายที่แน่นอนในระบบต้นทางขึ้นอยู่กับแต่ละโมเดล | ค่าเริ่มต้น— |
ฟิลด์provider | ประเภทobject | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด เงื่อนไข: provider.options ถูกปฏิเสธ | ค่าเริ่มต้น— |
ชุดผสมของสื่ออินพุต
text_to_embedding
พารามิเตอร์และวงจรการทำงานของเมธอด
| พารามิเตอร์ | ข้อกำหนด |
|---|---|
พารามิเตอร์content_type | ข้อกำหนดapplication/json |
พารามิเตอร์required | ข้อกำหนดmodel, input |
พารามิเตอร์input_shapes | ข้อกำหนดstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
พารามิเตอร์encoding_format | ข้อกำหนดfloat |
พารามิเตอร์dimensions_override | ข้อกำหนดfalse |
พารามิเตอร์max_input_budget_units | ข้อกำหนด512 |
พารามิเตอร์multimodal_objects | ข้อกำหนดfalse |
พารามิเตอร์material_types | ข้อกำหนดtext, token_ids |
วงจรการทำงาน: synchronous_json
เก็บดัชนีและจำนวนมิติของเวกเตอร์ทุกรายการ
ชื่อโมเดลที่สื่อว่ารองรับข้อมูลหลายรูปแบบไม่ได้ทำให้สามารถส่งออบเจ็กต์รูปภาพผ่านเส้นทางเฉพาะนี้ได้
ราคา
ข้อมูลอัตราราคาไม่ได้เพิ่มตัวเลือกคำขอ พารามิเตอร์ที่รองรับระบุไว้สำหรับเมธอดที่เลือก
- โหมดรวดเร็ว
- ไม่ได้ระบุ เมื่อเลือกโหมดรวดเร็ว
- โหมดยืดหยุ่น
- ไม่ได้ระบุ เมื่อเลือกโหมด flex
- ระดับการใช้เหตุผลสูงสุด
- ไม่ได้ระบุ เมื่อใช้การปรับตามค่าเริ่มต้น (default) สำหรับระดับการใช้เหตุผลสูงสุด
อัตราค่าบริการ Ailoot
ราคาตามการตั้งค่า
| การตั้งค่า | ตารางอัตราค่าบริการ | ค่าบริการ |
|---|---|---|
| การตั้งค่าอัตราราคาพื้นฐานของโทเคน | ตารางอัตราค่าบริการอัตราพื้นฐาน | ค่าบริการ ขาเข้า · โทเค็นอินพุต $0.00002 / 1K โทเค็น ขาออก · โทเค็นเอาต์พุต $0 / 1K โทเค็น ขาเข้า · การอ่านแคช — / 1K โทเค็น ขาเข้า · การเขียนแคช — / 1K โทเค็น ขาเข้า · การเขียนแคช, 1 ชั่วโมง — / 1K โทเค็น |
Ailoot กันยอดเงินประมาณการไว้ก่อนส่งคำขอ หลังได้ผลลัพธ์ จะคิดค่าบริการสุดท้ายตามการใช้งานที่วัดได้ การคิดค่าบริการแบบสตรีมใช้บันทึกการใช้งานสุดท้าย วิธีกันยอดเงินและคิดค่าบริการสุดท้าย →
ตัวอย่างคำขอ
Ailoot Ultra · เอ็มเบดดิง
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "thenlper/gte-large", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='thenlper/gte-large',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
รับและบันทึกผลลัพธ์
Ailoot Ultra · เอ็มเบดดิง
json
เก็บผลลัพธ์ที่เสร็จสมบูรณ์ทั้งหมด
เก็บทุกการตอบกลับ ไฟล์ และส่วนเนื้อหาที่ส่งกลับมาอย่างครบถ้วน
เก็บเวกเตอร์ทุกรายการพร้อมดัชนีของแต่ละรายการ จำนวนเวกเตอร์ต้องเท่ากับจำนวนข้อมูลนำเข้า และจำนวนมิติต้องสอดคล้องกัน
เมื่อต้องตรวจสอบการตอบกลับต้นฉบับ
ไม่มีการเพิ่มจุดเชื่อมต่อสำหรับงานสร้างเวกเตอร์ตัวแทนข้อมูล
ฟิลด์การตอบกลับ
| ฟิลด์ | ประเภท |
|---|---|
ฟิลด์object | ประเภทstring |
ฟิลด์model | ประเภทstring |
ฟิลด์data[].index | ประเภทinteger |
ฟิลด์data[].embedding | ประเภทfinite float[] |
ฟิลด์usage | ประเภทobject |
ข้อผิดพลาดและขั้นตอนถัดไป
| การตอบกลับ | เงื่อนไข | ขั้นตอนถัดไป |
|---|---|---|
การตอบกลับ400 · invalid_request_error | เงื่อนไขฟิลด์จำเป็น รูปแบบการแทนข้อมูล หรือค่าพารามิเตอร์ไม่ถูกต้อง | ขั้นตอนถัดไปแก้ฟิลด์ที่ระบุก่อนส่งคำขอสร้างครั้งใหม่ |
ชื่ออื่น
ชื่ออื่นของโมเดล
Ailoot Ultra thenlper/gte-large
ชื่อพาธเมธอดอื่น
ใช้พาธเมธอดที่แสดงด้านบน
ID ที่เกี่ยวข้องสำหรับเรียกใช้โมเดล
FAQ · Thenlper: GTE-Large
- มีอินพุตและผลลัพธ์ใดบ้าง?
POST /v1/embeddings·thenlper/gte-large:text,token_ids→embedding- คำขอใช้ฟิลด์ใดบ้าง?
POST /v1/embeddings·thenlper/gte-large:model,input,encoding_format,provider- มีข้อจำกัดใดบ้าง?
POST /v1/embeddings·thenlper/gte-large:input.budget.maximum:512(ไบต์ UTF8);input.min_items:1