NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
Llama Nemotron Embed VL 1B V2 เป็นโมเดลเอ็มเบดดิงมัลติโมดัลของ NVIDIA สำหรับการค้นคืน แปลงข้อความ ภาพ หรืออินพุตเอกสารรวมเป็นเวกเตอร์ และรองรับการค้นด้วยคำค้นข้อความบนเอกสารที่มีตาราง แผนภูมิ ข้อความ และอินโฟกราฟิก
เกี่ยวกับโมเดล
คำอธิบายนี้ครอบคลุมความสามารถของโมเดล อินพุต เอาต์พุต และตัวเลือกที่ใช้ได้ใน Ailoot แสดงด้านล่างตามเมธอดที่เลือก
Llama Nemotron Embed VL 1B V2 เป็นโมเดลเอ็มเบดดิงของ NVIDIA สำหรับการค้นคืนเพื่อถามตอบแบบมัลติโมดัล แทนเอกสารเป็นข้อความ ภาพ หรือภาพร่วมกับข้อความได้ จากนั้นใช้คำค้นข้อความค้นคืนเอกสารที่เกี่ยวข้อง โปรไฟล์ที่เผยแพร่รองรับภาพเอกสารที่มีข้อความ ตาราง แผนภูมิ และอินโฟกราฟิก และคืนเวกเตอร์เอ็มเบดดิง
เตรียมรายการเอกสารที่ระบุได้
ให้แต่ละอินพุตเชื่อมกับเอกสาร หน้า หรือย่อหน้าต้นฉบับที่มันแทน สำหรับหน้าที่เป็นภาพ ให้เก็บภาพและข้อความประกอบที่เป็นของหน้านั้น สำหรับย่อหน้าข้อความ ให้รักษาชื่อหรือป้ายส่วนเมื่อช่วยตีความผลตรงภายหลัง ตัวระบุแหล่งที่มาเหล่านี้ทำให้รายการที่ค้นคืนมีประโยชน์เป็นหลักฐาน แทนเพียงผลความคล้ายเชิงตัวเลข
เลือกขอบรายการตามข้อมูลที่ผู้ใช้ต้องหา แผนภูมิและคำอธิบายอาจควรอยู่ด้วยกัน หน้าที่ไม่เกี่ยวข้องควรคงตัวตนแยก ตรวจว่าอินพุตอ่านได้และข้อความหรือภาพมีข้อมูลที่คำค้นเป้าหมายต้องค้นคืนหรือไม่
คำค้นข้อความและการค้นคืนเวกเตอร์
บทบาทโมเดลคือสร้างเวกเตอร์เพื่อค้นคืน โดยข้อความเป็นรูปแบบคำค้นที่โปรไฟล์อธิบาย ให้คำค้นและรายการในดัชนีอยู่ในการตั้งค่าเอ็มเบดดิงที่เข้ากันได้ แอปพลิเคชันเก็บเวกเตอร์ เปรียบเทียบ และคืนรายการต้นฉบับที่ตรง เอกสารที่ค้นคืนยังเป็นข้อมูลให้ตรวจหรือส่งต่อขั้นตอนสร้างคำตอบภายหลัง
ชุดทดสอบที่มีประโยชน์รวมคำถามที่ผู้ใช้ถามจริงและหน้าที่ควรหาเจอ ตรวจผลตรงผิดหรือหายกับเนื้อหาต้นฉบับและขอบรายการ เก็บตัวระบุเอกสารครบถ้วนกับย่อหน้าหรือภาพที่เลือก เพื่อให้ตรวจผลในบริบทได้
งบอินพุตและสิ่งส่งมอบการค้นหา
โปรไฟล์บริการโฮสต์ตามเอกสารระบุสูงสุด 131,072 โทเคนต่ออินพุต แบ่งชุดต้นฉบับใหญ่เป็นอินพุตแยกที่มีป้ายและรักษาความสัมพันธ์ เอาต์พุตเวกเตอร์ของโปรไฟล์ไม่ใช่คำตอบร้อยแก้วที่สร้างหรือบทถอดเสียง ขั้นตอนแอปพลิเคชันภายหลังใช้หลักฐานที่ค้นคืนเพื่อตอบคำถามได้
สิ่งส่งมอบค้นคืนที่ครบเชื่อมคำค้น รายการต้นฉบับที่เลือก และตัวระบุ เก็บโมเดลเอ็มเบดดิงและวิธีเตรียมอินพุตที่ใช้กับดัชนี เพื่อให้แยกการเปลี่ยนภายหลังออกจากการเปลี่ยนคอลเล็กชันต้นฉบับได้
Ailoot Ultra · เอ็มเบดดิง POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freeเริ่มต้น
Llama Nemotron Embed VL 1B V2 เป็นโมเดลเอ็มเบดดิงมัลติโมดัลของ NVIDIA สำหรับการค้นคืน แปลงข้อความ ภาพ หรืออินพุตเอกสารรวมเป็นเวกเตอร์ และรองรับการค้นด้วยคำค้นข้อความบนเอกสารที่มีตาราง แผนภูมิ ข้อความ และอินโฟกราฟิก
- อินพุตที่รองรับ
- ข้อความ · token_ids
- ผลลัพธ์
- embedding
ใช้งานได้ใน Ailoot · อินพุตและเมธอด
Ailoot Ultra · เอ็มเบดดิง POST /v1/embeddings
- ขาเข้า
text,token_ids- ขาออก
embedding- บริบท
- 131,072 tokens
- รูปแบบเอาต์พุต
- json
| ฟิลด์ | ประเภท | ข้อกำหนด | ค่าและข้อจำกัด | ค่าเริ่มต้น |
|---|---|---|---|---|
ฟิลด์model | ประเภทstring | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด nvidia/llama-nemotron-embed-vl-1b-v2:free | ค่าเริ่มต้น— |
ฟิลด์input | ประเภทstring|string[]|integer[]|integer[][] | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด จำนวนรายการขั้นต่ำ: 1 เงื่อนไข: ชุดข้อมูลต้องไม่ว่างและประกอบด้วยข้อมูลชนิดเดียวกัน ID โทเคนต้องเป็นจำนวนเต็มที่ไม่ติดลบ โควตาอินพุต: สูงสุด: 131,072 · หน่วยข้อความ: ไบต์ UTF8 · หน่วยโทเค็น: องค์ประกอบในอาร์เรย์โทเค็น | ค่าเริ่มต้น— |
ฟิลด์encoding_format | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด float | ค่าเริ่มต้นfloat |
ฟิลด์dimensions | ประเภทinteger | ข้อกำหนดไม่รองรับ | ค่าและข้อจำกัด ขั้นต่ำ: 1 | ค่าเริ่มต้น— |
ฟิลด์user | ประเภทjson_value | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด เงื่อนไข: ต้นฉบับอนุญาตฟิลด์เมทาดาทา JSON นี้ โดยความหมายที่แน่นอนในระบบต้นทางขึ้นอยู่กับแต่ละโมเดล | ค่าเริ่มต้น— |
ฟิลด์session_id | ประเภทjson_value | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด เงื่อนไข: ต้นฉบับอนุญาตฟิลด์เมทาดาทา JSON นี้ โดยความหมายที่แน่นอนในระบบต้นทางขึ้นอยู่กับแต่ละโมเดล | ค่าเริ่มต้น— |
ฟิลด์trace | ประเภทjson_value | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด เงื่อนไข: ต้นฉบับอนุญาตฟิลด์เมทาดาทา JSON นี้ โดยความหมายที่แน่นอนในระบบต้นทางขึ้นอยู่กับแต่ละโมเดล | ค่าเริ่มต้น— |
ฟิลด์provider | ประเภทobject | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด เงื่อนไข: provider.options ถูกปฏิเสธ | ค่าเริ่มต้น— |
ชุดผสมของสื่ออินพุต
text_to_embedding
พารามิเตอร์และวงจรการทำงานของเมธอด
| พารามิเตอร์ | ข้อกำหนด |
|---|---|
พารามิเตอร์content_type | ข้อกำหนดapplication/json |
พารามิเตอร์required | ข้อกำหนดmodel, input |
พารามิเตอร์input_shapes | ข้อกำหนดstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
พารามิเตอร์encoding_format | ข้อกำหนดfloat |
พารามิเตอร์dimensions_override | ข้อกำหนดfalse |
พารามิเตอร์max_input_budget_units | ข้อกำหนด131072 |
พารามิเตอร์multimodal_objects | ข้อกำหนดfalse |
พารามิเตอร์material_types | ข้อกำหนดtext, token_ids |
วงจรการทำงาน: synchronous_json
เก็บดัชนีและจำนวนมิติของเวกเตอร์ทุกรายการ
ชื่อโมเดลที่สื่อว่ารองรับข้อมูลหลายรูปแบบไม่ได้ทำให้สามารถส่งออบเจ็กต์รูปภาพผ่านเส้นทางเฉพาะนี้ได้
ราคา
ข้อมูลอัตราราคาไม่ได้เพิ่มตัวเลือกคำขอ พารามิเตอร์ที่รองรับระบุไว้สำหรับเมธอดที่เลือก
- โหมดรวดเร็ว
- อัตรามาตรฐาน เมื่อเลือกโหมดรวดเร็ว
- โหมดยืดหยุ่น
- อัตรามาตรฐาน เมื่อเลือกโหมด flex
- ระดับการใช้เหตุผลสูงสุด
- อัตรามาตรฐาน เมื่อใช้การปรับตามค่าเริ่มต้น (default) สำหรับระดับการใช้เหตุผลสูงสุด
อัตราค่าบริการ Ailoot
ราคาตามการตั้งค่า
| การตั้งค่า | ตารางอัตราค่าบริการ | ค่าบริการ |
|---|---|---|
| การตั้งค่าอัตราราคาพื้นฐานของโทเคน | ตารางอัตราค่าบริการอัตราพื้นฐาน | ค่าบริการ ขาเข้า · โทเค็นอินพุต $0 / 1K โทเค็น ขาออก · โทเค็นเอาต์พุต $0 / 1K โทเค็น ขาเข้า · การอ่านแคช — / 1K โทเค็น ขาเข้า · การเขียนแคช — / 1K โทเค็น ขาเข้า · การเขียนแคช, 1 ชั่วโมง — / 1K โทเค็น |
Ailoot กันยอดเงินประมาณการไว้ก่อนส่งคำขอ หลังได้ผลลัพธ์ จะคิดค่าบริการสุดท้ายตามการใช้งานที่วัดได้ การคิดค่าบริการแบบสตรีมใช้บันทึกการใช้งานสุดท้าย วิธีกันยอดเงินและคิดค่าบริการสุดท้าย →
ตัวอย่างคำขอ
Ailoot Ultra · เอ็มเบดดิง
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
รับและบันทึกผลลัพธ์
Ailoot Ultra · เอ็มเบดดิง
json
เก็บผลลัพธ์ที่เสร็จสมบูรณ์ทั้งหมด
เก็บทุกการตอบกลับ ไฟล์ และส่วนเนื้อหาที่ส่งกลับมาอย่างครบถ้วน
เก็บเวกเตอร์ทุกรายการพร้อมดัชนีของแต่ละรายการ จำนวนเวกเตอร์ต้องเท่ากับจำนวนข้อมูลนำเข้า และจำนวนมิติต้องสอดคล้องกัน
เมื่อต้องตรวจสอบการตอบกลับต้นฉบับ
ไม่มีการเพิ่มจุดเชื่อมต่อสำหรับงานสร้างเวกเตอร์ตัวแทนข้อมูล
ฟิลด์การตอบกลับ
| ฟิลด์ | ประเภท |
|---|---|
ฟิลด์object | ประเภทstring |
ฟิลด์model | ประเภทstring |
ฟิลด์data[].index | ประเภทinteger |
ฟิลด์data[].embedding | ประเภทfinite float[] |
ฟิลด์usage | ประเภทobject |
ข้อผิดพลาดและขั้นตอนถัดไป
| การตอบกลับ | เงื่อนไข | ขั้นตอนถัดไป |
|---|---|---|
การตอบกลับ400 · invalid_request_error | เงื่อนไขฟิลด์จำเป็น รูปแบบการแทนข้อมูล หรือค่าพารามิเตอร์ไม่ถูกต้อง | ขั้นตอนถัดไปแก้ฟิลด์ที่ระบุก่อนส่งคำขอสร้างครั้งใหม่ |
ชื่ออื่น
ชื่ออื่นของโมเดล
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
ชื่อพาธเมธอดอื่น
ใช้พาธเมธอดที่แสดงด้านบน
ID ที่เกี่ยวข้องสำหรับเรียกใช้โมเดล
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- มีอินพุตและผลลัพธ์ใดบ้าง?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- คำขอใช้ฟิลด์ใดบ้าง?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- มีข้อจำกัดใดบ้าง?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(ไบต์ UTF8);input.min_items:1