Llama Nemotron Embed VL 1B v2
Llama Nemotron Embed VL v2 tạo vector cho tìm kiếm ngữ nghĩa trong tài liệu. Danh mục Ailoot hiện tại giới thiệu đầu vào văn bản cho truy vấn và tư liệu.
- Ailoot · Biểu diễn nhúng
POST /v1/embeddingsnvidia/llama-nemotron-embed-vl-1b-v2 - Ailoot · Biểu diễn nhúng
POST /v1/embeddingsnemotron-embed-vl - Ailoot · Biểu diễn nhúng
POST /v1/embeddingsnemotron-embed-vl-latest
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
Tìm trang phù hợp theo câu hỏi
Llama Nemotron Embed VL 1B v2 được NVIDIA phát triển để tìm tư liệu giúp trả lời câu hỏi. Truy vấn được đặt bằng văn bản. Danh mục Ailoot hiện tại giới thiệu đầu vào văn bản cho mô hình: câu hỏi và tư liệu được mã hóa dưới dạng văn bản. Nhà sản xuất còn mô tả tài liệu dưới dạng ảnh trang hoặc ảnh kèm văn bản đã trích xuất. Các dạng hình ảnh này cần phương thức riêng có hỗ trợ ảnh. Với đầu vào tương ứng, mô hình biểu diễn bảng, biểu đồ và đồ họa thông tin trong cùng không gian vector.
Cách tìm kiếm này phù hợp cho trợ lý hỏi đáp trên bộ sưu tập tài liệu lớn, cẩm nang nội bộ và tư liệu nghiên cứu. Kết quả mã hóa là vector số. Sau đó có thể truyền trang hoặc đoạn tìm được cho mô hình tạo câu trả lời: chính Embed VL thực hiện bước tìm ngữ cảnh.
Các dạng tài liệu ở phía nhà sản xuất
- Tài liệu văn bản: phần riêng, đoạn trích hoặc văn bản trang đã được nhận dạng.
- Ảnh: toàn bộ trang với chữ, bảng và yếu tố đồ họa.
- Ảnh kèm văn bản: diện mạo của trang và nội dung văn bản được kết hợp trong một biểu diễn.
Truy vấn và tài liệu được mã hóa độc lập. Vì vậy, có thể xử lý trước bộ sưu tập, lưu vector cùng trang nguồn, rồi chỉ tính vector truy vấn khi có câu hỏi mới. Độ tương đồng vector giúp chọn tư liệu theo ý nghĩa. Vai trò văn bản của truy vấn và tài liệu khác nhau, cần giữ khác biệt này khi chuẩn bị dữ liệu.
Kích thước biểu diễn và độ dài đầu vào
Mỗi đầu vào được chuyển thành một vector có số chiều tối đa 2048 số. Chế độ văn bản dùng ngân sách 8192 token. Với phương thức hình ảnh của nhà sản xuất kết hợp ảnh và văn bản, ngân sách chung được mô tả là 10240 token cho cả hai phần; đây không phải giới hạn văn bản của phương thức Ailoot. Ảnh được chia thành các mảnh: cấu hình được mô tả cho phép tối đa sáu mảnh và một bản thu nhỏ của toàn trang, tổng cộng khoảng 1792 token hình ảnh. Văn bản dài cần được chia hoặc rút gọn.
Phần ngôn ngữ được xây dựng trên Llama 3.2 1B, phần hình ảnh trên SigLIP2. Chúng được kết hợp thành bộ mã hóa lấy trung bình biểu diễn token đầu vào và xuất một vector chung. Học tương phản đưa câu hỏi gần trang phù hợp và xa tư liệu không liên quan. Tìm kiếm vẫn mang tính xác suất: vector gần nhau không bảo đảm đoạn được chọn chứa câu trả lời đúng.
Ailoot · Biểu diễn nhúng POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2
nvidia/llama-nemotron-embed-vl-1b-v2
nvidia/llama-nemotron-embed-vl-1b-v2nvidia/llama-nemotron-embed-vl-1b-v2nemotron-embed-vlnemotron-embed-vl-latest
Bắt đầu
Llama Nemotron Embed VL v2 tạo vector cho tìm kiếm ngữ nghĩa trong tài liệu. Danh mục Ailoot hiện tại giới thiệu đầu vào văn bản cho truy vấn và tư liệu.
- Đầu vào được chấp nhận
- Văn bản
- Kết quả
- embedding
Có trên Ailoot · đầu vào & phương thức
Ailoot · Biểu diễn nhúng POST /v1/embeddings
- Đầu vào
text- Đầu ra
embedding- Ngữ cảnh
- 4.096 tokens
- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn nvidia/llama-nemotron-embed-vl-1b-v2 | Mặc định— |
Trườnginput | Loạistring|string[] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 Điều kiện: Mọi chuỗi phải không rỗng sau khi loại bỏ khoảng trắng hai đầu; từ chối URI dữ liệu; ngân sách đã chấp nhận đo các byte UTF8 liên quan. | Mặc định— |
Trườnginput_type | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn query, passage | Mặc địnhquery |
Trườngencoding_format | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn float, base64 | Mặc địnhfloat |
Trườngtruncate | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn NONE, START, END | Mặc định— |
Trườngdimensions | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườnguser | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Tổ hợp tư liệu đầu vào
text_to_embedding
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốmaterial_types | Hợp đồngtext |
Tham sốrequired | Hợp đồngmodel, input |
Tham sốoptional_controls | Hợp đồngnull |
Tham sốcontent_type | Hợp đồngapplication/json |
Vòng đời: exact retained published method
Cấu trúc phương thức và ID là chính xác; khả năng của nhà cung cấp tách biệt với việc cho phép tiếp nhận yêu cầu.
Bảng giá
Mức phí phương thức Ailoot
POST /v1/embeddings- Đầu vào
- 0,0001 US$ / 1K
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot · Biểu diễn nhúng
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2", "input": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["input"]=[text]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
Nhận và lưu kết quả
Ailoot · Biểu diễn nhúng
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Chỉ giải mã vectơ base64 khi đã yêu cầu định dạng đó; giữ lại mọi vectơ cùng chỉ số gốc.
Nếu cần kiểm tra phản hồi gốc
Không có điểm cuối tác vụ embedding nào được bổ sung.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngdata[].index | Loạiinteger |
Trườngdata[].embedding | Loạifinite float[]|base64 float32 vector |
Trườngmodel | Loạistring |
Trườngusage | Loạiobject |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới. |
Bí danh
Bí danh mô hình
Ailoot nvidia/llama-nemotron-embed-vl-1b-v2, nemotron-embed-vl, nemotron-embed-vl-latest
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
nvidia/llama-nemotron-embed-vl-1b-v2, nemotron-embed-vl, nemotron-embed-vl-latest
Ailoot · Biểu diễn nhúng POST /v1/embeddings nemotron-embed-vl
nemotron-embed-vlnvidia/llama-nemotron-embed-vl-1b-v2nemotron-embed-vlnemotron-embed-vl-latest
Bắt đầu
Llama Nemotron Embed VL v2 tạo vector cho tìm kiếm ngữ nghĩa trong tài liệu. Danh mục Ailoot hiện tại giới thiệu đầu vào văn bản cho truy vấn và tư liệu.
- Đầu vào được chấp nhận
- Văn bản
- Kết quả
- embedding
Có trên Ailoot · đầu vào & phương thức
Ailoot · Biểu diễn nhúng POST /v1/embeddings
- Đầu vào
text- Đầu ra
embedding- Ngữ cảnh
- 4.096 tokens
- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn nemotron-embed-vl | Mặc định— |
Trườnginput | Loạistring|string[] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 Điều kiện: Mọi chuỗi phải không rỗng sau khi loại bỏ khoảng trắng hai đầu; từ chối URI dữ liệu; ngân sách đã chấp nhận đo các byte UTF8 liên quan. | Mặc định— |
Trườnginput_type | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn query, passage | Mặc địnhquery |
Trườngencoding_format | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn float, base64 | Mặc địnhfloat |
Trườngtruncate | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn NONE, START, END | Mặc định— |
Trườngdimensions | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườnguser | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Tổ hợp tư liệu đầu vào
text_to_embedding
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốmaterial_types | Hợp đồngtext |
Tham sốrequired | Hợp đồngmodel, input |
Tham sốoptional_controls | Hợp đồngnull |
Tham sốcontent_type | Hợp đồngapplication/json |
Vòng đời: exact retained published method
Cấu trúc phương thức và ID là chính xác; khả năng của nhà cung cấp tách biệt với việc cho phép tiếp nhận yêu cầu.
Bảng giá
Mức phí phương thức Ailoot
POST /v1/embeddings- Đầu vào
- 0,0001 US$ / 1K
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot · Biểu diễn nhúng
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nemotron-embed-vl", "input": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["input"]=[text]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
Nhận và lưu kết quả
Ailoot · Biểu diễn nhúng
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Chỉ giải mã vectơ base64 khi đã yêu cầu định dạng đó; giữ lại mọi vectơ cùng chỉ số gốc.
Nếu cần kiểm tra phản hồi gốc
Không có điểm cuối tác vụ embedding nào được bổ sung.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngdata[].index | Loạiinteger |
Trườngdata[].embedding | Loạifinite float[]|base64 float32 vector |
Trườngmodel | Loạistring |
Trườngusage | Loạiobject |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới. |
Bí danh
Bí danh mô hình
Ailoot nvidia/llama-nemotron-embed-vl-1b-v2, nemotron-embed-vl, nemotron-embed-vl-latest
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
nvidia/llama-nemotron-embed-vl-1b-v2, nemotron-embed-vl, nemotron-embed-vl-latest
Ailoot · Biểu diễn nhúng POST /v1/embeddings nemotron-embed-vl-latest
nemotron-embed-vl-latestnvidia/llama-nemotron-embed-vl-1b-v2nemotron-embed-vlnemotron-embed-vl-latest
Bắt đầu
Llama Nemotron Embed VL v2 tạo vector cho tìm kiếm ngữ nghĩa trong tài liệu. Danh mục Ailoot hiện tại giới thiệu đầu vào văn bản cho truy vấn và tư liệu.
- Đầu vào được chấp nhận
- Văn bản
- Kết quả
- embedding
Có trên Ailoot · đầu vào & phương thức
Ailoot · Biểu diễn nhúng POST /v1/embeddings
- Đầu vào
text- Đầu ra
embedding- Ngữ cảnh
- 4.096 tokens
- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn nemotron-embed-vl-latest | Mặc định— |
Trườnginput | Loạistring|string[] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 Điều kiện: Mọi chuỗi phải không rỗng sau khi loại bỏ khoảng trắng hai đầu; từ chối URI dữ liệu; ngân sách đã chấp nhận đo các byte UTF8 liên quan. | Mặc định— |
Trườnginput_type | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn query, passage | Mặc địnhquery |
Trườngencoding_format | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn float, base64 | Mặc địnhfloat |
Trườngtruncate | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn NONE, START, END | Mặc định— |
Trườngdimensions | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườnguser | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Tổ hợp tư liệu đầu vào
text_to_embedding
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốmaterial_types | Hợp đồngtext |
Tham sốrequired | Hợp đồngmodel, input |
Tham sốoptional_controls | Hợp đồngnull |
Tham sốcontent_type | Hợp đồngapplication/json |
Vòng đời: exact retained published method
Cấu trúc phương thức và ID là chính xác; khả năng của nhà cung cấp tách biệt với việc cho phép tiếp nhận yêu cầu.
Bảng giá
Mức phí phương thức Ailoot
POST /v1/embeddings- Đầu vào
- 0,0001 US$ / 1K
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot · Biểu diễn nhúng
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nemotron-embed-vl-latest", "input": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["input"]=[text]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
Nhận và lưu kết quả
Ailoot · Biểu diễn nhúng
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Chỉ giải mã vectơ base64 khi đã yêu cầu định dạng đó; giữ lại mọi vectơ cùng chỉ số gốc.
Nếu cần kiểm tra phản hồi gốc
Không có điểm cuối tác vụ embedding nào được bổ sung.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngdata[].index | Loạiinteger |
Trườngdata[].embedding | Loạifinite float[]|base64 float32 vector |
Trườngmodel | Loạistring |
Trườngusage | Loạiobject |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới. |
Bí danh
Bí danh mô hình
Ailoot nvidia/llama-nemotron-embed-vl-1b-v2, nemotron-embed-vl, nemotron-embed-vl-latest
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
nvidia/llama-nemotron-embed-vl-1b-v2, nemotron-embed-vl, nemotron-embed-vl-latest
FAQ · nvidia/llama-nemotron-embed-vl-1b-v2
- Có những đầu vào và kết quả nào?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:text→embeddingPOST /v1/embeddings·nemotron-embed-vl:text→embeddingPOST /v1/embeddings·nemotron-embed-vl-latest:text→embedding- Yêu cầu sử dụng những trường nào?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:model,input,input_type,encoding_format,truncate,dimensions,userPOST /v1/embeddings·nemotron-embed-vl:model,input,input_type,encoding_format,truncate,dimensions,userPOST /v1/embeddings·nemotron-embed-vl-latest:model,input,input_type,encoding_format,truncate,dimensions,user- Áp dụng những giới hạn nào?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:ctx:4096;input.min_items:1;dimensions.minimum:1POST /v1/embeddings·nemotron-embed-vl:ctx:4096;input.min_items:1;dimensions.minimum:1POST /v1/embeddings·nemotron-embed-vl-latest:ctx:4096;input.min_items:1;dimensions.minimum:1