NVIDIA: Llama Nemotron Embed VL 1B V2 (free)

Llama Nemotron Embed VL 1B V2 là mô hình embedding đa phương thức của NVIDIA cho truy xuất. Mô hình chuyển văn bản, ảnh hoặc đầu vào tài liệu kết hợp thành vector và hỗ trợ tìm kiếm bằng truy vấn văn bản trên tài liệu có bảng, biểu đồ, văn bản cùng đồ họa thông tin.

Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free

Về mô hình

Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.

Llama Nemotron Embed VL 1B V2 là mô hình embedding của NVIDIA cho truy xuất hỏi–đáp đa phương thức. Mô hình có thể biểu diễn tài liệu thành văn bản, ảnh hoặc kết hợp ảnh và văn bản. Sau đó có thể dùng truy vấn văn bản để truy xuất tài liệu liên quan. Hồ sơ công bố hỗ trợ ảnh tài liệu có văn bản, bảng, biểu đồ và đồ họa thông tin, đồng thời trả về vector embedding.

Chuẩn bị mục tài liệu nhận dạng được

Giữ mỗi đầu vào liên kết với tài liệu nguồn, trang hoặc đoạn mà nó biểu diễn. Với trang thị giác, giữ ảnh và mọi văn bản đi kèm thuộc trang đó. Với đoạn văn bản, giữ tiêu đề hoặc nhãn phần khi nó giúp diễn giải lần khớp sau. Các định danh nguồn giúp mục truy xuất hữu ích như bằng chứng thay vì chỉ là kết quả tương đồng số.

Chọn ranh giới mục quanh tài liệu người dùng cần tìm. Biểu đồ và giải thích có thể nên cùng nhau; các trang không liên quan nên giữ định danh riêng. Xem đầu vào có đọc được không và văn bản hoặc ảnh có chứa thông tin mà truy vấn mục tiêu cần truy xuất không.

Truy vấn văn bản và truy xuất vector

Vai trò mô hình là tạo vector để truy xuất, với văn bản là dạng truy vấn hồ sơ mô tả. Giữ truy vấn và các mục đã lập chỉ mục trong thiết lập embedding tương thích. Ứng dụng lưu vector, so sánh rồi trả về mục nguồn tương ứng. Tài liệu truy xuất vẫn là nội dung để kiểm tra hoặc chuyển cho bước sinh câu trả lời sau.

Tập kiểm tra hữu ích gồm những câu hỏi người dùng thực sự đặt và các trang cần tìm được. Xem xét khớp sai hoặc thiếu theo nội dung nguồn và ranh giới mục. Giữ đầy đủ định danh tài liệu cùng mọi đoạn hoặc ảnh được chọn để kiểm tra kết quả trong ngữ cảnh.

Hạn mức đầu vào và sản phẩm tìm kiếm

Hồ sơ dịch vụ do nhà cung cấp vận hành được tài liệu mô tả nêu tối đa 131.072 token cho mỗi đầu vào. Chia tập nguồn lớn hơn thành các đầu vào riêng có nhãn và giữ các quan hệ. Đầu ra vector của hồ sơ không phải câu trả lời bằng văn bản được sinh ra hoặc bản chép lời; giai đoạn ứng dụng sau có thể dùng bằng chứng truy xuất để trả lời câu hỏi.

Sản phẩm truy xuất hoàn chỉnh gắn truy vấn, các mục nguồn được chọn và định danh. Giữ mô hình embedding và cách chuẩn bị đầu vào dùng cho chỉ mục để phân biệt thay đổi sau này với thay đổi bộ sưu tập nguồn.

Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free

nvidia/llama-nemotron-embed-vl-1b-v2:free

NVIDIA /nvidia/llama-nemotron-embed-vl-1b-v2:free

Bắt đầu

Đầu vào được chấp nhận: Văn bản · token_ids
Kết quả: embedding

Có trên Ailoot · đầu vào & phương thức

Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings

Đầu vào: text, token_ids
Đầu ra: embedding
Ngữ cảnh: 131.072 tokens
Định dạng đầu ra: json

Trường	Loại	Yêu cầu	Giá trị & giới hạn	Mặc định
Trường`model`	Loại`string`	Yêu cầuBắt buộc	Giá trị & giới hạn nvidia/llama-nemotron-embed-vl-1b-v2:free	Mặc định—
Trường`input`	Loại`string\|string[]\|integer[]\|integer[][]`	Yêu cầuBắt buộc	Giá trị & giới hạn Số mục tối thiểu: 1 Điều kiện: Lô không rỗng và đồng nhất. ID token là số nguyên không âm. Ngân sách đầu vào: Tối đa: 131.072 · Đơn vị văn bản: byte UTF8 · Đơn vị token: phần tử của mảng token	Mặc định—
Trường`encoding_format`	Loại`string`	Yêu cầuKhông bắt buộc	Giá trị & giới hạn float	Mặc địnhfloat
Trường`dimensions`	Loại`integer`	Yêu cầuKhông hỗ trợ	Giá trị & giới hạn Tối thiểu: 1	Mặc định—
Trường`user`	Loại`json_value`	Yêu cầuKhông bắt buộc	Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình.	Mặc định—
Trường`session_id`	Loại`json_value`	Yêu cầuKhông bắt buộc	Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình.	Mặc định—
Trường`trace`	Loại`json_value`	Yêu cầuKhông bắt buộc	Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình.	Mặc định—
Trường`provider`	Loại`object`	Yêu cầuKhông bắt buộc	Giá trị & giới hạn Điều kiện: provider.options bị từ chối	Mặc định—

Tổ hợp tư liệu đầu vào

text_to_embedding

Tham số phương thức và vòng đời

Tham số	Hợp đồng
Tham số`content_type`	Hợp đồngapplication/json
Tham số`required`	Hợp đồngmodel, input
Tham số`input_shapes`	Hợp đồngstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[]
Tham số`encoding_format`	Hợp đồngfloat
Tham số`dimensions_override`	Hợp đồngfalse
Tham số`max_input_budget_units`	Hợp đồng131072
Tham số`multimodal_objects`	Hợp đồngfalse
Tham số`material_types`	Hợp đồngtext, token_ids

Vòng đời: synchronous_json

Giữ lại chỉ mục và số chiều của mọi vector.

Việc mô hình mang tên đa phương thức không có nghĩa là đường dẫn cụ thể này chấp nhận đối tượng ảnh.

Bảng giá

Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.

Chế độ nhanh: Mức giá tiêu chuẩn Khi chọn chế độ nhanh
Chế độ Flex: Mức giá tiêu chuẩn Khi chọn chế độ flex
Mức độ suy luận tối đa: Mức giá tiêu chuẩn Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa

Mức phí Ailoot

Giá theo cấu hình

Cấu hình	Biểu mức phí	Phí
Cấu hìnhGiá cơ sở cho token	Biểu mức phíMức phí cơ bản	Phí Đầu vào · Token đầu vào $0 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token

Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →

Ví dụ yêu cầu

Ailoot Ultra · Biểu diễn nhúng

curlPython SDK

set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')

Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT

from openai import OpenAI
import os

client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)

Nhận và lưu kết quả

Ailoot Ultra · Biểu diễn nhúng

json

Lưu tất cả kết quả đã hoàn tất

Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.

Giữ lại mọi vector kèm chỉ mục của nó. Số lượng vector phải bằng số lượng đầu vào; số chiều phải nhất quán.

Nếu cần kiểm tra phản hồi gốc

Không có điểm cuối tác vụ embedding nào được bổ sung.

Trường phản hồi

Trường	Loại
Trường`object`	Loạistring
Trường`model`	Loạistring
Trường`data[].index`	Loạiinteger
Trường`data[].embedding`	Loạifinite float[]
Trường`usage`	Loạiobject

Lỗi và bước tiếp theo

Phản hồi	Điều kiện	Bước tiếp theo
Phản hồi400 · `invalid_request_error`	Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ	Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới.

Bí danh

Bí danh mô hình

Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free

Bí danh đường dẫn phương thức

Dùng các đường dẫn phương thức hiển thị ở trên.

ID gọi liên quan

nvidia/llama-nemotron-embed-vl-1b-v2:free

FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)

Có những đầu vào và kết quả nào?: POST /v1/embeddings · nvidia/llama-nemotron-embed-vl-1b-v2:free: text, token_ids → embedding
Yêu cầu sử dụng những trường nào?: POST /v1/embeddings · nvidia/llama-nemotron-embed-vl-1b-v2:free: model, input, encoding_format, provider
Áp dụng những giới hạn nào?: POST /v1/embeddings · nvidia/llama-nemotron-embed-vl-1b-v2:free: ctx: 131072; input.budget.maximum: 131072 (byte UTF8); input.min_items: 1

NVIDIA: Llama Nemotron Embed VL 1B V2 (free)