NVIDIA: Nemotron 3 Embed 1B (free)
NVIDIA Nemotron 3 Embed 1B biểu diễn truy vấn và đoạn văn đa ngôn ngữ thành vector 2048 chiều cho tìm kiếm và RAG. Dòng được tài liệu mô tả hỗ trợ chuỗi 32,768 token và kích thước vector rút gọn có chuẩn hóa lại.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
Nemotron 3 Embed 1B là họ embedding văn bản của NVIDIA cho truy xuất đa ngôn ngữ, xuyên ngôn ngữ và độ tương đồng ngữ nghĩa. Mô hình chuyển câu hỏi hoặc đoạn thành vector dense để hệ thống tìm kiếm so sánh với các biểu diễn văn bản khác. Nhà sản xuất đánh giá các bản 1B được mô tả trên ba mươi bốn thiết lập ngôn ngữ và biến thể ngôn ngữ, gồm tiếng Anh, Ả Rập, Trung Quốc, Nga, Nhật, Hàn và Hinglish.
Bộ mã hóa và biểu diễn
Thẻ mô hình của nhà sản xuất mô tả transformer hai chiều được cắt tỉa, phát triển từ Ministral 3. Mô hình có khoảng 1,14 tỷ tham số và lấy trung bình các biểu diễn cấp token để có một embedding cho mỗi văn bản. Đầu ra gốc là vector dấu phẩy động 2048 chiều. Đây là biểu diễn truy xuất, không phải câu trả lời bằng văn bản cho câu hỏi đang được tạo embedding.
Nhà sản xuất còn hỗ trợ giữ phần đầu của biểu diễn, chẳng hạn 1024 hoặc 512 chiều. Vector rút ngắn phải được chuẩn hóa L2 lại sau khi cắt. Giữ độ dài biểu diễn đã chọn và cách chuẩn hóa nhất quán giữa phía truy vấn và kho tài liệu của nhiệm vụ tìm kiếm. Độ dài vector và độ dài chuỗi đầu vào là các thuộc tính riêng.
Chuẩn bị truy vấn và đoạn
Quy ước truy xuất được mô tả dùng “query:” cho câu hỏi và “passage:” cho văn bản tài liệu. Các ví dụ của nhà sản xuất áp dụng vai trò đó trước khi mã hóa rồi so sánh vector đã chuẩn hóa bằng tích vô hướng, tương đương độ tương đồng cosine. Dùng cách chuẩn bị mà quy trình đã chọn yêu cầu thay vì trộn biểu diễn kho tài liệu thô với truy vấn được chuẩn bị khác.
Bộ sưu tập thực tế có thể chứa giải thích kỹ thuật, chính sách hoặc tài liệu liên quan đến mã. Câu hỏi về cách hàm xử lý trường hợp cụ thể nên truy xuất đoạn nguồn hoặc trích đoạn mã mô tả hành vi đó. Giữ định danh, tiêu đề và điều kiện liên quan cùng văn bản đoạn thực tế. Vector giúp tìm kiếm ứng viên; nguồn được giữ là thứ người đọc hoặc giai đoạn trả lời RAG sau sử dụng.
Tài liệu nguồn dài hơn
Độ dài chuỗi tối đa được mô tả là 32.768 token. Chọn ranh giới đoạn có chủ đích dù mô hình chứa được nhiều văn bản. Phần hoàn chỉnh có thể giữ định nghĩa và ngoại lệ; đoạn tập trung có thể giúp kiểm tra câu trả lời cụ thể dễ hơn. Đầu vào vượt cửa sổ mô hình cần chia đoạn hoặc cắt, nên phần cuối bị bỏ không nên được coi là nội dung đã biểu diễn.
Giữ từng mục được tạo embedding liên kết với tài liệu cha và phiên bản. Với báo cáo, giữ tiêu đề phần và giải thích xung quanh kết luận mà câu hỏi liên quan. Với tìm mã, giữ tên hàm, giao diện liên quan và hành vi bên cạnh trích đoạn. Điều này cung cấp sản phẩm nguồn cụ thể khi giai đoạn truy xuất trả về ứng viên.
Các phiên bản trong họ và cách dùng kết quả
NVIDIA mô tả các phiên bản BF16 và NVFP4 của họ 1B. Thẻ mô hình lượng tử hóa cho biết hai bản phát hành dùng chung không gian embedding và khuyến nghị kiểm tra chất lượng truy xuất trên tài liệu đại diện khi thay phiên bản. Biểu diễn chung được công bố là tuyên bố của nhà sản xuất về cặp có tên đó, không phải quy tắc chung cho mọi mô hình có 2048 giá trị đầu ra.
Kết quả hữu ích là vector truy vấn hoặc bộ sưu tập nguồn đã lập chỉ mục có ghi mô hình, lựa chọn số chiều và cách chuẩn bị. Trả về văn bản ứng viên cùng định danh rồi kiểm tra nó có cung cấp thông tin cần thiết không. Nhà sản xuất lưu ý rõ mô hình truy xuất không bảo đảm tìm đúng đoạn cho mọi câu hỏi; giai đoạn xếp hạng lại hoặc trả lời sau xử lý các ứng viên như nhiệm vụ riêng.
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:freeBắt đầu
NVIDIA Nemotron 3 Embed 1B biểu diễn truy vấn và đoạn văn đa ngôn ngữ thành vector 2048 chiều cho tìm kiếm và RAG. Dòng được tài liệu mô tả hỗ trợ chuỗi 32,768 token và kích thước vector rút gọn có chuẩn hóa lại.
- Đầu vào được chấp nhận
- Văn bản · token_ids
- Kết quả
- embedding
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings
- Đầu vào
text,token_ids- Đầu ra
embedding- Ngữ cảnh
- 32.768 tokens
- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn nvidia/nemotron-3-embed-1b:free | Mặc định— |
Trườnginput | Loạistring|string[]|integer[]|integer[][] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 Điều kiện: Lô không rỗng và đồng nhất. ID token là số nguyên không âm. Ngân sách đầu vào: Tối đa: 32.768 · Đơn vị văn bản: byte UTF8 · Đơn vị token: phần tử của mảng token | Mặc định— |
Trườngencoding_format | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn float | Mặc địnhfloat |
Trườngdimensions | Loạiinteger | Yêu cầuKhông hỗ trợ | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườnguser | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngsession_id | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngtrace | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngprovider | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: provider.options bị từ chối | Mặc định— |
Tổ hợp tư liệu đầu vào
text_to_embedding
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, input |
Tham sốinput_shapes | Hợp đồngstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Tham sốencoding_format | Hợp đồngfloat |
Tham sốdimensions_override | Hợp đồngfalse |
Tham sốmax_input_budget_units | Hợp đồng32768 |
Tham sốmultimodal_objects | Hợp đồngfalse |
Tham sốmaterial_types | Hợp đồngtext, token_ids |
Vòng đời: synchronous_json
Giữ lại chỉ mục và số chiều của mọi vector.
Việc mô hình mang tên đa phương thức không có nghĩa là đường dẫn cụ thể này chấp nhận đối tượng ảnh.
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Mức giá tiêu chuẩn Khi chọn chế độ nhanh
- Chế độ Flex
- Mức giá tiêu chuẩn Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Mức giá tiêu chuẩn Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Biểu diễn nhúng
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3-embed-1b:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/nemotron-3-embed-1b:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Nhận và lưu kết quả
Ailoot Ultra · Biểu diễn nhúng
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại mọi vector kèm chỉ mục của nó. Số lượng vector phải bằng số lượng đầu vào; số chiều phải nhất quán.
Nếu cần kiểm tra phản hồi gốc
Không có điểm cuối tác vụ embedding nào được bổ sung.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngobject | Loạistring |
Trườngmodel | Loạistring |
Trườngdata[].index | Loạiinteger |
Trườngdata[].embedding | Loạifinite float[] |
Trườngusage | Loạiobject |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới. |
Bí danh
Bí danh mô hình
Ailoot Ultra nvidia/nemotron-3-embed-1b:free
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · NVIDIA: Nemotron 3 Embed 1B (free)
- Có những đầu vào và kết quả nào?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:text,token_ids→embedding- Yêu cầu sử dụng những trường nào?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:model,input,encoding_format,provider- Áp dụng những giới hạn nào?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:ctx:32768;input.budget.maximum:32768(byte UTF8);input.min_items:1