NVIDIA: Nemotron 3 Embed 1B (free)
NVIDIA Nemotron 3 Embed 1B przedstawia wielojęzyczne zapytania i fragmenty tekstu jako wektory o 2048 wymiarach do wyszukiwania i RAG. Udokumentowana rodzina obsługuje sekwencje 32 768 tokenów oraz mniejsze rozmiary wektorów z ponowną normalizacją.
O modelu
Ten opis przedstawia możliwości modelu. Dane wejściowe, wyniki i opcje dostępne w Ailoot podano poniżej dla wybranej metody.
Nemotron 3 Embed 1B to rodzina modeli osadzeń tekstu NVIDIA do wyszukiwania wielojęzycznego, wyszukiwania między językami i oceny podobieństwa semantycznego. Zamienia pytanie lub fragment na gęsty wektor, który system wyszukiwania może porównywać z innymi reprezentacjami tekstu. Producent ocenia udokumentowane wersje 1B w trzydziestu czterech konfiguracjach języków i ich odmian, obejmujących angielski, arabski, chiński, rosyjski, japoński, koreański i Hinglish.
Koder i reprezentacja
Karta modelu producenta opisuje przycięty, dwukierunkowy model o architekturze Transformer wywodzący się z Ministral 3. Ma około 1,14 miliarda parametrów i uśrednia reprezentacje na poziomie tokenów, aby uzyskać jedno osadzenie na tekst. Natywnym wyjściem jest 2048-wymiarowy wektor zmiennoprzecinkowy. To reprezentacja do wyszukiwania, a nie pisemna odpowiedź na pytanie, którego osadzenie jest tworzone.
Producent obsługuje również zachowanie początkowej części tej reprezentacji, na przykład 1024 lub 512 wymiarów. Po wycięciu tej części skrócony wektor trzeba ponownie znormalizować metodą L2. Utrzymuj spójną wybraną długość reprezentacji i normalizację po stronie zapytania i korpusu w zadaniu wyszukiwania. Długość wektora i długość sekwencji wejściowej są odrębnymi właściwościami.
Przygotowanie zapytania i fragmentu
Udokumentowana konwencja wyszukiwania używa „query:” dla pytania i „passage:” dla tekstu dokumentu. Przykłady producenta stosują te role przed kodowaniem i porównują znormalizowane wektory iloczynem skalarnym, równoważnym podobieństwu kosinusowemu. Używaj przygotowania oczekiwanego przez wybrany proces, zamiast mieszać surową reprezentację korpusu z inaczej przygotowanym zapytaniem.
Praktyczna kolekcja może zawierać wyjaśnienia techniczne, zasady lub dokumentację związaną z kodem. Pytanie o sposób obsługi konkretnego przypadku przez funkcję powinno odnaleźć fragment źródłowy lub fragment kodu opisujący to zachowanie. Zachowaj identyfikatory, nagłówki i odpowiednie warunki wraz z rzeczywistym tekstem fragmentu. Wektor pozwala wyszukać kandydata; zachowane źródło jest tym, z czego korzysta czytelnik lub późniejszy etap pisania odpowiedzi RAG.
Dłuższy materiał źródłowy
Udokumentowana maksymalna długość sekwencji wynosi 32 768 tokenów. Wybieraj granice fragmentów celowo, nawet gdy model może pomieścić dużo tekstu. Pełna sekcja może zachować definicję i jej wyjątki; fragment dotyczący konkretnego zagadnienia może ułatwić sprawdzenie określonej odpowiedzi. Wejścia przekraczające okno modelu wymagają podziału na fragmenty lub obcięcia, więc pominiętej końcówki nie należy traktować jako reprezentowanej treści.
Zachowaj powiązanie każdego elementu z utworzonym osadzeniem z jego dokumentem nadrzędnym i wersją. W raporcie zachowaj tytuł sekcji i wyjaśnienie otaczające wniosek, którego dotyczy pytanie. W wyszukiwaniu kodu zachowaj nazwę funkcji, odpowiedni interfejs i zachowanie obok fragmentu. Zapewnia to konkretny materiał źródłowy, gdy etap wyszukiwania zwróci kandydata.
Wersje rodziny i wykorzystanie wyników
NVIDIA dokumentuje wersje BF16 i NVFP4 rodziny 1B. Karta modelu skwantyzowanego podaje, że te dwie wersje współdzielą przestrzeń osadzeń, i zaleca sprawdzanie jakości wyszukiwania na reprezentatywnym materiale przy zmianie wersji. Deklarowana wspólna reprezentacja jest stwierdzeniem producenta dotyczącym tej nazwanej pary, a nie ogólną regułą dla każdego modelu o 2048 wartościach wyjściowych.
Użytecznym wynikiem jest wektor zapytania lub indeksowana kolekcja źródeł z zapisanym modelem, wybraną liczbą wymiarów i sposobem przygotowania. Zwracaj kandydujący tekst z jego identyfikatorem i sprawdzaj, czy dostarcza wymaganych informacji. Producent wyraźnie zaznacza, że model wyszukiwania nie gwarantuje właściwego fragmentu dla każdego pytania; późniejszy etap ponownego rankingu lub odpowiedzi pracuje z tymi kandydatami w ramach własnego zadania.
Ailoot Ultra · Reprezentacje wektorowe POST /v1/embeddings nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:free
nvidia/nemotron-3-embed-1b:freeStart
NVIDIA Nemotron 3 Embed 1B przedstawia wielojęzyczne zapytania i fragmenty tekstu jako wektory o 2048 wymiarach do wyszukiwania i RAG. Udokumentowana rodzina obsługuje sekwencje 32 768 tokenów oraz mniejsze rozmiary wektorów z ponowną normalizacją.
- Akceptowane dane wejściowe
- Tekst · token_ids
- Wyniki
- embedding
Dostępne w Ailoot · dane wejściowe i metody
Ailoot Ultra · Reprezentacje wektorowe POST /v1/embeddings
- Wejście
text,token_ids- Wyjście
embedding- Kontekst
- 32 768 tokens
- Format wyjściowy
- json
| Pole | Typ | Wymaganie | Wartości i limity | Domyślnie |
|---|---|---|---|---|
Polemodel | Typstring | WymaganieWymagane | Wartości i limity nvidia/nemotron-3-embed-1b:free | Domyślnie— |
Poleinput | Typstring|string[]|integer[]|integer[][] | WymaganieWymagane | Wartości i limity Minimalna liczba elementów: 1 Warunki: Niepusta, jednorodna partia danych. Identyfikatory tokenów są nieujemnymi liczbami całkowitymi. Budżet wejścia: Maksimum: 32 768 · Jednostka tekstu: bajty UTF8 · Jednostka tokenów: elementy tablicy tokenów | Domyślnie— |
Poleencoding_format | Typstring | WymaganieOpcjonalne | Wartości i limity float | Domyślniefloat |
Poledimensions | Typinteger | WymaganieNieobsługiwane | Wartości i limity Minimum: 1 | Domyślnie— |
Poleuser | Typjson_value | WymaganieOpcjonalne | Wartości i limity Warunki: Źródło dopuszcza to pole metadanych JSON; dokładna semantyka po stronie dostawcy zależy od modelu. | Domyślnie— |
Polesession_id | Typjson_value | WymaganieOpcjonalne | Wartości i limity Warunki: Źródło dopuszcza to pole metadanych JSON; dokładna semantyka po stronie dostawcy zależy od modelu. | Domyślnie— |
Poletrace | Typjson_value | WymaganieOpcjonalne | Wartości i limity Warunki: Źródło dopuszcza to pole metadanych JSON; dokładna semantyka po stronie dostawcy zależy od modelu. | Domyślnie— |
Poleprovider | Typobject | WymaganieOpcjonalne | Wartości i limity Warunki: Odrzucono provider.options | Domyślnie— |
Kombinacje materiałów wejściowych
text_to_embedding
Parametry i cykl życia metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, input |
Parametrinput_shapes | Kontraktstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrencoding_format | Kontraktfloat |
Parametrdimensions_override | Kontraktfalse |
Parametrmax_input_budget_units | Kontrakt32768 |
Parametrmultimodal_objects | Kontraktfalse |
Parametrmaterial_types | Kontrakttext, token_ids |
Cykl życia: synchronous_json
Zachowaj indeks i liczbę wymiarów każdego wektora.
Nawet jeśli nazwa modelu wskazuje na multimodalność, ta konkretna ścieżka nie obsługuje obiektów obrazów.
Cennik
Informacje taryfowe nie dodają opcji żądania. Obsługiwane parametry podano przy wybranej metodzie.
- Tryb szybki
- Stawka standardowa Gdy wybrany jest tryb szybki
- Tryb flex
- Stawka standardowa Gdy wybrany jest tryb flex
- Maksymalna intensywność rozumowania
- Stawka standardowa Gdy dla maksymalnej intensywności rozumowania stosowana jest domyślna korekta (default)
Stawki Ailoot
Ceny według konfiguracji
| Konfiguracja | Tabela stawek | Opłata |
|---|---|---|
| KonfiguracjaPodstawowe stawki za tokeny | Tabela stawekStawka podstawowa | Opłata Wejście · Tokeny wejściowe $0 / 1K tokenów Wyjście · Tokeny wyjściowe $0 / 1K tokenów Wejście · Odczyt cache — / 1K tokenów Wejście · Zapis do cache — / 1K tokenów Wejście · Zapis do cache, 1 godz. — / 1K tokenów |
Ailoot rezerwuje szacowaną kwotę przed żądaniem. Po otrzymaniu wyniku rozlicza ostateczną opłatę według zmierzonego użycia. Rozliczenie strumieniowania korzysta z końcowego rekordu użycia. Jak działają rezerwacja i rozliczenie →
Przykładowe żądania
Ailoot Ultra · Reprezentacje wektorowe
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3-embed-1b:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/nemotron-3-embed-1b:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Odbieranie i zapisywanie wyników
Ailoot Ultra · Reprezentacje wektorowe
json
Zachowaj wszystkie ukończone wyniki
Zachowaj każdą kompletną zwróconą odpowiedź, plik i część treści.
Zachowaj każdy wektor wraz z jego indeksem. Liczba wektorów musi być równa liczbie elementów wejściowych; wszystkie wektory muszą mieć tę samą liczbę wymiarów.
Jeśli trzeba sprawdzić pierwotną odpowiedź
Nie wprowadzono endpointu zadań generowania osadzeń.
Pola odpowiedzi
| Pole | Typ |
|---|---|
Poleobject | Typstring |
Polemodel | Typstring |
Poledata[].index | Typinteger |
Poledata[].embedding | Typfinite float[] |
Poleusage | Typobject |
Błędy i dalsze kroki
| Odpowiedź | Warunek | Następny krok |
|---|---|---|
Odpowiedź400 · invalid_request_error | WarunekNieprawidłowe wymagane pola, sposób reprezentacji materiału lub wartość parametru | Następny krokPopraw wskazane pola przed nowym żądaniem utworzenia. |
Aliasy
Aliasy modelu
Ailoot Ultra nvidia/nemotron-3-embed-1b:free
Aliasy ścieżek metod
Użyj ścieżek metod podanych powyżej.
Powiązane ID modeli
FAQ · NVIDIA: Nemotron 3 Embed 1B (free)
- Jakie dane wejściowe i wyniki są dostępne?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:text,token_ids→embedding- Jakich pól używa żądanie?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:model,input,encoding_format,provider- Jakie limity obowiązują?
POST /v1/embeddings·nvidia/nemotron-3-embed-1b:free:ctx:32768;input.budget.maximum:32768(bajty UTF8);input.min_items:1