NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
Llama Nemotron Embed VL 1B V2 to multimodalny model osadzeń NVIDIA do wyszukiwania. Zamienia tekst, obrazy lub połączone wejścia dokumentowe na wektory i obsługuje wyszukiwanie za pomocą zapytań tekstowych w dokumentach zawierających tabele, wykresy, tekst i infografiki.
- Ailoot Ultra · Reprezentacje wektorowe
POST /v1/embeddingsnvidia/llama-nemotron-embed-vl-1b-v2:free
O modelu
Ten opis przedstawia możliwości modelu. Dane wejściowe, wyniki i opcje dostępne w Ailoot podano poniżej dla wybranej metody.
Llama Nemotron Embed VL 1B V2 to model osadzeń NVIDIA do multimodalnego wyszukiwania na potrzeby odpowiadania na pytania. Może reprezentować dokument jako tekst, obraz lub połączenie obrazu i tekstu. Zapytanie tekstowe można następnie wykorzystać do znalezienia powiązanych dokumentów. Opublikowany profil obsługuje obrazy dokumentów zawierające tekst, tabele, wykresy i infografiki oraz zwraca wektory osadzeń.
Przygotuj identyfikowalne elementy dokumentów
Zachowaj powiązanie każdego wejścia ze źródłowym dokumentem, stroną lub fragmentem, który reprezentuje. Dla strony wizualnej zachowaj obraz i należący do niego tekst towarzyszący. Dla fragmentu tekstowego zachowaj tytuł lub oznaczenie sekcji, gdy pomaga to interpretować późniejsze dopasowanie. Te identyfikatory źródła sprawiają, że znaleziony element jest użyteczny jako materiał dowodowy, a nie tylko liczbowy wynik podobieństwa.
Wybieraj granice elementów wokół materiału, który użytkownik musi znaleźć. Wykres i jego wyjaśnienie mogą należeć do siebie; niepowiązane strony powinny zachować odrębne tożsamości. Sprawdź, czy wejście jest czytelne i czy tekst lub obraz zawiera informacje, które zamierzone zapytanie ma odnaleźć.
Zapytania tekstowe i wyszukiwanie wektorowe
Rolą modelu jest tworzenie wektorów do wyszukiwania, przy czym tekst jest formą zapytania opisaną w profilu. Utrzymuj zapytanie i indeksowane elementy w zgodnej konfiguracji osadzeń. Aplikacja zapisuje wektory, porównuje je i zwraca odpowiednie elementy źródłowe. Znaleziony dokument pozostaje materiałem do sprawdzenia lub przekazania do późniejszego etapu generowania odpowiedzi.
Użyteczny zestaw testowy obejmuje pytania faktycznie zadawane przez użytkowników i strony, które powinny zostać znalezione. Sprawdzaj błędne lub brakujące dopasowania względem treści źródłowej i granic elementów. Zachowuj pełny identyfikator dokumentu przy każdym wybranym fragmencie lub obrazie, aby wynik można było sprawdzić w kontekście.
Limit wejścia i rezultat wyszukiwania
Udokumentowany profil udostępniany jako usługa podaje do 131 072 tokenów na wejście. Dziel większe zestawy źródeł na osobne, oznaczone wejścia i zachowuj ich relacje. Wektorowe wyjście profilu nie jest wygenerowaną odpowiedzią tekstową ani transkrypcją; późniejszy etap aplikacji może wykorzystać znalezione materiały źródłowe do odpowiedzi na pytanie.
Kompletny rezultat wyszukiwania łączy zapytanie, wybrane elementy źródłowe i ich identyfikatory. Zachowaj model osadzeń i przygotowanie wejścia użyte w indeksie, aby późniejsze zmiany można było odróżnić od zmian w kolekcji źródłowej.
Ailoot Ultra · Reprezentacje wektorowe POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freeStart
Llama Nemotron Embed VL 1B V2 to multimodalny model osadzeń NVIDIA do wyszukiwania. Zamienia tekst, obrazy lub połączone wejścia dokumentowe na wektory i obsługuje wyszukiwanie za pomocą zapytań tekstowych w dokumentach zawierających tabele, wykresy, tekst i infografiki.
- Akceptowane dane wejściowe
- Tekst · token_ids
- Wyniki
- embedding
Dostępne w Ailoot · dane wejściowe i metody
Ailoot Ultra · Reprezentacje wektorowe POST /v1/embeddings
- Wejście
text,token_ids- Wyjście
embedding- Kontekst
- 131 072 tokens
- Format wyjściowy
- json
| Pole | Typ | Wymaganie | Wartości i limity | Domyślnie |
|---|---|---|---|---|
Polemodel | Typstring | WymaganieWymagane | Wartości i limity nvidia/llama-nemotron-embed-vl-1b-v2:free | Domyślnie— |
Poleinput | Typstring|string[]|integer[]|integer[][] | WymaganieWymagane | Wartości i limity Minimalna liczba elementów: 1 Warunki: Niepusta, jednorodna partia danych. Identyfikatory tokenów są nieujemnymi liczbami całkowitymi. Budżet wejścia: Maksimum: 131 072 · Jednostka tekstu: bajty UTF8 · Jednostka tokenów: elementy tablicy tokenów | Domyślnie— |
Poleencoding_format | Typstring | WymaganieOpcjonalne | Wartości i limity float | Domyślniefloat |
Poledimensions | Typinteger | WymaganieNieobsługiwane | Wartości i limity Minimum: 1 | Domyślnie— |
Poleuser | Typjson_value | WymaganieOpcjonalne | Wartości i limity Warunki: Źródło dopuszcza to pole metadanych JSON; dokładna semantyka po stronie dostawcy zależy od modelu. | Domyślnie— |
Polesession_id | Typjson_value | WymaganieOpcjonalne | Wartości i limity Warunki: Źródło dopuszcza to pole metadanych JSON; dokładna semantyka po stronie dostawcy zależy od modelu. | Domyślnie— |
Poletrace | Typjson_value | WymaganieOpcjonalne | Wartości i limity Warunki: Źródło dopuszcza to pole metadanych JSON; dokładna semantyka po stronie dostawcy zależy od modelu. | Domyślnie— |
Poleprovider | Typobject | WymaganieOpcjonalne | Wartości i limity Warunki: Odrzucono provider.options | Domyślnie— |
Kombinacje materiałów wejściowych
text_to_embedding
Parametry i cykl życia metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, input |
Parametrinput_shapes | Kontraktstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrencoding_format | Kontraktfloat |
Parametrdimensions_override | Kontraktfalse |
Parametrmax_input_budget_units | Kontrakt131072 |
Parametrmultimodal_objects | Kontraktfalse |
Parametrmaterial_types | Kontrakttext, token_ids |
Cykl życia: synchronous_json
Zachowaj indeks i liczbę wymiarów każdego wektora.
Nawet jeśli nazwa modelu wskazuje na multimodalność, ta konkretna ścieżka nie obsługuje obiektów obrazów.
Cennik
Informacje taryfowe nie dodają opcji żądania. Obsługiwane parametry podano przy wybranej metodzie.
- Tryb szybki
- Stawka standardowa Gdy wybrany jest tryb szybki
- Tryb flex
- Stawka standardowa Gdy wybrany jest tryb flex
- Maksymalna intensywność rozumowania
- Stawka standardowa Gdy dla maksymalnej intensywności rozumowania stosowana jest domyślna korekta (default)
Stawki Ailoot
Ceny według konfiguracji
| Konfiguracja | Tabela stawek | Opłata |
|---|---|---|
| KonfiguracjaPodstawowe stawki za tokeny | Tabela stawekStawka podstawowa | Opłata Wejście · Tokeny wejściowe $0 / 1K tokenów Wyjście · Tokeny wyjściowe $0 / 1K tokenów Wejście · Odczyt cache — / 1K tokenów Wejście · Zapis do cache — / 1K tokenów Wejście · Zapis do cache, 1 godz. — / 1K tokenów |
Ailoot rezerwuje szacowaną kwotę przed żądaniem. Po otrzymaniu wyniku rozlicza ostateczną opłatę według zmierzonego użycia. Rozliczenie strumieniowania korzysta z końcowego rekordu użycia. Jak działają rezerwacja i rozliczenie →
Przykładowe żądania
Ailoot Ultra · Reprezentacje wektorowe
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Odbieranie i zapisywanie wyników
Ailoot Ultra · Reprezentacje wektorowe
json
Zachowaj wszystkie ukończone wyniki
Zachowaj każdą kompletną zwróconą odpowiedź, plik i część treści.
Zachowaj każdy wektor wraz z jego indeksem. Liczba wektorów musi być równa liczbie elementów wejściowych; wszystkie wektory muszą mieć tę samą liczbę wymiarów.
Jeśli trzeba sprawdzić pierwotną odpowiedź
Nie wprowadzono endpointu zadań generowania osadzeń.
Pola odpowiedzi
| Pole | Typ |
|---|---|
Poleobject | Typstring |
Polemodel | Typstring |
Poledata[].index | Typinteger |
Poledata[].embedding | Typfinite float[] |
Poleusage | Typobject |
Błędy i dalsze kroki
| Odpowiedź | Warunek | Następny krok |
|---|---|---|
Odpowiedź400 · invalid_request_error | WarunekNieprawidłowe wymagane pola, sposób reprezentacji materiału lub wartość parametru | Następny krokPopraw wskazane pola przed nowym żądaniem utworzenia. |
Aliasy
Aliasy modelu
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
Aliasy ścieżek metod
Użyj ścieżek metod podanych powyżej.
Powiązane ID modeli
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- Jakie dane wejściowe i wyniki są dostępne?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- Jakich pól używa żądanie?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- Jakie limity obowiązują?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(bajty UTF8);input.min_items:1