NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
Llama Nemotron Rerank VL 1B V2 to model NVIDIA typu cross-encoder do ponownego porządkowania pobranego materiału według trafności względem zapytania. Wyślij zapytanie oraz kandydujące dokumenty tekstowe, obrazowe lub łączone, a następnie użyj zwróconych ocen i pierwotnych indeksów, aby wybrać fragmenty do wyników wyszukiwania lub odpowiedzi wspomaganej wyszukiwaniem.
O modelu
Ten opis przedstawia możliwości modelu. Dane wejściowe, wyniki i opcje dostępne w Ailoot podano poniżej dla wybranej metody.
Llama Nemotron Rerank VL 1B V2 ocenia trafność kandydujących tekstów i obrazów dokumentów względem zapytania tekstowego, w tym wykresów, tabel i stron łączących różne media. NVIDIA opisuje go jako model cross-encoder mający 1,7 miliarda parametrów. W przepływie wyszukiwania najpierw przeprowadź wyszukiwanie wstępne, a następnie wyślij wybranych kandydatów do modelu porządkującego. Użyteczny wynik to uporządkowany na nowo zestaw tych kandydatów z ocenami trafności, który aplikacja może wykorzystać do wyboru kontekstu odpowiedzi lub ułożenia strony wyników wyszukiwania.
Użyj POST /v1/rerank z treścią application/json. Ustaw model na "nvidia/llama-nemotron-rerank-vl-1b-v2:free", query na rzeczywiste pytanie wyszukiwania, a documents na niepustą tablicę. Każdy kandydat może być ciągiem tekstowym lub obiektem z polami text i/lub image; obiekt ustrukturyzowany musi dostarczać co najmniej jedno z tych pól. text to ciąg tekstowy. image to zdalny adres URL HTTP/HTTPS lub URI danych base64 zaczynający się od data:image/. Kandydat łączony dostarcza oba pola. Zachowaj kolejność tej tablicy wejściowej, aby można było dopasować zwrócone indeksy do przechowywanych identyfikatorów dokumentów. top_n to opcjonalna liczba całkowita wynosząca co najmniej 1, określająca liczbę najwyżej ocenionych dokumentów do zwrócenia.
Na przykład aplikacja centrum pomocy może pobrać fragmenty o dostawie, zwrotach i dostępie do konta, a następnie ponownie uporządkować je względem pytania klienta o dostawę. Przekaż rzeczywisty tekst fragmentu, zamiast nazw plików lub wycinków z wyszukiwarki niepowiązanych z zapisanym źródłem. Zachowaj w aplikacji powiązanie każdego fragmentu z jego własnym identyfikatorem źródła, aby wybrane dowody można było później zacytować lub otworzyć. W przypadku zeskanowanego dokumentu, wykresu, tabeli lub infografiki dostarcz rzeczywisty obraz w obiekcie dokumentu i dodaj tekst, jeśli pomaga rozpoznać treść.
Strona modelu dokumentuje limit 10 240 tokenów na zapytanie i dokument. Podziel dłuższy materiał źródłowy na ograniczone fragmenty przed przygotowaniem listy kandydatów. Zachowaj przy każdym fragmencie przydatny kontekst, w tym nagłówek lub nazwę produktu, jeśli wpływa na znaczenie. Udokumentowane żądanie zaczyna się od dostarczonych kandydatów; nie przeszukuje zbioru dokumentów w twoim imieniu.
Ponowne porządkowanie zwraca synchroniczny wynik JSON. Odczytaj każdy element results, w tym jego pierwotny index, relevance_score i zwrócony obiekt document, który może zawierać text i/lub image, oraz zachowaj wszystkie zwrócone usage i identyfikatory odpowiedzi. Użyj wartości index do powiązania uporządkowanego wyniku z kandydatem wejściowym. Traktuj ocenę trafności jako sygnał porządkujący dla tego zapytania, a nie niezależnie zweryfikowaną odpowiedź faktograficzną. Zachowaj pełny wynik, gdy do następnego kroku wybieranych jest kilka fragmentów.
Dla tej bezpłatnej edycji przygotuj publiczny lub syntetyczny materiał kandydatów; jej udokumentowane warunki użytkowania wykluczają informacje poufne i dane osobowe. Jeśli żądanie zakończy się bez kompletnego wyniku, zachowaj pierwotną odpowiedź i identyfikator żądania podczas sprawdzania tej próby. Udokumentowany przepływ rerank zwraca wynik bezpośrednio i nie udostępnia oddzielnego procesu odpytywania zadania ani anulowania.
Ailoot Ultra · Rerank POST /v1/rerank nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:freeStart
Llama Nemotron Rerank VL 1B V2 to model NVIDIA typu cross-encoder do ponownego porządkowania pobranego materiału według trafności względem zapytania. Wyślij zapytanie oraz kandydujące dokumenty tekstowe, obrazowe lub łączone, a następnie użyj zwróconych ocen i pierwotnych indeksów, aby wybrać fragmenty do wyników wyszukiwania lub odpowiedzi wspomaganej wyszukiwaniem.
- Akceptowane dane wejściowe
- Tekst
- Wyniki
- ranking
Dostępne w Ailoot · dane wejściowe i metody
Ailoot Ultra · Rerank POST /v1/rerank
- Wejście
text- Wyjście
ranking- Format wyjściowy
- JSON
| Pole | Typ | Wymaganie | Wartości i limity | Domyślnie |
|---|---|---|---|---|
Polemodel | Typstring | WymaganieWymagane | Wartości i limity nvidia/llama-nemotron-rerank-vl-1b-v2:free | Domyślnie— |
Polequery | Typstring | WymaganieWymagane | Wartości i limity | Domyślnie— |
Poledocuments | Typarray | WymaganieWymagane | Wartości i limity | Domyślnie— |
Poletop_n | Typinteger | WymaganieOpcjonalne | Wartości i limity Minimum: 1 | Domyślnie— |
Parametry i cykl życia metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, query, documents |
Parametroptional | Kontrakttop_n |
Parametrmaterial_types | Kontrakttext |
Parametrconditions | Kontrakt |
Cykl życia: synchronous_json
Cennik
Informacje taryfowe nie dodają opcji żądania. Obsługiwane parametry podano przy wybranej metodzie.
- Tryb szybki
- Nie określono Gdy wybrany jest tryb szybki
- Tryb flex
- Nie określono Gdy wybrany jest tryb flex
- Maksymalna intensywność rozumowania
- Nie określono Gdy dla maksymalnej intensywności rozumowania stosowana jest domyślna korekta (default)
Stawki Ailoot
Ceny według konfiguracji
Dopasuj każdą opłatę do pokazanych warunków. Użyj jednej stawki dla każdego zestawu alternatywnych konfiguracji.
| Konfiguracja | Tabela stawek | Ilość do rozliczenia | Opłata |
|---|---|---|---|
| KonfiguracjaBazowe stawki za tokeny | Tabela stawekStawka podstawowa | Ilość do rozliczenia— | Opłata Wejście · Tokeny wejściowe — / 1K tokenów Wyjście · Tokeny wyjściowe — / 1K tokenów Wejście · Odczyt cache — / 1K tokenów Wejście · Zapis do cache — / 1K tokenów Wejście · Zapis do cache, 1 godz. — / 1K tokenów |
| KonfiguracjaZa żądanie | Tabela stawek— | Ilość do rozliczeniajedno żądanie | Opłata Wejście $0 za żądanie |
Ailoot rezerwuje szacowaną kwotę przed żądaniem. Po otrzymaniu wyniku rozlicza ostateczną opłatę według zmierzonego użycia. Rozliczenie strumieniowania korzysta z końcowego rekordu użycia. Jak działają rezerwacja i rozliczenie →
Przykładowe żądania
Ailoot Ultra · Rerank
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"documents": ["Paris is the capital of France.", "Berlin is the capital of Germany."], "model": "nvidia/llama-nemotron-rerank-vl-1b-v2:free", "query": "What is the capital of France?", "top_n": 3}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
Odbieranie i zapisywanie wyników
Ailoot Ultra · Rerank
JSON
Zachowaj wszystkie ukończone wyniki
Zachowaj każdą kompletną zwróconą odpowiedź, plik i część treści.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Jeśli trzeba sprawdzić pierwotną odpowiedź
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Pola odpowiedzi
| Pole | Typ |
|---|---|
Poleresults | Typarray |
Aliasy
Aliasy modelu
Ailoot Ultra nvidia/llama-nemotron-rerank-vl-1b-v2:free
Aliasy ścieżek metod
Użyj ścieżek metod podanych powyżej.
Powiązane ID modeli
FAQ · NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
- Jakie dane wejściowe i wyniki są dostępne?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:text→ranking- Jakich pól używa żądanie?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:model,query,documents,top_n- Jakie limity obowiązują?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:top_n.minimum:1