VoyageAI by MongoDB: rerank-2.5-lite
rerank-2.5-lite to nastawiony na niskie opóźnienia reranker Voyage AI wykonujący instrukcje dla dostarczonego zestawu kandydatów tekstowych. Zachowuje kontekst zapytanie–dokument 32 000 tokenów i obsługę wielu języków, zwracając uporządkowaną listę ocen trafności i oryginalnych indeksów dokumentów.
O modelu
Ten opis przedstawia możliwości modelu. Dane wejściowe, wyniki i opcje dostępne w Ailoot podano poniżej dla wybranej metody.
rerank-2.5-lite to lekki wariant wydania rerankerów 2.5 firmy Voyage AI. Producent opisuje go jako model ogólny równoważący opóźnienia i jakość trafności, z wykonywaniem instrukcji w języku naturalnym i obsługą wielu języków. Wejściem jest zapytanie i teksty kandydujące, a wyjściem — dopracowana kolejność tych kandydatów z ocenami trafności.
Lekka ocena trafności w drugim etapie
Model Lite przetwarza wspólnie każdą parę zapytanie–dokument jako cross-encoder. Może działać po pierwszym etapie wyszukiwania embeddingowego lub leksykalnego, dopracowując wybrane przez niego fragmenty. Różni się to od przygotowywania indeksu embeddingów do wielokrotnego użycia: reranker bada przesłane zapytanie i tekst dokumentu razem na potrzeby bieżącej oceny trafności.
W interaktywnym wyszukiwaniu pomocy prześlij kandydujące wyjaśnienia, które mogą odpowiedzieć na pytanie użytkownika. Zachowaj dość każdego fragmentu, aby przekazać zachowanie i jego uwarunkowania, oraz utrzymuj powiązanie indeksu wejściowego z elementem źródłowym. Precyzyjny zestaw kandydatów pomaga wyjaśnić zadanie ponownego porządkowania, zachowując przydatność znalezionych dowodów do wyświetlenia lub późniejszej odpowiedzi.
Instrukcje wyrażają priorytety użytkownika
Podobnie jak rerank-2.5, Lite przyjmuje instrukcje w języku naturalnym przed zapytaniem lub po nim. Przykłady producenta wykorzystują je do podkreślania części dokumentu, wyboru preferowanego rodzaju źródła lub dodawania kontekstu do niejednoznacznego słowa. Aplikacja może dostarczać stałą preferencję trafności albo bieżące pytanie może zawierać bardziej konkretną.
Przykładowe zapytanie wsparcia może pytać, który fragment wyjaśnia błąd, z instrukcją nadania pierwszeństwa krokom rozwiązywania problemów przed ogólnymi opisami produktu. Wyszukiwanie dokumentu może dotyczyć oryginalnego brzmienia polityki zamiast jej omówienia. Opisz oczekiwane dowody i utrzymuj zwięzłą instrukcję. Instrukcje wpływają na oceny trafności; wszelkie ścisłe ograniczenia wersji, daty lub uprawnień uwzględnij w doborze kandydatów, zamiast traktować preferencję trafności jako gwarantowany filtr.
Odczytaj ranking i zwróć fragment źródłowy
Wyjście jest sortowane malejąco według trafności. Każdy wynik zawiera oryginalny indeks dokumentu i ocenę zmiennoprzecinkową; opcjonalne ustawienie return-documents zwraca również odpowiedni tekst wejściowy. Opcja top-k określa liczbę zwracanych czołowych wyników, a jej pominięcie zwraca ranking wszystkich przesłanych kandydatów.
Użyj tych indeksów, aby odzyskać fragment źródłowy i jego identyfikator. Ponownie sklasyfikowany kandydat może stać się wynikiem wyszukiwania lub dowodem dla następnego etapu RAG, ale wyjściem jest uporządkowanie dostarczonego tekstu, a nie przeredagowana odpowiedź. Oceń, czy czołowe fragmenty spełniają zarówno pytanie, jak i instrukcję trafności, także w językach i typach dokumentów rzeczywiście obecnych w zbiorze.
Limity i praktyczny budżet kandydatów
Wydanie 2.5 Lite ma udokumentowane maksimum zapytania 8 000 tokenów i limit 32 000 tokenów dla zapytania z każdym pojedynczym dokumentem. Jest odrębne od wcześniejszego modelu rerank-2-lite i jego mniejszego kontekstu. Można przesłać najwyżej 1 000 dokumentów, a łączne wejście jest ograniczone do 600 000 tokenów według formuły: tokeny zapytania pomnożone przez liczbę kandydatów, plus suma tokenów dokumentów kandydujących.
Dla zastosowań wrażliwych na opóźnienia FAQ producenta zaleca rerank-2.5-lite z łączną liczbą tokenów nieprzekraczającą 200 000 na żądanie. Jest to praktyczna wskazówka poniżej podanego maksimum, a nie inne okno dla pojedynczego dokumentu. Dłuższe zapytanie lub instrukcja są liczone raz dla każdej pary z kandydatem, więc liczba kandydatów i długość zapytania wpływają na sumę.
Obcinanie jest domyślnie włączone i skraca zbyt długie wejście zapytania lub dokumentu do limitu; wyłączenie zwraca błąd przy zbyt długim zapytaniu lub parze. Świadomie przygotuj zwarte fragmenty zawierające odpowiedź, aby przydatne dowody nie znalazły się poza granicą obcięcia. Wybór mniejszej liczby wyników wyjściowych przez top-k nie usuwa pozostałych dostarczonych kandydatów z obliczania tokenów. Sprawdź zwrócone fragmenty źródłowe i dopracuj przygotowanie wejścia pod rzeczywiste pytania, na które interfejs wyszukiwania ma odpowiadać.
Ailoot Ultra · Ponowne rankowanie POST /v1/rerank voyageai/rerank-2.5-lite
voyageai/rerank-2.5-liteStart
rerank-2.5-lite to nastawiony na niskie opóźnienia reranker Voyage AI wykonujący instrukcje dla dostarczonego zestawu kandydatów tekstowych. Zachowuje kontekst zapytanie–dokument 32 000 tokenów i obsługę wielu języków, zwracając uporządkowaną listę ocen trafności i oryginalnych indeksów dokumentów.
- Akceptowane dane wejściowe
- Tekst
- Wyniki
- Wyniki uporządkowane według trafności
Dostępne w Ailoot · dane wejściowe i metody
Ailoot Ultra · Ponowne rankowanie POST /v1/rerank
- Wejście
text- Wyjście
rerank- Format wyjściowy
- json
| Pole | Typ | Wymaganie | Wartości i limity | Domyślnie |
|---|---|---|---|---|
Poledocuments | Typarray | WymaganieWymagane | Wartości i limity | Domyślnie— |
Polemodel | Typstring | WymaganieWymagane | Wartości i limity voyageai/rerank-2.5-lite | Domyślnie— |
Poleprovider | Typschema | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Polequery | Typstring | WymaganieWymagane | Wartości i limity | Domyślnie— |
Polesession_id | Typstring | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Poletop_n | Typinteger | WymaganieOpcjonalne | Wartości i limity Minimum: 1 | Domyślnie— |
Poletrace | Typschema | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Poleuser | Typstring | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Poledocuments[].text | Typstring | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Poledocuments[].image | Typstring | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Kombinacje materiałów wejściowych
text_rerank · Wymagane: query, documents array with minItems1
Parametry i cykl życia metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, query, documents |
Parametrmaterial_types | Kontrakttext |
Parametroptional_controls | Kontraktprovider, session_id, top_n, trace, user |
Parametrmultimodal_input_binding | Kontraktnull |
Cykl życia: synchronous
Wyślij dokładny identyfikator modelu i zachowaj kompletną natywną odpowiedź.
Cennik
Informacje taryfowe nie dodają opcji żądania. Obsługiwane parametry podano przy wybranej metodzie.
- Tryb szybki
- Nie określono Gdy wybrany jest tryb szybki
- Tryb flex
- Nie określono Gdy wybrany jest tryb flex
- Maksymalna intensywność rozumowania
- Nie określono Gdy dla maksymalnej intensywności rozumowania stosowana jest domyślna korekta (default)
Stawki Ailoot
Ceny według konfiguracji
Dopasuj każdą opłatę do pokazanych warunków. Użyj jednej stawki dla każdego zestawu alternatywnych konfiguracji.
| Konfiguracja | Tabela stawek | Jednostka rozliczeniowa | Opłata |
|---|---|---|---|
| KonfiguracjaBazowe stawki za tokeny | Tabela stawekStawka podstawowa | Jednostka rozliczeniowa— | Opłata Wejście · Tokeny wejściowe — / 1K tokenów Wyjście · Tokeny wyjściowe — / 1K tokenów Wejście · Odczyt cache — / 1K tokenów Wejście · Zapis do cache — / 1K tokenów Wejście · Zapis do cache, 1 godz. — / 1K tokenów |
| KonfiguracjaUltra | Tabela stawek— | Jednostka rozliczeniowa/ 1K tokenów | Opłata Wejście $0.00004 / 1K tokenów |
Ailoot rezerwuje szacowaną kwotę przed żądaniem. Po otrzymaniu wyniku rozlicza ostateczną opłatę według zmierzonego użycia. Rozliczenie strumieniowania korzysta z końcowego rekordu użycia. Jak działają rezerwacja i rozliczenie →
Przykładowe żądania
Ailoot Ultra · Ponowne rankowanie
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-2.5-lite",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-2.5-lite'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Odbieranie i zapisywanie wyników
Ailoot Ultra · Ponowne rankowanie
json
Zachowaj wszystkie ukończone wyniki
Zachowaj każdą kompletną zwróconą odpowiedź, plik i część treści.
Zachowywany jest każdy rzeczywisty indeks wyniku, skończona wartość relevance_score i oryginalny obiekt dokumentu. Indeksy wskazują na pierwotną tablicę dokumentów. Cały oryginalny JSON jest zapisywany i zwracany dopiero po rozliczeniu.
Jeśli trzeba sprawdzić pierwotną odpowiedź
Zachowaj pierwotną operację oraz pełną lub częściową odpowiedź; nie ponawiaj POST.
Pola odpowiedzi
| Pole | Typ |
|---|---|
Polemodel | Typstring |
Poleid | Typstring |
Poleprovider | Typstring |
Poleresults[].index | Typinteger |
Poleresults[].relevance_score | Typnumber |
Poleresults[].document.text | Typstring |
Poleresults[].document.image | Typstring |
Poleusage.search_units | Typinteger |
Poleusage.total_tokens | Typinteger |
Poleusage.cost | Typnumber |
Błędy i dalsze kroki
| Odpowiedź | Warunek | Następny krok |
|---|---|---|
Odpowiedź400 · invalid_request_error | WarunekNieprawidłowe wymagane pole, reprezentacja lub wartość | Następny krokPopraw wskazane pole żądania. |
Aliasy
Aliasy modelu
Ailoot Ultra voyageai/rerank-2.5-lite
Aliasy ścieżek metod
Użyj ścieżek metod podanych powyżej.
Powiązane ID modeli
FAQ · VoyageAI by MongoDB: rerank-2.5-lite
- Jakie dane wejściowe i wyniki są dostępne?
POST /v1/rerank·voyageai/rerank-2.5-lite:text→rerank- Jakich pól używa żądanie?
POST /v1/rerank·voyageai/rerank-2.5-lite:documents,model,provider,query,session_id,top_n,trace,user- Jakie limity obowiązują?
POST /v1/rerank·voyageai/rerank-2.5-lite:top_n.minimum:1