Cohere: Rerank 4 Fast
Cohere Rerank 4 Fast porządkuje dokumenty kandydujące według trafności względem zapytania, koncentrując się na wyszukiwaniu o małych opóźnieniach i dużej przepustowości. Obsługuje kontekst 32K, ponad 100 języków i częściowo ustrukturyzowany tekst w wyszukiwaniu oraz przepływach wspomaganych wyszukiwaniem.
O modelu
Ten opis przedstawia możliwości modelu. Dane wejściowe, wyniki i opcje dostępne w Ailoot podano poniżej dla wybranej metody.
Cohere Rerank 4 Fast to lżejsza edycja Rerank 4 przeznaczona do zadań wyszukiwania o mniejszych opóźnieniach i większej przepustowości. Przyjmuje zapytanie i dokumenty kandydujące, a następnie zwraca ich kolejność według trafności oraz oceny. Przydaje się w interaktywnym wyszukiwaniu, wielokrotnym wybieraniu materiałów źródłowych i aplikacjach wymagających uporządkowania istniejącej listy wyników. Fast pozostaje odrębną edycją od Rerank 4 Pro, przeznaczonego do bardziej złożonych przypadków, gdzie priorytetem jest jakość wyszukiwania.
Kod producenta to rerank-v4.0-fast. Podobnie jak Pro ma kontekst 32 768 tokenów i obejmuje ponad 100 języków. Zapytanie i jeden dokument dzielą kontekst; nie jest to wymiar wektora ani budżet całego zindeksowanego korpusu. Dostarcz teksty kandydujące do porównania, zamiast oczekiwać, że model pobierze dokumenty ze źródła, którego nie otrzymał.
Udokumentowany wynik zawiera oryginalny indeks dokumentu i relevance_score. Parametr top_n określa liczbę zwracanych wyników; po jego pominięciu zwracana jest pełna uszeregowana lista. Zachowaj identyfikatory źródeł przy tekstach wejściowych, aby nową kolejność można było połączyć z rzeczywistymi fragmentami. Przy wyszukiwaniu produktu opisz wymagane atrybuty w zapytaniu i uporządkuj ponownie opisy kandydatów; wyższa pozycja powinna pozostać powiązana z rekordem produktu, który ją uzyskał.
Model może pracować z dokumentami angielskimi i nieangielskimi oraz rekordami częściowo ustrukturyzowanymi. W procesie V2 dokumenty wejściowe mają postać ciągów znaków, a Cohere zaleca przedstawianie danych strukturalnych jako YAML. Umieszczaj ważne pola na początku i zachowuj ich kolejność, aby przycięcie nie odrzuciło treści potrzebnej do oceny trafności. Rekord pomocy technicznej może zawierać tytuł, produkt i tekst procedury; wiadomość może zawierać temat i treść. Te wyraźnie określone relacje dają modelowi rankingowemu informacje wykraczające poza listę pasujących słów kluczowych.
Limit długości zapytania dla tego modelu podany w przewodniku przygotowania danych Cohere wynosi 16 384 tokeny, przy czym zapytanie i dokument zużywają wspólny kontekst. Przewodnik opisuje przetwarzanie fragmentów dłuższych dokumentów, natomiast dokumentacja V2 osobno ustawia przycinanie dokumentów domyślnie na 4096 tokenów przez max_tokens_per_doc. Sprawdź faktycznie stosowane ustawienie limitu dokumentu, zamiast zakładać, że zawsze wykorzystywane jest całe okno modelu 32K. Przygotuj odpowiednie fragmenty lub właściwy budżet dokumentu dla rzeczywistego zadania wyszukiwania.
Aby zapewnić odpowiednią wydajność, Cohere odradza przesyłanie więcej niż 1 000 dokumentów w jednym żądaniu. Dziel większe zestawy kandydatów na możliwe do obsłużenia grupy, zachowując identyfikatory. Oceny wyjściowe są normalizowane od 0 do 1 i zależą od zapytania oraz fragmentów. Ich kolejność jest kluczowym wynikiem; ocena nie jest liniową wielokrotnością trafności ani dowodem poprawności fragmentu. Ustal każdy próg filtrowania na podstawie reprezentatywnych zapytań i fragmentów o granicznej trafności z danej dziedziny.
Przydatnym wynikiem Fast jest uszeregowana lista, która może od razu posłużyć do wyświetlenia wyników wyszukiwania lub wyboru materiałów źródłowych na potrzeby etapu pisania odpowiedzi. Zachowaj tekst źródłowy wraz z oceną i sprawdź, czy najlepsze wyniki rzeczywiście dotyczą żądanych warunków. Rolą Fast jest szeregowanie wyników wyszukiwania, a nie generowanie nowego wyjaśnienia lub wektora embeddingu. Dopracowując sposób oceny trafności, konsekwentnie używaj tej samej edycji modelu i tego samego sposobu przygotowania danych wejściowych.
Ailoot Ultra · Ponowne rankowanie POST /v1/rerank cohere/rerank-4-fast
cohere/rerank-4-fastStart
Cohere Rerank 4 Fast porządkuje dokumenty kandydujące według trafności względem zapytania, koncentrując się na wyszukiwaniu o małych opóźnieniach i dużej przepustowości. Obsługuje kontekst 32K, ponad 100 języków i częściowo ustrukturyzowany tekst w wyszukiwaniu oraz przepływach wspomaganych wyszukiwaniem.
- Akceptowane dane wejściowe
- Tekst
- Wyniki
- Wyniki uporządkowane według trafności
Dostępne w Ailoot · dane wejściowe i metody
Ailoot Ultra · Ponowne rankowanie POST /v1/rerank
- Wejście
text- Wyjście
rerank- Format wyjściowy
- json
| Pole | Typ | Wymaganie | Wartości i limity | Domyślnie |
|---|---|---|---|---|
Poledocuments | Typarray | WymaganieWymagane | Wartości i limity | Domyślnie— |
Polemodel | Typstring | WymaganieWymagane | Wartości i limity cohere/rerank-4-fast | Domyślnie— |
Poleprovider | Typschema | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Polequery | Typstring | WymaganieWymagane | Wartości i limity | Domyślnie— |
Polesession_id | Typstring | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Poletop_n | Typinteger | WymaganieOpcjonalne | Wartości i limity Minimum: 1 | Domyślnie— |
Poletrace | Typschema | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Poleuser | Typstring | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Poledocuments[].text | Typstring | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Poledocuments[].image | Typstring | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Kombinacje materiałów wejściowych
text_rerank · Wymagane: query, documents array with minItems1
Parametry i cykl życia metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, query, documents |
Parametrmaterial_types | Kontrakttext |
Parametroptional_controls | Kontraktprovider, session_id, top_n, trace, user |
Parametrmultimodal_input_binding | Kontraktnull |
Cykl życia: synchronous
Wyślij dokładny identyfikator modelu i zachowaj kompletną natywną odpowiedź.
Cennik
Informacje taryfowe nie dodają opcji żądania. Obsługiwane parametry podano przy wybranej metodzie.
- Tryb szybki
- Nie określono Gdy wybrany jest tryb szybki
- Tryb flex
- Nie określono Gdy wybrany jest tryb flex
- Maksymalna intensywność rozumowania
- Nie określono Gdy dla maksymalnej intensywności rozumowania stosowana jest domyślna korekta (default)
Stawki Ailoot
Ceny według konfiguracji
Dopasuj każdą opłatę do pokazanych warunków. Użyj jednej stawki dla każdego zestawu alternatywnych konfiguracji.
| Konfiguracja | Tabela stawek | Jednostka rozliczeniowa | Opłata |
|---|---|---|---|
| KonfiguracjaBazowe stawki za tokeny | Tabela stawekStawka podstawowa | Jednostka rozliczeniowa— | Opłata Wejście · Tokeny wejściowe — / 1K tokenów Wyjście · Tokeny wyjściowe — / 1K tokenów Wejście · Odczyt cache — / 1K tokenów Wejście · Zapis do cache — / 1K tokenów Wejście · Zapis do cache, 1 godz. — / 1K tokenów |
| KonfiguracjaUltra | Tabela stawek— | Jednostka rozliczeniowaza jednostkę wyszukiwania | Opłata total · jednostka wyszukiwania $0.004 za jednostkę wyszukiwania |
Ailoot rezerwuje szacowaną kwotę przed żądaniem. Po otrzymaniu wyniku rozlicza ostateczną opłatę według zmierzonego użycia. Rozliczenie strumieniowania korzysta z końcowego rekordu użycia. Jak działają rezerwacja i rozliczenie →
Przykładowe żądania
Ailoot Ultra · Ponowne rankowanie
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "cohere/rerank-4-fast",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='cohere/rerank-4-fast'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Odbieranie i zapisywanie wyników
Ailoot Ultra · Ponowne rankowanie
json
Zachowaj wszystkie ukończone wyniki
Zachowaj każdą kompletną zwróconą odpowiedź, plik i część treści.
Zachowywany jest każdy rzeczywisty indeks wyniku, skończona wartość relevance_score i oryginalny obiekt dokumentu. Indeksy wskazują na pierwotną tablicę dokumentów. Cały oryginalny JSON jest zapisywany i zwracany dopiero po rozliczeniu.
Jeśli trzeba sprawdzić pierwotną odpowiedź
Zachowaj pierwotną operację oraz pełną lub częściową odpowiedź; nie ponawiaj POST.
Pola odpowiedzi
| Pole | Typ |
|---|---|
Polemodel | Typstring |
Poleid | Typstring |
Poleprovider | Typstring |
Poleresults[].index | Typinteger |
Poleresults[].relevance_score | Typnumber |
Poleresults[].document.text | Typstring |
Poleresults[].document.image | Typstring |
Poleusage.search_units | Typinteger |
Poleusage.total_tokens | Typinteger |
Poleusage.cost | Typnumber |
Błędy i dalsze kroki
| Odpowiedź | Warunek | Następny krok |
|---|---|---|
Odpowiedź400 · invalid_request_error | WarunekNieprawidłowe wymagane pole, reprezentacja lub wartość | Następny krokPopraw wskazane pole żądania. |
Aliasy
Aliasy modelu
Ailoot Ultra cohere/rerank-4-fast
Aliasy ścieżek metod
Użyj ścieżek metod podanych powyżej.
Powiązane ID modeli
FAQ · Cohere: Rerank 4 Fast
- Jakie dane wejściowe i wyniki są dostępne?
POST /v1/rerank·cohere/rerank-4-fast:text→rerank- Jakich pól używa żądanie?
POST /v1/rerank·cohere/rerank-4-fast:documents,model,provider,query,session_id,top_n,trace,user- Jakie limity obowiązują?
POST /v1/rerank·cohere/rerank-4-fast:top_n.minimum:1