Cohere: Rerank v3.5
Cohere Rerank 3.5 porządkuje ponownie teksty kandydujące i częściowo ustrukturyzowane rekordy według trafności względem zapytania. Obsługuje ponad 100 języków i kontekst 4 096 tokenów do dopracowywania wyników wyszukiwania słowami kluczowymi lub semantycznego przed odpowiedzią albo wyświetleniem wyników.
O modelu
Ten opis przedstawia możliwości modelu. Dane wejściowe, wyniki i opcje dostępne w Ailoot podano poniżej dla wybranej metody.
Cohere Rerank 3.5 to wielojęzyczny model służący do szeregowania dokumentów kandydujących i częściowo ustrukturyzowanych tekstów według trafności. Ocenia każdego kandydata względem zapytania i zwraca ponownie uporządkowaną listę wyników z ocenami trafności. Może dopracować wyniki uzyskane przez wyszukiwanie według słów kluczowych lub wyszukiwanie semantyczne oraz wybrać fragmenty do odpowiedzi wspomaganej wyszukiwaniem. Jego zadaniem jest lepsze uporządkowanie materiałów źródłowych, a nie generowanie swobodnej odpowiedzi lub tworzenie nowego indeksu korpusu.
Dokładny identyfikator producenta to rerank-v3.5. Używa kontekstu 4 096 tokenów, odrębnego od kontekstu 32K modeli Rerank 4 Pro i Fast. Tokeny zapytania i dokumentu są liczone łącznie w ramach tego okna przypadającego na jednego kandydata. Przewodnik przygotowania danych dla tego modelu przycina zapytanie po pierwszych 2 048 tokenach i opisuje fragmenty dokumentu o 4 093 tokenach przed uwzględnieniem zapytania. Formułuj zapytanie tak, aby skupiało się na celu, i przygotuj fragmenty kandydujące zawierające informacje potrzebne do oceny żądanej relacji.
Podaj zapytanie i listę tekstów kandydujących jako ciągi znaków. Każdy wynik zawiera indeks wskazujący oryginalną pozycję dokumentu i ocenę trafności; parametr top_n określa liczbę wyników rankingu do zachowania. Bez niego udokumentowany przepływ producenta zwraca wszystkie wyniki. Zachowuj identyfikatory dokumentów niezależnie od oceny, aby nadal można było powiązać najlepszy fragment z oryginalnym regulaminem, rekordem produktu lub wiadomością.
Rerank 3.5 obsługuje ponad 100 języków, w tym materiały angielskie i nieangielskie. Zapytanie może zawierać kilka aspektów potrzeby, takich jak produkt, sytuacja użytkownika i pożądana procedura. W przypadku rekordów ustrukturyzowanych wydanie V2 usunęło surowe obiekty dokumentów i zaleca ciągi YAML. Umieszczaj przydatne pola w przemyślanej kolejności, z kluczową treścią przed mniej istotnymi metadanymi, ponieważ długie ciągi mogą zostać przycięte. Sprawdza się to dla tytułów i treści, atrybutów produktu oraz tematu i treści wiadomości.
Dokumentacja V2 producenta używa max_tokens_per_doc do przycinania dokumentów, z wartością domyślną 4096. Przewodnik przygotowania Cohere opisuje również dzielenie długich dokumentów na fragmenty; efektywne wejście zależy od wybranego przepływu i ustawień dokumentu. Aby mieć większą kontrolę, samodzielnie przygotuj fragmenty, które można jednoznacznie zidentyfikować, zamiast zakładać, że każda sekcja długiego źródła pozostaje widoczna. Zachowaj wystarczająco dużo otaczającego kontekstu, aby odróżnić fragment zawierający odpowiedź od takiego, w którym występują jedynie te same słowa.
Ze względu na wydajność przetwarzania żądań aktualna dokumentacja zaleca przesyłanie najwyżej 1 000 dokumentów jednocześnie. Oceny trafności są normalizowane między 0 a 1, ale ich wartości zależą od zapytania i kandydatów i nie są liniową skalą poprawności. Użyj rankingu do znalezienia przydatnych materiałów źródłowych. Jeśli potrzebny jest próg oceny, wybierz reprezentatywne zapytania dziedzinowe i fragmenty o granicznej trafności, aby próg odzwierciedlał rzeczywiste zadanie wyszukiwania.
W praktycznym procesie obsługi klienta można ponownie uporządkować kandydujące sekcje zasad zwrotów pod kątem pytania o uszkodzony przedmiot, a następnie przekazać wybrany tekst źródłowy do etapu pisania odpowiedzi. Wyszukiwanie poczty może uszeregować wiadomości według konkretnego problemu i zachować oryginalny identyfikator wiadomości przy każdym wyniku. Przydatnym wynikiem jest uporządkowana lista materiałów źródłowych. Zachowaj przy wyniku informację o krótszym kontekście Rerank 3.5 i sposobie przygotowania dokumentów w V2, zamiast przypisywać mu limity późniejszych modeli.
Ailoot Ultra · Ponowne rankowanie POST /v1/rerank cohere/rerank-v3.5
cohere/rerank-v3.5Start
Cohere Rerank 3.5 porządkuje ponownie teksty kandydujące i częściowo ustrukturyzowane rekordy według trafności względem zapytania. Obsługuje ponad 100 języków i kontekst 4 096 tokenów do dopracowywania wyników wyszukiwania słowami kluczowymi lub semantycznego przed odpowiedzią albo wyświetleniem wyników.
- Akceptowane dane wejściowe
- Tekst
- Wyniki
- Wyniki uporządkowane według trafności
Dostępne w Ailoot · dane wejściowe i metody
Ailoot Ultra · Ponowne rankowanie POST /v1/rerank
- Wejście
text- Wyjście
rerank- Format wyjściowy
- json
| Pole | Typ | Wymaganie | Wartości i limity | Domyślnie |
|---|---|---|---|---|
Poledocuments | Typarray | WymaganieWymagane | Wartości i limity | Domyślnie— |
Polemodel | Typstring | WymaganieWymagane | Wartości i limity cohere/rerank-v3.5 | Domyślnie— |
Poleprovider | Typschema | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Polequery | Typstring | WymaganieWymagane | Wartości i limity | Domyślnie— |
Polesession_id | Typstring | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Poletop_n | Typinteger | WymaganieOpcjonalne | Wartości i limity Minimum: 1 | Domyślnie— |
Poletrace | Typschema | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Poleuser | Typstring | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Poledocuments[].text | Typstring | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Poledocuments[].image | Typstring | WymaganieOpcjonalne | Wartości i limity | Domyślnie— |
Kombinacje materiałów wejściowych
text_rerank · Wymagane: query, documents array with minItems1
Parametry i cykl życia metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, query, documents |
Parametrmaterial_types | Kontrakttext |
Parametroptional_controls | Kontraktprovider, session_id, top_n, trace, user |
Parametrmultimodal_input_binding | Kontraktnull |
Cykl życia: synchronous
Wyślij dokładny identyfikator modelu i zachowaj kompletną natywną odpowiedź.
Cennik
Informacje taryfowe nie dodają opcji żądania. Obsługiwane parametry podano przy wybranej metodzie.
- Tryb szybki
- Nie określono Gdy wybrany jest tryb szybki
- Tryb flex
- Nie określono Gdy wybrany jest tryb flex
- Maksymalna intensywność rozumowania
- Nie określono Gdy dla maksymalnej intensywności rozumowania stosowana jest domyślna korekta (default)
Stawki Ailoot
Ceny według konfiguracji
Dopasuj każdą opłatę do pokazanych warunków. Użyj jednej stawki dla każdego zestawu alternatywnych konfiguracji.
| Konfiguracja | Tabela stawek | Jednostka rozliczeniowa | Opłata |
|---|---|---|---|
| KonfiguracjaBazowe stawki za tokeny | Tabela stawekStawka podstawowa | Jednostka rozliczeniowa— | Opłata Wejście · Tokeny wejściowe — / 1K tokenów Wyjście · Tokeny wyjściowe — / 1K tokenów Wejście · Odczyt cache — / 1K tokenów Wejście · Zapis do cache — / 1K tokenów Wejście · Zapis do cache, 1 godz. — / 1K tokenów |
| KonfiguracjaUltra | Tabela stawek— | Jednostka rozliczeniowaza jednostkę wyszukiwania | Opłata total · jednostka wyszukiwania $0.002 za jednostkę wyszukiwania |
Ailoot rezerwuje szacowaną kwotę przed żądaniem. Po otrzymaniu wyniku rozlicza ostateczną opłatę według zmierzonego użycia. Rozliczenie strumieniowania korzysta z końcowego rekordu użycia. Jak działają rezerwacja i rozliczenie →
Przykładowe żądania
Ailoot Ultra · Ponowne rankowanie
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "cohere/rerank-v3.5",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='cohere/rerank-v3.5'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Odbieranie i zapisywanie wyników
Ailoot Ultra · Ponowne rankowanie
json
Zachowaj wszystkie ukończone wyniki
Zachowaj każdą kompletną zwróconą odpowiedź, plik i część treści.
Zachowywany jest każdy rzeczywisty indeks wyniku, skończona wartość relevance_score i oryginalny obiekt dokumentu. Indeksy wskazują na pierwotną tablicę dokumentów. Cały oryginalny JSON jest zapisywany i zwracany dopiero po rozliczeniu.
Jeśli trzeba sprawdzić pierwotną odpowiedź
Zachowaj pierwotną operację oraz pełną lub częściową odpowiedź; nie ponawiaj POST.
Pola odpowiedzi
| Pole | Typ |
|---|---|
Polemodel | Typstring |
Poleid | Typstring |
Poleprovider | Typstring |
Poleresults[].index | Typinteger |
Poleresults[].relevance_score | Typnumber |
Poleresults[].document.text | Typstring |
Poleresults[].document.image | Typstring |
Poleusage.search_units | Typinteger |
Poleusage.total_tokens | Typinteger |
Poleusage.cost | Typnumber |
Błędy i dalsze kroki
| Odpowiedź | Warunek | Następny krok |
|---|---|---|
Odpowiedź400 · invalid_request_error | WarunekNieprawidłowe wymagane pole, reprezentacja lub wartość | Następny krokPopraw wskazane pole żądania. |
Aliasy
Aliasy modelu
Ailoot Ultra cohere/rerank-v3.5
Aliasy ścieżek metod
Użyj ścieżek metod podanych powyżej.
Powiązane ID modeli
FAQ · Cohere: Rerank v3.5
- Jakie dane wejściowe i wyniki są dostępne?
POST /v1/rerank·cohere/rerank-v3.5:text→rerank- Jakich pól używa żądanie?
POST /v1/rerank·cohere/rerank-v3.5:documents,model,provider,query,session_id,top_n,trace,user- Jakie limity obowiązują?
POST /v1/rerank·cohere/rerank-v3.5:top_n.minimum:1