Cohere: Rerank 4 Fast
Cohere Rerank 4 Fast ordena documentos candidatos pela relevância para uma consulta, com foco em recuperação de baixa latência e elevado débito. Suporta contexto de 32K, mais de 100 idiomas e texto semiestruturado para fluxos de pesquisa e aumentados por recuperação.
Sobre o modelo
Esta descrição apresenta as capacidades do modelo. As entradas, saídas e opções disponíveis no Ailoot para o método selecionado estão indicadas abaixo.
Cohere Rerank 4 Fast é a edição Rerank 4 mais leve, posicionada para tarefas de recuperação com menor latência e maior débito. Recebe uma consulta e documentos candidatos e devolve a ordenação e as pontuações de relevância. É útil para pesquisa interativa, seleção repetida de elementos de prova e aplicações que precisam de reordenar uma lista de resultados existente. Fast mantém-se uma edição distinta de Rerank 4 Pro, que é posicionado para casos mais complexos em que a qualidade da recuperação tem prioridade.
O código do fabricante é rerank-v4.0-fast. Tal como Pro, tem um contexto de 32 768 tokens e cobertura multilingue em mais de 100 idiomas. A consulta e um documento partilham o contexto; não é uma dimensão vetorial nem um orçamento para um corpus indexado inteiro. Forneça os textos candidatos a comparar, em vez de esperar que o modelo recupere documentos de uma fonte que não lhe foi dada.
O resultado documentado inclui o índice original do documento e uma relevance_score. top_n seleciona quantos resultados são devolvidos, enquanto a sua omissão devolve a lista ordenada completa. Mantenha os identificadores de fonte junto das entradas para permitir ligar a nova ordenação às passagens reais. Numa pesquisa de produtos, descreva na consulta os atributos exigidos e reordene as descrições candidatas; uma posição superior deve continuar ligada ao registo de produto que a originou.
O modelo pode trabalhar com documentos em inglês e noutros idiomas e com registos semiestruturados. No fluxo V2, as entradas de documentos são cadeias de caracteres, e a Cohere recomenda representar dados estruturados em YAML. Coloque primeiro os campos importantes e preserve a sua ordem para que um truncamento não descarte o conteúdo necessário à avaliação da relevância. Um registo de apoio pode conter título, produto e texto do procedimento; uma mensagem pode conter o assunto e o corpo. Estas relações explícitas dão ao ordenador informação para além de uma lista de palavras-chave coincidentes.
O limite de consulta específico do modelo no guia de preparação da Cohere é de 16 384 tokens, com a consulta e o documento a consumirem o contexto partilhado. O guia descreve processamento por blocos de documentos mais longos, enquanto a referência V2 define separadamente o truncamento documental predefinido para 4096 tokens através de max_tokens_per_doc. Verifique essa definição efetiva do documento, em vez de presumir que toda a janela de 32K do modelo é sempre utilizada. Prepare passagens relevantes ou um orçamento documental adequado à tarefa real de recuperação.
Para o desempenho recomendado, a Cohere desaconselha mais de 1 000 documentos num pedido. Divida conjuntos de candidatos maiores em grupos geríveis, mantendo os respetivos identificadores. As pontuações de saída são normalizadas de 0 a 1 e dependem da consulta e das passagens. A ordenação é o resultado principal; uma pontuação não é um múltiplo linear de relevância nem prova de que uma passagem esteja correta. Estabeleça qualquer limiar de filtragem com consultas representativas e passagens de relevância limítrofe do domínio.
Um resultado Fast útil é uma lista ordenada que pode imediatamente alimentar uma apresentação de pesquisa ou selecionar elementos de prova para uma etapa de redação de respostas. Preserve o texto de origem com a pontuação e reveja se os primeiros resultados abordam efetivamente as condições pedidas. O papel de Fast é a ordenação de recuperação, em vez de gerar uma nova explicação ou um vetor de embedding. Mantenha consistentes a edição identificada e a preparação da entrada ao aperfeiçoar o comportamento de relevância.
Ailoot Ultra · Reordenação POST /v1/rerank cohere/rerank-4-fast
cohere/rerank-4-fastIntrodução
Cohere Rerank 4 Fast ordena documentos candidatos pela relevância para uma consulta, com foco em recuperação de baixa latência e elevado débito. Suporta contexto de 32K, mais de 100 idiomas e texto semiestruturado para fluxos de pesquisa e aumentados por recuperação.
- Entradas aceites
- Texto
- Resultados
- Resultados ordenados
Disponível no Ailoot · entradas e métodos
Ailoot Ultra · Reordenação POST /v1/rerank
- Entrada
text- Saída
rerank- Formato de saída
- json
| Campo | Tipo | Requisito | Valores e limites | Predefinição |
|---|---|---|---|---|
Campodocuments | Tipoarray | RequisitoObrigatório | Valores e limites | Predefinição— |
Campomodel | Tipostring | RequisitoObrigatório | Valores e limites cohere/rerank-4-fast | Predefinição— |
Campoprovider | Tiposchema | RequisitoOpcional | Valores e limites | Predefinição— |
Campoquery | Tipostring | RequisitoObrigatório | Valores e limites | Predefinição— |
Camposession_id | Tipostring | RequisitoOpcional | Valores e limites | Predefinição— |
Campotop_n | Tipointeger | RequisitoOpcional | Valores e limites Mínimo: 1 | Predefinição— |
Campotrace | Tiposchema | RequisitoOpcional | Valores e limites | Predefinição— |
Campouser | Tipostring | RequisitoOpcional | Valores e limites | Predefinição— |
Campodocuments[].text | Tipostring | RequisitoOpcional | Valores e limites | Predefinição— |
Campodocuments[].image | Tipostring | RequisitoOpcional | Valores e limites | Predefinição— |
Combinações de materiais de entrada
text_rerank · Obrigatório: query, documents array with minItems1
Parâmetros e ciclo de vida do método
| Parâmetro | Contrato |
|---|---|
Parâmetrocontent_type | Contratoapplication/json |
Parâmetrorequired | Contratomodel, query, documents |
Parâmetromaterial_types | Contratotext |
Parâmetrooptional_controls | Contratoprovider, session_id, top_n, trace, user |
Parâmetromultimodal_input_binding | Contratonull |
Ciclo de vida: synchronous
Envie o ID exato do modelo e conserve a resposta nativa completa.
Tarifários
As referências tarifárias não acrescentam opções ao pedido. Os parâmetros suportados constam do método selecionado.
- Modo rápido
- Não especificado Quando o modo rápido está selecionado
- Modo flex
- Não especificado Quando o modo flex está selecionado
- Esforço máximo de raciocínio
- Não especificado Quando o esforço máximo de raciocínio usa o ajuste predefinido (default)
Tarifas Ailoot
Preços por configuração
Associe cada custo às condições apresentadas. Use uma única tarifa para cada conjunto de configurações alternativas.
| Configuração | Tabela de tarifas | Unidade de faturação | Custo |
|---|---|---|---|
| ConfiguraçãoTarifas base por token | Tabela de tarifasTarifa base | Unidade de faturação— | Custo Entrada · Tokens de entrada — / 1K tokens Saída · Tokens de saída — / 1K tokens Entrada · Leitura da cache — / 1K tokens Entrada · Escrita na cache — / 1K tokens Entrada · Escrita na cache, 1 hora — / 1K tokens |
| ConfiguraçãoUltra | Tabela de tarifas— | Unidade de faturaçãopor unidade de pesquisa | Custo total · unidade de pesquisa $0.004 por unidade de pesquisa |
O Ailoot reserva um montante estimado antes de um pedido. Após o resultado, liquida o custo final com base na utilização medida. No streaming, a liquidação usa o registo final de utilização. Como funcionam a reserva e a liquidação →
Exemplos de pedidos
Ailoot Ultra · Reordenação
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "cohere/rerank-4-fast",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='cohere/rerank-4-fast'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Receber e guardar os resultados
Ailoot Ultra · Reordenação
json
Guardar todos os resultados concluídos
Guarde cada resposta, ficheiro e parte de conteúdo devolvidos na íntegra.
São conservados todos os índices reais dos resultados, os valores finitos de relevance_score e os objetos de documento originais. Os índices correspondem à matriz original de documentos. O JSON original completo é armazenado e devolvido apenas após a liquidação.
Se for necessário verificar a resposta original
Conserve a operação original e a resposta completa/parcial; não repita o POST.
Campos da resposta
| Campo | Tipo |
|---|---|
Campomodel | Tipostring |
Campoid | Tipostring |
Campoprovider | Tipostring |
Camporesults[].index | Tipointeger |
Camporesults[].relevance_score | Tiponumber |
Camporesults[].document.text | Tipostring |
Camporesults[].document.image | Tipostring |
Campousage.search_units | Tipointeger |
Campousage.total_tokens | Tipointeger |
Campousage.cost | Tiponumber |
Erros e passos seguintes
| Resposta | Condição | Passo seguinte |
|---|---|---|
Resposta400 · invalid_request_error | CondiçãoCampo obrigatório, representação ou valor inválido | Passo seguinteCorrija o campo indicado no pedido. |
Aliases
Aliases do modelo
Ailoot Ultra cohere/rerank-4-fast
Aliases dos caminhos dos métodos
Use os caminhos dos métodos indicados acima.
IDs de chamada relacionados
FAQ · Cohere: Rerank 4 Fast
- Que entradas e resultados estão disponíveis?
POST /v1/rerank·cohere/rerank-4-fast:text→rerank- Que campos utiliza o pedido?
POST /v1/rerank·cohere/rerank-4-fast:documents,model,provider,query,session_id,top_n,trace,user- Que limites se aplicam?
POST /v1/rerank·cohere/rerank-4-fast:top_n.minimum:1