VoyageAI by MongoDB: rerank-2.5-lite
O rerank-2.5-lite é o reordenador da Voyage AI orientado para latência e cumprimento de instruções, para um conjunto fornecido de candidatos de texto. Conserva um contexto consulta–documento de 32 000 tokens e suporte multilingue, devolvendo uma lista ordenada de pontuações de relevância e índices dos documentos originais.
Sobre o modelo
Esta descrição apresenta as capacidades do modelo. As entradas, saídas e opções disponíveis no Ailoot para o método selecionado estão indicadas abaixo.
O rerank-2.5-lite é o membro leve do lançamento de reordenadores 2.5 da Voyage AI. O fabricante descreve-o como um modelo generalista que equilibra latência e qualidade da relevância, com cumprimento de instruções em linguagem natural e suporte multilingue. A entrada é uma consulta e textos candidatos, e a saída é uma ordem aperfeiçoada desses candidatos com pontuações de relevância.
Uma decisão leve de relevância na segunda etapa
O modelo Lite processa em conjunto cada par consulta–documento como codificador cruzado. Pode seguir uma pesquisa inicial por embeddings ou léxica, aperfeiçoando as passagens selecionadas nessa etapa. Isto difere de preparar um índice reutilizável de embeddings: o reordenador examina em conjunto a consulta submetida e o texto do documento para a decisão atual de relevância.
Para uma pesquisa interativa de ajuda, submeta as explicações candidatas que possam responder à pergunta do utilizador. Conserve o suficiente de cada passagem para transmitir o comportamento e as suas condições e preserve a associação entre o índice de entrada e o item de origem. Um conjunto específico de candidatos ajuda a tornar clara a tarefa de reordenação, deixando os elementos recuperados utilizáveis para apresentação ou resposta posterior.
As instruções exprimem o que o utilizador quer priorizar
Tal como o rerank-2.5, Lite aceita instruções em linguagem natural antes ou depois da consulta. Os exemplos do fabricante usam-nas para destacar componentes dos documentos, selecionar um tipo de fonte preferido ou acrescentar contexto a uma palavra ambígua. Uma aplicação pode fornecer uma preferência permanente de relevância, ou a pergunta atual pode incluir uma mais específica.
Uma consulta ilustrativa de apoio pode perguntar que passagem explica um erro, com uma instrução para dar prioridade a passos de resolução de problemas em vez de descrições gerais de produto. Uma pesquisa documental pode pedir o texto original de uma política em vez de uma discussão sobre ela. Descreva os elementos pretendidos e mantenha a instrução concisa. As instruções influenciam as pontuações de relevância; prepare quaisquer restrições rígidas de versão, data ou permissão na seleção dos candidatos, em vez de tratar uma preferência de relevância como filtro garantido.
Leia a classificação e devolva a passagem de origem
A saída é ordenada por relevância decrescente. Cada resultado inclui o índice original do documento e uma pontuação de vírgula flutuante; a definição opcional return-documents também devolve o texto de entrada correspondente. A opção top-k determina o número de primeiros resultados devolvidos; omiti-la devolve a classificação de todos os candidatos submetidos.
Utilize esses índices para recuperar a passagem de origem e o seu identificador. Um candidato reordenado pode tornar-se um resultado de pesquisa ou um elemento para o passo RAG seguinte, mas a saída é uma ordenação de texto fornecido e não uma resposta reescrita. Avalie se as primeiras passagens satisfazem tanto a pergunta como a instrução de relevância, incluindo nas línguas e tipos de documento realmente presentes na coleção.
Limites e orçamento prático de candidatos
A edição 2.5 Lite tem um máximo documentado de consulta de 8 000 tokens e um limite de 32 000 tokens para a consulta mais cada documento individual. É distinta do modelo rerank-2-lite anterior e do seu contexto menor. Podem ser submetidos no máximo 1 000 documentos, e a entrada total está limitada a 600 000 tokens segundo a fórmula: tokens da consulta multiplicados pelo número de candidatos, mais a soma dos tokens dos documentos candidatos.
Para utilização sensível à latência, as perguntas frequentes do fabricante recomendam rerank-2.5-lite com no máximo 200 000 tokens totais por pedido. É uma orientação prática abaixo do máximo indicado, não uma janela diferente por documento. Uma consulta ou instrução mais longa é contada uma vez por cada par consulta–documento, pelo que tanto o número de candidatos como a extensão da consulta afetam o total.
A truncagem está ativada por predefinição e encurta entradas de consulta/documento excessivas para caberem; desativá-la devolve um erro para uma consulta ou par demasiado longos. Prepare deliberadamente candidatos compactos que contenham a resposta, para não deixar elementos úteis além de um limite truncado. Selecionar menos resultados de saída através de top-k não retira os outros candidatos fornecidos do cálculo de tokens. Inspecione as passagens de origem devolvidas e aperfeiçoe a preparação da entrada em torno das perguntas reais a que a interface de pesquisa precisa de responder.
Ailoot Ultra · Reordenação POST /v1/rerank voyageai/rerank-2.5-lite
voyageai/rerank-2.5-liteIntrodução
O rerank-2.5-lite é o reordenador da Voyage AI orientado para latência e cumprimento de instruções, para um conjunto fornecido de candidatos de texto. Conserva um contexto consulta–documento de 32 000 tokens e suporte multilingue, devolvendo uma lista ordenada de pontuações de relevância e índices dos documentos originais.
- Entradas aceites
- Texto
- Resultados
- Resultados ordenados
Disponível no Ailoot · entradas e métodos
Ailoot Ultra · Reordenação POST /v1/rerank
- Entrada
text- Saída
rerank- Formato de saída
- json
| Campo | Tipo | Requisito | Valores e limites | Predefinição |
|---|---|---|---|---|
Campodocuments | Tipoarray | RequisitoObrigatório | Valores e limites | Predefinição— |
Campomodel | Tipostring | RequisitoObrigatório | Valores e limites voyageai/rerank-2.5-lite | Predefinição— |
Campoprovider | Tiposchema | RequisitoOpcional | Valores e limites | Predefinição— |
Campoquery | Tipostring | RequisitoObrigatório | Valores e limites | Predefinição— |
Camposession_id | Tipostring | RequisitoOpcional | Valores e limites | Predefinição— |
Campotop_n | Tipointeger | RequisitoOpcional | Valores e limites Mínimo: 1 | Predefinição— |
Campotrace | Tiposchema | RequisitoOpcional | Valores e limites | Predefinição— |
Campouser | Tipostring | RequisitoOpcional | Valores e limites | Predefinição— |
Campodocuments[].text | Tipostring | RequisitoOpcional | Valores e limites | Predefinição— |
Campodocuments[].image | Tipostring | RequisitoOpcional | Valores e limites | Predefinição— |
Combinações de materiais de entrada
text_rerank · Obrigatório: query, documents array with minItems1
Parâmetros e ciclo de vida do método
| Parâmetro | Contrato |
|---|---|
Parâmetrocontent_type | Contratoapplication/json |
Parâmetrorequired | Contratomodel, query, documents |
Parâmetromaterial_types | Contratotext |
Parâmetrooptional_controls | Contratoprovider, session_id, top_n, trace, user |
Parâmetromultimodal_input_binding | Contratonull |
Ciclo de vida: synchronous
Envie o ID exato do modelo e conserve a resposta nativa completa.
Tarifários
As referências tarifárias não acrescentam opções ao pedido. Os parâmetros suportados constam do método selecionado.
- Modo rápido
- Não especificado Quando o modo rápido está selecionado
- Modo flex
- Não especificado Quando o modo flex está selecionado
- Esforço máximo de raciocínio
- Não especificado Quando o esforço máximo de raciocínio usa o ajuste predefinido (default)
Tarifas Ailoot
Preços por configuração
Associe cada custo às condições apresentadas. Use uma única tarifa para cada conjunto de configurações alternativas.
| Configuração | Tabela de tarifas | Unidade de faturação | Custo |
|---|---|---|---|
| ConfiguraçãoTarifas base por token | Tabela de tarifasTarifa base | Unidade de faturação— | Custo Entrada · Tokens de entrada — / 1K tokens Saída · Tokens de saída — / 1K tokens Entrada · Leitura da cache — / 1K tokens Entrada · Escrita na cache — / 1K tokens Entrada · Escrita na cache, 1 hora — / 1K tokens |
| ConfiguraçãoUltra | Tabela de tarifas— | Unidade de faturação/ 1K tokens | Custo Entrada $0.00004 / 1K tokens |
O Ailoot reserva um montante estimado antes de um pedido. Após o resultado, liquida o custo final com base na utilização medida. No streaming, a liquidação usa o registo final de utilização. Como funcionam a reserva e a liquidação →
Exemplos de pedidos
Ailoot Ultra · Reordenação
{
"documents": [
"Paris is the capital of France.",
"Berlin is the capital of Germany."
],
"model": "voyageai/rerank-2.5-lite",
"query": "What is the capital of France?",
"top_n": 3
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='voyageai/rerank-2.5-lite'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Receber e guardar os resultados
Ailoot Ultra · Reordenação
json
Guardar todos os resultados concluídos
Guarde cada resposta, ficheiro e parte de conteúdo devolvidos na íntegra.
São conservados todos os índices reais dos resultados, os valores finitos de relevance_score e os objetos de documento originais. Os índices correspondem à matriz original de documentos. O JSON original completo é armazenado e devolvido apenas após a liquidação.
Se for necessário verificar a resposta original
Conserve a operação original e a resposta completa/parcial; não repita o POST.
Campos da resposta
| Campo | Tipo |
|---|---|
Campomodel | Tipostring |
Campoid | Tipostring |
Campoprovider | Tipostring |
Camporesults[].index | Tipointeger |
Camporesults[].relevance_score | Tiponumber |
Camporesults[].document.text | Tipostring |
Camporesults[].document.image | Tipostring |
Campousage.search_units | Tipointeger |
Campousage.total_tokens | Tipointeger |
Campousage.cost | Tiponumber |
Erros e passos seguintes
| Resposta | Condição | Passo seguinte |
|---|---|---|
Resposta400 · invalid_request_error | CondiçãoCampo obrigatório, representação ou valor inválido | Passo seguinteCorrija o campo indicado no pedido. |
Aliases
Aliases do modelo
Ailoot Ultra voyageai/rerank-2.5-lite
Aliases dos caminhos dos métodos
Use os caminhos dos métodos indicados acima.
IDs de chamada relacionados
FAQ · VoyageAI by MongoDB: rerank-2.5-lite
- Que entradas e resultados estão disponíveis?
POST /v1/rerank·voyageai/rerank-2.5-lite:text→rerank- Que campos utiliza o pedido?
POST /v1/rerank·voyageai/rerank-2.5-lite:documents,model,provider,query,session_id,top_n,trace,user- Que limites se aplicam?
POST /v1/rerank·voyageai/rerank-2.5-lite:top_n.minimum:1