Cohere: Rerank v3.5

Cohere Rerank 3.5 é um modelo multilingue para ordenação por relevância de documentos candidatos e texto semiestruturado. Avalia cada candidato em relação a uma consulta e devolve uma lista de resultados reordenada com pontuações de relevância. Pode refinar candidatos obtidos através de pesquisa por palavras-chave ou semântica e selecionar passagens para uma resposta aumentada por recuperação. A sua tarefa é melhorar a ordenação dos elementos de prova, em vez de gerar uma resposta livre ou criar um novo índice do corpus.

O identificador exato do fabricante é rerank-v3.5. Utiliza um contexto de 4096 tokens, distinto do contexto de 32K de Rerank 4 Pro e Fast. Os tokens da consulta e do documento contam em conjunto para essa janela por candidato. O guia de preparação específico do modelo trunca uma consulta depois dos primeiros 2048 tokens e descreve blocos de documentos de 4093 tokens antes de ter em conta a consulta. Mantenha a consulta focada e prepare passagens candidatas que contenham a informação necessária para avaliar a relação pedida.

Forneça a consulta e uma lista de cadeias de texto candidatas. Cada resultado contém um índice que aponta para a posição original do documento e uma pontuação de relevância; top_n escolhe quantos resultados ordenados reter. Sem esse parâmetro, o fluxo de trabalho documentado do fabricante devolve todos os resultados. Preserve os identificadores dos documentos independentemente da pontuação para que a passagem principal continue rastreável até à política, registo de produto ou mensagem original.

Rerank 3.5 suporta mais de 100 idiomas, incluindo material em inglês e noutros idiomas. Uma consulta pode conter vários aspetos da necessidade, como o produto, a situação do utilizador e o procedimento pretendido. Para registos estruturados, a versão V2 removeu objetos de documento em bruto e recomenda cadeias YAML. Mantenha os campos úteis numa ordem deliberada, com o conteúdo decisivo antes de metadados menos relevantes, porque cadeias longas podem ser truncadas. Isto funciona para títulos e conteúdo, atributos de produtos ou assunto e corpo de uma mensagem.

A referência V2 do fabricante utiliza max_tokens_per_doc para truncamento dos documentos, com o valor predefinido de 4096. O guia de preparação da Cohere descreve também a divisão de documentos longos em blocos; a entrada efetiva depende do fluxo de trabalho selecionado e das definições dos documentos. Para maior controlo, prepare passagens identificáveis, em vez de presumir que todas as secções de uma fonte longa continuam visíveis. Preserve contexto envolvente suficiente para distinguir uma passagem que contém a resposta de outra que apenas partilha o seu vocabulário.

Para o desempenho dos pedidos, a referência atual recomenda não enviar mais de 1 000 documentos de uma só vez. As pontuações de relevância são normalizadas entre 0 e 1, mas os valores dependem da consulta e dos candidatos e não constituem uma escala linear de correção. Utilize a ordenação para identificar elementos de prova úteis. Se precisar de um limiar de pontuação, escolha consultas representativas do domínio e passagens de relevância limítrofe para que o limiar reflita a tarefa real de recuperação.

Um fluxo de apoio prático pode reordenar secções candidatas da política de devoluções para uma pergunta sobre um artigo danificado e passar depois o texto de origem selecionado para uma etapa de redação da resposta. Uma pesquisa de correio eletrónico pode ordenar mensagens por uma questão específica e conservar o identificador da mensagem original com cada resultado. O resultado útil é a lista ordenada de elementos de prova. Mantenha o contexto mais curto de Rerank 3.5 e a preparação documental V2 associados a esse resultado, em vez de substituir os limites pelos de modelos posteriores.