NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
Llama Nemotron Rerank VL 1B V2 é o reordenador cross-encoder da NVIDIA para ordenar material recuperado pela sua relevância para uma consulta. Envie uma consulta e documentos candidatos de texto, imagem ou combinados e utilize depois as pontuações e os índices originais devolvidos para escolher as passagens dos resultados de pesquisa ou de uma resposta aumentada por recuperação.
Sobre o modelo
Esta descrição apresenta as capacidades do modelo. As entradas, saídas e opções disponíveis no Ailoot para o método selecionado estão indicadas abaixo.
Llama Nemotron Rerank VL 1B V2 avalia a relevância de texto candidato e imagens de documentos para uma consulta de texto, incluindo gráficos, tabelas e páginas com conteúdos mistos. A NVIDIA descreve-o como um modelo cross-encoder com 1,7B parâmetros. Num fluxo de recuperação, execute primeiro a pesquisa inicial e envie depois os candidatos selecionados ao reordenador. O resultado útil é um conjunto reordenado desses candidatos com pontuações de relevância, que uma aplicação pode utilizar para escolher contexto para uma resposta ou organizar uma página de resultados de pesquisa.
Utilize POST /v1/rerank com um corpo application/json. Defina model como "nvidia/llama-nemotron-rerank-vl-1b-v2:free", query como a pergunta de pesquisa real e documents como um array não vazio. Cada candidato pode ser uma cadeia de texto ou um objeto com text e/ou image; um objeto estruturado deve fornecer pelo menos um desses campos. text é uma cadeia. image é um URL remoto HTTP/HTTPS ou um URI de dados base64 que começa por data:image/. Um candidato combinado fornece ambos os campos. Preserve a ordem desse array de entrada para que os índices devolvidos possam ser associados aos IDs de documentos armazenados. top_n é um número inteiro opcional de pelo menos 1 que solicita o número de documentos mais bem classificados a devolver.
Por exemplo, uma aplicação de centro de ajuda pode recuperar passagens sobre entregas, devoluções e acesso à conta e reordená-las depois de acordo com a pergunta do cliente sobre uma entrega. Transmita o texto real das passagens, em vez de nomes de ficheiros ou excertos de motores de pesquisa sem relação com a fonte armazenada. Mantenha cada passagem ligada ao seu próprio identificador de origem na aplicação, para que as provas selecionadas possam ser citadas ou abertas mais tarde. Para um documento digitalizado, gráfico, tabela ou infografia, forneça a respetiva imagem real num objeto de documento e acrescente texto quando este ajudar a identificar o conteúdo.
A página do modelo documenta um limite de 10 240 tokens por consulta e documento. Divida o material de origem mais longo em passagens de tamanho limitado antes de preparar a lista de candidatos. Mantenha o contexto envolvente útil com cada passagem, incluindo o título ou o nome do produto quando alterar o significado. O pedido documentado parte dos candidatos que fornece; não pesquisa uma coleção de documentos por si.
A reordenação devolve um resultado JSON síncrono. Leia todos os elementos de results, incluindo o index original, relevance_score e o objeto document devolvido, que pode conter text e/ou image, e preserve quaisquer dados de usage e identificadores de resposta devolvidos. Utilize index para associar o resultado ordenado ao seu candidato de entrada. Trate uma pontuação de relevância como um sinal de ordenação para esta consulta, em vez de uma resposta factual verificada de forma independente. Conserve o resultado completo quando forem selecionadas várias passagens para a etapa seguinte.
Prepare material candidato público ou sintético para esta edição gratuita; os termos de utilização documentados excluem informações confidenciais e dados pessoais. Se um pedido terminar sem um resultado completo, conserve a resposta e o identificador do pedido originais enquanto verifica essa tentativa. O fluxo de reordenação documentado devolve diretamente o resultado e não fornece um fluxo separado de consulta de estado de tarefa ou cancelamento.
Ailoot Ultra · Rerank POST /v1/rerank nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:free
nvidia/llama-nemotron-rerank-vl-1b-v2:freeIntrodução
Llama Nemotron Rerank VL 1B V2 é o reordenador cross-encoder da NVIDIA para ordenar material recuperado pela sua relevância para uma consulta. Envie uma consulta e documentos candidatos de texto, imagem ou combinados e utilize depois as pontuações e os índices originais devolvidos para escolher as passagens dos resultados de pesquisa ou de uma resposta aumentada por recuperação.
- Entradas aceites
- Texto
- Resultados
- ranking
Disponível no Ailoot · entradas e métodos
Ailoot Ultra · Rerank POST /v1/rerank
- Entrada
text- Saída
ranking- Formato de saída
- JSON
| Campo | Tipo | Requisito | Valores e limites | Predefinição |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObrigatório | Valores e limites nvidia/llama-nemotron-rerank-vl-1b-v2:free | Predefinição— |
Campoquery | Tipostring | RequisitoObrigatório | Valores e limites | Predefinição— |
Campodocuments | Tipoarray | RequisitoObrigatório | Valores e limites | Predefinição— |
Campotop_n | Tipointeger | RequisitoOpcional | Valores e limites Mínimo: 1 | Predefinição— |
Parâmetros e ciclo de vida do método
| Parâmetro | Contrato |
|---|---|
Parâmetrocontent_type | Contratoapplication/json |
Parâmetrorequired | Contratomodel, query, documents |
Parâmetrooptional | Contratotop_n |
Parâmetromaterial_types | Contratotext |
Parâmetroconditions | Contrato |
Ciclo de vida: synchronous_json
Tarifários
As referências tarifárias não acrescentam opções ao pedido. Os parâmetros suportados constam do método selecionado.
- Modo rápido
- Não especificado Quando o modo rápido está selecionado
- Modo flex
- Não especificado Quando o modo flex está selecionado
- Esforço máximo de raciocínio
- Não especificado Quando o esforço máximo de raciocínio usa o ajuste predefinido (default)
Tarifas Ailoot
Preços por configuração
Associe cada custo às condições apresentadas. Use uma única tarifa para cada conjunto de configurações alternativas.
| Configuração | Tabela de tarifas | Quantidade faturada | Custo |
|---|---|---|---|
| ConfiguraçãoTarifas base por token | Tabela de tarifasTarifa base | Quantidade faturada— | Custo Entrada · Tokens de entrada — / 1K tokens Saída · Tokens de saída — / 1K tokens Entrada · Leitura da cache — / 1K tokens Entrada · Escrita na cache — / 1K tokens Entrada · Escrita na cache, 1 hora — / 1K tokens |
| ConfiguraçãoPor pedido | Tabela de tarifas— | Quantidade faturadaum pedido | Custo Entrada $0 por pedido |
O Ailoot reserva um montante estimado antes de um pedido. Após o resultado, liquida o custo final com base na utilização medida. No streaming, a liquidação usa o registo final de utilização. Como funcionam a reserva e a liquidação →
Exemplos de pedidos
Ailoot Ultra · Rerank
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"documents": ["Paris is the capital of France.", "Berlin is the capital of Germany."], "model": "nvidia/llama-nemotron-rerank-vl-1b-v2:free", "query": "What is the capital of France?", "top_n": 3}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/rerank \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
Receber e guardar os resultados
Ailoot Ultra · Rerank
JSON
Guardar todos os resultados concluídos
Guarde cada resposta, ficheiro e parte de conteúdo devolvidos na íntegra.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Se for necessário verificar a resposta original
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Campos da resposta
| Campo | Tipo |
|---|---|
Camporesults | Tipoarray |
Aliases
Aliases do modelo
Ailoot Ultra nvidia/llama-nemotron-rerank-vl-1b-v2:free
Aliases dos caminhos dos métodos
Use os caminhos dos métodos indicados acima.
IDs de chamada relacionados
FAQ · NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)
- Que entradas e resultados estão disponíveis?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:text→ranking- Que campos utiliza o pedido?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:model,query,documents,top_n- Que limites se aplicam?
POST /v1/rerank·nvidia/llama-nemotron-rerank-vl-1b-v2:free:top_n.minimum:1