NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)

Llama Nemotron Rerank VL 1B V2 valuta la pertinenza di testo candidato e immagini di documenti rispetto a una query testuale, inclusi grafici, tabelle e pagine multimediali. NVIDIA lo descrive come un modello cross-encoder da 1,7 miliardi di parametri. In un flusso di recupero, esegui prima la ricerca iniziale, quindi invia i candidati selezionati al reranker. Il risultato utile è un insieme riordinato di quei candidati con punteggi di pertinenza, che un'applicazione può usare per scegliere il contesto di una risposta o organizzare una pagina di risultati di ricerca.

Usa POST /v1/rerank con un corpo application/json. Imposta model a "nvidia/llama-nemotron-rerank-vl-1b-v2:free", query alla domanda di ricerca effettiva e documents a un array non vuoto. Ogni candidato può essere una stringa di testo o un oggetto con text e/o image; un oggetto strutturato deve fornire almeno uno di questi campi. text è una stringa. image è un URL remoto HTTP/HTTPS o un data URI base64 che inizia con data:image/. Un candidato combinato fornisce entrambi i campi. Conserva l'ordine di quell'array in ingresso, così da poter associare gli indici restituiti agli ID dei documenti memorizzati. top_n è un intero facoltativo pari ad almeno 1 che richiede il numero di documenti con il punteggio più alto da restituire.

Ad esempio, un'applicazione di assistenza può recuperare brani su consegna, resi e accesso all'account, quindi riordinarli rispetto alla domanda del cliente sulla consegna. Passa il testo effettivo dei brani, anziché nomi di file o frammenti del motore di ricerca non correlati alla fonte memorizzata. Mantieni ogni brano collegato al proprio identificatore di fonte nell'applicazione, così che le evidenze selezionate possano essere successivamente citate o aperte. Per un documento scansionato, un grafico, una tabella o un'infografica, fornisci l'immagine effettiva in un oggetto documento e aggiungi testo quando aiuta a identificarne il contenuto.

La pagina del modello documenta un limite di 10 240 token per query e documento. Dividi il materiale di partenza più lungo in brani circoscritti prima di preparare l'elenco dei candidati. Mantieni con ogni brano il contesto circostante utile, inclusi il titolo o il nome del prodotto quando ne cambiano il significato. La richiesta documentata parte dai candidati che fornisci; non effettua ricerche in una raccolta di documenti per tuo conto.

Il reranking restituisce un risultato JSON sincrono. Leggi ogni elemento results, inclusi il suo index originale, relevance_score e l'oggetto document restituito, che può contenere text e/o image, e conserva gli eventuali usage e identificatori di risposta restituiti. Usa l'indice per associare il risultato classificato al candidato in ingresso. Considera un punteggio di pertinenza come un segnale di ordinamento per questa query, anziché una risposta fattuale verificata in modo indipendente. Conserva il risultato completo quando più brani vengono selezionati per il passaggio successivo.

Prepara materiale candidato pubblico o sintetico per questa edizione gratuita; i termini di utilizzo documentati escludono informazioni riservate e dati personali. Se una richiesta termina senza un risultato completo, conserva la risposta originale e l'identificatore della richiesta mentre verifichi quel tentativo. Il flusso di reranking documentato restituisce il risultato direttamente e non fornisce un flusso separato di polling o cancellazione dei job.