NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
Llama Nemotron Embed VL 1B V2 è il modello di embedding multimodale di NVIDIA per il recupero. Trasforma testo, immagini o input documentali combinati in vettori e supporta la ricerca con query testuali su documenti contenenti tabelle, grafici, testo e infografiche.
Informazioni sul modello
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
Llama Nemotron Embed VL 1B V2 è il modello di embedding di NVIDIA per il recupero multimodale finalizzato a domande e risposte. Può rappresentare un documento come testo, immagine o combinazione di immagine e testo. Una query testuale può poi essere usata per recuperare documenti correlati. Il profilo pubblicato supporta immagini di documenti contenenti testo, tabelle, grafici e infografiche e restituisce vettori di embedding.
Preparare elementi documentali identificabili
Mantieni ogni input collegato al documento di origine, alla pagina o al passaggio che rappresenta. Per una pagina visiva, conserva l’immagine e qualsiasi testo di accompagnamento che le appartiene. Per un passaggio testuale, conserva il titolo o l’etichetta della sezione quando aiuta a interpretare una corrispondenza successiva. Questi identificatori delle fonti rendono utile un elemento recuperato come evidenza anziché soltanto come risultato numerico di similarità.
Scegli i confini degli elementi attorno al materiale che un utente deve trovare. Un grafico e la sua spiegazione possono appartenere alla stessa unità; pagine non correlate dovrebbero mantenere identità separate. Verifica se l’input è leggibile e se il testo o l’immagine contiene le informazioni che la query prevista deve recuperare.
Query testuali e recupero vettoriale
Il ruolo del modello è produrre vettori per il recupero, con il testo come forma di query descritta dal profilo. Mantieni query ed elementi indicizzati in una configurazione di embedding compatibile. L’applicazione memorizza i vettori, li confronta e restituisce gli elementi di origine corrispondenti. Il documento recuperato rimane il materiale da esaminare o passare a una successiva fase di generazione della risposta.
Un insieme di test utile include le domande effettivamente poste dagli utenti e le pagine che dovrebbero essere trovate. Esamina corrispondenze errate o mancanti rispetto al contenuto delle fonti e ai confini degli elementi. Conserva l’identificatore completo del documento insieme a qualsiasi passaggio o immagine selezionati, affinché il risultato possa essere verificato nel contesto.
Capacità di input e artefatto di ricerca
Il profilo ospitato documentato indica fino a 131.072 token per input. Suddividi insiemi di fonti più grandi in input separati ed etichettati e preserva le loro relazioni. L’output vettoriale del profilo non è una risposta in prosa generata né una trascrizione; una fase applicativa successiva può usare l’evidenza recuperata per rispondere a una domanda.
Un artefatto completo di recupero unisce query, elementi di origine selezionati e relativi identificatori. Preserva il modello di embedding e la preparazione dell’input usati per un indice, affinché cambiamenti successivi possano essere distinti dai cambiamenti nella raccolta di origine.
Ailoot Ultra · Embedding POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freeIntroduzione
Llama Nemotron Embed VL 1B V2 è il modello di embedding multimodale di NVIDIA per il recupero. Trasforma testo, immagini o input documentali combinati in vettori e supporta la ricerca con query testuali su documenti contenenti tabelle, grafici, testo e infografiche.
- Input accettati
- Testo · token_ids
- Risultati
- embedding
Disponibile in Ailoot · input e metodi
Ailoot Ultra · Embedding POST /v1/embeddings
- Tipi di input
text,token_ids- Tipi di output
embedding- Contesto
- 131.072 tokens
- Formato di output
- json
| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti nvidia/llama-nemotron-embed-vl-1b-v2:free | Predefinito— |
Campoinput | Tipostring|string[]|integer[]|integer[][] | RequisitoObbligatorio | Valori e limiti Numero minimo di elementi: 1 Condizioni: Batch omogeneo non vuoto. Gli ID dei token sono numeri interi non negativi. Budget di input: Massimo: 131.072 · Unità di testo: byte UTF8 · Unità di token: elementi dell’array di token | Predefinito— |
Campoencoding_format | Tipostring | RequisitoFacoltativo | Valori e limiti float | Predefinitofloat |
Campodimensions | Tipointeger | RequisitoNon supportato | Valori e limiti Minimo: 1 | Predefinito— |
Campouser | Tipojson_value | RequisitoFacoltativo | Valori e limiti Condizioni: La fonte consente questo campo di metadati JSON; la semantica esatta del fornitore a monte dipende dal modello. | Predefinito— |
Camposession_id | Tipojson_value | RequisitoFacoltativo | Valori e limiti Condizioni: La fonte consente questo campo di metadati JSON; la semantica esatta del fornitore a monte dipende dal modello. | Predefinito— |
Campotrace | Tipojson_value | RequisitoFacoltativo | Valori e limiti Condizioni: La fonte consente questo campo di metadati JSON; la semantica esatta del fornitore a monte dipende dal modello. | Predefinito— |
Campoprovider | Tipoobject | RequisitoFacoltativo | Valori e limiti Condizioni: provider.options rifiutato | Predefinito— |
Combinazioni di materiali in input
text_to_embedding
Parametri e ciclo di vita del metodo
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, input |
Parametroinput_shapes | Contrattostring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametroencoding_format | Contrattofloat |
Parametrodimensions_override | Contrattofalse |
Parametromax_input_budget_units | Contratto131072 |
Parametromultimodal_objects | Contrattofalse |
Parametromaterial_types | Contrattotext, token_ids |
Ciclo di vita: synchronous_json
Conserva l'indice e la dimensione di ogni vettore.
Il nome del modello multimodale non consente oggetti immagine su questo percorso specifico.
Tariffe
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
- Modalità rapida
- Tariffa standard Quando è selezionata la modalità rapida
- Modalità flex
- Tariffa standard Quando è selezionata la modalità flex
- Sforzo massimo di ragionamento
- Tariffa standard Quando lo sforzo massimo di ragionamento usa l'adeguamento predefinito (default)
Tariffe Ailoot
Prezzi per configurazione
| Configurazione | Listino delle tariffe | Costo |
|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Costo Input · Token in input $0 / 1K token Output · Token in output $0 / 1K token Input · Lettura dalla cache — / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
Esempi di richieste
Ailoot Ultra · Embedding
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Ricevi e salva i risultati
Ailoot Ultra · Embedding
json
Conserva tutti i risultati completati
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva ogni vettore con il suo indice. Il numero di vettori deve coincidere con il numero di input; le dimensioni devono essere coerenti.
Se occorre verificare la risposta originale
Non viene introdotto alcun endpoint per i job di embedding.
Campi della risposta
| Campo | Tipo |
|---|---|
Campoobject | Tipostring |
Campomodel | Tipostring |
Campodata[].index | Tipointeger |
Campodata[].embedding | Tipofinite float[] |
Campousage | Tipoobject |
Errori e passaggi successivi
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Alias
Alias del modello
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
Alias dei percorsi dei metodi
Usa i percorsi dei metodi indicati sopra.
ID di chiamata correlati
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- Quali input e risultati sono disponibili?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- Quali campi usa la richiesta?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- Quali limiti si applicano?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(byte UTF8);input.min_items:1