NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
Llama Nemotron Embed VL 1B V2 est le modèle de plongement multimodal de NVIDIA pour la recherche d’information. Il transforme du texte, des images ou des entrées documentaires combinées en vecteurs et prend en charge la recherche par requête textuelle dans des documents contenant des tableaux, des graphiques, du texte et des infographies.
À propos du modèle
Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.
Llama Nemotron Embed VL 1B V2 est le modèle de plongement de NVIDIA pour la recherche multimodale destinée aux questions-réponses. Il peut représenter un document sous forme de texte, d’image ou de combinaison d’image et de texte. Une requête textuelle peut ensuite servir à retrouver des documents liés. Son profil publié prend en charge les images documentaires contenant du texte, des tableaux, des graphiques et des infographies, et renvoie des vecteurs de plongement.
Préparer des éléments documentaires identifiables
Gardez chaque entrée reliée au document source, à la page ou au passage qu’elle représente. Pour une page visuelle, préservez l’image et tout texte d’accompagnement qui lui appartient. Pour un passage textuel, conservez son titre ou son libellé de section lorsque cela aide à interpréter une correspondance ultérieure. Ces identifiants sources rendent un élément retrouvé utile comme élément à examiner, plutôt que comme un simple résultat numérique de similarité.
Choisissez les limites des éléments autour du matériau que l’utilisateur doit trouver. Un graphique et son explication peuvent aller ensemble ; des pages sans rapport doivent conserver leurs identités distinctes. Vérifiez si l’entrée est lisible et si le texte ou l’image contient les informations que la requête visée est censée retrouver.
Requêtes textuelles et recherche vectorielle
Le rôle du modèle est de produire des vecteurs pour la recherche, le texte étant la forme de requête décrite par le profil. Gardez la requête et les éléments indexés dans une configuration de plongement compatible. L’application stocke les vecteurs, les compare et renvoie les éléments sources correspondants. Le document retrouvé reste le matériau à examiner ou à transmettre à une étape ultérieure de génération de réponse.
Un ensemble de tests utile comprend les questions réellement posées par les utilisateurs et les pages qui doivent être trouvées. Examinez les correspondances incorrectes ou manquantes au regard du contenu source et des limites des éléments. Conservez l’identifiant complet du document avec tout passage ou toute image sélectionnés, afin que le résultat puisse être vérifié dans son contexte.
Capacité d’entrée et artefact de recherche
Le profil hébergé documenté indique jusqu’à 131 072 tokens par entrée. Divisez les ensembles sources plus volumineux en entrées séparées et étiquetées et préservez leurs relations. La sortie vectorielle du profil n’est ni une réponse rédigée générée ni une transcription ; une étape ultérieure de l’application peut utiliser les éléments retrouvés pour répondre à une question.
Un artefact de recherche complet relie la requête, les éléments sources sélectionnés et leurs identifiants. Préservez le modèle de plongement et la préparation d’entrée utilisés pour un index, afin de distinguer les changements ultérieurs des changements de la collection source.
Ailoot Ultra · Embeddings POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freePremiers pas
Llama Nemotron Embed VL 1B V2 est le modèle de plongement multimodal de NVIDIA pour la recherche d’information. Il transforme du texte, des images ou des entrées documentaires combinées en vecteurs et prend en charge la recherche par requête textuelle dans des documents contenant des tableaux, des graphiques, du texte et des infographies.
- Entrées acceptées
- Texte · token_ids
- Résultats
- embedding
Disponible dans Ailoot · entrées et méthodes
Ailoot Ultra · Embeddings POST /v1/embeddings
- Entrée
text,token_ids- Sortie
embedding- Contexte
- 131 072 tokens
- Format de sortie
- json
| Champ | Type | Exigence | Valeurs et limites | Par défaut |
|---|---|---|---|---|
Champmodel | Typestring | ExigenceObligatoire | Valeurs et limites nvidia/llama-nemotron-embed-vl-1b-v2:free | Par défaut— |
Champinput | Typestring|string[]|integer[]|integer[][] | ExigenceObligatoire | Valeurs et limites Nombre minimal d’éléments: 1 Conditions: Lot homogène non vide. Les identifiants de jetons sont des entiers positifs ou nuls. Budget d’entrée : Maximum: 131 072 · Unité de texte: octets UTF8 · Unité de tokens: éléments du tableau de tokens | Par défaut— |
Champencoding_format | Typestring | ExigenceFacultatif | Valeurs et limites float | Par défautfloat |
Champdimensions | Typeinteger | ExigenceNon pris en charge | Valeurs et limites Minimum: 1 | Par défaut— |
Champuser | Typejson_value | ExigenceFacultatif | Valeurs et limites Conditions: Le code source autorise ce champ de métadonnées JSON ; sa sémantique exacte en amont dépend du modèle. | Par défaut— |
Champsession_id | Typejson_value | ExigenceFacultatif | Valeurs et limites Conditions: Le code source autorise ce champ de métadonnées JSON ; sa sémantique exacte en amont dépend du modèle. | Par défaut— |
Champtrace | Typejson_value | ExigenceFacultatif | Valeurs et limites Conditions: Le code source autorise ce champ de métadonnées JSON ; sa sémantique exacte en amont dépend du modèle. | Par défaut— |
Champprovider | Typeobject | ExigenceFacultatif | Valeurs et limites Conditions: provider.options est refusé | Par défaut— |
Combinaisons d’éléments d’entrée
text_to_embedding
Paramètres et cycle de vie de la méthode
| Paramètre | Contrat |
|---|---|
Paramètrecontent_type | Contratapplication/json |
Paramètrerequired | Contratmodel, input |
Paramètreinput_shapes | Contratstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Paramètreencoding_format | Contratfloat |
Paramètredimensions_override | Contratfalse |
Paramètremax_input_budget_units | Contrat131072 |
Paramètremultimodal_objects | Contratfalse |
Paramètrematerial_types | Contrattext, token_ids |
Cycle de vie : synchronous_json
Conservez tous les indices et toutes les dimensions des vecteurs.
Un nom de modèle multimodal n’autorise pas les objets image sur ce chemin précis.
Tarifs
Les tarifs n’ajoutent pas d’options de requête. Les paramètres pris en charge figurent dans la méthode sélectionnée.
- Mode rapide
- Tarif standard Lorsque le mode rapide est sélectionné
- Mode Flex
- Tarif standard Lorsque le mode flex est sélectionné
- Effort de raisonnement maximal
- Tarif standard Lorsque l’effort de raisonnement maximal utilise l’ajustement par défaut (default)
Tarifs Ailoot
Prix par configuration
| Configuration | Barème tarifaire | Coût |
|---|---|---|
| ConfigurationTarifs de base des tokens | Barème tarifaireTarif de base | Coût Entrée · Tokens en entrée $0 / 1K tokens Sortie · Tokens en sortie $0 / 1K tokens Entrée · Lecture du cache — / 1K tokens Entrée · Écriture dans le cache — / 1K tokens Entrée · Écriture dans le cache, 1 h — / 1K tokens |
Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →
Exemples de requêtes
Ailoot Ultra · Embeddings
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Recevoir et enregistrer les résultats
Ailoot Ultra · Embeddings
json
Conserver tous les résultats terminés
Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.
Conservez chaque vecteur avec son indice. Le nombre de vecteurs doit être égal au nombre d’entrées ; les dimensions doivent être cohérentes.
Si la réponse d’origine doit être vérifiée
Aucun point de terminaison dédié aux tâches d’embedding n’est ajouté.
Champs de la réponse
| Champ | Type |
|---|---|
Champobject | Typestring |
Champmodel | Typestring |
Champdata[].index | Typeinteger |
Champdata[].embedding | Typefinite float[] |
Champusage | Typeobject |
Erreurs et étapes suivantes
| Réponse | Condition | Étape suivante |
|---|---|---|
Réponse400 · invalid_request_error | ConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non valides | Étape suivanteCorrigez les champs indiqués avant une nouvelle requête de création. |
Alias
Alias du modèle
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
Alias des chemins de méthode
Utilisez les chemins de méthode indiqués ci-dessus.
ID d’appel associés
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- Quelles entrées et quels résultats sont disponibles ?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- Quels champs la requête utilise-t-elle ?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- Quelles limites s’appliquent ?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(octets UTF8);input.min_items:1