NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
Llama Nemotron Embed VL 1B V2 ist NVIDIAs multimodales Embedding-Modell für die Informationssuche. Es wandelt Text, Bilder oder kombinierte Dokumenteingaben in Vektoren um und unterstützt die Suche mit Textanfragen in Dokumenten mit Tabellen, Diagrammen, Text und Infografiken.
Über das Modell
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama Nemotron Embed VL 1B V2 ist NVIDIAs Embedding-Modell für multimodale Informationssuche zur Fragebeantwortung. Es kann ein Dokument als Text, Bild oder Kombination aus Bild und Text repräsentieren. Mit einer Textanfrage lassen sich anschließend verwandte Dokumente abrufen. Sein veröffentlichtes Profil unterstützt Dokumentbilder mit Text, Tabellen, Diagrammen und Infografiken und gibt Embedding-Vektoren zurück.
Identifizierbare Dokumentelemente vorbereiten
Halten Sie jede Eingabe mit dem Quelldokument, der Seite oder Passage verknüpft, die sie repräsentiert. Bewahren Sie bei einer visuellen Seite das Bild und jeden zugehörigen Begleittext. Erhalten Sie bei einer Textpassage ihren Titel oder ihre Abschnittsbezeichnung, wenn dies eine spätere Übereinstimmung verständlicher macht. Diese Quellkennungen machen ein abgerufenes Element als Beleg nützlich statt nur als numerisches Ähnlichkeitsergebnis.
Wählen Sie Elementgrenzen anhand des Materials, das Nutzer finden müssen. Ein Diagramm und seine Erklärung können zusammengehören; sachfremde Seiten sollten eigene Identitäten behalten. Prüfen Sie, ob die Eingabe lesbar ist und ob Text oder Bild die Informationen enthält, die die beabsichtigte Anfrage abrufen soll.
Textanfragen und Vektorsuche
Die Rolle des Modells besteht darin, Suchvektoren zu erzeugen, mit Text als der im Profil beschriebenen Anfrageform. Halten Sie Anfrage und indizierte Elemente in einem kompatiblen Embedding-Aufbau. Die Anwendung speichert die Vektoren, vergleicht sie und gibt die zugehörigen Quellelemente zurück. Das abgerufene Dokument bleibt das Material zur Prüfung oder zur Übergabe an einen späteren Antwortgenerierungsschritt.
Eine nützliche Testmenge enthält die Fragen, die Nutzer tatsächlich stellen, und die Seiten, die gefunden werden sollten. Prüfen Sie falsche oder fehlende Übereinstimmungen anhand des Quellinhalts und der Elementgrenzen. Bewahren Sie die vollständige Dokumentkennung bei jeder ausgewählten Passage oder jedem Bild, damit das Ergebnis im Kontext geprüft werden kann.
Eingabekontingent und Suchartefakt
Das dokumentierte gehostete Profil nennt bis zu 131.072 Tokens pro Eingabe. Teilen Sie größere Quellenmengen in separate, bezeichnete Eingaben auf und bewahren Sie ihre Beziehungen. Die Vektorausgabe des Profils ist weder eine generierte Prosaantwort noch ein Transkript; ein späterer Anwendungsschritt kann die abgerufenen Belege zur Beantwortung einer Frage verwenden.
Ein abgeschlossenes Suchartefakt verknüpft Anfrage, ausgewählte Quellelemente und deren Kennungen. Bewahren Sie das für einen Index verwendete Embedding-Modell und die Eingabevorbereitung, damit spätere Änderungen von Änderungen der Quellsammlung unterschieden werden können.
Ailoot Ultra · Embeddings POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freeStart
Llama Nemotron Embed VL 1B V2 ist NVIDIAs multimodales Embedding-Modell für die Informationssuche. Es wandelt Text, Bilder oder kombinierte Dokumenteingaben in Vektoren um und unterstützt die Suche mit Textanfragen in Dokumenten mit Tabellen, Diagrammen, Text und Infografiken.
- Zulässige Eingaben
- Text · token_ids
- Ergebnisse
- embedding
In Ailoot verfügbar · Eingaben und Methoden
Ailoot Ultra · Embeddings POST /v1/embeddings
- Eingabetypen
text,token_ids- Ausgabetypen
embedding- Kontext
- 131.072 tokens
- Ausgabeformat
- json
| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits nvidia/llama-nemotron-embed-vl-1b-v2:free | Standard— |
Feldinput | Typstring|string[]|integer[]|integer[][] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 Bedingungen: Nicht leerer, homogener Batch. Token-IDs sind nichtnegative Ganzzahlen. Eingabebudget: Maximum: 131.072 · Texteinheit: UTF8-Bytes · Tokeneinheit: Elemente des Token-Arrays | Standard— |
Feldencoding_format | Typstring | AnforderungOptional | Werte und Limits float | Standardfloat |
Felddimensions | Typinteger | AnforderungNicht unterstützt | Werte und Limits Minimum: 1 | Standard— |
Felduser | Typjson_value | AnforderungOptional | Werte und Limits Bedingungen: Der Quellcode erlaubt dieses JSON-Metadatenfeld; die genaue Semantik beim vorgelagerten Anbieter ist modellspezifisch. | Standard— |
Feldsession_id | Typjson_value | AnforderungOptional | Werte und Limits Bedingungen: Der Quellcode erlaubt dieses JSON-Metadatenfeld; die genaue Semantik beim vorgelagerten Anbieter ist modellspezifisch. | Standard— |
Feldtrace | Typjson_value | AnforderungOptional | Werte und Limits Bedingungen: Der Quellcode erlaubt dieses JSON-Metadatenfeld; die genaue Semantik beim vorgelagerten Anbieter ist modellspezifisch. | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options abgelehnt | Standard— |
Kombinationen von Eingabematerialien
text_to_embedding
Methodenparameter und Lebenszyklus
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, input |
Parameterinput_shapes | Vertragstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parameterencoding_format | Vertragfloat |
Parameterdimensions_override | Vertragfalse |
Parametermax_input_budget_units | Vertrag131072 |
Parametermultimodal_objects | Vertragfalse |
Parametermaterial_types | Vertragtext, token_ids |
Lebenszyklus: synchronous_json
Jeden Vektorindex und jede Dimension beibehalten.
Ein multimodaler Modellname erlaubt auf genau diesem Pfad keine Bildobjekte.
Tarife
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
- Schnellmodus
- Standardtarif Wenn der Schnellmodus ausgewählt ist
- Flex-Modus
- Standardtarif Wenn der Modus flex ausgewählt ist
- Maximaler Denkaufwand
- Standardtarif Wenn beim maximalen Denkaufwand die Standardanpassung (default) verwendet wird
Ailoot-Tarife
Preise nach Konfiguration
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0 / 1K Token Ausgabe · Ausgabetoken $0 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
Beispielanfragen
Ailoot Ultra · Embeddings
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Ergebnisse abrufen und speichern
Ailoot Ultra · Embeddings
json
Alle fertiggestellten Ergebnisse aufbewahren
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Jeden Vektor mit seinem Index beibehalten. Die Anzahl der Vektoren muss der Anzahl der Eingaben entsprechen; die Dimensionen müssen konsistent sein.
Wenn die ursprüngliche Antwort geprüft werden muss
Es wird kein Endpunkt für Embedding-Aufträge eingeführt.
Antwortfelder
| Feld | Typ |
|---|---|
Feldobject | Typstring |
Feldmodel | Typstring |
Felddata[].index | Typinteger |
Felddata[].embedding | Typfinite float[] |
Feldusage | Typobject |
Fehler und nächste Schritte
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Aliasnamen
Modellaliasnamen
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
Aliasnamen für Methodenpfade
Verwenden Sie die oben angezeigten Methodenpfade.
Zugehörige Aufrufer-IDs
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- Welche Eingaben und Ergebnisse sind verfügbar?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- Welche Felder verwendet die Anfrage?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- Welche Grenzen gelten?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(UTF8-Bytes);input.min_items:1