nvidia/nemotron-3.5-embed-1b
nvidia/nemotron-3.5-embed-1bText-Embeddings von NVIDIA für mehrsprachige semantische Suche und die Auswahl von Quellen in RAG.
Semantische Suche in Texten
Nemotron 3.5 Embed 1B wandelt Text in eine numerische Darstellung seines Inhalts um. Das NVIDIA-Modell dient der Suche nach Dokumenten anhand ihrer Bedeutung: Eine Frage und ein passender Abschnitt können mit unterschiedlichen Worten formuliert sein. Ein solches Ergebnis wird für die Suche in Nachschlagewerken, internen Anleitungen, Artikeln und Antwortsammlungen des Supports verwendet.
Das Ausgangsmodell von NVIDIA vereint Text und Bilder von Dokumenten in einem gemeinsamen Darstellungsraum; Generation 3.5 ergänzt die Suche nach visuellen Seiteninhalten. Diese Ailoot-Modellkarte nutzt den textbasierten Anwendungsfall: Text als Eingabe und einen Vektor als Ausgabe.
In Ailoot nimmt das Modell Text über die Methode embeddings entgegen und liefert einen Vektor. Dieser dient dazu, die Anfrage mit Dokumenten zu vergleichen; die fertige Nutzerantwort wird im nächsten Schritt der Anwendung erstellt. So lassen sich Quellensuche und die Vorbereitung einer darauf aufbauenden Antwort getrennt organisieren.
So bauen Sie die Suche auf
Teilen Sie die Materialien zunächst in inhaltlich abgeschlossene Abschnitte auf und erstellen Sie für jeden ein Embedding. Speichern Sie den Vektor zusammen mit dem Ausgangstext, dem Dokumentnamen und dessen Kennung. Wandeln Sie bei der Suche die Frage mit demselben Modell um und wählen Sie ähnliche Vektoren aus dem Index aus. Die gefundenen Abschnitte können dem Nutzer angezeigt oder einem Textmodell als Kontext für eine dokumentengestützte Antwort übergeben werden.
Für Anfragen und Dokumente werden unterschiedliche Darstellungen verwendet, die anschliessend in einem Suchprozess miteinander abgeglichen werden. Bei der Vorbereitung des Korpus ist es sinnvoll, eine Aussage zusammen mit ihrem erläuternden Kontext zu speichern: So lässt sich der gefundene Abschnitt eigenständig lesen und dem Ausgangsdokument zuordnen.
Besonderheiten des Modells
Version 1B wurde mithilfe des grösseren Nemotron 3.5 Embed 8B als Lehrermodell erzeugt. Der Textteil basiert auf Nemotron 3 Embed 1B und behält dessen Raum für Textdarstellungen bei. Die Beschreibung des Ausgangsmodells nennt einen Vektor aus 2048 Werten mit L2-Normalisierung. Diese Eigenschaft sollten Sie bei der Indexgestaltung berücksichtigen und dabei die Dimension des tatsächlichen Ergebnisses der gewählten Methode prüfen.
Die Textsuche wurde in 34 Sprachen einschliesslich Russisch bewertet. Diese Abdeckung macht das Modell zu einem Kandidaten für eine mehrsprachige Wissensdatenbank; die Qualität der Abschnittsauswahl sollten Sie mit realen Fragen und Dokumenten Ihres Fachgebiets beurteilen.
Eingabe und Anfragegrösse
Die aktuelle Textmethode von Ailoot legt für eine einzelne Eingabe eine Grenze von 4096 Token fest. Längere Materialien lassen sich zweckmässig als separate Abschnitte mit eigenen Quellenverweisen indexieren. Der verfügbare Anwendungsfall dieser Modellkarte ist Text als Eingabe und ein Embedding als Ausgabe.
Über die Ailoot API verfügbar
POST /v1/embeddings- Eingabe
text- Ausgabe
embedding- Kontext
- 4'096 Tokens
- Max. Antwort
- Im Katalog nicht angegeben
- Eingabe
- $ 0.0001 / 1K
nvidia/nemotron-3.5-embed-1b · JSON
{"about":"### Semantische Suche in Texten\n\nNemotron 3.5 Embed 1B wandelt Text in eine numerische Darstellung seines Inhalts um. Das NVIDIA-Modell dient der Suche nach Dokumenten anhand ihrer Bedeutung: Eine Frage und ein passender Abschnitt können mit unterschiedlichen Worten formuliert sein. Ein solches Ergebnis wird für die Suche in Nachschlagewerken, internen Anleitungen, Artikeln und Antwortsammlungen des Supports verwendet.\n\nDas Ausgangsmodell von NVIDIA vereint Text und Bilder von Dokumenten in einem gemeinsamen Darstellungsraum; Generation 3.5 ergänzt die Suche nach visuellen Seiteninhalten. Diese Ailoot-Modellkarte nutzt den textbasierten Anwendungsfall: Text als Eingabe und einen Vektor als Ausgabe.\n\nIn Ailoot nimmt das Modell Text über die Methode embeddings entgegen und liefert einen Vektor. Dieser dient dazu, die Anfrage mit Dokumenten zu vergleichen; die fertige Nutzerantwort wird im nächsten Schritt der Anwendung erstellt. So lassen sich Quellensuche und die Vorbereitung einer darauf aufbauenden Antwort getrennt organisieren.\n\n### So bauen Sie die Suche auf\n\nTeilen Sie die Materialien zunächst in inhaltlich abgeschlossene Abschnitte auf und erstellen Sie für jeden ein Embedding. Speichern Sie den Vektor zusammen mit dem Ausgangstext, dem Dokumentnamen und dessen Kennung. Wandeln Sie bei der Suche die Frage mit demselben Modell um und wählen Sie ähnliche Vektoren aus dem Index aus. Die gefundenen Abschnitte können dem Nutzer angezeigt oder einem Textmodell als Kontext für eine dokumentengestützte Antwort übergeben werden.\n\nFür Anfragen und Dokumente werden unterschiedliche Darstellungen verwendet, die anschliessend in einem Suchprozess miteinander abgeglichen werden. Bei der Vorbereitung des Korpus ist es sinnvoll, eine Aussage zusammen mit ihrem erläuternden Kontext zu speichern: So lässt sich der gefundene Abschnitt eigenständig lesen und dem Ausgangsdokument zuordnen.\n\n### Besonderheiten des Modells\n\nVersion 1B wurde mithilfe des grösseren Nemotron 3.5 Embed 8B als Lehrermodell erzeugt. Der Textteil basiert auf Nemotron 3 Embed 1B und behält dessen Raum für Textdarstellungen bei. Die Beschreibung des Ausgangsmodells nennt einen Vektor aus 2048 Werten mit L2-Normalisierung. Diese Eigenschaft sollten Sie bei der Indexgestaltung berücksichtigen und dabei die Dimension des tatsächlichen Ergebnisses der gewählten Methode prüfen.\n\nDie Textsuche wurde in 34 Sprachen einschliesslich Russisch bewertet. Diese Abdeckung macht das Modell zu einem Kandidaten für eine mehrsprachige Wissensdatenbank; die Qualität der Abschnittsauswahl sollten Sie mit realen Fragen und Dokumenten Ihres Fachgebiets beurteilen.\n\n### Eingabe und Anfragegrösse\n\nDie aktuelle Textmethode von Ailoot legt für eine einzelne Eingabe eine Grenze von 4096 Token fest. Längere Materialien lassen sich zweckmässig als separate Abschnitte mit eigenen Quellenverweisen indexieren. Der verfügbare Anwendungsfall dieser Modellkarte ist Text als Eingabe und ein Embedding als Ausgabe.","alias_of":null,"aliases":[],"author":"NVIDIA","canonical_model":"nvidia/nemotron-3.5-embed-1b","ctx":4096,"formats":["embeddings"],"id":"nvidia/nemotron-3.5-embed-1b","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":4096,"family":"openai","fast_multiplier":null,"flex_multiplier":null,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0.1,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"nvidia/nemotron-3.5-embed-1b","route_label":"Core","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"nvidia/nemotron-3.5-embed-1b","request_model_id":"nvidia/nemotron-3.5-embed-1b","route_label":"Core"}],"name":"nvidia/nemotron-3.5-embed-1b","price":{"in":0.1,"in_label":null,"out":null,"out_label":null,"sort_in":0.1,"sort_out":null,"varies":false},"public_id":"nvidia/nemotron-3.5-embed-1b","short":"Text-Embeddings von NVIDIA für mehrsprachige semantische Suche und die Auswahl von Quellen in RAG."}