NVIDIA: Nemotron 3.5 Embed 8B (free)

{"about":"### Semantische Suche in einer Wissensdatenbank\n\nNemotron 3.5 Embed 8B ist ein NVIDIA-Modell zur Umwandlung von Anfragen und Dokumenten in Embeddings. Diese numerischen Darstellungen helfen, Texte nach ihrem Inhalt abzugleichen, wenn die Formulierung der Frage von den Wörtern in der Quelle abweicht. Das Modell eignet sich für die Suchschicht einer Unternehmenswissensdatenbank, eines Auskunftsdienstes oder einer Anwendung, die vor der Antworterstellung Dokumente auswählt.\n\nDas Ausgangsmodell von NVIDIA vereint Text und Bilder von Dokumenten in einem gemeinsamen Darstellungsraum; Generation 3.5 ergänzt die Suche nach visuellen Seiteninhalten. Diese Ailoot-Modellkarte nutzt den textbasierten Anwendungsfall: Text als Eingabe und einen Vektor als Ausgabe.\n\nIn Ailoot stehen Texteingabe und Vektorausgabe über embeddings zur Verfügung. Die Anwendung erhält eine Darstellung des Ausgangsmaterials und verwendet sie, um ähnliche Einträge im Index zu suchen. Wird eine zusammenhängende Antwort mit Erklärung benötigt, können die gefundenen Texte zusammen mit der Nutzerfrage an ein separates generierendes Modell übergeben werden.\n\n### Was Version 8B unterscheidet\n\nDie Textcodierung basiert auf Nemotron 3 Embed 8B. Bei der Entwicklung von Generation 3.5 behielt NVIDIA diesen Textteil und dessen Embedding-Raum bei und erweiterte das Ausgangsmodell um zusätzliche Fähigkeiten. Die veröffentlichte Modellkarte beschreibt eine Ausgabe aus 4096 Werten, die durch Mittelung der Token-Darstellungen und L2-Normalisierung entsteht. Beim Vorbereiten des Vektorindex muss dessen Dimension mit der tatsächlichen Antwort der Methode abgestimmt werden.\n\nDie Textsuche wurde in 34 Sprachen einschließlich Russisch bewertet. Für mehrsprachige Anleitungen und Nachschlagewerke lässt sich das Modell daher als gemeinsame Suchschicht in Betracht ziehen. Das Auswahlergebnis hängt von der Zusammensetzung der Datenbank, der Aufteilung der Dokumente und den typischen Nutzerfragen ab; prüfen Sie es daher an Materialien Ihres Fachgebiets.\n\n### Arbeitsablauf\n\n1. Teilen Sie die Ausgangsdokumente in Abschnitte auf, die jeweils eine vollständige Antwort oder Erklärung enthalten.\n2. Erstellen Sie Embeddings und speichern Sie sie zusammen mit Text, Überschrift und Quellenverweis.\n3. Wandeln Sie die Nutzerfrage mit demselben Modell um und suchen Sie ähnliche Einträge.\n4. Zeigen Sie die gefundenen Abschnitte an oder nutzen Sie sie in RAG, um eine quellenbasierte Antwort vorzubereiten.\n\n### Eingabeumfang\n\nFür diese Variante gibt Ailoot einen Textkontext und eine Eingabegrenze von 32768 Token an. Abschnitte eines langen Dokuments lassen sich als eigenständige Einträge mit gemeinsamem Verweis auf das Ausgangsmaterial speichern. Das verfügbare Modellergebnis ist ein Text-Embedding, das die Anwendung in der weiteren Verarbeitung nutzt.","alias_of":null,"aliases":[],"author":"NVIDIA","canonical_model":"nvidia/nemotron-3.5-embed-8b:free","ctx":32768,"formats":["embeddings"],"id":"nvidia/nemotron-3.5-embed-8b:free","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":32768,"family":"openai","fast_multiplier":1,"flex_multiplier":1,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"nvidia/nemotron-3.5-embed-8b:free","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra"}],"name":"NVIDIA: Nemotron 3.5 Embed 8B (free)","price":{"in":0,"in_label":null,"out":null,"out_label":null,"sort_in":0,"sort_out":null,"varies":false},"public_id":"nvidia/nemotron-3.5-embed-8b:free","short":"Mehrsprachige Text-Embeddings von NVIDIA für die semantische Dokumentensuche und den Aufbau von RAG."}