NVIDIA: Nemotron 3.5 Embed 8B (free)

{"about":"### Wyszukiwanie według znaczenia w bazie wiedzy\n\nNemotron 3.5 Embed 8B to model NVIDIA do przekształcania zapytań i dokumentów w embeddingi. Te reprezentacje liczbowe pomagają porównywać treść tekstów, gdy pytanie jest sformułowane inaczej niż źródło. Model nadaje się do warstwy wyszukiwania firmowej bazy wiedzy, serwisu informacyjnego i aplikacji dobierającej dokumenty przed przygotowaniem odpowiedzi.\n\nŹródłowy model NVIDIA łączy tekst i obrazy dokumentów w jednej przestrzeni reprezentacji; generacja 3.5 dodaje wyszukiwanie według wizualnej zawartości stron. Ta karta Ailoot wykorzystuje jego scenariusz tekstowy: tekst na wejściu i wektor na wyjściu.\n\nW Ailoot dostępne są wejście tekstowe i wyjście wektorowe przez embeddings. Aplikacja otrzymuje reprezentację materiału źródłowego i wykorzystuje ją do wyszukiwania podobnych wpisów w indeksie. Jeśli potrzebna jest spójna odpowiedź z objaśnieniem, znalezione teksty można przekazać osobnemu modelowi generującemu wraz z pytaniem użytkownika.\n\n### Co wyróżnia wersję 8B\n\nKodowanie tekstu opiera się na Nemotron 3 Embed 8B. Tworząc generację 3.5, NVIDIA zachowała tę część tekstową i jej przestrzeń embeddingów, rozszerzając model źródłowy o dodatkowe możliwości. Opublikowana karta opisuje wyjście z 4096 wartościami, uzyskane przez uśrednianie reprezentacji tokenów i normalizację L2. Przy przygotowaniu indeksu wektorowego jego wymiar trzeba uzgodnić z rzeczywistą odpowiedzią metody.\n\nWyszukiwanie tekstowe oceniano w 34 językach, w tym rosyjskim. Pozwala to rozważać model jako wspólną warstwę wyszukiwania dla wielojęzycznych instrukcji i poradników. Wynik doboru zależy od zawartości bazy, podziału dokumentów i typowych pytań użytkowników; warto go sprawdzać na materiałach z własnej dziedziny.\n\n### Proces pracy\n\n1. Podziel dokumenty źródłowe na fragmenty zawierające kompletną odpowiedź lub wyjaśnienie.\n2. Uzyskaj embeddingi i zapisz je razem z tekstem, nagłówkiem i odnośnikiem do źródła.\n3. Przekształć pytanie użytkownika tym samym modelem i znajdź podobne wpisy.\n4. Pokaż znalezione fragmenty lub wykorzystaj je w RAG do przygotowania odpowiedzi opartej na źródłach.\n\n### Rozmiar wejścia\n\nDla tego wariantu Ailoot podaje kontekst tekstowy i limit wejścia 32768 tokenów. Fragmenty długiego dokumentu można przechowywać jako samodzielne wpisy ze wspólnym odnośnikiem do materiału źródłowego. Dostępnym wynikiem modelu jest embedding tekstu, który aplikacja wykorzystuje w dalszym przetwarzaniu.","alias_of":null,"aliases":[],"author":"NVIDIA","canonical_model":"nvidia/nemotron-3.5-embed-8b:free","ctx":32768,"formats":["embeddings"],"id":"nvidia/nemotron-3.5-embed-8b:free","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":32768,"family":"openai","fast_multiplier":1,"flex_multiplier":1,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"nvidia/nemotron-3.5-embed-8b:free","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra"}],"name":"NVIDIA: Nemotron 3.5 Embed 8B (free)","price":{"in":0,"in_label":null,"out":null,"out_label":null,"sort_in":0,"sort_out":null,"varies":false},"public_id":"nvidia/nemotron-3.5-embed-8b:free","short":"Wielojęzyczne embeddingi tekstowe NVIDIA do semantycznego wyszukiwania dokumentów i budowania RAG."}