NVIDIA: Nemotron 3.5 Embed 8B (free)

{"about":"### Významové vyhledávání ve znalostní bázi\n\nNemotron 3.5 Embed 8B je model NVIDIA pro převod dotazů a dokumentů na embeddingy. Tyto číselné reprezentace pomáhají porovnávat obsah textů, pokud se formulace otázky liší od slov ve zdroji. Model se hodí pro vyhledávací vrstvu podnikové znalostní báze, informační služby a aplikace, která vybírá dokumenty před přípravou odpovědi.\n\nPůvodní model NVIDIA spojuje text a obrázky dokumentů do jednoho prostoru reprezentací; generace 3.5 přidává vyhledávání podle vizuálního obsahu stránek. Tato karta Ailoot využívá jeho textový scénář: text na vstupu a vektor na výstupu.\n\nV Ailoot je dostupný textový vstup a vektorový výstup přes embeddings. Aplikace získá reprezentaci původního materiálu a použije ji k hledání podobných záznamů v indexu. Je-li potřeba souvislá odpověď s vysvětlením, nalezené texty lze předat samostatnému generativnímu modelu společně s otázkou uživatele.\n\n### Čím se liší verze 8B\n\nTextové kódování vychází z Nemotron 3 Embed 8B. Při tvorbě generace 3.5 NVIDIA zachovala tuto textovou část i její prostor embeddingů a rozšířila původní model o další možnosti. Publikovaná karta popisuje výstup se 4096 hodnotami získaný průměrováním tokenových reprezentací a L2 normalizací. Při přípravě vektorového indexu je nutné sladit jeho rozměr se skutečnou odpovědí metody.\n\nTextové vyhledávání bylo hodnoceno na 34 jazycích včetně ruštiny. U vícejazyčných pokynů a příruček tak lze model zvažovat jako společnou vyhledávací vrstvu. Výsledek výběru závisí na složení báze, rozdělení dokumentů a typických otázkách uživatelů; je vhodné jej ověřovat na materiálech vašeho oboru.\n\n### Pracovní postup\n\n1. Rozdělte původní dokumenty na úseky, z nichž každý obsahuje ucelenou odpověď nebo vysvětlení.\n2. Získejte embeddingy a uložte je společně s textem, nadpisem a odkazem na zdroj.\n3. Převeďte uživatelskou otázku stejným modelem a najděte podobné záznamy.\n4. Zobrazte nalezené úryvky nebo je využijte v RAG k přípravě odpovědi opřené o zdroje.\n\n### Velikost vstupu\n\nPro tuto variantu Ailoot uvádí textový kontext a limit vstupu 32768 tokenů. Úseky dlouhého dokumentu lze ukládat jako samostatné záznamy se společným odkazem na původní materiál. Dostupným výsledkem modelu je embedding textu, který aplikace používá při dalším zpracování.","alias_of":null,"aliases":[],"author":"NVIDIA","canonical_model":"nvidia/nemotron-3.5-embed-8b:free","ctx":32768,"formats":["embeddings"],"id":"nvidia/nemotron-3.5-embed-8b:free","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":32768,"family":"openai","fast_multiplier":1,"flex_multiplier":1,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"nvidia/nemotron-3.5-embed-8b:free","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra"}],"name":"NVIDIA: Nemotron 3.5 Embed 8B (free)","price":{"in":0,"in_label":null,"out":null,"out_label":null,"sort_in":0,"sort_out":null,"varies":false},"public_id":"nvidia/nemotron-3.5-embed-8b:free","short":"Vícejazyčné textové embeddingy NVIDIA pro sémantické vyhledávání v dokumentech a tvorbu RAG."}