NVIDIA: Nemotron 3.5 Embed 8B (free)

{"about":"### Významové vyhľadávanie v znalostnej báze\n\nNemotron 3.5 Embed 8B je model NVIDIA na prevod dopytov a dokumentov na embeddingy. Číselné reprezentácie pomáhajú porovnať obsah textov, keď sa formulácia otázky líši od zdroja. Model sa hodí pre vyhľadávaciu vrstvu podnikovej znalostnej bázy, informačnej služby a aplikácie, ktorá vyberá dokumenty pred prípravou odpovede.\n\nPôvodný model NVIDIA spája text a obrázky dokumentov v spoločnom priestore reprezentácií; generácia 3.5 pridáva vyhľadávanie vo vizuálnom obsahu strán. Táto karta Ailoot používa textový scenár: textový vstup a vektorový výstup.\n\nV Ailoot je dostupný textový vstup a vektorový výstup cez embeddings. Aplikácia získava reprezentáciu materiálu a používa ju na vyhľadanie blízkych záznamov v indexe. Ak treba súvislú odpoveď s vysvetlením, nájdené texty možno spolu s otázkou posunúť samostatnému generatívnemu modelu.\n\n### Čím sa líši verzia 8B\n\nTextové kódovanie vychádza z Nemotron 3 Embed 8B. Pri generácii 3.5 NVIDIA zachovala túto textovú časť aj priestor embeddingov a pôvodný model doplnila o ďalšie možnosti. Zverejnená karta opisuje výstup so 4096 hodnotami, získaný priemerovaním tokenových reprezentácií a normalizáciou L2. Rozmer vektorového indexu zlaďte so skutočnou odpoveďou metódy.\n\nTextové vyhľadávanie sa hodnotilo na 34 jazykoch vrátane ruštiny. Pri viacjazyčných pokynoch a príručkách tak model možno posudzovať ako spoločnú vyhľadávaciu vrstvu. Výber závisí od obsahu bázy, rozdelenia dokumentov a typických otázok používateľov; overte ho na materiáloch svojho odboru.\n\n### Pracovný postup\n\n1. Rozdeľte pôvodné dokumenty na úseky s ucelenou odpoveďou alebo vysvetlením.\n2. Získajte embeddingy a uložte ich s textom, nadpisom a odkazom na zdroj.\n3. Preveďte otázku používateľa rovnakým modelom a nájdite blízke záznamy.\n4. Zobrazte úseky alebo ich využite v RAG na prípravu odpovede podľa zdrojov.\n\n### Veľkosť vstupu\n\nPre tento variant Ailoot uvádza textový kontext a vstupný limit 32768 tokenov. Úseky dlhého dokumentu možno uložiť ako samostatné záznamy so spoločným odkazom na pôvodný materiál. Výsledkom modelu je embedding textu na ďalšie spracovanie aplikáciou.","alias_of":null,"aliases":[],"author":"NVIDIA","canonical_model":"nvidia/nemotron-3.5-embed-8b:free","ctx":32768,"formats":["embeddings"],"id":"nvidia/nemotron-3.5-embed-8b:free","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":32768,"family":"openai","fast_multiplier":1,"flex_multiplier":1,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"nvidia/nemotron-3.5-embed-8b:free","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra"}],"name":"NVIDIA: Nemotron 3.5 Embed 8B (free)","price":{"in":0,"in_label":null,"out":null,"out_label":null,"sort_in":0,"sort_out":null,"varies":false},"public_id":"nvidia/nemotron-3.5-embed-8b:free","short":"Viacjazyčné textové embeddingy NVIDIA na sémantické vyhľadávanie v dokumentoch a tvorbu RAG."}