nvidia/nemotron-3.5-embed-1b
nvidia/nemotron-3.5-embed-1bTextové embeddingy NVIDIA pro vícejazyčné sémantické vyhledávání a výběr zdrojů v RAG.
Sémantické vyhledávání v textech
Nemotron 3.5 Embed 1B převádí text na číselnou reprezentaci jeho obsahu. Model NVIDIA je určen pro vyhledávání dokumentů podle významu: otázka a vhodný úryvek mohou být formulovány různými slovy. Takový výsledek se využívá při vyhledávání v příručkách, interních pokynech, článcích a databázi odpovědí podpory.
Původní model NVIDIA spojuje text a obrázky dokumentů do jednoho prostoru reprezentací; generace 3.5 přidává vyhledávání podle vizuálního obsahu stránek. V této kartě Ailoot se využívá jeho textový scénář: text na vstupu a vektor na výstupu.
V Ailoot model přijímá text prostřednictvím metody embeddings a vrací vektor. Vektor slouží k porovnání dotazu s dokumenty; hotová odpověď uživateli vzniká v další fázi aplikace. Vyhledávání zdrojů a přípravu odpovědi na jejich základě tak lze organizovat odděleně.
Jak sestavit vyhledávání
Nejprve rozdělte materiály na ucelené významové úseky a pro každý získejte embedding. Vektor uložte spolu s původním textem, názvem dokumentu a jeho identifikátorem. Při hledání převeďte otázku stejným modelem a vyberte podobné vektory z indexu. Nalezené úryvky lze zobrazit uživateli nebo předat textovému modelu jako kontext pro odpověď opřenou o dokumenty.
Pro dotazy a dokumenty se používají samostatné reprezentace, které se následně porovnávají v jednom vyhledávacím procesu. Při přípravě korpusu je užitečné ponechat tvrzení společně s vysvětlujícím kontextem: nalezený úsek pak lze číst samostatně a propojit s původním dokumentem.
Vlastnosti modelu
Verze 1B vznikla s využitím většího Nemotron 3.5 Embed 8B jako učitelského modelu. Textová část vychází z Nemotron 3 Embed 1B a zachovává jeho prostor textových reprezentací. Popis původního modelu uvádí vektor s 2048 hodnotami a L2 normalizací. Tuto vlastnost je vhodné zohlednit při návrhu indexu a ověřit rozměr skutečné odpovědi zvolené metody.
Textové vyhledávání bylo hodnoceno na 34 jazycích včetně ruštiny. Tento rozsah umožňuje model zvažovat pro vícejazyčnou znalostní bázi; kvalitu výběru úryvků je vhodné posoudit na skutečných otázkách a dokumentech vašeho oboru.
Vstup a velikost požadavku
Současná textová metoda Ailoot stanovuje limit jednoho vstupu na 4096 tokenů. Delší materiály je vhodné indexovat po samostatných úsecích s vlastními odkazy na zdroj. Dostupným scénářem této karty je text na vstupu a embedding na výstupu.
Dostupné přes Ailoot API
POST /v1/embeddings- Vstup
text- Výstup
embedding- Kontext
- 4 096 tokenů
- Max. odpověď
- V katalogu neuvedeno
- Vstup
- 0,0001 US$ / 1K
nvidia/nemotron-3.5-embed-1b · JSON
{"about":"### Sémantické vyhledávání v textech\n\nNemotron 3.5 Embed 1B převádí text na číselnou reprezentaci jeho obsahu. Model NVIDIA je určen pro vyhledávání dokumentů podle významu: otázka a vhodný úryvek mohou být formulovány různými slovy. Takový výsledek se využívá při vyhledávání v příručkách, interních pokynech, článcích a databázi odpovědí podpory.\n\nPůvodní model NVIDIA spojuje text a obrázky dokumentů do jednoho prostoru reprezentací; generace 3.5 přidává vyhledávání podle vizuálního obsahu stránek. V této kartě Ailoot se využívá jeho textový scénář: text na vstupu a vektor na výstupu.\n\nV Ailoot model přijímá text prostřednictvím metody embeddings a vrací vektor. Vektor slouží k porovnání dotazu s dokumenty; hotová odpověď uživateli vzniká v další fázi aplikace. Vyhledávání zdrojů a přípravu odpovědi na jejich základě tak lze organizovat odděleně.\n\n### Jak sestavit vyhledávání\n\nNejprve rozdělte materiály na ucelené významové úseky a pro každý získejte embedding. Vektor uložte spolu s původním textem, názvem dokumentu a jeho identifikátorem. Při hledání převeďte otázku stejným modelem a vyberte podobné vektory z indexu. Nalezené úryvky lze zobrazit uživateli nebo předat textovému modelu jako kontext pro odpověď opřenou o dokumenty.\n\nPro dotazy a dokumenty se používají samostatné reprezentace, které se následně porovnávají v jednom vyhledávacím procesu. Při přípravě korpusu je užitečné ponechat tvrzení společně s vysvětlujícím kontextem: nalezený úsek pak lze číst samostatně a propojit s původním dokumentem.\n\n### Vlastnosti modelu\n\nVerze 1B vznikla s využitím většího Nemotron 3.5 Embed 8B jako učitelského modelu. Textová část vychází z Nemotron 3 Embed 1B a zachovává jeho prostor textových reprezentací. Popis původního modelu uvádí vektor s 2048 hodnotami a L2 normalizací. Tuto vlastnost je vhodné zohlednit při návrhu indexu a ověřit rozměr skutečné odpovědi zvolené metody.\n\nTextové vyhledávání bylo hodnoceno na 34 jazycích včetně ruštiny. Tento rozsah umožňuje model zvažovat pro vícejazyčnou znalostní bázi; kvalitu výběru úryvků je vhodné posoudit na skutečných otázkách a dokumentech vašeho oboru.\n\n### Vstup a velikost požadavku\n\nSoučasná textová metoda Ailoot stanovuje limit jednoho vstupu na 4096 tokenů. Delší materiály je vhodné indexovat po samostatných úsecích s vlastními odkazy na zdroj. Dostupným scénářem této karty je text na vstupu a embedding na výstupu.","alias_of":null,"aliases":[],"author":"NVIDIA","canonical_model":"nvidia/nemotron-3.5-embed-1b","ctx":4096,"formats":["embeddings"],"id":"nvidia/nemotron-3.5-embed-1b","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":4096,"family":"openai","fast_multiplier":null,"flex_multiplier":null,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0.1,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"nvidia/nemotron-3.5-embed-1b","route_label":"Core","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"nvidia/nemotron-3.5-embed-1b","request_model_id":"nvidia/nemotron-3.5-embed-1b","route_label":"Core"}],"name":"nvidia/nemotron-3.5-embed-1b","price":{"in":0.1,"in_label":null,"out":null,"out_label":null,"sort_in":0.1,"sort_out":null,"varies":false},"public_id":"nvidia/nemotron-3.5-embed-1b","short":"Textové embeddingy NVIDIA pro vícejazyčné sémantické vyhledávání a výběr zdrojů v RAG."}