NVIDIA: Nemotron 3.5 Embed 8B (free)

{"about":"### Paieška pagal prasmę žinių bazėje\n\nNemotron 3.5 Embed 8B — NVIDIA modelis, paverčiantis užklausas ir dokumentus vektorinėmis reprezentacijomis. Šios skaitinės reprezentacijos padeda palyginti tekstus pagal turinį, kai klausimo formuluotė skiriasi nuo šaltinyje vartojamų žodžių. Modelis tinka įmonės žinių bazės, informacinės paslaugos ir programos, atrenkančios dokumentus prieš rengiant atsakymą, paieškos sluoksniui.\n\nPradinis NVIDIA modelis jungia tekstą ir dokumentų vaizdus vienoje reprezentacijų erdvėje; 3.5 karta papildo paiešką pagal vizualinį puslapių turinį. Šioje Ailoot kortelėje naudojamas jo tekstinis scenarijus: įvestis yra tekstas, o išvestis — vektorius.\n\nAiloot per embeddings prieinama tekstinė įvestis ir vektorinė išvestis. Programa gauna pradinės medžiagos reprezentaciją ir naudoja ją artimiems įrašams indekse rasti. Jei reikia rišlaus atsakymo su paaiškinimu, rastus tekstus kartu su naudotojo klausimu galima perduoti atskiram generavimo modeliui.\n\n### Kuo skiriasi 8B versija\n\nTekstinio kodavimo pagrindas — Nemotron 3 Embed 8B. Kurdama 3.5 kartą NVIDIA išsaugojo šią tekstinę dalį ir jos vektorinių reprezentacijų erdvę, pradinį modelį papildydama kitomis galimybėmis. Paskelbtoje kortelėje aprašyta 4096 reikšmių išvestis, gauta suvidurkinus žetonų reprezentacijas ir pritaikius L2 normalizavimą. Rengiant vektorinį indeksą jo matmenų skaičių reikia suderinti su faktišku metodo atsakymu.\n\nTekstinė paieška vertinta 34 kalbomis, įskaitant rusų. Daugiakalbėms instrukcijoms ir žinynams tai leidžia svarstyti modelį kaip bendrą paieškos sluoksnį. Atrankos rezultatas priklauso nuo bazės sudėties, dokumentų suskaidymo ir būdingų naudotojų klausimų; naudinga jį patikrinti pagal savo srities medžiagą.\n\n### Darbo procesas\n\n1. Suskaidykite pradinius dokumentus į fragmentus, kurių kiekviename būtų užbaigtas atsakymas arba paaiškinimas.\n2. Gaukite vektorines reprezentacijas ir išsaugokite jas kartu su tekstu, antrašte ir nuoroda į šaltinį.\n3. Paverskite naudotojo klausimą tuo pačiu modeliu ir raskite artimus įrašus.\n4. Parodykite rastus fragmentus arba panaudokite juos RAG sistemose šaltiniais pagrįstam atsakymui parengti.\n\n### Įvesties dydis\n\nŠiam variantui Ailoot nurodo tekstinį kontekstą ir 32768 žetonų įvesties ribą. Ilgo dokumento fragmentus galima saugoti kaip atskirus įrašus su bendra nuoroda į pradinę medžiagą. Prieinamas modelio rezultatas — teksto vektorinė reprezentacija, kurią programa naudoja toliau apdorodama duomenis.","alias_of":null,"aliases":[],"author":"NVIDIA","canonical_model":"nvidia/nemotron-3.5-embed-8b:free","ctx":32768,"formats":["embeddings"],"id":"nvidia/nemotron-3.5-embed-8b:free","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":32768,"family":"openai","fast_multiplier":1,"flex_multiplier":1,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"nvidia/nemotron-3.5-embed-8b:free","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra"}],"name":"NVIDIA: Nemotron 3.5 Embed 8B (free)","price":{"in":0,"in_label":null,"out":null,"out_label":null,"sort_in":0,"sort_out":null,"varies":false},"public_id":"nvidia/nemotron-3.5-embed-8b:free","short":"Daugiakalbės NVIDIA tekstinės vektorinės reprezentacijos semantinei dokumentų paieškai ir RAG sistemoms kurti."}