NVIDIA: Nemotron 3.5 Embed 8B (free)

{"about":"### Meningsbasert søk i en kunnskapsbase\n\nNemotron 3.5 Embed 8B er en NVIDIA-modell som gjør søk og dokumenter om til embeddings. Disse numeriske representasjonene hjelper med å sammenligne tekstinnhold når spørsmålet er formulert annerledes enn kilden. Modellen passer som søkelag i en virksomhets kunnskapsbase, en informasjonstjeneste eller en applikasjon som velger dokumenter før et svar utarbeides.\n\nOriginalmodellen fra NVIDIA samler tekst og dokumentbilder i ett representasjonsrom. Generasjon 3.5 legger til søk i det visuelle innholdet på sider. Dette modellkortet i Ailoot bruker den tekstbaserte arbeidsmåten: tekst inn og vektor ut.\n\nI Ailoot er tekstinndata og vektorutdata tilgjengelig gjennom embeddings. Applikasjonen får en representasjon av kildematerialet og bruker den til å finne lignende oppføringer i indeksen. Hvis du trenger et sammenhengende svar med forklaring, kan de funne tekstene sendes til en egen genereringsmodell sammen med brukerens spørsmål.\n\n### Hva skiller 8B-versjonen fra andre?\n\nTekstkodingen bygger på Nemotron 3 Embed 8B. Da NVIDIA laget generasjon 3.5, beholdt de denne tekstdelen og embeddingrommet, samtidig som originalmodellen fikk flere muligheter. Det publiserte modellkortet beskriver utdata med 4096 verdier, laget ved gjennomsnitt av tokenrepresentasjoner og L2-normalisering. Når en vektorindeks klargjøres, må dimensjonen samsvare med det faktiske svaret fra metoden.\n\nTekstsøk er evaluert på 34 språk, inkludert russisk. For flerspråklige veiledninger og oppslagsverk gjør dette modellen aktuell som et felles søkelag. Utvalget avhenger av baseinnholdet, dokumentoppdelingen og typiske brukerspørsmål. Det er nyttig å teste det på materiale fra ditt eget fagområde.\n\n### Arbeidsprosess\n\n1. Del originaldokumentene i fragmenter som hver inneholder et fullstendig svar eller en forklaring.\n2. Hent embeddings og lagre dem sammen med teksten, overskriften og kildehenvisningen.\n3. Konverter brukerens spørsmål med samme modell og finn lignende oppføringer.\n4. Vis fragmentene som blir funnet, eller bruk dem i RAG til å utarbeide et kildebasert svar.\n\n### Inndatastørrelse\n\nFor denne varianten oppgir Ailoot tekstkontekst og en inndatagrense på 32768 tokener. Fragmenter av et langt dokument kan lagres som selvstendige oppføringer med en felles henvisning til originalmaterialet. Modellens tilgjengelige resultat er en tekstembedding som applikasjonen bruker i videre behandling.","alias_of":null,"aliases":[],"author":"NVIDIA","canonical_model":"nvidia/nemotron-3.5-embed-8b:free","ctx":32768,"formats":["embeddings"],"id":"nvidia/nemotron-3.5-embed-8b:free","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":32768,"family":"openai","fast_multiplier":1,"flex_multiplier":1,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"nvidia/nemotron-3.5-embed-8b:free","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra"}],"name":"NVIDIA: Nemotron 3.5 Embed 8B (free)","price":{"in":0,"in_label":null,"out":null,"out_label":null,"sort_in":0,"sort_out":null,"varies":false},"public_id":"nvidia/nemotron-3.5-embed-8b:free","short":"Flerspråklige tekstembeddings fra NVIDIA for semantisk dokumentsøk og oppbygging av RAG."}