Nemotron 3.5 Embed 1B gjør tekst om til en numerisk representasjon av innholdet. NVIDIA-modellen er beregnet på å finne dokumenter etter mening: Spørsmålet og et relevant utdrag kan være formulert med ulike ord. Resultatet brukes til søk i oppslagsverk, interne veiledninger, artikler og kundestøttens svarbase.
Originalmodellen fra NVIDIA samler tekst og dokumentbilder i ett representasjonsrom. Generasjon 3.5 legger til søk i det visuelle innholdet på sider. Dette modellkortet i Ailoot bruker den tekstbaserte arbeidsmåten: tekst inn og vektor ut.
I Ailoot tar modellen imot tekst gjennom metoden embeddings og returnerer en vektor. Vektoren brukes til å sammenligne søket med dokumenter; det ferdige brukersvaret utformes av neste trinn i applikasjonen. Dermed kan kildefinning og utarbeiding av et kildebasert svar organiseres hver for seg.
Del først materialet i selvstendige innholdsfragmenter og hent en embedding for hvert av dem. Lagre vektoren sammen med originalteksten, dokumentnavnet og identifikatoren. Ved søk konverterer du spørsmålet med samme modell og velger lignende vektorer fra indeksen. Fragmentene som blir funnet, kan vises til brukeren eller sendes til en tekstmodell som kontekst for et dokumentbasert svar.
Spørsmål og dokumenter bruker separate representasjoner som deretter sammenholdes i samme søkeprosess. Når korpuset klargjøres, er det nyttig å beholde en påstand sammen med forklaringskonteksten. Da kan fragmentet som blir funnet, leses selvstendig og knyttes til originaldokumentet.
1B-versjonen er laget med den større Nemotron 3.5 Embed 8B som lærermodell. Tekstdelen bygger på Nemotron 3 Embed 1B og beholder dens tekstrepresentasjonsrom. Beskrivelsen av originalmodellen oppgir en vektor med 2048 verdier og L2-normalisering. Ta hensyn til dette ved indeksutforming, og kontroller dimensjonen til det faktiske svaret fra den valgte metoden.
Tekstsøk er evaluert på 34 språk, inkludert russisk. Denne dekningen gjør modellen til en kandidat for en flerspråklig kunnskapsbase. Kvaliteten på fragmentutvalget bør vurderes med faktiske spørsmål og dokumenter fra ditt eget fagområde.
Den nåværende tekstmetoden i Ailoot setter en grense på 4096 tokener per inndata. Lengre materiale kan indekseres som separate fragmenter med egne kildehenvisninger. Den tilgjengelige arbeidsmåten på dette modellkortet er tekst inn og embedding ut.
", "aboutText": "### Semantisk søk i tekster\n\nNemotron 3.5 Embed 1B gjør tekst om til en numerisk representasjon av innholdet. NVIDIA-modellen er beregnet på å finne dokumenter etter mening: Spørsmålet og et relevant utdrag kan være formulert med ulike ord. Resultatet brukes til søk i oppslagsverk, interne veiledninger, artikler og kundestøttens svarbase.\n\nOriginalmodellen fra NVIDIA samler tekst og dokumentbilder i ett representasjonsrom. Generasjon 3.5 legger til søk i det visuelle innholdet på sider. Dette modellkortet i Ailoot bruker den tekstbaserte arbeidsmåten: tekst inn og vektor ut.\n\nI Ailoot tar modellen imot tekst gjennom metoden embeddings og returnerer en vektor. Vektoren brukes til å sammenligne søket med dokumenter; det ferdige brukersvaret utformes av neste trinn i applikasjonen. Dermed kan kildefinning og utarbeiding av et kildebasert svar organiseres hver for seg.\n\n### Slik bygger du opp søket\n\nDel først materialet i selvstendige innholdsfragmenter og hent en embedding for hvert av dem. Lagre vektoren sammen med originalteksten, dokumentnavnet og identifikatoren. Ved søk konverterer du spørsmålet med samme modell og velger lignende vektorer fra indeksen. Fragmentene som blir funnet, kan vises til brukeren eller sendes til en tekstmodell som kontekst for et dokumentbasert svar.\n\nSpørsmål og dokumenter bruker separate representasjoner som deretter sammenholdes i samme søkeprosess. Når korpuset klargjøres, er det nyttig å beholde en påstand sammen med forklaringskonteksten. Da kan fragmentet som blir funnet, leses selvstendig og knyttes til originaldokumentet.\n\n### Modellens egenskaper\n\n1B-versjonen er laget med den større Nemotron 3.5 Embed 8B som lærermodell. Tekstdelen bygger på Nemotron 3 Embed 1B og beholder dens tekstrepresentasjonsrom. Beskrivelsen av originalmodellen oppgir en vektor med 2048 verdier og L2-normalisering. Ta hensyn til dette ved indeksutforming, og kontroller dimensjonen til det faktiske svaret fra den valgte metoden.\n\nTekstsøk er evaluert på 34 språk, inkludert russisk. Denne dekningen gjør modellen til en kandidat for en flerspråklig kunnskapsbase. Kvaliteten på fragmentutvalget bør vurderes med faktiske spørsmål og dokumenter fra ditt eget fagområde.\n\n### Inndata og forespørselsstørrelse\n\nDen nåværende tekstmetoden i Ailoot setter en grense på 4096 tokener per inndata. Lengre materiale kan indekseres som separate fragmenter med egne kildehenvisninger. Den tilgjengelige arbeidsmåten på dette modellkortet er tekst inn og embedding ut.", "locale": "nb", "methods": [ { "html": "POST /v1/embeddingstextembedding