Nemotron 3.5 Embed 8B to model NVIDIA do przekształcania zapytań i dokumentów w embeddingi. Te reprezentacje liczbowe pomagają porównywać treść tekstów, gdy pytanie jest sformułowane inaczej niż źródło. Model nadaje się do warstwy wyszukiwania firmowej bazy wiedzy, serwisu informacyjnego i aplikacji dobierającej dokumenty przed przygotowaniem odpowiedzi.
Źródłowy model NVIDIA łączy tekst i obrazy dokumentów w jednej przestrzeni reprezentacji; generacja 3.5 dodaje wyszukiwanie według wizualnej zawartości stron. Ta karta Ailoot wykorzystuje jego scenariusz tekstowy: tekst na wejściu i wektor na wyjściu.
W Ailoot dostępne są wejście tekstowe i wyjście wektorowe przez embeddings. Aplikacja otrzymuje reprezentację materiału źródłowego i wykorzystuje ją do wyszukiwania podobnych wpisów w indeksie. Jeśli potrzebna jest spójna odpowiedź z objaśnieniem, znalezione teksty można przekazać osobnemu modelowi generującemu wraz z pytaniem użytkownika.
Kodowanie tekstu opiera się na Nemotron 3 Embed 8B. Tworząc generację 3.5, NVIDIA zachowała tę część tekstową i jej przestrzeń embeddingów, rozszerzając model źródłowy o dodatkowe możliwości. Opublikowana karta opisuje wyjście z 4096 wartościami, uzyskane przez uśrednianie reprezentacji tokenów i normalizację L2. Przy przygotowaniu indeksu wektorowego jego wymiar trzeba uzgodnić z rzeczywistą odpowiedzią metody.
Wyszukiwanie tekstowe oceniano w 34 językach, w tym rosyjskim. Pozwala to rozważać model jako wspólną warstwę wyszukiwania dla wielojęzycznych instrukcji i poradników. Wynik doboru zależy od zawartości bazy, podziału dokumentów i typowych pytań użytkowników; warto go sprawdzać na materiałach z własnej dziedziny.
Dla tego wariantu Ailoot podaje kontekst tekstowy i limit wejścia 32768 tokenów. Fragmenty długiego dokumentu można przechowywać jako samodzielne wpisy ze wspólnym odnośnikiem do materiału źródłowego. Dostępnym wynikiem modelu jest embedding tekstu, który aplikacja wykorzystuje w dalszym przetwarzaniu.
", "aboutText": "### Wyszukiwanie według znaczenia w bazie wiedzy\n\nNemotron 3.5 Embed 8B to model NVIDIA do przekształcania zapytań i dokumentów w embeddingi. Te reprezentacje liczbowe pomagają porównywać treść tekstów, gdy pytanie jest sformułowane inaczej niż źródło. Model nadaje się do warstwy wyszukiwania firmowej bazy wiedzy, serwisu informacyjnego i aplikacji dobierającej dokumenty przed przygotowaniem odpowiedzi.\n\nŹródłowy model NVIDIA łączy tekst i obrazy dokumentów w jednej przestrzeni reprezentacji; generacja 3.5 dodaje wyszukiwanie według wizualnej zawartości stron. Ta karta Ailoot wykorzystuje jego scenariusz tekstowy: tekst na wejściu i wektor na wyjściu.\n\nW Ailoot dostępne są wejście tekstowe i wyjście wektorowe przez embeddings. Aplikacja otrzymuje reprezentację materiału źródłowego i wykorzystuje ją do wyszukiwania podobnych wpisów w indeksie. Jeśli potrzebna jest spójna odpowiedź z objaśnieniem, znalezione teksty można przekazać osobnemu modelowi generującemu wraz z pytaniem użytkownika.\n\n### Co wyróżnia wersję 8B\n\nKodowanie tekstu opiera się na Nemotron 3 Embed 8B. Tworząc generację 3.5, NVIDIA zachowała tę część tekstową i jej przestrzeń embeddingów, rozszerzając model źródłowy o dodatkowe możliwości. Opublikowana karta opisuje wyjście z 4096 wartościami, uzyskane przez uśrednianie reprezentacji tokenów i normalizację L2. Przy przygotowaniu indeksu wektorowego jego wymiar trzeba uzgodnić z rzeczywistą odpowiedzią metody.\n\nWyszukiwanie tekstowe oceniano w 34 językach, w tym rosyjskim. Pozwala to rozważać model jako wspólną warstwę wyszukiwania dla wielojęzycznych instrukcji i poradników. Wynik doboru zależy od zawartości bazy, podziału dokumentów i typowych pytań użytkowników; warto go sprawdzać na materiałach z własnej dziedziny.\n\n### Proces pracy\n\n1. Podziel dokumenty źródłowe na fragmenty zawierające kompletną odpowiedź lub wyjaśnienie.\n2. Uzyskaj embeddingi i zapisz je razem z tekstem, nagłówkiem i odnośnikiem do źródła.\n3. Przekształć pytanie użytkownika tym samym modelem i znajdź podobne wpisy.\n4. Pokaż znalezione fragmenty lub wykorzystaj je w RAG do przygotowania odpowiedzi opartej na źródłach.\n\n### Rozmiar wejścia\n\nDla tego wariantu Ailoot podaje kontekst tekstowy i limit wejścia 32768 tokenów. Fragmenty długiego dokumentu można przechowywać jako samodzielne wpisy ze wspólnym odnośnikiem do materiału źródłowego. Dostępnym wynikiem modelu jest embedding tekstu, który aplikacja wykorzystuje w dalszym przetwarzaniu.", "locale": "pl", "methods": [ { "html": "POST /v1/embeddingstextembedding