nvidia/nemotron-3.5-embed-1b
nvidia/nemotron-3.5-embed-1bТекстовые эмбеддинги NVIDIA для многоязычного семантического поиска и подбора источников в RAG.
Семантический поиск по текстам
Nemotron 3.5 Embed 1B преобразует текст в числовое представление его содержания. Модель NVIDIA предназначена для поиска документов по смыслу: вопрос и подходящий фрагмент могут быть сформулированы разными словами. Такой результат используют в поиске по справочникам, внутренним инструкциям, статьям и базе ответов службы поддержки.
Исходная модель NVIDIA объединяет текст и изображения документов в одном пространстве представлений; поколение 3.5 добавляет поиск по визуальному содержимому страниц. В этой карточке Ailoot используется её текстовый сценарий: текст на входе и вектор на выходе.
В Ailoot модель принимает текст через метод embeddings и возвращает вектор. Вектор служит для сравнения запроса с документами; готовый ответ пользователю формируется следующим этапом приложения. Это позволяет отдельно организовать поиск источников и подготовку ответа на их основе.
Как построить поиск
Сначала разделите материалы на законченные смысловые фрагменты и получите для каждого эмбеддинг. Сохраните вектор вместе с исходным текстом, названием документа и его идентификатором. При поиске преобразуйте вопрос той же моделью и выберите близкие векторы из индекса. Найденные фрагменты можно показать пользователю или передать текстовой модели как контекст для ответа с опорой на документы.
Для запросов и документов используются отдельные представления, которые затем сопоставляются в одном поисковом процессе. При подготовке корпуса полезно сохранить рядом утверждение и поясняющий его контекст: так найденный фрагмент можно прочитать самостоятельно и связать с исходным документом.
Особенности модели
Версия 1B получена с использованием более крупной Nemotron 3.5 Embed 8B как модели-учителя. Текстовая часть основана на Nemotron 3 Embed 1B и сохраняет её пространство текстовых представлений. В описании исходной модели указан вектор из 2048 значений с L2-нормализацией. Это свойство полезно учитывать при проектировании индекса, проверяя размерность фактического ответа выбранного метода.
Текстовый поиск оценивался на 34 языках, включая русский. Такой охват делает модель кандидатом для многоязычной базы знаний; качество подбора фрагментов стоит оценить на реальных вопросах и документах вашей предметной области.
Вход и размер запроса
Текущий текстовый метод Ailoot задаёт предел одного входа в 4096 токенов. Более длинные материалы удобно индексировать отдельными фрагментами с собственными ссылками на источник. Доступный сценарий этой карточки — текст на входе и эмбеддинг на выходе.
Доступно в Ailoot API
POST /v1/embeddings- Входные данные
text- Результат
embedding- Контекст
- 4 096 токенов
- Макс. ответ
- В каталоге не указано
- Вход
- 0,0001 $ / 1K
nvidia/nemotron-3.5-embed-1b · JSON
{"about":"### Семантический поиск по текстам\n\nNemotron 3.5 Embed 1B преобразует текст в числовое представление его содержания. Модель NVIDIA предназначена для поиска документов по смыслу: вопрос и подходящий фрагмент могут быть сформулированы разными словами. Такой результат используют в поиске по справочникам, внутренним инструкциям, статьям и базе ответов службы поддержки.\n\nИсходная модель NVIDIA объединяет текст и изображения документов в одном пространстве представлений; поколение 3.5 добавляет поиск по визуальному содержимому страниц. В этой карточке Ailoot используется её текстовый сценарий: текст на входе и вектор на выходе.\n\nВ Ailoot модель принимает текст через метод embeddings и возвращает вектор. Вектор служит для сравнения запроса с документами; готовый ответ пользователю формируется следующим этапом приложения. Это позволяет отдельно организовать поиск источников и подготовку ответа на их основе.\n\n### Как построить поиск\n\nСначала разделите материалы на законченные смысловые фрагменты и получите для каждого эмбеддинг. Сохраните вектор вместе с исходным текстом, названием документа и его идентификатором. При поиске преобразуйте вопрос той же моделью и выберите близкие векторы из индекса. Найденные фрагменты можно показать пользователю или передать текстовой модели как контекст для ответа с опорой на документы.\n\nДля запросов и документов используются отдельные представления, которые затем сопоставляются в одном поисковом процессе. При подготовке корпуса полезно сохранить рядом утверждение и поясняющий его контекст: так найденный фрагмент можно прочитать самостоятельно и связать с исходным документом.\n\n### Особенности модели\n\nВерсия 1B получена с использованием более крупной Nemotron 3.5 Embed 8B как модели-учителя. Текстовая часть основана на Nemotron 3 Embed 1B и сохраняет её пространство текстовых представлений. В описании исходной модели указан вектор из 2048 значений с L2-нормализацией. Это свойство полезно учитывать при проектировании индекса, проверяя размерность фактического ответа выбранного метода.\n\nТекстовый поиск оценивался на 34 языках, включая русский. Такой охват делает модель кандидатом для многоязычной базы знаний; качество подбора фрагментов стоит оценить на реальных вопросах и документах вашей предметной области.\n\n### Вход и размер запроса\n\nТекущий текстовый метод Ailoot задаёт предел одного входа в 4096 токенов. Более длинные материалы удобно индексировать отдельными фрагментами с собственными ссылками на источник. Доступный сценарий этой карточки — текст на входе и эмбеддинг на выходе.","alias_of":null,"aliases":[],"author":"NVIDIA","canonical_model":"nvidia/nemotron-3.5-embed-1b","ctx":4096,"formats":["embeddings"],"id":"nvidia/nemotron-3.5-embed-1b","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":4096,"family":"openai","fast_multiplier":null,"flex_multiplier":null,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0.1,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"nvidia/nemotron-3.5-embed-1b","route_label":"Core","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"nvidia/nemotron-3.5-embed-1b","request_model_id":"nvidia/nemotron-3.5-embed-1b","route_label":"Core"}],"name":"nvidia/nemotron-3.5-embed-1b","price":{"in":0.1,"in_label":null,"out":null,"out_label":null,"sort_in":0.1,"sort_out":null,"varies":false},"public_id":"nvidia/nemotron-3.5-embed-1b","short":"Текстовые эмбеддинги NVIDIA для многоязычного семантического поиска и подбора источников в RAG."}