NVIDIA: Nemotron 3.5 Embed 8B (free)

{"about":"### Поиск по смыслу в базе знаний\n\nNemotron 3.5 Embed 8B — модель NVIDIA для преобразования запросов и документов в эмбеддинги. Эти числовые представления помогают сопоставлять текст по содержанию, когда формулировка вопроса отличается от слов в источнике. Модель подходит для поискового слоя корпоративной базы знаний, справочного сервиса и приложения, которое подбирает документы перед подготовкой ответа.\n\nИсходная модель NVIDIA объединяет текст и изображения документов в одном пространстве представлений; поколение 3.5 добавляет поиск по визуальному содержимому страниц. В этой карточке Ailoot используется её текстовый сценарий: текст на входе и вектор на выходе.\n\nВ Ailoot доступен текстовый вход и векторный выход через embeddings. Приложение получает представление исходного материала и использует его для поиска близких записей в индексе. Если нужен связный ответ с объяснением, найденные тексты можно передать отдельной модели генерации вместе с вопросом пользователя.\n\n### Чем отличается версия 8B\n\nВ основе текстового кодирования лежит Nemotron 3 Embed 8B. При создании поколения 3.5 NVIDIA сохранила эту текстовую часть и её пространство эмбеддингов, расширив исходную модель дополнительными возможностями. В опубликованной карточке описан выход из 4096 значений, полученный усреднением токенных представлений и L2-нормализацией. При подготовке векторного индекса его размерность следует согласовать с фактическим ответом метода.\n\nТекстовый поиск оценивался на 34 языках, включая русский. Для многоязычных инструкций и справочников это позволяет рассматривать модель как общий слой поиска. Результат подбора зависит от состава базы, разделения документов и характерных вопросов пользователей; полезно проверять его на материалах вашей предметной области.\n\n### Рабочий процесс\n\n1. Разбейте исходные документы на фрагменты, каждый из которых содержит законченный ответ или объяснение.\n2. Получите эмбеддинги и сохраните их вместе с текстом, заголовком и ссылкой на источник.\n3. Преобразуйте пользовательский вопрос той же моделью и найдите близкие записи.\n4. Покажите найденные фрагменты или используйте их в RAG для подготовки ответа с опорой на источники.\n\n### Размер входа\n\nДля этого варианта Ailoot указывает текстовый контекст и предел входа в 32768 токенов. Фрагменты длинного документа можно хранить как самостоятельные записи с общей ссылкой на исходный материал. Доступный результат модели — эмбеддинг текста, который приложение использует в дальнейшей обработке.","alias_of":null,"aliases":[],"author":"NVIDIA","canonical_model":"nvidia/nemotron-3.5-embed-8b:free","ctx":32768,"formats":["embeddings"],"id":"nvidia/nemotron-3.5-embed-8b:free","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":32768,"family":"openai","fast_multiplier":1,"flex_multiplier":1,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"nvidia/nemotron-3.5-embed-8b:free","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra"}],"name":"NVIDIA: Nemotron 3.5 Embed 8B (free)","price":{"in":0,"in_label":null,"out":null,"out_label":null,"sort_in":0,"sort_out":null,"varies":false},"public_id":"nvidia/nemotron-3.5-embed-8b:free","short":"Многоязычные текстовые эмбеддинги NVIDIA для семантического поиска по документам и построения RAG."}