Qwen: Qwen3 Embedding 8B

Qwen3-Embedding-8B — текстовая модель эмбеддингов Qwen с 8 миллиардами параметров, построенная на плотной базовой модели Qwen3. Она представляет текст числовыми векторами, а не генерирует разговорные ответы. Qwen перечисляет среди поддерживаемых областей применения поиск текста и кода, классификацию, кластеризацию и поиск параллельных текстов. Поисковая система может использовать эти векторы для сравнения вопроса с подходящими фрагментами; коллекция документов — для поиска семантически связанных материалов или объединения записей в группы.

Именно эта модель поддерживает длину последовательности 32K токенов и эмбеддинги размерностью до 4 096. Она также поддерживает задаваемую пользователем размерность вывода от 32 до 4 096 через Matryoshka Representation Learning. Поэтому длина вектора — осознанный выбор при проектировании: короткий вектор изменяет размер представления, а полный выход сохраняет максимальную размерность модели. Используйте одинаковую выбранную размерность для документов и запросов, сравниваемых в одном индексе. Qwen3-Embedding-4B — отдельная редакция с другой максимальной размерностью, а не взаимозаменяемый источник векторов для существующей коллекции 8B.

Производитель описывает поддержку более 100 языков, включая языки программирования, а также многоязычный, межъязыковой поиск и поиск кода. Практическая коллекция может содержать документы на нескольких языках, в которых запросы ищут нужный смысл, или фрагменты исходного кода, индексируемые для вопроса на естественном языке. Сохраняйте во входных данных важные идентификаторы, заголовки и предметные термины. Для кода оставляйте рядом с фрагментом объяснение функции или модуля, если этот контекст является частью вопроса. Выход остаётся векторным представлением; возврат текста найденного документа — следующий шаг поискового приложения.

Модель учитывает инструкции. Qwen рекомендует инструкцию из одного предложения, подходящую для задачи поиска, а при многоязычном использовании рекомендует писать её на английском. В прямом примере производителя запрос оформляется как Instruct: с последующим описанием задачи и Query: с последующим вопросом. Документам для поиска в этом примере не нужен такой же префикс инструкции. Подходящая собственная постановка может описывать поиск технических фрагментов, объясняющих ошибку пользователя, а затем включать описание конкретной ошибки в запрос. Инструкция описывает тип семантической связи, которому поиск должен отдавать предпочтение.

Примеры Qwen отдельно кодируют запросы и документы, сравнивают их векторы по косинусному сходству и показывают процедуру нижнего уровня, которая извлекает скрытое состояние последнего токена и нормализует эмбеддинг перед сравнением через скалярное произведение. Полезный процесс сохраняет связь вектора каждого фрагмента с идентификатором его источника, сравнивает подготовленный запрос с сохранёнными векторами и возвращает соответствующие фрагменты в порядке сходства. Значение усечения 8 192 токена в примере — выбранная настройка обработки ввода, отличная от документированной длины последовательности модели 32K. При подготовке длинного ввода проверяйте, какие данные сохраняются.

В выпуске Qwen модели эмбеддингов и переранжирования — разные компоненты. Модель эмбеддингов представляет один текстовый сегмент и позволяет выполнить начальный поиск по сходству. Отдельный переранжировщик оценивает связь между запросом и фрагментами-кандидатами и может уточнить их порядок. Qwen описывает объединение этих двух модулей, но сама Qwen3-Embedding-8B возвращает эмбеддинги, а не оценку релевантности переранжировщика или письменный ответ. Для поиска с последующим ответом сохраняйте найденный исходный текст и передавайте эти основания на этап формирования ответа. Выберите и последовательно сохраняйте модель, размерность и инструкцию запроса для коллекции, в которой выполняется поиск.