Voyage AI: Voyage Context 3

Voyage Context 3 создаёт контекстуализированные эмбеддинги фрагментов для поиска документов. Каждый фрагмент получает собственный вектор, а модель также учитывает другие предоставленные фрагменты того же документа. Это даёт поисковой системе представление локального отрывка вместе с более широким контекстом документа, например сущностью или темой, введённой в другой части источника.

Подготавливайте каждый документ как упорядоченную последовательность читаемых текстовых фрагментов. Держите фрагменты одного документа вместе и сохраняйте исходный порядок. В контекстуализированном процессе производителя каждая внутренняя группа содержит фрагменты одного источника, а разные группы представляют разные источники. Такая группировка — часть смысла входных данных: она сообщает модели, какой окружающий текст принадлежит представляемому документу.

Полезный пример — отчёт, в начале которого названа компания, а позднее объяснён её рост. Для поиска роста этой компании нужны и конкретный абзац, и идентичность документа. Сохраняйте исходный текст фрагмента и метаданные родительского документа вместе с полученным вектором, чтобы результат показывал фрагмент и ссылку на полный источник.

Справка производителя документирует до 120 000 токенов в запросе, не более 1 000 входных групп и всего 16 000 фрагментов. Руководство модели отдельно указывает окно 32 000 токенов на фрагмент. При подготовке материалов сохраняйте различие этих областей действия: ограничение одного фрагмента и всего запроса описывает разные размеры входа. Проверяйте суммарный объём после разделения источника, не предполагая, что каждый фрагмент может одновременно занять свой максимум в одном запросе.

Для поиска документов обозначайте сгруппированные фрагменты как документный ввод. Каждый поисковый вопрос подготавливайте как отдельную группу запроса. Производитель рекомендует предоставлять неперекрывающиеся фрагменты документа, позволяя контекстуализированному представлению переносить окружающую информацию без повторения текста в каждом фрагменте. При записи индекса сохраняйте соответствие группы документа, позиции фрагмента и возвращённого вектора.

Voyage Context 3 поддерживает размерности 2 048, 1 024, 512 и 256 с вариантами вывода с плавающей точкой, восьмибитными целочисленными и двоичными. Выберите представление индекса и проверьте его на тех же исходных документах и вопросах. Сохраняйте выбранную размерность и тип данных вместе с индексом, чтобы представление запроса и сохранённые векторы оставались согласованными.

Используйте полученные векторы для поиска фрагментов, поиска документов или поискового этапа помощника, работающего с отчётами, научными статьями, договорами или техническими руководствами. Результат может указывать конкретный фрагмент, а ссылка на источник даёт доступ к определениям и оговоркам в других частях документа. Сохраняйте версии документов и права доступа как метаданные приложения рядом с векторами.

Проверяйте вопросы, требующие и локальной детали, и контекста всего документа. Включайте похожие фрагменты разных источников, именованные сущности, введённые только в начале, и вопросы, данные для ответа на которые расположены в нескольких разделах. Проверяйте, найден ли ожидаемый фрагмент и показывает ли приложение достаточно окружающего текста для его интерпретации. При изменении источника осознанно пересоздавайте затронутую группу документа, чтобы её контекстуализированные фрагменты соответствовали одной согласованной версии.