Intfloat: E5-Large-v2
intfloat E5-Large-v2 кодирует англоязычные запросы и фрагменты в 1024-мерные векторы. Её 24-слойная модель использует роли query/passage, усредняющий пулинг и входной лимит 512 токенов для поиска, семантического сходства и числовых признаков текста.
О модели
Описание раскрывает возможности модели. Доступные в Ailoot входные данные, результаты и параметры выбранного метода перечислены ниже.
E5-Large-v2 — 24-слойная модель текстовых эмбеддингов intfloat для английского языка с 1024-мерным выходом. Она предназначена для числового представления запросов и фрагментов при поиске и других задачах эмбеддингов. Конвенция подготовки E5 является частью обучения: входной текст содержит ролевой префикс, а закодированные представления токенов объединяются пулингом в один вектор этого текста.
Явно задавайте роли запроса и фрагмента
Для асимметричного поиска начинайте вопрос с «query:», а текст корпуса — с «passage:». Эти роли отличают то, что пользователь ищет, от материала, который может дать ответ. Для симметричного сравнения, поиска перефразировок, кластеризации или признаков классификации производитель рекомендует «query:» для текстов, которым создаются эмбеддинги.
Практическая коллекция может индексировать англоязычные пояснения поддержки. Подготовьте вопрос, например «query: What should I check before replacing the connector?», и сопоставьте его с исходными фрагментами, описывающими проверки и исключения. Текст фрагмента сохраняет соответствующий префикс. Храните идентификатор источника и исходную формулировку рядом с каждым вектором, чтобы результат мог вернуть материал, который пользователю нужно прочитать.
Префиксы — не декоративные метки, которые можно убрать с одной стороны задачи. Производитель указывает, что их пропуск ухудшает качество поиска, поскольку модель обучалась с такой подготовкой. Последовательно применяйте выбранную роль при построении корпуса и при последующем создании эмбеддинга запроса.
Усредняющий пулинг и нормализованные векторы
Официальный пример кодирования усредняет представления токенов, исключая позиции заполнения с помощью маски внимания. Затем он нормализует полученный вектор. Скалярное произведение нормализованных векторов запроса и фрагмента даёт косинусное сходство для упорядочивания кандидатов. Этот рецепт усредняющего пулинга относится к E5-Large-v2; рецепт пулинга по первому токену из другого семейства — отдельный выбор подготовки.
1024 выходных значения формируют эмбеддинг, а не письменный ответ или прямую метку категории. Этап поиска сравнивает эти значения с совместимыми представлениями корпуса, а последующий этап использует текст выбранного фрагмента. Если векторы служат признаками кластеризации или классификатора, сохраняйте связь каждого вектора с входной записью, чьи признаки он представляет.
Английский текст в пределах окна
Карточка модели указывает только английский текст и обрезку длинных входов максимум до 512 токенов. Сохраняйте смысловую целостность каждого фрагмента документа в этом окне, включая ролевой префикс и полезный исходный контекст. Длинное руководство следует готовить как разделы, чьи заголовки, условия и инструкции можно понять при отдельном извлечении.
Например, утверждению о настройке могут требоваться определение этой настройки и исключение в следующем предложении. Сохраняйте эту небольшую единицу вместе вместо деления исключительно по количеству символов. Храните родительский документ и версию источника вместе с фрагментом, чтобы обновление заменяло правильный материал.
Рассматривайте ранжирование как свидетельство для поиска
Производитель объясняет, что порядок косинусных оценок важнее их абсолютных значений. Оценку не следует интерпретировать как калиброванную вероятность того, что фрагмент отвечает на вопрос. Проверяйте известные фрагменты с ответом и близкий нерелевантный материал при выборе количества сохраняемых результатов или границы отбора кандидатов.
Полезный выход — представление корпуса или запроса, сигнал семантического сравнения или числовые признаки для другой задачи. Эта конкретная англоязычная контрольная точка Large v2 остаётся отдельной от E5-Base-v2 и Multilingual-E5-Large. Одного совпадения размерности недостаточно, чтобы считать их векторы документированным общим пространством эмбеддингов.
Ailoot Ultra · Эмбеддинги POST /v1/embeddings intfloat/e5-large-v2
intfloat/e5-large-v2Начало
intfloat E5-Large-v2 кодирует англоязычные запросы и фрагменты в 1024-мерные векторы. Её 24-слойная модель использует роли query/passage, усредняющий пулинг и входной лимит 512 токенов для поиска, семантического сходства и числовых признаков текста.
- Допустимые входные данные
- Текст · token_ids
- Результаты
- embedding
Доступно в Ailoot · входные данные и методы
Ailoot Ultra · Эмбеддинги POST /v1/embeddings
- Входные данные
text,token_ids- Результат
embedding- Выходной формат
- json
| Поле | Тип | Требование | Значения и ограничения | По умолчанию |
|---|---|---|---|---|
Полеmodel | Типstring | ТребованиеОбязательно | Значения и ограничения intfloat/e5-large-v2 | По умолчанию— |
Полеinput | Типstring|string[]|integer[]|integer[][] | ТребованиеОбязательно | Значения и ограничения Минимум элементов: 1 Условия: Непустой однородный пакет. ID токенов — неотрицательные целые числа. Входной бюджет: Максимум: 512 · Текстовая единица: байты UTF8 · Единица токенов: элементы массива токенов | По умолчанию— |
Полеencoding_format | Типstring | ТребованиеНеобязательно | Значения и ограничения float | По умолчаниюfloat |
Полеdimensions | Типinteger | ТребованиеНе поддерживается | Значения и ограничения Минимум: 1 | По умолчанию— |
Полеuser | Типjson_value | ТребованиеНеобязательно | Значения и ограничения Условия: Source допускает это поле метаданных JSON; точная семантика у исходного поставщика зависит от модели. | По умолчанию— |
Полеsession_id | Типjson_value | ТребованиеНеобязательно | Значения и ограничения Условия: Source допускает это поле метаданных JSON; точная семантика у исходного поставщика зависит от модели. | По умолчанию— |
Полеtrace | Типjson_value | ТребованиеНеобязательно | Значения и ограничения Условия: Source допускает это поле метаданных JSON; точная семантика у исходного поставщика зависит от модели. | По умолчанию— |
Полеprovider | Типobject | ТребованиеНеобязательно | Значения и ограничения Условия: provider.options отклоняется | По умолчанию— |
Сочетания входных материалов
text_to_embedding
Параметры и жизненный цикл метода
| Параметр | Контракт |
|---|---|
Параметрcontent_type | Контрактapplication/json |
Параметрrequired | Контрактmodel, input |
Параметрinput_shapes | Контрактstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Параметрencoding_format | Контрактfloat |
Параметрdimensions_override | Контрактfalse |
Параметрmax_input_budget_units | Контракт512 |
Параметрmultimodal_objects | Контрактfalse |
Параметрmaterial_types | Контрактtext, token_ids |
Жизненный цикл: synchronous_json
Сохраняйте индекс и размерность каждого вектора.
Название мультимодальной модели не означает допуск объектов изображений на этом конкретном маршруте.
Тарифы
Тарифная справка не добавляет режимы запроса. Поддерживаемые параметры указаны для выбранного метода.
- Быстрый режим
- Не указано При выборе быстрого режима
- Режим flex
- Не указано При выборе режима flex
- Максимальная интенсивность рассуждений
- Не указано При максимальной интенсивности рассуждений с корректировкой по умолчанию (default)
Ставки Ailoot
Цены по конфигурациям
| Конфигурация | Шкала ставок | Плата |
|---|---|---|
| КонфигурацияБазовые ставки за токены | Шкала ставокБазовая ставка | Плата Вход · Входные токены $0.00002 / 1K токенов Выход · Выходные токены $0 / 1K токенов Вход · Чтение кэша — / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. Как работают резервирование и расчёт →
Примеры запросов
Ailoot Ultra · Эмбеддинги
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "intfloat/e5-large-v2", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='intfloat/e5-large-v2',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Получить и сохранить результаты
Ailoot Ultra · Эмбеддинги
json
Сохраняйте все готовые результаты
Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого.
Сохраняйте каждый вектор с его индексом. Число векторов должно совпадать с числом входных элементов; размерности должны быть согласованы.
Если нужно проверить исходный ответ
Отдельный эндпоинт заданий эмбеддингов не вводится.
Поля ответа
| Поле | Тип |
|---|---|
Полеobject | Типstring |
Полеmodel | Типstring |
Полеdata[].index | Типinteger |
Полеdata[].embedding | Типfinite float[] |
Полеusage | Типobject |
Ошибки и дальнейшие шаги
| Ответ | Условие | Следующий шаг |
|---|---|---|
Ответ400 · invalid_request_error | УсловиеНеверные обязательные поля, представление материалов или значение параметра | Следующий шагИсправьте указанные поля перед новым запросом на создание. |
Псевдонимы
Псевдонимы моделей
Ailoot Ultra intfloat/e5-large-v2
Псевдонимы путей метода
Используйте пути методов, указанные выше.
Связанные ID для вызова
FAQ · Intfloat: E5-Large-v2
- Какие входные данные и результаты доступны?
POST /v1/embeddings·intfloat/e5-large-v2:text,token_ids→embedding- Какие поля использует запрос?
POST /v1/embeddings·intfloat/e5-large-v2:model,input,encoding_format,provider- Какие ограничения действуют?
POST /v1/embeddings·intfloat/e5-large-v2:input.budget.maximum:512(байты UTF8);input.min_items:1