Thenlper: GTE-Large
Alibaba DAMO Academy GTE-large преобразует английский текст в векторы размерности 1024 для поиска, оценки семантического сходства и повторного ранжирования на основе эмбеддингов. Эталонный пример использует усредняющий пулинг, необязательную нормализацию и максимальную длину последовательности 512 токенов.
О модели
Описание раскрывает возможности модели. Доступные в Ailoot входные данные, результаты и параметры выбранного метода перечислены ниже.
GTE-large — крупная модель General Text Embeddings, обученная Alibaba DAMO Academy. Это энкодер английского текста, основанный преимущественно на архитектуре BERT и создающий плотное представление размерности 1024 для каждого входа. Производитель обучает семейство GTE на парах текстов, связанных релевантностью, из разных предметных областей и указывает поиск, оценку семантического сходства текстов и повторное ранжирование текстов как последующие применения.
Представьте содержание раздела
Подготовьте английский фрагмент, который следует сравнивать с поисковым запросом. Для коллекции технических отчётов сохраните тему короткого раздела, наблюдение и относящееся к нему условие. Отчёт, описывающий вибрацию только при определённой нагрузке, должен сохранять это условие вместо общего утверждения о вибрации.
Храните идентификаторы источников, названия документов и расположение разделов вместе с векторами. Запрос может найти разделы-кандидаты, а исходный отчёт остаётся доступным для проверки оборудования, условия и вывода. Эмбеддинг даёт числовое представление содержания фрагмента.
Пулинг, нормализация и использование векторов
Опубликованный пример использует усредняющий пулинг представлений токенов с маской внимания, исключая заполнение из среднего. Он также показывает необязательную L2-нормализацию с последующим сравнением нормализованных векторов скалярным произведением. Пример Sentence Transformers использует косинусное сходство.
Сохраняйте одинаковые настройки подготовки, пулинга и сравнения на сторонах коллекции и запросов. Каждое представление содержит 1024 компонента. Большее число компонентов — особенность версии; оно не доказывает, что векторы GTE-large можно смешивать с представлением GTE-base размерности 768 или другим энкодером размерности 1024.
Процесс повторного ранжирования может сравнивать эмбеддинг запроса с уже найденным набором эмбеддингов кандидатов и менять порядок этих записей. Сохраняйте различие между таким векторным сравнением и отдельной моделью, которая совместно оценивает пару «запрос — фрагмент».
Длина входа и ограничение английским языком
Карточка явно ограничивает эту конкретную модель английским текстом и усекает длинные входы до максимума в 512 токенов. Разбивайте длинный технический отчёт на связные разделы и сохраняйте достаточно локального контекста, чтобы каждый раздел был понятен самостоятельно. Если предложение зависит от предыдущего уточнения, сохраняйте его в той же индексируемой единице, когда оно помещается.
Граница в токенах отличается от видимого количества слов. Проверьте длину подготовленного раздела и убедитесь, что деталь, нужная для предполагаемого поиска, не находится за пределами части, сохраняемой после усечения.
Проверяйте найденные доказательные материалы
В приложении для поиска по отчётам показывайте разделы-кандидаты с их расположением в источниках и проверяйте реальное содержание. Сходные наблюдения могут иметь разные причины или рекомендации. Оценка вектора помогает упорядочить кандидатов при выбранном способе сравнения; она не доказывает, что вывод отчёта применим к новой ситуации.
Для RAG используйте выбранные разделы как исходный контекст этапа написания ответа и сохраняйте их связи с документами. Этот конкретный профиль GTE-large предоставляет плотные эмбеддинги английского текста размерности 1024 с границей входа в 512 токенов. Более поздние многоязычные версии GTE и версии с расширенным контекстом имеют отдельную идентичность, поэтому их языковой охват или настройки входа не следуют из названия семейства этой конкретной модели.
Ailoot Ultra · Эмбеддинги POST /v1/embeddings thenlper/gte-large
thenlper/gte-largeНачало
Alibaba DAMO Academy GTE-large преобразует английский текст в векторы размерности 1024 для поиска, оценки семантического сходства и повторного ранжирования на основе эмбеддингов. Эталонный пример использует усредняющий пулинг, необязательную нормализацию и максимальную длину последовательности 512 токенов.
- Допустимые входные данные
- Текст · token_ids
- Результаты
- embedding
Доступно в Ailoot · входные данные и методы
Ailoot Ultra · Эмбеддинги POST /v1/embeddings
- Входные данные
text,token_ids- Результат
embedding- Выходной формат
- json
| Поле | Тип | Требование | Значения и ограничения | По умолчанию |
|---|---|---|---|---|
Полеmodel | Типstring | ТребованиеОбязательно | Значения и ограничения thenlper/gte-large | По умолчанию— |
Полеinput | Типstring|string[]|integer[]|integer[][] | ТребованиеОбязательно | Значения и ограничения Минимум элементов: 1 Условия: Непустой однородный пакет. ID токенов — неотрицательные целые числа. Входной бюджет: Максимум: 512 · Текстовая единица: байты UTF8 · Единица токенов: элементы массива токенов | По умолчанию— |
Полеencoding_format | Типstring | ТребованиеНеобязательно | Значения и ограничения float | По умолчаниюfloat |
Полеdimensions | Типinteger | ТребованиеНе поддерживается | Значения и ограничения Минимум: 1 | По умолчанию— |
Полеuser | Типjson_value | ТребованиеНеобязательно | Значения и ограничения Условия: Source допускает это поле метаданных JSON; точная семантика у исходного поставщика зависит от модели. | По умолчанию— |
Полеsession_id | Типjson_value | ТребованиеНеобязательно | Значения и ограничения Условия: Source допускает это поле метаданных JSON; точная семантика у исходного поставщика зависит от модели. | По умолчанию— |
Полеtrace | Типjson_value | ТребованиеНеобязательно | Значения и ограничения Условия: Source допускает это поле метаданных JSON; точная семантика у исходного поставщика зависит от модели. | По умолчанию— |
Полеprovider | Типobject | ТребованиеНеобязательно | Значения и ограничения Условия: provider.options отклоняется | По умолчанию— |
Сочетания входных материалов
text_to_embedding
Параметры и жизненный цикл метода
| Параметр | Контракт |
|---|---|
Параметрcontent_type | Контрактapplication/json |
Параметрrequired | Контрактmodel, input |
Параметрinput_shapes | Контрактstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Параметрencoding_format | Контрактfloat |
Параметрdimensions_override | Контрактfalse |
Параметрmax_input_budget_units | Контракт512 |
Параметрmultimodal_objects | Контрактfalse |
Параметрmaterial_types | Контрактtext, token_ids |
Жизненный цикл: synchronous_json
Сохраняйте индекс и размерность каждого вектора.
Название мультимодальной модели не означает допуск объектов изображений на этом конкретном маршруте.
Тарифы
Тарифная справка не добавляет режимы запроса. Поддерживаемые параметры указаны для выбранного метода.
- Быстрый режим
- Не указано При выборе быстрого режима
- Режим flex
- Не указано При выборе режима flex
- Максимальная интенсивность рассуждений
- Не указано При максимальной интенсивности рассуждений с корректировкой по умолчанию (default)
Ставки Ailoot
Цены по конфигурациям
| Конфигурация | Шкала ставок | Плата |
|---|---|---|
| КонфигурацияБазовые ставки за токены | Шкала ставокБазовая ставка | Плата Вход · Входные токены $0.00002 / 1K токенов Выход · Выходные токены $0 / 1K токенов Вход · Чтение кэша — / 1K токенов Вход · Запись в кэш — / 1K токенов Вход · Запись в кэш, 1 час — / 1K токенов |
Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. Как работают резервирование и расчёт →
Примеры запросов
Ailoot Ultra · Эмбеддинги
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "thenlper/gte-large", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='thenlper/gte-large',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Получить и сохранить результаты
Ailoot Ultra · Эмбеддинги
json
Сохраняйте все готовые результаты
Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого.
Сохраняйте каждый вектор с его индексом. Число векторов должно совпадать с числом входных элементов; размерности должны быть согласованы.
Если нужно проверить исходный ответ
Отдельный эндпоинт заданий эмбеддингов не вводится.
Поля ответа
| Поле | Тип |
|---|---|
Полеobject | Типstring |
Полеmodel | Типstring |
Полеdata[].index | Типinteger |
Полеdata[].embedding | Типfinite float[] |
Полеusage | Типobject |
Ошибки и дальнейшие шаги
| Ответ | Условие | Следующий шаг |
|---|---|---|
Ответ400 · invalid_request_error | УсловиеНеверные обязательные поля, представление материалов или значение параметра | Следующий шагИсправьте указанные поля перед новым запросом на создание. |
Псевдонимы
Псевдонимы моделей
Ailoot Ultra thenlper/gte-large
Псевдонимы путей метода
Используйте пути методов, указанные выше.
Связанные ID для вызова
FAQ · Thenlper: GTE-Large
- Какие входные данные и результаты доступны?
POST /v1/embeddings·thenlper/gte-large:text,token_ids→embedding- Какие поля использует запрос?
POST /v1/embeddings·thenlper/gte-large:model,input,encoding_format,provider- Какие ограничения действуют?
POST /v1/embeddings·thenlper/gte-large:input.budget.maximum:512(байты UTF8);input.min_items:1