Intfloat: E5-Large-v2
intfloat E5-Large-v2 koduje angielskie zapytania i fragmenty w wektory o 1024 wymiarach. Model z 24 warstwami używa ról query/passage, uśredniania reprezentacji i limitu wejścia 512 tokenów do wyszukiwania, podobieństwa semantycznego i liczbowych cech tekstu.
O modelu
Ten opis przedstawia możliwości modelu. Dane wejściowe, wyniki i opcje dostępne w Ailoot podano poniżej dla wybranej metody.
E5-Large-v2 to model osadzeń angielskiego tekstu intfloat z dwudziestoma czterema warstwami i wyjściem o 1024 wymiarach. Służy do liczbowej reprezentacji zapytań i fragmentów na potrzeby wyszukiwania oraz innych zadań osadzeń. Konwencja przygotowania E5 jest częścią jego treningu: tekst wejściowy zawiera prefiks roli, a zakodowane reprezentacje tokenów są agregowane w jeden wektor tego tekstu.
Wyraźnie określ role zapytania i fragmentu
W wyszukiwaniu asymetrycznym rozpocznij pytanie od „query:”, a tekst korpusu od „passage:”. Role te odróżniają to, czego szuka użytkownik, od materiału mogącego udzielić odpowiedzi. Do porównania symetrycznego, wyszukiwania parafraz oraz cech do grupowania lub klasyfikacji producent zaleca „query:” dla osadzanych tekstów.
Praktyczny zbiór może indeksować angielskie wyjaśnienia wsparcia. Przygotuj pytanie takie jak „query: What should I check before replacing the connector?” i połącz je ze źródłowymi fragmentami opisującymi kontrole i wyjątki. Tekst fragmentu zachowuje odpowiadający mu prefiks. Przechowuj identyfikator źródła i oryginalne sformułowania obok każdego wektora, aby wynik mógł zwrócić materiał, który użytkownik powinien przeczytać.
Prefiksy nie są ozdobnymi etykietami do usunięcia z jednej strony zadania. Producent podaje, że ich pominięcie pogarsza wyniki wyszukiwania, ponieważ model był trenowany z takim przygotowaniem. Stosuj wybraną rolę konsekwentnie podczas budowania korpusu i późniejszego osadzania zapytania.
Uśrednianie i znormalizowane wektory
Oficjalny przykład kodowania uśrednia reprezentacje tokenów, wykluczając pozycje dopełnienia maską uwagi. Następnie normalizuje wynikowy wektor. Iloczyn skalarny znormalizowanych wektorów zapytania i fragmentu dostarcza podobieństwo cosinusowe do porządkowania kandydatów. Ta receptura uśredniania należy do E5-Large-v2; agregacja na podstawie pierwszego tokenu z innej rodziny jest osobnym wyborem przygotowania.
1024 wartości wyjściowe tworzą osadzenie, a nie pisemną odpowiedź lub bezpośrednią etykietę kategorii. Etap wyszukiwania porównuje te wartości ze zgodnymi reprezentacjami korpusu, a późniejszy etap używa tekstu wybranego fragmentu. Jeśli wektory są cechami grupowania lub klasyfikatora, zachowaj powiązanie każdego wektora z rekordem wejściowym, którego cechy reprezentuje.
Angielski tekst w obrębie okna
Karta modelu określa tekst wyłącznie angielski i przycinanie długich wejść do maksymalnie 512 tokenów. Utrzymuj każdy fragment dokumentu spójny w tym oknie, wraz z prefiksem roli i użytecznym kontekstem źródła. Długi podręcznik należy przygotować jako sekcje, których tytuły, warunki i instrukcje da się zrozumieć przy osobnym wyszukaniu.
Na przykład klauzula opisująca ustawienie może wymagać definicji tego ustawienia i wyjątku w następnym zdaniu. Zachowaj tę niewielką jednostkę razem, zamiast dzielić wyłącznie według liczby znaków. Przechowuj dokument nadrzędny i wersję źródła z fragmentem, aby aktualizacja zastępowała właściwy materiał.
Odczytuj ranking jako sygnał wyszukiwania
Producent wyjaśnia, że kolejność ocen cosinusowych ma większe znaczenie niż ich wartości bezwzględne. Oceny nie należy interpretować jako skalibrowanego prawdopodobieństwa, że fragment odpowiada na pytanie. Sprawdzaj fragmenty znane jako zawierające odpowiedź i pobliski nieistotny materiał, wybierając liczbę zachowywanych wyników lub miejsce filtrowania zbioru kandydatów.
Użyteczne wyjście to reprezentacja korpusu lub zapytania, sygnał porównania semantycznego albo cechy liczbowe do innego zadania. Ten konkretny angielski punkt kontrolny Large v2 pozostaje odrębny od E5-Base-v2 i Multilingual-E5-Large. Sama zgodność wymiarów nie czyni ich wektorów udokumentowaną wspólną przestrzenią osadzeń.
Ailoot Ultra · Reprezentacje wektorowe POST /v1/embeddings intfloat/e5-large-v2
intfloat/e5-large-v2Start
intfloat E5-Large-v2 koduje angielskie zapytania i fragmenty w wektory o 1024 wymiarach. Model z 24 warstwami używa ról query/passage, uśredniania reprezentacji i limitu wejścia 512 tokenów do wyszukiwania, podobieństwa semantycznego i liczbowych cech tekstu.
- Akceptowane dane wejściowe
- Tekst · token_ids
- Wyniki
- embedding
Dostępne w Ailoot · dane wejściowe i metody
Ailoot Ultra · Reprezentacje wektorowe POST /v1/embeddings
- Wejście
text,token_ids- Wyjście
embedding- Format wyjściowy
- json
| Pole | Typ | Wymaganie | Wartości i limity | Domyślnie |
|---|---|---|---|---|
Polemodel | Typstring | WymaganieWymagane | Wartości i limity intfloat/e5-large-v2 | Domyślnie— |
Poleinput | Typstring|string[]|integer[]|integer[][] | WymaganieWymagane | Wartości i limity Minimalna liczba elementów: 1 Warunki: Niepusta, jednorodna partia danych. Identyfikatory tokenów są nieujemnymi liczbami całkowitymi. Budżet wejścia: Maksimum: 512 · Jednostka tekstu: bajty UTF8 · Jednostka tokenów: elementy tablicy tokenów | Domyślnie— |
Poleencoding_format | Typstring | WymaganieOpcjonalne | Wartości i limity float | Domyślniefloat |
Poledimensions | Typinteger | WymaganieNieobsługiwane | Wartości i limity Minimum: 1 | Domyślnie— |
Poleuser | Typjson_value | WymaganieOpcjonalne | Wartości i limity Warunki: Źródło dopuszcza to pole metadanych JSON; dokładna semantyka po stronie dostawcy zależy od modelu. | Domyślnie— |
Polesession_id | Typjson_value | WymaganieOpcjonalne | Wartości i limity Warunki: Źródło dopuszcza to pole metadanych JSON; dokładna semantyka po stronie dostawcy zależy od modelu. | Domyślnie— |
Poletrace | Typjson_value | WymaganieOpcjonalne | Wartości i limity Warunki: Źródło dopuszcza to pole metadanych JSON; dokładna semantyka po stronie dostawcy zależy od modelu. | Domyślnie— |
Poleprovider | Typobject | WymaganieOpcjonalne | Wartości i limity Warunki: Odrzucono provider.options | Domyślnie— |
Kombinacje materiałów wejściowych
text_to_embedding
Parametry i cykl życia metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, input |
Parametrinput_shapes | Kontraktstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrencoding_format | Kontraktfloat |
Parametrdimensions_override | Kontraktfalse |
Parametrmax_input_budget_units | Kontrakt512 |
Parametrmultimodal_objects | Kontraktfalse |
Parametrmaterial_types | Kontrakttext, token_ids |
Cykl życia: synchronous_json
Zachowaj indeks i liczbę wymiarów każdego wektora.
Nawet jeśli nazwa modelu wskazuje na multimodalność, ta konkretna ścieżka nie obsługuje obiektów obrazów.
Cennik
Informacje taryfowe nie dodają opcji żądania. Obsługiwane parametry podano przy wybranej metodzie.
- Tryb szybki
- Nie określono Gdy wybrany jest tryb szybki
- Tryb flex
- Nie określono Gdy wybrany jest tryb flex
- Maksymalna intensywność rozumowania
- Nie określono Gdy dla maksymalnej intensywności rozumowania stosowana jest domyślna korekta (default)
Stawki Ailoot
Ceny według konfiguracji
| Konfiguracja | Tabela stawek | Opłata |
|---|---|---|
| KonfiguracjaPodstawowe stawki za tokeny | Tabela stawekStawka podstawowa | Opłata Wejście · Tokeny wejściowe $0.00002 / 1K tokenów Wyjście · Tokeny wyjściowe $0 / 1K tokenów Wejście · Odczyt cache — / 1K tokenów Wejście · Zapis do cache — / 1K tokenów Wejście · Zapis do cache, 1 godz. — / 1K tokenów |
Ailoot rezerwuje szacowaną kwotę przed żądaniem. Po otrzymaniu wyniku rozlicza ostateczną opłatę według zmierzonego użycia. Rozliczenie strumieniowania korzysta z końcowego rekordu użycia. Jak działają rezerwacja i rozliczenie →
Przykładowe żądania
Ailoot Ultra · Reprezentacje wektorowe
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "intfloat/e5-large-v2", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='intfloat/e5-large-v2',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Odbieranie i zapisywanie wyników
Ailoot Ultra · Reprezentacje wektorowe
json
Zachowaj wszystkie ukończone wyniki
Zachowaj każdą kompletną zwróconą odpowiedź, plik i część treści.
Zachowaj każdy wektor wraz z jego indeksem. Liczba wektorów musi być równa liczbie elementów wejściowych; wszystkie wektory muszą mieć tę samą liczbę wymiarów.
Jeśli trzeba sprawdzić pierwotną odpowiedź
Nie wprowadzono endpointu zadań generowania osadzeń.
Pola odpowiedzi
| Pole | Typ |
|---|---|
Poleobject | Typstring |
Polemodel | Typstring |
Poledata[].index | Typinteger |
Poledata[].embedding | Typfinite float[] |
Poleusage | Typobject |
Błędy i dalsze kroki
| Odpowiedź | Warunek | Następny krok |
|---|---|---|
Odpowiedź400 · invalid_request_error | WarunekNieprawidłowe wymagane pola, sposób reprezentacji materiału lub wartość parametru | Następny krokPopraw wskazane pola przed nowym żądaniem utworzenia. |
Aliasy
Aliasy modelu
Ailoot Ultra intfloat/e5-large-v2
Aliasy ścieżek metod
Użyj ścieżek metod podanych powyżej.
Powiązane ID modeli
FAQ · Intfloat: E5-Large-v2
- Jakie dane wejściowe i wyniki są dostępne?
POST /v1/embeddings·intfloat/e5-large-v2:text,token_ids→embedding- Jakich pól używa żądanie?
POST /v1/embeddings·intfloat/e5-large-v2:model,input,encoding_format,provider- Jakie limity obowiązują?
POST /v1/embeddings·intfloat/e5-large-v2:input.budget.maximum:512(bajty UTF8);input.min_items:1