LiquidAI: LFM2.5-Embedding-350M (free)
LiquidAI LFM2.5-Embedding-350M tworzy jeden wektor o 1024 wymiarach na tekst do wyszukiwania wielojęzycznego i międzyjęzykowego. Jest przeznaczony dla 11 języków i krótkich wejść do 512 tokenów, z odrębnymi prefiksami zapytania i dokumentu.
O modelu
Ten opis przedstawia możliwości modelu. Dane wejściowe, wyniki i opcje dostępne w Ailoot podano poniżej dla wybranej metody.
LFM2.5-Embedding-350M to gęsty bi-encoder firmy LiquidAI do wyszukiwania wielojęzycznego i międzyjęzykowego. Generuje jeden 1024-wymiarowy wektor dla każdego tekstu i jest przeznaczony do wyszukiwania z krótkim kontekstem w jedenastu językach. Nazwana rodzina modeli 350M wykorzystuje dwukierunkową adaptację LFM2.5-350M-Base; szczegółowa tabela modelu podaje około 354 milionów parametrów tej edycji embeddingowej.
Dwukierunkowa reprezentacja do wyszukiwania
Producent dostosowuje bazową strukturę tak, aby mechanizm uwagi i lokalne sploty mogły korzystać z kontekstu po obu stronach tokenu. Łączenie reprezentacji w stylu CLS przekształca przetworzony tekst w jeden gęsty wektor. Tabela modelu opisuje siedemnaście warstw: dziesięć bloków splotowych, sześć bloków uwagi i etap łączenia reprezentacji. To enkoder wyszukiwania z własnym przygotowaniem i wyjściem, a nie zadanie generowania tekstu modelu bazowego.
Osobno nazwany LFM2.5-ColBERT-350M zachowuje wektory poszczególnych tokenów do późnej interakcji. Ta reprezentacja wymaga innego indeksu i sposobu porównania. Opisywany tu model Embedding dostarcza jeden wektor na dokument lub zapytanie, z podobieństwem kosinusowym jako udokumentowaną metodą porównania.
Używaj właściwych asymetrycznych promptów
Przygotuj zapytania wyszukiwania z „query:”, a fragmenty źródłowe z „document:”. Producent przechowuje te prompty w konfiguracji, a jego przepływ referencyjny stosuje pasującą nazwę promptu. Wyraźnie zaleca odpowiednią rolę po każdej stronie, ponieważ model był szkolony z tymi prefiksami. Ten prefiks dokumentu różni się od konwencji „passage:” modeli E5.
Praktyczny zbiór wyszukiwania produktów może zawierać opisy w obsługiwanych językach. Przygotuj treść wyszukiwania użytkownika jako zapytanie, a każdy opis produktu jako dokument. Przechowuj oryginalny tekst, identyfikator produktu i język przy wektorze, aby wynik wyszukiwania mógł zwrócić odpowiedni rekord. W zbiorze wsparcia zachowaj politykę lub instrukcję istotną dla pytania, zamiast zastępować ją niepowiązaną krótką etykietą.
Języki i rozmiar fragmentu
Udokumentowany zestaw języków to angielski, hiszpański, niemiecki, francuski, włoski, portugalski, arabski, szwedzki, norweski, japoński i koreański. Producent wyraźnie wskazuje zarówno wyszukiwanie w jednym języku, jak i ponad granicami języków. Przygotuj rzeczywiste pytania docelowych odbiorców i sprawdź zwrócony tekst dokumentów w tych językach.
Specyfikacja długości dokumentu wynosi 512 tokenów. Podziel długie źródło na spójne fragmenty zachowujące nagłówek, definicje i warunki potrzebne w wyszukanym wyniku. Prefiks roli i dodany kontekst należą do przygotowanego wejścia. Odpowiedź FAQ, objaśnienie produktu lub konkretna sekcja dokumentu technicznego to odpowiedniejsze jednostki niż cały zbyt obszerny podręcznik.
Szkolenie i dopasowanie
Producent opisuje trzy etapy szkolenia: angielski kontrastowy trening wstępny, destylację wielojęzyczną i międzyjęzykową, a następnie dostrajanie z trudnymi przykładami negatywnymi pozyskanymi w procesie wyszukiwania. Powstały model jest przeznaczony do katalogów produktów, zbiorów FAQ i wsparcia, wyszukiwania plików lub notatek oraz wyszukiwania wiedzy firmowej. Są to zadania reprezentacji tekstowych, a nie twierdzenia o wdrożeniu konkretnej aplikacji.
Przykład producenta normalizuje wektory zapytań i dokumentów oraz szereguje je za pomocą iloczynu skalarnego, równoważnego podobieństwu kosinusowemu. Oblicz reprezentacje korpusu wcześniej, gdy materiał źródłowy jest przygotowany, a następnie utwórz embedding zapytania i zwróć kandydackie dokumenty z tekstem i identyfikatorami. Zachowaj wybrany model i konwencję ról przy indeksie, aby porównanie liczbowe korzystało ze zgodnych reprezentacji.
Przydatnym wynikiem jest zwarty gęsty indeks wyszukiwania lub wektor zapytania pobierający materiał źródłowy w udokumentowanym zestawie języków. Ta konkretna edycja LFM2.5 Embedding pozostaje odrębna od towarzyszącego ColBERT, starszych modeli wyszukiwania LFM2 i zewnętrznie skwantyzowanych implementacji. Tekst wybranego fragmentu jest dowodem używanym przez czytelnika lub późniejszy etap odpowiedzi RAG.
Ailoot Ultra · Reprezentacje wektorowe POST /v1/embeddings liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:freeStart
LiquidAI LFM2.5-Embedding-350M tworzy jeden wektor o 1024 wymiarach na tekst do wyszukiwania wielojęzycznego i międzyjęzykowego. Jest przeznaczony dla 11 języków i krótkich wejść do 512 tokenów, z odrębnymi prefiksami zapytania i dokumentu.
- Akceptowane dane wejściowe
- Tekst · token_ids
- Wyniki
- embedding
Dostępne w Ailoot · dane wejściowe i metody
Ailoot Ultra · Reprezentacje wektorowe POST /v1/embeddings
- Wejście
text,token_ids- Wyjście
embedding- Kontekst
- 512 tokens
- Format wyjściowy
- json
| Pole | Typ | Wymaganie | Wartości i limity | Domyślnie |
|---|---|---|---|---|
Polemodel | Typstring | WymaganieWymagane | Wartości i limity liquid/lfm-2.5-embedding-350m:free | Domyślnie— |
Poleinput | Typstring|string[]|integer[]|integer[][] | WymaganieWymagane | Wartości i limity Minimalna liczba elementów: 1 Warunki: Niepusta, jednorodna partia danych. Identyfikatory tokenów są nieujemnymi liczbami całkowitymi. Budżet wejścia: Maksimum: 512 · Jednostka tekstu: bajty UTF8 · Jednostka tokenów: elementy tablicy tokenów | Domyślnie— |
Poleencoding_format | Typstring | WymaganieOpcjonalne | Wartości i limity float | Domyślniefloat |
Poledimensions | Typinteger | WymaganieNieobsługiwane | Wartości i limity Minimum: 1 | Domyślnie— |
Poleuser | Typjson_value | WymaganieOpcjonalne | Wartości i limity Warunki: Źródło dopuszcza to pole metadanych JSON; dokładna semantyka po stronie dostawcy zależy od modelu. | Domyślnie— |
Polesession_id | Typjson_value | WymaganieOpcjonalne | Wartości i limity Warunki: Źródło dopuszcza to pole metadanych JSON; dokładna semantyka po stronie dostawcy zależy od modelu. | Domyślnie— |
Poletrace | Typjson_value | WymaganieOpcjonalne | Wartości i limity Warunki: Źródło dopuszcza to pole metadanych JSON; dokładna semantyka po stronie dostawcy zależy od modelu. | Domyślnie— |
Poleprovider | Typobject | WymaganieOpcjonalne | Wartości i limity Warunki: Odrzucono provider.options | Domyślnie— |
Kombinacje materiałów wejściowych
text_to_embedding
Parametry i cykl życia metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, input |
Parametrinput_shapes | Kontraktstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrencoding_format | Kontraktfloat |
Parametrdimensions_override | Kontraktfalse |
Parametrmax_input_budget_units | Kontrakt512 |
Parametrmultimodal_objects | Kontraktfalse |
Parametrmaterial_types | Kontrakttext, token_ids |
Cykl życia: synchronous_json
Zachowaj indeks i liczbę wymiarów każdego wektora.
Nawet jeśli nazwa modelu wskazuje na multimodalność, ta konkretna ścieżka nie obsługuje obiektów obrazów.
Cennik
Informacje taryfowe nie dodają opcji żądania. Obsługiwane parametry podano przy wybranej metodzie.
- Tryb szybki
- Stawka standardowa Gdy wybrany jest tryb szybki
- Tryb flex
- Stawka standardowa Gdy wybrany jest tryb flex
- Maksymalna intensywność rozumowania
- Stawka standardowa Gdy dla maksymalnej intensywności rozumowania stosowana jest domyślna korekta (default)
Stawki Ailoot
Ceny według konfiguracji
| Konfiguracja | Tabela stawek | Opłata |
|---|---|---|
| KonfiguracjaPodstawowe stawki za tokeny | Tabela stawekStawka podstawowa | Opłata Wejście · Tokeny wejściowe $0 / 1K tokenów Wyjście · Tokeny wyjściowe $0 / 1K tokenów Wejście · Odczyt cache — / 1K tokenów Wejście · Zapis do cache — / 1K tokenów Wejście · Zapis do cache, 1 godz. — / 1K tokenów |
Ailoot rezerwuje szacowaną kwotę przed żądaniem. Po otrzymaniu wyniku rozlicza ostateczną opłatę według zmierzonego użycia. Rozliczenie strumieniowania korzysta z końcowego rekordu użycia. Jak działają rezerwacja i rozliczenie →
Przykładowe żądania
Ailoot Ultra · Reprezentacje wektorowe
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "liquid/lfm-2.5-embedding-350m:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='liquid/lfm-2.5-embedding-350m:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Odbieranie i zapisywanie wyników
Ailoot Ultra · Reprezentacje wektorowe
json
Zachowaj wszystkie ukończone wyniki
Zachowaj każdą kompletną zwróconą odpowiedź, plik i część treści.
Zachowaj każdy wektor wraz z jego indeksem. Liczba wektorów musi być równa liczbie elementów wejściowych; wszystkie wektory muszą mieć tę samą liczbę wymiarów.
Jeśli trzeba sprawdzić pierwotną odpowiedź
Nie wprowadzono endpointu zadań generowania osadzeń.
Pola odpowiedzi
| Pole | Typ |
|---|---|
Poleobject | Typstring |
Polemodel | Typstring |
Poledata[].index | Typinteger |
Poledata[].embedding | Typfinite float[] |
Poleusage | Typobject |
Błędy i dalsze kroki
| Odpowiedź | Warunek | Następny krok |
|---|---|---|
Odpowiedź400 · invalid_request_error | WarunekNieprawidłowe wymagane pola, sposób reprezentacji materiału lub wartość parametru | Następny krokPopraw wskazane pola przed nowym żądaniem utworzenia. |
Aliasy
Aliasy modelu
Ailoot Ultra liquid/lfm-2.5-embedding-350m:free
Aliasy ścieżek metod
Użyj ścieżek metod podanych powyżej.
Powiązane ID modeli
FAQ · LiquidAI: LFM2.5-Embedding-350M (free)
- Jakie dane wejściowe i wyniki są dostępne?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:text,token_ids→embedding- Jakich pól używa żądanie?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:model,input,encoding_format,provider- Jakie limity obowiązują?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:ctx:512;input.budget.maximum:512(bajty UTF8);input.min_items:1