VoyageAI by MongoDB: voyage-4-lite
Voyage AI voyage-4-lite to wersja osadzeń tekstu z rodziny Voyage 4 nastawiona na niski czas odpowiedzi. Obsługuje wejścia do 32 000 tokenów, cztery opcje liczby wymiarów wektora i reprezentacje skwantyzowane, we wspólnej przestrzeni osadzeń zgodnej z pozostałymi modelami tekstowymi Voyage 4.
O modelu
Ten opis przedstawia możliwości modelu. Dane wejściowe, wyniki i opcje dostępne w Ailoot podano poniżej dla wybranej metody.
voyage-4-lite to model osadzeń tekstu z rodziny Voyage 4 firmy Voyage AI, nastawiony na niski czas odpowiedzi. Reprezentuje zapytania i dokumenty jako wektory liczbowe do wyszukiwania ogólnego przeznaczenia. Cechą wyróżniającą go w obrębie rodziny jest wspólna przestrzeń osadzeń z voyage-4, voyage-4-large i voyage-4-nano, pozwalająca osobno wybierać modele zapytań i dokumentów.
Zacznij od ról w wyszukiwaniu
Przygotuj potrzebę informacyjną użytkownika jako zapytanie, a przeszukiwany materiał jako dokumenty. Voyage zaleca typy wejścia query/document do wyszukiwania; opublikowana procedura dodaje odpowiednią instrukcję wyszukiwania podczas wektoryzacji tekstu.
W kolekcji podręczników pracowniczych zapytanie o przeniesienie niewykorzystanego urlopu na następny okres powinno być porównywane z konkretnymi sekcjami zasad. Zachowaj regułę, jej warunki i odpowiednie wyjątki w indeksowanym fragmencie tekstu. Zachowaj oryginalny dokument i identyfikator sekcji obok wektora, aby aplikacja mogła zwrócić rzeczywisty tekst zasad.
Nieokreślony typ wejścia reprezentuje tekst bezpośrednio, a role query/document dostosowują go do wyszukiwania. Producent podaje, że osadzenia utworzone z tymi ustawieniami ról i bez nich są zgodne, ale konsekwentna polityka przygotowania ułatwia ocenę kolekcji.
Wspólna przestrzeń rodziny modeli tekstowych Voyage 4
Voyage wyraźnie dokumentuje asymetryczny proces wyszukiwania: dokumenty można kodować za pomocą voyage-4-large i przeszukiwać przy użyciu wektorów zapytań z voyage-4-lite. To deklaracja zgodności na poziomie rodziny, a nie wniosek wynikający z tego, że dwa modele zwracają wektory tej samej długości.
Utrzymuj zgodność wybranej liczby wymiarów i reprezentacji między kolekcją a stroną zapytań. Wspólna przestrzeń pozwala również zmieniać model zapytań w tej nazwanej rodzinie modeli tekstowych Voyage 4 bez ponownej wektoryzacji istniejących dokumentów. Wybierając wersję do zapytań, oceń powstały ranking na reprezentatywnych pytaniach.
Rolą wersji Lite jest zapewnienie mniejszej opcji do osadzania zapytań i tekstu, skoncentrowanej na czasie odpowiedzi. Producent przypisuje architekturę mixture-of-experts konkretnie voyage-4-large; sama nazwa rodziny nie potwierdza tej architektury w Lite.
Kontekst, wymiary i format wyników
Opublikowana długość kontekstu wynosi 32 000 tokenów na tekst. Domyślny wektor ma 1024 wymiary, a uczenie Matryoshka udostępnia także 256, 512 i 2048. Proces osadzania tekstu producenta dokumentuje dla voyage-4-lite reprezentacje zmiennoprzecinkowe, całkowitoliczbowe 8-bitowe ze znakiem i bez znaku oraz binarne pakowane bitowo.
Dla standardowych wektorów zmiennoprzecinkowych wskazówki Voyage dotyczące podobieństwa opisują osadzenia o jednostkowej normie, dzięki czemu podobieństwo kosinusowe i podobieństwo obliczane przez iloczyn skalarny są równoważne. Formy skwantyzowane wymagają obsługi odpowiadającej ich reprezentacji. Na przykład lista binarna pakowana bitowo zapisuje osiem bitów osadzenia w każdym bajcie; jej długość różni się od liczby wymiarów wektora semantycznego.
W udokumentowanej procedurze wsadowej Voyage lista zawiera najwyżej 1000 tekstów i łącznie milion tokenów dla tej konkretnej wersji Lite. Domyślne zachowanie przy przekroczeniu długości obcina każdy tekst do granicy kontekstu; alternatywne ustawienie odrzuca zbyt długie wejścia. Limity wsadu i pojedynczego tekstu są odrębne.
Przygotuj i sprawdzaj wyniki wyszukiwania
Dziel długi materiał źródłowy na spójne sekcje, które można zwrócić jako materiał dowodowy. Kontekst 32 000 tokenów dopuszcza długie wejście, ale użyteczna jednostka wyszukiwania nadal powinna prowadzić do odpowiedniej sekcji źródłowej. Uwzględnij nagłówek lub szczegół identyfikacyjny potrzebny do interpretacji reguły.
W RAG wyszukuj kandydujące sekcje i przekazuj ich oryginalny tekst do etapu pisania odpowiedzi wraz z powiązaniami ze źródłami. Model osadzeń tworzy wektory i nie generuje odpowiedzi dotyczącej zasad. Podobieństwo szereguje kandydatów według wybranego modelu i konfiguracji porównania; sprawdź rzeczywisty fragment pod kątem dokładnego warunku, którego dotyczy pytanie.
Użyteczne połączenie właściwości charakterystycznych dla voyage-4-lite to model tekstowy nastawiony na niski czas odpowiedzi, elastyczne reprezentacje, kontekst 32 000 tokenów i udokumentowana zgodność w rodzinie modeli tekstowych Voyage 4. Zachowaj te właściwości wraz z indeksowaną kolekcją i wykorzystuj wyniki wyszukiwania oparte na źródłach, aby wspierać korzystającą z nich aplikację.
Ailoot Ultra · Reprezentacje wektorowe POST /v1/embeddings voyageai/voyage-4-lite
voyageai/voyage-4-liteStart
Voyage AI voyage-4-lite to wersja osadzeń tekstu z rodziny Voyage 4 nastawiona na niski czas odpowiedzi. Obsługuje wejścia do 32 000 tokenów, cztery opcje liczby wymiarów wektora i reprezentacje skwantyzowane, we wspólnej przestrzeni osadzeń zgodnej z pozostałymi modelami tekstowymi Voyage 4.
- Akceptowane dane wejściowe
- Tekst · token_ids
- Wyniki
- embedding
Dostępne w Ailoot · dane wejściowe i metody
Ailoot Ultra · Reprezentacje wektorowe POST /v1/embeddings
- Wejście
text,token_ids- Wyjście
embedding- Kontekst
- 32 000 tokens
- Format wyjściowy
- json
| Pole | Typ | Wymaganie | Wartości i limity | Domyślnie |
|---|---|---|---|---|
Polemodel | Typstring | WymaganieWymagane | Wartości i limity voyageai/voyage-4-lite | Domyślnie— |
Poleinput | Typstring|string[]|integer[]|integer[][] | WymaganieWymagane | Wartości i limity Minimalna liczba elementów: 1 Warunki: Niepusta, jednorodna partia danych. Identyfikatory tokenów są nieujemnymi liczbami całkowitymi. Budżet wejścia: Maksimum: 32 000 · Jednostka tekstu: bajty UTF8 · Jednostka tokenów: elementy tablicy tokenów | Domyślnie— |
Poleencoding_format | Typstring | WymaganieOpcjonalne | Wartości i limity float | Domyślniefloat |
Poledimensions | Typinteger | WymaganieNieobsługiwane | Wartości i limity Minimum: 1 | Domyślnie— |
Poleuser | Typjson_value | WymaganieOpcjonalne | Wartości i limity Warunki: Źródło dopuszcza to pole metadanych JSON; dokładna semantyka po stronie dostawcy zależy od modelu. | Domyślnie— |
Polesession_id | Typjson_value | WymaganieOpcjonalne | Wartości i limity Warunki: Źródło dopuszcza to pole metadanych JSON; dokładna semantyka po stronie dostawcy zależy od modelu. | Domyślnie— |
Poletrace | Typjson_value | WymaganieOpcjonalne | Wartości i limity Warunki: Źródło dopuszcza to pole metadanych JSON; dokładna semantyka po stronie dostawcy zależy od modelu. | Domyślnie— |
Poleprovider | Typobject | WymaganieOpcjonalne | Wartości i limity Warunki: Odrzucono provider.options | Domyślnie— |
Kombinacje materiałów wejściowych
text_to_embedding
Parametry i cykl życia metody
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, input |
Parametrinput_shapes | Kontraktstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametrencoding_format | Kontraktfloat |
Parametrdimensions_override | Kontraktfalse |
Parametrmax_input_budget_units | Kontrakt32000 |
Parametrmultimodal_objects | Kontraktfalse |
Parametrmaterial_types | Kontrakttext, token_ids |
Cykl życia: synchronous_json
Zachowaj indeks i liczbę wymiarów każdego wektora.
Nawet jeśli nazwa modelu wskazuje na multimodalność, ta konkretna ścieżka nie obsługuje obiektów obrazów.
Cennik
Informacje taryfowe nie dodają opcji żądania. Obsługiwane parametry podano przy wybranej metodzie.
- Tryb szybki
- Stawka standardowa Gdy wybrany jest tryb szybki
- Tryb flex
- Stawka standardowa Gdy wybrany jest tryb flex
- Maksymalna intensywność rozumowania
- Stawka standardowa Gdy dla maksymalnej intensywności rozumowania stosowana jest domyślna korekta (default)
Stawki Ailoot
Ceny według konfiguracji
| Konfiguracja | Tabela stawek | Opłata |
|---|---|---|
| KonfiguracjaPodstawowe stawki za tokeny | Tabela stawekStawka podstawowa | Opłata Wejście · Tokeny wejściowe $0.00004 / 1K tokenów Wyjście · Tokeny wyjściowe $0 / 1K tokenów Wejście · Odczyt cache — / 1K tokenów Wejście · Zapis do cache — / 1K tokenów Wejście · Zapis do cache, 1 godz. — / 1K tokenów |
Ailoot rezerwuje szacowaną kwotę przed żądaniem. Po otrzymaniu wyniku rozlicza ostateczną opłatę według zmierzonego użycia. Rozliczenie strumieniowania korzysta z końcowego rekordu użycia. Jak działają rezerwacja i rozliczenie →
Przykładowe żądania
Ailoot Ultra · Reprezentacje wektorowe
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "voyageai/voyage-4-lite", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='voyageai/voyage-4-lite',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Odbieranie i zapisywanie wyników
Ailoot Ultra · Reprezentacje wektorowe
json
Zachowaj wszystkie ukończone wyniki
Zachowaj każdą kompletną zwróconą odpowiedź, plik i część treści.
Zachowaj każdy wektor wraz z jego indeksem. Liczba wektorów musi być równa liczbie elementów wejściowych; wszystkie wektory muszą mieć tę samą liczbę wymiarów.
Jeśli trzeba sprawdzić pierwotną odpowiedź
Nie wprowadzono endpointu zadań generowania osadzeń.
Pola odpowiedzi
| Pole | Typ |
|---|---|
Poleobject | Typstring |
Polemodel | Typstring |
Poledata[].index | Typinteger |
Poledata[].embedding | Typfinite float[] |
Poleusage | Typobject |
Błędy i dalsze kroki
| Odpowiedź | Warunek | Następny krok |
|---|---|---|
Odpowiedź400 · invalid_request_error | WarunekNieprawidłowe wymagane pola, sposób reprezentacji materiału lub wartość parametru | Następny krokPopraw wskazane pola przed nowym żądaniem utworzenia. |
Aliasy
Aliasy modelu
Ailoot Ultra voyageai/voyage-4-lite
Aliasy ścieżek metod
Użyj ścieżek metod podanych powyżej.
Powiązane ID modeli
FAQ · VoyageAI by MongoDB: voyage-4-lite
- Jakie dane wejściowe i wyniki są dostępne?
POST /v1/embeddings·voyageai/voyage-4-lite:text,token_ids→embedding- Jakich pól używa żądanie?
POST /v1/embeddings·voyageai/voyage-4-lite:model,input,encoding_format,provider- Jakie limity obowiązują?
POST /v1/embeddings·voyageai/voyage-4-lite:ctx:32000;input.budget.maximum:32000(bajty UTF8);input.min_items:1