VoyageAI by MongoDB: voyage-4-lite
Voyage AI voyage-4-lite è l’edizione di embedding testuale orientata alla latenza nella famiglia Voyage 4. Supporta input di 32.000 token, quattro dimensioni di output selezionabili e rappresentazioni quantizzate, con uno spazio di embedding condiviso compatibile con gli altri modelli testuali Voyage 4.
Informazioni sul modello
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
voyage-4-lite è il modello di embedding testuale orientato alla latenza nella famiglia Voyage 4 di Voyage AI. Rappresenta query e documenti come vettori numerici per il recupero generalista. La caratteristica distintiva della famiglia è uno spazio di embedding condiviso con voyage-4, voyage-4-large e voyage-4-nano, che permette di scegliere separatamente i modelli per query e documenti.
Partire dai ruoli di recupero
Prepara il bisogno informativo dell’utente come query e il materiale ricercabile come documenti. Voyage raccomanda i tipi di input query/document per il recupero; la ricetta pubblicata aggiunge l’istruzione di recupero corrispondente quando vettorizza il testo.
Per una raccolta di manuali del personale, una query sul trasferimento delle ferie non utilizzate al periodo successivo dovrebbe essere confrontata con le sezioni specifiche della politica. Mantieni nel passaggio indicizzato la regola, le condizioni e qualsiasi eccezione pertinente. Conserva il documento originale e l’identificatore della sezione accanto al vettore, affinché l’applicazione possa restituire il testo effettivo della politica.
Un tipo di input non specificato rappresenta direttamente il testo, mentre i ruoli query/document lo adattano al recupero. Il produttore afferma che gli embedding prodotti con e senza tali impostazioni di ruolo sono compatibili, ma mantenere una politica di preparazione coerente rende la raccolta più facile da valutare.
Spazio condiviso nella famiglia testuale Voyage 4
Voyage documenta esplicitamente un flusso di recupero asimmetrico: i documenti possono essere codificati con voyage-4-large e cercati usando vettori di query da voyage-4-lite. È una dichiarazione di compatibilità a livello di famiglia, anziché una conclusione dedotta da due modelli che restituiscono vettori della stessa lunghezza.
Mantieni allineate la dimensione vettoriale e la rappresentazione selezionate tra la raccolta e il lato delle query. Lo spazio condiviso permette inoltre di cambiare modello di query all’interno di questa famiglia testuale denominata Voyage 4 senza rivettorizzare i documenti esistenti. Valuta l’ordinamento risultante con domande rappresentative quando scegli l’edizione per le query.
Il ruolo dell’edizione Lite è essere l’opzione più piccola per query ed embedding testuali, concentrata sulla latenza. Il produttore attribuisce l’architettura mixture-of-experts specificamente a voyage-4-large; il nome della famiglia non stabilisce quell’architettura per Lite.
Contesto, dimensioni e formato del risultato
La lunghezza di contesto pubblicata è di 32.000 token per testo. Il vettore predefinito ha 1024 dimensioni, con 256, 512 e 2048 anch’esse disponibili tramite apprendimento Matryoshka. Il flusso di embedding testuale del produttore documenta rappresentazioni a virgola mobile, interi a 8 bit con e senza segno e rappresentazioni binarie con bit compattati per voyage-4-lite.
Per i vettori standard a virgola mobile, le indicazioni di similarità di Voyage descrivono embedding a norma unitaria, rendendo equivalenti similarità del coseno e prodotto scalare. Le forme quantizzate richiedono la gestione corrispondente della rappresentazione. Per esempio, un elenco binario con bit compattati memorizza otto bit di embedding in ogni byte; la lunghezza dell’elenco differisce dalla dimensione vettoriale semantica.
Nella ricetta batch documentata di Voyage, un elenco contiene al massimo 1000 testi e un milione di token totali per questa esatta edizione Lite. Il comportamento predefinito per lunghezze eccessive tronca il singolo testo al confine del contesto; l’impostazione alternativa rifiuta gli input troppo lunghi. Questi limiti per batch e per testo sono distinti.
Preparare ed esaminare i risultati di recupero
Suddividi il materiale di origine lungo in sezioni coerenti che possano essere restituite come evidenza. Un contesto di 32.000 token permette un input lungo, ma un’unità di recupero utile dovrebbe comunque portare alla sezione sorgente pertinente. Includi il titolo o il dettaglio identificativo necessario per interpretare una regola.
Per il RAG, recupera sezioni candidate e passa il loro testo originale alla fase di scrittura della risposta con i collegamenti alle fonti. Il modello di embedding produce vettori e non genera una risposta sulla politica. La similarità ordina candidati con il modello e la configurazione di confronto scelti; esamina il passaggio effettivo rispetto alla condizione precisa richiesta.
La combinazione utile specifica di voyage-4-lite comprende un modello testuale focalizzato sulla latenza, rappresentazioni flessibili, un contesto di 32.000 token e compatibilità documentata nella famiglia testuale Voyage 4. Mantieni queste proprietà con la raccolta indicizzata e usa risultati di recupero collegati alle fonti per supportare l’applicazione circostante.
Ailoot Ultra · Embedding POST /v1/embeddings voyageai/voyage-4-lite
voyageai/voyage-4-liteIntroduzione
Voyage AI voyage-4-lite è l’edizione di embedding testuale orientata alla latenza nella famiglia Voyage 4. Supporta input di 32.000 token, quattro dimensioni di output selezionabili e rappresentazioni quantizzate, con uno spazio di embedding condiviso compatibile con gli altri modelli testuali Voyage 4.
- Input accettati
- Testo · token_ids
- Risultati
- embedding
Disponibile in Ailoot · input e metodi
Ailoot Ultra · Embedding POST /v1/embeddings
- Tipi di input
text,token_ids- Tipi di output
embedding- Contesto
- 32.000 tokens
- Formato di output
- json
| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti voyageai/voyage-4-lite | Predefinito— |
Campoinput | Tipostring|string[]|integer[]|integer[][] | RequisitoObbligatorio | Valori e limiti Numero minimo di elementi: 1 Condizioni: Batch omogeneo non vuoto. Gli ID dei token sono numeri interi non negativi. Budget di input: Massimo: 32.000 · Unità di testo: byte UTF8 · Unità di token: elementi dell’array di token | Predefinito— |
Campoencoding_format | Tipostring | RequisitoFacoltativo | Valori e limiti float | Predefinitofloat |
Campodimensions | Tipointeger | RequisitoNon supportato | Valori e limiti Minimo: 1 | Predefinito— |
Campouser | Tipojson_value | RequisitoFacoltativo | Valori e limiti Condizioni: La fonte consente questo campo di metadati JSON; la semantica esatta del fornitore a monte dipende dal modello. | Predefinito— |
Camposession_id | Tipojson_value | RequisitoFacoltativo | Valori e limiti Condizioni: La fonte consente questo campo di metadati JSON; la semantica esatta del fornitore a monte dipende dal modello. | Predefinito— |
Campotrace | Tipojson_value | RequisitoFacoltativo | Valori e limiti Condizioni: La fonte consente questo campo di metadati JSON; la semantica esatta del fornitore a monte dipende dal modello. | Predefinito— |
Campoprovider | Tipoobject | RequisitoFacoltativo | Valori e limiti Condizioni: provider.options rifiutato | Predefinito— |
Combinazioni di materiali in input
text_to_embedding
Parametri e ciclo di vita del metodo
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, input |
Parametroinput_shapes | Contrattostring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametroencoding_format | Contrattofloat |
Parametrodimensions_override | Contrattofalse |
Parametromax_input_budget_units | Contratto32000 |
Parametromultimodal_objects | Contrattofalse |
Parametromaterial_types | Contrattotext, token_ids |
Ciclo di vita: synchronous_json
Conserva l'indice e la dimensione di ogni vettore.
Il nome del modello multimodale non consente oggetti immagine su questo percorso specifico.
Tariffe
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
- Modalità rapida
- Tariffa standard Quando è selezionata la modalità rapida
- Modalità flex
- Tariffa standard Quando è selezionata la modalità flex
- Sforzo massimo di ragionamento
- Tariffa standard Quando lo sforzo massimo di ragionamento usa l'adeguamento predefinito (default)
Tariffe Ailoot
Prezzi per configurazione
| Configurazione | Listino delle tariffe | Costo |
|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Costo Input · Token in input $0.00004 / 1K token Output · Token in output $0 / 1K token Input · Lettura dalla cache — / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
Esempi di richieste
Ailoot Ultra · Embedding
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "voyageai/voyage-4-lite", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='voyageai/voyage-4-lite',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Ricevi e salva i risultati
Ailoot Ultra · Embedding
json
Conserva tutti i risultati completati
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva ogni vettore con il suo indice. Il numero di vettori deve coincidere con il numero di input; le dimensioni devono essere coerenti.
Se occorre verificare la risposta originale
Non viene introdotto alcun endpoint per i job di embedding.
Campi della risposta
| Campo | Tipo |
|---|---|
Campoobject | Tipostring |
Campomodel | Tipostring |
Campodata[].index | Tipointeger |
Campodata[].embedding | Tipofinite float[] |
Campousage | Tipoobject |
Errori e passaggi successivi
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Alias
Alias del modello
Ailoot Ultra voyageai/voyage-4-lite
Alias dei percorsi dei metodi
Usa i percorsi dei metodi indicati sopra.
ID di chiamata correlati
FAQ · VoyageAI by MongoDB: voyage-4-lite
- Quali input e risultati sono disponibili?
POST /v1/embeddings·voyageai/voyage-4-lite:text,token_ids→embedding- Quali campi usa la richiesta?
POST /v1/embeddings·voyageai/voyage-4-lite:model,input,encoding_format,provider- Quali limiti si applicano?
POST /v1/embeddings·voyageai/voyage-4-lite:ctx:32000;input.budget.maximum:32000(byte UTF8);input.min_items:1