BAAI: bge-m3
BAAI BGE-M3 supporta il recupero denso, lessicale sparso e multivettore in oltre 100 lingue. L’output denso ha 1024 dimensioni e la finestra di 8192 token accoglie dalle frasi ai documenti più lunghi, senza richiedere un’istruzione per la query.
Informazioni sul modello
Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito.
BGE-M3 è il modello multilingue di recupero delle informazioni di BAAI, progettato attorno a tre tipi di versatilità: più funzioni di recupero, più lingue e diverse lunghezze di input. Il produttore documenta il supporto a oltre cento lingue e input fino a 8192 token. Il suo modello unificato può fornire vettori densi, pesi lessicali sparsi e rappresentazioni multivettoriali, così che un sistema di ricerca possa selezionare o combinare più tipi di evidenza.
Tre rappresentazioni per il recupero
La modalità densa trasforma un testo in un singolo vettore a 1024 dimensioni. Supporta il confronto del significato rappresentato da una query e da un passaggio. La modalità sparsa assegna pesi ai token presenti nel testo per la corrispondenza lessicale. La modalità multivettoriale rappresenta un testo con diversi vettori e usa un’interazione di tipo ColBERT per confrontare query e documento a un livello più fine.
Questi output hanno ruoli differenti in un indice di ricerca. Un vettore denso fornisce una rappresentazione per un passaggio; una mappa sparsa di pesi dei token conserva segnali lessicali; più vettori forniscono una struttura di confronto diversa. Gli esempi del produttore mostrano la restituzione delle rappresentazioni selezionate e il calcolo di punteggi per coppie di testi. Considera la rappresentazione e il metodo di calcolo del punteggio scelti come una parte intenzionale dell’attività di recupero.
Testo multilingue e preparazione dell’input
BGE-M3 non richiede l’aggiunta dell’istruzione di recupero usata dai precedenti modelli BGE. Prepara direttamente la query e i passaggi effettivi delle fonti. Una raccolta multilingue di conoscenze può conservare ogni passaggio nella lingua originale, con l’identificatore del documento e la locale. Usa domande reali degli utenti provenienti dal mix linguistico previsto quando verifichi i risultati.
Un’attività concreta è cercare spiegazioni di regole, guide di prodotto o documentazione tecnica disponibili in più lingue. Conserva nomi, numeri di modello e termini importanti per la domanda. Una rappresentazione lessicale può aiutare a preservare la corrispondenza su quei termini, mentre una rappresentazione densa fornisce evidenza semantica. Il passaggio recuperato dovrebbe includere il testo e la posizione nella fonte che un lettore può esaminare.
Documenti più lunghi e granularità
La finestra di input di 8192 token permette al modello di rappresentare materiale che va da frasi brevi a documenti più lunghi. Scegli la granularità in funzione della risposta che la ricerca dovrebbe restituire. Una sezione completa può preservare una definizione e le sue eccezioni; un passaggio più piccolo può rendere più facile trovare un’istruzione specifica. Una finestra lunga rende possibili queste scelte, ma il vettore rimane associato al materiale effettivamente codificato.
Mantieni ogni passaggio collegato al documento principale e alla sua versione. Per un rapporto esteso, conserva il titolo e la spiegazione che circonda il dato o la conclusione pertinenti. Non affidarti soltanto al titolo di un risultato di ricerca quando l’evidenza si trova nel corpo del testo. Se la fonte cambia, conserva metadati sufficienti per aggiornare le rappresentazioni di recupero corrispondenti.
Punteggi ibridi e uso a valle
Il produttore raccomanda un recupero ibrido seguito da una fase separata di reranking. I suoi esempi calcolano punteggi densi, sparsi e multivettoriali e formano combinazioni ponderate. Scegli la combinazione in base alle domande e al vocabolario della raccolta; un peso mostrato in un esempio non è un’impostazione universale per ogni corpus.
Un risultato utile è un insieme di candidati i cui passaggi di origine rimangono disponibili, con la rappresentazione e il metodo di ordinamento registrati. Un reranker separato può affinare quell’insieme e una fase distinta di generazione testuale può usare il contenuto dei passaggi. Le capacità sparse e multivettoriali di BGE-M3 sono modalità del modello del produttore; l’embedding denso, l’output lessicale e il punteggio di coppia sono artefatti distinti, anziché array intercambiabili.
Ailoot Ultra · Embedding POST /v1/embeddings baai/bge-m3
baai/bge-m3Introduzione
BAAI BGE-M3 supporta il recupero denso, lessicale sparso e multivettore in oltre 100 lingue. L’output denso ha 1024 dimensioni e la finestra di 8192 token accoglie dalle frasi ai documenti più lunghi, senza richiedere un’istruzione per la query.
- Input accettati
- Testo · token_ids
- Risultati
- embedding
Disponibile in Ailoot · input e metodi
Ailoot Ultra · Embedding POST /v1/embeddings
- Tipi di input
text,token_ids- Tipi di output
embedding- Contesto
- 8194 tokens
- Formato di output
- json
| Campo | Tipo | Requisito | Valori e limiti | Predefinito |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObbligatorio | Valori e limiti baai/bge-m3 | Predefinito— |
Campoinput | Tipostring|string[]|integer[]|integer[][] | RequisitoObbligatorio | Valori e limiti Numero minimo di elementi: 1 Condizioni: Batch omogeneo non vuoto. Gli ID dei token sono numeri interi non negativi. Budget di input: Massimo: 8194 · Unità di testo: byte UTF8 · Unità di token: elementi dell’array di token | Predefinito— |
Campoencoding_format | Tipostring | RequisitoFacoltativo | Valori e limiti float | Predefinitofloat |
Campodimensions | Tipointeger | RequisitoNon supportato | Valori e limiti Minimo: 1 | Predefinito— |
Campouser | Tipojson_value | RequisitoFacoltativo | Valori e limiti Condizioni: La fonte consente questo campo di metadati JSON; la semantica esatta del fornitore a monte dipende dal modello. | Predefinito— |
Camposession_id | Tipojson_value | RequisitoFacoltativo | Valori e limiti Condizioni: La fonte consente questo campo di metadati JSON; la semantica esatta del fornitore a monte dipende dal modello. | Predefinito— |
Campotrace | Tipojson_value | RequisitoFacoltativo | Valori e limiti Condizioni: La fonte consente questo campo di metadati JSON; la semantica esatta del fornitore a monte dipende dal modello. | Predefinito— |
Campoprovider | Tipoobject | RequisitoFacoltativo | Valori e limiti Condizioni: provider.options rifiutato | Predefinito— |
Combinazioni di materiali in input
text_to_embedding
Parametri e ciclo di vita del metodo
| Parametro | Contratto |
|---|---|
Parametrocontent_type | Contrattoapplication/json |
Parametrorequired | Contrattomodel, input |
Parametroinput_shapes | Contrattostring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametroencoding_format | Contrattofloat |
Parametrodimensions_override | Contrattofalse |
Parametromax_input_budget_units | Contratto8194 |
Parametromultimodal_objects | Contrattofalse |
Parametromaterial_types | Contrattotext, token_ids |
Ciclo di vita: synchronous_json
Conserva l'indice e la dimensione di ogni vettore.
Il nome del modello multimodale non consente oggetti immagine su questo percorso specifico.
Tariffe
Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato.
- Modalità rapida
- Tariffa standard Quando è selezionata la modalità rapida
- Modalità flex
- Tariffa standard Quando è selezionata la modalità flex
- Sforzo massimo di ragionamento
- Tariffa standard Quando lo sforzo massimo di ragionamento usa l'adeguamento predefinito (default)
Tariffe Ailoot
Prezzi per configurazione
| Configurazione | Listino delle tariffe | Costo |
|---|---|---|
| ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Costo Input · Token in input $0.00004 / 1K token Output · Token in output $0 / 1K token Input · Lettura dalla cache — / 1K token Input · Scrittura nella cache — / 1K token Input · Scrittura nella cache, 1 ora — / 1K token |
Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. Come funzionano la prenotazione e l’addebito finale →
Esempi di richieste
Ailoot Ultra · Embedding
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "baai/bge-m3", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='baai/bge-m3',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Ricevi e salva i risultati
Ailoot Ultra · Embedding
json
Conserva tutti i risultati completati
Conserva ogni risposta, file e parte di contenuto restituiti per intero.
Conserva ogni vettore con il suo indice. Il numero di vettori deve coincidere con il numero di input; le dimensioni devono essere coerenti.
Se occorre verificare la risposta originale
Non viene introdotto alcun endpoint per i job di embedding.
Campi della risposta
| Campo | Tipo |
|---|---|
Campoobject | Tipostring |
Campomodel | Tipostring |
Campodata[].index | Tipointeger |
Campodata[].embedding | Tipofinite float[] |
Campousage | Tipoobject |
Errori e passaggi successivi
| Risposta | Condizione | Passaggio successivo |
|---|---|---|
Risposta400 · invalid_request_error | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. |
Alias
Alias del modello
Ailoot Ultra baai/bge-m3
Alias dei percorsi dei metodi
Usa i percorsi dei metodi indicati sopra.
ID di chiamata correlati
FAQ · BAAI: bge-m3
- Quali input e risultati sono disponibili?
POST /v1/embeddings·baai/bge-m3:text,token_ids→embedding- Quali campi usa la richiesta?
POST /v1/embeddings·baai/bge-m3:model,input,encoding_format,provider- Quali limiti si applicano?
POST /v1/embeddings·baai/bge-m3:ctx:8194;input.budget.maximum:8194(byte UTF8);input.min_items:1