Intfloat: E5-Large-v2
O intfloat E5-Large-v2 codifica consultas e passagens em inglês como vetores de 1024 dimensões. O seu modelo de 24 camadas utiliza os papéis query/passage, agregação pela média e um limite de entrada de 512 tokens para pesquisa, similaridade semântica e características numéricas de texto.
Sobre o modelo
Esta descrição apresenta as capacidades do modelo. As entradas, saídas e opções disponíveis no Ailoot para o método selecionado estão indicadas abaixo.
O E5-Large-v2 é o modelo de embeddings de texto em inglês da intfloat, com vinte e quatro camadas e uma saída de 1024 dimensões. Foi concebido para representar numericamente consultas e passagens para recuperação e outras tarefas de embedding. A convenção de preparação do E5 faz parte do seu treino: o texto de entrada leva um prefixo de papel, e as representações dos tokens codificados são agregadas num único vetor para esse texto.
Manter explícitos os papéis de consulta e de passagem
Na recuperação assimétrica, comece a pergunta com “query:” e o texto do corpus com “passage:”. Estes papéis distinguem aquilo que o utilizador procura do material que lhe pode responder. Para uma comparação simétrica, pesquisa de paráfrases, agrupamento ou características de classificação, o fabricante recomenda “query:” para os textos a incorporar.
Uma coleção prática pode indexar explicações de suporte em inglês. Prepare uma pergunta como “query: What should I check before replacing the connector?” e associe-a a passagens de origem que descrevam as verificações e as exceções. O texto da passagem mantém o prefixo correspondente. Guarde o identificador da fonte e a redação original junto de cada vetor, para que o resultado possa devolver o material que o utilizador precisa de ler.
Os prefixos não são rótulos decorativos que se possam retirar de um dos lados da tarefa. O fabricante indica que omiti-los degrada o desempenho da recuperação, porque o modelo foi treinado com essa preparação. Aplique o papel escolhido de forma consistente ao construir o corpus e, mais tarde, ao incorporar uma consulta.
Agregação pela média e vetores normalizados
O exemplo oficial de codificação calcula a média das representações dos tokens, excluindo as posições de preenchimento com a máscara de atenção. Em seguida, normaliza o vetor resultante. Um produto escalar entre vetores normalizados de consulta e de passagem fornece a similaridade de cosseno para ordenar os candidatos. Esta receita de agregação pela média pertence ao E5-Large-v2; uma receita de agregação pelo primeiro token de outra família é uma opção de preparação distinta.
Os 1024 valores de saída formam o embedding, não uma resposta escrita nem um rótulo de categoria direto. Uma fase de pesquisa compara esses valores com representações compatíveis do corpus, e uma fase posterior utiliza o texto da passagem selecionada. Se os vetores servirem de características para agrupamento ou classificação, mantenha a associação entre cada vetor e o registo de entrada cujas características representa.
Texto em inglês dentro da janela
A ficha do modelo especifica texto exclusivamente em inglês e o truncamento das entradas longas em, no máximo, 512 tokens. Mantenha cada passagem do documento coerente dentro dessa janela, incluindo o prefixo de papel e o contexto útil da fonte. Um manual extenso deve ser preparado em secções cujos títulos, condições e instruções se compreendam quando recuperados separadamente.
Por exemplo, uma cláusula que descreve uma configuração pode precisar da definição dessa configuração e de uma exceção na frase seguinte. Mantenha essa pequena unidade junta, em vez de dividir apenas por contagem de caracteres. Guarde o documento principal e a versão da fonte com a passagem, para que uma atualização substitua o material correto.
Ler a ordenação como evidência de recuperação
O fabricante explica que a ordem das pontuações de cosseno importa mais do que os seus valores absolutos. Uma pontuação não deve ser interpretada como uma probabilidade calibrada de que uma passagem responde à pergunta. Verifique passagens conhecidas que contêm a resposta e material irrelevante próximo ao decidir quantos resultados reter ou onde filtrar um conjunto de candidatos.
O resultado útil é uma representação do corpus ou da consulta, um sinal de comparação semântica ou características numéricas para outra tarefa. Esta versão exata Large v2 em inglês permanece distinta do E5-Base-v2 e do Multilingual-E5-Large. A coincidência de dimensões, por si só, não faz dos seus vetores um espaço de embeddings comum documentado.
Ailoot Ultra · Embeddings POST /v1/embeddings intfloat/e5-large-v2
intfloat/e5-large-v2Introdução
O intfloat E5-Large-v2 codifica consultas e passagens em inglês como vetores de 1024 dimensões. O seu modelo de 24 camadas utiliza os papéis query/passage, agregação pela média e um limite de entrada de 512 tokens para pesquisa, similaridade semântica e características numéricas de texto.
- Entradas aceites
- Texto · token_ids
- Resultados
- embedding
Disponível no Ailoot · entradas e métodos
Ailoot Ultra · Embeddings POST /v1/embeddings
- Entrada
text,token_ids- Saída
embedding- Formato de saída
- json
| Campo | Tipo | Requisito | Valores e limites | Predefinição |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObrigatório | Valores e limites intfloat/e5-large-v2 | Predefinição— |
Campoinput | Tipostring|string[]|integer[]|integer[][] | RequisitoObrigatório | Valores e limites Número mínimo de elementos: 1 Condições: Lote homogéneo não vazio. Os IDs de tokens são números inteiros não negativos. Orçamento de entrada: Máximo: 512 · Unidade de texto: bytes UTF8 · Unidade de tokens: elementos do array de tokens | Predefinição— |
Campoencoding_format | Tipostring | RequisitoOpcional | Valores e limites float | Predefiniçãofloat |
Campodimensions | Tipointeger | RequisitoNão suportado | Valores e limites Mínimo: 1 | Predefinição— |
Campouser | Tipojson_value | RequisitoOpcional | Valores e limites Condições: A fonte permite este campo de metadados JSON; a semântica exata a montante depende do modelo. | Predefinição— |
Camposession_id | Tipojson_value | RequisitoOpcional | Valores e limites Condições: A fonte permite este campo de metadados JSON; a semântica exata a montante depende do modelo. | Predefinição— |
Campotrace | Tipojson_value | RequisitoOpcional | Valores e limites Condições: A fonte permite este campo de metadados JSON; a semântica exata a montante depende do modelo. | Predefinição— |
Campoprovider | Tipoobject | RequisitoOpcional | Valores e limites Condições: provider.options rejeitado | Predefinição— |
Combinações de materiais de entrada
text_to_embedding
Parâmetros e ciclo de vida do método
| Parâmetro | Contrato |
|---|---|
Parâmetrocontent_type | Contratoapplication/json |
Parâmetrorequired | Contratomodel, input |
Parâmetroinput_shapes | Contratostring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parâmetroencoding_format | Contratofloat |
Parâmetrodimensions_override | Contratofalse |
Parâmetromax_input_budget_units | Contrato512 |
Parâmetromultimodal_objects | Contratofalse |
Parâmetromaterial_types | Contratotext, token_ids |
Ciclo de vida: synchronous_json
Guarde o índice e a dimensão de cada vetor.
O nome do modelo multimodal não permite objetos de imagem neste caminho exato.
Tarifários
As referências tarifárias não acrescentam opções ao pedido. Os parâmetros suportados constam do método selecionado.
- Modo rápido
- Não especificado Quando o modo rápido está selecionado
- Modo flex
- Não especificado Quando o modo flex está selecionado
- Esforço máximo de raciocínio
- Não especificado Quando o esforço máximo de raciocínio usa o ajuste predefinido (default)
Tarifas Ailoot
Preços por configuração
| Configuração | Tabela de tarifas | Custo |
|---|---|---|
| ConfiguraçãoTarifas base dos tokens | Tabela de tarifasTarifa base | Custo Entrada · Tokens de entrada $0.00002 / 1K tokens Saída · Tokens de saída $0 / 1K tokens Entrada · Leitura da cache — / 1K tokens Entrada · Escrita na cache — / 1K tokens Entrada · Escrita na cache, 1 hora — / 1K tokens |
O Ailoot reserva um montante estimado antes de um pedido. Após o resultado, liquida o custo final com base na utilização medida. No streaming, a liquidação usa o registo final de utilização. Como funcionam a reserva e a liquidação →
Exemplos de pedidos
Ailoot Ultra · Embeddings
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "intfloat/e5-large-v2", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='intfloat/e5-large-v2',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Receber e guardar os resultados
Ailoot Ultra · Embeddings
json
Guardar todos os resultados concluídos
Guarde cada resposta, ficheiro e parte de conteúdo devolvidos na íntegra.
Guarde cada vetor com o respetivo índice. O número de vetores tem de ser igual ao número de entradas; as dimensões têm de ser consistentes.
Se for necessário verificar a resposta original
Não é introduzido nenhum endpoint de tarefas de embeddings.
Campos da resposta
| Campo | Tipo |
|---|---|
Campoobject | Tipostring |
Campomodel | Tipostring |
Campodata[].index | Tipointeger |
Campodata[].embedding | Tipofinite float[] |
Campousage | Tipoobject |
Erros e passos seguintes
| Resposta | Condição | Passo seguinte |
|---|---|---|
Resposta400 · invalid_request_error | CondiçãoCampos obrigatórios, representação do material ou valor do parâmetro inválidos | Passo seguinteCorrija os campos indicados antes de um novo pedido de criação. |
Aliases
Aliases do modelo
Ailoot Ultra intfloat/e5-large-v2
Aliases dos caminhos dos métodos
Use os caminhos dos métodos indicados acima.
IDs de chamada relacionados
FAQ · Intfloat: E5-Large-v2
- Que entradas e resultados estão disponíveis?
POST /v1/embeddings·intfloat/e5-large-v2:text,token_ids→embedding- Que campos utiliza o pedido?
POST /v1/embeddings·intfloat/e5-large-v2:model,input,encoding_format,provider- Que limites se aplicam?
POST /v1/embeddings·intfloat/e5-large-v2:input.budget.maximum:512(bytes UTF8);input.min_items:1