NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
Llama Nemotron Embed VL 1B V2 é o modelo de embeddings multimodais da NVIDIA para recuperação. Transforma texto, imagens ou entradas documentais combinadas em vetores e suporta pesquisa por consultas textuais em documentos com tabelas, gráficos, texto e infografias.
Sobre o modelo
Esta descrição apresenta as capacidades do modelo. As entradas, saídas e opções disponíveis no Ailoot para o método selecionado estão indicadas abaixo.
Llama Nemotron Embed VL 1B V2 é o modelo de embeddings da NVIDIA para recuperação multimodal de perguntas e respostas. Pode representar um documento como texto, uma imagem ou uma combinação de imagem e texto. Uma consulta textual pode depois ser utilizada para recuperar documentos relacionados. O seu perfil publicado suporta imagens documentais com texto, tabelas, gráficos e infografias e devolve vetores de embeddings.
Prepare elementos documentais identificáveis
Mantenha cada entrada ligada ao documento, à página ou à passagem de origem que representa. Para uma página visual, preserve a imagem e qualquer texto que a acompanhe e lhe pertença. Para uma passagem textual, conserve o título ou rótulo de secção quando ajudar a interpretar uma correspondência posterior. Estes identificadores de origem tornam um elemento recuperado útil como evidência, em vez de apenas um resultado numérico de similaridade.
Escolha os limites dos elementos em torno do material que um utilizador precisa de encontrar. Um gráfico e a sua explicação podem ficar juntos; páginas sem relação devem conservar as suas identidades separadas. Reveja se a entrada é legível e se o texto ou a imagem contém a informação que a consulta prevista deve recuperar.
Consultas textuais e recuperação vetorial
O papel do modelo é produzir vetores para recuperação, com texto como a forma de consulta descrita pelo perfil. Mantenha a consulta e os elementos indexados numa configuração compatível de embeddings. A aplicação armazena os vetores, compara-os e devolve os elementos de origem correspondentes. O documento recuperado continua a ser o material a examinar ou passar a uma etapa posterior de geração de respostas.
Um conjunto útil de testes inclui as perguntas que os utilizadores realmente fazem e as páginas que devem ser encontradas. Reveja correspondências erradas ou em falta em relação ao conteúdo de origem e aos limites dos elementos. Conserve o identificador completo do documento com qualquer passagem ou imagem selecionada, para que o resultado possa ser verificado em contexto.
Limite de entrada e artefacto de pesquisa
O perfil alojado documentado indica até 131 072 tokens por entrada. Divida conjuntos de origem maiores em entradas separadas e etiquetadas e preserve as suas relações. A saída vetorial do perfil não é uma resposta em prosa gerada nem uma transcrição; uma etapa posterior da aplicação pode utilizar a evidência recuperada para responder a uma pergunta.
Um artefacto de recuperação completo une a consulta, os elementos de origem selecionados e os respetivos identificadores. Preserve o modelo de embeddings e a preparação de entrada utilizados num índice, para que alterações posteriores possam ser distinguidas de alterações na coleção de origem.
Ailoot Ultra · Embeddings POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freeIntrodução
Llama Nemotron Embed VL 1B V2 é o modelo de embeddings multimodais da NVIDIA para recuperação. Transforma texto, imagens ou entradas documentais combinadas em vetores e suporta pesquisa por consultas textuais em documentos com tabelas, gráficos, texto e infografias.
- Entradas aceites
- Texto · token_ids
- Resultados
- embedding
Disponível no Ailoot · entradas e métodos
Ailoot Ultra · Embeddings POST /v1/embeddings
- Entrada
text,token_ids- Saída
embedding- Contexto
- 131 072 tokens
- Formato de saída
- json
| Campo | Tipo | Requisito | Valores e limites | Predefinição |
|---|---|---|---|---|
Campomodel | Tipostring | RequisitoObrigatório | Valores e limites nvidia/llama-nemotron-embed-vl-1b-v2:free | Predefinição— |
Campoinput | Tipostring|string[]|integer[]|integer[][] | RequisitoObrigatório | Valores e limites Número mínimo de elementos: 1 Condições: Lote homogéneo não vazio. Os IDs de tokens são números inteiros não negativos. Orçamento de entrada: Máximo: 131 072 · Unidade de texto: bytes UTF8 · Unidade de tokens: elementos do array de tokens | Predefinição— |
Campoencoding_format | Tipostring | RequisitoOpcional | Valores e limites float | Predefiniçãofloat |
Campodimensions | Tipointeger | RequisitoNão suportado | Valores e limites Mínimo: 1 | Predefinição— |
Campouser | Tipojson_value | RequisitoOpcional | Valores e limites Condições: A fonte permite este campo de metadados JSON; a semântica exata a montante depende do modelo. | Predefinição— |
Camposession_id | Tipojson_value | RequisitoOpcional | Valores e limites Condições: A fonte permite este campo de metadados JSON; a semântica exata a montante depende do modelo. | Predefinição— |
Campotrace | Tipojson_value | RequisitoOpcional | Valores e limites Condições: A fonte permite este campo de metadados JSON; a semântica exata a montante depende do modelo. | Predefinição— |
Campoprovider | Tipoobject | RequisitoOpcional | Valores e limites Condições: provider.options rejeitado | Predefinição— |
Combinações de materiais de entrada
text_to_embedding
Parâmetros e ciclo de vida do método
| Parâmetro | Contrato |
|---|---|
Parâmetrocontent_type | Contratoapplication/json |
Parâmetrorequired | Contratomodel, input |
Parâmetroinput_shapes | Contratostring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parâmetroencoding_format | Contratofloat |
Parâmetrodimensions_override | Contratofalse |
Parâmetromax_input_budget_units | Contrato131072 |
Parâmetromultimodal_objects | Contratofalse |
Parâmetromaterial_types | Contratotext, token_ids |
Ciclo de vida: synchronous_json
Guarde o índice e a dimensão de cada vetor.
O nome do modelo multimodal não permite objetos de imagem neste caminho exato.
Tarifários
As referências tarifárias não acrescentam opções ao pedido. Os parâmetros suportados constam do método selecionado.
- Modo rápido
- Tarifa normal Quando o modo rápido está selecionado
- Modo flex
- Tarifa normal Quando o modo flex está selecionado
- Esforço máximo de raciocínio
- Tarifa normal Quando o esforço máximo de raciocínio usa o ajuste predefinido (default)
Tarifas Ailoot
Preços por configuração
| Configuração | Tabela de tarifas | Custo |
|---|---|---|
| ConfiguraçãoTarifas base dos tokens | Tabela de tarifasTarifa base | Custo Entrada · Tokens de entrada $0 / 1K tokens Saída · Tokens de saída $0 / 1K tokens Entrada · Leitura da cache — / 1K tokens Entrada · Escrita na cache — / 1K tokens Entrada · Escrita na cache, 1 hora — / 1K tokens |
O Ailoot reserva um montante estimado antes de um pedido. Após o resultado, liquida o custo final com base na utilização medida. No streaming, a liquidação usa o registo final de utilização. Como funcionam a reserva e a liquidação →
Exemplos de pedidos
Ailoot Ultra · Embeddings
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Receber e guardar os resultados
Ailoot Ultra · Embeddings
json
Guardar todos os resultados concluídos
Guarde cada resposta, ficheiro e parte de conteúdo devolvidos na íntegra.
Guarde cada vetor com o respetivo índice. O número de vetores tem de ser igual ao número de entradas; as dimensões têm de ser consistentes.
Se for necessário verificar a resposta original
Não é introduzido nenhum endpoint de tarefas de embeddings.
Campos da resposta
| Campo | Tipo |
|---|---|
Campoobject | Tipostring |
Campomodel | Tipostring |
Campodata[].index | Tipointeger |
Campodata[].embedding | Tipofinite float[] |
Campousage | Tipoobject |
Erros e passos seguintes
| Resposta | Condição | Passo seguinte |
|---|---|---|
Resposta400 · invalid_request_error | CondiçãoCampos obrigatórios, representação do material ou valor do parâmetro inválidos | Passo seguinteCorrija os campos indicados antes de um novo pedido de criação. |
Aliases
Aliases do modelo
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
Aliases dos caminhos dos métodos
Use os caminhos dos métodos indicados acima.
IDs de chamada relacionados
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- Que entradas e resultados estão disponíveis?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- Que campos utiliza o pedido?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- Que limites se aplicam?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(bytes UTF8);input.min_items:1