NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
Llama Nemotron Embed VL 1B V2 on NVIDIAn multimodaalinen upotusmalli tiedonhakuun. Se muuntaa tekstin, kuvat tai yhdistetyt asiakirjasyötteet vektoreiksi ja tukee tekstikyselyillä tehtävää hakua taulukoita, kaavioita, tekstiä ja infografiikkaa sisältävistä asiakirjoista.
Tietoa mallista
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
Llama Nemotron Embed VL 1B V2 on NVIDIAn upotusmalli multimodaalisen kysymys–vastausjärjestelmän tiedonhakuun. Se voi esittää asiakirjan tekstinä, kuvana tai kuvan ja tekstin yhdistelmänä. Tekstikyselyllä voidaan sitten hakea siihen liittyviä asiakirjoja. Sen julkaistu profiili tukee tekstiä, taulukoita, kaavioita ja infografiikkaa sisältäviä asiakirjakuvia ja palauttaa upotusvektoreita.
Valmistele tunnistettavia asiakirjakohteita
Säilytä kunkin syötteen yhteys sen esittämään lähdeasiakirjaan, sivuun tai tekstijaksoon. Säilytä visuaalisesta sivusta kuva ja kaikki siihen kuuluva oheisteksti. Säilytä tekstijakson otsikko tai osan tunniste, jos se auttaa myöhemmän osuman tulkinnassa. Näiden lähdetunnisteiden ansiosta haettu kohde on hyödyllinen näyttönä eikä jää pelkäksi numeeriseksi samankaltaisuustulokseksi.
Rajaa kohteet käyttäjän etsimän aineiston ympärille. Kaavio ja sen selitys voivat kuulua yhteen; toisiinsa liittymättömien sivujen tulisi säilyä erillisinä kohteina. Tarkista, onko syöte luettavissa ja sisältääkö teksti tai kuva tiedon, jota tarkoitetun kyselyn on määrä hakea.
Tekstikyselyt ja vektorihaku
Mallin tehtävä on tuottaa vektoreita hakua varten, ja profiili kuvaa kyselymuodoksi tekstin. Pidä kysely ja indeksoidut kohteet yhteensopivassa upotuskokoonpanossa. Sovellus tallentaa vektorit, vertailee niitä ja palauttaa vastaavat lähdekohteet. Haettu asiakirja pysyy aineistona, jota tarkastellaan tai välitetään myöhempään vastauksen generointivaiheeseen.
Hyödyllinen testijoukko sisältää käyttäjien todelliset kysymykset ja sivut, jotka niiden tulisi löytää. Tarkastele vääriä tai puuttuvia osumia suhteessa lähdesisältöön ja kohteiden rajoihin. Säilytä koko asiakirjatunniste jokaisen valitun tekstijakson tai kuvan yhteydessä, jotta tuloksen voi tarkistaa kontekstissaan.
Syöteraja ja hakutuotos
Dokumentoitu ylläpidetty palveluprofiili ilmoittaa enimmäismääräksi 131 072 tokenia syötettä kohden. Jaa suuremmat lähdejoukot erillisiksi, nimetyiksi syötteiksi ja säilytä niiden suhteet. Profiilin vektorituloste ei ole generoitu proosavastaus tai puheen tekstivastine; sovelluksen myöhempi vaihe voi käyttää haettua näyttöä kysymykseen vastaamiseen.
Valmis hakutuotos yhdistää kyselyn, valitut lähdekohteet ja niiden tunnisteet. Säilytä tieto indeksiin käytetystä upotusmallista ja syötteen valmistelusta, jotta myöhemmät muutokset voidaan erottaa lähdekokoelman muutoksista.
Ailoot Ultra · Vektoriesitykset POST /v1/embeddings nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:free
nvidia/llama-nemotron-embed-vl-1b-v2:freeAloitus
Llama Nemotron Embed VL 1B V2 on NVIDIAn multimodaalinen upotusmalli tiedonhakuun. Se muuntaa tekstin, kuvat tai yhdistetyt asiakirjasyötteet vektoreiksi ja tukee tekstikyselyillä tehtävää hakua taulukoita, kaavioita, tekstiä ja infografiikkaa sisältävistä asiakirjoista.
- Hyväksytyt syötteet
- Teksti · token_ids
- Tulokset
- embedding
Saatavilla Ailootissa · syötteet & menetelmät
Ailoot Ultra · Vektoriesitykset POST /v1/embeddings
- Syötetyypit
text,token_ids- Tulostyypit
embedding- Konteksti
- 131 072 tokens
- Tulosteen muoto
- json
| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat nvidia/llama-nemotron-embed-vl-1b-v2:free | Oletus— |
Kenttäinput | Tyyppistring|string[]|integer[]|integer[][] | VaatimusPakollinen | Arvot & rajat Kohteiden vähimmäismäärä: 1 Ehdot: Ei-tyhjä, yhdenmukaisista alkioista koostuva erä. Tokenien ID:t ovat ei-negatiivisia kokonaislukuja. Syötebudjetti: Enimmäismäärä: 131 072 · Tekstiyksikkö: UTF8-tavut · Tokenyksikkö: Token-taulukon alkiot | Oletus— |
Kenttäencoding_format | Tyyppistring | VaatimusValinnainen | Arvot & rajat float | Oletusfloat |
Kenttädimensions | Tyyppiinteger | VaatimusEi tuettu | Arvot & rajat Vähimmäismäärä: 1 | Oletus— |
Kenttäuser | Tyyppijson_value | VaatimusValinnainen | Arvot & rajat Ehdot: Lähde sallii tämän JSON-metatietokentän; tarkka alkuperäisen palvelun semantiikka on mallikohtainen. | Oletus— |
Kenttäsession_id | Tyyppijson_value | VaatimusValinnainen | Arvot & rajat Ehdot: Lähde sallii tämän JSON-metatietokentän; tarkka alkuperäisen palvelun semantiikka on mallikohtainen. | Oletus— |
Kenttätrace | Tyyppijson_value | VaatimusValinnainen | Arvot & rajat Ehdot: Lähde sallii tämän JSON-metatietokentän; tarkka alkuperäisen palvelun semantiikka on mallikohtainen. | Oletus— |
Kenttäprovider | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Ehdot: provider.options hylätty | Oletus— |
Syöteaineistojen yhdistelmät
text_to_embedding
Menetelmän parametrit ja elinkaari
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, input |
Parametriinput_shapes | Sopimusstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Parametriencoding_format | Sopimusfloat |
Parametridimensions_override | Sopimusfalse |
Parametrimax_input_budget_units | Sopimus131072 |
Parametrimultimodal_objects | Sopimusfalse |
Parametrimaterial_types | Sopimustext, token_ids |
Elinkaari: synchronous_json
Säilytä jokaisen vektorin indeksi ja ulottuvuus.
Mallin nimen multimodaalisuus ei tarkoita, että tämä nimenomainen reitti hyväksyisi kuvaolioita.
Hinnoittelu
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
- Nopea tila
- Vakiohinta Kun nopea tila on valittu
- Flex-tila
- Vakiohinta Kun flex-tila on valittu
- Päättelyn enimmäisteho
- Vakiohinta Kun päättelyn enimmäistehoon sovelletaan default-oletussäätöä
Ailoot-hinnat
Hinnat asetusten mukaan
| Asetukset | Hinnasto | Veloitus |
|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Veloitus Syöte · Syötetokenit $0 / 1K tokenia Tuloste · Tulostokenit $0 / 1K tokenia Syöte · Välimuistin luku — / 1K tokenia Syöte · Välimuistiin kirjoitus — / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
Esimerkkipyynnöt
Ailoot Ultra · Vektoriesitykset
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-nemotron-embed-vl-1b-v2:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='nvidia/llama-nemotron-embed-vl-1b-v2:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Vastaanota ja tallenna tulokset
Ailoot Ultra · Vektoriesitykset
json
Säilytä kaikki valmistuneet tulokset
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä jokainen vektori indekseineen. Vektorien määrän on vastattava syötteiden määrää; ulottuvuuksien on oltava yhdenmukaiset.
Jos alkuperäinen vastaus on tarkistettava
Uutta upotustehtävien päätepistettä ei oteta käyttöön.
Vastauksen kentät
| Kenttä | Tyyppi |
|---|---|
Kenttäobject | Tyyppistring |
Kenttämodel | Tyyppistring |
Kenttädata[].index | Tyyppiinteger |
Kenttädata[].embedding | Tyyppifinite float[] |
Kenttäusage | Tyyppiobject |
Virheet ja seuraavat vaiheet
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Aliakset
Mallin aliakset
Ailoot Ultra nvidia/llama-nemotron-embed-vl-1b-v2:free
Menetelmäpolkujen aliakset
Käytä yllä näytettyjä menetelmäpolkuja.
Liittyvät kutsujan ID:t
FAQ · NVIDIA: Llama Nemotron Embed VL 1B V2 (free)
- Mitä syötteitä ja tuloksia on saatavilla?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:text,token_ids→embedding- Mitä kenttiä pyyntö käyttää?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:model,input,encoding_format,provider- Mitä rajoja sovelletaan?
POST /v1/embeddings·nvidia/llama-nemotron-embed-vl-1b-v2:free:ctx:131072;input.budget.maximum:131072(UTF8-tavut);input.min_items:1