Source: https://ailoot.ai/models/fi/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/ Canonical: https://ailoot.ai/models/fi/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/ Language: fi # Llama 3.1 Nemotron Safety Guard 8B v3 [Markdown](https://ailoot.ai/models/fi/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/index.md) · [JSON](https://ailoot.ai/models/fi/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/facts.json) ## [Llama 3.1 Nemotron Safety Guard 8B v3](https://ailoot.ai/models/fi/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/) Nemotron Safety Guard v3 tarkistaa käyttäjän viestit ja mallin vastaukset määritetyn riskitaksonomian mukaan. Se palauttaa JSON-tuloksen erillisillä turvallisuusarvioilla ja rikkomusluokilla. - [**Ailoot · OpenAI Chat** `POST /v1/chat/completions` `nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/fi/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/#method-0) - [**Ailoot · OpenAI Chat** `POST /v1/chat/completions` `nemotron-safety-guard`](https://ailoot.ai/models/fi/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/#method-1) - [**Ailoot · OpenAI Chat** `POST /v1/chat/completions` `nemotron-safety-guard-latest`](https://ailoot.ai/models/fi/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/#method-2) Tietoa mallista Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle. #### Keskustelun molempien osapuolten tarkistus NVIDIA kehitti Llama 3.1 Nemotron Safety Guard 8B v3 -mallin ihmisen ja kielimallin vuorovaikutuksen moderointiin. Syötteeksi voi antaa vain käyttäjän viestin tai täydentää sitä avustajan vastauksella, myös useilla repliikeillä. Malli määrittää kummankin osapuolen turvallisuuden: vaarallinen pyyntö ja avustajan asianmukainen kieltäytyminen saavat eri arviot. Näin syöte voidaan tarkistaa ennen generointia ja valmis vastaus analysoida erikseen. Tulos on JSON-muodossa. Pakollinen kenttä `User Safety` sisältää arvon `safe` tai `unsafe`. Kenttä `Response Safety` tulee mukaan, kun syötteessä on avustajan vastaus. Rikkomuksen löytyessä lisätään `Safety Categories`, jossa luokat luetellaan pilkuin erotettuina. Tulos sopii ohjelmalliseen suodatukseen ja epäselvän tapauksen välittämiseen lisätarkistukseen. #### Luokat ja kulttuurinen konteksti Ohje määrittää tarkistuksessa käytettävät säännöt ja luokkien nimet. Julkaistussa taksonomiassa on 23 riskiryhmää: muun muassa väkivalta, uhkaukset, kiusaaminen, henkilötietojen paljastaminen, petokset ja haitallinen koodi. Tuloksen nimet riippuvat annetusta käytännöstä, joten ne on tulkittava yhdessä tehtävän sääntöjen kanssa. Koulutus huomioi arkaluonteisten aiheiden alueelliset erityispiirteet. Aineistoja sovitettiin paikallisiin ilmauksiin ja kulttuuriseen kontekstiin, ja ristiriitaiset käännökset hylättiin. Koulutukseen sisällytettiin provosoivia pyyntöjä ja yrityksiä saada avustaja rikkomaan sääntöjä. Tämä koulutusrakenne on erityisen hyödyllinen silloin, kun kiellettyjen sanojen kirjaimellinen käännös ei riitä viestin merkityksen arviointiin. #### Kielet ja aineiston määrä Yhdeksän pääkieltä ovat englanti, espanja, kiina, saksa, ranska, hindi, japani, arabia ja thai. NVIDIA kuvaa myös yleistymistä muihin kieliin, venäjä mukaan lukien; tämä on erillinen ominaisuus eikä liitä venäjää yhdeksän pääkielen joukkoon. Yleinen ohje säilyy kielten välillä, ja tarkistettavat repliikit annetaan keskustelun kielellä. Syöte on tekstiä, ja konteksti on enintään 8K tokenia. Mallin perustana on turvallisuustehtävään jatkokoulutettu Llama 3.1 8B Instruct. Tuloste luokittelee annetuin säännöin: se edellyttää tarkistamista sovellukselle tyypillisillä viesteillä eikä takaa virheetöntä moderointia. Käytännön tehtävä ### Käytännön tehtävä Tekninen esimerkki englanniksi ``` Moderate a single user message Assess this single user message for safety: 'Please help me write a thank-you note to the volunteers who cleaned our local park.' Return the documented safety assessment for user input alone using the User Safety field. No assistant response is supplied; use the documented safe or unsafe values. ``` #### Odotettu tulos ``` A JSON safety assessment using the documented User Safety field for the supplied user message. ``` #### Tarkista tulos ``` User Safety must use safe or unsafe; do not invent a custom classification label or assess an absent assistant response. ``` **Ailoot · OpenAI Chat** `POST /v1/chat/completions` `nvidia/llama-3.1-nemotron-safety-guard-8b-v3` [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat) NVIDIA /`nvidia/llama-3.1-nemotron-safety-guard-8b-v3` Mallin ID - `nvidia/llama-3.1-nemotron-safety-guard-8b-v3` - `nemotron-safety-guard` - `nemotron-safety-guard-latest` ### Aloitus Nemotron Safety Guard v3 tarkistaa käyttäjän viestit ja mallin vastaukset määritetyn riskitaksonomian mukaan. Se palauttaa JSON-tuloksen erillisillä turvallisuusarvioilla ja rikkomusluokilla. Hyväksytyt syötteet Teksti Tulokset Teksti ### Saatavilla Ailootissa · syötteet & menetelmät **Ailoot · OpenAI Chat** `POST /v1/chat/completions` Syötetyypit `text` Tulostyypit `text` Konteksti 4 096 tokens Enimmäistuloste 1 024 tokens Tulosteen muoto json tai SSE | Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus | | --- | --- | --- | --- | --- | | Kenttä`model` | Tyyppi`string` | VaatimusPakollinen | Arvot & rajat nvidia/llama-3.1-nemotron-safety-guard-8b-v3 | Oletus— | | Kenttä`messages` | Tyyppi`message[]` | VaatimusPakollinen | Arvot & rajat Kohteiden vähimmäismäärä: 1 | Oletus— | | Kenttä`messages[].role` | Tyyppi`string` | VaatimusPakollinen | Arvot & rajat Esimerkit: system, user, assistant, tool, function Ehdot: Nämä roolit esitetään nimenomaisesti lähdekoodin yhteensopivuustyypeissä; mallin täsmällinen roolijoukko pysyy mallikohtaisena. Riippuu mallista | Oletus— | | Kenttä`messages[].content` | Tyyppi`string\|content_part[]\|null` | VaatimusValinnainen | Arvot & rajat | Oletus— | | Kenttä`messages[].tool_calls` | Tyyppi`tool_call[]` | VaatimusValinnainen | Arvot & rajat | Oletus— | | Kenttä`messages[].tool_call_id` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat Sovelletaan, kun: role=tool; käytä todella palautettua ID:tä | Oletus— | | Kenttä`messages[].name` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat | Oletus— | | Kenttä`messages[].reasoning_content` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat Sovelletaan, kun: Palauta todella saatu päättely takaisin mallille, kun kyseinen malli käyttää sitä | Oletus— | | Kenttä`messages[].reasoning_details` | Tyyppi`object\|array` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`max_tokens` | Tyyppi`integer` | VaatimusValinnainen | Arvot & rajat Vähimmäismäärä: 1 Riippuu mallista | Oletus— | | Kenttä`max_completion_tokens` | Tyyppi`integer` | VaatimusValinnainen | Arvot & rajat Vähimmäismäärä: 1 Riippuu mallista | Oletus— | | Kenttä`stream` | Tyyppi`boolean` | VaatimusValinnainen | Arvot & rajat | Oletusfalse | | Kenttä`stream_options.include_usage` | Tyyppi`boolean` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`temperature` | Tyyppi`number` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`top_p` | Tyyppi`number` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`stop` | Tyyppi`string\|string[]` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`tools` | Tyyppi`function_tool[]` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`tools[].type` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`tools[].function.name` | Tyyppi`string` | VaatimusPakollinen | Arvot & rajat Sovelletaan, kun: funktiotyökalu annettu | Oletus— | | Kenttä`tools[].function.description` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat | Oletus— | | Kenttä`tools[].function.parameters` | Tyyppi`JSON_schema` | VaatimusValinnainen | Arvot & rajat | Oletus— | | Kenttä`tool_choice` | Tyyppi`string\|object` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`parallel_tool_calls` | Tyyppi`boolean` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`response_format` | Tyyppi`object` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`reasoning_effort` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`reasoning` | Tyyppi`object` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`service_tier` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`instructions` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat Yhteensopivuuskenttä | Oletus— | | Kenttä`functions` | Tyyppi`function[]` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`function_call` | Tyyppi`string\|object` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`prompt_cache_options` | Tyyppi`object` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | Syöteaineistojen yhdistelmät **Teksti** · UTF8-teksti `messages[].content` Menetelmän parametrit ja elinkaari | Parametri | Sopimus | | --- | --- | | Parametri`material_types` | Sopimustext | | Parametri`required` | Sopimusmodel, messages | | Parametri`optional_controls` | Sopimusnull | | Parametri`content_type` | Sopimusapplication/json | | Parametri`text_file_material` | Sopimusvarsinainen UTF-8-sisältö lisätään tekstinä; tiedostojen ID- tai URLs-arvot tarvitsevat erillisen täsmällisen tuen | Elinkaari: `exact retained published method` Menetelmien rakenteet ja ID:t ovat täsmällisiä; toimittajan kyvykkyys on erillinen pyynnön hyväksymisestä. ### Hinnoittelu #### Ailoot-menetelmien hinnat Syöte 0,0002 $ */ 1K* Tuloste 0,0002 $ */ 1K* Välimuistin luku 0,0002 $ */ 1K* Välimuistiin kirjoitus 0,0002 $ */ 1K* Välimuistiin kirjoitus, 5 min 0,0002 $ */ 1K tokens* Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. [Varauksen ja lopullisen veloituksen toiminta →](https://ailoot.ai/docs/fi/billing/reserve/) ### Esimerkkipyynnöt #### Ailoot · OpenAI Chat TekstiesimerkkiPython SDKNode.js SDKPython-suoratoisto ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "nvidia/llama-3.1-nemotron-safety-guard-8b-v3", "messages": []}') f=Path(os.environ["AILOOT_TEXT_FILE"]) if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material") text=f.read_text(encoding="utf-8") if not text.strip():raise SystemExit("Source material must contain text") p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}] Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2)) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0) resp = client.chat.completions.create( model="nvidia/llama-3.1-nemotron-safety-guard-8b-v3", messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}], ) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(resp.to_dict(mode="json")) ``` ```js import OpenAI from "openai"; if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request"); const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 }); const resp = await client.chat.completions.create({ model: "nvidia/llama-3.1-nemotron-safety-guard-8b-v3", messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }], }); import { writeFileSync } from "node:fs"; function saveResult(data, stem = "result") { writeFileSync(stem + ".json", JSON.stringify(data, null, 2)); console.log(JSON.stringify(data, null, 2)); const saveBlob = (encoded, suffix, label) => { const raw = Buffer.from(encoded, "base64"); const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix; const file = `${stem}-${label}.${ext}`; writeFileSync(file, raw); console.log("Saved", file); }; for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block)); for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {})); for (const [i, item] of (data.output || []).entries()) { console.log("Output", i, JSON.stringify(item)); if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`); } for (const [ci, candidate] of (data.candidates || []).entries()) { for (const [pi, part] of (candidate.content?.parts || []).entries()) { console.log("Candidate/part", ci, pi, JSON.stringify(part)); const blob = part.inlineData || part.inline_data; if (blob?.data) { const mime = blob.mimeType || blob.mime_type; const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin"; saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`); } } } } saveResult(resp); ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='nvidia/llama-3.1-nemotron-safety-guard-8b-v3',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Vastaanota ja tallenna tulokset #### Ailoot · OpenAI Chat json tai SSE ##### Säilytä kaikki valmistuneet tulokset Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa. Säilytä jokainen vastausvaihtoehto sisältöineen, työkalukutsuineen ja päättelyineen. Kokoa SSE:ssä muutokset vastausvaihtoehdon ja työkalun indeksin mukaan ja säilytä lopullinen päättymissyy sekä käyttötiedot. ##### Jos alkuperäinen vastaus on tarkistettava Säilytä pyyntöjen/vastausten ID:t ja otsakkeet. Yleistä tekstityön haku-URL:ää ei anneta. Vastauksen kentät | Kenttä | Tyyppi | | --- | --- | | Kenttä`choices[].index` | Tyyppiinteger | | Kenttä`choices[].message.content` | Tyyppistring\|null | | Kenttä`choices[].message.tool_calls` | Tyyppitool\_call\[\] | | Kenttä`choices[].message.reasoning_content` | Tyyppistring | | Kenttä`choices[].message.reasoning_details` | Tyyppiobject\|array | | Kenttä`choices[].finish_reason` | Tyyppistring\|null | | Kenttä`usage` | Tyyppiobject | Virheet ja seuraavat vaiheet | Vastaus | Ehto | Seuraava vaihe | | --- | --- | --- | | Vastaus400 · `invalid_request_error` | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. | ### Aliakset #### Mallin aliakset **Ailoot** [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat), [`nemotron-safety-guard`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat), [`nemotron-safety-guard-latest`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) #### Menetelmäpolkujen aliakset Käytä yllä näytettyjä menetelmäpolkuja. #### Liittyvät kutsujan ID:t [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat), [`nemotron-safety-guard`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat), [`nemotron-safety-guard-latest`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) **Ailoot · OpenAI Chat** `POST /v1/chat/completions` `nemotron-safety-guard` [`nemotron-safety-guard`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat) NVIDIA /`nemotron-safety-guard` Mallin ID - `nvidia/llama-3.1-nemotron-safety-guard-8b-v3` - `nemotron-safety-guard` - `nemotron-safety-guard-latest` ### Aloitus Nemotron Safety Guard v3 tarkistaa käyttäjän viestit ja mallin vastaukset määritetyn riskitaksonomian mukaan. Se palauttaa JSON-tuloksen erillisillä turvallisuusarvioilla ja rikkomusluokilla. Hyväksytyt syötteet Teksti Tulokset Teksti ### Saatavilla Ailootissa · syötteet & menetelmät **Ailoot · OpenAI Chat** `POST /v1/chat/completions` Syötetyypit `text` Tulostyypit `text` Konteksti 4 096 tokens Enimmäistuloste 1 024 tokens Tulosteen muoto json tai SSE | Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus | | --- | --- | --- | --- | --- | | Kenttä`model` | Tyyppi`string` | VaatimusPakollinen | Arvot & rajat nemotron-safety-guard | Oletus— | | Kenttä`messages` | Tyyppi`message[]` | VaatimusPakollinen | Arvot & rajat Kohteiden vähimmäismäärä: 1 | Oletus— | | Kenttä`messages[].role` | Tyyppi`string` | VaatimusPakollinen | Arvot & rajat Esimerkit: system, user, assistant, tool, function Ehdot: Nämä roolit esitetään nimenomaisesti lähdekoodin yhteensopivuustyypeissä; mallin täsmällinen roolijoukko pysyy mallikohtaisena. Riippuu mallista | Oletus— | | Kenttä`messages[].content` | Tyyppi`string\|content_part[]\|null` | VaatimusValinnainen | Arvot & rajat | Oletus— | | Kenttä`messages[].tool_calls` | Tyyppi`tool_call[]` | VaatimusValinnainen | Arvot & rajat | Oletus— | | Kenttä`messages[].tool_call_id` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat Sovelletaan, kun: role=tool; käytä todella palautettua ID:tä | Oletus— | | Kenttä`messages[].name` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat | Oletus— | | Kenttä`messages[].reasoning_content` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat Sovelletaan, kun: Palauta todella saatu päättely takaisin mallille, kun kyseinen malli käyttää sitä | Oletus— | | Kenttä`messages[].reasoning_details` | Tyyppi`object\|array` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`max_tokens` | Tyyppi`integer` | VaatimusValinnainen | Arvot & rajat Vähimmäismäärä: 1 Riippuu mallista | Oletus— | | Kenttä`max_completion_tokens` | Tyyppi`integer` | VaatimusValinnainen | Arvot & rajat Vähimmäismäärä: 1 Riippuu mallista | Oletus— | | Kenttä`stream` | Tyyppi`boolean` | VaatimusValinnainen | Arvot & rajat | Oletusfalse | | Kenttä`stream_options.include_usage` | Tyyppi`boolean` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`temperature` | Tyyppi`number` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`top_p` | Tyyppi`number` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`stop` | Tyyppi`string\|string[]` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`tools` | Tyyppi`function_tool[]` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`tools[].type` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`tools[].function.name` | Tyyppi`string` | VaatimusPakollinen | Arvot & rajat Sovelletaan, kun: funktiotyökalu annettu | Oletus— | | Kenttä`tools[].function.description` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat | Oletus— | | Kenttä`tools[].function.parameters` | Tyyppi`JSON_schema` | VaatimusValinnainen | Arvot & rajat | Oletus— | | Kenttä`tool_choice` | Tyyppi`string\|object` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`parallel_tool_calls` | Tyyppi`boolean` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`response_format` | Tyyppi`object` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`reasoning_effort` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`reasoning` | Tyyppi`object` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`service_tier` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`instructions` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat Yhteensopivuuskenttä | Oletus— | | Kenttä`functions` | Tyyppi`function[]` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`function_call` | Tyyppi`string\|object` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`prompt_cache_options` | Tyyppi`object` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | Syöteaineistojen yhdistelmät **Teksti** · UTF8-teksti `messages[].content` Menetelmän parametrit ja elinkaari | Parametri | Sopimus | | --- | --- | | Parametri`material_types` | Sopimustext | | Parametri`required` | Sopimusmodel, messages | | Parametri`optional_controls` | Sopimusnull | | Parametri`content_type` | Sopimusapplication/json | | Parametri`text_file_material` | Sopimusvarsinainen UTF-8-sisältö lisätään tekstinä; tiedostojen ID- tai URLs-arvot tarvitsevat erillisen täsmällisen tuen | Elinkaari: `exact retained published method` Menetelmien rakenteet ja ID:t ovat täsmällisiä; toimittajan kyvykkyys on erillinen pyynnön hyväksymisestä. ### Hinnoittelu #### Ailoot-menetelmien hinnat Syöte 0,0002 $ */ 1K* Tuloste 0,0002 $ */ 1K* Välimuistin luku 0,0002 $ */ 1K* Välimuistiin kirjoitus 0,0002 $ */ 1K* Välimuistiin kirjoitus, 5 min 0,0002 $ */ 1K tokens* Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. [Varauksen ja lopullisen veloituksen toiminta →](https://ailoot.ai/docs/fi/billing/reserve/) ### Esimerkkipyynnöt #### Ailoot · OpenAI Chat TekstiesimerkkiPython SDKNode.js SDKPython-suoratoisto ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "nemotron-safety-guard", "messages": []}') f=Path(os.environ["AILOOT_TEXT_FILE"]) if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material") text=f.read_text(encoding="utf-8") if not text.strip():raise SystemExit("Source material must contain text") p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}] Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2)) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0) resp = client.chat.completions.create( model="nemotron-safety-guard", messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}], ) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(resp.to_dict(mode="json")) ``` ```js import OpenAI from "openai"; if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request"); const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 }); const resp = await client.chat.completions.create({ model: "nemotron-safety-guard", messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }], }); import { writeFileSync } from "node:fs"; function saveResult(data, stem = "result") { writeFileSync(stem + ".json", JSON.stringify(data, null, 2)); console.log(JSON.stringify(data, null, 2)); const saveBlob = (encoded, suffix, label) => { const raw = Buffer.from(encoded, "base64"); const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix; const file = `${stem}-${label}.${ext}`; writeFileSync(file, raw); console.log("Saved", file); }; for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block)); for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {})); for (const [i, item] of (data.output || []).entries()) { console.log("Output", i, JSON.stringify(item)); if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`); } for (const [ci, candidate] of (data.candidates || []).entries()) { for (const [pi, part] of (candidate.content?.parts || []).entries()) { console.log("Candidate/part", ci, pi, JSON.stringify(part)); const blob = part.inlineData || part.inline_data; if (blob?.data) { const mime = blob.mimeType || blob.mime_type; const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin"; saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`); } } } } saveResult(resp); ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='nemotron-safety-guard',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Vastaanota ja tallenna tulokset #### Ailoot · OpenAI Chat json tai SSE ##### Säilytä kaikki valmistuneet tulokset Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa. Säilytä jokainen vastausvaihtoehto sisältöineen, työkalukutsuineen ja päättelyineen. Kokoa SSE:ssä muutokset vastausvaihtoehdon ja työkalun indeksin mukaan ja säilytä lopullinen päättymissyy sekä käyttötiedot. ##### Jos alkuperäinen vastaus on tarkistettava Säilytä pyyntöjen/vastausten ID:t ja otsakkeet. Yleistä tekstityön haku-URL:ää ei anneta. Vastauksen kentät | Kenttä | Tyyppi | | --- | --- | | Kenttä`choices[].index` | Tyyppiinteger | | Kenttä`choices[].message.content` | Tyyppistring\|null | | Kenttä`choices[].message.tool_calls` | Tyyppitool\_call\[\] | | Kenttä`choices[].message.reasoning_content` | Tyyppistring | | Kenttä`choices[].message.reasoning_details` | Tyyppiobject\|array | | Kenttä`choices[].finish_reason` | Tyyppistring\|null | | Kenttä`usage` | Tyyppiobject | Virheet ja seuraavat vaiheet | Vastaus | Ehto | Seuraava vaihe | | --- | --- | --- | | Vastaus400 · `invalid_request_error` | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. | ### Aliakset #### Mallin aliakset **Ailoot** [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat), [`nemotron-safety-guard`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat), [`nemotron-safety-guard-latest`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) #### Menetelmäpolkujen aliakset Käytä yllä näytettyjä menetelmäpolkuja. #### Liittyvät kutsujan ID:t [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat), [`nemotron-safety-guard`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat), [`nemotron-safety-guard-latest`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) **Ailoot · OpenAI Chat** `POST /v1/chat/completions` `nemotron-safety-guard-latest` [`nemotron-safety-guard-latest`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) NVIDIA /`nemotron-safety-guard-latest` Mallin ID - `nvidia/llama-3.1-nemotron-safety-guard-8b-v3` - `nemotron-safety-guard` - `nemotron-safety-guard-latest` ### Aloitus Nemotron Safety Guard v3 tarkistaa käyttäjän viestit ja mallin vastaukset määritetyn riskitaksonomian mukaan. Se palauttaa JSON-tuloksen erillisillä turvallisuusarvioilla ja rikkomusluokilla. Hyväksytyt syötteet Teksti Tulokset Teksti ### Saatavilla Ailootissa · syötteet & menetelmät **Ailoot · OpenAI Chat** `POST /v1/chat/completions` Syötetyypit `text` Tulostyypit `text` Konteksti 4 096 tokens Enimmäistuloste 1 024 tokens Tulosteen muoto json tai SSE | Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus | | --- | --- | --- | --- | --- | | Kenttä`model` | Tyyppi`string` | VaatimusPakollinen | Arvot & rajat nemotron-safety-guard-latest | Oletus— | | Kenttä`messages` | Tyyppi`message[]` | VaatimusPakollinen | Arvot & rajat Kohteiden vähimmäismäärä: 1 | Oletus— | | Kenttä`messages[].role` | Tyyppi`string` | VaatimusPakollinen | Arvot & rajat Esimerkit: system, user, assistant, tool, function Ehdot: Nämä roolit esitetään nimenomaisesti lähdekoodin yhteensopivuustyypeissä; mallin täsmällinen roolijoukko pysyy mallikohtaisena. Riippuu mallista | Oletus— | | Kenttä`messages[].content` | Tyyppi`string\|content_part[]\|null` | VaatimusValinnainen | Arvot & rajat | Oletus— | | Kenttä`messages[].tool_calls` | Tyyppi`tool_call[]` | VaatimusValinnainen | Arvot & rajat | Oletus— | | Kenttä`messages[].tool_call_id` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat Sovelletaan, kun: role=tool; käytä todella palautettua ID:tä | Oletus— | | Kenttä`messages[].name` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat | Oletus— | | Kenttä`messages[].reasoning_content` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat Sovelletaan, kun: Palauta todella saatu päättely takaisin mallille, kun kyseinen malli käyttää sitä | Oletus— | | Kenttä`messages[].reasoning_details` | Tyyppi`object\|array` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`max_tokens` | Tyyppi`integer` | VaatimusValinnainen | Arvot & rajat Vähimmäismäärä: 1 Riippuu mallista | Oletus— | | Kenttä`max_completion_tokens` | Tyyppi`integer` | VaatimusValinnainen | Arvot & rajat Vähimmäismäärä: 1 Riippuu mallista | Oletus— | | Kenttä`stream` | Tyyppi`boolean` | VaatimusValinnainen | Arvot & rajat | Oletusfalse | | Kenttä`stream_options.include_usage` | Tyyppi`boolean` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`temperature` | Tyyppi`number` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`top_p` | Tyyppi`number` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`stop` | Tyyppi`string\|string[]` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`tools` | Tyyppi`function_tool[]` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`tools[].type` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`tools[].function.name` | Tyyppi`string` | VaatimusPakollinen | Arvot & rajat Sovelletaan, kun: funktiotyökalu annettu | Oletus— | | Kenttä`tools[].function.description` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat | Oletus— | | Kenttä`tools[].function.parameters` | Tyyppi`JSON_schema` | VaatimusValinnainen | Arvot & rajat | Oletus— | | Kenttä`tool_choice` | Tyyppi`string\|object` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`parallel_tool_calls` | Tyyppi`boolean` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`response_format` | Tyyppi`object` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`reasoning_effort` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`reasoning` | Tyyppi`object` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`service_tier` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`instructions` | Tyyppi`string` | VaatimusValinnainen | Arvot & rajat Yhteensopivuuskenttä | Oletus— | | Kenttä`functions` | Tyyppi`function[]` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`function_call` | Tyyppi`string\|object` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | | Kenttä`prompt_cache_options` | Tyyppi`object` | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— | Syöteaineistojen yhdistelmät **Teksti** · UTF8-teksti `messages[].content` Menetelmän parametrit ja elinkaari | Parametri | Sopimus | | --- | --- | | Parametri`material_types` | Sopimustext | | Parametri`required` | Sopimusmodel, messages | | Parametri`optional_controls` | Sopimusnull | | Parametri`content_type` | Sopimusapplication/json | | Parametri`text_file_material` | Sopimusvarsinainen UTF-8-sisältö lisätään tekstinä; tiedostojen ID- tai URLs-arvot tarvitsevat erillisen täsmällisen tuen | Elinkaari: `exact retained published method` Menetelmien rakenteet ja ID:t ovat täsmällisiä; toimittajan kyvykkyys on erillinen pyynnön hyväksymisestä. ### Hinnoittelu #### Ailoot-menetelmien hinnat Syöte 0,0002 $ */ 1K* Tuloste 0,0002 $ */ 1K* Välimuistin luku 0,0002 $ */ 1K* Välimuistiin kirjoitus 0,0002 $ */ 1K* Välimuistiin kirjoitus, 5 min 0,0002 $ */ 1K tokens* Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. [Varauksen ja lopullisen veloituksen toiminta →](https://ailoot.ai/docs/fi/billing/reserve/) ### Esimerkkipyynnöt #### Ailoot · OpenAI Chat TekstiesimerkkiPython SDKNode.js SDKPython-suoratoisto ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "nemotron-safety-guard-latest", "messages": []}') f=Path(os.environ["AILOOT_TEXT_FILE"]) if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material") text=f.read_text(encoding="utf-8") if not text.strip():raise SystemExit("Source material must contain text") p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}] Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2)) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0) resp = client.chat.completions.create( model="nemotron-safety-guard-latest", messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}], ) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(resp.to_dict(mode="json")) ``` ```js import OpenAI from "openai"; if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request"); const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 }); const resp = await client.chat.completions.create({ model: "nemotron-safety-guard-latest", messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }], }); import { writeFileSync } from "node:fs"; function saveResult(data, stem = "result") { writeFileSync(stem + ".json", JSON.stringify(data, null, 2)); console.log(JSON.stringify(data, null, 2)); const saveBlob = (encoded, suffix, label) => { const raw = Buffer.from(encoded, "base64"); const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix; const file = `${stem}-${label}.${ext}`; writeFileSync(file, raw); console.log("Saved", file); }; for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block)); for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {})); for (const [i, item] of (data.output || []).entries()) { console.log("Output", i, JSON.stringify(item)); if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`); } for (const [ci, candidate] of (data.candidates || []).entries()) { for (const [pi, part] of (candidate.content?.parts || []).entries()) { console.log("Candidate/part", ci, pi, JSON.stringify(part)); const blob = part.inlineData || part.inline_data; if (blob?.data) { const mime = blob.mimeType || blob.mime_type; const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin"; saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`); } } } } saveResult(resp); ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='nemotron-safety-guard-latest',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Vastaanota ja tallenna tulokset #### Ailoot · OpenAI Chat json tai SSE ##### Säilytä kaikki valmistuneet tulokset Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa. Säilytä jokainen vastausvaihtoehto sisältöineen, työkalukutsuineen ja päättelyineen. Kokoa SSE:ssä muutokset vastausvaihtoehdon ja työkalun indeksin mukaan ja säilytä lopullinen päättymissyy sekä käyttötiedot. ##### Jos alkuperäinen vastaus on tarkistettava Säilytä pyyntöjen/vastausten ID:t ja otsakkeet. Yleistä tekstityön haku-URL:ää ei anneta. Vastauksen kentät | Kenttä | Tyyppi | | --- | --- | | Kenttä`choices[].index` | Tyyppiinteger | | Kenttä`choices[].message.content` | Tyyppistring\|null | | Kenttä`choices[].message.tool_calls` | Tyyppitool\_call\[\] | | Kenttä`choices[].message.reasoning_content` | Tyyppistring | | Kenttä`choices[].message.reasoning_details` | Tyyppiobject\|array | | Kenttä`choices[].finish_reason` | Tyyppistring\|null | | Kenttä`usage` | Tyyppiobject | Virheet ja seuraavat vaiheet | Vastaus | Ehto | Seuraava vaihe | | --- | --- | --- | | Vastaus400 · `invalid_request_error` | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. | ### Aliakset #### Mallin aliakset **Ailoot** [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat), [`nemotron-safety-guard`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat), [`nemotron-safety-guard-latest`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) #### Menetelmäpolkujen aliakset Käytä yllä näytettyjä menetelmäpolkuja. #### Liittyvät kutsujan ID:t [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat), [`nemotron-safety-guard`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat), [`nemotron-safety-guard-latest`](https://ailoot.ai/models/fi/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) FAQ · nvidia/llama-3.1-nemotron-safety-guard-8b-v3 Mitä syötteitä ja tuloksia on saatavilla? `POST /v1/chat/completions` · `nvidia/llama-3.1-nemotron-safety-guard-8b-v3`: `text` → `text` `POST /v1/chat/completions` · `nemotron-safety-guard`: `text` → `text` `POST /v1/chat/completions` · `nemotron-safety-guard-latest`: `text` → `text` Mitä kenttiä pyyntö käyttää? `POST /v1/chat/completions` · `nvidia/llama-3.1-nemotron-safety-guard-8b-v3`: `model`, `messages`, `stream` `POST /v1/chat/completions` · `nemotron-safety-guard`: `model`, `messages`, `stream` `POST /v1/chat/completions` · `nemotron-safety-guard-latest`: `model`, `messages`, `stream` Mitä rajoja sovelletaan? `POST /v1/chat/completions` · `nvidia/llama-3.1-nemotron-safety-guard-8b-v3`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1` `POST /v1/chat/completions` · `nemotron-safety-guard`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1` `POST /v1/chat/completions` · `nemotron-safety-guard-latest`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1` Yhdistä Ailoot Claude Codeen, OpenCodeen, Hermesiin tai omaan sovellukseesi. ## Yritys ja sen projektisalkku Yritys ja sen projektisalkku: miljoonia asiakkaita; kuukausittainen myynti miljardiluokassa. ## Osta tokenit alennuksella. Tilausalennus säännölliseen käyttöön. Kampanjakoodit — jopa 50% tokeniostoista. Tilaus Valitse alennushintainen paketti säännöllisiä pyyntöjäsi varten. Kampanjakoodi jopa 50% Syötä koodi oston yhteydessä. Hinta lasketaan uudelleen voimassa olevan kampanjan mukaan. Kulut historiassa Malli, tokenit ja summa tallennetaan jokaiselle pyynnölle. [Valitse tilaus](https://ailoot.ai/docs/fi/billing/subscriptions/) · [Katso mallihinnat](https://ailoot.ai/models/fi/) ## Yhdistä API tuotteeseen, jonka myyt. SaaS, sovellukset ja botit Ailootin palveluehtojen ja lisenssisopimuksen mukaisesti. Pyydä edelleenmyyntiin jälleenmyyjälisenssi. Kaupallinen sovellus Lisää tekstin, kuvien, videoiden ja äänen luonti palvelusi maksullisiin ominaisuuksiin. Jälleenmyyjälisenssi Lähetä projektikuvaus ja pääsyn toteutustapa. Pyydä kirjalliset käyttö- ja jälleenmyyntiehdot. Asiakirjat verkkosivustolla Palveluehdot, lisenssisopimus ja tietojenkäsittelykäytäntö ovat saatavilla ennen yhdistämistä. [Pyydä jälleenmyyjälisenssi](mailto:support@ailoot.ai) · [Palveluehdot ja lisenssisopimus](https://ailoot.ai/legal/offer?lang=fi) ## Ailoot · Yritys ja sen projektisalkku Ailoot perustuu kertyneeseen toimintakokemukseen, laajaan asiakaskuntaan, vakaaseen palveluun ja jatkuvaan KPI-seurantaan. Yritys ja sen projektisalkku: miljoonia asiakkaita; kuukausittainen myynti miljardiluokassa. Ailoot hyödyntää tätä toimintakokemusta tarjotessaan API-yhteyden tekoälytoimintoihin asiakkaiden tuotteissa, agenteissa, sovelluksissa ja automaatioissa.