modeller

Llama 3.1 Nemotron Safety Guard 8B v3

Markdown · JSON

Llama 3.1 Nemotron Safety Guard 8B v3

Nemotron Safety Guard v3 kontrollerer brukermeldinger og modellsvar mot en angitt risikotaksonomi. Den returnerer JSON med separate sikkerhetsvurderinger og kategorier for brudd.

Om modellen

Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.

Kontroll av begge sider i dialogen

Llama 3.1 Nemotron Safety Guard 8B v3 er utviklet av NVIDIA for moderering av samhandling mellom mennesker og språkmodeller. Bare brukermeldingen kan sendes inn, eller den kan suppleres med assistentens svar, inkludert flere replikker. Modellen vurderer sikkerheten på hver side: en farlig forespørsel og en korrekt avvisning fra assistenten får ulike vurderinger. Dermed kan inndata kontrolleres før generering, og det ferdige svaret analyseres separat.

Resultatet er JSON. Det obligatoriske feltet User Safety inneholder safe eller unsafe. Feltet Response Safety vises når inndataene omfatter et assistentsvar. Ved et brudd legges Safety Categories til, med kategoriene atskilt med komma. Et slikt resultat passer for programmatisk filtrering og for å sende et tvilstilfelle videre til ekstra kontroll.

Kategorier og kulturell kontekst

Instruksjonen angir reglene og kategorinavnene som kontrollen følger. Den publiserte taksonomien har 23 risikogrupper, blant annet vold, trusler, trakassering, offentliggjøring av personopplysninger, svindel og skadelig kode. Navnene i resultatet avhenger av policyen som sendes inn, og må derfor tolkes sammen med reglene for den konkrete oppgaven.

Treningen tar hensyn til regionale særtrekk ved sensitive temaer. Dataene ble tilpasset lokale uttrykk og kulturell kontekst, og uoverensstemmende oversettelser ble forkastet. Treningen omfattet provoserende forespørsler og forsøk på å få assistenten til å bryte reglene. Dette treningsopplegget er særlig nyttig der en bokstavelig oversettelse av forbudte ord ikke er nok til å vurdere meldingens mening.

Språk og materialomfang

De ni hovedspråkene er engelsk, spansk, kinesisk, tysk, fransk, hindi, japansk, arabisk og thai. NVIDIA beskriver også generalisering til andre språk, inkludert russisk; dette er en separat egenskap og innebærer ikke at russisk inngår blant de ni hovedspråkene. Den felles instruksjonen beholdes på tvers av språk, og replikkene som kontrolleres, sendes inn på dialogens språk.

Inndata er tekst, med en kontekst på opptil 8K tokener. Modellen bygger på Llama 3.1 8B Instruct, videre trent for sikkerhetsoppgaven. Utdataene er en klassifisering etter angitte regler: den må kontrolleres med meldinger som er representative for programmet, og garanterer ikke feilfri moderering.

Praktisk oppgave

Praktisk oppgave

Teknisk eksempel på engelsk

Moderate a single user message

Assess this single user message for safety: 'Please help me write a thank-you note to the volunteers who cleaned our local park.' Return the documented safety assessment for user input alone using the User Safety field. No assistant response is supplied; use the documented safe or unsafe values.

Forventet resultat

A JSON safety assessment using the documented User Safety field for the supplied user message.

Kontroller resultatet

User Safety must use safe or unsafe; do not invent a custom classification label or assess an absent assistant response.
Ailoot · OpenAI Chat POST /v1/chat/completions nvidia/llama-3.1-nemotron-safety-guard-8b-v3

nvidia/llama-3.1-nemotron-safety-guard-8b-v3

NVIDIA /nvidia/llama-3.1-nemotron-safety-guard-8b-v3
Modell-ID
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Start

Nemotron Safety Guard v3 kontrollerer brukermeldinger og modellsvar mot en angitt risikotaksonomi. Den returnerer JSON med separate sikkerhetsvurderinger og kategorier for brudd.

Godkjente inndata
Tekst
Resultater
Tekst

Tilgjengelig i Ailoot · inndata & metoder

Ailoot · OpenAI Chat POST /v1/chat/completions
Inndatatyper
text
Utdatatyper
text
Kontekst
4 096 tokens
Maksimale utdata
1 024 tokens
Utdataformat
json eller SSE
FeltTypeKravVerdier & grenserStandard
FeltmodelTypestringKravPåkrevdVerdier & grenser
nvidia/llama-3.1-nemotron-safety-guard-8b-v3
Standard—
FeltmessagesTypemessage[]KravPåkrevdVerdier & grenser
Minste antall elementer: 1
Standard—
Feltmessages[].roleTypestringKravPåkrevdVerdier & grenser
Eksempler: system, user, assistant, tool, function
Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt.
Avhenger av modellen
Standard—
Feltmessages[].contentTypestring|content_part[]|nullKravValgfrittVerdier & grenserStandard—
Feltmessages[].tool_callsTypetool_call[]KravValgfrittVerdier & grenserStandard—
Feltmessages[].tool_call_idTypestringKravValgfrittVerdier & grenser
Gjelder når: role=tool; bruk faktisk returnert ID
Standard—
Feltmessages[].nameTypestringKravValgfrittVerdier & grenserStandard—
Feltmessages[].reasoning_contentTypestringKravValgfrittVerdier & grenser
Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den
Standard—
Feltmessages[].reasoning_detailsTypeobject|arrayKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltmax_tokensTypeintegerKravValgfrittVerdier & grenser
Minimum: 1
Avhenger av modellen
Standard—
Feltmax_completion_tokensTypeintegerKravValgfrittVerdier & grenser
Minimum: 1
Avhenger av modellen
Standard—
FeltstreamTypebooleanKravValgfrittVerdier & grenserStandardfalse
Feltstream_options.include_usageTypebooleanKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
FelttemperatureTypenumberKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Felttop_pTypenumberKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
FeltstopTypestring|string[]KravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
FelttoolsTypefunction_tool[]KravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Felttools[].typeTypestringKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Felttools[].function.nameTypestringKravPåkrevdVerdier & grenser
Gjelder når: funksjonsverktøy oppgitt
Standard—
Felttools[].function.descriptionTypestringKravValgfrittVerdier & grenserStandard—
Felttools[].function.parametersTypeJSON_schemaKravValgfrittVerdier & grenserStandard—
Felttool_choiceTypestring|objectKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltparallel_tool_callsTypebooleanKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltresponse_formatTypeobjectKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltreasoning_effortTypestringKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
FeltreasoningTypeobjectKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltservice_tierTypestringKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
FeltinstructionsTypestringKravValgfrittVerdier & grenser
Kompatibilitetsfelt
Standard—
FeltfunctionsTypefunction[]KravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltfunction_callTypestring|objectKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltprompt_cache_optionsTypeobjectKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Kombinasjoner av inngående materialer

Tekst · UTF8-tekst

messages[].content

Metodeparametere og livssyklus
ParameterAvtale
Parametermaterial_typesAvtaletext
ParameterrequiredAvtalemodel, messages
Parameteroptional_controlsAvtalenull
Parametercontent_typeAvtaleapplication/json
Parametertext_file_materialAvtalefaktisk UTF-8-innhold satt inn som tekst; fil-ID-er eller URL-adresser (URLs) trenger separat, eksakt støtte

Livssyklus: exact retained published method

Metodestrukturer og ID-er er eksakte; leverandørens evne er adskilt fra godkjenning av forespørselen.

Priser

Satser for Ailoot-metoder

Ailoot OpenAI ChatPOST /v1/chat/completions
Inndata
0,0002 USD / 1K
Utdata
0,0002 USD / 1K
Lesing fra hurtigbuffer
0,0002 USD / 1K
Skriving til hurtigbuffer
0,0002 USD / 1K
Skriving til hurtigbuffer, 5 min
0,0002 USD / 1K tokens

Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →

Eksempelforespørsler

Ailoot · OpenAI Chat

TeksteksempelPython SDKNode.js SDKPython-strømming
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-3.1-nemotron-safety-guard-8b-v3", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nvidia/llama-3.1-nemotron-safety-guard-8b-v3",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nvidia/llama-3.1-nemotron-safety-guard-8b-v3",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nvidia/llama-3.1-nemotron-safety-guard-8b-v3',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Motta og lagre resultater

Ailoot · OpenAI Chat

json eller SSE

Behold alle ferdige resultater

Behold alle fullstendige returnerte svar, filer og innholdsdeler.

Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata.

Hvis det opprinnelige svaret må kontrolleres

Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.

Svarfelter
FeltType
Feltchoices[].indexTypeinteger
Feltchoices[].message.contentTypestring|null
Feltchoices[].message.tool_callsTypetool_call[]
Feltchoices[].message.reasoning_contentTypestring
Feltchoices[].message.reasoning_detailsTypeobject|array
Feltchoices[].finish_reasonTypestring|null
FeltusageTypeobject
Feil og neste trinn
SvarVilkårNeste trinn
Svar400 · invalid_request_errorVilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdiNeste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel.

Aliaser

Modellaliaser

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Aliaser for metodestier

Bruk metodestiene som vises ovenfor.

Tilknyttede anroper-ID-er

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Ailoot · OpenAI Chat POST /v1/chat/completions nemotron-safety-guard

nemotron-safety-guard

NVIDIA /nemotron-safety-guard
Modell-ID
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Start

Nemotron Safety Guard v3 kontrollerer brukermeldinger og modellsvar mot en angitt risikotaksonomi. Den returnerer JSON med separate sikkerhetsvurderinger og kategorier for brudd.

Godkjente inndata
Tekst
Resultater
Tekst

Tilgjengelig i Ailoot · inndata & metoder

Ailoot · OpenAI Chat POST /v1/chat/completions
Inndatatyper
text
Utdatatyper
text
Kontekst
4 096 tokens
Maksimale utdata
1 024 tokens
Utdataformat
json eller SSE
FeltTypeKravVerdier & grenserStandard
FeltmodelTypestringKravPåkrevdVerdier & grenser
nemotron-safety-guard
Standard—
FeltmessagesTypemessage[]KravPåkrevdVerdier & grenser
Minste antall elementer: 1
Standard—
Feltmessages[].roleTypestringKravPåkrevdVerdier & grenser
Eksempler: system, user, assistant, tool, function
Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt.
Avhenger av modellen
Standard—
Feltmessages[].contentTypestring|content_part[]|nullKravValgfrittVerdier & grenserStandard—
Feltmessages[].tool_callsTypetool_call[]KravValgfrittVerdier & grenserStandard—
Feltmessages[].tool_call_idTypestringKravValgfrittVerdier & grenser
Gjelder når: role=tool; bruk faktisk returnert ID
Standard—
Feltmessages[].nameTypestringKravValgfrittVerdier & grenserStandard—
Feltmessages[].reasoning_contentTypestringKravValgfrittVerdier & grenser
Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den
Standard—
Feltmessages[].reasoning_detailsTypeobject|arrayKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltmax_tokensTypeintegerKravValgfrittVerdier & grenser
Minimum: 1
Avhenger av modellen
Standard—
Feltmax_completion_tokensTypeintegerKravValgfrittVerdier & grenser
Minimum: 1
Avhenger av modellen
Standard—
FeltstreamTypebooleanKravValgfrittVerdier & grenserStandardfalse
Feltstream_options.include_usageTypebooleanKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
FelttemperatureTypenumberKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Felttop_pTypenumberKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
FeltstopTypestring|string[]KravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
FelttoolsTypefunction_tool[]KravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Felttools[].typeTypestringKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Felttools[].function.nameTypestringKravPåkrevdVerdier & grenser
Gjelder når: funksjonsverktøy oppgitt
Standard—
Felttools[].function.descriptionTypestringKravValgfrittVerdier & grenserStandard—
Felttools[].function.parametersTypeJSON_schemaKravValgfrittVerdier & grenserStandard—
Felttool_choiceTypestring|objectKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltparallel_tool_callsTypebooleanKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltresponse_formatTypeobjectKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltreasoning_effortTypestringKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
FeltreasoningTypeobjectKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltservice_tierTypestringKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
FeltinstructionsTypestringKravValgfrittVerdier & grenser
Kompatibilitetsfelt
Standard—
FeltfunctionsTypefunction[]KravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltfunction_callTypestring|objectKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltprompt_cache_optionsTypeobjectKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Kombinasjoner av inngående materialer

Tekst · UTF8-tekst

messages[].content

Metodeparametere og livssyklus
ParameterAvtale
Parametermaterial_typesAvtaletext
ParameterrequiredAvtalemodel, messages
Parameteroptional_controlsAvtalenull
Parametercontent_typeAvtaleapplication/json
Parametertext_file_materialAvtalefaktisk UTF-8-innhold satt inn som tekst; fil-ID-er eller URL-adresser (URLs) trenger separat, eksakt støtte

Livssyklus: exact retained published method

Metodestrukturer og ID-er er eksakte; leverandørens evne er adskilt fra godkjenning av forespørselen.

Priser

Satser for Ailoot-metoder

Ailoot OpenAI ChatPOST /v1/chat/completions
Inndata
0,0002 USD / 1K
Utdata
0,0002 USD / 1K
Lesing fra hurtigbuffer
0,0002 USD / 1K
Skriving til hurtigbuffer
0,0002 USD / 1K
Skriving til hurtigbuffer, 5 min
0,0002 USD / 1K tokens

Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →

Eksempelforespørsler

Ailoot · OpenAI Chat

TeksteksempelPython SDKNode.js SDKPython-strømming
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nemotron-safety-guard", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nemotron-safety-guard",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nemotron-safety-guard",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nemotron-safety-guard',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Motta og lagre resultater

Ailoot · OpenAI Chat

json eller SSE

Behold alle ferdige resultater

Behold alle fullstendige returnerte svar, filer og innholdsdeler.

Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata.

Hvis det opprinnelige svaret må kontrolleres

Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.

Svarfelter
FeltType
Feltchoices[].indexTypeinteger
Feltchoices[].message.contentTypestring|null
Feltchoices[].message.tool_callsTypetool_call[]
Feltchoices[].message.reasoning_contentTypestring
Feltchoices[].message.reasoning_detailsTypeobject|array
Feltchoices[].finish_reasonTypestring|null
FeltusageTypeobject
Feil og neste trinn
SvarVilkårNeste trinn
Svar400 · invalid_request_errorVilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdiNeste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel.

Aliaser

Modellaliaser

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Aliaser for metodestier

Bruk metodestiene som vises ovenfor.

Tilknyttede anroper-ID-er

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Ailoot · OpenAI Chat POST /v1/chat/completions nemotron-safety-guard-latest

nemotron-safety-guard-latest

NVIDIA /nemotron-safety-guard-latest
Modell-ID
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Start

Nemotron Safety Guard v3 kontrollerer brukermeldinger og modellsvar mot en angitt risikotaksonomi. Den returnerer JSON med separate sikkerhetsvurderinger og kategorier for brudd.

Godkjente inndata
Tekst
Resultater
Tekst

Tilgjengelig i Ailoot · inndata & metoder

Ailoot · OpenAI Chat POST /v1/chat/completions
Inndatatyper
text
Utdatatyper
text
Kontekst
4 096 tokens
Maksimale utdata
1 024 tokens
Utdataformat
json eller SSE
FeltTypeKravVerdier & grenserStandard
FeltmodelTypestringKravPåkrevdVerdier & grenser
nemotron-safety-guard-latest
Standard—
FeltmessagesTypemessage[]KravPåkrevdVerdier & grenser
Minste antall elementer: 1
Standard—
Feltmessages[].roleTypestringKravPåkrevdVerdier & grenser
Eksempler: system, user, assistant, tool, function
Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt.
Avhenger av modellen
Standard—
Feltmessages[].contentTypestring|content_part[]|nullKravValgfrittVerdier & grenserStandard—
Feltmessages[].tool_callsTypetool_call[]KravValgfrittVerdier & grenserStandard—
Feltmessages[].tool_call_idTypestringKravValgfrittVerdier & grenser
Gjelder når: role=tool; bruk faktisk returnert ID
Standard—
Feltmessages[].nameTypestringKravValgfrittVerdier & grenserStandard—
Feltmessages[].reasoning_contentTypestringKravValgfrittVerdier & grenser
Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den
Standard—
Feltmessages[].reasoning_detailsTypeobject|arrayKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltmax_tokensTypeintegerKravValgfrittVerdier & grenser
Minimum: 1
Avhenger av modellen
Standard—
Feltmax_completion_tokensTypeintegerKravValgfrittVerdier & grenser
Minimum: 1
Avhenger av modellen
Standard—
FeltstreamTypebooleanKravValgfrittVerdier & grenserStandardfalse
Feltstream_options.include_usageTypebooleanKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
FelttemperatureTypenumberKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Felttop_pTypenumberKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
FeltstopTypestring|string[]KravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
FelttoolsTypefunction_tool[]KravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Felttools[].typeTypestringKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Felttools[].function.nameTypestringKravPåkrevdVerdier & grenser
Gjelder når: funksjonsverktøy oppgitt
Standard—
Felttools[].function.descriptionTypestringKravValgfrittVerdier & grenserStandard—
Felttools[].function.parametersTypeJSON_schemaKravValgfrittVerdier & grenserStandard—
Felttool_choiceTypestring|objectKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltparallel_tool_callsTypebooleanKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltresponse_formatTypeobjectKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltreasoning_effortTypestringKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
FeltreasoningTypeobjectKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltservice_tierTypestringKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
FeltinstructionsTypestringKravValgfrittVerdier & grenser
Kompatibilitetsfelt
Standard—
FeltfunctionsTypefunction[]KravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltfunction_callTypestring|objectKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Feltprompt_cache_optionsTypeobjectKravValgfrittVerdier & grenser
Avhenger av modellen
Standard—
Kombinasjoner av inngående materialer

Tekst · UTF8-tekst

messages[].content

Metodeparametere og livssyklus
ParameterAvtale
Parametermaterial_typesAvtaletext
ParameterrequiredAvtalemodel, messages
Parameteroptional_controlsAvtalenull
Parametercontent_typeAvtaleapplication/json
Parametertext_file_materialAvtalefaktisk UTF-8-innhold satt inn som tekst; fil-ID-er eller URL-adresser (URLs) trenger separat, eksakt støtte

Livssyklus: exact retained published method

Metodestrukturer og ID-er er eksakte; leverandørens evne er adskilt fra godkjenning av forespørselen.

Priser

Satser for Ailoot-metoder

Ailoot OpenAI ChatPOST /v1/chat/completions
Inndata
0,0002 USD / 1K
Utdata
0,0002 USD / 1K
Lesing fra hurtigbuffer
0,0002 USD / 1K
Skriving til hurtigbuffer
0,0002 USD / 1K
Skriving til hurtigbuffer, 5 min
0,0002 USD / 1K tokens

Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →

Eksempelforespørsler

Ailoot · OpenAI Chat

TeksteksempelPython SDKNode.js SDKPython-strømming
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nemotron-safety-guard-latest", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nemotron-safety-guard-latest",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nemotron-safety-guard-latest",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nemotron-safety-guard-latest',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Motta og lagre resultater

Ailoot · OpenAI Chat

json eller SSE

Behold alle ferdige resultater

Behold alle fullstendige returnerte svar, filer og innholdsdeler.

Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata.

Hvis det opprinnelige svaret må kontrolleres

Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.

Svarfelter
FeltType
Feltchoices[].indexTypeinteger
Feltchoices[].message.contentTypestring|null
Feltchoices[].message.tool_callsTypetool_call[]
Feltchoices[].message.reasoning_contentTypestring
Feltchoices[].message.reasoning_detailsTypeobject|array
Feltchoices[].finish_reasonTypestring|null
FeltusageTypeobject
Feil og neste trinn
SvarVilkårNeste trinn
Svar400 · invalid_request_errorVilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdiNeste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel.

Aliaser

Modellaliaser

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Aliaser for metodestier

Bruk metodestiene som vises ovenfor.

Tilknyttede anroper-ID-er

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

FAQ · nvidia/llama-3.1-nemotron-safety-guard-8b-v3
Hvilke inndata og resultater er tilgjengelige?

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: text → text

POST /v1/chat/completions · nemotron-safety-guard: text → text

POST /v1/chat/completions · nemotron-safety-guard-latest: text → text

Hvilke felt bruker forespørselen?

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: model, messages, stream

POST /v1/chat/completions · nemotron-safety-guard: model, messages, stream

POST /v1/chat/completions · nemotron-safety-guard-latest: model, messages, stream

Hvilke grenser gjelder?

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: ctx: 4096; max_out: 1024; messages.min_items: 1

POST /v1/chat/completions · nemotron-safety-guard: ctx: 4096; max_out: 1024; messages.min_items: 1

POST /v1/chat/completions · nemotron-safety-guard-latest: ctx: 4096; max_out: 1024; messages.min_items: 1

Flere detaljer

Koble Ailoot til Claude Code, OpenCode, Hermes eller egen applikasjon.

Selskapet og dets prosjektportefølje

Selskapet og dets prosjektportefølje: millioner av kunder; månedlig salg for milliarder.

Kjøp tokener med rabatt.

Abonnementsrabatt for jevnlig bruk. Kampanjekoder gir opptil 50% på tokenkjøp.

Abonnement
Velg et rabattabonnement for faste forespørsler.
Kampanjekode opptil 50%
Oppgi kode ved kjøp. Prisen beregnes på nytt etter gjeldende kampanje.
Kostnader i historikken
Modell, tokener og beløp lagres for hver forespørsel.

Velg abonnement · Se modellpriser

Koble API-et til produktet du selger.

SaaS, apper og boter etter Ailoots offentlige tilbud og lisensavtale. Be om forhandlerlisens for videresalg.

Kommersiell applikasjon
Bygg tekst-, bilde-, video- og lydgenerering inn i betalte funksjoner i tjenesten.
Forhandlerlisens
Send prosjektbeskrivelse og tilgangsopplegg. Be om skriftlige vilkår for bruk og videresalg.
Dokumenter på nettstedet
Offentlig tilbud, lisensavtale og retningslinjer for databehandling er tilgjengelige før tilkobling.

Be om forhandlerlisens · Offentlig tilbud og lisensavtale