Modelle

Llama 3.1 Nemotron Safety Guard 8B v3

Markdown · JSON

Llama 3.1 Nemotron Safety Guard 8B v3

Nemotron Safety Guard v3 prüft Nutzernachrichten und Modellantworten anhand einer vorgegebenen Risikotaxonomie. Gibt JSON mit separaten Sicherheitsbewertungen und Verstoßkategorien zurück.

Über das Modell

Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.

Beide Seiten eines Dialogs prüfen

Llama 3.1 Nemotron Safety Guard 8B v3 wurde von NVIDIA zur Moderation der Interaktion zwischen Menschen und Sprachmodellen entwickelt. Es kann nur eine Nutzernachricht oder zusätzlich eine Assistentenantwort erhalten, auch mit mehreren Beiträgen. Das Modell bestimmt die Sicherheit jeder Seite: Eine gefährliche Anfrage und eine korrekte Ablehnung durch den Assistenten erhalten unterschiedliche Bewertungen. So lässt sich die Eingabe vor der Generierung prüfen und eine bereits erstellte Antwort separat analysieren.

Das Ergebnis ist JSON. Das Pflichtfeld User Safety enthält safe oder unsafe. Response Safety erscheint, wenn die Eingabe eine Assistentenantwort enthält. Wird ein Verstoß erkannt, wird Safety Categories mit durch Kommas getrennten Kategorien hinzugefügt. Dieses Ergebnis eignet sich für programmatische Filterung und die Weitergabe strittiger Fälle zur zusätzlichen Prüfung.

Kategorien und kultureller Kontext

Die Anweisung legt Regeln und Kategorienamen für die Prüfung fest. Die veröffentlichte Taxonomie umfasst 23 Risikogruppen, darunter Gewalt, Drohungen, Belästigung, Offenlegung persönlicher Daten, Betrug und Schadcode. Die Namen im Ergebnis hängen von der übermittelten Richtlinie ab und müssen deshalb zusammen mit den Regeln der konkreten Aufgabe interpretiert werden.

Das Training berücksichtigt regionale Besonderheiten sensibler Themen. Daten wurden an lokale Ausdrücke und kulturellen Kontext angepasst; uneinheitliche Übersetzungen wurden verworfen. Provokative Anfragen und Versuche, den Assistenten zu Regelverstößen zu bewegen, wurden in das Training einbezogen. Dieser Trainingsaufbau ist besonders dort hilfreich, wo eine wörtliche Übersetzung verbotener Wörter zur Bedeutungsbewertung einer Nachricht nicht ausreicht.

Sprachen und Materialumfang

Die neun Hauptsprachen sind Englisch, Spanisch, Chinesisch, Deutsch, Französisch, Hindi, Japanisch, Arabisch und Thailändisch. NVIDIA beschreibt auch die Generalisierung auf weitere Sprachen, darunter Russisch; das ist eine separate Eigenschaft und nimmt Russisch nicht in die neun Hauptsprachen auf. Die allgemeine Anweisung bleibt zwischen Sprachen erhalten, die zu prüfenden Beiträge werden in der Dialogsprache übermittelt.

Die Eingabe ist Text, der Kontext reicht bis zu 8K Tokens. Das Modell basiert auf Llama 3.1 8B Instruct, das für die Sicherheitsaufgabe feinabgestimmt wurde. Die Ausgabe dient der Klassifikation nach vorgegebenen Regeln: Sie muss anhand typischer Anwendungsnachrichten geprüft werden und garantiert keine fehlerfreie Moderation.

Praktische Aufgabe

Praktische Aufgabe

Technisches Beispiel auf Englisch

Moderate a single user message

Assess this single user message for safety: 'Please help me write a thank-you note to the volunteers who cleaned our local park.' Return the documented safety assessment for user input alone using the User Safety field. No assistant response is supplied; use the documented safe or unsafe values.

Erwartetes Ergebnis

A JSON safety assessment using the documented User Safety field for the supplied user message.

Ergebnis prüfen

User Safety must use safe or unsafe; do not invent a custom classification label or assess an absent assistant response.
Ailoot · OpenAI Chat POST /v1/chat/completions nvidia/llama-3.1-nemotron-safety-guard-8b-v3

nvidia/llama-3.1-nemotron-safety-guard-8b-v3

NVIDIA /nvidia/llama-3.1-nemotron-safety-guard-8b-v3
Modell-ID
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Start

Nemotron Safety Guard v3 prüft Nutzernachrichten und Modellantworten anhand einer vorgegebenen Risikotaxonomie. Gibt JSON mit separaten Sicherheitsbewertungen und Verstoßkategorien zurück.

Zulässige Eingaben
Text
Ergebnisse
Text

In Ailoot verfügbar · Eingaben und Methoden

Ailoot · OpenAI Chat POST /v1/chat/completions
Eingabetypen
text
Ausgabetypen
text
Kontext
4.096 tokens
Maximale Ausgabe
1.024 tokens
Ausgabeformat
json oder SSE
FeldTypAnforderungWerte und LimitsStandard
FeldmodelTypstringAnforderungErforderlichWerte und Limits
nvidia/llama-3.1-nemotron-safety-guard-8b-v3
Standard—
FeldmessagesTypmessage[]AnforderungErforderlichWerte und Limits
Mindestanzahl Elemente: 1
Standard—
Feldmessages[].roleTypstringAnforderungErforderlichWerte und Limits
Beispiele: system, user, assistant, tool, function
Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch.
Modellabhängig
Standard—
Feldmessages[].contentTypstring|content_part[]|nullAnforderungOptionalWerte und LimitsStandard—
Feldmessages[].tool_callsTyptool_call[]AnforderungOptionalWerte und LimitsStandard—
Feldmessages[].tool_call_idTypstringAnforderungOptionalWerte und Limits
Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden
Standard—
Feldmessages[].nameTypstringAnforderungOptionalWerte und LimitsStandard—
Feldmessages[].reasoning_contentTypstringAnforderungOptionalWerte und Limits
Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet
Standard—
Feldmessages[].reasoning_detailsTypobject|arrayAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldmax_tokensTypintegerAnforderungOptionalWerte und Limits
Minimum: 1
Modellabhängig
Standard—
Feldmax_completion_tokensTypintegerAnforderungOptionalWerte und Limits
Minimum: 1
Modellabhängig
Standard—
FeldstreamTypbooleanAnforderungOptionalWerte und LimitsStandardfalse
Feldstream_options.include_usageTypbooleanAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldtemperatureTypnumberAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldtop_pTypnumberAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldstopTypstring|string[]AnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldtoolsTypfunction_tool[]AnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldtools[].typeTypstringAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldtools[].function.nameTypstringAnforderungErforderlichWerte und Limits
Gilt, wenn: Funktionswerkzeug bereitgestellt
Standard—
Feldtools[].function.descriptionTypstringAnforderungOptionalWerte und LimitsStandard—
Feldtools[].function.parametersTypJSON_schemaAnforderungOptionalWerte und LimitsStandard—
Feldtool_choiceTypstring|objectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldparallel_tool_callsTypbooleanAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldresponse_formatTypobjectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldreasoning_effortTypstringAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldreasoningTypobjectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldservice_tierTypstringAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldinstructionsTypstringAnforderungOptionalWerte und Limits
Kompatibilitätsfeld
Standard—
FeldfunctionsTypfunction[]AnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldfunction_callTypstring|objectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldprompt_cache_optionsTypobjectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Kombinationen von Eingabematerialien

Text · UTF8-Text

messages[].content

Methodenparameter und Lebenszyklus
ParameterVertrag
Parametermaterial_typesVertragtext
ParameterrequiredVertragmodel, messages
Parameteroptional_controlsVertragnull
Parametercontent_typeVertragapplication/json
Parametertext_file_materialVertragTatsächlicher UTF-8-Inhalt wird als Text eingefügt; Datei-IDs/URLs müssen separat und exakt unterstützt werden

Lebenszyklus: exact retained published method

Methodenstrukturen und IDs sind exakt; die Fähigkeiten des Anbieters sind von der Zulassung einer Anfrage zu unterscheiden.

Tarife

Ailoot-Methodentarife

Ailoot OpenAI ChatPOST /v1/chat/completions
Eingabe
0,0002 $ / 1K
Ausgabe
0,0002 $ / 1K
Cache-Lesen
0,0002 $ / 1K
Cache-Schreiben
0,0002 $ / 1K
Cache-Schreiben, 5 Min.
0,0002 $ / 1K tokens

Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →

Beispielanfragen

Ailoot · OpenAI Chat

TextbeispielPython SDKNode.js SDKPython-Stream
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-3.1-nemotron-safety-guard-8b-v3", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nvidia/llama-3.1-nemotron-safety-guard-8b-v3",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nvidia/llama-3.1-nemotron-safety-guard-8b-v3",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nvidia/llama-3.1-nemotron-safety-guard-8b-v3',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Ergebnisse abrufen und speichern

Ailoot · OpenAI Chat

json oder SSE

Alle fertiggestellten Ergebnisse aufbewahren

Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.

Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.

Wenn die ursprüngliche Antwort geprüft werden muss

Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.

Antwortfelder
FeldTyp
Feldchoices[].indexTypinteger
Feldchoices[].message.contentTypstring|null
Feldchoices[].message.tool_callsTyptool_call[]
Feldchoices[].message.reasoning_contentTypstring
Feldchoices[].message.reasoning_detailsTypobject|array
Feldchoices[].finish_reasonTypstring|null
FeldusageTypobject
Fehler und nächste Schritte
AntwortBedingungNächster Schritt
Antwort400 · invalid_request_errorBedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültigNächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren.

Aliasnamen

Modellaliasnamen

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Aliasnamen für Methodenpfade

Verwenden Sie die oben angezeigten Methodenpfade.

Zugehörige Aufrufer-IDs

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Ailoot · OpenAI Chat POST /v1/chat/completions nemotron-safety-guard

nemotron-safety-guard

NVIDIA /nemotron-safety-guard
Modell-ID
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Start

Nemotron Safety Guard v3 prüft Nutzernachrichten und Modellantworten anhand einer vorgegebenen Risikotaxonomie. Gibt JSON mit separaten Sicherheitsbewertungen und Verstoßkategorien zurück.

Zulässige Eingaben
Text
Ergebnisse
Text

In Ailoot verfügbar · Eingaben und Methoden

Ailoot · OpenAI Chat POST /v1/chat/completions
Eingabetypen
text
Ausgabetypen
text
Kontext
4.096 tokens
Maximale Ausgabe
1.024 tokens
Ausgabeformat
json oder SSE
FeldTypAnforderungWerte und LimitsStandard
FeldmodelTypstringAnforderungErforderlichWerte und Limits
nemotron-safety-guard
Standard—
FeldmessagesTypmessage[]AnforderungErforderlichWerte und Limits
Mindestanzahl Elemente: 1
Standard—
Feldmessages[].roleTypstringAnforderungErforderlichWerte und Limits
Beispiele: system, user, assistant, tool, function
Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch.
Modellabhängig
Standard—
Feldmessages[].contentTypstring|content_part[]|nullAnforderungOptionalWerte und LimitsStandard—
Feldmessages[].tool_callsTyptool_call[]AnforderungOptionalWerte und LimitsStandard—
Feldmessages[].tool_call_idTypstringAnforderungOptionalWerte und Limits
Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden
Standard—
Feldmessages[].nameTypstringAnforderungOptionalWerte und LimitsStandard—
Feldmessages[].reasoning_contentTypstringAnforderungOptionalWerte und Limits
Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet
Standard—
Feldmessages[].reasoning_detailsTypobject|arrayAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldmax_tokensTypintegerAnforderungOptionalWerte und Limits
Minimum: 1
Modellabhängig
Standard—
Feldmax_completion_tokensTypintegerAnforderungOptionalWerte und Limits
Minimum: 1
Modellabhängig
Standard—
FeldstreamTypbooleanAnforderungOptionalWerte und LimitsStandardfalse
Feldstream_options.include_usageTypbooleanAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldtemperatureTypnumberAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldtop_pTypnumberAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldstopTypstring|string[]AnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldtoolsTypfunction_tool[]AnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldtools[].typeTypstringAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldtools[].function.nameTypstringAnforderungErforderlichWerte und Limits
Gilt, wenn: Funktionswerkzeug bereitgestellt
Standard—
Feldtools[].function.descriptionTypstringAnforderungOptionalWerte und LimitsStandard—
Feldtools[].function.parametersTypJSON_schemaAnforderungOptionalWerte und LimitsStandard—
Feldtool_choiceTypstring|objectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldparallel_tool_callsTypbooleanAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldresponse_formatTypobjectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldreasoning_effortTypstringAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldreasoningTypobjectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldservice_tierTypstringAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldinstructionsTypstringAnforderungOptionalWerte und Limits
Kompatibilitätsfeld
Standard—
FeldfunctionsTypfunction[]AnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldfunction_callTypstring|objectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldprompt_cache_optionsTypobjectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Kombinationen von Eingabematerialien

Text · UTF8-Text

messages[].content

Methodenparameter und Lebenszyklus
ParameterVertrag
Parametermaterial_typesVertragtext
ParameterrequiredVertragmodel, messages
Parameteroptional_controlsVertragnull
Parametercontent_typeVertragapplication/json
Parametertext_file_materialVertragTatsächlicher UTF-8-Inhalt wird als Text eingefügt; Datei-IDs/URLs müssen separat und exakt unterstützt werden

Lebenszyklus: exact retained published method

Methodenstrukturen und IDs sind exakt; die Fähigkeiten des Anbieters sind von der Zulassung einer Anfrage zu unterscheiden.

Tarife

Ailoot-Methodentarife

Ailoot OpenAI ChatPOST /v1/chat/completions
Eingabe
0,0002 $ / 1K
Ausgabe
0,0002 $ / 1K
Cache-Lesen
0,0002 $ / 1K
Cache-Schreiben
0,0002 $ / 1K
Cache-Schreiben, 5 Min.
0,0002 $ / 1K tokens

Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →

Beispielanfragen

Ailoot · OpenAI Chat

TextbeispielPython SDKNode.js SDKPython-Stream
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nemotron-safety-guard", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nemotron-safety-guard",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nemotron-safety-guard",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nemotron-safety-guard',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Ergebnisse abrufen und speichern

Ailoot · OpenAI Chat

json oder SSE

Alle fertiggestellten Ergebnisse aufbewahren

Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.

Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.

Wenn die ursprüngliche Antwort geprüft werden muss

Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.

Antwortfelder
FeldTyp
Feldchoices[].indexTypinteger
Feldchoices[].message.contentTypstring|null
Feldchoices[].message.tool_callsTyptool_call[]
Feldchoices[].message.reasoning_contentTypstring
Feldchoices[].message.reasoning_detailsTypobject|array
Feldchoices[].finish_reasonTypstring|null
FeldusageTypobject
Fehler und nächste Schritte
AntwortBedingungNächster Schritt
Antwort400 · invalid_request_errorBedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültigNächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren.

Aliasnamen

Modellaliasnamen

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Aliasnamen für Methodenpfade

Verwenden Sie die oben angezeigten Methodenpfade.

Zugehörige Aufrufer-IDs

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Ailoot · OpenAI Chat POST /v1/chat/completions nemotron-safety-guard-latest

nemotron-safety-guard-latest

NVIDIA /nemotron-safety-guard-latest
Modell-ID
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Start

Nemotron Safety Guard v3 prüft Nutzernachrichten und Modellantworten anhand einer vorgegebenen Risikotaxonomie. Gibt JSON mit separaten Sicherheitsbewertungen und Verstoßkategorien zurück.

Zulässige Eingaben
Text
Ergebnisse
Text

In Ailoot verfügbar · Eingaben und Methoden

Ailoot · OpenAI Chat POST /v1/chat/completions
Eingabetypen
text
Ausgabetypen
text
Kontext
4.096 tokens
Maximale Ausgabe
1.024 tokens
Ausgabeformat
json oder SSE
FeldTypAnforderungWerte und LimitsStandard
FeldmodelTypstringAnforderungErforderlichWerte und Limits
nemotron-safety-guard-latest
Standard—
FeldmessagesTypmessage[]AnforderungErforderlichWerte und Limits
Mindestanzahl Elemente: 1
Standard—
Feldmessages[].roleTypstringAnforderungErforderlichWerte und Limits
Beispiele: system, user, assistant, tool, function
Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch.
Modellabhängig
Standard—
Feldmessages[].contentTypstring|content_part[]|nullAnforderungOptionalWerte und LimitsStandard—
Feldmessages[].tool_callsTyptool_call[]AnforderungOptionalWerte und LimitsStandard—
Feldmessages[].tool_call_idTypstringAnforderungOptionalWerte und Limits
Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden
Standard—
Feldmessages[].nameTypstringAnforderungOptionalWerte und LimitsStandard—
Feldmessages[].reasoning_contentTypstringAnforderungOptionalWerte und Limits
Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet
Standard—
Feldmessages[].reasoning_detailsTypobject|arrayAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldmax_tokensTypintegerAnforderungOptionalWerte und Limits
Minimum: 1
Modellabhängig
Standard—
Feldmax_completion_tokensTypintegerAnforderungOptionalWerte und Limits
Minimum: 1
Modellabhängig
Standard—
FeldstreamTypbooleanAnforderungOptionalWerte und LimitsStandardfalse
Feldstream_options.include_usageTypbooleanAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldtemperatureTypnumberAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldtop_pTypnumberAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldstopTypstring|string[]AnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldtoolsTypfunction_tool[]AnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldtools[].typeTypstringAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldtools[].function.nameTypstringAnforderungErforderlichWerte und Limits
Gilt, wenn: Funktionswerkzeug bereitgestellt
Standard—
Feldtools[].function.descriptionTypstringAnforderungOptionalWerte und LimitsStandard—
Feldtools[].function.parametersTypJSON_schemaAnforderungOptionalWerte und LimitsStandard—
Feldtool_choiceTypstring|objectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldparallel_tool_callsTypbooleanAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldresponse_formatTypobjectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldreasoning_effortTypstringAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldreasoningTypobjectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldservice_tierTypstringAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldinstructionsTypstringAnforderungOptionalWerte und Limits
Kompatibilitätsfeld
Standard—
FeldfunctionsTypfunction[]AnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldfunction_callTypstring|objectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldprompt_cache_optionsTypobjectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Kombinationen von Eingabematerialien

Text · UTF8-Text

messages[].content

Methodenparameter und Lebenszyklus
ParameterVertrag
Parametermaterial_typesVertragtext
ParameterrequiredVertragmodel, messages
Parameteroptional_controlsVertragnull
Parametercontent_typeVertragapplication/json
Parametertext_file_materialVertragTatsächlicher UTF-8-Inhalt wird als Text eingefügt; Datei-IDs/URLs müssen separat und exakt unterstützt werden

Lebenszyklus: exact retained published method

Methodenstrukturen und IDs sind exakt; die Fähigkeiten des Anbieters sind von der Zulassung einer Anfrage zu unterscheiden.

Tarife

Ailoot-Methodentarife

Ailoot OpenAI ChatPOST /v1/chat/completions
Eingabe
0,0002 $ / 1K
Ausgabe
0,0002 $ / 1K
Cache-Lesen
0,0002 $ / 1K
Cache-Schreiben
0,0002 $ / 1K
Cache-Schreiben, 5 Min.
0,0002 $ / 1K tokens

Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →

Beispielanfragen

Ailoot · OpenAI Chat

TextbeispielPython SDKNode.js SDKPython-Stream
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nemotron-safety-guard-latest", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nemotron-safety-guard-latest",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nemotron-safety-guard-latest",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nemotron-safety-guard-latest',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Ergebnisse abrufen und speichern

Ailoot · OpenAI Chat

json oder SSE

Alle fertiggestellten Ergebnisse aufbewahren

Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.

Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.

Wenn die ursprüngliche Antwort geprüft werden muss

Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.

Antwortfelder
FeldTyp
Feldchoices[].indexTypinteger
Feldchoices[].message.contentTypstring|null
Feldchoices[].message.tool_callsTyptool_call[]
Feldchoices[].message.reasoning_contentTypstring
Feldchoices[].message.reasoning_detailsTypobject|array
Feldchoices[].finish_reasonTypstring|null
FeldusageTypobject
Fehler und nächste Schritte
AntwortBedingungNächster Schritt
Antwort400 · invalid_request_errorBedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültigNächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren.

Aliasnamen

Modellaliasnamen

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Aliasnamen für Methodenpfade

Verwenden Sie die oben angezeigten Methodenpfade.

Zugehörige Aufrufer-IDs

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

FAQ · nvidia/llama-3.1-nemotron-safety-guard-8b-v3
Welche Eingaben und Ergebnisse sind verfügbar?

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: text → text

POST /v1/chat/completions · nemotron-safety-guard: text → text

POST /v1/chat/completions · nemotron-safety-guard-latest: text → text

Welche Felder verwendet die Anfrage?

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: model, messages, stream

POST /v1/chat/completions · nemotron-safety-guard: model, messages, stream

POST /v1/chat/completions · nemotron-safety-guard-latest: model, messages, stream

Welche Grenzen gelten?

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: ctx: 4096; max_out: 1024; messages.min_items: 1

POST /v1/chat/completions · nemotron-safety-guard: ctx: 4096; max_out: 1024; messages.min_items: 1

POST /v1/chat/completions · nemotron-safety-guard-latest: ctx: 4096; max_out: 1024; messages.min_items: 1

Weitere Details

Verbinden Sie Ailoot mit Claude Code, OpenCode, Hermes oder Ihrer eigenen Anwendung.

Das Unternehmen und sein Projektportfolio

Das Unternehmen und sein Projektportfolio: Millionen von Kunden; monatliche Umsätze in Milliardenhöhe.

Tokens mit Rabatt kaufen.

Aborabatt für regelmäßige Arbeit. Aktionscodes bieten bis 50% beim Tokenkauf.

Abo
Wählen Sie einen Tarif mit Rabatt für Ihre regelmäßigen Anfragen.
Aktionscode bis 50%
Geben Sie den Code beim Kauf ein. Der Preis wird nach den gültigen Aktionsbedingungen berechnet.
Ausgaben in der Historie
Modell, Tokens und Betrag werden für jede Anfrage gespeichert.

Abo wählen · Modellpreise ansehen

Verbinden Sie die API mit dem Produkt, das Sie verkaufen.

SaaS, Anwendungen und Bots nach dem offiziellen Angebot und Lizenzvertrag von Ailoot. Fordern Sie für den Weiterverkauf eine Reseller-Lizenz an.

Kommerzielle Anwendung
Integrieren Sie Text-, Bild-, Video- und Audioerzeugung in kostenpflichtige Funktionen Ihres Dienstes.
Reseller-Lizenz
Senden Sie Projektbeschreibung und Zugangsmodell. Fordern Sie schriftliche Nutzungs- und Weiterverkaufsbedingungen an.
Dokumente auf der Website
Offizielles Angebot, Lizenzvertrag und Datenschutzerklärung sind vor der Verbindung zugänglich.

Reseller-Lizenz anfordern · Offizielles Angebot und Lizenzvertrag