Modelle

Llama 3.1 Nemotron Safety Guard 8B v3

Markdown · JSON

Llama 3.1 Nemotron Safety Guard 8B v3

Nemotron Safety Guard v3 prüft Benutzernachrichten und Modellantworten anhand einer vorgegebenen Risikotaxonomie. Gibt JSON mit getrennten Sicherheitsbewertungen und Verstoßkategorien zurück.

Über das Modell

Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.

Beide Seiten eines Dialogs prüfen

Llama 3.1 Nemotron Safety Guard 8B v3 wurde von NVIDIA zur Moderation der Interaktion zwischen Menschen und Sprachmodellen entwickelt. Es kann nur eine Benutzernachricht übermittelt oder eine Assistentenantwort ergänzt werden, auch über mehrere Äußerungen. Das Modell beurteilt die Sicherheit jeder Seite: Eine gefährliche Anfrage und die korrekte Ablehnung durch den Assistenten erhalten unterschiedliche Einstufungen. Damit kann die Eingabe vor der Generierung geprüft und eine bereits erstellte Antwort gesondert analysiert werden.

Das Ergebnis ist JSON. Das verpflichtende Feld User Safety enthält safe oder unsafe. Response Safety erscheint, wenn die Eingabe eine Assistentenantwort enthält. Bei einem erkannten Verstoß wird Safety Categories mit kommagetrennten Kategorien hinzugefügt. Dieses Ergebnis eignet sich für programmgesteuerte Filterung und die Weitergabe strittiger Fälle zur zusätzlichen Prüfung.

Kategorien und kultureller Kontext

Die Anweisung legt Regeln und Kategorienamen für die Prüfung fest. Die veröffentlichte Taxonomie enthält 23 Risikogruppen, darunter Gewalt, Drohungen, Belästigung, Offenlegung persönlicher Daten, Betrug und Schadcode. Die Kategorienamen im Ergebnis hängen von der übermittelten Richtlinie ab. Sie müssen daher gemeinsam mit den Regeln der jeweiligen Aufgabe interpretiert werden.

Das Training berücksichtigt regionale Besonderheiten sensibler Themen. Daten wurden an lokale Ausdrücke und den kulturellen Kontext angepasst; nicht übereinstimmende Übersetzungen wurden verworfen. Die Vorbereitung umfasste provokative Anfragen und Versuche, den Assistenten zu Regelverstößen zu bewegen. Das ist besonders hilfreich, wenn eine wörtliche Übersetzung verbotener Wörter zur Beurteilung der Nachrichtenbedeutung nicht ausreicht.

Sprachen und Materialumfang

Die neun Hauptsprachen sind Englisch, Spanisch, Chinesisch, Deutsch, Französisch, Hindi, Japanisch, Arabisch und Thai. NVIDIA beschreibt auch die Übertragung auf weitere Sprachen, darunter Russisch. Das ist eine eigene Fähigkeit, keine Aufnahme von Russisch in die Hauptgruppe der neun Sprachen. Die allgemeine Anweisung ist sprachenübergreifend gleich; die zu prüfenden Äußerungen werden in der Dialogsprache übermittelt.

Die Eingabe ist Text, der Kontext umfasst bis zu 8K Tokens. Die Grundlage ist Llama 3.1 8B Instruct, das für die Sicherheitsaufgabe nachtrainiert wurde. Die Ausgabe ist eine Klassifikation anhand vorgegebener Regeln. Sie muss an für die Anwendung typischen Nachrichten geprüft werden und garantiert keine fehlerfreie Moderation.

Praktische Aufgabe

Praktische Aufgabe

Technisches Beispiel auf Englisch

Moderate a single user message

Assess this single user message for safety: 'Please help me write a thank-you note to the volunteers who cleaned our local park.' Return the documented safety assessment for user input alone using the User Safety field. No assistant response is supplied; use the documented safe or unsafe values.

Erwartetes Ergebnis

A JSON safety assessment using the documented User Safety field for the supplied user message.

Ergebnis prüfen

User Safety must use safe or unsafe; do not invent a custom classification label or assess an absent assistant response.
Ailoot · OpenAI Chat POST /v1/chat/completions nvidia/llama-3.1-nemotron-safety-guard-8b-v3

nvidia/llama-3.1-nemotron-safety-guard-8b-v3

NVIDIA /nvidia/llama-3.1-nemotron-safety-guard-8b-v3
Modell-ID
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Einstieg

Nemotron Safety Guard v3 prüft Benutzernachrichten und Modellantworten anhand einer vorgegebenen Risikotaxonomie. Gibt JSON mit getrennten Sicherheitsbewertungen und Verstoßkategorien zurück.

Zulässige Eingaben
Text
Ergebnisse
Text

In Ailoot verfügbar · Eingaben und Methoden

Ailoot · OpenAI Chat POST /v1/chat/completions
Eingabe
text
Ausgabe
text
Kontext
4 096 tokens
Maximale Ausgabe
1 024 tokens
Ausgabeformat
json oder SSE
FeldTypAnforderungWerte und LimitsStandard
FeldmodelTypstringAnforderungErforderlichWerte und Limits
nvidia/llama-3.1-nemotron-safety-guard-8b-v3
Standard—
FeldmessagesTypmessage[]AnforderungErforderlichWerte und Limits
Mindestanzahl Elemente: 1
Standard—
Feldmessages[].roleTypstringAnforderungErforderlichWerte und Limits
Beispiele: system, user, assistant, tool, function
Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch.
Modellabhängig
Standard—
Feldmessages[].contentTypstring|content_part[]|nullAnforderungOptionalWerte und LimitsStandard—
Feldmessages[].tool_callsTyptool_call[]AnforderungOptionalWerte und LimitsStandard—
Feldmessages[].tool_call_idTypstringAnforderungOptionalWerte und Limits
Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden
Standard—
Feldmessages[].nameTypstringAnforderungOptionalWerte und LimitsStandard—
Feldmessages[].reasoning_contentTypstringAnforderungOptionalWerte und Limits
Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet
Standard—
Feldmessages[].reasoning_detailsTypobject|arrayAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldmax_tokensTypintegerAnforderungOptionalWerte und Limits
Minimum: 1
Modellabhängig
Standard—
Feldmax_completion_tokensTypintegerAnforderungOptionalWerte und Limits
Minimum: 1
Modellabhängig
Standard—
FeldstreamTypbooleanAnforderungOptionalWerte und LimitsStandardfalse
Feldstream_options.include_usageTypbooleanAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldtemperatureTypnumberAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldtop_pTypnumberAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldstopTypstring|string[]AnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldtoolsTypfunction_tool[]AnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldtools[].typeTypstringAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldtools[].function.nameTypstringAnforderungErforderlichWerte und Limits
Gilt, wenn: Funktionswerkzeug bereitgestellt
Standard—
Feldtools[].function.descriptionTypstringAnforderungOptionalWerte und LimitsStandard—
Feldtools[].function.parametersTypJSON_schemaAnforderungOptionalWerte und LimitsStandard—
Feldtool_choiceTypstring|objectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldparallel_tool_callsTypbooleanAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldresponse_formatTypobjectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldreasoning_effortTypstringAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldreasoningTypobjectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldservice_tierTypstringAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldinstructionsTypstringAnforderungOptionalWerte und Limits
Kompatibilitätsfeld
Standard—
FeldfunctionsTypfunction[]AnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldfunction_callTypstring|objectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldprompt_cache_optionsTypobjectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Kombinationen von Eingabematerialien

Text · UTF8-Text

messages[].content

Methodenparameter und Lebenszyklus
ParameterVertrag
Parametermaterial_typesVertragtext
ParameterrequiredVertragmodel, messages
Parameteroptional_controlsVertragnull
Parametercontent_typeVertragapplication/json
Parametertext_file_materialVertragTatsächlicher UTF-8-Inhalt wird als Text eingefügt; Datei-IDs/URLs müssen separat und exakt unterstützt werden

Lebenszyklus: exact retained published method

Methodenstrukturen und IDs sind exakt; die Fähigkeiten des Anbieters sind von der Zulassung einer Anfrage zu unterscheiden.

Tarife

Ailoot-Methodentarife

Ailoot OpenAI ChatPOST /v1/chat/completions
Eingabe
$ 0,0002 / 1K
Ausgabe
$ 0,0002 / 1K
Cache lesen
$ 0,0002 / 1K
In Cache schreiben
$ 0,0002 / 1K
In Cache schreiben, 5 Min.
$ 0,0002 / 1K tokens

Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →

Beispielanfragen

Ailoot · OpenAI Chat

TextbeispielPython SDKNode.js SDKPython-Stream
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-3.1-nemotron-safety-guard-8b-v3", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nvidia/llama-3.1-nemotron-safety-guard-8b-v3",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nvidia/llama-3.1-nemotron-safety-guard-8b-v3",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nvidia/llama-3.1-nemotron-safety-guard-8b-v3',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Ergebnisse abrufen und speichern

Ailoot · OpenAI Chat

json oder SSE

Alle fertiggestellten Ergebnisse aufbewahren

Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.

Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.

Wenn die ursprüngliche Antwort geprüft werden muss

Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.

Antwortfelder
FeldTyp
Feldchoices[].indexTypinteger
Feldchoices[].message.contentTypstring|null
Feldchoices[].message.tool_callsTyptool_call[]
Feldchoices[].message.reasoning_contentTypstring
Feldchoices[].message.reasoning_detailsTypobject|array
Feldchoices[].finish_reasonTypstring|null
FeldusageTypobject
Fehler und nächste Schritte
AntwortBedingungNächster Schritt
Antwort400 · invalid_request_errorBedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültigNächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren.

Aliasnamen

Modellaliasnamen

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Aliasnamen für Methodenpfade

Verwenden Sie die oben angezeigten Methodenpfade.

Zugehörige Aufrufer-IDs

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Ailoot · OpenAI Chat POST /v1/chat/completions nemotron-safety-guard

nemotron-safety-guard

NVIDIA /nemotron-safety-guard
Modell-ID
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Einstieg

Nemotron Safety Guard v3 prüft Benutzernachrichten und Modellantworten anhand einer vorgegebenen Risikotaxonomie. Gibt JSON mit getrennten Sicherheitsbewertungen und Verstoßkategorien zurück.

Zulässige Eingaben
Text
Ergebnisse
Text

In Ailoot verfügbar · Eingaben und Methoden

Ailoot · OpenAI Chat POST /v1/chat/completions
Eingabe
text
Ausgabe
text
Kontext
4 096 tokens
Maximale Ausgabe
1 024 tokens
Ausgabeformat
json oder SSE
FeldTypAnforderungWerte und LimitsStandard
FeldmodelTypstringAnforderungErforderlichWerte und Limits
nemotron-safety-guard
Standard—
FeldmessagesTypmessage[]AnforderungErforderlichWerte und Limits
Mindestanzahl Elemente: 1
Standard—
Feldmessages[].roleTypstringAnforderungErforderlichWerte und Limits
Beispiele: system, user, assistant, tool, function
Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch.
Modellabhängig
Standard—
Feldmessages[].contentTypstring|content_part[]|nullAnforderungOptionalWerte und LimitsStandard—
Feldmessages[].tool_callsTyptool_call[]AnforderungOptionalWerte und LimitsStandard—
Feldmessages[].tool_call_idTypstringAnforderungOptionalWerte und Limits
Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden
Standard—
Feldmessages[].nameTypstringAnforderungOptionalWerte und LimitsStandard—
Feldmessages[].reasoning_contentTypstringAnforderungOptionalWerte und Limits
Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet
Standard—
Feldmessages[].reasoning_detailsTypobject|arrayAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldmax_tokensTypintegerAnforderungOptionalWerte und Limits
Minimum: 1
Modellabhängig
Standard—
Feldmax_completion_tokensTypintegerAnforderungOptionalWerte und Limits
Minimum: 1
Modellabhängig
Standard—
FeldstreamTypbooleanAnforderungOptionalWerte und LimitsStandardfalse
Feldstream_options.include_usageTypbooleanAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldtemperatureTypnumberAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldtop_pTypnumberAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldstopTypstring|string[]AnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldtoolsTypfunction_tool[]AnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldtools[].typeTypstringAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldtools[].function.nameTypstringAnforderungErforderlichWerte und Limits
Gilt, wenn: Funktionswerkzeug bereitgestellt
Standard—
Feldtools[].function.descriptionTypstringAnforderungOptionalWerte und LimitsStandard—
Feldtools[].function.parametersTypJSON_schemaAnforderungOptionalWerte und LimitsStandard—
Feldtool_choiceTypstring|objectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldparallel_tool_callsTypbooleanAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldresponse_formatTypobjectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldreasoning_effortTypstringAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldreasoningTypobjectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldservice_tierTypstringAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldinstructionsTypstringAnforderungOptionalWerte und Limits
Kompatibilitätsfeld
Standard—
FeldfunctionsTypfunction[]AnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldfunction_callTypstring|objectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldprompt_cache_optionsTypobjectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Kombinationen von Eingabematerialien

Text · UTF8-Text

messages[].content

Methodenparameter und Lebenszyklus
ParameterVertrag
Parametermaterial_typesVertragtext
ParameterrequiredVertragmodel, messages
Parameteroptional_controlsVertragnull
Parametercontent_typeVertragapplication/json
Parametertext_file_materialVertragTatsächlicher UTF-8-Inhalt wird als Text eingefügt; Datei-IDs/URLs müssen separat und exakt unterstützt werden

Lebenszyklus: exact retained published method

Methodenstrukturen und IDs sind exakt; die Fähigkeiten des Anbieters sind von der Zulassung einer Anfrage zu unterscheiden.

Tarife

Ailoot-Methodentarife

Ailoot OpenAI ChatPOST /v1/chat/completions
Eingabe
$ 0,0002 / 1K
Ausgabe
$ 0,0002 / 1K
Cache lesen
$ 0,0002 / 1K
In Cache schreiben
$ 0,0002 / 1K
In Cache schreiben, 5 Min.
$ 0,0002 / 1K tokens

Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →

Beispielanfragen

Ailoot · OpenAI Chat

TextbeispielPython SDKNode.js SDKPython-Stream
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nemotron-safety-guard", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nemotron-safety-guard",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nemotron-safety-guard",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nemotron-safety-guard',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Ergebnisse abrufen und speichern

Ailoot · OpenAI Chat

json oder SSE

Alle fertiggestellten Ergebnisse aufbewahren

Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.

Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.

Wenn die ursprüngliche Antwort geprüft werden muss

Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.

Antwortfelder
FeldTyp
Feldchoices[].indexTypinteger
Feldchoices[].message.contentTypstring|null
Feldchoices[].message.tool_callsTyptool_call[]
Feldchoices[].message.reasoning_contentTypstring
Feldchoices[].message.reasoning_detailsTypobject|array
Feldchoices[].finish_reasonTypstring|null
FeldusageTypobject
Fehler und nächste Schritte
AntwortBedingungNächster Schritt
Antwort400 · invalid_request_errorBedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültigNächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren.

Aliasnamen

Modellaliasnamen

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Aliasnamen für Methodenpfade

Verwenden Sie die oben angezeigten Methodenpfade.

Zugehörige Aufrufer-IDs

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Ailoot · OpenAI Chat POST /v1/chat/completions nemotron-safety-guard-latest

nemotron-safety-guard-latest

NVIDIA /nemotron-safety-guard-latest
Modell-ID
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Einstieg

Nemotron Safety Guard v3 prüft Benutzernachrichten und Modellantworten anhand einer vorgegebenen Risikotaxonomie. Gibt JSON mit getrennten Sicherheitsbewertungen und Verstoßkategorien zurück.

Zulässige Eingaben
Text
Ergebnisse
Text

In Ailoot verfügbar · Eingaben und Methoden

Ailoot · OpenAI Chat POST /v1/chat/completions
Eingabe
text
Ausgabe
text
Kontext
4 096 tokens
Maximale Ausgabe
1 024 tokens
Ausgabeformat
json oder SSE
FeldTypAnforderungWerte und LimitsStandard
FeldmodelTypstringAnforderungErforderlichWerte und Limits
nemotron-safety-guard-latest
Standard—
FeldmessagesTypmessage[]AnforderungErforderlichWerte und Limits
Mindestanzahl Elemente: 1
Standard—
Feldmessages[].roleTypstringAnforderungErforderlichWerte und Limits
Beispiele: system, user, assistant, tool, function
Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch.
Modellabhängig
Standard—
Feldmessages[].contentTypstring|content_part[]|nullAnforderungOptionalWerte und LimitsStandard—
Feldmessages[].tool_callsTyptool_call[]AnforderungOptionalWerte und LimitsStandard—
Feldmessages[].tool_call_idTypstringAnforderungOptionalWerte und Limits
Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden
Standard—
Feldmessages[].nameTypstringAnforderungOptionalWerte und LimitsStandard—
Feldmessages[].reasoning_contentTypstringAnforderungOptionalWerte und Limits
Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet
Standard—
Feldmessages[].reasoning_detailsTypobject|arrayAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldmax_tokensTypintegerAnforderungOptionalWerte und Limits
Minimum: 1
Modellabhängig
Standard—
Feldmax_completion_tokensTypintegerAnforderungOptionalWerte und Limits
Minimum: 1
Modellabhängig
Standard—
FeldstreamTypbooleanAnforderungOptionalWerte und LimitsStandardfalse
Feldstream_options.include_usageTypbooleanAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldtemperatureTypnumberAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldtop_pTypnumberAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldstopTypstring|string[]AnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldtoolsTypfunction_tool[]AnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldtools[].typeTypstringAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldtools[].function.nameTypstringAnforderungErforderlichWerte und Limits
Gilt, wenn: Funktionswerkzeug bereitgestellt
Standard—
Feldtools[].function.descriptionTypstringAnforderungOptionalWerte und LimitsStandard—
Feldtools[].function.parametersTypJSON_schemaAnforderungOptionalWerte und LimitsStandard—
Feldtool_choiceTypstring|objectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldparallel_tool_callsTypbooleanAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldresponse_formatTypobjectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldreasoning_effortTypstringAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldreasoningTypobjectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldservice_tierTypstringAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
FeldinstructionsTypstringAnforderungOptionalWerte und Limits
Kompatibilitätsfeld
Standard—
FeldfunctionsTypfunction[]AnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldfunction_callTypstring|objectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Feldprompt_cache_optionsTypobjectAnforderungOptionalWerte und Limits
Modellabhängig
Standard—
Kombinationen von Eingabematerialien

Text · UTF8-Text

messages[].content

Methodenparameter und Lebenszyklus
ParameterVertrag
Parametermaterial_typesVertragtext
ParameterrequiredVertragmodel, messages
Parameteroptional_controlsVertragnull
Parametercontent_typeVertragapplication/json
Parametertext_file_materialVertragTatsächlicher UTF-8-Inhalt wird als Text eingefügt; Datei-IDs/URLs müssen separat und exakt unterstützt werden

Lebenszyklus: exact retained published method

Methodenstrukturen und IDs sind exakt; die Fähigkeiten des Anbieters sind von der Zulassung einer Anfrage zu unterscheiden.

Tarife

Ailoot-Methodentarife

Ailoot OpenAI ChatPOST /v1/chat/completions
Eingabe
$ 0,0002 / 1K
Ausgabe
$ 0,0002 / 1K
Cache lesen
$ 0,0002 / 1K
In Cache schreiben
$ 0,0002 / 1K
In Cache schreiben, 5 Min.
$ 0,0002 / 1K tokens

Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →

Beispielanfragen

Ailoot · OpenAI Chat

TextbeispielPython SDKNode.js SDKPython-Stream
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nemotron-safety-guard-latest", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nemotron-safety-guard-latest",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nemotron-safety-guard-latest",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nemotron-safety-guard-latest',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Ergebnisse abrufen und speichern

Ailoot · OpenAI Chat

json oder SSE

Alle fertiggestellten Ergebnisse aufbewahren

Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.

Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.

Wenn die ursprüngliche Antwort geprüft werden muss

Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.

Antwortfelder
FeldTyp
Feldchoices[].indexTypinteger
Feldchoices[].message.contentTypstring|null
Feldchoices[].message.tool_callsTyptool_call[]
Feldchoices[].message.reasoning_contentTypstring
Feldchoices[].message.reasoning_detailsTypobject|array
Feldchoices[].finish_reasonTypstring|null
FeldusageTypobject
Fehler und nächste Schritte
AntwortBedingungNächster Schritt
Antwort400 · invalid_request_errorBedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültigNächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren.

Aliasnamen

Modellaliasnamen

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Aliasnamen für Methodenpfade

Verwenden Sie die oben angezeigten Methodenpfade.

Zugehörige Aufrufer-IDs

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

FAQ · nvidia/llama-3.1-nemotron-safety-guard-8b-v3
Welche Eingaben und Ergebnisse sind verfügbar?

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: text → text

POST /v1/chat/completions · nemotron-safety-guard: text → text

POST /v1/chat/completions · nemotron-safety-guard-latest: text → text

Welche Felder verwendet die Anfrage?

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: model, messages, stream

POST /v1/chat/completions · nemotron-safety-guard: model, messages, stream

POST /v1/chat/completions · nemotron-safety-guard-latest: model, messages, stream

Welche Grenzen gelten?

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: ctx: 4096; max_out: 1024; messages.min_items: 1

POST /v1/chat/completions · nemotron-safety-guard: ctx: 4096; max_out: 1024; messages.min_items: 1

POST /v1/chat/completions · nemotron-safety-guard-latest: ctx: 4096; max_out: 1024; messages.min_items: 1

Weitere Details

Verbinden Sie Ailoot mit Claude Code, OpenCode, Hermes oder Ihrer eigenen Anwendung.

Das Unternehmen und sein Projektportfolio

Das Unternehmen und sein Projektportfolio: Millionen von Kunden; monatliche Umsätze in Milliardenhöhe.

Tokens mit Rabatt kaufen.

Aborabatt für regelmäßige Arbeit. Aktionscodes bieten bis 50% beim Tokenkauf.

Abo
Wählen Sie einen Tarif mit Rabatt für Ihre regelmäßigen Anfragen.
Aktionscode bis 50%
Geben Sie den Code beim Kauf ein. Der Preis wird nach den gültigen Aktionsbedingungen berechnet.
Ausgaben in der Historie
Modell, Tokens und Betrag werden für jede Anfrage gespeichert.

Abo wählen · Modellpreise ansehen

Verbinden Sie die API mit dem Produkt, das Sie verkaufen.

SaaS, Anwendungen und Bots nach dem offiziellen Angebot und Lizenzvertrag von Ailoot. Fordern Sie für den Weiterverkauf eine Reseller-Lizenz an.

Kommerzielle Anwendung
Integrieren Sie Text-, Bild-, Video- und Audioerzeugung in kostenpflichtige Funktionen Ihres Dienstes.
Reseller-Lizenz
Senden Sie Projektbeschreibung und Zugangsmodell. Fordern Sie schriftliche Nutzungs- und Weiterverkaufsbedingungen an.
Dokumente auf der Website
Offizielles Angebot, Lizenzvertrag und Datenschutzerklärung sind vor der Verbindung zugänglich.

Reseller-Lizenz anfordern · Offizielles Angebot und Lizenzvertrag