models

Llama 3.1 Nemotron Safety Guard 8B v3

Markdown · JSON

Llama 3.1 Nemotron Safety Guard 8B v3

Nemotron Safety Guard v3 vérifie les messages de l’utilisateur et les réponses du modèle selon une taxonomie de risques définie. Il renvoie un JSON avec des évaluations de sécurité distinctes et les catégories de violations.

À propos du modèle

Cette description présente les capacités du modèle. Les entrées, sorties et options disponibles dans Ailoot pour la méthode sélectionnée figurent ci-dessous.

La vérification des deux côtés du dialogue

Llama 3.1 Nemotron Safety Guard 8B v3 est développé par NVIDIA pour modérer l’interaction entre une personne et un modèle de langage. On peut fournir uniquement le message de l’utilisateur ou y ajouter la réponse de l’assistant, y compris plusieurs répliques. Le modèle évalue la sécurité de chaque côté : une demande dangereuse et le refus correct de l’assistant reçoivent des évaluations différentes. Cela permet de vérifier l’entrée avant la génération et d’analyser séparément une réponse déjà préparée.

Le résultat est un JSON. Le champ obligatoire User Safety contient safe ou unsafe. Le champ Response Safety apparaît lorsque l’entrée comprend une réponse de l’assistant. Lorsqu’une violation est détectée, Safety Categories est ajouté avec une liste de catégories séparées par des virgules. Ce résultat convient au filtrage logiciel et à la transmission d’un cas litigieux pour une vérification supplémentaire.

Les catégories et le contexte culturel

L’instruction définit les règles et les noms des catégories selon lesquelles la vérification est effectuée. La taxonomie publiée comporte 23 groupes de risques, dont la violence, les menaces, le harcèlement, la divulgation de données personnelles, la fraude et le code malveillant. Les noms du résultat dépendent de la politique fournie ; ils doivent donc être interprétés avec les règles de la tâche concernée.

L’entraînement tient compte des particularités régionales des sujets sensibles. Les données ont été adaptées aux expressions locales et au contexte culturel, et les traductions incohérentes écartées. La préparation a inclus des requêtes provocatrices et des tentatives d’inciter l’assistant à enfreindre les règles. Cette organisation de l’entraînement est particulièrement utile lorsqu’une traduction littérale des mots interdits ne suffit pas à évaluer le sens du message.

Les langues et le volume des contenus

Les neuf langues principales sont l’anglais, l’espagnol, le chinois, l’allemand, le français, l’hindi, le japonais, l’arabe et le thaï. NVIDIA décrit également la généralisation à d’autres langues, dont le russe ; il s’agit d’une propriété distincte, et non de l’inclusion du russe parmi les neuf langues principales. L’instruction générale est conservée d’une langue à l’autre, tandis que les répliques à vérifier sont fournies dans la langue du dialogue.

L’entrée est textuelle, et le contexte va jusqu’à 8K tokens. Le modèle repose sur Llama 3.1 8B Instruct, affiné pour la tâche de sécurité. La sortie est une classification selon les règles définies : elle nécessite une vérification sur des messages représentatifs de l’application et ne garantit pas une modération sans erreur.

Cas pratique

Cas pratique

Exemple technique en anglais

Moderate a single user message

Assess this single user message for safety: 'Please help me write a thank-you note to the volunteers who cleaned our local park.' Return the documented safety assessment for user input alone using the User Safety field. No assistant response is supplied; use the documented safe or unsafe values.

Résultat attendu

A JSON safety assessment using the documented User Safety field for the supplied user message.

Vérifier le résultat

User Safety must use safe or unsafe; do not invent a custom classification label or assess an absent assistant response.
Ailoot · OpenAI Chat POST /v1/chat/completions nvidia/llama-3.1-nemotron-safety-guard-8b-v3

nvidia/llama-3.1-nemotron-safety-guard-8b-v3

NVIDIA /nvidia/llama-3.1-nemotron-safety-guard-8b-v3
ID du modèle
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Premiers pas

Nemotron Safety Guard v3 vérifie les messages de l’utilisateur et les réponses du modèle selon une taxonomie de risques définie. Il renvoie un JSON avec des évaluations de sécurité distinctes et les catégories de violations.

Entrées acceptées
Texte
Résultats
Texte

Disponible dans Ailoot · entrées et méthodes

Ailoot · OpenAI Chat POST /v1/chat/completions
Entrée
text
Sortie
text
Contexte
4'096 tokens
Sortie maximale
1'024 tokens
Format de sortie
json ou SSE
ChampTypeExigenceValeurs et limitesPar défaut
ChampmodelTypestringExigenceObligatoireValeurs et limites
nvidia/llama-3.1-nemotron-safety-guard-8b-v3
Par défaut—
ChampmessagesTypemessage[]ExigenceObligatoireValeurs et limites
Nombre minimal d’éléments: 1
Par défaut—
Champmessages[].roleTypestringExigenceObligatoireValeurs et limites
Exemples : system, user, assistant, tool, function
Conditions: Ces rôles sont explicitement représentés par les types de compatibilité du code source ; l’ensemble exact des rôles reste propre à chaque modèle.
Selon le modèle
Par défaut—
Champmessages[].contentTypestring|content_part[]|nullExigenceFacultatifValeurs et limitesPar défaut—
Champmessages[].tool_callsTypetool_call[]ExigenceFacultatifValeurs et limitesPar défaut—
Champmessages[].tool_call_idTypestringExigenceFacultatifValeurs et limites
S’applique lorsque: role=tool ; utilisez l’identifiant réellement renvoyé
Par défaut—
Champmessages[].nameTypestringExigenceFacultatifValeurs et limitesPar défaut—
Champmessages[].reasoning_contentTypestringExigenceFacultatifValeurs et limites
S’applique lorsque: Réinjectez le raisonnement réellement renvoyé lorsque ce modèle l’utilise
Par défaut—
Champmessages[].reasoning_detailsTypeobject|arrayExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champmax_tokensTypeintegerExigenceFacultatifValeurs et limites
Minimum: 1
Selon le modèle
Par défaut—
Champmax_completion_tokensTypeintegerExigenceFacultatifValeurs et limites
Minimum: 1
Selon le modèle
Par défaut—
ChampstreamTypebooleanExigenceFacultatifValeurs et limitesPar défautfalse
Champstream_options.include_usageTypebooleanExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
ChamptemperatureTypenumberExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champtop_pTypenumberExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
ChampstopTypestring|string[]ExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
ChamptoolsTypefunction_tool[]ExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champtools[].typeTypestringExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champtools[].function.nameTypestringExigenceObligatoireValeurs et limites
S’applique lorsque: outil de fonction fourni
Par défaut—
Champtools[].function.descriptionTypestringExigenceFacultatifValeurs et limitesPar défaut—
Champtools[].function.parametersTypeJSON_schemaExigenceFacultatifValeurs et limitesPar défaut—
Champtool_choiceTypestring|objectExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champparallel_tool_callsTypebooleanExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champresponse_formatTypeobjectExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champreasoning_effortTypestringExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
ChampreasoningTypeobjectExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champservice_tierTypestringExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
ChampinstructionsTypestringExigenceFacultatifValeurs et limites
Champ de compatibilité
Par défaut—
ChampfunctionsTypefunction[]ExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champfunction_callTypestring|objectExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champprompt_cache_optionsTypeobjectExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Combinaisons d’éléments d’entrée

Texte · Texte UTF8

messages[].content

Paramètres et cycle de vie de la méthode
ParamètreContrat
Paramètrematerial_typesContrattext
ParamètrerequiredContratmodel, messages
Paramètreoptional_controlsContratnull
Paramètrecontent_typeContratapplication/json
Paramètretext_file_materialContratcontenu UTF-8 réel inséré sous forme de texte ; les identifiants de fichiers et les URLs nécessitent une prise en charge exacte distincte

Cycle de vie : exact retained published method

Les structures des méthodes et les identifiants sont exacts ; la capacité du fournisseur est distincte de l’admission.

Tarifs

Tarifs des méthodes Ailoot

Ailoot OpenAI ChatPOST /v1/chat/completions
Entrée
0.0002 USD / 1K
Sortie
0.0002 USD / 1K
Lecture du cache
0.0002 USD / 1K
Écriture dans le cache
0.0002 USD / 1K
Écriture dans le cache, 5 min
0.0002 USD / 1K tokens

Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →

Exemples de requêtes

Ailoot · OpenAI Chat

Exemple de textePython SDKNode.js SDKStreaming Python
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-3.1-nemotron-safety-guard-8b-v3", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nvidia/llama-3.1-nemotron-safety-guard-8b-v3",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nvidia/llama-3.1-nemotron-safety-guard-8b-v3",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nvidia/llama-3.1-nemotron-safety-guard-8b-v3',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Recevoir et enregistrer les résultats

Ailoot · OpenAI Chat

json ou SSE

Conserver tous les résultats terminés

Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.

Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, puis conservez le motif final de terminaison et les données d’utilisation.

Si la réponse d’origine doit être vérifiée

Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.

Champs de la réponse
ChampType
Champchoices[].indexTypeinteger
Champchoices[].message.contentTypestring|null
Champchoices[].message.tool_callsTypetool_call[]
Champchoices[].message.reasoning_contentTypestring
Champchoices[].message.reasoning_detailsTypeobject|array
Champchoices[].finish_reasonTypestring|null
ChampusageTypeobject
Erreurs et étapes suivantes
RéponseConditionÉtape suivante
Réponse400 · invalid_request_errorConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non validesÉtape suivanteCorrigez les champs indiqués avant une nouvelle requête de création.

Alias

Alias du modèle

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Alias des chemins de méthode

Utilisez les chemins de méthode indiqués ci-dessus.

ID d’appel associés

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Ailoot · OpenAI Chat POST /v1/chat/completions nemotron-safety-guard

nemotron-safety-guard

NVIDIA /nemotron-safety-guard
ID du modèle
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Premiers pas

Nemotron Safety Guard v3 vérifie les messages de l’utilisateur et les réponses du modèle selon une taxonomie de risques définie. Il renvoie un JSON avec des évaluations de sécurité distinctes et les catégories de violations.

Entrées acceptées
Texte
Résultats
Texte

Disponible dans Ailoot · entrées et méthodes

Ailoot · OpenAI Chat POST /v1/chat/completions
Entrée
text
Sortie
text
Contexte
4'096 tokens
Sortie maximale
1'024 tokens
Format de sortie
json ou SSE
ChampTypeExigenceValeurs et limitesPar défaut
ChampmodelTypestringExigenceObligatoireValeurs et limites
nemotron-safety-guard
Par défaut—
ChampmessagesTypemessage[]ExigenceObligatoireValeurs et limites
Nombre minimal d’éléments: 1
Par défaut—
Champmessages[].roleTypestringExigenceObligatoireValeurs et limites
Exemples : system, user, assistant, tool, function
Conditions: Ces rôles sont explicitement représentés par les types de compatibilité du code source ; l’ensemble exact des rôles reste propre à chaque modèle.
Selon le modèle
Par défaut—
Champmessages[].contentTypestring|content_part[]|nullExigenceFacultatifValeurs et limitesPar défaut—
Champmessages[].tool_callsTypetool_call[]ExigenceFacultatifValeurs et limitesPar défaut—
Champmessages[].tool_call_idTypestringExigenceFacultatifValeurs et limites
S’applique lorsque: role=tool ; utilisez l’identifiant réellement renvoyé
Par défaut—
Champmessages[].nameTypestringExigenceFacultatifValeurs et limitesPar défaut—
Champmessages[].reasoning_contentTypestringExigenceFacultatifValeurs et limites
S’applique lorsque: Réinjectez le raisonnement réellement renvoyé lorsque ce modèle l’utilise
Par défaut—
Champmessages[].reasoning_detailsTypeobject|arrayExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champmax_tokensTypeintegerExigenceFacultatifValeurs et limites
Minimum: 1
Selon le modèle
Par défaut—
Champmax_completion_tokensTypeintegerExigenceFacultatifValeurs et limites
Minimum: 1
Selon le modèle
Par défaut—
ChampstreamTypebooleanExigenceFacultatifValeurs et limitesPar défautfalse
Champstream_options.include_usageTypebooleanExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
ChamptemperatureTypenumberExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champtop_pTypenumberExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
ChampstopTypestring|string[]ExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
ChamptoolsTypefunction_tool[]ExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champtools[].typeTypestringExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champtools[].function.nameTypestringExigenceObligatoireValeurs et limites
S’applique lorsque: outil de fonction fourni
Par défaut—
Champtools[].function.descriptionTypestringExigenceFacultatifValeurs et limitesPar défaut—
Champtools[].function.parametersTypeJSON_schemaExigenceFacultatifValeurs et limitesPar défaut—
Champtool_choiceTypestring|objectExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champparallel_tool_callsTypebooleanExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champresponse_formatTypeobjectExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champreasoning_effortTypestringExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
ChampreasoningTypeobjectExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champservice_tierTypestringExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
ChampinstructionsTypestringExigenceFacultatifValeurs et limites
Champ de compatibilité
Par défaut—
ChampfunctionsTypefunction[]ExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champfunction_callTypestring|objectExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champprompt_cache_optionsTypeobjectExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Combinaisons d’éléments d’entrée

Texte · Texte UTF8

messages[].content

Paramètres et cycle de vie de la méthode
ParamètreContrat
Paramètrematerial_typesContrattext
ParamètrerequiredContratmodel, messages
Paramètreoptional_controlsContratnull
Paramètrecontent_typeContratapplication/json
Paramètretext_file_materialContratcontenu UTF-8 réel inséré sous forme de texte ; les identifiants de fichiers et les URLs nécessitent une prise en charge exacte distincte

Cycle de vie : exact retained published method

Les structures des méthodes et les identifiants sont exacts ; la capacité du fournisseur est distincte de l’admission.

Tarifs

Tarifs des méthodes Ailoot

Ailoot OpenAI ChatPOST /v1/chat/completions
Entrée
0.0002 USD / 1K
Sortie
0.0002 USD / 1K
Lecture du cache
0.0002 USD / 1K
Écriture dans le cache
0.0002 USD / 1K
Écriture dans le cache, 5 min
0.0002 USD / 1K tokens

Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →

Exemples de requêtes

Ailoot · OpenAI Chat

Exemple de textePython SDKNode.js SDKStreaming Python
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nemotron-safety-guard", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nemotron-safety-guard",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nemotron-safety-guard",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nemotron-safety-guard',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Recevoir et enregistrer les résultats

Ailoot · OpenAI Chat

json ou SSE

Conserver tous les résultats terminés

Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.

Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, puis conservez le motif final de terminaison et les données d’utilisation.

Si la réponse d’origine doit être vérifiée

Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.

Champs de la réponse
ChampType
Champchoices[].indexTypeinteger
Champchoices[].message.contentTypestring|null
Champchoices[].message.tool_callsTypetool_call[]
Champchoices[].message.reasoning_contentTypestring
Champchoices[].message.reasoning_detailsTypeobject|array
Champchoices[].finish_reasonTypestring|null
ChampusageTypeobject
Erreurs et étapes suivantes
RéponseConditionÉtape suivante
Réponse400 · invalid_request_errorConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non validesÉtape suivanteCorrigez les champs indiqués avant une nouvelle requête de création.

Alias

Alias du modèle

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Alias des chemins de méthode

Utilisez les chemins de méthode indiqués ci-dessus.

ID d’appel associés

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Ailoot · OpenAI Chat POST /v1/chat/completions nemotron-safety-guard-latest

nemotron-safety-guard-latest

NVIDIA /nemotron-safety-guard-latest
ID du modèle
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Premiers pas

Nemotron Safety Guard v3 vérifie les messages de l’utilisateur et les réponses du modèle selon une taxonomie de risques définie. Il renvoie un JSON avec des évaluations de sécurité distinctes et les catégories de violations.

Entrées acceptées
Texte
Résultats
Texte

Disponible dans Ailoot · entrées et méthodes

Ailoot · OpenAI Chat POST /v1/chat/completions
Entrée
text
Sortie
text
Contexte
4'096 tokens
Sortie maximale
1'024 tokens
Format de sortie
json ou SSE
ChampTypeExigenceValeurs et limitesPar défaut
ChampmodelTypestringExigenceObligatoireValeurs et limites
nemotron-safety-guard-latest
Par défaut—
ChampmessagesTypemessage[]ExigenceObligatoireValeurs et limites
Nombre minimal d’éléments: 1
Par défaut—
Champmessages[].roleTypestringExigenceObligatoireValeurs et limites
Exemples : system, user, assistant, tool, function
Conditions: Ces rôles sont explicitement représentés par les types de compatibilité du code source ; l’ensemble exact des rôles reste propre à chaque modèle.
Selon le modèle
Par défaut—
Champmessages[].contentTypestring|content_part[]|nullExigenceFacultatifValeurs et limitesPar défaut—
Champmessages[].tool_callsTypetool_call[]ExigenceFacultatifValeurs et limitesPar défaut—
Champmessages[].tool_call_idTypestringExigenceFacultatifValeurs et limites
S’applique lorsque: role=tool ; utilisez l’identifiant réellement renvoyé
Par défaut—
Champmessages[].nameTypestringExigenceFacultatifValeurs et limitesPar défaut—
Champmessages[].reasoning_contentTypestringExigenceFacultatifValeurs et limites
S’applique lorsque: Réinjectez le raisonnement réellement renvoyé lorsque ce modèle l’utilise
Par défaut—
Champmessages[].reasoning_detailsTypeobject|arrayExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champmax_tokensTypeintegerExigenceFacultatifValeurs et limites
Minimum: 1
Selon le modèle
Par défaut—
Champmax_completion_tokensTypeintegerExigenceFacultatifValeurs et limites
Minimum: 1
Selon le modèle
Par défaut—
ChampstreamTypebooleanExigenceFacultatifValeurs et limitesPar défautfalse
Champstream_options.include_usageTypebooleanExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
ChamptemperatureTypenumberExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champtop_pTypenumberExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
ChampstopTypestring|string[]ExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
ChamptoolsTypefunction_tool[]ExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champtools[].typeTypestringExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champtools[].function.nameTypestringExigenceObligatoireValeurs et limites
S’applique lorsque: outil de fonction fourni
Par défaut—
Champtools[].function.descriptionTypestringExigenceFacultatifValeurs et limitesPar défaut—
Champtools[].function.parametersTypeJSON_schemaExigenceFacultatifValeurs et limitesPar défaut—
Champtool_choiceTypestring|objectExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champparallel_tool_callsTypebooleanExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champresponse_formatTypeobjectExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champreasoning_effortTypestringExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
ChampreasoningTypeobjectExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champservice_tierTypestringExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
ChampinstructionsTypestringExigenceFacultatifValeurs et limites
Champ de compatibilité
Par défaut—
ChampfunctionsTypefunction[]ExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champfunction_callTypestring|objectExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Champprompt_cache_optionsTypeobjectExigenceFacultatifValeurs et limites
Selon le modèle
Par défaut—
Combinaisons d’éléments d’entrée

Texte · Texte UTF8

messages[].content

Paramètres et cycle de vie de la méthode
ParamètreContrat
Paramètrematerial_typesContrattext
ParamètrerequiredContratmodel, messages
Paramètreoptional_controlsContratnull
Paramètrecontent_typeContratapplication/json
Paramètretext_file_materialContratcontenu UTF-8 réel inséré sous forme de texte ; les identifiants de fichiers et les URLs nécessitent une prise en charge exacte distincte

Cycle de vie : exact retained published method

Les structures des méthodes et les identifiants sont exacts ; la capacité du fournisseur est distincte de l’admission.

Tarifs

Tarifs des méthodes Ailoot

Ailoot OpenAI ChatPOST /v1/chat/completions
Entrée
0.0002 USD / 1K
Sortie
0.0002 USD / 1K
Lecture du cache
0.0002 USD / 1K
Écriture dans le cache
0.0002 USD / 1K
Écriture dans le cache, 5 min
0.0002 USD / 1K tokens

Ailoot réserve un montant estimé avant une requête. Après le résultat, le montant final est débité selon l’utilisation mesurée. Pour le streaming, le montant final à débiter est calculé à partir du relevé final d’utilisation. Fonctionnement de la réservation et du débit →

Exemples de requêtes

Ailoot · OpenAI Chat

Exemple de textePython SDKNode.js SDKStreaming Python
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nemotron-safety-guard-latest", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nemotron-safety-guard-latest",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nemotron-safety-guard-latest",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nemotron-safety-guard-latest',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Recevoir et enregistrer les résultats

Ailoot · OpenAI Chat

json ou SSE

Conserver tous les résultats terminés

Conservez chaque réponse, fichier et partie de contenu renvoyés dans leur intégralité.

Conservez chaque choix avec son contenu, ses appels d’outils et son raisonnement. En SSE, assemblez les deltas par index de choix et d’outil, puis conservez le motif final de terminaison et les données d’utilisation.

Si la réponse d’origine doit être vérifiée

Conservez les identifiants de requête et de réponse ainsi que les en-têtes. Aucune URL générique de récupération des tâches textuelles n’est fournie.

Champs de la réponse
ChampType
Champchoices[].indexTypeinteger
Champchoices[].message.contentTypestring|null
Champchoices[].message.tool_callsTypetool_call[]
Champchoices[].message.reasoning_contentTypestring
Champchoices[].message.reasoning_detailsTypeobject|array
Champchoices[].finish_reasonTypestring|null
ChampusageTypeobject
Erreurs et étapes suivantes
RéponseConditionÉtape suivante
Réponse400 · invalid_request_errorConditionChamps obligatoires, représentation des contenus ou valeur de paramètre non validesÉtape suivanteCorrigez les champs indiqués avant une nouvelle requête de création.

Alias

Alias du modèle

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Alias des chemins de méthode

Utilisez les chemins de méthode indiqués ci-dessus.

ID d’appel associés

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

FAQ · nvidia/llama-3.1-nemotron-safety-guard-8b-v3
Quelles entrées et quels résultats sont disponibles ?

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: text → text

POST /v1/chat/completions · nemotron-safety-guard: text → text

POST /v1/chat/completions · nemotron-safety-guard-latest: text → text

Quels champs la requête utilise-t-elle ?

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: model, messages, stream

POST /v1/chat/completions · nemotron-safety-guard: model, messages, stream

POST /v1/chat/completions · nemotron-safety-guard-latest: model, messages, stream

Quelles limites s’appliquent ?

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: ctx: 4096; max_out: 1024; messages.min_items: 1

POST /v1/chat/completions · nemotron-safety-guard: ctx: 4096; max_out: 1024; messages.min_items: 1

POST /v1/chat/completions · nemotron-safety-guard-latest: ctx: 4096; max_out: 1024; messages.min_items: 1

Plus de détails

Connectez Ailoot à Claude Code, OpenCode, Hermes ou à votre application.

L’entreprise et son portefeuille de projets

L’entreprise et son portefeuille de projets : des millions de clients ; des ventes qui se chiffrent en milliards chaque mois.

Achetez des tokens à prix réduit.

Une remise d’abonnement pour le travail régulier. Des codes promo jusqu’à 50% sur l’achat de tokens.

Abonnement
Choisissez une offre à tarif réduit pour vos requêtes régulières.
Code promo jusqu’à 50%
Saisissez le code à l’achat. Le prix est recalculé selon la promotion en cours.
Dépenses dans l’historique
Modèle, tokens et montant sont enregistrés pour chaque requête.

Choisir un abonnement · Voir les prix des modèles

Connectez l’API au produit que vous vendez.

SaaS, applications et bots selon l’offre officielle et le contrat de licence Ailoot. Pour la revente, demandez une licence revendeur.

Application commerciale
Intégrez la génération de texte, d’images, de vidéo et de son aux fonctions payantes de votre service.
Licence revendeur
Envoyez la description du projet et le mode d’accès. Demandez des conditions écrites d’utilisation et de revente.
Documents sur le site
L’offre officielle, le contrat de licence et la politique de traitement des données sont accessibles avant connexion.

Demander une licence revendeur · Offre officielle et contrat de licence