μοντέλα

Llama 3.1 Nemotron Safety Guard 8B v3

Markdown · JSON

Llama 3.1 Nemotron Safety Guard 8B v3

Το Nemotron Safety Guard v3 ελέγχει μηνύματα χρηστών και απαντήσεις μοντέλου βάσει καθορισμένης ταξινομίας κινδύνων. Επιστρέφει JSON με χωριστές αξιολογήσεις ασφάλειας και κατηγορίες παραβάσεων.

Σχετικά με το μοντέλο

Αυτή η περιγραφή καλύπτει τις δυνατότητες του μοντέλου. Οι είσοδοι, έξοδοι και επιλογές που διατίθενται στο Ailoot παρατίθενται παρακάτω για την επιλεγμένη μέθοδο.

Έλεγχος και των δύο πλευρών του διαλόγου

Το Llama 3.1 Nemotron Safety Guard 8B v3 αναπτύχθηκε από τη NVIDIA για τον έλεγχο της αλληλεπίδρασης ανθρώπου και γλωσσικού μοντέλου. Μπορεί να δοθεί μόνο ένα μήνυμα χρήστη ή να συμπληρωθεί με την απάντηση του βοηθού, ακόμη και με πολλές ανταλλαγές. Το μοντέλο καθορίζει την ασφάλεια κάθε πλευράς: ένα επικίνδυνο αίτημα και μια ορθή άρνηση του βοηθού λαμβάνουν διαφορετικές αξιολογήσεις. Έτσι μπορεί να ελέγχεται η είσοδος πριν από την παραγωγή και να αναλύεται χωριστά μια ήδη έτοιμη απάντηση.

Το αποτέλεσμα είναι JSON. Το υποχρεωτικό πεδίο User Safety περιέχει safe ή unsafe. Το πεδίο Response Safety εμφανίζεται όταν η είσοδος περιλαμβάνει απάντηση βοηθού. Αν εντοπιστεί παράβαση, προστίθεται το Safety Categories με κατηγορίες χωρισμένες με κόμματα. Αυτό το αποτέλεσμα είναι κατάλληλο για φιλτράρισμα μέσω λογισμικού και παραπομπή αμφίβολων περιπτώσεων σε πρόσθετο έλεγχο.

Κατηγορίες και πολιτισμικά συμφραζόμενα

Οι οδηγίες καθορίζουν τους κανόνες και τα ονόματα των κατηγοριών βάσει των οποίων γίνεται ο έλεγχος. Η δημοσιευμένη ταξινομία περιλαμβάνει 23 ομάδες κινδύνων, μεταξύ των οποίων βία, απειλές, παρενόχληση, αποκάλυψη προσωπικών δεδομένων, απάτη και κακόβουλος κώδικας. Τα ονόματα στο αποτέλεσμα εξαρτώνται από την πολιτική που δόθηκε, επομένως πρέπει να ερμηνεύονται μαζί με τους κανόνες της συγκεκριμένης εργασίας.

Η εκπαίδευση λαμβάνει υπόψη τοπικές ιδιαιτερότητες ευαίσθητων θεμάτων. Τα δεδομένα προσαρμόστηκαν σε τοπικές εκφράσεις και πολιτισμικά συμφραζόμενα, ενώ ασυνεπείς μεταφράσεις απορρίφθηκαν. Η προετοιμασία περιέλαβε προκλητικά αιτήματα και προσπάθειες ώθησης του βοηθού σε παραβίαση κανόνων. Αυτό είναι ιδιαίτερα χρήσιμο όταν η κυριολεκτική μετάφραση απαγορευμένων λέξεων δεν αρκεί για την αξιολόγηση του νοήματος ενός μηνύματος.

Γλώσσες και όγκος υλικού

Οι εννέα κύριες γλώσσες είναι αγγλικά, ισπανικά, κινεζικά, γερμανικά, γαλλικά, χίντι, ιαπωνικά, αραβικά και ταϊλανδικά. Η NVIDIA περιγράφει επίσης γενίκευση σε άλλες γλώσσες, συμπεριλαμβανομένων των ρωσικών· αυτό είναι χωριστή ιδιότητα και δεν εντάσσει τα ρωσικά στην κύρια εννεάδα. Οι γενικές οδηγίες διατηρούνται μεταξύ γλωσσών και τα μηνύματα προς έλεγχο δίνονται στη γλώσσα του διαλόγου.

Η είσοδος είναι κείμενο και το παράθυρο συμφραζομένων φτάνει έως 8K tokens. Η βάση του μοντέλου είναι το Llama 3.1 8B Instruct, με πρόσθετη εκπαίδευση για την εργασία ασφάλειας. Η έξοδος αποτελεί ταξινόμηση βάσει συγκεκριμένων κανόνων: απαιτεί έλεγχο σε χαρακτηριστικά μηνύματα της εφαρμογής και δεν εγγυάται έλεγχο περιεχομένου χωρίς σφάλματα.

Πρακτική εργασία

Πρακτική εργασία

Τεχνικό παράδειγμα στα αγγλικά

Moderate a single user message

Assess this single user message for safety: 'Please help me write a thank-you note to the volunteers who cleaned our local park.' Return the documented safety assessment for user input alone using the User Safety field. No assistant response is supplied; use the documented safe or unsafe values.

Αναμενόμενο αποτέλεσμα

A JSON safety assessment using the documented User Safety field for the supplied user message.

Έλεγχος αποτελέσματος

User Safety must use safe or unsafe; do not invent a custom classification label or assess an absent assistant response.
Ailoot · OpenAI Chat POST /v1/chat/completions nvidia/llama-3.1-nemotron-safety-guard-8b-v3

nvidia/llama-3.1-nemotron-safety-guard-8b-v3

NVIDIA /nvidia/llama-3.1-nemotron-safety-guard-8b-v3
ID μοντέλου
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Εισαγωγή

Το Nemotron Safety Guard v3 ελέγχει μηνύματα χρηστών και απαντήσεις μοντέλου βάσει καθορισμένης ταξινομίας κινδύνων. Επιστρέφει JSON με χωριστές αξιολογήσεις ασφάλειας και κατηγορίες παραβάσεων.

Αποδεκτές είσοδοι
Κείμενο
Αποτελέσματα
Κείμενο

Διαθέσιμα στο Ailoot · είσοδοι και μέθοδοι

Ailoot · OpenAI Chat POST /v1/chat/completions
Είσοδος
text
Έξοδος
text
Παράθυρο συμφραζομένων
4.096 tokens
Μέγιστη έξοδος
1.024 tokens
Μορφή εξόδου
json ή SSE
ΠεδίοΤύποςΑπαίτησηΤιμές και όριαΠροεπιλογή
ΠεδίοmodelΤύποςstringΑπαίτησηΥποχρεωτικόΤιμές και όρια
nvidia/llama-3.1-nemotron-safety-guard-8b-v3
Προεπιλογή—
ΠεδίοmessagesΤύποςmessage[]ΑπαίτησηΥποχρεωτικόΤιμές και όρια
Ελάχιστο πλήθος στοιχείων: 1
Προεπιλογή—
Πεδίοmessages[].roleΤύποςstringΑπαίτησηΥποχρεωτικόΤιμές και όρια
Παραδείγματα: system, user, assistant, tool, function
Συνθήκες: Αυτοί οι ρόλοι αναπαρίστανται ρητά από τους τύπους συμβατότητας του πηγαίου κώδικα· το ακριβές σύνολο ρόλων παραμένει ειδικό για κάθε μοντέλο.
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοmessages[].contentΤύποςstring|content_part[]|nullΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογή—
Πεδίοmessages[].tool_callsΤύποςtool_call[]ΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογή—
Πεδίοmessages[].tool_call_idΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Εφαρμόζεται όταν: role=tool· χρησιμοποιήστε το πραγματικό ID που επιστράφηκε
Προεπιλογή—
Πεδίοmessages[].nameΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογή—
Πεδίοmessages[].reasoning_contentΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Εφαρμόζεται όταν: Επαναποστείλετε το πραγματικό περιεχόμενο συλλογιστικής που επιστράφηκε, όταν το μοντέλο το χρησιμοποιεί
Προεπιλογή—
Πεδίοmessages[].reasoning_detailsΤύποςobject|arrayΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοmax_tokensΤύποςintegerΑπαίτησηΠροαιρετικόΤιμές και όρια
Ελάχιστο: 1
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοmax_completion_tokensΤύποςintegerΑπαίτησηΠροαιρετικόΤιμές και όρια
Ελάχιστο: 1
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοstreamΤύποςbooleanΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογήfalse
Πεδίοstream_options.include_usageΤύποςbooleanΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοtemperatureΤύποςnumberΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοtop_pΤύποςnumberΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοstopΤύποςstring|string[]ΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοtoolsΤύποςfunction_tool[]ΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοtools[].typeΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοtools[].function.nameΤύποςstringΑπαίτησηΥποχρεωτικόΤιμές και όρια
Εφαρμόζεται όταν: Παρεχόμενο εργαλείο τύπου συνάρτησης
Προεπιλογή—
Πεδίοtools[].function.descriptionΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογή—
Πεδίοtools[].function.parametersΤύποςJSON_schemaΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογή—
Πεδίοtool_choiceΤύποςstring|objectΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοparallel_tool_callsΤύποςbooleanΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοresponse_formatΤύποςobjectΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοreasoning_effortΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοreasoningΤύποςobjectΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοservice_tierΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοinstructionsΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Πεδίο συμβατότητας
Προεπιλογή—
ΠεδίοfunctionsΤύποςfunction[]ΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοfunction_callΤύποςstring|objectΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοprompt_cache_optionsΤύποςobjectΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Συνδυασμοί υλικών εισόδου

Κείμενο · Κείμενο UTF8

messages[].content

Παράμετροι και κύκλος ζωής μεθόδου
ΠαράμετροςΣύμβαση
Παράμετροςmaterial_typesΣύμβασηtext
ΠαράμετροςrequiredΣύμβασηmodel, messages
Παράμετροςoptional_controlsΣύμβασηnull
Παράμετροςcontent_typeΣύμβασηapplication/json
Παράμετροςtext_file_materialΣύμβασηπραγματικό περιεχόμενο UTF-8 που εισάγεται ως κείμενο· τα IDs/URLs αρχείων απαιτούν ξεχωριστή, ακριβή υποστήριξη

Κύκλος ζωής: exact retained published method

Οι δομές και τα ID των μεθόδων είναι ακριβή· η δυνατότητα του προμηθευτή είναι ξεχωριστή από την αποδοχή αιτημάτων.

Τιμολόγηση

Χρεώσεις μεθόδων Ailoot

Ailoot OpenAI ChatPOST /v1/chat/completions
Είσοδος
0,0002 $ / 1K
Έξοδος
0,0002 $ / 1K
Ανάγνωση από την κρυφή μνήμη
0,0002 $ / 1K
Εγγραφή στην κρυφή μνήμη
0,0002 $ / 1K
Εγγραφή στην κρυφή μνήμη, 5 λεπτά
0,0002 $ / 1K tokens

Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →

Παραδείγματα αιτημάτων

Ailoot · OpenAI Chat

Παράδειγμα κειμένουPython SDKNode.js SDKΡοή σε Python
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-3.1-nemotron-safety-guard-8b-v3", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nvidia/llama-3.1-nemotron-safety-guard-8b-v3",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nvidia/llama-3.1-nemotron-safety-guard-8b-v3",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nvidia/llama-3.1-nemotron-safety-guard-8b-v3',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Λήψη και αποθήκευση αποτελεσμάτων

Ailoot · OpenAI Chat

json ή SSE

Διατηρήστε όλα τα ολοκληρωμένα αποτελέσματα

Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.

Διατηρήστε κάθε επιλογή και το περιεχόμενο/τις κλήσεις εργαλείων/το περιεχόμενο συλλογιστικής της. Στο SSE συνθέστε τις διαφορικές ενημερώσεις ανά δείκτη επιλογής/εργαλείου και κρατήστε την τελική αιτία τερματισμού και τα στοιχεία χρήσης.

Αν χρειάζεται έλεγχος της αρχικής απάντησης

Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.

Πεδία απάντησης
ΠεδίοΤύπος
Πεδίοchoices[].indexΤύποςinteger
Πεδίοchoices[].message.contentΤύποςstring|null
Πεδίοchoices[].message.tool_callsΤύποςtool_call[]
Πεδίοchoices[].message.reasoning_contentΤύποςstring
Πεδίοchoices[].message.reasoning_detailsΤύποςobject|array
Πεδίοchoices[].finish_reasonΤύποςstring|null
ΠεδίοusageΤύποςobject
Σφάλματα και επόμενα βήματα
ΑπάντησηΣυνθήκηΕπόμενο βήμα
Απάντηση400 · invalid_request_errorΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρουΕπόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας.

Εναλλακτικά ονόματα

Εναλλακτικά ονόματα μοντέλου

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Εναλλακτικές διαδρομές μεθόδων

Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.

Σχετικά ID μοντέλων

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Ailoot · OpenAI Chat POST /v1/chat/completions nemotron-safety-guard

nemotron-safety-guard

NVIDIA /nemotron-safety-guard
ID μοντέλου
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Εισαγωγή

Το Nemotron Safety Guard v3 ελέγχει μηνύματα χρηστών και απαντήσεις μοντέλου βάσει καθορισμένης ταξινομίας κινδύνων. Επιστρέφει JSON με χωριστές αξιολογήσεις ασφάλειας και κατηγορίες παραβάσεων.

Αποδεκτές είσοδοι
Κείμενο
Αποτελέσματα
Κείμενο

Διαθέσιμα στο Ailoot · είσοδοι και μέθοδοι

Ailoot · OpenAI Chat POST /v1/chat/completions
Είσοδος
text
Έξοδος
text
Παράθυρο συμφραζομένων
4.096 tokens
Μέγιστη έξοδος
1.024 tokens
Μορφή εξόδου
json ή SSE
ΠεδίοΤύποςΑπαίτησηΤιμές και όριαΠροεπιλογή
ΠεδίοmodelΤύποςstringΑπαίτησηΥποχρεωτικόΤιμές και όρια
nemotron-safety-guard
Προεπιλογή—
ΠεδίοmessagesΤύποςmessage[]ΑπαίτησηΥποχρεωτικόΤιμές και όρια
Ελάχιστο πλήθος στοιχείων: 1
Προεπιλογή—
Πεδίοmessages[].roleΤύποςstringΑπαίτησηΥποχρεωτικόΤιμές και όρια
Παραδείγματα: system, user, assistant, tool, function
Συνθήκες: Αυτοί οι ρόλοι αναπαρίστανται ρητά από τους τύπους συμβατότητας του πηγαίου κώδικα· το ακριβές σύνολο ρόλων παραμένει ειδικό για κάθε μοντέλο.
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοmessages[].contentΤύποςstring|content_part[]|nullΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογή—
Πεδίοmessages[].tool_callsΤύποςtool_call[]ΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογή—
Πεδίοmessages[].tool_call_idΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Εφαρμόζεται όταν: role=tool· χρησιμοποιήστε το πραγματικό ID που επιστράφηκε
Προεπιλογή—
Πεδίοmessages[].nameΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογή—
Πεδίοmessages[].reasoning_contentΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Εφαρμόζεται όταν: Επαναποστείλετε το πραγματικό περιεχόμενο συλλογιστικής που επιστράφηκε, όταν το μοντέλο το χρησιμοποιεί
Προεπιλογή—
Πεδίοmessages[].reasoning_detailsΤύποςobject|arrayΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοmax_tokensΤύποςintegerΑπαίτησηΠροαιρετικόΤιμές και όρια
Ελάχιστο: 1
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοmax_completion_tokensΤύποςintegerΑπαίτησηΠροαιρετικόΤιμές και όρια
Ελάχιστο: 1
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοstreamΤύποςbooleanΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογήfalse
Πεδίοstream_options.include_usageΤύποςbooleanΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοtemperatureΤύποςnumberΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοtop_pΤύποςnumberΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοstopΤύποςstring|string[]ΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοtoolsΤύποςfunction_tool[]ΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοtools[].typeΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοtools[].function.nameΤύποςstringΑπαίτησηΥποχρεωτικόΤιμές και όρια
Εφαρμόζεται όταν: Παρεχόμενο εργαλείο τύπου συνάρτησης
Προεπιλογή—
Πεδίοtools[].function.descriptionΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογή—
Πεδίοtools[].function.parametersΤύποςJSON_schemaΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογή—
Πεδίοtool_choiceΤύποςstring|objectΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοparallel_tool_callsΤύποςbooleanΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοresponse_formatΤύποςobjectΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοreasoning_effortΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοreasoningΤύποςobjectΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοservice_tierΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοinstructionsΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Πεδίο συμβατότητας
Προεπιλογή—
ΠεδίοfunctionsΤύποςfunction[]ΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοfunction_callΤύποςstring|objectΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοprompt_cache_optionsΤύποςobjectΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Συνδυασμοί υλικών εισόδου

Κείμενο · Κείμενο UTF8

messages[].content

Παράμετροι και κύκλος ζωής μεθόδου
ΠαράμετροςΣύμβαση
Παράμετροςmaterial_typesΣύμβασηtext
ΠαράμετροςrequiredΣύμβασηmodel, messages
Παράμετροςoptional_controlsΣύμβασηnull
Παράμετροςcontent_typeΣύμβασηapplication/json
Παράμετροςtext_file_materialΣύμβασηπραγματικό περιεχόμενο UTF-8 που εισάγεται ως κείμενο· τα IDs/URLs αρχείων απαιτούν ξεχωριστή, ακριβή υποστήριξη

Κύκλος ζωής: exact retained published method

Οι δομές και τα ID των μεθόδων είναι ακριβή· η δυνατότητα του προμηθευτή είναι ξεχωριστή από την αποδοχή αιτημάτων.

Τιμολόγηση

Χρεώσεις μεθόδων Ailoot

Ailoot OpenAI ChatPOST /v1/chat/completions
Είσοδος
0,0002 $ / 1K
Έξοδος
0,0002 $ / 1K
Ανάγνωση από την κρυφή μνήμη
0,0002 $ / 1K
Εγγραφή στην κρυφή μνήμη
0,0002 $ / 1K
Εγγραφή στην κρυφή μνήμη, 5 λεπτά
0,0002 $ / 1K tokens

Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →

Παραδείγματα αιτημάτων

Ailoot · OpenAI Chat

Παράδειγμα κειμένουPython SDKNode.js SDKΡοή σε Python
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nemotron-safety-guard", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nemotron-safety-guard",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nemotron-safety-guard",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nemotron-safety-guard',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Λήψη και αποθήκευση αποτελεσμάτων

Ailoot · OpenAI Chat

json ή SSE

Διατηρήστε όλα τα ολοκληρωμένα αποτελέσματα

Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.

Διατηρήστε κάθε επιλογή και το περιεχόμενο/τις κλήσεις εργαλείων/το περιεχόμενο συλλογιστικής της. Στο SSE συνθέστε τις διαφορικές ενημερώσεις ανά δείκτη επιλογής/εργαλείου και κρατήστε την τελική αιτία τερματισμού και τα στοιχεία χρήσης.

Αν χρειάζεται έλεγχος της αρχικής απάντησης

Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.

Πεδία απάντησης
ΠεδίοΤύπος
Πεδίοchoices[].indexΤύποςinteger
Πεδίοchoices[].message.contentΤύποςstring|null
Πεδίοchoices[].message.tool_callsΤύποςtool_call[]
Πεδίοchoices[].message.reasoning_contentΤύποςstring
Πεδίοchoices[].message.reasoning_detailsΤύποςobject|array
Πεδίοchoices[].finish_reasonΤύποςstring|null
ΠεδίοusageΤύποςobject
Σφάλματα και επόμενα βήματα
ΑπάντησηΣυνθήκηΕπόμενο βήμα
Απάντηση400 · invalid_request_errorΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρουΕπόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας.

Εναλλακτικά ονόματα

Εναλλακτικά ονόματα μοντέλου

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Εναλλακτικές διαδρομές μεθόδων

Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.

Σχετικά ID μοντέλων

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Ailoot · OpenAI Chat POST /v1/chat/completions nemotron-safety-guard-latest

nemotron-safety-guard-latest

NVIDIA /nemotron-safety-guard-latest
ID μοντέλου
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Εισαγωγή

Το Nemotron Safety Guard v3 ελέγχει μηνύματα χρηστών και απαντήσεις μοντέλου βάσει καθορισμένης ταξινομίας κινδύνων. Επιστρέφει JSON με χωριστές αξιολογήσεις ασφάλειας και κατηγορίες παραβάσεων.

Αποδεκτές είσοδοι
Κείμενο
Αποτελέσματα
Κείμενο

Διαθέσιμα στο Ailoot · είσοδοι και μέθοδοι

Ailoot · OpenAI Chat POST /v1/chat/completions
Είσοδος
text
Έξοδος
text
Παράθυρο συμφραζομένων
4.096 tokens
Μέγιστη έξοδος
1.024 tokens
Μορφή εξόδου
json ή SSE
ΠεδίοΤύποςΑπαίτησηΤιμές και όριαΠροεπιλογή
ΠεδίοmodelΤύποςstringΑπαίτησηΥποχρεωτικόΤιμές και όρια
nemotron-safety-guard-latest
Προεπιλογή—
ΠεδίοmessagesΤύποςmessage[]ΑπαίτησηΥποχρεωτικόΤιμές και όρια
Ελάχιστο πλήθος στοιχείων: 1
Προεπιλογή—
Πεδίοmessages[].roleΤύποςstringΑπαίτησηΥποχρεωτικόΤιμές και όρια
Παραδείγματα: system, user, assistant, tool, function
Συνθήκες: Αυτοί οι ρόλοι αναπαρίστανται ρητά από τους τύπους συμβατότητας του πηγαίου κώδικα· το ακριβές σύνολο ρόλων παραμένει ειδικό για κάθε μοντέλο.
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοmessages[].contentΤύποςstring|content_part[]|nullΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογή—
Πεδίοmessages[].tool_callsΤύποςtool_call[]ΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογή—
Πεδίοmessages[].tool_call_idΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Εφαρμόζεται όταν: role=tool· χρησιμοποιήστε το πραγματικό ID που επιστράφηκε
Προεπιλογή—
Πεδίοmessages[].nameΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογή—
Πεδίοmessages[].reasoning_contentΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Εφαρμόζεται όταν: Επαναποστείλετε το πραγματικό περιεχόμενο συλλογιστικής που επιστράφηκε, όταν το μοντέλο το χρησιμοποιεί
Προεπιλογή—
Πεδίοmessages[].reasoning_detailsΤύποςobject|arrayΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοmax_tokensΤύποςintegerΑπαίτησηΠροαιρετικόΤιμές και όρια
Ελάχιστο: 1
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοmax_completion_tokensΤύποςintegerΑπαίτησηΠροαιρετικόΤιμές και όρια
Ελάχιστο: 1
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοstreamΤύποςbooleanΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογήfalse
Πεδίοstream_options.include_usageΤύποςbooleanΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοtemperatureΤύποςnumberΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοtop_pΤύποςnumberΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοstopΤύποςstring|string[]ΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοtoolsΤύποςfunction_tool[]ΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοtools[].typeΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοtools[].function.nameΤύποςstringΑπαίτησηΥποχρεωτικόΤιμές και όρια
Εφαρμόζεται όταν: Παρεχόμενο εργαλείο τύπου συνάρτησης
Προεπιλογή—
Πεδίοtools[].function.descriptionΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογή—
Πεδίοtools[].function.parametersΤύποςJSON_schemaΑπαίτησηΠροαιρετικόΤιμές και όριαΠροεπιλογή—
Πεδίοtool_choiceΤύποςstring|objectΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοparallel_tool_callsΤύποςbooleanΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοresponse_formatΤύποςobjectΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοreasoning_effortΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοreasoningΤύποςobjectΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοservice_tierΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
ΠεδίοinstructionsΤύποςstringΑπαίτησηΠροαιρετικόΤιμές και όρια
Πεδίο συμβατότητας
Προεπιλογή—
ΠεδίοfunctionsΤύποςfunction[]ΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοfunction_callΤύποςstring|objectΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Πεδίοprompt_cache_optionsΤύποςobjectΑπαίτησηΠροαιρετικόΤιμές και όρια
Εξαρτάται από το μοντέλο
Προεπιλογή—
Συνδυασμοί υλικών εισόδου

Κείμενο · Κείμενο UTF8

messages[].content

Παράμετροι και κύκλος ζωής μεθόδου
ΠαράμετροςΣύμβαση
Παράμετροςmaterial_typesΣύμβασηtext
ΠαράμετροςrequiredΣύμβασηmodel, messages
Παράμετροςoptional_controlsΣύμβασηnull
Παράμετροςcontent_typeΣύμβασηapplication/json
Παράμετροςtext_file_materialΣύμβασηπραγματικό περιεχόμενο UTF-8 που εισάγεται ως κείμενο· τα IDs/URLs αρχείων απαιτούν ξεχωριστή, ακριβή υποστήριξη

Κύκλος ζωής: exact retained published method

Οι δομές και τα ID των μεθόδων είναι ακριβή· η δυνατότητα του προμηθευτή είναι ξεχωριστή από την αποδοχή αιτημάτων.

Τιμολόγηση

Χρεώσεις μεθόδων Ailoot

Ailoot OpenAI ChatPOST /v1/chat/completions
Είσοδος
0,0002 $ / 1K
Έξοδος
0,0002 $ / 1K
Ανάγνωση από την κρυφή μνήμη
0,0002 $ / 1K
Εγγραφή στην κρυφή μνήμη
0,0002 $ / 1K
Εγγραφή στην κρυφή μνήμη, 5 λεπτά
0,0002 $ / 1K tokens

Το Ailoot δεσμεύει ένα εκτιμώμενο ποσό πριν από το αίτημα. Μετά το αποτέλεσμα, εκκαθαρίζει την τελική χρέωση βάσει της μετρημένης χρήσης. Η εκκαθάριση ροής χρησιμοποιεί την τελική καταγραφή χρήσης. Πώς λειτουργούν η δέσμευση και η εκκαθάριση →

Παραδείγματα αιτημάτων

Ailoot · OpenAI Chat

Παράδειγμα κειμένουPython SDKNode.js SDKΡοή σε Python
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nemotron-safety-guard-latest", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nemotron-safety-guard-latest",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nemotron-safety-guard-latest",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nemotron-safety-guard-latest',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Λήψη και αποθήκευση αποτελεσμάτων

Ailoot · OpenAI Chat

json ή SSE

Διατηρήστε όλα τα ολοκληρωμένα αποτελέσματα

Διατηρήστε κάθε πλήρη απάντηση, αρχείο και τμήμα περιεχομένου που επιστρέφεται.

Διατηρήστε κάθε επιλογή και το περιεχόμενο/τις κλήσεις εργαλείων/το περιεχόμενο συλλογιστικής της. Στο SSE συνθέστε τις διαφορικές ενημερώσεις ανά δείκτη επιλογής/εργαλείου και κρατήστε την τελική αιτία τερματισμού και τα στοιχεία χρήσης.

Αν χρειάζεται έλεγχος της αρχικής απάντησης

Διατηρήστε τα ID αιτήματος/απάντησης και τις κεφαλίδες. Δεν παρέχεται γενικό URL ανάκτησης εργασιών κειμένου.

Πεδία απάντησης
ΠεδίοΤύπος
Πεδίοchoices[].indexΤύποςinteger
Πεδίοchoices[].message.contentΤύποςstring|null
Πεδίοchoices[].message.tool_callsΤύποςtool_call[]
Πεδίοchoices[].message.reasoning_contentΤύποςstring
Πεδίοchoices[].message.reasoning_detailsΤύποςobject|array
Πεδίοchoices[].finish_reasonΤύποςstring|null
ΠεδίοusageΤύποςobject
Σφάλματα και επόμενα βήματα
ΑπάντησηΣυνθήκηΕπόμενο βήμα
Απάντηση400 · invalid_request_errorΣυνθήκηΜη έγκυρα υποχρεωτικά πεδία, μη έγκυρη αναπαράσταση υλικού ή μη έγκυρη τιμή παραμέτρουΕπόμενο βήμαΔιορθώστε τα υποδεικνυόμενα πεδία πριν από νέο αίτημα δημιουργίας.

Εναλλακτικά ονόματα

Εναλλακτικά ονόματα μοντέλου

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Εναλλακτικές διαδρομές μεθόδων

Χρησιμοποιήστε τις διαδρομές μεθόδων που εμφανίζονται παραπάνω.

Σχετικά ID μοντέλων

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

FAQ · nvidia/llama-3.1-nemotron-safety-guard-8b-v3
Ποιες είσοδοι και αποτελέσματα διατίθενται;

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: text → text

POST /v1/chat/completions · nemotron-safety-guard: text → text

POST /v1/chat/completions · nemotron-safety-guard-latest: text → text

Ποια πεδία χρησιμοποιεί το αίτημα;

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: model, messages, stream

POST /v1/chat/completions · nemotron-safety-guard: model, messages, stream

POST /v1/chat/completions · nemotron-safety-guard-latest: model, messages, stream

Ποια όρια ισχύουν;

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: ctx: 4096; max_out: 1024; messages.min_items: 1

POST /v1/chat/completions · nemotron-safety-guard: ctx: 4096; max_out: 1024; messages.min_items: 1

POST /v1/chat/completions · nemotron-safety-guard-latest: ctx: 4096; max_out: 1024; messages.min_items: 1

Περισσότερες λεπτομέρειες

Συνδέστε το Ailoot με Claude Code, OpenCode, Hermes ή τη δική σας εφαρμογή.

Η εταιρεία και το χαρτοφυλάκιο έργων της

Η εταιρεία και το χαρτοφυλάκιο έργων της: εκατομμύρια πελάτες· μηνιαίες πωλήσεις δισεκατομμυρίων.

Αγοράστε token με έκπτωση.

Έκπτωση συνδρομής για τακτική χρήση. Προωθητικοί κωδικοί — έως 50% στην αγορά token.

Συνδρομή
Επιλέξτε πρόγραμμα με έκπτωση για τα τακτικά αιτήματά σας.
Προωθητικός κωδικός έως 50%
Εισαγάγετε τον κωδικό στην αγορά. Η τιμή επανυπολογίζεται σύμφωνα με την ενεργή προσφορά.
Δαπάνες στο ιστορικό
Μοντέλο, token και ποσό αποθηκεύονται για κάθε αίτημα.

Επιλέξτε συνδρομή · Δείτε τιμές μοντέλων

Συνδέστε το API με το προϊόν που πουλάτε.

SaaS, εφαρμογές και bot — σύμφωνα με τη δημόσια προσφορά και τη σύμβαση άδειας χρήσης Ailoot. Για μεταπώληση ζητήστε σχετική άδεια.

Εμπορική εφαρμογή
Ενσωματώστε δημιουργία κειμένου, εικόνων, βίντεο και ήχου στις πληρωμένες λειτουργίες της υπηρεσίας σας.
Άδεια για μεταπωλητή
Στείλτε περιγραφή έργου και τρόπο πρόσβασης. Ζητήστε γραπτούς όρους χρήσης και μεταπώλησης.
Έγγραφα στον ιστότοπο
Δημόσια προσφορά, σύμβαση άδειας χρήσης και πολιτική επεξεργασίας δεδομένων είναι διαθέσιμες πριν τη σύνδεση.

Ζητήστε άδεια μεταπώλησης · Δημόσια προσφορά και σύμβαση άδειας χρήσης