models

Llama 3.1 Nemotron Safety Guard 8B v3

Markdown · JSON

Llama 3.1 Nemotron Safety Guard 8B v3

Nemotron Safety Guard v3 пайдаланушы хабарламалары мен модель жауаптарын берілген тәуекелдер таксономиясы бойынша тексереді. Қауіпсіздіктің бөлек бағалары мен бұзушылық санаттары бар JSON қайтарады.

Модель туралы

Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген.

Диалогтың екі жағын тексеру

Llama 3.1 Nemotron Safety Guard 8B v3-ті NVIDIA адам мен тілдік модельдің өзара әрекетін модерациялау үшін әзірлеген. Тек пайдаланушы хабарламасын беруге немесе оған бірнеше репликаны қоса алғанда, көмекші жауабын қосуға болады. Модель әр жақтың қауіпсіздігін анықтайды: қауіпті сұрау мен көмекшінің дұрыс бас тартуы әртүрлі баға алады. Бұл генерация алдында кірісті тексеруге және дайын жауапты бөлек талдауға мүмкіндік береді.

Нәтиже JSON түрінде беріледі. Міндетті User Safety өрісі safe немесе unsafe мәнін қамтиды. Кірісте көмекші жауабы болғанда Response Safety өрісі пайда болады. Бұзушылық анықталса, санаттары үтірмен тізілген Safety Categories қосылады. Мұндай нәтиже бағдарламалық сүзуге және даулы жағдайды қосымша тексеруге жіберуге сай келеді.

Санаттар және мәдени контекст

Нұсқау тексеру жүргізілетін ережелер мен санат атауларын белгілейді. Жарияланған таксономияда тәуекелдің 23 тобы бар: олардың арасында зорлық, қоқан-лоқы, қудалау, жеке деректерді жариялау, алаяқтық және зиянды код бар. Нәтижедегі атаулар берілген саясатқа байланысты, сондықтан оларды нақты тапсырма ережелерімен бірге түсіндіру керек.

Үйрету сезімтал тақырыптардың аймақтық ерекшеліктерін ескереді. Деректер жергілікті тіркестер мен мәдени контекстке бейімделіп, үйлеспейтін аудармалар алынып тасталған. Даярлыққа арандатушы сұраулар мен көмекшіні ережені бұзуға итермелеу әрекеттері енгізілген. Мұндай үйрету тәсілі хабарлама мағынасын бағалауға тыйым салынған сөздердің тура аудармасы жеткіліксіз болғанда әсіресе пайдалы.

Тілдер және материал көлемі

Негізгі тоғыз тіл — ағылшын, испан, қытай, неміс, француз, хинди, жапон, араб және тай. NVIDIA орыс тілін қоса алғанда басқа тілдерге жалпылауды да сипаттайды; бұл орыс тілінің негізгі тоғыздыққа кіруі емес, бөлек қасиет. Жалпы нұсқау тілдер арасында сақталады, ал тексерілетін репликалар диалог тілінде беріледі.

Кіріс мәтіндік, контекст — 8K токенге дейін. Модельдің негізі — қауіпсіздік тапсырмасына қосымша үйретілген Llama 3.1 8B Instruct. Шығыс берілген ережелер бойынша жіктеу қызметін атқарады: оны қолданбаға тән хабарламаларда тексеру қажет және ол қатесіз модерацияға кепілдік бермейді.

Практикалық тапсырма

Практикалық тапсырма

Ағылшын тіліндегі техникалық мысал

Moderate a single user message

Assess this single user message for safety: 'Please help me write a thank-you note to the volunteers who cleaned our local park.' Return the documented safety assessment for user input alone using the User Safety field. No assistant response is supplied; use the documented safe or unsafe values.

Күтілетін нәтиже

A JSON safety assessment using the documented User Safety field for the supplied user message.

Нәтижені тексеру

User Safety must use safe or unsafe; do not invent a custom classification label or assess an absent assistant response.
Ailoot · OpenAI чаты POST /v1/chat/completions nvidia/llama-3.1-nemotron-safety-guard-8b-v3

nvidia/llama-3.1-nemotron-safety-guard-8b-v3

NVIDIA /nvidia/llama-3.1-nemotron-safety-guard-8b-v3
Модель ID
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Бастау

Nemotron Safety Guard v3 пайдаланушы хабарламалары мен модель жауаптарын берілген тәуекелдер таксономиясы бойынша тексереді. Қауіпсіздіктің бөлек бағалары мен бұзушылық санаттары бар JSON қайтарады.

Қабылданатын кіріс деректері
Мәтін
Нәтижелер
Мәтін

Ailoot жүйесінде қолжетімді · кіріс деректері мен әдістер

Ailoot · OpenAI чаты POST /v1/chat/completions
Кіріс
text
Шығыс
text
Контекст
4 096 tokens
Ең үлкен шығыс
1 024 tokens
Шығыс пішімі
json немесе SSE
ӨрісТүріТалапМәндер мен шектеулерӘдепкі
ӨрісmodelТүріstringТалапМіндеттіМәндер мен шектеулер
nvidia/llama-3.1-nemotron-safety-guard-8b-v3
Әдепкі—
ӨрісmessagesТүріmessage[]ТалапМіндеттіМәндер мен шектеулер
Элементтердің ең аз саны: 1
Әдепкі—
Өрісmessages[].roleТүріstringТалапМіндеттіМәндер мен шектеулер
Мысалдар: system, user, assistant, tool, function
Шарттар: Бұл рөлдер бастапқы кодтағы үйлесімділік түрлерінде айқын көрсетілген; рөлдердің нақты жиыны әр модельге байланысты.
Модельге байланысты
Әдепкі—
Өрісmessages[].contentТүріstring|content_part[]|nullТалапМіндетті емесМәндер мен шектеулерӘдепкі—
Өрісmessages[].tool_callsТүріtool_call[]ТалапМіндетті емесМәндер мен шектеулерӘдепкі—
Өрісmessages[].tool_call_idТүріstringТалапМіндетті емесМәндер мен шектеулер
Мына жағдайда қолданылады: role=tool; нақты қайтарылған ID мәнін пайдаланыңыз
Әдепкі—
Өрісmessages[].nameТүріstringТалапМіндетті емесМәндер мен шектеулерӘдепкі—
Өрісmessages[].reasoning_contentТүріstringТалапМіндетті емесМәндер мен шектеулер
Мына жағдайда қолданылады: Модель пайымдауды пайдаланса, нақты қайтарылған пайымдауды қайта жіберіңіз
Әдепкі—
Өрісmessages[].reasoning_detailsТүріobject|arrayТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісmax_tokensТүріintegerТалапМіндетті емесМәндер мен шектеулер
Ең азы: 1
Модельге байланысты
Әдепкі—
Өрісmax_completion_tokensТүріintegerТалапМіндетті емесМәндер мен шектеулер
Ең азы: 1
Модельге байланысты
Әдепкі—
ӨрісstreamТүріbooleanТалапМіндетті емесМәндер мен шектеулерӘдепкіfalse
Өрісstream_options.include_usageТүріbooleanТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісtemperatureТүріnumberТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісtop_pТүріnumberТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісstopТүріstring|string[]ТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісtoolsТүріfunction_tool[]ТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісtools[].typeТүріstringТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісtools[].function.nameТүріstringТалапМіндеттіМәндер мен шектеулер
Мына жағдайда қолданылады: функция құралы берілген
Әдепкі—
Өрісtools[].function.descriptionТүріstringТалапМіндетті емесМәндер мен шектеулерӘдепкі—
Өрісtools[].function.parametersТүріJSON_schemaТалапМіндетті емесМәндер мен шектеулерӘдепкі—
Өрісtool_choiceТүріstring|objectТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісparallel_tool_callsТүріbooleanТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісresponse_formatТүріobjectТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісreasoning_effortТүріstringТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісreasoningТүріobjectТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісservice_tierТүріstringТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісinstructionsТүріstringТалапМіндетті емесМәндер мен шектеулер
Үйлесімділік өрісі
Әдепкі—
ӨрісfunctionsТүріfunction[]ТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісfunction_callТүріstring|objectТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісprompt_cache_optionsТүріobjectТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Кіріс материалдарының үйлесімдері

Мәтін · UTF8 мәтіні

messages[].content

Әдіс параметрлері мен өмірлік циклі
ПараметрПараметр талаптары
Параметрmaterial_typesПараметр талаптарыtext
ПараметрrequiredПараметр талаптарыmodel, messages
Параметрoptional_controlsПараметр талаптарыnull
Параметрcontent_typeПараметр талаптарыapplication/json
Параметрtext_file_materialПараметр талаптарынақты UTF-8 мазмұны мәтін ретінде енгізіледі; файл ID мәндері мен URLs үшін бөлек нақты қолдау қажет

Өмірлік цикл: exact retained published method

Әдіс құрылымдары мен ID мәндері дәл берілген; жеткізушінің мүмкіндігі сұрауды қабылдаудан бөлек қаралады.

Тарифтер

Ailoot әдістерінің мөлшерлемелері

Ailoot OpenAI чатыPOST /v1/chat/completions
Кіріс
0,0002 $ / 1K
Шығыс
0,0002 $ / 1K
Кэшті оқу
0,0002 $ / 1K
Кэшке жазу
0,0002 $ / 1K
Кэшке жазу, 5 мин
0,0002 $ / 1K tokens

Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →

Сұрау мысалдары

Ailoot · OpenAI чаты

Мәтін мысалыPython SDKNode.js SDKPython ағыны
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-3.1-nemotron-safety-guard-8b-v3", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nvidia/llama-3.1-nemotron-safety-guard-8b-v3",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nvidia/llama-3.1-nemotron-safety-guard-8b-v3",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nvidia/llama-3.1-nemotron-safety-guard-8b-v3',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Нәтижелерді алу және сақтау

Ailoot · OpenAI чаты

json немесе SSE

Барлық дайын нәтижені сақтау

Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.

Әр жауап нұсқасын оның мазмұнымен, құрал шақыруларымен және пайымдауымен бірге сақтаңыз. SSE өзгерістерін жауап нұсқасы мен құрал индексі бойынша жинап, соңғы аяқталу себебі мен пайдалану деректерін сақтаңыз.

Бастапқы жауапты тексеру қажет болса

Сұрау мен жауаптың ID мәндерін және тақырыптарын сақтаңыз. Мәтіндік тапсырманы алуға арналған ортақ URL берілмеген.

Жауап өрістері
ӨрісТүрі
Өрісchoices[].indexТүріinteger
Өрісchoices[].message.contentТүріstring|null
Өрісchoices[].message.tool_callsТүріtool_call[]
Өрісchoices[].message.reasoning_contentТүріstring
Өрісchoices[].message.reasoning_detailsТүріobject|array
Өрісchoices[].finish_reasonТүріstring|null
ӨрісusageТүріobject
Қателер және келесі қадамдар
ЖауапШартКелесі қадам
Жауап400 · invalid_request_errorШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қатеКелесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз.

Балама атаулар

Модельдердің балама атаулары

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Әдіс жолдарының балама атаулары

Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.

Шақыруға арналған байланысты ID

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Ailoot · OpenAI чаты POST /v1/chat/completions nemotron-safety-guard

nemotron-safety-guard

NVIDIA /nemotron-safety-guard
Модель ID
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Бастау

Nemotron Safety Guard v3 пайдаланушы хабарламалары мен модель жауаптарын берілген тәуекелдер таксономиясы бойынша тексереді. Қауіпсіздіктің бөлек бағалары мен бұзушылық санаттары бар JSON қайтарады.

Қабылданатын кіріс деректері
Мәтін
Нәтижелер
Мәтін

Ailoot жүйесінде қолжетімді · кіріс деректері мен әдістер

Ailoot · OpenAI чаты POST /v1/chat/completions
Кіріс
text
Шығыс
text
Контекст
4 096 tokens
Ең үлкен шығыс
1 024 tokens
Шығыс пішімі
json немесе SSE
ӨрісТүріТалапМәндер мен шектеулерӘдепкі
ӨрісmodelТүріstringТалапМіндеттіМәндер мен шектеулер
nemotron-safety-guard
Әдепкі—
ӨрісmessagesТүріmessage[]ТалапМіндеттіМәндер мен шектеулер
Элементтердің ең аз саны: 1
Әдепкі—
Өрісmessages[].roleТүріstringТалапМіндеттіМәндер мен шектеулер
Мысалдар: system, user, assistant, tool, function
Шарттар: Бұл рөлдер бастапқы кодтағы үйлесімділік түрлерінде айқын көрсетілген; рөлдердің нақты жиыны әр модельге байланысты.
Модельге байланысты
Әдепкі—
Өрісmessages[].contentТүріstring|content_part[]|nullТалапМіндетті емесМәндер мен шектеулерӘдепкі—
Өрісmessages[].tool_callsТүріtool_call[]ТалапМіндетті емесМәндер мен шектеулерӘдепкі—
Өрісmessages[].tool_call_idТүріstringТалапМіндетті емесМәндер мен шектеулер
Мына жағдайда қолданылады: role=tool; нақты қайтарылған ID мәнін пайдаланыңыз
Әдепкі—
Өрісmessages[].nameТүріstringТалапМіндетті емесМәндер мен шектеулерӘдепкі—
Өрісmessages[].reasoning_contentТүріstringТалапМіндетті емесМәндер мен шектеулер
Мына жағдайда қолданылады: Модель пайымдауды пайдаланса, нақты қайтарылған пайымдауды қайта жіберіңіз
Әдепкі—
Өрісmessages[].reasoning_detailsТүріobject|arrayТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісmax_tokensТүріintegerТалапМіндетті емесМәндер мен шектеулер
Ең азы: 1
Модельге байланысты
Әдепкі—
Өрісmax_completion_tokensТүріintegerТалапМіндетті емесМәндер мен шектеулер
Ең азы: 1
Модельге байланысты
Әдепкі—
ӨрісstreamТүріbooleanТалапМіндетті емесМәндер мен шектеулерӘдепкіfalse
Өрісstream_options.include_usageТүріbooleanТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісtemperatureТүріnumberТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісtop_pТүріnumberТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісstopТүріstring|string[]ТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісtoolsТүріfunction_tool[]ТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісtools[].typeТүріstringТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісtools[].function.nameТүріstringТалапМіндеттіМәндер мен шектеулер
Мына жағдайда қолданылады: функция құралы берілген
Әдепкі—
Өрісtools[].function.descriptionТүріstringТалапМіндетті емесМәндер мен шектеулерӘдепкі—
Өрісtools[].function.parametersТүріJSON_schemaТалапМіндетті емесМәндер мен шектеулерӘдепкі—
Өрісtool_choiceТүріstring|objectТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісparallel_tool_callsТүріbooleanТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісresponse_formatТүріobjectТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісreasoning_effortТүріstringТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісreasoningТүріobjectТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісservice_tierТүріstringТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісinstructionsТүріstringТалапМіндетті емесМәндер мен шектеулер
Үйлесімділік өрісі
Әдепкі—
ӨрісfunctionsТүріfunction[]ТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісfunction_callТүріstring|objectТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісprompt_cache_optionsТүріobjectТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Кіріс материалдарының үйлесімдері

Мәтін · UTF8 мәтіні

messages[].content

Әдіс параметрлері мен өмірлік циклі
ПараметрПараметр талаптары
Параметрmaterial_typesПараметр талаптарыtext
ПараметрrequiredПараметр талаптарыmodel, messages
Параметрoptional_controlsПараметр талаптарыnull
Параметрcontent_typeПараметр талаптарыapplication/json
Параметрtext_file_materialПараметр талаптарынақты UTF-8 мазмұны мәтін ретінде енгізіледі; файл ID мәндері мен URLs үшін бөлек нақты қолдау қажет

Өмірлік цикл: exact retained published method

Әдіс құрылымдары мен ID мәндері дәл берілген; жеткізушінің мүмкіндігі сұрауды қабылдаудан бөлек қаралады.

Тарифтер

Ailoot әдістерінің мөлшерлемелері

Ailoot OpenAI чатыPOST /v1/chat/completions
Кіріс
0,0002 $ / 1K
Шығыс
0,0002 $ / 1K
Кэшті оқу
0,0002 $ / 1K
Кэшке жазу
0,0002 $ / 1K
Кэшке жазу, 5 мин
0,0002 $ / 1K tokens

Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →

Сұрау мысалдары

Ailoot · OpenAI чаты

Мәтін мысалыPython SDKNode.js SDKPython ағыны
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nemotron-safety-guard", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nemotron-safety-guard",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nemotron-safety-guard",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nemotron-safety-guard',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Нәтижелерді алу және сақтау

Ailoot · OpenAI чаты

json немесе SSE

Барлық дайын нәтижені сақтау

Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.

Әр жауап нұсқасын оның мазмұнымен, құрал шақыруларымен және пайымдауымен бірге сақтаңыз. SSE өзгерістерін жауап нұсқасы мен құрал индексі бойынша жинап, соңғы аяқталу себебі мен пайдалану деректерін сақтаңыз.

Бастапқы жауапты тексеру қажет болса

Сұрау мен жауаптың ID мәндерін және тақырыптарын сақтаңыз. Мәтіндік тапсырманы алуға арналған ортақ URL берілмеген.

Жауап өрістері
ӨрісТүрі
Өрісchoices[].indexТүріinteger
Өрісchoices[].message.contentТүріstring|null
Өрісchoices[].message.tool_callsТүріtool_call[]
Өрісchoices[].message.reasoning_contentТүріstring
Өрісchoices[].message.reasoning_detailsТүріobject|array
Өрісchoices[].finish_reasonТүріstring|null
ӨрісusageТүріobject
Қателер және келесі қадамдар
ЖауапШартКелесі қадам
Жауап400 · invalid_request_errorШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қатеКелесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз.

Балама атаулар

Модельдердің балама атаулары

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Әдіс жолдарының балама атаулары

Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.

Шақыруға арналған байланысты ID

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Ailoot · OpenAI чаты POST /v1/chat/completions nemotron-safety-guard-latest

nemotron-safety-guard-latest

NVIDIA /nemotron-safety-guard-latest
Модель ID
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Бастау

Nemotron Safety Guard v3 пайдаланушы хабарламалары мен модель жауаптарын берілген тәуекелдер таксономиясы бойынша тексереді. Қауіпсіздіктің бөлек бағалары мен бұзушылық санаттары бар JSON қайтарады.

Қабылданатын кіріс деректері
Мәтін
Нәтижелер
Мәтін

Ailoot жүйесінде қолжетімді · кіріс деректері мен әдістер

Ailoot · OpenAI чаты POST /v1/chat/completions
Кіріс
text
Шығыс
text
Контекст
4 096 tokens
Ең үлкен шығыс
1 024 tokens
Шығыс пішімі
json немесе SSE
ӨрісТүріТалапМәндер мен шектеулерӘдепкі
ӨрісmodelТүріstringТалапМіндеттіМәндер мен шектеулер
nemotron-safety-guard-latest
Әдепкі—
ӨрісmessagesТүріmessage[]ТалапМіндеттіМәндер мен шектеулер
Элементтердің ең аз саны: 1
Әдепкі—
Өрісmessages[].roleТүріstringТалапМіндеттіМәндер мен шектеулер
Мысалдар: system, user, assistant, tool, function
Шарттар: Бұл рөлдер бастапқы кодтағы үйлесімділік түрлерінде айқын көрсетілген; рөлдердің нақты жиыны әр модельге байланысты.
Модельге байланысты
Әдепкі—
Өрісmessages[].contentТүріstring|content_part[]|nullТалапМіндетті емесМәндер мен шектеулерӘдепкі—
Өрісmessages[].tool_callsТүріtool_call[]ТалапМіндетті емесМәндер мен шектеулерӘдепкі—
Өрісmessages[].tool_call_idТүріstringТалапМіндетті емесМәндер мен шектеулер
Мына жағдайда қолданылады: role=tool; нақты қайтарылған ID мәнін пайдаланыңыз
Әдепкі—
Өрісmessages[].nameТүріstringТалапМіндетті емесМәндер мен шектеулерӘдепкі—
Өрісmessages[].reasoning_contentТүріstringТалапМіндетті емесМәндер мен шектеулер
Мына жағдайда қолданылады: Модель пайымдауды пайдаланса, нақты қайтарылған пайымдауды қайта жіберіңіз
Әдепкі—
Өрісmessages[].reasoning_detailsТүріobject|arrayТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісmax_tokensТүріintegerТалапМіндетті емесМәндер мен шектеулер
Ең азы: 1
Модельге байланысты
Әдепкі—
Өрісmax_completion_tokensТүріintegerТалапМіндетті емесМәндер мен шектеулер
Ең азы: 1
Модельге байланысты
Әдепкі—
ӨрісstreamТүріbooleanТалапМіндетті емесМәндер мен шектеулерӘдепкіfalse
Өрісstream_options.include_usageТүріbooleanТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісtemperatureТүріnumberТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісtop_pТүріnumberТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісstopТүріstring|string[]ТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісtoolsТүріfunction_tool[]ТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісtools[].typeТүріstringТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісtools[].function.nameТүріstringТалапМіндеттіМәндер мен шектеулер
Мына жағдайда қолданылады: функция құралы берілген
Әдепкі—
Өрісtools[].function.descriptionТүріstringТалапМіндетті емесМәндер мен шектеулерӘдепкі—
Өрісtools[].function.parametersТүріJSON_schemaТалапМіндетті емесМәндер мен шектеулерӘдепкі—
Өрісtool_choiceТүріstring|objectТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісparallel_tool_callsТүріbooleanТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісresponse_formatТүріobjectТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісreasoning_effortТүріstringТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісreasoningТүріobjectТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісservice_tierТүріstringТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
ӨрісinstructionsТүріstringТалапМіндетті емесМәндер мен шектеулер
Үйлесімділік өрісі
Әдепкі—
ӨрісfunctionsТүріfunction[]ТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісfunction_callТүріstring|objectТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Өрісprompt_cache_optionsТүріobjectТалапМіндетті емесМәндер мен шектеулер
Модельге байланысты
Әдепкі—
Кіріс материалдарының үйлесімдері

Мәтін · UTF8 мәтіні

messages[].content

Әдіс параметрлері мен өмірлік циклі
ПараметрПараметр талаптары
Параметрmaterial_typesПараметр талаптарыtext
ПараметрrequiredПараметр талаптарыmodel, messages
Параметрoptional_controlsПараметр талаптарыnull
Параметрcontent_typeПараметр талаптарыapplication/json
Параметрtext_file_materialПараметр талаптарынақты UTF-8 мазмұны мәтін ретінде енгізіледі; файл ID мәндері мен URLs үшін бөлек нақты қолдау қажет

Өмірлік цикл: exact retained published method

Әдіс құрылымдары мен ID мәндері дәл берілген; жеткізушінің мүмкіндігі сұрауды қабылдаудан бөлек қаралады.

Тарифтер

Ailoot әдістерінің мөлшерлемелері

Ailoot OpenAI чатыPOST /v1/chat/completions
Кіріс
0,0002 $ / 1K
Шығыс
0,0002 $ / 1K
Кэшті оқу
0,0002 $ / 1K
Кэшке жазу
0,0002 $ / 1K
Кэшке жазу, 5 мин
0,0002 $ / 1K tokens

Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. Резервтеу мен төлемді есептеу тәртібі →

Сұрау мысалдары

Ailoot · OpenAI чаты

Мәтін мысалыPython SDKNode.js SDKPython ағыны
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nemotron-safety-guard-latest", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nemotron-safety-guard-latest",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nemotron-safety-guard-latest",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nemotron-safety-guard-latest',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Нәтижелерді алу және сақтау

Ailoot · OpenAI чаты

json немесе SSE

Барлық дайын нәтижені сақтау

Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз.

Әр жауап нұсқасын оның мазмұнымен, құрал шақыруларымен және пайымдауымен бірге сақтаңыз. SSE өзгерістерін жауап нұсқасы мен құрал индексі бойынша жинап, соңғы аяқталу себебі мен пайдалану деректерін сақтаңыз.

Бастапқы жауапты тексеру қажет болса

Сұрау мен жауаптың ID мәндерін және тақырыптарын сақтаңыз. Мәтіндік тапсырманы алуға арналған ортақ URL берілмеген.

Жауап өрістері
ӨрісТүрі
Өрісchoices[].indexТүріinteger
Өрісchoices[].message.contentТүріstring|null
Өрісchoices[].message.tool_callsТүріtool_call[]
Өрісchoices[].message.reasoning_contentТүріstring
Өрісchoices[].message.reasoning_detailsТүріobject|array
Өрісchoices[].finish_reasonТүріstring|null
ӨрісusageТүріobject
Қателер және келесі қадамдар
ЖауапШартКелесі қадам
Жауап400 · invalid_request_errorШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қатеКелесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз.

Балама атаулар

Модельдердің балама атаулары

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Әдіс жолдарының балама атаулары

Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз.

Шақыруға арналған байланысты ID

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

FAQ · nvidia/llama-3.1-nemotron-safety-guard-8b-v3
Қандай кіріс деректері мен нәтижелер қолжетімді?

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: text → text

POST /v1/chat/completions · nemotron-safety-guard: text → text

POST /v1/chat/completions · nemotron-safety-guard-latest: text → text

Сұрау қандай өрістерді пайдаланады?

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: model, messages, stream

POST /v1/chat/completions · nemotron-safety-guard: model, messages, stream

POST /v1/chat/completions · nemotron-safety-guard-latest: model, messages, stream

Қандай шектеулер қолданылады?

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: ctx: 4096; max_out: 1024; messages.min_items: 1

POST /v1/chat/completions · nemotron-safety-guard: ctx: 4096; max_out: 1024; messages.min_items: 1

POST /v1/chat/completions · nemotron-safety-guard-latest: ctx: 4096; max_out: 1024; messages.min_items: 1

Толығырақ

Ailoot-ты Claude Code, OpenCode, Hermes не қолданбаңызға қосыңыз.

Компания және оның жобалар портфелі

Компания және оның жобалар портфелі: миллиондаған клиент; ай сайынғы сату көлемі миллиардтармен есептеледі.

Токенді жеңілдікпен сатып алыңыз.

Тұрақты жұмысқа жазылым жеңілдігі. Токен сатып алуға промокодтар — 50% дейін.

Жазылым
Тұрақты сұрауыңызға жеңілдікті тариф таңдаңыз.
50% дейінгі промокод
Сатып алғанда код енгізіңіз. Баға қазіргі науқанмен қайта есептеледі.
Тарихтағы шығындар
Әр сұрауға модель, токен және сома сақталады.

Жазылым таңдау · Модель бағасын көру

API-ді сататын өніміңізге қосыңыз.

SaaS, қолданба мен бот Ailoot офертасы және лицензиялық шартына сай. Қайта сатуға реселлер лицензиясын сұраңыз.

Коммерциялық қолданба
Қызметіңіздің ақылы функциясына мәтін, сурет, бейне және дыбыс жасауды қосыңыз.
Реселлер лицензиясы
Жоба сипаттамасы мен кіру схемасын жіберіңіз. Пайдалану мен қайта сатуға жазбаша шарт сұраңыз.
Сайттағы құжаттар
Оферта, лицензиялық шарт және дерек саясаты қоспай тұрып қолжетімді.

Реселлер лицензиясын сұрау · Оферта мен лицензиялық шарт