models

Llama 3.1 Nemotron Safety Guard 8B v3

Markdown · JSON

Llama 3.1 Nemotron Safety Guard 8B v3

Nemotron Safety Guard v3 проверяет пользовательские сообщения и ответы модели по заданной таксономии рисков. Возвращает JSON с отдельными оценками безопасности и категориями нарушений.

О модели

Описание раскрывает возможности модели. Доступные в Ailoot входные данные, результаты и параметры выбранного метода перечислены ниже.

Проверка обеих сторон диалога

Llama 3.1 Nemotron Safety Guard 8B v3 разработана NVIDIA для модерации взаимодействия человека с языковой моделью. Можно передать только пользовательское сообщение или дополнить его ответом помощника, включая несколько реплик. Модель определяет безопасность каждой стороны: опасный запрос и корректный отказ помощника получают разные оценки. Это позволяет проверять вход до генерации и отдельно анализировать уже подготовленный ответ.

Результат представляет собой JSON. Обязательное поле User Safety содержит safe или unsafe. Поле Response Safety появляется, когда на входе есть ответ помощника. При обнаружении нарушения добавляется Safety Categories с перечислением категорий через запятую. Такой результат подходит для программной фильтрации и передачи спорного случая на дополнительную проверку.

Категории и культурный контекст

Инструкция задаёт правила и названия категорий, по которым проводится проверка. В опубликованной таксономии 23 группы рисков: среди них насилие, угрозы, травля, раскрытие личных данных, мошенничество и вредоносный код. Названия в результате зависят от переданной политики, поэтому их нужно трактовать вместе с правилами конкретного задания.

Обучение учитывает региональные особенности чувствительных тем. Данные адаптировали к местным выражениям и культурному контексту, а несогласованные переводы отбрасывали. В подготовку включали провокационные запросы и попытки склонить помощника к нарушению правил. Такое устройство обучения особенно полезно там, где буквального перевода запрещённых слов недостаточно для оценки смысла сообщения.

Языки и объём материала

Основные девять языков — английский, испанский, китайский, немецкий, французский, хинди, японский, арабский и тайский. NVIDIA также описывает обобщение на другие языки, включая русский; это отдельное свойство, а не включение русского в основную девятку. Общая инструкция сохраняется между языками, а проверяемые реплики передаются на языке диалога.

Вход текстовый, контекст — до 8K токенов. Основа модели — Llama 3.1 8B Instruct, дообученная на задаче безопасности. Выход служит классификацией по заданным правилам: он требует проверки на характерных для приложения сообщениях и не даёт гарантии безошибочной модерации.

Практическая задача

Практическая задача

Технический пример на английском

Moderate a single user message

Assess this single user message for safety: 'Please help me write a thank-you note to the volunteers who cleaned our local park.' Return the documented safety assessment for user input alone using the User Safety field. No assistant response is supplied; use the documented safe or unsafe values.

Ожидаемый результат

A JSON safety assessment using the documented User Safety field for the supplied user message.

Проверка результата

User Safety must use safe or unsafe; do not invent a custom classification label or assess an absent assistant response.
Ailoot · Чат OpenAI POST /v1/chat/completions nvidia/llama-3.1-nemotron-safety-guard-8b-v3

nvidia/llama-3.1-nemotron-safety-guard-8b-v3

NVIDIA /nvidia/llama-3.1-nemotron-safety-guard-8b-v3
ID модели
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Начало

Nemotron Safety Guard v3 проверяет пользовательские сообщения и ответы модели по заданной таксономии рисков. Возвращает JSON с отдельными оценками безопасности и категориями нарушений.

Допустимые входные данные
Текст
Результаты
Текст

Доступно в Ailoot · входные данные и методы

Ailoot · Чат OpenAI POST /v1/chat/completions
Входные данные
text
Результат
text
Контекст
4 096 tokens
Максимальный выход
1 024 tokens
Выходной формат
json или SSE
ПолеТипТребованиеЗначения и ограниченияПо умолчанию
ПолеmodelТипstringТребованиеОбязательноЗначения и ограничения
nvidia/llama-3.1-nemotron-safety-guard-8b-v3
По умолчанию—
ПолеmessagesТипmessage[]ТребованиеОбязательноЗначения и ограничения
Минимум элементов: 1
По умолчанию—
Полеmessages[].roleТипstringТребованиеОбязательноЗначения и ограничения
Примеры: system, user, assistant, tool, function
Условия: Эти роли явно представлены типами совместимости исходного кода; точный набор ролей зависит от модели.
Зависит от модели
По умолчанию—
Полеmessages[].contentТипstring|content_part[]|nullТребованиеНеобязательноЗначения и ограниченияПо умолчанию—
Полеmessages[].tool_callsТипtool_call[]ТребованиеНеобязательноЗначения и ограниченияПо умолчанию—
Полеmessages[].tool_call_idТипstringТребованиеНеобязательноЗначения и ограничения
Применяется, когда: role=tool; используйте фактически возвращённый ID
По умолчанию—
Полеmessages[].nameТипstringТребованиеНеобязательноЗначения и ограниченияПо умолчанию—
Полеmessages[].reasoning_contentТипstringТребованиеНеобязательноЗначения и ограничения
Применяется, когда: Передавайте обратно фактически возвращённые рассуждения, если эта модель их использует
По умолчанию—
Полеmessages[].reasoning_detailsТипobject|arrayТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеmax_tokensТипintegerТребованиеНеобязательноЗначения и ограничения
Минимум: 1
Зависит от модели
По умолчанию—
Полеmax_completion_tokensТипintegerТребованиеНеобязательноЗначения и ограничения
Минимум: 1
Зависит от модели
По умолчанию—
ПолеstreamТипbooleanТребованиеНеобязательноЗначения и ограниченияПо умолчаниюfalse
Полеstream_options.include_usageТипbooleanТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
ПолеtemperatureТипnumberТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеtop_pТипnumberТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
ПолеstopТипstring|string[]ТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
ПолеtoolsТипfunction_tool[]ТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеtools[].typeТипstringТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеtools[].function.nameТипstringТребованиеОбязательноЗначения и ограничения
Применяется, когда: передан инструмент-функция
По умолчанию—
Полеtools[].function.descriptionТипstringТребованиеНеобязательноЗначения и ограниченияПо умолчанию—
Полеtools[].function.parametersТипJSON_schemaТребованиеНеобязательноЗначения и ограниченияПо умолчанию—
Полеtool_choiceТипstring|objectТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеparallel_tool_callsТипbooleanТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеresponse_formatТипobjectТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеreasoning_effortТипstringТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
ПолеreasoningТипobjectТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеservice_tierТипstringТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
ПолеinstructionsТипstringТребованиеНеобязательноЗначения и ограничения
Поле совместимости
По умолчанию—
ПолеfunctionsТипfunction[]ТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеfunction_callТипstring|objectТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеprompt_cache_optionsТипobjectТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Сочетания входных материалов

Текст · Текст UTF8

messages[].content

Параметры и жизненный цикл метода
ПараметрКонтракт
Параметрmaterial_typesКонтрактtext
ПараметрrequiredКонтрактmodel, messages
Параметрoptional_controlsКонтрактnull
Параметрcontent_typeКонтрактapplication/json
Параметрtext_file_materialКонтрактфактическое содержимое UTF-8 вставляется как текст; ID файлов и URLs требуют отдельной точной поддержки

Жизненный цикл: exact retained published method

Структуры методов и ID указаны точно; возможности поставщика рассматриваются отдельно от допуска.

Тарифы

Ставки методов Ailoot

Ailoot Чат OpenAIPOST /v1/chat/completions
Вход
0,0002 $ / 1K
Выход
0,0002 $ / 1K
Чтение кэша
0,0002 $ / 1K
Запись в кэш
0,0002 $ / 1K
Запись в кэш, 5 мин
0,0002 $ / 1K tokens

Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. Как работают резервирование и расчёт →

Примеры запросов

Ailoot · Чат OpenAI

Пример текстаPython SDKNode.js SDKПоток Python
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/llama-3.1-nemotron-safety-guard-8b-v3", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nvidia/llama-3.1-nemotron-safety-guard-8b-v3",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nvidia/llama-3.1-nemotron-safety-guard-8b-v3",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nvidia/llama-3.1-nemotron-safety-guard-8b-v3',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Получить и сохранить результаты

Ailoot · Чат OpenAI

json или SSE

Сохраняйте все готовые результаты

Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого.

Сохраняйте каждый вариант ответа с его содержимым, вызовами инструментов и рассуждениями. В SSE собирайте изменения по индексам варианта и инструмента, сохраняйте итоговую причину завершения и данные использования.

Если нужно проверить исходный ответ

Сохраняйте ID запросов и ответов, а также заголовки. Общий URL получения текстового задания не предоставлен.

Поля ответа
ПолеТип
Полеchoices[].indexТипinteger
Полеchoices[].message.contentТипstring|null
Полеchoices[].message.tool_callsТипtool_call[]
Полеchoices[].message.reasoning_contentТипstring
Полеchoices[].message.reasoning_detailsТипobject|array
Полеchoices[].finish_reasonТипstring|null
ПолеusageТипobject
Ошибки и дальнейшие шаги
ОтветУсловиеСледующий шаг
Ответ400 · invalid_request_errorУсловиеНеверные обязательные поля, представление материалов или значение параметраСледующий шагИсправьте указанные поля перед новым запросом на создание.

Псевдонимы

Псевдонимы моделей

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Псевдонимы путей метода

Используйте пути методов, указанные выше.

Связанные ID для вызова

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Ailoot · Чат OpenAI POST /v1/chat/completions nemotron-safety-guard

nemotron-safety-guard

NVIDIA /nemotron-safety-guard
ID модели
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Начало

Nemotron Safety Guard v3 проверяет пользовательские сообщения и ответы модели по заданной таксономии рисков. Возвращает JSON с отдельными оценками безопасности и категориями нарушений.

Допустимые входные данные
Текст
Результаты
Текст

Доступно в Ailoot · входные данные и методы

Ailoot · Чат OpenAI POST /v1/chat/completions
Входные данные
text
Результат
text
Контекст
4 096 tokens
Максимальный выход
1 024 tokens
Выходной формат
json или SSE
ПолеТипТребованиеЗначения и ограниченияПо умолчанию
ПолеmodelТипstringТребованиеОбязательноЗначения и ограничения
nemotron-safety-guard
По умолчанию—
ПолеmessagesТипmessage[]ТребованиеОбязательноЗначения и ограничения
Минимум элементов: 1
По умолчанию—
Полеmessages[].roleТипstringТребованиеОбязательноЗначения и ограничения
Примеры: system, user, assistant, tool, function
Условия: Эти роли явно представлены типами совместимости исходного кода; точный набор ролей зависит от модели.
Зависит от модели
По умолчанию—
Полеmessages[].contentТипstring|content_part[]|nullТребованиеНеобязательноЗначения и ограниченияПо умолчанию—
Полеmessages[].tool_callsТипtool_call[]ТребованиеНеобязательноЗначения и ограниченияПо умолчанию—
Полеmessages[].tool_call_idТипstringТребованиеНеобязательноЗначения и ограничения
Применяется, когда: role=tool; используйте фактически возвращённый ID
По умолчанию—
Полеmessages[].nameТипstringТребованиеНеобязательноЗначения и ограниченияПо умолчанию—
Полеmessages[].reasoning_contentТипstringТребованиеНеобязательноЗначения и ограничения
Применяется, когда: Передавайте обратно фактически возвращённые рассуждения, если эта модель их использует
По умолчанию—
Полеmessages[].reasoning_detailsТипobject|arrayТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеmax_tokensТипintegerТребованиеНеобязательноЗначения и ограничения
Минимум: 1
Зависит от модели
По умолчанию—
Полеmax_completion_tokensТипintegerТребованиеНеобязательноЗначения и ограничения
Минимум: 1
Зависит от модели
По умолчанию—
ПолеstreamТипbooleanТребованиеНеобязательноЗначения и ограниченияПо умолчаниюfalse
Полеstream_options.include_usageТипbooleanТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
ПолеtemperatureТипnumberТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеtop_pТипnumberТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
ПолеstopТипstring|string[]ТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
ПолеtoolsТипfunction_tool[]ТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеtools[].typeТипstringТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеtools[].function.nameТипstringТребованиеОбязательноЗначения и ограничения
Применяется, когда: передан инструмент-функция
По умолчанию—
Полеtools[].function.descriptionТипstringТребованиеНеобязательноЗначения и ограниченияПо умолчанию—
Полеtools[].function.parametersТипJSON_schemaТребованиеНеобязательноЗначения и ограниченияПо умолчанию—
Полеtool_choiceТипstring|objectТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеparallel_tool_callsТипbooleanТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеresponse_formatТипobjectТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеreasoning_effortТипstringТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
ПолеreasoningТипobjectТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеservice_tierТипstringТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
ПолеinstructionsТипstringТребованиеНеобязательноЗначения и ограничения
Поле совместимости
По умолчанию—
ПолеfunctionsТипfunction[]ТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеfunction_callТипstring|objectТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеprompt_cache_optionsТипobjectТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Сочетания входных материалов

Текст · Текст UTF8

messages[].content

Параметры и жизненный цикл метода
ПараметрКонтракт
Параметрmaterial_typesКонтрактtext
ПараметрrequiredКонтрактmodel, messages
Параметрoptional_controlsКонтрактnull
Параметрcontent_typeКонтрактapplication/json
Параметрtext_file_materialКонтрактфактическое содержимое UTF-8 вставляется как текст; ID файлов и URLs требуют отдельной точной поддержки

Жизненный цикл: exact retained published method

Структуры методов и ID указаны точно; возможности поставщика рассматриваются отдельно от допуска.

Тарифы

Ставки методов Ailoot

Ailoot Чат OpenAIPOST /v1/chat/completions
Вход
0,0002 $ / 1K
Выход
0,0002 $ / 1K
Чтение кэша
0,0002 $ / 1K
Запись в кэш
0,0002 $ / 1K
Запись в кэш, 5 мин
0,0002 $ / 1K tokens

Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. Как работают резервирование и расчёт →

Примеры запросов

Ailoot · Чат OpenAI

Пример текстаPython SDKNode.js SDKПоток Python
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nemotron-safety-guard", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nemotron-safety-guard",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nemotron-safety-guard",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nemotron-safety-guard',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Получить и сохранить результаты

Ailoot · Чат OpenAI

json или SSE

Сохраняйте все готовые результаты

Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого.

Сохраняйте каждый вариант ответа с его содержимым, вызовами инструментов и рассуждениями. В SSE собирайте изменения по индексам варианта и инструмента, сохраняйте итоговую причину завершения и данные использования.

Если нужно проверить исходный ответ

Сохраняйте ID запросов и ответов, а также заголовки. Общий URL получения текстового задания не предоставлен.

Поля ответа
ПолеТип
Полеchoices[].indexТипinteger
Полеchoices[].message.contentТипstring|null
Полеchoices[].message.tool_callsТипtool_call[]
Полеchoices[].message.reasoning_contentТипstring
Полеchoices[].message.reasoning_detailsТипobject|array
Полеchoices[].finish_reasonТипstring|null
ПолеusageТипobject
Ошибки и дальнейшие шаги
ОтветУсловиеСледующий шаг
Ответ400 · invalid_request_errorУсловиеНеверные обязательные поля, представление материалов или значение параметраСледующий шагИсправьте указанные поля перед новым запросом на создание.

Псевдонимы

Псевдонимы моделей

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Псевдонимы путей метода

Используйте пути методов, указанные выше.

Связанные ID для вызова

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Ailoot · Чат OpenAI POST /v1/chat/completions nemotron-safety-guard-latest

nemotron-safety-guard-latest

NVIDIA /nemotron-safety-guard-latest
ID модели
  • nvidia/llama-3.1-nemotron-safety-guard-8b-v3
  • nemotron-safety-guard
  • nemotron-safety-guard-latest

Начало

Nemotron Safety Guard v3 проверяет пользовательские сообщения и ответы модели по заданной таксономии рисков. Возвращает JSON с отдельными оценками безопасности и категориями нарушений.

Допустимые входные данные
Текст
Результаты
Текст

Доступно в Ailoot · входные данные и методы

Ailoot · Чат OpenAI POST /v1/chat/completions
Входные данные
text
Результат
text
Контекст
4 096 tokens
Максимальный выход
1 024 tokens
Выходной формат
json или SSE
ПолеТипТребованиеЗначения и ограниченияПо умолчанию
ПолеmodelТипstringТребованиеОбязательноЗначения и ограничения
nemotron-safety-guard-latest
По умолчанию—
ПолеmessagesТипmessage[]ТребованиеОбязательноЗначения и ограничения
Минимум элементов: 1
По умолчанию—
Полеmessages[].roleТипstringТребованиеОбязательноЗначения и ограничения
Примеры: system, user, assistant, tool, function
Условия: Эти роли явно представлены типами совместимости исходного кода; точный набор ролей зависит от модели.
Зависит от модели
По умолчанию—
Полеmessages[].contentТипstring|content_part[]|nullТребованиеНеобязательноЗначения и ограниченияПо умолчанию—
Полеmessages[].tool_callsТипtool_call[]ТребованиеНеобязательноЗначения и ограниченияПо умолчанию—
Полеmessages[].tool_call_idТипstringТребованиеНеобязательноЗначения и ограничения
Применяется, когда: role=tool; используйте фактически возвращённый ID
По умолчанию—
Полеmessages[].nameТипstringТребованиеНеобязательноЗначения и ограниченияПо умолчанию—
Полеmessages[].reasoning_contentТипstringТребованиеНеобязательноЗначения и ограничения
Применяется, когда: Передавайте обратно фактически возвращённые рассуждения, если эта модель их использует
По умолчанию—
Полеmessages[].reasoning_detailsТипobject|arrayТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеmax_tokensТипintegerТребованиеНеобязательноЗначения и ограничения
Минимум: 1
Зависит от модели
По умолчанию—
Полеmax_completion_tokensТипintegerТребованиеНеобязательноЗначения и ограничения
Минимум: 1
Зависит от модели
По умолчанию—
ПолеstreamТипbooleanТребованиеНеобязательноЗначения и ограниченияПо умолчаниюfalse
Полеstream_options.include_usageТипbooleanТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
ПолеtemperatureТипnumberТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеtop_pТипnumberТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
ПолеstopТипstring|string[]ТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
ПолеtoolsТипfunction_tool[]ТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеtools[].typeТипstringТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеtools[].function.nameТипstringТребованиеОбязательноЗначения и ограничения
Применяется, когда: передан инструмент-функция
По умолчанию—
Полеtools[].function.descriptionТипstringТребованиеНеобязательноЗначения и ограниченияПо умолчанию—
Полеtools[].function.parametersТипJSON_schemaТребованиеНеобязательноЗначения и ограниченияПо умолчанию—
Полеtool_choiceТипstring|objectТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеparallel_tool_callsТипbooleanТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеresponse_formatТипobjectТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеreasoning_effortТипstringТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
ПолеreasoningТипobjectТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеservice_tierТипstringТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
ПолеinstructionsТипstringТребованиеНеобязательноЗначения и ограничения
Поле совместимости
По умолчанию—
ПолеfunctionsТипfunction[]ТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеfunction_callТипstring|objectТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Полеprompt_cache_optionsТипobjectТребованиеНеобязательноЗначения и ограничения
Зависит от модели
По умолчанию—
Сочетания входных материалов

Текст · Текст UTF8

messages[].content

Параметры и жизненный цикл метода
ПараметрКонтракт
Параметрmaterial_typesКонтрактtext
ПараметрrequiredКонтрактmodel, messages
Параметрoptional_controlsКонтрактnull
Параметрcontent_typeКонтрактapplication/json
Параметрtext_file_materialКонтрактфактическое содержимое UTF-8 вставляется как текст; ID файлов и URLs требуют отдельной точной поддержки

Жизненный цикл: exact retained published method

Структуры методов и ID указаны точно; возможности поставщика рассматриваются отдельно от допуска.

Тарифы

Ставки методов Ailoot

Ailoot Чат OpenAIPOST /v1/chat/completions
Вход
0,0002 $ / 1K
Выход
0,0002 $ / 1K
Чтение кэша
0,0002 $ / 1K
Запись в кэш
0,0002 $ / 1K
Запись в кэш, 5 мин
0,0002 $ / 1K tokens

Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. Как работают резервирование и расчёт →

Примеры запросов

Ailoot · Чат OpenAI

Пример текстаPython SDKNode.js SDKПоток Python
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nemotron-safety-guard-latest", "messages": []}')
f=Path(os.environ["AILOOT_TEXT_FILE"])
if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")
text=f.read_text(encoding="utf-8")
if not text.strip():raise SystemExit("Source material must contain text")
p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}]
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))
PY_RESULT
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)
resp = client.chat.completions.create(
    model="nemotron-safety-guard-latest",
    messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],
)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(resp.to_dict(mode="json"))
import OpenAI from "openai";

if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");
const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });
const resp = await client.chat.completions.create({
  model: "nemotron-safety-guard-latest",
  messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],
});
import { writeFileSync } from "node:fs";

function saveResult(data, stem = "result") {
  writeFileSync(stem + ".json", JSON.stringify(data, null, 2));
  console.log(JSON.stringify(data, null, 2));
  const saveBlob = (encoded, suffix, label) => {
    const raw = Buffer.from(encoded, "base64");
    const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;
    const file = `${stem}-${label}.${ext}`;
    writeFileSync(file, raw); console.log("Saved", file);
  };
  for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));
  for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));
  for (const [i, item] of (data.output || []).entries()) {
    console.log("Output", i, JSON.stringify(item));
    if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);
  }
  for (const [ci, candidate] of (data.candidates || []).entries()) {
    for (const [pi, part] of (candidate.content?.parts || []).entries()) {
      console.log("Candidate/part", ci, pi, JSON.stringify(part));
      const blob = part.inlineData || part.inline_data;
      if (blob?.data) {
        const mime = blob.mimeType || blob.mime_type;
        const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";
        saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);
      }
    }
  }
}

saveResult(resp);
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='nemotron-safety-guard-latest',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")

Получить и сохранить результаты

Ailoot · Чат OpenAI

json или SSE

Сохраняйте все готовые результаты

Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого.

Сохраняйте каждый вариант ответа с его содержимым, вызовами инструментов и рассуждениями. В SSE собирайте изменения по индексам варианта и инструмента, сохраняйте итоговую причину завершения и данные использования.

Если нужно проверить исходный ответ

Сохраняйте ID запросов и ответов, а также заголовки. Общий URL получения текстового задания не предоставлен.

Поля ответа
ПолеТип
Полеchoices[].indexТипinteger
Полеchoices[].message.contentТипstring|null
Полеchoices[].message.tool_callsТипtool_call[]
Полеchoices[].message.reasoning_contentТипstring
Полеchoices[].message.reasoning_detailsТипobject|array
Полеchoices[].finish_reasonТипstring|null
ПолеusageТипobject
Ошибки и дальнейшие шаги
ОтветУсловиеСледующий шаг
Ответ400 · invalid_request_errorУсловиеНеверные обязательные поля, представление материалов или значение параметраСледующий шагИсправьте указанные поля перед новым запросом на создание.

Псевдонимы

Псевдонимы моделей

Ailoot nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

Псевдонимы путей метода

Используйте пути методов, указанные выше.

Связанные ID для вызова

nvidia/llama-3.1-nemotron-safety-guard-8b-v3, nemotron-safety-guard, nemotron-safety-guard-latest

FAQ · nvidia/llama-3.1-nemotron-safety-guard-8b-v3
Какие входные данные и результаты доступны?

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: text → text

POST /v1/chat/completions · nemotron-safety-guard: text → text

POST /v1/chat/completions · nemotron-safety-guard-latest: text → text

Какие поля использует запрос?

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: model, messages, stream

POST /v1/chat/completions · nemotron-safety-guard: model, messages, stream

POST /v1/chat/completions · nemotron-safety-guard-latest: model, messages, stream

Какие ограничения действуют?

POST /v1/chat/completions · nvidia/llama-3.1-nemotron-safety-guard-8b-v3: ctx: 4096; max_out: 1024; messages.min_items: 1

POST /v1/chat/completions · nemotron-safety-guard: ctx: 4096; max_out: 1024; messages.min_items: 1

POST /v1/chat/completions · nemotron-safety-guard-latest: ctx: 4096; max_out: 1024; messages.min_items: 1

Подробнее

Подключите Ailoot к Claude Code, OpenCode, Hermes или своему приложению.

Компания и портфель её проектов

Компания и портфель её проектов: миллионы клиентов; продажи на миллиарды ежемесячно.

Покупайте токены со скидкой.

Скидка по подписке для регулярной работы. Промокоды — до 50% на покупку токенов.

Подписка
Выберите тариф со скидкой для своих регулярных запросов.
Промокод до 50%
Введите код при покупке. Цена пересчитается с учётом действующей акции.
Расходы в истории
Модель, токены и сумма сохраняются для каждого запроса.

Выбрать подписку · Посмотреть цены моделей

Подключайте API к продукту, который вы продаёте.

SaaS, приложения и боты — по оферте и лицензионному договору Ailoot. Для перепродажи запросите реселлерскую лицензию.

Коммерческое приложение
Встраивайте генерацию текста, картинок, видео и звука в платные функции своего сервиса.
Лицензия для реселлера
Пришлите описание проекта и схему доступа. Запросите письменные условия использования и перепродажи.
Документы на сайте
Оферта, лицензионный договор и политика обработки данных доступны до подключения.

Запросить реселлерскую лицензию · Оферта и лицензионный договор