Source: https://ailoot.ai/models/ru/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/ Canonical: https://ailoot.ai/models/ru/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/ Language: ru # Llama 3.1 Nemotron Safety Guard 8B v3 [Markdown](https://ailoot.ai/models/ru/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/index.md) · [JSON](https://ailoot.ai/models/ru/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/facts.json) ## [Llama 3.1 Nemotron Safety Guard 8B v3](https://ailoot.ai/models/ru/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/) Nemotron Safety Guard v3 проверяет пользовательские сообщения и ответы модели по заданной таксономии рисков. Возвращает JSON с отдельными оценками безопасности и категориями нарушений. - [**Ailoot · Чат OpenAI** `POST /v1/chat/completions` `nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/ru/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/#method-0) - [**Ailoot · Чат OpenAI** `POST /v1/chat/completions` `nemotron-safety-guard`](https://ailoot.ai/models/ru/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/#method-1) - [**Ailoot · Чат OpenAI** `POST /v1/chat/completions` `nemotron-safety-guard-latest`](https://ailoot.ai/models/ru/nvidia-llama-3-1-nemotron-safety-guard-8b-v3/#method-2) О модели Описание раскрывает возможности модели. Доступные в Ailoot входные данные, результаты и параметры выбранного метода перечислены ниже. #### Проверка обеих сторон диалога Llama 3.1 Nemotron Safety Guard 8B v3 разработана NVIDIA для модерации взаимодействия человека с языковой моделью. Можно передать только пользовательское сообщение или дополнить его ответом помощника, включая несколько реплик. Модель определяет безопасность каждой стороны: опасный запрос и корректный отказ помощника получают разные оценки. Это позволяет проверять вход до генерации и отдельно анализировать уже подготовленный ответ. Результат представляет собой JSON. Обязательное поле `User Safety` содержит `safe` или `unsafe`. Поле `Response Safety` появляется, когда на входе есть ответ помощника. При обнаружении нарушения добавляется `Safety Categories` с перечислением категорий через запятую. Такой результат подходит для программной фильтрации и передачи спорного случая на дополнительную проверку. #### Категории и культурный контекст Инструкция задаёт правила и названия категорий, по которым проводится проверка. В опубликованной таксономии 23 группы рисков: среди них насилие, угрозы, травля, раскрытие личных данных, мошенничество и вредоносный код. Названия в результате зависят от переданной политики, поэтому их нужно трактовать вместе с правилами конкретного задания. Обучение учитывает региональные особенности чувствительных тем. Данные адаптировали к местным выражениям и культурному контексту, а несогласованные переводы отбрасывали. В подготовку включали провокационные запросы и попытки склонить помощника к нарушению правил. Такое устройство обучения особенно полезно там, где буквального перевода запрещённых слов недостаточно для оценки смысла сообщения. #### Языки и объём материала Основные девять языков — английский, испанский, китайский, немецкий, французский, хинди, японский, арабский и тайский. NVIDIA также описывает обобщение на другие языки, включая русский; это отдельное свойство, а не включение русского в основную девятку. Общая инструкция сохраняется между языками, а проверяемые реплики передаются на языке диалога. Вход текстовый, контекст — до 8K токенов. Основа модели — Llama 3.1 8B Instruct, дообученная на задаче безопасности. Выход служит классификацией по заданным правилам: он требует проверки на характерных для приложения сообщениях и не даёт гарантии безошибочной модерации. Практическая задача ### Практическая задача Технический пример на английском ``` Moderate a single user message Assess this single user message for safety: 'Please help me write a thank-you note to the volunteers who cleaned our local park.' Return the documented safety assessment for user input alone using the User Safety field. No assistant response is supplied; use the documented safe or unsafe values. ``` #### Ожидаемый результат ``` A JSON safety assessment using the documented User Safety field for the supplied user message. ``` #### Проверка результата ``` User Safety must use safe or unsafe; do not invent a custom classification label or assess an absent assistant response. ``` **Ailoot · Чат OpenAI** `POST /v1/chat/completions` `nvidia/llama-3.1-nemotron-safety-guard-8b-v3` [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat) NVIDIA /`nvidia/llama-3.1-nemotron-safety-guard-8b-v3` ID модели - `nvidia/llama-3.1-nemotron-safety-guard-8b-v3` - `nemotron-safety-guard` - `nemotron-safety-guard-latest` ### Начало Nemotron Safety Guard v3 проверяет пользовательские сообщения и ответы модели по заданной таксономии рисков. Возвращает JSON с отдельными оценками безопасности и категориями нарушений. Допустимые входные данные Текст Результаты Текст ### Доступно в Ailoot · входные данные и методы **Ailoot · Чат OpenAI** `POST /v1/chat/completions` Входные данные `text` Результат `text` Контекст 4 096 tokens Максимальный выход 1 024 tokens Выходной формат json или SSE | Поле | Тип | Требование | Значения и ограничения | По умолчанию | | --- | --- | --- | --- | --- | | Поле`model` | Тип`string` | ТребованиеОбязательно | Значения и ограничения nvidia/llama-3.1-nemotron-safety-guard-8b-v3 | По умолчанию— | | Поле`messages` | Тип`message[]` | ТребованиеОбязательно | Значения и ограничения Минимум элементов: 1 | По умолчанию— | | Поле`messages[].role` | Тип`string` | ТребованиеОбязательно | Значения и ограничения Примеры: system, user, assistant, tool, function Условия: Эти роли явно представлены типами совместимости исходного кода; точный набор ролей зависит от модели. Зависит от модели | По умолчанию— | | Поле`messages[].content` | Тип`string\|content_part[]\|null` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].tool_calls` | Тип`tool_call[]` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].tool_call_id` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: role=tool; используйте фактически возвращённый ID | По умолчанию— | | Поле`messages[].name` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].reasoning_content` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: Передавайте обратно фактически возвращённые рассуждения, если эта модель их использует | По умолчанию— | | Поле`messages[].reasoning_details` | Тип`object\|array` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`max_tokens` | Тип`integer` | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— | | Поле`max_completion_tokens` | Тип`integer` | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— | | Поле`stream` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения | По умолчаниюfalse | | Поле`stream_options.include_usage` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`temperature` | Тип`number` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`top_p` | Тип`number` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`stop` | Тип`string\|string[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`tools` | Тип`function_tool[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`tools[].type` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`tools[].function.name` | Тип`string` | ТребованиеОбязательно | Значения и ограничения Применяется, когда: передан инструмент-функция | По умолчанию— | | Поле`tools[].function.description` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`tools[].function.parameters` | Тип`JSON_schema` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`tool_choice` | Тип`string\|object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`parallel_tool_calls` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`response_format` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`reasoning_effort` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`reasoning` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`service_tier` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`instructions` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Поле совместимости | По умолчанию— | | Поле`functions` | Тип`function[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`function_call` | Тип`string\|object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`prompt_cache_options` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | Сочетания входных материалов **Текст** · Текст UTF8 `messages[].content` Параметры и жизненный цикл метода | Параметр | Контракт | | --- | --- | | Параметр`material_types` | Контрактtext | | Параметр`required` | Контрактmodel, messages | | Параметр`optional_controls` | Контрактnull | | Параметр`content_type` | Контрактapplication/json | | Параметр`text_file_material` | Контрактфактическое содержимое UTF-8 вставляется как текст; ID файлов и URLs требуют отдельной точной поддержки | Жизненный цикл: `exact retained published method` Структуры методов и ID указаны точно; возможности поставщика рассматриваются отдельно от допуска. ### Тарифы #### Ставки методов Ailoot Вход 0,0002 $ */ 1K* Выход 0,0002 $ */ 1K* Чтение кэша 0,0002 $ */ 1K* Запись в кэш 0,0002 $ */ 1K* Запись в кэш, 5 мин 0,0002 $ */ 1K tokens* Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. [Как работают резервирование и расчёт →](https://ailoot.ai/docs/ru/billing/reserve/) ### Примеры запросов #### Ailoot · Чат OpenAI Пример текстаPython SDKNode.js SDKПоток Python ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "nvidia/llama-3.1-nemotron-safety-guard-8b-v3", "messages": []}') f=Path(os.environ["AILOOT_TEXT_FILE"]) if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material") text=f.read_text(encoding="utf-8") if not text.strip():raise SystemExit("Source material must contain text") p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}] Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2)) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0) resp = client.chat.completions.create( model="nvidia/llama-3.1-nemotron-safety-guard-8b-v3", messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}], ) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(resp.to_dict(mode="json")) ``` ```js import OpenAI from "openai"; if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request"); const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 }); const resp = await client.chat.completions.create({ model: "nvidia/llama-3.1-nemotron-safety-guard-8b-v3", messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }], }); import { writeFileSync } from "node:fs"; function saveResult(data, stem = "result") { writeFileSync(stem + ".json", JSON.stringify(data, null, 2)); console.log(JSON.stringify(data, null, 2)); const saveBlob = (encoded, suffix, label) => { const raw = Buffer.from(encoded, "base64"); const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix; const file = `${stem}-${label}.${ext}`; writeFileSync(file, raw); console.log("Saved", file); }; for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block)); for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {})); for (const [i, item] of (data.output || []).entries()) { console.log("Output", i, JSON.stringify(item)); if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`); } for (const [ci, candidate] of (data.candidates || []).entries()) { for (const [pi, part] of (candidate.content?.parts || []).entries()) { console.log("Candidate/part", ci, pi, JSON.stringify(part)); const blob = part.inlineData || part.inline_data; if (blob?.data) { const mime = blob.mimeType || blob.mime_type; const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin"; saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`); } } } } saveResult(resp); ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='nvidia/llama-3.1-nemotron-safety-guard-8b-v3',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Получить и сохранить результаты #### Ailoot · Чат OpenAI json или SSE ##### Сохраняйте все готовые результаты Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого. Сохраняйте каждый вариант ответа с его содержимым, вызовами инструментов и рассуждениями. В SSE собирайте изменения по индексам варианта и инструмента, сохраняйте итоговую причину завершения и данные использования. ##### Если нужно проверить исходный ответ Сохраняйте ID запросов и ответов, а также заголовки. Общий URL получения текстового задания не предоставлен. Поля ответа | Поле | Тип | | --- | --- | | Поле`choices[].index` | Типinteger | | Поле`choices[].message.content` | Типstring\|null | | Поле`choices[].message.tool_calls` | Типtool\_call\[\] | | Поле`choices[].message.reasoning_content` | Типstring | | Поле`choices[].message.reasoning_details` | Типobject\|array | | Поле`choices[].finish_reason` | Типstring\|null | | Поле`usage` | Типobject | Ошибки и дальнейшие шаги | Ответ | Условие | Следующий шаг | | --- | --- | --- | | Ответ400 · `invalid_request_error` | УсловиеНеверные обязательные поля, представление материалов или значение параметра | Следующий шагИсправьте указанные поля перед новым запросом на создание. | ### Псевдонимы #### Псевдонимы моделей **Ailoot** [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat), [`nemotron-safety-guard`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat), [`nemotron-safety-guard-latest`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) #### Псевдонимы путей метода Используйте пути методов, указанные выше. #### Связанные ID для вызова [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat), [`nemotron-safety-guard`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat), [`nemotron-safety-guard-latest`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) **Ailoot · Чат OpenAI** `POST /v1/chat/completions` `nemotron-safety-guard` [`nemotron-safety-guard`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat) NVIDIA /`nemotron-safety-guard` ID модели - `nvidia/llama-3.1-nemotron-safety-guard-8b-v3` - `nemotron-safety-guard` - `nemotron-safety-guard-latest` ### Начало Nemotron Safety Guard v3 проверяет пользовательские сообщения и ответы модели по заданной таксономии рисков. Возвращает JSON с отдельными оценками безопасности и категориями нарушений. Допустимые входные данные Текст Результаты Текст ### Доступно в Ailoot · входные данные и методы **Ailoot · Чат OpenAI** `POST /v1/chat/completions` Входные данные `text` Результат `text` Контекст 4 096 tokens Максимальный выход 1 024 tokens Выходной формат json или SSE | Поле | Тип | Требование | Значения и ограничения | По умолчанию | | --- | --- | --- | --- | --- | | Поле`model` | Тип`string` | ТребованиеОбязательно | Значения и ограничения nemotron-safety-guard | По умолчанию— | | Поле`messages` | Тип`message[]` | ТребованиеОбязательно | Значения и ограничения Минимум элементов: 1 | По умолчанию— | | Поле`messages[].role` | Тип`string` | ТребованиеОбязательно | Значения и ограничения Примеры: system, user, assistant, tool, function Условия: Эти роли явно представлены типами совместимости исходного кода; точный набор ролей зависит от модели. Зависит от модели | По умолчанию— | | Поле`messages[].content` | Тип`string\|content_part[]\|null` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].tool_calls` | Тип`tool_call[]` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].tool_call_id` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: role=tool; используйте фактически возвращённый ID | По умолчанию— | | Поле`messages[].name` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].reasoning_content` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: Передавайте обратно фактически возвращённые рассуждения, если эта модель их использует | По умолчанию— | | Поле`messages[].reasoning_details` | Тип`object\|array` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`max_tokens` | Тип`integer` | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— | | Поле`max_completion_tokens` | Тип`integer` | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— | | Поле`stream` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения | По умолчаниюfalse | | Поле`stream_options.include_usage` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`temperature` | Тип`number` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`top_p` | Тип`number` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`stop` | Тип`string\|string[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`tools` | Тип`function_tool[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`tools[].type` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`tools[].function.name` | Тип`string` | ТребованиеОбязательно | Значения и ограничения Применяется, когда: передан инструмент-функция | По умолчанию— | | Поле`tools[].function.description` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`tools[].function.parameters` | Тип`JSON_schema` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`tool_choice` | Тип`string\|object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`parallel_tool_calls` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`response_format` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`reasoning_effort` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`reasoning` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`service_tier` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`instructions` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Поле совместимости | По умолчанию— | | Поле`functions` | Тип`function[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`function_call` | Тип`string\|object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`prompt_cache_options` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | Сочетания входных материалов **Текст** · Текст UTF8 `messages[].content` Параметры и жизненный цикл метода | Параметр | Контракт | | --- | --- | | Параметр`material_types` | Контрактtext | | Параметр`required` | Контрактmodel, messages | | Параметр`optional_controls` | Контрактnull | | Параметр`content_type` | Контрактapplication/json | | Параметр`text_file_material` | Контрактфактическое содержимое UTF-8 вставляется как текст; ID файлов и URLs требуют отдельной точной поддержки | Жизненный цикл: `exact retained published method` Структуры методов и ID указаны точно; возможности поставщика рассматриваются отдельно от допуска. ### Тарифы #### Ставки методов Ailoot Вход 0,0002 $ */ 1K* Выход 0,0002 $ */ 1K* Чтение кэша 0,0002 $ */ 1K* Запись в кэш 0,0002 $ */ 1K* Запись в кэш, 5 мин 0,0002 $ */ 1K tokens* Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. [Как работают резервирование и расчёт →](https://ailoot.ai/docs/ru/billing/reserve/) ### Примеры запросов #### Ailoot · Чат OpenAI Пример текстаPython SDKNode.js SDKПоток Python ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "nemotron-safety-guard", "messages": []}') f=Path(os.environ["AILOOT_TEXT_FILE"]) if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material") text=f.read_text(encoding="utf-8") if not text.strip():raise SystemExit("Source material must contain text") p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}] Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2)) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0) resp = client.chat.completions.create( model="nemotron-safety-guard", messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}], ) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(resp.to_dict(mode="json")) ``` ```js import OpenAI from "openai"; if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request"); const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 }); const resp = await client.chat.completions.create({ model: "nemotron-safety-guard", messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }], }); import { writeFileSync } from "node:fs"; function saveResult(data, stem = "result") { writeFileSync(stem + ".json", JSON.stringify(data, null, 2)); console.log(JSON.stringify(data, null, 2)); const saveBlob = (encoded, suffix, label) => { const raw = Buffer.from(encoded, "base64"); const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix; const file = `${stem}-${label}.${ext}`; writeFileSync(file, raw); console.log("Saved", file); }; for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block)); for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {})); for (const [i, item] of (data.output || []).entries()) { console.log("Output", i, JSON.stringify(item)); if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`); } for (const [ci, candidate] of (data.candidates || []).entries()) { for (const [pi, part] of (candidate.content?.parts || []).entries()) { console.log("Candidate/part", ci, pi, JSON.stringify(part)); const blob = part.inlineData || part.inline_data; if (blob?.data) { const mime = blob.mimeType || blob.mime_type; const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin"; saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`); } } } } saveResult(resp); ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='nemotron-safety-guard',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Получить и сохранить результаты #### Ailoot · Чат OpenAI json или SSE ##### Сохраняйте все готовые результаты Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого. Сохраняйте каждый вариант ответа с его содержимым, вызовами инструментов и рассуждениями. В SSE собирайте изменения по индексам варианта и инструмента, сохраняйте итоговую причину завершения и данные использования. ##### Если нужно проверить исходный ответ Сохраняйте ID запросов и ответов, а также заголовки. Общий URL получения текстового задания не предоставлен. Поля ответа | Поле | Тип | | --- | --- | | Поле`choices[].index` | Типinteger | | Поле`choices[].message.content` | Типstring\|null | | Поле`choices[].message.tool_calls` | Типtool\_call\[\] | | Поле`choices[].message.reasoning_content` | Типstring | | Поле`choices[].message.reasoning_details` | Типobject\|array | | Поле`choices[].finish_reason` | Типstring\|null | | Поле`usage` | Типobject | Ошибки и дальнейшие шаги | Ответ | Условие | Следующий шаг | | --- | --- | --- | | Ответ400 · `invalid_request_error` | УсловиеНеверные обязательные поля, представление материалов или значение параметра | Следующий шагИсправьте указанные поля перед новым запросом на создание. | ### Псевдонимы #### Псевдонимы моделей **Ailoot** [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat), [`nemotron-safety-guard`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat), [`nemotron-safety-guard-latest`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) #### Псевдонимы путей метода Используйте пути методов, указанные выше. #### Связанные ID для вызова [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat), [`nemotron-safety-guard`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat), [`nemotron-safety-guard-latest`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) **Ailoot · Чат OpenAI** `POST /v1/chat/completions` `nemotron-safety-guard-latest` [`nemotron-safety-guard-latest`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) NVIDIA /`nemotron-safety-guard-latest` ID модели - `nvidia/llama-3.1-nemotron-safety-guard-8b-v3` - `nemotron-safety-guard` - `nemotron-safety-guard-latest` ### Начало Nemotron Safety Guard v3 проверяет пользовательские сообщения и ответы модели по заданной таксономии рисков. Возвращает JSON с отдельными оценками безопасности и категориями нарушений. Допустимые входные данные Текст Результаты Текст ### Доступно в Ailoot · входные данные и методы **Ailoot · Чат OpenAI** `POST /v1/chat/completions` Входные данные `text` Результат `text` Контекст 4 096 tokens Максимальный выход 1 024 tokens Выходной формат json или SSE | Поле | Тип | Требование | Значения и ограничения | По умолчанию | | --- | --- | --- | --- | --- | | Поле`model` | Тип`string` | ТребованиеОбязательно | Значения и ограничения nemotron-safety-guard-latest | По умолчанию— | | Поле`messages` | Тип`message[]` | ТребованиеОбязательно | Значения и ограничения Минимум элементов: 1 | По умолчанию— | | Поле`messages[].role` | Тип`string` | ТребованиеОбязательно | Значения и ограничения Примеры: system, user, assistant, tool, function Условия: Эти роли явно представлены типами совместимости исходного кода; точный набор ролей зависит от модели. Зависит от модели | По умолчанию— | | Поле`messages[].content` | Тип`string\|content_part[]\|null` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].tool_calls` | Тип`tool_call[]` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].tool_call_id` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: role=tool; используйте фактически возвращённый ID | По умолчанию— | | Поле`messages[].name` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].reasoning_content` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: Передавайте обратно фактически возвращённые рассуждения, если эта модель их использует | По умолчанию— | | Поле`messages[].reasoning_details` | Тип`object\|array` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`max_tokens` | Тип`integer` | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— | | Поле`max_completion_tokens` | Тип`integer` | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— | | Поле`stream` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения | По умолчаниюfalse | | Поле`stream_options.include_usage` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`temperature` | Тип`number` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`top_p` | Тип`number` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`stop` | Тип`string\|string[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`tools` | Тип`function_tool[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`tools[].type` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`tools[].function.name` | Тип`string` | ТребованиеОбязательно | Значения и ограничения Применяется, когда: передан инструмент-функция | По умолчанию— | | Поле`tools[].function.description` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`tools[].function.parameters` | Тип`JSON_schema` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`tool_choice` | Тип`string\|object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`parallel_tool_calls` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`response_format` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`reasoning_effort` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`reasoning` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`service_tier` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`instructions` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Поле совместимости | По умолчанию— | | Поле`functions` | Тип`function[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`function_call` | Тип`string\|object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`prompt_cache_options` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | Сочетания входных материалов **Текст** · Текст UTF8 `messages[].content` Параметры и жизненный цикл метода | Параметр | Контракт | | --- | --- | | Параметр`material_types` | Контрактtext | | Параметр`required` | Контрактmodel, messages | | Параметр`optional_controls` | Контрактnull | | Параметр`content_type` | Контрактapplication/json | | Параметр`text_file_material` | Контрактфактическое содержимое UTF-8 вставляется как текст; ID файлов и URLs требуют отдельной точной поддержки | Жизненный цикл: `exact retained published method` Структуры методов и ID указаны точно; возможности поставщика рассматриваются отдельно от допуска. ### Тарифы #### Ставки методов Ailoot Вход 0,0002 $ */ 1K* Выход 0,0002 $ */ 1K* Чтение кэша 0,0002 $ */ 1K* Запись в кэш 0,0002 $ */ 1K* Запись в кэш, 5 мин 0,0002 $ */ 1K tokens* Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. [Как работают резервирование и расчёт →](https://ailoot.ai/docs/ru/billing/reserve/) ### Примеры запросов #### Ailoot · Чат OpenAI Пример текстаPython SDKNode.js SDKПоток Python ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "nemotron-safety-guard-latest", "messages": []}') f=Path(os.environ["AILOOT_TEXT_FILE"]) if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material") text=f.read_text(encoding="utf-8") if not text.strip():raise SystemExit("Source material must contain text") p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}] Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2)) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0) resp = client.chat.completions.create( model="nemotron-safety-guard-latest", messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}], ) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(resp.to_dict(mode="json")) ``` ```js import OpenAI from "openai"; if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request"); const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 }); const resp = await client.chat.completions.create({ model: "nemotron-safety-guard-latest", messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }], }); import { writeFileSync } from "node:fs"; function saveResult(data, stem = "result") { writeFileSync(stem + ".json", JSON.stringify(data, null, 2)); console.log(JSON.stringify(data, null, 2)); const saveBlob = (encoded, suffix, label) => { const raw = Buffer.from(encoded, "base64"); const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix; const file = `${stem}-${label}.${ext}`; writeFileSync(file, raw); console.log("Saved", file); }; for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block)); for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {})); for (const [i, item] of (data.output || []).entries()) { console.log("Output", i, JSON.stringify(item)); if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`); } for (const [ci, candidate] of (data.candidates || []).entries()) { for (const [pi, part] of (candidate.content?.parts || []).entries()) { console.log("Candidate/part", ci, pi, JSON.stringify(part)); const blob = part.inlineData || part.inline_data; if (blob?.data) { const mime = blob.mimeType || blob.mime_type; const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin"; saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`); } } } } saveResult(resp); ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='nemotron-safety-guard-latest',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Получить и сохранить результаты #### Ailoot · Чат OpenAI json или SSE ##### Сохраняйте все готовые результаты Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого. Сохраняйте каждый вариант ответа с его содержимым, вызовами инструментов и рассуждениями. В SSE собирайте изменения по индексам варианта и инструмента, сохраняйте итоговую причину завершения и данные использования. ##### Если нужно проверить исходный ответ Сохраняйте ID запросов и ответов, а также заголовки. Общий URL получения текстового задания не предоставлен. Поля ответа | Поле | Тип | | --- | --- | | Поле`choices[].index` | Типinteger | | Поле`choices[].message.content` | Типstring\|null | | Поле`choices[].message.tool_calls` | Типtool\_call\[\] | | Поле`choices[].message.reasoning_content` | Типstring | | Поле`choices[].message.reasoning_details` | Типobject\|array | | Поле`choices[].finish_reason` | Типstring\|null | | Поле`usage` | Типobject | Ошибки и дальнейшие шаги | Ответ | Условие | Следующий шаг | | --- | --- | --- | | Ответ400 · `invalid_request_error` | УсловиеНеверные обязательные поля, представление материалов или значение параметра | Следующий шагИсправьте указанные поля перед новым запросом на создание. | ### Псевдонимы #### Псевдонимы моделей **Ailoot** [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat), [`nemotron-safety-guard`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat), [`nemotron-safety-guard-latest`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) #### Псевдонимы путей метода Используйте пути методов, указанные выше. #### Связанные ID для вызова [`nvidia/llama-3.1-nemotron-safety-guard-8b-v3`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&fmt=chat), [`nemotron-safety-guard`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard&fmt=chat), [`nemotron-safety-guard-latest`](https://ailoot.ai/models/ru/#m=nvidia%2Fllama-3.1-nemotron-safety-guard-8b-v3&route=Core&caller=nemotron-safety-guard-latest&fmt=chat) FAQ · nvidia/llama-3.1-nemotron-safety-guard-8b-v3 Какие входные данные и результаты доступны? `POST /v1/chat/completions` · `nvidia/llama-3.1-nemotron-safety-guard-8b-v3`: `text` → `text` `POST /v1/chat/completions` · `nemotron-safety-guard`: `text` → `text` `POST /v1/chat/completions` · `nemotron-safety-guard-latest`: `text` → `text` Какие поля использует запрос? `POST /v1/chat/completions` · `nvidia/llama-3.1-nemotron-safety-guard-8b-v3`: `model`, `messages`, `stream` `POST /v1/chat/completions` · `nemotron-safety-guard`: `model`, `messages`, `stream` `POST /v1/chat/completions` · `nemotron-safety-guard-latest`: `model`, `messages`, `stream` Какие ограничения действуют? `POST /v1/chat/completions` · `nvidia/llama-3.1-nemotron-safety-guard-8b-v3`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1` `POST /v1/chat/completions` · `nemotron-safety-guard`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1` `POST /v1/chat/completions` · `nemotron-safety-guard-latest`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1` Подключите Ailoot к Claude Code, OpenCode, Hermes или своему приложению. ## Компания и портфель её проектов Компания и портфель её проектов: миллионы клиентов; продажи на миллиарды ежемесячно. ## Покупайте токены со скидкой. Скидка по подписке для регулярной работы. Промокоды — до 50% на покупку токенов. Подписка Выберите тариф со скидкой для своих регулярных запросов. Промокод до 50% Введите код при покупке. Цена пересчитается с учётом действующей акции. Расходы в истории Модель, токены и сумма сохраняются для каждого запроса. [Выбрать подписку](https://ailoot.ai/docs/ru/billing/subscriptions/) · [Посмотреть цены моделей](https://ailoot.ai/models/ru/) ## Подключайте API к продукту, который вы продаёте. SaaS, приложения и боты — по оферте и лицензионному договору Ailoot. Для перепродажи запросите реселлерскую лицензию. Коммерческое приложение Встраивайте генерацию текста, картинок, видео и звука в платные функции своего сервиса. Лицензия для реселлера Пришлите описание проекта и схему доступа. Запросите письменные условия использования и перепродажи. Документы на сайте Оферта, лицензионный договор и политика обработки данных доступны до подключения. [Запросить реселлерскую лицензию](mailto:support@ailoot.ai) · [Оферта и лицензионный договор](https://ailoot.ai/legal/offer?lang=ru) ## Ailoot · Компания и портфель её проектов Ailoot опирается на накопленный опыт работы, большую клиентскую базу, стабильный сервис и постоянный контроль KPI. Компания и портфель её проектов: миллионы клиентов; продажи на миллиарды ежемесячно. Этот опыт Ailoot использует для API-доступа к нейросетям в продуктах клиентов, агентах, приложениях и автоматизациях.