Source: https://ailoot.ai/models/ru/nvidia-riva-translate-4b-instruct-v2/ Canonical: https://ailoot.ai/models/ru/nvidia-riva-translate-4b-instruct-v2/ Language: ru # Riva Translate 4B Instruct v2 [Markdown](https://ailoot.ai/models/ru/nvidia-riva-translate-4b-instruct-v2/index.md) · [JSON](https://ailoot.ai/models/ru/nvidia-riva-translate-4b-instruct-v2/facts.json) ## [Riva Translate 4B Instruct v2](https://ailoot.ai/models/ru/nvidia-riva-translate-4b-instruct-v2/) Riva-Translate-4B-Instruct-v2 от NVIDIA переводит предложения и документы между английским и 36 другими языками и региональными вариантами, включая русский, украинский и хинди. Поддерживает примеры перевода в запросе и контекст до 8K токенов. - [**Ailoot · Чат OpenAI** `POST /v1/chat/completions` `nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/ru/nvidia-riva-translate-4b-instruct-v2/#method-0) - [**Ailoot · Чат OpenAI** `POST /v1/chat/completions` `riva-translate`](https://ailoot.ai/models/ru/nvidia-riva-translate-4b-instruct-v2/#method-1) - [**Ailoot · Чат OpenAI** `POST /v1/chat/completions` `riva-translate-latest`](https://ailoot.ai/models/ru/nvidia-riva-translate-4b-instruct-v2/#method-2) О модели Описание раскрывает возможности модели. Доступные в Ailoot входные данные, результаты и параметры выбранного метода перечислены ниже. Riva-Translate-4B-Instruct-v2 — текстовая переводная модель NVIDIA с поддержкой 37 языков и региональных вариантов. Она переводит отдельные предложения и документы, принимает исходный текст и выдаёт перевод в текстовом виде. Модель предназначена для переводчиков, маркетологов и разработчиков многоязычных материалов. #### Языковое покрытие Поддерживается английский и следующие языки и варианты: - Чешский, датский, немецкий, греческий, европейский и латиноамериканский испанский, финский, французский, венгерский, итальянский, литовский, латышский, нидерландский, норвежский, польский, европейский и бразильский португальский, румынский, русский, словацкий, шведский, эстонский, словенский, болгарский, украинский и хорватский. - Китайский с упрощённым и традиционным письмом, японский, хинди, корейский, арабский, вьетнамский, турецкий, индонезийский и тайский. Языковые пары организованы вокруг английского: с английского на каждый из остальных языков и в обратном направлении. Русский и украинский имеют отдельные направления. Для испанского, португальского и китайского также отдельно выбираются региональный вариант или система письма. #### Направление и примеры Системное сообщение задаёт языковую пару, пользовательское — текст для перевода. Например, `en-ru` означает перевод с английского на русский, `ru-en` — с русского на английский, `en-uk` — с английского на украинский. Для китайского предусмотрены явные обозначения `en-zh-cn` и `en-zh-tw`, для португальского — `en-pt-pt` и `en-pt-br`. Модель поддерживает несколько примеров перевода в запросе. Их можно представить как чередующиеся пользовательские сообщения с исходным текстом и ответы с переводом. При таком построении задания модель получает готовые пары перед новым текстом. NVIDIA рекомендует переводной шаблон с явным исходным и целевым языком; без него результат может быть менее подходящим. #### Размер и характер обучения В основе модели лежит Transformer с декодером и примерно 4,18 миллиарда параметров. Она получена дообучением сжатой и дистиллированной базовой модели. Обучение включало продолжение предобучения и обучение по примерам. В обучающих данных использовались пары исходного текста и перевода с разными стилями — от разговорного до формального. Контекст составляет до 8K токенов. #### Особенности результата Перевод зависит от области применения, качества исходного текста и контекста. Возможны ошибки грамматики и передачи смысла. Более точно сформулированный запрос может помочь улучшить перевод. Практическая задача ### Практическая задача Технический пример на английском ``` Translate a dispatch notice into Russian Translate from English to Russian using the English-to-Russian direction en-ru in the existing translation template. Source text: 'Order AX-17 is ready for dispatch. Please confirm the delivery address before 16:00 on Friday. If the address is unchanged, no reply is required.' Keep the order identifier and time exact; return only the translation. ``` #### Ожидаемый результат ``` A Russian translation preserving AX-17, Friday 16:00 and the conditional no-reply instruction. ``` #### Проверка результата ``` Check the no-reply condition is not inverted and no dispatch date is added. ``` **Ailoot · Чат OpenAI** `POST /v1/chat/completions` `nvidia/riva-translate-4b-instruct-v2` [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat) NVIDIA /`nvidia/riva-translate-4b-instruct-v2` ID модели - `nvidia/riva-translate-4b-instruct-v2` - `riva-translate` - `riva-translate-latest` ### Начало Riva-Translate-4B-Instruct-v2 от NVIDIA переводит предложения и документы между английским и 36 другими языками и региональными вариантами, включая русский, украинский и хинди. Поддерживает примеры перевода в запросе и контекст до 8K токенов. Допустимые входные данные Текст Результаты Текст ### Доступно в Ailoot · входные данные и методы **Ailoot · Чат OpenAI** `POST /v1/chat/completions` Входные данные `text` Результат `text` Контекст 4 096 tokens Максимальный выход 1 024 tokens Выходной формат json или SSE | Поле | Тип | Требование | Значения и ограничения | По умолчанию | | --- | --- | --- | --- | --- | | Поле`model` | Тип`string` | ТребованиеОбязательно | Значения и ограничения nvidia/riva-translate-4b-instruct-v2 | По умолчанию— | | Поле`messages` | Тип`message[]` | ТребованиеОбязательно | Значения и ограничения Минимум элементов: 1 | По умолчанию— | | Поле`messages[].role` | Тип`string` | ТребованиеОбязательно | Значения и ограничения Примеры: system, user, assistant, tool, function Условия: Эти роли явно представлены типами совместимости исходного кода; точный набор ролей зависит от модели. Зависит от модели | По умолчанию— | | Поле`messages[].content` | Тип`string\|content_part[]\|null` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].tool_calls` | Тип`tool_call[]` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].tool_call_id` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: role=tool; используйте фактически возвращённый ID | По умолчанию— | | Поле`messages[].name` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].reasoning_content` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: Передавайте обратно фактически возвращённые рассуждения, если эта модель их использует | По умолчанию— | | Поле`messages[].reasoning_details` | Тип`object\|array` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`max_tokens` | Тип`integer` | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— | | Поле`max_completion_tokens` | Тип`integer` | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— | | Поле`stream` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения | По умолчаниюfalse | | Поле`stream_options.include_usage` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`temperature` | Тип`number` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`top_p` | Тип`number` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`stop` | Тип`string\|string[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`tools` | Тип`function_tool[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`tools[].type` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`tools[].function.name` | Тип`string` | ТребованиеОбязательно | Значения и ограничения Применяется, когда: передан инструмент-функция | По умолчанию— | | Поле`tools[].function.description` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`tools[].function.parameters` | Тип`JSON_schema` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`tool_choice` | Тип`string\|object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`parallel_tool_calls` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`response_format` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`reasoning_effort` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`reasoning` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`service_tier` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`instructions` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Поле совместимости | По умолчанию— | | Поле`functions` | Тип`function[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`function_call` | Тип`string\|object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`prompt_cache_options` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | Сочетания входных материалов **Текст** · Текст UTF8 `messages[].content` Параметры и жизненный цикл метода | Параметр | Контракт | | --- | --- | | Параметр`material_types` | Контрактtext | | Параметр`required` | Контрактmodel, messages | | Параметр`optional_controls` | Контрактnull | | Параметр`content_type` | Контрактapplication/json | | Параметр`text_file_material` | Контрактфактическое содержимое UTF-8 вставляется как текст; ID файлов и URLs требуют отдельной точной поддержки | Жизненный цикл: `exact retained published method` Структуры методов и ID указаны точно; возможности поставщика рассматриваются отдельно от допуска. ### Тарифы #### Ставки методов Ailoot Вход 0,0001 $ */ 1K* Выход 0,0002 $ */ 1K* Чтение кэша 0,0001 $ */ 1K* Запись в кэш 0,0001 $ */ 1K* Запись в кэш, 5 мин 0,0001 $ */ 1K tokens* Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. [Как работают резервирование и расчёт →](https://ailoot.ai/docs/ru/billing/reserve/) ### Примеры запросов #### Ailoot · Чат OpenAI Пример текстаPython SDKNode.js SDKПоток Python ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "nvidia/riva-translate-4b-instruct-v2", "messages": []}') f=Path(os.environ["AILOOT_TEXT_FILE"]) if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material") text=f.read_text(encoding="utf-8") if not text.strip():raise SystemExit("Source material must contain text") p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}] Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2)) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0) resp = client.chat.completions.create( model="nvidia/riva-translate-4b-instruct-v2", messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}], ) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(resp.to_dict(mode="json")) ``` ```js import OpenAI from "openai"; if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request"); const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 }); const resp = await client.chat.completions.create({ model: "nvidia/riva-translate-4b-instruct-v2", messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }], }); import { writeFileSync } from "node:fs"; function saveResult(data, stem = "result") { writeFileSync(stem + ".json", JSON.stringify(data, null, 2)); console.log(JSON.stringify(data, null, 2)); const saveBlob = (encoded, suffix, label) => { const raw = Buffer.from(encoded, "base64"); const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix; const file = `${stem}-${label}.${ext}`; writeFileSync(file, raw); console.log("Saved", file); }; for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block)); for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {})); for (const [i, item] of (data.output || []).entries()) { console.log("Output", i, JSON.stringify(item)); if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`); } for (const [ci, candidate] of (data.candidates || []).entries()) { for (const [pi, part] of (candidate.content?.parts || []).entries()) { console.log("Candidate/part", ci, pi, JSON.stringify(part)); const blob = part.inlineData || part.inline_data; if (blob?.data) { const mime = blob.mimeType || blob.mime_type; const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin"; saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`); } } } } saveResult(resp); ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='nvidia/riva-translate-4b-instruct-v2',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Получить и сохранить результаты #### Ailoot · Чат OpenAI json или SSE ##### Сохраняйте все готовые результаты Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого. Сохраняйте каждый вариант ответа с его содержимым, вызовами инструментов и рассуждениями. В SSE собирайте изменения по индексам варианта и инструмента, сохраняйте итоговую причину завершения и данные использования. ##### Если нужно проверить исходный ответ Сохраняйте ID запросов и ответов, а также заголовки. Общий URL получения текстового задания не предоставлен. Поля ответа | Поле | Тип | | --- | --- | | Поле`choices[].index` | Типinteger | | Поле`choices[].message.content` | Типstring\|null | | Поле`choices[].message.tool_calls` | Типtool\_call\[\] | | Поле`choices[].message.reasoning_content` | Типstring | | Поле`choices[].message.reasoning_details` | Типobject\|array | | Поле`choices[].finish_reason` | Типstring\|null | | Поле`usage` | Типobject | Ошибки и дальнейшие шаги | Ответ | Условие | Следующий шаг | | --- | --- | --- | | Ответ400 · `invalid_request_error` | УсловиеНеверные обязательные поля, представление материалов или значение параметра | Следующий шагИсправьте указанные поля перед новым запросом на создание. | ### Псевдонимы #### Псевдонимы моделей **Ailoot** [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat), [`riva-translate`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat), [`riva-translate-latest`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) #### Псевдонимы путей метода Используйте пути методов, указанные выше. #### Связанные ID для вызова [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat), [`riva-translate`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat), [`riva-translate-latest`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) **Ailoot · Чат OpenAI** `POST /v1/chat/completions` `riva-translate` [`riva-translate`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat) NVIDIA /`riva-translate` ID модели - `nvidia/riva-translate-4b-instruct-v2` - `riva-translate` - `riva-translate-latest` ### Начало Riva-Translate-4B-Instruct-v2 от NVIDIA переводит предложения и документы между английским и 36 другими языками и региональными вариантами, включая русский, украинский и хинди. Поддерживает примеры перевода в запросе и контекст до 8K токенов. Допустимые входные данные Текст Результаты Текст ### Доступно в Ailoot · входные данные и методы **Ailoot · Чат OpenAI** `POST /v1/chat/completions` Входные данные `text` Результат `text` Контекст 4 096 tokens Максимальный выход 1 024 tokens Выходной формат json или SSE | Поле | Тип | Требование | Значения и ограничения | По умолчанию | | --- | --- | --- | --- | --- | | Поле`model` | Тип`string` | ТребованиеОбязательно | Значения и ограничения riva-translate | По умолчанию— | | Поле`messages` | Тип`message[]` | ТребованиеОбязательно | Значения и ограничения Минимум элементов: 1 | По умолчанию— | | Поле`messages[].role` | Тип`string` | ТребованиеОбязательно | Значения и ограничения Примеры: system, user, assistant, tool, function Условия: Эти роли явно представлены типами совместимости исходного кода; точный набор ролей зависит от модели. Зависит от модели | По умолчанию— | | Поле`messages[].content` | Тип`string\|content_part[]\|null` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].tool_calls` | Тип`tool_call[]` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].tool_call_id` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: role=tool; используйте фактически возвращённый ID | По умолчанию— | | Поле`messages[].name` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].reasoning_content` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: Передавайте обратно фактически возвращённые рассуждения, если эта модель их использует | По умолчанию— | | Поле`messages[].reasoning_details` | Тип`object\|array` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`max_tokens` | Тип`integer` | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— | | Поле`max_completion_tokens` | Тип`integer` | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— | | Поле`stream` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения | По умолчаниюfalse | | Поле`stream_options.include_usage` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`temperature` | Тип`number` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`top_p` | Тип`number` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`stop` | Тип`string\|string[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`tools` | Тип`function_tool[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`tools[].type` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`tools[].function.name` | Тип`string` | ТребованиеОбязательно | Значения и ограничения Применяется, когда: передан инструмент-функция | По умолчанию— | | Поле`tools[].function.description` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`tools[].function.parameters` | Тип`JSON_schema` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`tool_choice` | Тип`string\|object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`parallel_tool_calls` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`response_format` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`reasoning_effort` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`reasoning` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`service_tier` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`instructions` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Поле совместимости | По умолчанию— | | Поле`functions` | Тип`function[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`function_call` | Тип`string\|object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`prompt_cache_options` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | Сочетания входных материалов **Текст** · Текст UTF8 `messages[].content` Параметры и жизненный цикл метода | Параметр | Контракт | | --- | --- | | Параметр`material_types` | Контрактtext | | Параметр`required` | Контрактmodel, messages | | Параметр`optional_controls` | Контрактnull | | Параметр`content_type` | Контрактapplication/json | | Параметр`text_file_material` | Контрактфактическое содержимое UTF-8 вставляется как текст; ID файлов и URLs требуют отдельной точной поддержки | Жизненный цикл: `exact retained published method` Структуры методов и ID указаны точно; возможности поставщика рассматриваются отдельно от допуска. ### Тарифы #### Ставки методов Ailoot Вход 0,0001 $ */ 1K* Выход 0,0002 $ */ 1K* Чтение кэша 0,0001 $ */ 1K* Запись в кэш 0,0001 $ */ 1K* Запись в кэш, 5 мин 0,0001 $ */ 1K tokens* Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. [Как работают резервирование и расчёт →](https://ailoot.ai/docs/ru/billing/reserve/) ### Примеры запросов #### Ailoot · Чат OpenAI Пример текстаPython SDKNode.js SDKПоток Python ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "riva-translate", "messages": []}') f=Path(os.environ["AILOOT_TEXT_FILE"]) if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material") text=f.read_text(encoding="utf-8") if not text.strip():raise SystemExit("Source material must contain text") p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}] Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2)) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0) resp = client.chat.completions.create( model="riva-translate", messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}], ) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(resp.to_dict(mode="json")) ``` ```js import OpenAI from "openai"; if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request"); const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 }); const resp = await client.chat.completions.create({ model: "riva-translate", messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }], }); import { writeFileSync } from "node:fs"; function saveResult(data, stem = "result") { writeFileSync(stem + ".json", JSON.stringify(data, null, 2)); console.log(JSON.stringify(data, null, 2)); const saveBlob = (encoded, suffix, label) => { const raw = Buffer.from(encoded, "base64"); const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix; const file = `${stem}-${label}.${ext}`; writeFileSync(file, raw); console.log("Saved", file); }; for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block)); for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {})); for (const [i, item] of (data.output || []).entries()) { console.log("Output", i, JSON.stringify(item)); if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`); } for (const [ci, candidate] of (data.candidates || []).entries()) { for (const [pi, part] of (candidate.content?.parts || []).entries()) { console.log("Candidate/part", ci, pi, JSON.stringify(part)); const blob = part.inlineData || part.inline_data; if (blob?.data) { const mime = blob.mimeType || blob.mime_type; const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin"; saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`); } } } } saveResult(resp); ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='riva-translate',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Получить и сохранить результаты #### Ailoot · Чат OpenAI json или SSE ##### Сохраняйте все готовые результаты Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого. Сохраняйте каждый вариант ответа с его содержимым, вызовами инструментов и рассуждениями. В SSE собирайте изменения по индексам варианта и инструмента, сохраняйте итоговую причину завершения и данные использования. ##### Если нужно проверить исходный ответ Сохраняйте ID запросов и ответов, а также заголовки. Общий URL получения текстового задания не предоставлен. Поля ответа | Поле | Тип | | --- | --- | | Поле`choices[].index` | Типinteger | | Поле`choices[].message.content` | Типstring\|null | | Поле`choices[].message.tool_calls` | Типtool\_call\[\] | | Поле`choices[].message.reasoning_content` | Типstring | | Поле`choices[].message.reasoning_details` | Типobject\|array | | Поле`choices[].finish_reason` | Типstring\|null | | Поле`usage` | Типobject | Ошибки и дальнейшие шаги | Ответ | Условие | Следующий шаг | | --- | --- | --- | | Ответ400 · `invalid_request_error` | УсловиеНеверные обязательные поля, представление материалов или значение параметра | Следующий шагИсправьте указанные поля перед новым запросом на создание. | ### Псевдонимы #### Псевдонимы моделей **Ailoot** [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat), [`riva-translate`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat), [`riva-translate-latest`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) #### Псевдонимы путей метода Используйте пути методов, указанные выше. #### Связанные ID для вызова [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat), [`riva-translate`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat), [`riva-translate-latest`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) **Ailoot · Чат OpenAI** `POST /v1/chat/completions` `riva-translate-latest` [`riva-translate-latest`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) NVIDIA /`riva-translate-latest` ID модели - `nvidia/riva-translate-4b-instruct-v2` - `riva-translate` - `riva-translate-latest` ### Начало Riva-Translate-4B-Instruct-v2 от NVIDIA переводит предложения и документы между английским и 36 другими языками и региональными вариантами, включая русский, украинский и хинди. Поддерживает примеры перевода в запросе и контекст до 8K токенов. Допустимые входные данные Текст Результаты Текст ### Доступно в Ailoot · входные данные и методы **Ailoot · Чат OpenAI** `POST /v1/chat/completions` Входные данные `text` Результат `text` Контекст 4 096 tokens Максимальный выход 1 024 tokens Выходной формат json или SSE | Поле | Тип | Требование | Значения и ограничения | По умолчанию | | --- | --- | --- | --- | --- | | Поле`model` | Тип`string` | ТребованиеОбязательно | Значения и ограничения riva-translate-latest | По умолчанию— | | Поле`messages` | Тип`message[]` | ТребованиеОбязательно | Значения и ограничения Минимум элементов: 1 | По умолчанию— | | Поле`messages[].role` | Тип`string` | ТребованиеОбязательно | Значения и ограничения Примеры: system, user, assistant, tool, function Условия: Эти роли явно представлены типами совместимости исходного кода; точный набор ролей зависит от модели. Зависит от модели | По умолчанию— | | Поле`messages[].content` | Тип`string\|content_part[]\|null` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].tool_calls` | Тип`tool_call[]` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].tool_call_id` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: role=tool; используйте фактически возвращённый ID | По умолчанию— | | Поле`messages[].name` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`messages[].reasoning_content` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Применяется, когда: Передавайте обратно фактически возвращённые рассуждения, если эта модель их использует | По умолчанию— | | Поле`messages[].reasoning_details` | Тип`object\|array` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`max_tokens` | Тип`integer` | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— | | Поле`max_completion_tokens` | Тип`integer` | ТребованиеНеобязательно | Значения и ограничения Минимум: 1 Зависит от модели | По умолчанию— | | Поле`stream` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения | По умолчаниюfalse | | Поле`stream_options.include_usage` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`temperature` | Тип`number` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`top_p` | Тип`number` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`stop` | Тип`string\|string[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`tools` | Тип`function_tool[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`tools[].type` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`tools[].function.name` | Тип`string` | ТребованиеОбязательно | Значения и ограничения Применяется, когда: передан инструмент-функция | По умолчанию— | | Поле`tools[].function.description` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`tools[].function.parameters` | Тип`JSON_schema` | ТребованиеНеобязательно | Значения и ограничения | По умолчанию— | | Поле`tool_choice` | Тип`string\|object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`parallel_tool_calls` | Тип`boolean` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`response_format` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`reasoning_effort` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`reasoning` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`service_tier` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`instructions` | Тип`string` | ТребованиеНеобязательно | Значения и ограничения Поле совместимости | По умолчанию— | | Поле`functions` | Тип`function[]` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`function_call` | Тип`string\|object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | | Поле`prompt_cache_options` | Тип`object` | ТребованиеНеобязательно | Значения и ограничения Зависит от модели | По умолчанию— | Сочетания входных материалов **Текст** · Текст UTF8 `messages[].content` Параметры и жизненный цикл метода | Параметр | Контракт | | --- | --- | | Параметр`material_types` | Контрактtext | | Параметр`required` | Контрактmodel, messages | | Параметр`optional_controls` | Контрактnull | | Параметр`content_type` | Контрактapplication/json | | Параметр`text_file_material` | Контрактфактическое содержимое UTF-8 вставляется как текст; ID файлов и URLs требуют отдельной точной поддержки | Жизненный цикл: `exact retained published method` Структуры методов и ID указаны точно; возможности поставщика рассматриваются отдельно от допуска. ### Тарифы #### Ставки методов Ailoot Вход 0,0001 $ */ 1K* Выход 0,0002 $ */ 1K* Чтение кэша 0,0001 $ */ 1K* Запись в кэш 0,0001 $ */ 1K* Запись в кэш, 5 мин 0,0001 $ */ 1K tokens* Ailoot резервирует расчётную сумму перед запросом. После получения результата списывает итоговую плату по измеренному расходу. Для окончательного списания за потоковый ответ используется итоговая запись расхода. [Как работают резервирование и расчёт →](https://ailoot.ai/docs/ru/billing/reserve/) ### Примеры запросов #### Ailoot · Чат OpenAI Пример текстаPython SDKNode.js SDKПоток Python ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "riva-translate-latest", "messages": []}') f=Path(os.environ["AILOOT_TEXT_FILE"]) if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material") text=f.read_text(encoding="utf-8") if not text.strip():raise SystemExit("Source material must contain text") p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}] Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2)) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0) resp = client.chat.completions.create( model="riva-translate-latest", messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}], ) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(resp.to_dict(mode="json")) ``` ```js import OpenAI from "openai"; if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request"); const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 }); const resp = await client.chat.completions.create({ model: "riva-translate-latest", messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }], }); import { writeFileSync } from "node:fs"; function saveResult(data, stem = "result") { writeFileSync(stem + ".json", JSON.stringify(data, null, 2)); console.log(JSON.stringify(data, null, 2)); const saveBlob = (encoded, suffix, label) => { const raw = Buffer.from(encoded, "base64"); const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix; const file = `${stem}-${label}.${ext}`; writeFileSync(file, raw); console.log("Saved", file); }; for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block)); for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {})); for (const [i, item] of (data.output || []).entries()) { console.log("Output", i, JSON.stringify(item)); if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`); } for (const [ci, candidate] of (data.candidates || []).entries()) { for (const [pi, part] of (candidate.content?.parts || []).entries()) { console.log("Candidate/part", ci, pi, JSON.stringify(part)); const blob = part.inlineData || part.inline_data; if (blob?.data) { const mime = blob.mimeType || blob.mime_type; const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin"; saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`); } } } } saveResult(resp); ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='riva-translate-latest',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Получить и сохранить результаты #### Ailoot · Чат OpenAI json или SSE ##### Сохраняйте все готовые результаты Сохраняйте каждый полностью полученный ответ, файл и элемент содержимого. Сохраняйте каждый вариант ответа с его содержимым, вызовами инструментов и рассуждениями. В SSE собирайте изменения по индексам варианта и инструмента, сохраняйте итоговую причину завершения и данные использования. ##### Если нужно проверить исходный ответ Сохраняйте ID запросов и ответов, а также заголовки. Общий URL получения текстового задания не предоставлен. Поля ответа | Поле | Тип | | --- | --- | | Поле`choices[].index` | Типinteger | | Поле`choices[].message.content` | Типstring\|null | | Поле`choices[].message.tool_calls` | Типtool\_call\[\] | | Поле`choices[].message.reasoning_content` | Типstring | | Поле`choices[].message.reasoning_details` | Типobject\|array | | Поле`choices[].finish_reason` | Типstring\|null | | Поле`usage` | Типobject | Ошибки и дальнейшие шаги | Ответ | Условие | Следующий шаг | | --- | --- | --- | | Ответ400 · `invalid_request_error` | УсловиеНеверные обязательные поля, представление материалов или значение параметра | Следующий шагИсправьте указанные поля перед новым запросом на создание. | ### Псевдонимы #### Псевдонимы моделей **Ailoot** [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat), [`riva-translate`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat), [`riva-translate-latest`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) #### Псевдонимы путей метода Используйте пути методов, указанные выше. #### Связанные ID для вызова [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat), [`riva-translate`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat), [`riva-translate-latest`](https://ailoot.ai/models/ru/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) FAQ · nvidia/riva-translate-4b-instruct-v2 Какие входные данные и результаты доступны? `POST /v1/chat/completions` · `nvidia/riva-translate-4b-instruct-v2`: `text` → `text` `POST /v1/chat/completions` · `riva-translate`: `text` → `text` `POST /v1/chat/completions` · `riva-translate-latest`: `text` → `text` Какие поля использует запрос? `POST /v1/chat/completions` · `nvidia/riva-translate-4b-instruct-v2`: `model`, `messages`, `stream` `POST /v1/chat/completions` · `riva-translate`: `model`, `messages`, `stream` `POST /v1/chat/completions` · `riva-translate-latest`: `model`, `messages`, `stream` Какие ограничения действуют? `POST /v1/chat/completions` · `nvidia/riva-translate-4b-instruct-v2`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1` `POST /v1/chat/completions` · `riva-translate`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1` `POST /v1/chat/completions` · `riva-translate-latest`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1` Подключите Ailoot к Claude Code, OpenCode, Hermes или своему приложению. ## Компания и портфель её проектов Компания и портфель её проектов: миллионы клиентов; продажи на миллиарды ежемесячно. ## Покупайте токены со скидкой. Скидка по подписке для регулярной работы. Промокоды — до 50% на покупку токенов. Подписка Выберите тариф со скидкой для своих регулярных запросов. Промокод до 50% Введите код при покупке. Цена пересчитается с учётом действующей акции. Расходы в истории Модель, токены и сумма сохраняются для каждого запроса. [Выбрать подписку](https://ailoot.ai/docs/ru/billing/subscriptions/) · [Посмотреть цены моделей](https://ailoot.ai/models/ru/) ## Подключайте API к продукту, который вы продаёте. SaaS, приложения и боты — по оферте и лицензионному договору Ailoot. Для перепродажи запросите реселлерскую лицензию. Коммерческое приложение Встраивайте генерацию текста, картинок, видео и звука в платные функции своего сервиса. Лицензия для реселлера Пришлите описание проекта и схему доступа. Запросите письменные условия использования и перепродажи. Документы на сайте Оферта, лицензионный договор и политика обработки данных доступны до подключения. [Запросить реселлерскую лицензию](mailto:support@ailoot.ai) · [Оферта и лицензионный договор](https://ailoot.ai/legal/offer?lang=ru) ## Ailoot · Компания и портфель её проектов Ailoot опирается на накопленный опыт работы, большую клиентскую базу, стабильный сервис и постоянный контроль KPI. Компания и портфель её проектов: миллионы клиентов; продажи на миллиарды ежемесячно. Этот опыт Ailoot использует для API-доступа к нейросетям в продуктах клиентов, агентах, приложениях и автоматизациях.