Source: https://ailoot.ai/models/kk/nvidia-riva-translate-4b-instruct-v2/ Canonical: https://ailoot.ai/models/kk/nvidia-riva-translate-4b-instruct-v2/ Language: kk # Riva Translate 4B Instruct v2 [Markdown](https://ailoot.ai/models/kk/nvidia-riva-translate-4b-instruct-v2/index.md) · [JSON](https://ailoot.ai/models/kk/nvidia-riva-translate-4b-instruct-v2/facts.json) ## [Riva Translate 4B Instruct v2](https://ailoot.ai/models/kk/nvidia-riva-translate-4b-instruct-v2/) NVIDIA ұсынған Riva-Translate-4B-Instruct-v2 сөйлемдер мен құжаттарды ағылшын және орыс, украин мен хинди тілдерін қоса алғанда басқа 36 тіл мен аймақтық нұсқа арасында аударады. Сұраудағы аударма мысалдарын және 8K токенге дейінгі контекстті қолдайды. - [**Ailoot · OpenAI чаты** `POST /v1/chat/completions` `nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/kk/nvidia-riva-translate-4b-instruct-v2/#method-0) - [**Ailoot · OpenAI чаты** `POST /v1/chat/completions` `riva-translate`](https://ailoot.ai/models/kk/nvidia-riva-translate-4b-instruct-v2/#method-1) - [**Ailoot · OpenAI чаты** `POST /v1/chat/completions` `riva-translate-latest`](https://ailoot.ai/models/kk/nvidia-riva-translate-4b-instruct-v2/#method-2) Модель туралы Бұл сипаттама модель мүмкіндіктерін қамтиды. Ailoot жүйесінде таңдалған әдіс үшін қолжетімді кіріс, шығыс және параметрлер төменде берілген. Riva-Translate-4B-Instruct-v2 — 37 тіл мен аймақтық нұсқаны қолдайтын NVIDIA мәтіндік аударма моделі. Ол жеке сөйлемдер мен құжаттарды аударады, бастапқы мәтінді қабылдап, аударманы мәтін түрінде береді. Модель аудармашыларға, маркетологтарға және көптілді материалдар әзірлеушілеріне арналған. #### Тілдік қамту Ағылшын және мына тілдер мен нұсқалар қолдау табады: - Чех, дат, неміс, грек, еуропалық және латынамерикалық испан, фин, француз, венгр, итальян, литва, латыш, нидерланд, норвег, поляк, еуропалық және бразилиялық португал, румын, орыс, словак, швед, эстон, словен, болгар, украин және хорват. - Жеңілдетілген және дәстүрлі жазуы бар қытай, жапон, хинди, корей, араб, вьетнам, түрік, индонезия және тай. Тіл жұптары ағылшын төңірегінде ұйымдастырылған: ағылшыннан қалған әр тілге және кері бағытта. Орыс және украин тілдерінің жеке бағыттары бар. Испан, португал және қытай тілдері үшін аймақтық нұсқа немесе жазу жүйесі де бөлек таңдалады. #### Бағыт және мысалдар Жүйелік хабарлама тіл жұбын, пайдаланушы хабарламасы аударылатын мәтінді береді. Мысалы, `en-ru` ағылшыннан орысшаға, `ru-en` орысшадан ағылшынға, `en-uk` ағылшыннан украиншаға аударуды білдіреді. Қытай үшін `en-zh-cn` және `en-zh-tw`, португал үшін `en-pt-pt` және `en-pt-br` анық белгілері қарастырылған. Модель сұрауда бірнеше аударма мысалын қолдайды. Оларды бастапқы мәтіні бар пайдаланушы хабарламалары мен аудармасы бар жауаптарды кезектестіріп беруге болады. Тапсырма осылай құрылғанда модель жаңа мәтін алдында дайын жұптарды алады. NVIDIA бастапқы және мақсатты тілі анық аударма үлгісін ұсынады; онсыз нәтиже азырақ сәйкес болуы мүмкін. #### Көлемі және үйрету сипаты Модель негізінде декодері және шамамен 4,18 миллиард параметрі бар Transformer жатыр. Ол сығылған және дистилляцияланған негізгі модельді қосымша үйрету арқылы алынған. Үйретуге алдын ала үйретуді жалғастыру және мысалдар бойынша үйрету кірген. Үйрету деректерінде әңгімелесу стилінен ресми стильге дейінгі әртүрлі стильдегі бастапқы мәтін мен аударма жұптары қолданылған. Контекст 8K токенге дейін. #### Нәтиже ерекшеліктері Аударма қолдану саласына, бастапқы мәтін сапасына және контекстке байланысты. Грамматика мен мағынаны жеткізуде қателер болуы мүмкін. Дәлірек тұжырымдалған сұрау аударманы жақсартуға көмектесе алады. Практикалық тапсырма ### Практикалық тапсырма Ағылшын тіліндегі техникалық мысал ``` Translate a dispatch notice into Russian Translate from English to Russian using the English-to-Russian direction en-ru in the existing translation template. Source text: 'Order AX-17 is ready for dispatch. Please confirm the delivery address before 16:00 on Friday. If the address is unchanged, no reply is required.' Keep the order identifier and time exact; return only the translation. ``` #### Күтілетін нәтиже ``` A Russian translation preserving AX-17, Friday 16:00 and the conditional no-reply instruction. ``` #### Нәтижені тексеру ``` Check the no-reply condition is not inverted and no dispatch date is added. ``` **Ailoot · OpenAI чаты** `POST /v1/chat/completions` `nvidia/riva-translate-4b-instruct-v2` [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat) NVIDIA /`nvidia/riva-translate-4b-instruct-v2` Модель ID - `nvidia/riva-translate-4b-instruct-v2` - `riva-translate` - `riva-translate-latest` ### Бастау NVIDIA ұсынған Riva-Translate-4B-Instruct-v2 сөйлемдер мен құжаттарды ағылшын және орыс, украин мен хинди тілдерін қоса алғанда басқа 36 тіл мен аймақтық нұсқа арасында аударады. Сұраудағы аударма мысалдарын және 8K токенге дейінгі контекстті қолдайды. Қабылданатын кіріс деректері Мәтін Нәтижелер Мәтін ### Ailoot жүйесінде қолжетімді · кіріс деректері мен әдістер **Ailoot · OpenAI чаты** `POST /v1/chat/completions` Кіріс `text` Шығыс `text` Контекст 4 096 tokens Ең үлкен шығыс 1 024 tokens Шығыс пішімі json немесе SSE | Өріс | Түрі | Талап | Мәндер мен шектеулер | Әдепкі | | --- | --- | --- | --- | --- | | Өріс`model` | Түрі`string` | ТалапМіндетті | Мәндер мен шектеулер nvidia/riva-translate-4b-instruct-v2 | Әдепкі— | | Өріс`messages` | Түрі`message[]` | ТалапМіндетті | Мәндер мен шектеулер Элементтердің ең аз саны: 1 | Әдепкі— | | Өріс`messages[].role` | Түрі`string` | ТалапМіндетті | Мәндер мен шектеулер Мысалдар: system, user, assistant, tool, function Шарттар: Бұл рөлдер бастапқы кодтағы үйлесімділік түрлерінде айқын көрсетілген; рөлдердің нақты жиыны әр модельге байланысты. Модельге байланысты | Әдепкі— | | Өріс`messages[].content` | Түрі`string\|content_part[]\|null` | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— | | Өріс`messages[].tool_calls` | Түрі`tool_call[]` | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— | | Өріс`messages[].tool_call_id` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер Мына жағдайда қолданылады: role=tool; нақты қайтарылған ID мәнін пайдаланыңыз | Әдепкі— | | Өріс`messages[].name` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— | | Өріс`messages[].reasoning_content` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер Мына жағдайда қолданылады: Модель пайымдауды пайдаланса, нақты қайтарылған пайымдауды қайта жіберіңіз | Әдепкі— | | Өріс`messages[].reasoning_details` | Түрі`object\|array` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`max_tokens` | Түрі`integer` | ТалапМіндетті емес | Мәндер мен шектеулер Ең азы: 1 Модельге байланысты | Әдепкі— | | Өріс`max_completion_tokens` | Түрі`integer` | ТалапМіндетті емес | Мәндер мен шектеулер Ең азы: 1 Модельге байланысты | Әдепкі— | | Өріс`stream` | Түрі`boolean` | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкіfalse | | Өріс`stream_options.include_usage` | Түрі`boolean` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`temperature` | Түрі`number` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`top_p` | Түрі`number` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`stop` | Түрі`string\|string[]` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`tools` | Түрі`function_tool[]` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`tools[].type` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`tools[].function.name` | Түрі`string` | ТалапМіндетті | Мәндер мен шектеулер Мына жағдайда қолданылады: функция құралы берілген | Әдепкі— | | Өріс`tools[].function.description` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— | | Өріс`tools[].function.parameters` | Түрі`JSON_schema` | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— | | Өріс`tool_choice` | Түрі`string\|object` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`parallel_tool_calls` | Түрі`boolean` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`response_format` | Түрі`object` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`reasoning_effort` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`reasoning` | Түрі`object` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`service_tier` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`instructions` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер Үйлесімділік өрісі | Әдепкі— | | Өріс`functions` | Түрі`function[]` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`function_call` | Түрі`string\|object` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`prompt_cache_options` | Түрі`object` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | Кіріс материалдарының үйлесімдері **Мәтін** · UTF8 мәтіні `messages[].content` Әдіс параметрлері мен өмірлік циклі | Параметр | Параметр талаптары | | --- | --- | | Параметр`material_types` | Параметр талаптарыtext | | Параметр`required` | Параметр талаптарыmodel, messages | | Параметр`optional_controls` | Параметр талаптарыnull | | Параметр`content_type` | Параметр талаптарыapplication/json | | Параметр`text_file_material` | Параметр талаптарынақты UTF-8 мазмұны мәтін ретінде енгізіледі; файл ID мәндері мен URLs үшін бөлек нақты қолдау қажет | Өмірлік цикл: `exact retained published method` Әдіс құрылымдары мен ID мәндері дәл берілген; жеткізушінің мүмкіндігі сұрауды қабылдаудан бөлек қаралады. ### Тарифтер #### Ailoot әдістерінің мөлшерлемелері Кіріс 0,0001 $ */ 1K* Шығыс 0,0002 $ */ 1K* Кэшті оқу 0,0001 $ */ 1K* Кэшке жазу 0,0001 $ */ 1K* Кэшке жазу, 5 мин 0,0001 $ */ 1K tokens* Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. [Резервтеу мен төлемді есептеу тәртібі →](https://ailoot.ai/docs/kk/billing/reserve/) ### Сұрау мысалдары #### Ailoot · OpenAI чаты Мәтін мысалыPython SDKNode.js SDKPython ағыны ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "nvidia/riva-translate-4b-instruct-v2", "messages": []}') f=Path(os.environ["AILOOT_TEXT_FILE"]) if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material") text=f.read_text(encoding="utf-8") if not text.strip():raise SystemExit("Source material must contain text") p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}] Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2)) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0) resp = client.chat.completions.create( model="nvidia/riva-translate-4b-instruct-v2", messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}], ) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(resp.to_dict(mode="json")) ``` ```js import OpenAI from "openai"; if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request"); const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 }); const resp = await client.chat.completions.create({ model: "nvidia/riva-translate-4b-instruct-v2", messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }], }); import { writeFileSync } from "node:fs"; function saveResult(data, stem = "result") { writeFileSync(stem + ".json", JSON.stringify(data, null, 2)); console.log(JSON.stringify(data, null, 2)); const saveBlob = (encoded, suffix, label) => { const raw = Buffer.from(encoded, "base64"); const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix; const file = `${stem}-${label}.${ext}`; writeFileSync(file, raw); console.log("Saved", file); }; for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block)); for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {})); for (const [i, item] of (data.output || []).entries()) { console.log("Output", i, JSON.stringify(item)); if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`); } for (const [ci, candidate] of (data.candidates || []).entries()) { for (const [pi, part] of (candidate.content?.parts || []).entries()) { console.log("Candidate/part", ci, pi, JSON.stringify(part)); const blob = part.inlineData || part.inline_data; if (blob?.data) { const mime = blob.mimeType || blob.mime_type; const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin"; saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`); } } } } saveResult(resp); ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='nvidia/riva-translate-4b-instruct-v2',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Нәтижелерді алу және сақтау #### Ailoot · OpenAI чаты json немесе SSE ##### Барлық дайын нәтижені сақтау Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз. Әр жауап нұсқасын оның мазмұнымен, құрал шақыруларымен және пайымдауымен бірге сақтаңыз. SSE өзгерістерін жауап нұсқасы мен құрал индексі бойынша жинап, соңғы аяқталу себебі мен пайдалану деректерін сақтаңыз. ##### Бастапқы жауапты тексеру қажет болса Сұрау мен жауаптың ID мәндерін және тақырыптарын сақтаңыз. Мәтіндік тапсырманы алуға арналған ортақ URL берілмеген. Жауап өрістері | Өріс | Түрі | | --- | --- | | Өріс`choices[].index` | Түріinteger | | Өріс`choices[].message.content` | Түріstring\|null | | Өріс`choices[].message.tool_calls` | Түріtool\_call\[\] | | Өріс`choices[].message.reasoning_content` | Түріstring | | Өріс`choices[].message.reasoning_details` | Түріobject\|array | | Өріс`choices[].finish_reason` | Түріstring\|null | | Өріс`usage` | Түріobject | Қателер және келесі қадамдар | Жауап | Шарт | Келесі қадам | | --- | --- | --- | | Жауап400 · `invalid_request_error` | ШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қате | Келесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз. | ### Балама атаулар #### Модельдердің балама атаулары **Ailoot** [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat), [`riva-translate`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat), [`riva-translate-latest`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) #### Әдіс жолдарының балама атаулары Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз. #### Шақыруға арналған байланысты ID [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat), [`riva-translate`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat), [`riva-translate-latest`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) **Ailoot · OpenAI чаты** `POST /v1/chat/completions` `riva-translate` [`riva-translate`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat) NVIDIA /`riva-translate` Модель ID - `nvidia/riva-translate-4b-instruct-v2` - `riva-translate` - `riva-translate-latest` ### Бастау NVIDIA ұсынған Riva-Translate-4B-Instruct-v2 сөйлемдер мен құжаттарды ағылшын және орыс, украин мен хинди тілдерін қоса алғанда басқа 36 тіл мен аймақтық нұсқа арасында аударады. Сұраудағы аударма мысалдарын және 8K токенге дейінгі контекстті қолдайды. Қабылданатын кіріс деректері Мәтін Нәтижелер Мәтін ### Ailoot жүйесінде қолжетімді · кіріс деректері мен әдістер **Ailoot · OpenAI чаты** `POST /v1/chat/completions` Кіріс `text` Шығыс `text` Контекст 4 096 tokens Ең үлкен шығыс 1 024 tokens Шығыс пішімі json немесе SSE | Өріс | Түрі | Талап | Мәндер мен шектеулер | Әдепкі | | --- | --- | --- | --- | --- | | Өріс`model` | Түрі`string` | ТалапМіндетті | Мәндер мен шектеулер riva-translate | Әдепкі— | | Өріс`messages` | Түрі`message[]` | ТалапМіндетті | Мәндер мен шектеулер Элементтердің ең аз саны: 1 | Әдепкі— | | Өріс`messages[].role` | Түрі`string` | ТалапМіндетті | Мәндер мен шектеулер Мысалдар: system, user, assistant, tool, function Шарттар: Бұл рөлдер бастапқы кодтағы үйлесімділік түрлерінде айқын көрсетілген; рөлдердің нақты жиыны әр модельге байланысты. Модельге байланысты | Әдепкі— | | Өріс`messages[].content` | Түрі`string\|content_part[]\|null` | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— | | Өріс`messages[].tool_calls` | Түрі`tool_call[]` | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— | | Өріс`messages[].tool_call_id` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер Мына жағдайда қолданылады: role=tool; нақты қайтарылған ID мәнін пайдаланыңыз | Әдепкі— | | Өріс`messages[].name` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— | | Өріс`messages[].reasoning_content` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер Мына жағдайда қолданылады: Модель пайымдауды пайдаланса, нақты қайтарылған пайымдауды қайта жіберіңіз | Әдепкі— | | Өріс`messages[].reasoning_details` | Түрі`object\|array` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`max_tokens` | Түрі`integer` | ТалапМіндетті емес | Мәндер мен шектеулер Ең азы: 1 Модельге байланысты | Әдепкі— | | Өріс`max_completion_tokens` | Түрі`integer` | ТалапМіндетті емес | Мәндер мен шектеулер Ең азы: 1 Модельге байланысты | Әдепкі— | | Өріс`stream` | Түрі`boolean` | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкіfalse | | Өріс`stream_options.include_usage` | Түрі`boolean` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`temperature` | Түрі`number` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`top_p` | Түрі`number` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`stop` | Түрі`string\|string[]` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`tools` | Түрі`function_tool[]` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`tools[].type` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`tools[].function.name` | Түрі`string` | ТалапМіндетті | Мәндер мен шектеулер Мына жағдайда қолданылады: функция құралы берілген | Әдепкі— | | Өріс`tools[].function.description` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— | | Өріс`tools[].function.parameters` | Түрі`JSON_schema` | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— | | Өріс`tool_choice` | Түрі`string\|object` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`parallel_tool_calls` | Түрі`boolean` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`response_format` | Түрі`object` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`reasoning_effort` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`reasoning` | Түрі`object` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`service_tier` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`instructions` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер Үйлесімділік өрісі | Әдепкі— | | Өріс`functions` | Түрі`function[]` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`function_call` | Түрі`string\|object` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`prompt_cache_options` | Түрі`object` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | Кіріс материалдарының үйлесімдері **Мәтін** · UTF8 мәтіні `messages[].content` Әдіс параметрлері мен өмірлік циклі | Параметр | Параметр талаптары | | --- | --- | | Параметр`material_types` | Параметр талаптарыtext | | Параметр`required` | Параметр талаптарыmodel, messages | | Параметр`optional_controls` | Параметр талаптарыnull | | Параметр`content_type` | Параметр талаптарыapplication/json | | Параметр`text_file_material` | Параметр талаптарынақты UTF-8 мазмұны мәтін ретінде енгізіледі; файл ID мәндері мен URLs үшін бөлек нақты қолдау қажет | Өмірлік цикл: `exact retained published method` Әдіс құрылымдары мен ID мәндері дәл берілген; жеткізушінің мүмкіндігі сұрауды қабылдаудан бөлек қаралады. ### Тарифтер #### Ailoot әдістерінің мөлшерлемелері Кіріс 0,0001 $ */ 1K* Шығыс 0,0002 $ */ 1K* Кэшті оқу 0,0001 $ */ 1K* Кэшке жазу 0,0001 $ */ 1K* Кэшке жазу, 5 мин 0,0001 $ */ 1K tokens* Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. [Резервтеу мен төлемді есептеу тәртібі →](https://ailoot.ai/docs/kk/billing/reserve/) ### Сұрау мысалдары #### Ailoot · OpenAI чаты Мәтін мысалыPython SDKNode.js SDKPython ағыны ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "riva-translate", "messages": []}') f=Path(os.environ["AILOOT_TEXT_FILE"]) if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material") text=f.read_text(encoding="utf-8") if not text.strip():raise SystemExit("Source material must contain text") p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}] Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2)) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0) resp = client.chat.completions.create( model="riva-translate", messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}], ) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(resp.to_dict(mode="json")) ``` ```js import OpenAI from "openai"; if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request"); const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 }); const resp = await client.chat.completions.create({ model: "riva-translate", messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }], }); import { writeFileSync } from "node:fs"; function saveResult(data, stem = "result") { writeFileSync(stem + ".json", JSON.stringify(data, null, 2)); console.log(JSON.stringify(data, null, 2)); const saveBlob = (encoded, suffix, label) => { const raw = Buffer.from(encoded, "base64"); const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix; const file = `${stem}-${label}.${ext}`; writeFileSync(file, raw); console.log("Saved", file); }; for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block)); for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {})); for (const [i, item] of (data.output || []).entries()) { console.log("Output", i, JSON.stringify(item)); if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`); } for (const [ci, candidate] of (data.candidates || []).entries()) { for (const [pi, part] of (candidate.content?.parts || []).entries()) { console.log("Candidate/part", ci, pi, JSON.stringify(part)); const blob = part.inlineData || part.inline_data; if (blob?.data) { const mime = blob.mimeType || blob.mime_type; const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin"; saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`); } } } } saveResult(resp); ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='riva-translate',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Нәтижелерді алу және сақтау #### Ailoot · OpenAI чаты json немесе SSE ##### Барлық дайын нәтижені сақтау Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз. Әр жауап нұсқасын оның мазмұнымен, құрал шақыруларымен және пайымдауымен бірге сақтаңыз. SSE өзгерістерін жауап нұсқасы мен құрал индексі бойынша жинап, соңғы аяқталу себебі мен пайдалану деректерін сақтаңыз. ##### Бастапқы жауапты тексеру қажет болса Сұрау мен жауаптың ID мәндерін және тақырыптарын сақтаңыз. Мәтіндік тапсырманы алуға арналған ортақ URL берілмеген. Жауап өрістері | Өріс | Түрі | | --- | --- | | Өріс`choices[].index` | Түріinteger | | Өріс`choices[].message.content` | Түріstring\|null | | Өріс`choices[].message.tool_calls` | Түріtool\_call\[\] | | Өріс`choices[].message.reasoning_content` | Түріstring | | Өріс`choices[].message.reasoning_details` | Түріobject\|array | | Өріс`choices[].finish_reason` | Түріstring\|null | | Өріс`usage` | Түріobject | Қателер және келесі қадамдар | Жауап | Шарт | Келесі қадам | | --- | --- | --- | | Жауап400 · `invalid_request_error` | ШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қате | Келесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз. | ### Балама атаулар #### Модельдердің балама атаулары **Ailoot** [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat), [`riva-translate`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat), [`riva-translate-latest`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) #### Әдіс жолдарының балама атаулары Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз. #### Шақыруға арналған байланысты ID [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat), [`riva-translate`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat), [`riva-translate-latest`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) **Ailoot · OpenAI чаты** `POST /v1/chat/completions` `riva-translate-latest` [`riva-translate-latest`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) NVIDIA /`riva-translate-latest` Модель ID - `nvidia/riva-translate-4b-instruct-v2` - `riva-translate` - `riva-translate-latest` ### Бастау NVIDIA ұсынған Riva-Translate-4B-Instruct-v2 сөйлемдер мен құжаттарды ағылшын және орыс, украин мен хинди тілдерін қоса алғанда басқа 36 тіл мен аймақтық нұсқа арасында аударады. Сұраудағы аударма мысалдарын және 8K токенге дейінгі контекстті қолдайды. Қабылданатын кіріс деректері Мәтін Нәтижелер Мәтін ### Ailoot жүйесінде қолжетімді · кіріс деректері мен әдістер **Ailoot · OpenAI чаты** `POST /v1/chat/completions` Кіріс `text` Шығыс `text` Контекст 4 096 tokens Ең үлкен шығыс 1 024 tokens Шығыс пішімі json немесе SSE | Өріс | Түрі | Талап | Мәндер мен шектеулер | Әдепкі | | --- | --- | --- | --- | --- | | Өріс`model` | Түрі`string` | ТалапМіндетті | Мәндер мен шектеулер riva-translate-latest | Әдепкі— | | Өріс`messages` | Түрі`message[]` | ТалапМіндетті | Мәндер мен шектеулер Элементтердің ең аз саны: 1 | Әдепкі— | | Өріс`messages[].role` | Түрі`string` | ТалапМіндетті | Мәндер мен шектеулер Мысалдар: system, user, assistant, tool, function Шарттар: Бұл рөлдер бастапқы кодтағы үйлесімділік түрлерінде айқын көрсетілген; рөлдердің нақты жиыны әр модельге байланысты. Модельге байланысты | Әдепкі— | | Өріс`messages[].content` | Түрі`string\|content_part[]\|null` | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— | | Өріс`messages[].tool_calls` | Түрі`tool_call[]` | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— | | Өріс`messages[].tool_call_id` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер Мына жағдайда қолданылады: role=tool; нақты қайтарылған ID мәнін пайдаланыңыз | Әдепкі— | | Өріс`messages[].name` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— | | Өріс`messages[].reasoning_content` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер Мына жағдайда қолданылады: Модель пайымдауды пайдаланса, нақты қайтарылған пайымдауды қайта жіберіңіз | Әдепкі— | | Өріс`messages[].reasoning_details` | Түрі`object\|array` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`max_tokens` | Түрі`integer` | ТалапМіндетті емес | Мәндер мен шектеулер Ең азы: 1 Модельге байланысты | Әдепкі— | | Өріс`max_completion_tokens` | Түрі`integer` | ТалапМіндетті емес | Мәндер мен шектеулер Ең азы: 1 Модельге байланысты | Әдепкі— | | Өріс`stream` | Түрі`boolean` | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкіfalse | | Өріс`stream_options.include_usage` | Түрі`boolean` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`temperature` | Түрі`number` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`top_p` | Түрі`number` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`stop` | Түрі`string\|string[]` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`tools` | Түрі`function_tool[]` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`tools[].type` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`tools[].function.name` | Түрі`string` | ТалапМіндетті | Мәндер мен шектеулер Мына жағдайда қолданылады: функция құралы берілген | Әдепкі— | | Өріс`tools[].function.description` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— | | Өріс`tools[].function.parameters` | Түрі`JSON_schema` | ТалапМіндетті емес | Мәндер мен шектеулер | Әдепкі— | | Өріс`tool_choice` | Түрі`string\|object` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`parallel_tool_calls` | Түрі`boolean` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`response_format` | Түрі`object` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`reasoning_effort` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`reasoning` | Түрі`object` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`service_tier` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`instructions` | Түрі`string` | ТалапМіндетті емес | Мәндер мен шектеулер Үйлесімділік өрісі | Әдепкі— | | Өріс`functions` | Түрі`function[]` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`function_call` | Түрі`string\|object` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | | Өріс`prompt_cache_options` | Түрі`object` | ТалапМіндетті емес | Мәндер мен шектеулер Модельге байланысты | Әдепкі— | Кіріс материалдарының үйлесімдері **Мәтін** · UTF8 мәтіні `messages[].content` Әдіс параметрлері мен өмірлік циклі | Параметр | Параметр талаптары | | --- | --- | | Параметр`material_types` | Параметр талаптарыtext | | Параметр`required` | Параметр талаптарыmodel, messages | | Параметр`optional_controls` | Параметр талаптарыnull | | Параметр`content_type` | Параметр талаптарыapplication/json | | Параметр`text_file_material` | Параметр талаптарынақты UTF-8 мазмұны мәтін ретінде енгізіледі; файл ID мәндері мен URLs үшін бөлек нақты қолдау қажет | Өмірлік цикл: `exact retained published method` Әдіс құрылымдары мен ID мәндері дәл берілген; жеткізушінің мүмкіндігі сұрауды қабылдаудан бөлек қаралады. ### Тарифтер #### Ailoot әдістерінің мөлшерлемелері Кіріс 0,0001 $ */ 1K* Шығыс 0,0002 $ */ 1K* Кэшті оқу 0,0001 $ */ 1K* Кэшке жазу 0,0001 $ */ 1K* Кэшке жазу, 5 мин 0,0001 $ */ 1K tokens* Ailoot сұрау алдында болжамды соманы резервтейді. Нәтижеден кейін өлшенген пайдалану көлемі бойынша қорытынды төлемді шегереді. Ағындық жауап үшін төлем соңғы пайдалану жазбасы негізінде шегеріледі. [Резервтеу мен төлемді есептеу тәртібі →](https://ailoot.ai/docs/kk/billing/reserve/) ### Сұрау мысалдары #### Ailoot · OpenAI чаты Мәтін мысалыPython SDKNode.js SDKPython ағыны ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "riva-translate-latest", "messages": []}') f=Path(os.environ["AILOOT_TEXT_FILE"]) if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material") text=f.read_text(encoding="utf-8") if not text.strip():raise SystemExit("Source material must contain text") p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}] Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2)) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0) resp = client.chat.completions.create( model="riva-translate-latest", messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}], ) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(resp.to_dict(mode="json")) ``` ```js import OpenAI from "openai"; if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request"); const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 }); const resp = await client.chat.completions.create({ model: "riva-translate-latest", messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }], }); import { writeFileSync } from "node:fs"; function saveResult(data, stem = "result") { writeFileSync(stem + ".json", JSON.stringify(data, null, 2)); console.log(JSON.stringify(data, null, 2)); const saveBlob = (encoded, suffix, label) => { const raw = Buffer.from(encoded, "base64"); const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix; const file = `${stem}-${label}.${ext}`; writeFileSync(file, raw); console.log("Saved", file); }; for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block)); for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {})); for (const [i, item] of (data.output || []).entries()) { console.log("Output", i, JSON.stringify(item)); if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`); } for (const [ci, candidate] of (data.candidates || []).entries()) { for (const [pi, part] of (candidate.content?.parts || []).entries()) { console.log("Candidate/part", ci, pi, JSON.stringify(part)); const blob = part.inlineData || part.inline_data; if (blob?.data) { const mime = blob.mimeType || blob.mime_type; const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin"; saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`); } } } } saveResult(resp); ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='riva-translate-latest',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Нәтижелерді алу және сақтау #### Ailoot · OpenAI чаты json немесе SSE ##### Барлық дайын нәтижені сақтау Қайтарылған әр толық жауапты, файлды және мазмұн бөлігін сақтаңыз. Әр жауап нұсқасын оның мазмұнымен, құрал шақыруларымен және пайымдауымен бірге сақтаңыз. SSE өзгерістерін жауап нұсқасы мен құрал индексі бойынша жинап, соңғы аяқталу себебі мен пайдалану деректерін сақтаңыз. ##### Бастапқы жауапты тексеру қажет болса Сұрау мен жауаптың ID мәндерін және тақырыптарын сақтаңыз. Мәтіндік тапсырманы алуға арналған ортақ URL берілмеген. Жауап өрістері | Өріс | Түрі | | --- | --- | | Өріс`choices[].index` | Түріinteger | | Өріс`choices[].message.content` | Түріstring\|null | | Өріс`choices[].message.tool_calls` | Түріtool\_call\[\] | | Өріс`choices[].message.reasoning_content` | Түріstring | | Өріс`choices[].message.reasoning_details` | Түріobject\|array | | Өріс`choices[].finish_reason` | Түріstring\|null | | Өріс`usage` | Түріobject | Қателер және келесі қадамдар | Жауап | Шарт | Келесі қадам | | --- | --- | --- | | Жауап400 · `invalid_request_error` | ШартМіндетті өрістер, материалды ұсыну тәсілі немесе параметр мәні қате | Келесі қадамЖаңадан жасау сұрауын жібермес бұрын көрсетілген өрістерді түзетіңіз. | ### Балама атаулар #### Модельдердің балама атаулары **Ailoot** [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat), [`riva-translate`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat), [`riva-translate-latest`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) #### Әдіс жолдарының балама атаулары Жоғарыда көрсетілген әдіс жолдарын пайдаланыңыз. #### Шақыруға арналған байланысты ID [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat), [`riva-translate`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat), [`riva-translate-latest`](https://ailoot.ai/models/kk/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) FAQ · nvidia/riva-translate-4b-instruct-v2 Қандай кіріс деректері мен нәтижелер қолжетімді? `POST /v1/chat/completions` · `nvidia/riva-translate-4b-instruct-v2`: `text` → `text` `POST /v1/chat/completions` · `riva-translate`: `text` → `text` `POST /v1/chat/completions` · `riva-translate-latest`: `text` → `text` Сұрау қандай өрістерді пайдаланады? `POST /v1/chat/completions` · `nvidia/riva-translate-4b-instruct-v2`: `model`, `messages`, `stream` `POST /v1/chat/completions` · `riva-translate`: `model`, `messages`, `stream` `POST /v1/chat/completions` · `riva-translate-latest`: `model`, `messages`, `stream` Қандай шектеулер қолданылады? `POST /v1/chat/completions` · `nvidia/riva-translate-4b-instruct-v2`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1` `POST /v1/chat/completions` · `riva-translate`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1` `POST /v1/chat/completions` · `riva-translate-latest`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1` Ailoot-ты Claude Code, OpenCode, Hermes не қолданбаңызға қосыңыз. ## Компания және оның жобалар портфелі Компания және оның жобалар портфелі: миллиондаған клиент; ай сайынғы сату көлемі миллиардтармен есептеледі. ## Токенді жеңілдікпен сатып алыңыз. Тұрақты жұмысқа жазылым жеңілдігі. Токен сатып алуға промокодтар — 50% дейін. Жазылым Тұрақты сұрауыңызға жеңілдікті тариф таңдаңыз. 50% дейінгі промокод Сатып алғанда код енгізіңіз. Баға қазіргі науқанмен қайта есептеледі. Тарихтағы шығындар Әр сұрауға модель, токен және сома сақталады. [Жазылым таңдау](https://ailoot.ai/docs/kk/billing/subscriptions/) · [Модель бағасын көру](https://ailoot.ai/models/kk/) ## API-ді сататын өніміңізге қосыңыз. SaaS, қолданба мен бот Ailoot офертасы және лицензиялық шартына сай. Қайта сатуға реселлер лицензиясын сұраңыз. Коммерциялық қолданба Қызметіңіздің ақылы функциясына мәтін, сурет, бейне және дыбыс жасауды қосыңыз. Реселлер лицензиясы Жоба сипаттамасы мен кіру схемасын жіберіңіз. Пайдалану мен қайта сатуға жазбаша шарт сұраңыз. Сайттағы құжаттар Оферта, лицензиялық шарт және дерек саясаты қоспай тұрып қолжетімді. [Реселлер лицензиясын сұрау](mailto:support@ailoot.ai) · [Оферта мен лицензиялық шарт](https://ailoot.ai/legal/offer?lang=kk) ## Ailoot · Компания және оның жобалар портфелі Ailoot жинақталған жұмыс тәжірибесіне, кең клиенттік базаға, тұрақты қызметке және KPI көрсеткіштерін үздіксіз бақылауға сүйенеді. Компания және оның жобалар портфелі: миллиондаған клиент; ай сайынғы сату көлемі миллиардтармен есептеледі. Ailoot осы тәжірибені клиенттердің өнімдерінде, агенттерінде, қолданбаларында және автоматтандыруларында жасанды интеллект мүмкіндіктеріне API арқылы қол жеткізуді қамтамасыз етуге пайдаланады.