Source: https://ailoot.ai/models/nb/nvidia-riva-translate-4b-instruct-v2/ Canonical: https://ailoot.ai/models/nb/nvidia-riva-translate-4b-instruct-v2/ Language: nb # Riva Translate 4B Instruct v2 [Markdown](https://ailoot.ai/models/nb/nvidia-riva-translate-4b-instruct-v2/index.md) · [JSON](https://ailoot.ai/models/nb/nvidia-riva-translate-4b-instruct-v2/facts.json) ## [Riva Translate 4B Instruct v2](https://ailoot.ai/models/nb/nvidia-riva-translate-4b-instruct-v2/) Riva-Translate-4B-Instruct-v2 fra NVIDIA oversetter setninger og dokumenter mellom engelsk og 36 andre språk og regionale varianter, inkludert russisk, ukrainsk og hindi. Den støtter oversettelseseksempler i forespørselen og en kontekst på opptil 8K tokener. - [**Ailoot · OpenAI Chat** `POST /v1/chat/completions` `nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/nb/nvidia-riva-translate-4b-instruct-v2/#method-0) - [**Ailoot · OpenAI Chat** `POST /v1/chat/completions` `riva-translate`](https://ailoot.ai/models/nb/nvidia-riva-translate-4b-instruct-v2/#method-1) - [**Ailoot · OpenAI Chat** `POST /v1/chat/completions` `riva-translate-latest`](https://ailoot.ai/models/nb/nvidia-riva-translate-4b-instruct-v2/#method-2) Om modellen Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden. Riva-Translate-4B-Instruct-v2 er en tekstbasert oversettelsesmodell fra NVIDIA med støtte for 37 språk og regionale varianter. Den oversetter enkeltsetninger og dokumenter, tar imot kildeteksten og gir en oversettelse som tekst. Modellen er laget for oversettere, markedsførere og utviklere av flerspråklig materiale. #### Språkdekning Engelsk og følgende språk og varianter støttes: - Tsjekkisk, dansk, tysk, gresk, europeisk og latinamerikansk spansk, finsk, fransk, ungarsk, italiensk, litauisk, latvisk, nederlandsk, norsk, polsk, europeisk og brasiliansk portugisisk, rumensk, russisk, slovakisk, svensk, estisk, slovensk, bulgarsk, ukrainsk og kroatisk. - Kinesisk med forenklet og tradisjonell skrift, japansk, hindi, koreansk, arabisk, vietnamesisk, tyrkisk, indonesisk og thai. Språkparene er organisert rundt engelsk: fra engelsk til hvert av de andre språkene og tilbake. Russisk og ukrainsk har separate retninger. For spansk, portugisisk og kinesisk velges også regional variant eller skriftsystem separat. #### Retning og eksempler Systemmeldingen angir språkparet, og brukermeldingen teksten som skal oversettes. For eksempel betyr `en-ru` oversettelse fra engelsk til russisk, `ru-en` fra russisk til engelsk og `en-uk` fra engelsk til ukrainsk. Kinesisk har de uttrykkelige betegnelsene `en-zh-cn` og `en-zh-tw`, og portugisisk `en-pt-pt` og `en-pt-br`. Modellen støtter flere oversettelseseksempler i forespørselen. De kan vises som vekslende brukermeldinger med kildetekst og svar med oversettelsen. Med dette oppgaveoppsettet får modellen ferdige par før den nye teksten. NVIDIA anbefaler oversettelsesmalen med uttrykkelig kilde- og målspråk; uten den kan resultatet bli mindre egnet. #### Størrelse og treningsopplegg Modellen bygger på en Transformer med dekoder og omtrent 4,18 milliarder parametere. Den er videre trent fra en komprimert og destillert grunnmodell. Treningen omfattet videre forhåndstrening og læring fra eksempler. Treningsdataene brukte par av kildetekst og oversettelse i ulike stiler, fra dagligtale til formelt språk. Konteksten er på opptil 8K tokener. #### Særtrekk ved resultatet Oversettelsen avhenger av bruksområde, kildetekstens kvalitet og kontekst. Grammatikkfeil og feil i meningsgjengivelsen kan forekomme. En mer presist formulert forespørsel kan bidra til å forbedre oversettelsen. Praktisk oppgave ### Praktisk oppgave Teknisk eksempel på engelsk ``` Translate a dispatch notice into Russian Translate from English to Russian using the English-to-Russian direction en-ru in the existing translation template. Source text: 'Order AX-17 is ready for dispatch. Please confirm the delivery address before 16:00 on Friday. If the address is unchanged, no reply is required.' Keep the order identifier and time exact; return only the translation. ``` #### Forventet resultat ``` A Russian translation preserving AX-17, Friday 16:00 and the conditional no-reply instruction. ``` #### Kontroller resultatet ``` Check the no-reply condition is not inverted and no dispatch date is added. ``` **Ailoot · OpenAI Chat** `POST /v1/chat/completions` `nvidia/riva-translate-4b-instruct-v2` [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat) NVIDIA /`nvidia/riva-translate-4b-instruct-v2` Modell-ID - `nvidia/riva-translate-4b-instruct-v2` - `riva-translate` - `riva-translate-latest` ### Start Riva-Translate-4B-Instruct-v2 fra NVIDIA oversetter setninger og dokumenter mellom engelsk og 36 andre språk og regionale varianter, inkludert russisk, ukrainsk og hindi. Den støtter oversettelseseksempler i forespørselen og en kontekst på opptil 8K tokener. Godkjente inndata Tekst Resultater Tekst ### Tilgjengelig i Ailoot · inndata & metoder **Ailoot · OpenAI Chat** `POST /v1/chat/completions` Inndatatyper `text` Utdatatyper `text` Kontekst 4 096 tokens Maksimale utdata 1 024 tokens Utdataformat json eller SSE | Felt | Type | Krav | Verdier & grenser | Standard | | --- | --- | --- | --- | --- | | Felt`model` | Type`string` | KravPåkrevd | Verdier & grenser nvidia/riva-translate-4b-instruct-v2 | Standard— | | Felt`messages` | Type`message[]` | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— | | Felt`messages[].role` | Type`string` | KravPåkrevd | Verdier & grenser Eksempler: system, user, assistant, tool, function Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt. Avhenger av modellen | Standard— | | Felt`messages[].content` | Type`string\|content_part[]\|null` | KravValgfritt | Verdier & grenser | Standard— | | Felt`messages[].tool_calls` | Type`tool_call[]` | KravValgfritt | Verdier & grenser | Standard— | | Felt`messages[].tool_call_id` | Type`string` | KravValgfritt | Verdier & grenser Gjelder når: role=tool; bruk faktisk returnert ID | Standard— | | Felt`messages[].name` | Type`string` | KravValgfritt | Verdier & grenser | Standard— | | Felt`messages[].reasoning_content` | Type`string` | KravValgfritt | Verdier & grenser Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den | Standard— | | Felt`messages[].reasoning_details` | Type`object\|array` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`max_tokens` | Type`integer` | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— | | Felt`max_completion_tokens` | Type`integer` | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— | | Felt`stream` | Type`boolean` | KravValgfritt | Verdier & grenser | Standardfalse | | Felt`stream_options.include_usage` | Type`boolean` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`temperature` | Type`number` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`top_p` | Type`number` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`stop` | Type`string\|string[]` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`tools` | Type`function_tool[]` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`tools[].type` | Type`string` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`tools[].function.name` | Type`string` | KravPåkrevd | Verdier & grenser Gjelder når: funksjonsverktøy oppgitt | Standard— | | Felt`tools[].function.description` | Type`string` | KravValgfritt | Verdier & grenser | Standard— | | Felt`tools[].function.parameters` | Type`JSON_schema` | KravValgfritt | Verdier & grenser | Standard— | | Felt`tool_choice` | Type`string\|object` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`parallel_tool_calls` | Type`boolean` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`response_format` | Type`object` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`reasoning_effort` | Type`string` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`reasoning` | Type`object` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`service_tier` | Type`string` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`instructions` | Type`string` | KravValgfritt | Verdier & grenser Kompatibilitetsfelt | Standard— | | Felt`functions` | Type`function[]` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`function_call` | Type`string\|object` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`prompt_cache_options` | Type`object` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | Kombinasjoner av inngående materialer **Tekst** · UTF8-tekst `messages[].content` Metodeparametere og livssyklus | Parameter | Avtale | | --- | --- | | Parameter`material_types` | Avtaletext | | Parameter`required` | Avtalemodel, messages | | Parameter`optional_controls` | Avtalenull | | Parameter`content_type` | Avtaleapplication/json | | Parameter`text_file_material` | Avtalefaktisk UTF-8-innhold satt inn som tekst; fil-ID-er eller URL-adresser (URLs) trenger separat, eksakt støtte | Livssyklus: `exact retained published method` Metodestrukturer og ID-er er eksakte; leverandørens evne er adskilt fra godkjenning av forespørselen. ### Priser #### Satser for Ailoot-metoder Inndata 0,0001 USD */ 1K* Utdata 0,0002 USD */ 1K* Lesing fra hurtigbuffer 0,0001 USD */ 1K* Skriving til hurtigbuffer 0,0001 USD */ 1K* Skriving til hurtigbuffer, 5 min 0,0001 USD */ 1K tokens* Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. [Slik fungerer reservasjon og oppgjør →](https://ailoot.ai/docs/nb/billing/reserve/) ### Eksempelforespørsler #### Ailoot · OpenAI Chat TeksteksempelPython SDKNode.js SDKPython-strømming ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "nvidia/riva-translate-4b-instruct-v2", "messages": []}') f=Path(os.environ["AILOOT_TEXT_FILE"]) if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material") text=f.read_text(encoding="utf-8") if not text.strip():raise SystemExit("Source material must contain text") p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}] Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2)) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0) resp = client.chat.completions.create( model="nvidia/riva-translate-4b-instruct-v2", messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}], ) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(resp.to_dict(mode="json")) ``` ```js import OpenAI from "openai"; if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request"); const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 }); const resp = await client.chat.completions.create({ model: "nvidia/riva-translate-4b-instruct-v2", messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }], }); import { writeFileSync } from "node:fs"; function saveResult(data, stem = "result") { writeFileSync(stem + ".json", JSON.stringify(data, null, 2)); console.log(JSON.stringify(data, null, 2)); const saveBlob = (encoded, suffix, label) => { const raw = Buffer.from(encoded, "base64"); const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix; const file = `${stem}-${label}.${ext}`; writeFileSync(file, raw); console.log("Saved", file); }; for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block)); for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {})); for (const [i, item] of (data.output || []).entries()) { console.log("Output", i, JSON.stringify(item)); if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`); } for (const [ci, candidate] of (data.candidates || []).entries()) { for (const [pi, part] of (candidate.content?.parts || []).entries()) { console.log("Candidate/part", ci, pi, JSON.stringify(part)); const blob = part.inlineData || part.inline_data; if (blob?.data) { const mime = blob.mimeType || blob.mime_type; const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin"; saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`); } } } } saveResult(resp); ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='nvidia/riva-translate-4b-instruct-v2',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Motta og lagre resultater #### Ailoot · OpenAI Chat json eller SSE ##### Behold alle ferdige resultater Behold alle fullstendige returnerte svar, filer og innholdsdeler. Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata. ##### Hvis det opprinnelige svaret må kontrolleres Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis. Svarfelter | Felt | Type | | --- | --- | | Felt`choices[].index` | Typeinteger | | Felt`choices[].message.content` | Typestring\|null | | Felt`choices[].message.tool_calls` | Typetool\_call\[\] | | Felt`choices[].message.reasoning_content` | Typestring | | Felt`choices[].message.reasoning_details` | Typeobject\|array | | Felt`choices[].finish_reason` | Typestring\|null | | Felt`usage` | Typeobject | Feil og neste trinn | Svar | Vilkår | Neste trinn | | --- | --- | --- | | Svar400 · `invalid_request_error` | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. | ### Aliaser #### Modellaliaser **Ailoot** [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat), [`riva-translate`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat), [`riva-translate-latest`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) #### Aliaser for metodestier Bruk metodestiene som vises ovenfor. #### Tilknyttede anroper-ID-er [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat), [`riva-translate`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat), [`riva-translate-latest`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) **Ailoot · OpenAI Chat** `POST /v1/chat/completions` `riva-translate` [`riva-translate`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat) NVIDIA /`riva-translate` Modell-ID - `nvidia/riva-translate-4b-instruct-v2` - `riva-translate` - `riva-translate-latest` ### Start Riva-Translate-4B-Instruct-v2 fra NVIDIA oversetter setninger og dokumenter mellom engelsk og 36 andre språk og regionale varianter, inkludert russisk, ukrainsk og hindi. Den støtter oversettelseseksempler i forespørselen og en kontekst på opptil 8K tokener. Godkjente inndata Tekst Resultater Tekst ### Tilgjengelig i Ailoot · inndata & metoder **Ailoot · OpenAI Chat** `POST /v1/chat/completions` Inndatatyper `text` Utdatatyper `text` Kontekst 4 096 tokens Maksimale utdata 1 024 tokens Utdataformat json eller SSE | Felt | Type | Krav | Verdier & grenser | Standard | | --- | --- | --- | --- | --- | | Felt`model` | Type`string` | KravPåkrevd | Verdier & grenser riva-translate | Standard— | | Felt`messages` | Type`message[]` | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— | | Felt`messages[].role` | Type`string` | KravPåkrevd | Verdier & grenser Eksempler: system, user, assistant, tool, function Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt. Avhenger av modellen | Standard— | | Felt`messages[].content` | Type`string\|content_part[]\|null` | KravValgfritt | Verdier & grenser | Standard— | | Felt`messages[].tool_calls` | Type`tool_call[]` | KravValgfritt | Verdier & grenser | Standard— | | Felt`messages[].tool_call_id` | Type`string` | KravValgfritt | Verdier & grenser Gjelder når: role=tool; bruk faktisk returnert ID | Standard— | | Felt`messages[].name` | Type`string` | KravValgfritt | Verdier & grenser | Standard— | | Felt`messages[].reasoning_content` | Type`string` | KravValgfritt | Verdier & grenser Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den | Standard— | | Felt`messages[].reasoning_details` | Type`object\|array` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`max_tokens` | Type`integer` | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— | | Felt`max_completion_tokens` | Type`integer` | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— | | Felt`stream` | Type`boolean` | KravValgfritt | Verdier & grenser | Standardfalse | | Felt`stream_options.include_usage` | Type`boolean` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`temperature` | Type`number` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`top_p` | Type`number` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`stop` | Type`string\|string[]` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`tools` | Type`function_tool[]` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`tools[].type` | Type`string` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`tools[].function.name` | Type`string` | KravPåkrevd | Verdier & grenser Gjelder når: funksjonsverktøy oppgitt | Standard— | | Felt`tools[].function.description` | Type`string` | KravValgfritt | Verdier & grenser | Standard— | | Felt`tools[].function.parameters` | Type`JSON_schema` | KravValgfritt | Verdier & grenser | Standard— | | Felt`tool_choice` | Type`string\|object` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`parallel_tool_calls` | Type`boolean` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`response_format` | Type`object` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`reasoning_effort` | Type`string` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`reasoning` | Type`object` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`service_tier` | Type`string` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`instructions` | Type`string` | KravValgfritt | Verdier & grenser Kompatibilitetsfelt | Standard— | | Felt`functions` | Type`function[]` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`function_call` | Type`string\|object` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`prompt_cache_options` | Type`object` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | Kombinasjoner av inngående materialer **Tekst** · UTF8-tekst `messages[].content` Metodeparametere og livssyklus | Parameter | Avtale | | --- | --- | | Parameter`material_types` | Avtaletext | | Parameter`required` | Avtalemodel, messages | | Parameter`optional_controls` | Avtalenull | | Parameter`content_type` | Avtaleapplication/json | | Parameter`text_file_material` | Avtalefaktisk UTF-8-innhold satt inn som tekst; fil-ID-er eller URL-adresser (URLs) trenger separat, eksakt støtte | Livssyklus: `exact retained published method` Metodestrukturer og ID-er er eksakte; leverandørens evne er adskilt fra godkjenning av forespørselen. ### Priser #### Satser for Ailoot-metoder Inndata 0,0001 USD */ 1K* Utdata 0,0002 USD */ 1K* Lesing fra hurtigbuffer 0,0001 USD */ 1K* Skriving til hurtigbuffer 0,0001 USD */ 1K* Skriving til hurtigbuffer, 5 min 0,0001 USD */ 1K tokens* Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. [Slik fungerer reservasjon og oppgjør →](https://ailoot.ai/docs/nb/billing/reserve/) ### Eksempelforespørsler #### Ailoot · OpenAI Chat TeksteksempelPython SDKNode.js SDKPython-strømming ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "riva-translate", "messages": []}') f=Path(os.environ["AILOOT_TEXT_FILE"]) if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material") text=f.read_text(encoding="utf-8") if not text.strip():raise SystemExit("Source material must contain text") p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}] Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2)) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0) resp = client.chat.completions.create( model="riva-translate", messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}], ) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(resp.to_dict(mode="json")) ``` ```js import OpenAI from "openai"; if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request"); const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 }); const resp = await client.chat.completions.create({ model: "riva-translate", messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }], }); import { writeFileSync } from "node:fs"; function saveResult(data, stem = "result") { writeFileSync(stem + ".json", JSON.stringify(data, null, 2)); console.log(JSON.stringify(data, null, 2)); const saveBlob = (encoded, suffix, label) => { const raw = Buffer.from(encoded, "base64"); const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix; const file = `${stem}-${label}.${ext}`; writeFileSync(file, raw); console.log("Saved", file); }; for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block)); for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {})); for (const [i, item] of (data.output || []).entries()) { console.log("Output", i, JSON.stringify(item)); if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`); } for (const [ci, candidate] of (data.candidates || []).entries()) { for (const [pi, part] of (candidate.content?.parts || []).entries()) { console.log("Candidate/part", ci, pi, JSON.stringify(part)); const blob = part.inlineData || part.inline_data; if (blob?.data) { const mime = blob.mimeType || blob.mime_type; const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin"; saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`); } } } } saveResult(resp); ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='riva-translate',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Motta og lagre resultater #### Ailoot · OpenAI Chat json eller SSE ##### Behold alle ferdige resultater Behold alle fullstendige returnerte svar, filer og innholdsdeler. Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata. ##### Hvis det opprinnelige svaret må kontrolleres Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis. Svarfelter | Felt | Type | | --- | --- | | Felt`choices[].index` | Typeinteger | | Felt`choices[].message.content` | Typestring\|null | | Felt`choices[].message.tool_calls` | Typetool\_call\[\] | | Felt`choices[].message.reasoning_content` | Typestring | | Felt`choices[].message.reasoning_details` | Typeobject\|array | | Felt`choices[].finish_reason` | Typestring\|null | | Felt`usage` | Typeobject | Feil og neste trinn | Svar | Vilkår | Neste trinn | | --- | --- | --- | | Svar400 · `invalid_request_error` | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. | ### Aliaser #### Modellaliaser **Ailoot** [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat), [`riva-translate`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat), [`riva-translate-latest`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) #### Aliaser for metodestier Bruk metodestiene som vises ovenfor. #### Tilknyttede anroper-ID-er [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat), [`riva-translate`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat), [`riva-translate-latest`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) **Ailoot · OpenAI Chat** `POST /v1/chat/completions` `riva-translate-latest` [`riva-translate-latest`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) NVIDIA /`riva-translate-latest` Modell-ID - `nvidia/riva-translate-4b-instruct-v2` - `riva-translate` - `riva-translate-latest` ### Start Riva-Translate-4B-Instruct-v2 fra NVIDIA oversetter setninger og dokumenter mellom engelsk og 36 andre språk og regionale varianter, inkludert russisk, ukrainsk og hindi. Den støtter oversettelseseksempler i forespørselen og en kontekst på opptil 8K tokener. Godkjente inndata Tekst Resultater Tekst ### Tilgjengelig i Ailoot · inndata & metoder **Ailoot · OpenAI Chat** `POST /v1/chat/completions` Inndatatyper `text` Utdatatyper `text` Kontekst 4 096 tokens Maksimale utdata 1 024 tokens Utdataformat json eller SSE | Felt | Type | Krav | Verdier & grenser | Standard | | --- | --- | --- | --- | --- | | Felt`model` | Type`string` | KravPåkrevd | Verdier & grenser riva-translate-latest | Standard— | | Felt`messages` | Type`message[]` | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— | | Felt`messages[].role` | Type`string` | KravPåkrevd | Verdier & grenser Eksempler: system, user, assistant, tool, function Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt. Avhenger av modellen | Standard— | | Felt`messages[].content` | Type`string\|content_part[]\|null` | KravValgfritt | Verdier & grenser | Standard— | | Felt`messages[].tool_calls` | Type`tool_call[]` | KravValgfritt | Verdier & grenser | Standard— | | Felt`messages[].tool_call_id` | Type`string` | KravValgfritt | Verdier & grenser Gjelder når: role=tool; bruk faktisk returnert ID | Standard— | | Felt`messages[].name` | Type`string` | KravValgfritt | Verdier & grenser | Standard— | | Felt`messages[].reasoning_content` | Type`string` | KravValgfritt | Verdier & grenser Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den | Standard— | | Felt`messages[].reasoning_details` | Type`object\|array` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`max_tokens` | Type`integer` | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— | | Felt`max_completion_tokens` | Type`integer` | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— | | Felt`stream` | Type`boolean` | KravValgfritt | Verdier & grenser | Standardfalse | | Felt`stream_options.include_usage` | Type`boolean` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`temperature` | Type`number` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`top_p` | Type`number` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`stop` | Type`string\|string[]` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`tools` | Type`function_tool[]` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`tools[].type` | Type`string` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`tools[].function.name` | Type`string` | KravPåkrevd | Verdier & grenser Gjelder når: funksjonsverktøy oppgitt | Standard— | | Felt`tools[].function.description` | Type`string` | KravValgfritt | Verdier & grenser | Standard— | | Felt`tools[].function.parameters` | Type`JSON_schema` | KravValgfritt | Verdier & grenser | Standard— | | Felt`tool_choice` | Type`string\|object` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`parallel_tool_calls` | Type`boolean` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`response_format` | Type`object` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`reasoning_effort` | Type`string` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`reasoning` | Type`object` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`service_tier` | Type`string` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`instructions` | Type`string` | KravValgfritt | Verdier & grenser Kompatibilitetsfelt | Standard— | | Felt`functions` | Type`function[]` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`function_call` | Type`string\|object` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | | Felt`prompt_cache_options` | Type`object` | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— | Kombinasjoner av inngående materialer **Tekst** · UTF8-tekst `messages[].content` Metodeparametere og livssyklus | Parameter | Avtale | | --- | --- | | Parameter`material_types` | Avtaletext | | Parameter`required` | Avtalemodel, messages | | Parameter`optional_controls` | Avtalenull | | Parameter`content_type` | Avtaleapplication/json | | Parameter`text_file_material` | Avtalefaktisk UTF-8-innhold satt inn som tekst; fil-ID-er eller URL-adresser (URLs) trenger separat, eksakt støtte | Livssyklus: `exact retained published method` Metodestrukturer og ID-er er eksakte; leverandørens evne er adskilt fra godkjenning av forespørselen. ### Priser #### Satser for Ailoot-metoder Inndata 0,0001 USD */ 1K* Utdata 0,0002 USD */ 1K* Lesing fra hurtigbuffer 0,0001 USD */ 1K* Skriving til hurtigbuffer 0,0001 USD */ 1K* Skriving til hurtigbuffer, 5 min 0,0001 USD */ 1K tokens* Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. [Slik fungerer reservasjon og oppgjør →](https://ailoot.ai/docs/nb/billing/reserve/) ### Eksempelforespørsler #### Ailoot · OpenAI Chat TeksteksempelPython SDKNode.js SDKPython-strømming ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "riva-translate-latest", "messages": []}') f=Path(os.environ["AILOOT_TEXT_FILE"]) if not f.is_file():raise SystemExit("Choose your actual UTF-8 source material") text=f.read_text(encoding="utf-8") if not text.strip():raise SystemExit("Source material must contain text") p["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\n\n"+text}] Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path print(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2)) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0) resp = client.chat.completions.create( model="riva-translate-latest", messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}], ) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(resp.to_dict(mode="json")) ``` ```js import OpenAI from "openai"; if (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request"); const client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 }); const resp = await client.chat.completions.create({ model: "riva-translate-latest", messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }], }); import { writeFileSync } from "node:fs"; function saveResult(data, stem = "result") { writeFileSync(stem + ".json", JSON.stringify(data, null, 2)); console.log(JSON.stringify(data, null, 2)); const saveBlob = (encoded, suffix, label) => { const raw = Buffer.from(encoded, "base64"); const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix; const file = `${stem}-${label}.${ext}`; writeFileSync(file, raw); console.log("Saved", file); }; for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block)); for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {})); for (const [i, item] of (data.output || []).entries()) { console.log("Output", i, JSON.stringify(item)); if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`); } for (const [ci, candidate] of (data.candidates || []).entries()) { for (const [pi, part] of (candidate.content?.parts || []).entries()) { console.log("Candidate/part", ci, pi, JSON.stringify(part)); const blob = part.inlineData || part.inline_data; if (blob?.data) { const mime = blob.mimeType || blob.mime_type; const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin"; saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`); } } } } saveResult(resp); ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='riva-translate-latest',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Motta og lagre resultater #### Ailoot · OpenAI Chat json eller SSE ##### Behold alle ferdige resultater Behold alle fullstendige returnerte svar, filer og innholdsdeler. Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata. ##### Hvis det opprinnelige svaret må kontrolleres Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis. Svarfelter | Felt | Type | | --- | --- | | Felt`choices[].index` | Typeinteger | | Felt`choices[].message.content` | Typestring\|null | | Felt`choices[].message.tool_calls` | Typetool\_call\[\] | | Felt`choices[].message.reasoning_content` | Typestring | | Felt`choices[].message.reasoning_details` | Typeobject\|array | | Felt`choices[].finish_reason` | Typestring\|null | | Felt`usage` | Typeobject | Feil og neste trinn | Svar | Vilkår | Neste trinn | | --- | --- | --- | | Svar400 · `invalid_request_error` | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. | ### Aliaser #### Modellaliaser **Ailoot** [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat), [`riva-translate`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat), [`riva-translate-latest`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) #### Aliaser for metodestier Bruk metodestiene som vises ovenfor. #### Tilknyttede anroper-ID-er [`nvidia/riva-translate-4b-instruct-v2`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=nvidia%2Friva-translate-4b-instruct-v2&fmt=chat), [`riva-translate`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate&fmt=chat), [`riva-translate-latest`](https://ailoot.ai/models/nb/#m=nvidia%2Friva-translate-4b-instruct-v2&route=Core&caller=riva-translate-latest&fmt=chat) FAQ · nvidia/riva-translate-4b-instruct-v2 Hvilke inndata og resultater er tilgjengelige? `POST /v1/chat/completions` · `nvidia/riva-translate-4b-instruct-v2`: `text` → `text` `POST /v1/chat/completions` · `riva-translate`: `text` → `text` `POST /v1/chat/completions` · `riva-translate-latest`: `text` → `text` Hvilke felt bruker forespørselen? `POST /v1/chat/completions` · `nvidia/riva-translate-4b-instruct-v2`: `model`, `messages`, `stream` `POST /v1/chat/completions` · `riva-translate`: `model`, `messages`, `stream` `POST /v1/chat/completions` · `riva-translate-latest`: `model`, `messages`, `stream` Hvilke grenser gjelder? `POST /v1/chat/completions` · `nvidia/riva-translate-4b-instruct-v2`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1` `POST /v1/chat/completions` · `riva-translate`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1` `POST /v1/chat/completions` · `riva-translate-latest`: `ctx`: `4096`; `max_out`: `1024`; `messages.min_items`: `1` Koble Ailoot til Claude Code, OpenCode, Hermes eller egen applikasjon. ## Selskapet og dets prosjektportefølje Selskapet og dets prosjektportefølje: millioner av kunder; månedlig salg for milliarder. ## Kjøp tokener med rabatt. Abonnementsrabatt for jevnlig bruk. Kampanjekoder gir opptil 50% på tokenkjøp. Abonnement Velg et rabattabonnement for faste forespørsler. Kampanjekode opptil 50% Oppgi kode ved kjøp. Prisen beregnes på nytt etter gjeldende kampanje. Kostnader i historikken Modell, tokener og beløp lagres for hver forespørsel. [Velg abonnement](https://ailoot.ai/docs/nb/billing/subscriptions/) · [Se modellpriser](https://ailoot.ai/models/nb/) ## Koble API-et til produktet du selger. SaaS, apper og boter etter Ailoots offentlige tilbud og lisensavtale. Be om forhandlerlisens for videresalg. Kommersiell applikasjon Bygg tekst-, bilde-, video- og lydgenerering inn i betalte funksjoner i tjenesten. Forhandlerlisens Send prosjektbeskrivelse og tilgangsopplegg. Be om skriftlige vilkår for bruk og videresalg. Dokumenter på nettstedet Offentlig tilbud, lisensavtale og retningslinjer for databehandling er tilgjengelige før tilkobling. [Be om forhandlerlisens](mailto:support@ailoot.ai) · [Offentlig tilbud og lisensavtale](https://ailoot.ai/legal/offer?lang=nb) ## Ailoot · Selskapet og dets prosjektportefølje Ailoot bygger på etablert driftserfaring, en stor kundebase, stabil tjeneste og løpende KPI-kontroll. Selskapet og dets prosjektportefølje: millioner av kunder; månedlig salg for milliarder. Ailoot bruker denne driftserfaringen til API-tilgang til AI-funksjoner i kundenes produkter, agenter, applikasjoner og automatiseringer.