gpt-oss-20b yra mažesnis bendrosios paskirties OpenAI atvirųjų svorių modelis, skirtas samprotavimui ir kūrėjų darbo eigoms. Jis priima tekstą ir grąžina tekstą. Gamintojas nurodo iš viso 21 milijardą parametrų, iš kurių kiekvienam tokenui aktyvūs 3.6 milijardo. Tai gpt-oss šeimos 20b edicija, atskira nuo didesnės 120b edicijos ir politikos klasifikavimo modelio Safeguard.
Gamintojas aprašo vietinio ir specializuoto naudojimo atvejus bei tik tekstinį mokymo rinkinį, orientuotą į STEM, programavimą ir bendrąsias žinias. Pavyzdinė užduotis yra paaiškinti kodo fragmentą remiantis nurodytomis prielaidomis ir pasiūlyti tikslinį pakeitimą. Teksto analizės užduotyje galima lyginti aprašymus pagal aiškius kriterijus arba darbo užrašus paversti naudingu išvadų rinkiniu. Pateikite modeliui šaltinio medžiagą ir rezultatą, kurio reikia skaitytojui ar kitam programos žingsniui.
Paskelbtoje ekspertų mišinio architektūroje yra 24 sluoksniai, 32 ekspertai ir keturi aktyvūs ekspertai kiekvienam tokenui. Pradinė OpenAI ekspertų svorių MXFP4 versija sukurta taip, kad tilptų į 16 GB atminties. Svoriai paskelbti pagal Apache 2.0 licenciją ir gali būti papildomai mokomi specializuotam darbui. Šios gamintojo savybės apibūdina paskelbtą modelį ir leidžia kūrėjui atskirti jo dydį bei pritaikymo paskirtį nedarant prielaidų apie konkrečios programos naudojamą sąranką.
OpenAI dokumentacijoje nurodytas 131 072 tokenų konteksto langas, maksimalus 131 072 tokenų generuojamas rezultatas ir žinių riba — 2024 m. birželio 1 d. Turimame kontekste turi tilpti pateikta medžiaga, analizė ir galutinis atsakymas. Modelis palaiko žemą, vidutinį ir aukštą samprotavimo lygį: low, medium ir high. Privalomas Harmony formatas atskiria vidinę analizę ir galutinį atsakymą į skirtingus kanalus; gamintojas nurodo, kad neapdorotos analizės nereikėtų tiesiogiai rodyti galutiniams naudotojams.
Gamintojas dokumentuoja funkcijų iškvietimą, naršymą žiniatinklyje, Python kodo vykdymą per įrankius ir Structured Outputs. Tarp išvardytų modelio funkcijų taip pat yra srautinis perdavimas; dokumentuota įrankių aplinka apima funkcijas, kodo interpretavimą, MCP ryšius ir paiešką žiniatinklyje. Programos pateikia ir vykdo savo operacijas bei grąžina tikrus rezultatus kitam sprendimui. Galutinis tekstas turėtų atskirti siūlomą veiksmą nuo įvykdytos operacijos ir jos grąžintų duomenų.
Tiksliai darbo eigai apibrėžkite reikiamus laukus, apribojimus ir užbaigimo kriterijų. Paprašykite su kodu susieto paaiškinimo arba su pateiktu tekstu susietos išvados, o vieną trūkstamą detalę patikslinkite tolesne užklausa. Naudingas galutinis artefaktas yra konkretus siūlomas pakeitimas, palyginimas, trumpa apžvalga ar struktūruotas rezultatas, kuriame išsaugomi būtini faktai ir įvardijama kiekviena dar neišspręsta sąlyga.
", "aboutText": "gpt-oss-20b yra mažesnis bendrosios paskirties OpenAI atvirųjų svorių modelis, skirtas samprotavimui ir kūrėjų darbo eigoms. Jis priima tekstą ir grąžina tekstą. Gamintojas nurodo iš viso 21 milijardą parametrų, iš kurių kiekvienam tokenui aktyvūs 3.6 milijardo. Tai gpt-oss šeimos 20b edicija, atskira nuo didesnės 120b edicijos ir politikos klasifikavimo modelio Safeguard.\n\nGamintojas aprašo vietinio ir specializuoto naudojimo atvejus bei tik tekstinį mokymo rinkinį, orientuotą į STEM, programavimą ir bendrąsias žinias. Pavyzdinė užduotis yra paaiškinti kodo fragmentą remiantis nurodytomis prielaidomis ir pasiūlyti tikslinį pakeitimą. Teksto analizės užduotyje galima lyginti aprašymus pagal aiškius kriterijus arba darbo užrašus paversti naudingu išvadų rinkiniu. Pateikite modeliui šaltinio medžiagą ir rezultatą, kurio reikia skaitytojui ar kitam programos žingsniui.\n\nPaskelbtoje ekspertų mišinio architektūroje yra 24 sluoksniai, 32 ekspertai ir keturi aktyvūs ekspertai kiekvienam tokenui. Pradinė OpenAI ekspertų svorių MXFP4 versija sukurta taip, kad tilptų į 16 GB atminties. Svoriai paskelbti pagal Apache 2.0 licenciją ir gali būti papildomai mokomi specializuotam darbui. Šios gamintojo savybės apibūdina paskelbtą modelį ir leidžia kūrėjui atskirti jo dydį bei pritaikymo paskirtį nedarant prielaidų apie konkrečios programos naudojamą sąranką.\n\nOpenAI dokumentacijoje nurodytas 131 072 tokenų konteksto langas, maksimalus 131 072 tokenų generuojamas rezultatas ir žinių riba — 2024 m. birželio 1 d. Turimame kontekste turi tilpti pateikta medžiaga, analizė ir galutinis atsakymas. Modelis palaiko žemą, vidutinį ir aukštą samprotavimo lygį: low, medium ir high. Privalomas Harmony formatas atskiria vidinę analizę ir galutinį atsakymą į skirtingus kanalus; gamintojas nurodo, kad neapdorotos analizės nereikėtų tiesiogiai rodyti galutiniams naudotojams.\n\nGamintojas dokumentuoja funkcijų iškvietimą, naršymą žiniatinklyje, Python kodo vykdymą per įrankius ir Structured Outputs. Tarp išvardytų modelio funkcijų taip pat yra srautinis perdavimas; dokumentuota įrankių aplinka apima funkcijas, kodo interpretavimą, MCP ryšius ir paiešką žiniatinklyje. Programos pateikia ir vykdo savo operacijas bei grąžina tikrus rezultatus kitam sprendimui. Galutinis tekstas turėtų atskirti siūlomą veiksmą nuo įvykdytos operacijos ir jos grąžintų duomenų.\n\nTiksliai darbo eigai apibrėžkite reikiamus laukus, apribojimus ir užbaigimo kriterijų. Paprašykite su kodu susieto paaiškinimo arba su pateiktu tekstu susietos išvados, o vieną trūkstamą detalę patikslinkite tolesne užklausa. Naudingas galutinis artefaktas yra konkretus siūlomas pakeitimas, palyginimas, trumpa apžvalga ar struktūruotas rezultatas, kuriame išsaugomi būtini faktai ir įvardijama kiekviena dar neišspręsta sąlyga.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "30a0c8287f7904a72557d576091439fd14bac504ed250b888220c193e3157f7d", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "lt", "methods": [ { "html": "openai/gpt-oss-20b:batchMažesnis bendrosios paskirties OpenAI gpt-oss modelis priima ir grąžina tekstą samprotavimo, programavimo ir specializuotoms darbo eigoms. Jis palaiko konfigūruojamą samprotavimą, funkcijų iškvietimą, Structured Outputs ir papildomą paskelbtų atvirųjų svorių mokymą.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
gpt-oss-20b yra mažesnis bendrosios paskirties OpenAI atvirųjų svorių modelis, skirtas samprotavimui ir kūrėjų darbo eigoms. Jis priima tekstą ir grąžina tekstą. Gamintojas nurodo iš viso 21 milijardą parametrų, iš kurių kiekvienam tokenui aktyvūs 3.6 milijardo. Tai gpt-oss šeimos 20b edicija, atskira nuo didesnės 120b edicijos ir politikos klasifikavimo modelio Safeguard.
Gamintojas aprašo vietinio ir specializuoto naudojimo atvejus bei tik tekstinį mokymo rinkinį, orientuotą į STEM, programavimą ir bendrąsias žinias. Pavyzdinė užduotis yra paaiškinti kodo fragmentą remiantis nurodytomis prielaidomis ir pasiūlyti tikslinį pakeitimą. Teksto analizės užduotyje galima lyginti aprašymus pagal aiškius kriterijus arba darbo užrašus paversti naudingu išvadų rinkiniu. Pateikite modeliui šaltinio medžiagą ir rezultatą, kurio reikia skaitytojui ar kitam programos žingsniui.
Paskelbtoje ekspertų mišinio architektūroje yra 24 sluoksniai, 32 ekspertai ir keturi aktyvūs ekspertai kiekvienam tokenui. Pradinė OpenAI ekspertų svorių MXFP4 versija sukurta taip, kad tilptų į 16 GB atminties. Svoriai paskelbti pagal Apache 2.0 licenciją ir gali būti papildomai mokomi specializuotam darbui. Šios gamintojo savybės apibūdina paskelbtą modelį ir leidžia kūrėjui atskirti jo dydį bei pritaikymo paskirtį nedarant prielaidų apie konkrečios programos naudojamą sąranką.
OpenAI dokumentacijoje nurodytas 131 072 tokenų konteksto langas, maksimalus 131 072 tokenų generuojamas rezultatas ir žinių riba — 2024 m. birželio 1 d. Turimame kontekste turi tilpti pateikta medžiaga, analizė ir galutinis atsakymas. Modelis palaiko žemą, vidutinį ir aukštą samprotavimo lygį: low, medium ir high. Privalomas Harmony formatas atskiria vidinę analizę ir galutinį atsakymą į skirtingus kanalus; gamintojas nurodo, kad neapdorotos analizės nereikėtų tiesiogiai rodyti galutiniams naudotojams.
Gamintojas dokumentuoja funkcijų iškvietimą, naršymą žiniatinklyje, Python kodo vykdymą per įrankius ir Structured Outputs. Tarp išvardytų modelio funkcijų taip pat yra srautinis perdavimas; dokumentuota įrankių aplinka apima funkcijas, kodo interpretavimą, MCP ryšius ir paiešką žiniatinklyje. Programos pateikia ir vykdo savo operacijas bei grąžina tikrus rezultatus kitam sprendimui. Galutinis tekstas turėtų atskirti siūlomą veiksmą nuo įvykdytos operacijos ir jos grąžintų duomenų.
Tiksliai darbo eigai apibrėžkite reikiamus laukus, apribojimus ir užbaigimo kriterijų. Paprašykite su kodu susieto paaiškinimo arba su pateiktu tekstu susietos išvados, o vieną trūkstamą detalę patikslinkite tolesne užklausa. Naudingas galutinis artefaktas yra konkretus siūlomas pakeitimas, palyginimas, trumpa apžvalga ar struktūruotas rezultatas, kuriame išsaugomi būtini faktai ir įvardijama kiekviena dar neišspręsta sąlyga.
POST /v1/batchestexttext| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasendpoint | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos /v1/chat/completions | Numatyta— |
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos openai/gpt-oss-20b:batch | Numatyta— |
Laukasrequests | Tipasbatch_item[] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 | Numatyta— |
Laukasrequests[].custom_id | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasrequests[].body.messages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukascompletion_window | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos 24h | Numatyta— |
Laukasprovider | Tipasobject|null | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasrequests[].body.model | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos openai/gpt-oss-20b:batch, openai/gpt-oss-20b | Numatyta— |
Laukasprovider.only | Tipasstring[] | ReikalavimasNeprivaloma | Reikšmės ir ribos deepinfra/bf16 | Numatyta— |
Laukasprovider.allow_fallbacks | Tipasboolean|null | ReikalavimasNeprivaloma | Reikšmės ir ribos false, null | Numatyta— |
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijaendpoint, model, requests |
Parametrasmaterial_types | Specifikacijatext |
Parametrasrepresentation | Specifikacijatiesiogiai įterptas requests[] masyvas; kiekvienas elementas turi custom_id ir body laukus |
Parametrasrequest_endpoint_profile | Specifikacija/v1/chat/completions |
Parametrasfile_material | SpecifikacijaKlientas gali vietoje perskaityti faktinį UTF-8 JSONL turinį į requests[] masyvą. Įkėlimo purpose, input_file_id ar failo nuoroda nenaudojami. Jei kliento medžiagos nėra arba ji tuščia, parengimas sustabdomas prieš POST. |
Parametrasserialization_order | Specifikacijaendpoint, model, provider (jei pateiktas), completion_window (jei pateiktas), requests pateikite paskiausiai |
Parametrasoptional_controls | Specifikacijaprovider.only, provider.allow_fallbacks, completion_window |
Parametrasschema_scope | SpecifikacijaTekstinių Chat Completions užklausų turiniai dokumentuotoje Batch paketo struktūroje, pateikiamoje pačioje užklausoje. |
Gyvavimo ciklas: asynchronous
GET /v1/batches/{operation_id} · faktinė pradinės kūrimo užklausos atsakymo response.id reikšmė; tas pats naudotojas, raktas ir grupė
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
Kiekvieną mokestį susiekite su nurodytomis sąlygomis. Kiekvienam alternatyvių konfigūracijų rinkiniui taikykite vieną įkainį.
| Konfigūracija | Įkainių lentelė | Konteksto tokenų daugiau nei | Konteksto tokenų iki imtinai | Mokestis |
|---|---|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Konteksto tokenų daugiau nei— | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.000048 / 1K tokenų Išvestis · Išvesties tokenai $0.000224 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
| KonfigūracijaUžklausos ilgio pakopa 1 | Įkainių lentelė— | Konteksto tokenų daugiau nei0 | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.000048 / 1K tokenų Išvestis · Išvesties tokenai $0.000224 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"openai/gpt-oss-20b:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['openai/gpt-oss-20b:batch', 'openai/gpt-oss-20b']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"openai/gpt-oss-20b:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\ntiesiogiai įterptas results[].response.body JSON
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nIšsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite visą pradinės būsenos JSON, kiekvieną rezultatą ir custom_id bei visą atsakymo arba klaidos turinį. Užbaigtus results[] išsaugokite JSONL formatu nieko nefiltruodami.
Išsaugokite pradinį operacijos ID. Atsakyme 503 result_pending_check pateikiama X-Should-Retry:false; niekada pakartotinai neteikite pradinio paketo, kurio baigtis nežinoma.
| Laukas | Tipas |
|---|---|
Laukasresults[].custom_id | Tipasstring |
Laukasresults[].response.body.choices[].message.content | Tipasstring|null |
Laukasresults[].error | Tipasobject|null |
Laukasusage | Tipasobject|null |
Laukasid | Tipasstring |
Laukasmodel | Tipasstring |
Laukasendpoint | Tipasstring |
Laukasstatus | Tipasstring |
Laukasrequest_counts | Tipasobject |
Laukasresults[].id | Tipasstring |
Laukasresults[].response.status_code | Tipasinteger |
Laukasresults[].response.request_id | Tipasstring |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNeteisinga dokumentuota tiesiogiai įterpto paketo struktūra, pasikartojantys raktai, netinkama elemento tapatybė arba konfliktas su sukonfigūruotomis modelio galimybėmis. | Kitas žingsnisPrieš bet kokį naują pateikimą pataisykite nurodytus laukus. |
Atsakymas401 · authentication_error | SąlygaNegaliojantis API raktas. | Kitas žingsnisNaudokite leistiną Ailoot raktą. |
Atsakymas403 · permission_error | SąlygaPaketinio apdorojimo grupė neprieinama. | Kitas žingsnisPatikrinkite rakto ir grupės prieigos teises. |
Atsakymas422 · invalid_request_error | SąlygaPaketinis apdorojimas apmokamas iš balanso; kūrimo užklausos su prenumeratos apmokėjimu atmetamos. | Kitas žingsnisNaudokite leistiną grupę, kurios užklausos apmokamos iš balanso. |
Atsakymas422 · price_unavailable | SąlygaNepavyksta apskaičiuoti paketinio apdorojimo įvesties kainos. | Kitas žingsnisIšsaugokite atsakymą; naudokite dokumentuotą šios API šeimos įvestį. |
Atsakymas402 · billing_error | SąlygaPaketiniam apdorojimui reikalingas rezervas neprieinamas. | Kitas žingsnisPrieš teikdami naują užklausą išspręskite užklausos priėmimo problemą. |
Atsakymas503 · price_unavailable | SąlygaPaketinio apdorojimo metodo kaina arba savieji sistemos įkainiai neprieinami. | Kitas žingsnisIšsaugokite atsakymą; nekeiskite kainų kitomis. |
Atsakymas503 · api_error | SąlygaKonkretus tiekėjo maršrutas neprieinamas. | Kitas žingsnisIšsaugokite atsakymą maršrutui pataisyti. |
Atsakymas503 · result_pending_check | SąlygaPradinį rezultatą reikia patikrinti; X-Should-Retry:false. | Kitas žingsnisIšsaugokite pradinę operation_id/id reikšmę ir tikrinkite operacijos būseną; niekada nekartokite pradinės POST užklausos. |
Atsakymas404 · not_found | SąlygaPaketinio apdorojimo būsenos operacijos nėra arba ji susieta su kita tapatybe. | Kitas žingsnisNaudokite tikslią pradinę id reikšmę ir tą patį naudotoją, raktą bei grupę. |
Ailoot Ultra openai/gpt-oss-20b:batch
Naudokite aukščiau nurodytus metodų kelius.