ERNIE 4.5 300B-A47B – didysis Baidu tekstinis modelis ERNIE 4.5 šeimoje. Jo ekspertų mišinyje iš viso yra 300 milijardų parametrų, o kiekvienam žetonui aktyvuojami 47 milijardai. Paskelbtoje modelio konfigūracijoje nurodytas 131 072 žetonų konteksto ilgis. Jis priima ir generuoja tekstą, palaikydamas pokalbį, paaiškinimą arba naują dokumentą pagal pateiktą klausimą ir medžiagą.
ERNIE 4.5 ypatybės. Baidu aprašo bendrą kalbinės ir vaizdinės informacijos mokymą visoje šeimoje, taikant maršrutizavimą, leidžiantį skirtingiems modalumams bendrinti dalį parametrų ir išlaikyti specializuotą apdorojimą. Tekstinis variantas orientuotas į bendrą kalbos supratimą ir generavimą. Šeimos plėtra taip pat apima efektyvaus mokymo bei išvadų gavimo infrastruktūrą ir tolesnį mokymą su prižiūrimais pavyzdžiais bei pirmenybėmis grįstu optimizavimu. Šie sprendimai paaiškina modelio kilmę; jie nepaverčia tekstinės užklausos vaizdo įvestimi.
Modelio konfigūracija. Paskelbtas tekstinis modelis turi 54 sluoksnius, 64 užklausų dėmesio galvutes ir 8 raktų bei reikšmių galvutes. Teksto ekspertų konfigūracijoje nurodyti 64 ekspertai, vienu metu aktyvuojant 8. Praktiškai rengdami įvestį, kontekste išsaugokite užduočiai reikalingas ištraukas su jų antraštėmis ir ryšiais. Pokalbis ir sugeneruotas atsakymas dalijasi turimu konteksto limitu, todėl pasirinkite reikšmingą medžiagą ir nurodykite rezultato ilgį, nelaikydami viso lango vieta atsakymui.
Užklausa prasideda klausimu arba instrukcija. Dokumentų analizei pateikite pažymėtus skyrius ir paprašykite išvados su kiekvieną punktą pagrindžiančiu skyriumi. Rašymui pateikite auditoriją, šaltinio faktus ir reikiamą struktūrą. Galite paprašyti paslaugos paaiškinimo, reikalavimų santraukos arba dviejų vidinių procedūrų palyginimo. Įtraukite dviprasmiškiems atvejams taikomas taisykles ir paprašykite pastabos apie trūkstamą informaciją, kai šaltinis nepagrindžia aiškaus atsakymo.
Atsakymai pagal šaltinius. Gamintojas skelbia kinų ir anglų kalbų užklausų pavyzdžius darbo eigai, kurioje pateikiamas dabartinis laikas, šaltinių straipsniai ir klausimas. Modeliui nurodoma įvertinti šaltinių aktualumą bei naujumą, teikti pirmenybę autoritetingai medžiagai ir pasakyti, kai įrodymų nepakanka. Taikydami šį būdą pažymėkite kiekvieną pateiktą šaltinį, išsaugokite paskelbimo laiką, kai jis prieinamas, ir atskirkite šaltinio turinį nuo klausimo. Tikimasi šiomis ištraukomis pagrįsto atsakymo, o ne prielaidos, kad paieškos žingsnis jau atliktas.
Generavimo gairės. Baidu kortelė paskelbtiems modelio pavyzdžiams rekomenduoja temperature 0.8 ir top-p 0.8. Konfigūruodami suderinamą generavimo aplinką laikykite tai gamintojo gairėmis, tada vertinkite išvestį pagal užduoties reikalavimus. Modelio PT ir Paddle leidimai žymi skirtingus svorių formatus; vardinis tekstinis leidimas išlieka atskiras nuo VL regos ir kalbos modelio bei Base mokymo kontrolinio taško. Praktinė peržiūra turi patikrinti svarbius faktinius teiginius, skaitines detales ir prašomų skyrių išsamumą pagal pateiktą medžiagą.
", "aboutText": "ERNIE 4.5 300B-A47B – didysis Baidu tekstinis modelis ERNIE 4.5 šeimoje. Jo ekspertų mišinyje iš viso yra 300 milijardų parametrų, o kiekvienam žetonui aktyvuojami 47 milijardai. Paskelbtoje modelio konfigūracijoje nurodytas 131 072 žetonų konteksto ilgis. Jis priima ir generuoja tekstą, palaikydamas pokalbį, paaiškinimą arba naują dokumentą pagal pateiktą klausimą ir medžiagą.\n\nERNIE 4.5 ypatybės. Baidu aprašo bendrą kalbinės ir vaizdinės informacijos mokymą visoje šeimoje, taikant maršrutizavimą, leidžiantį skirtingiems modalumams bendrinti dalį parametrų ir išlaikyti specializuotą apdorojimą. Tekstinis variantas orientuotas į bendrą kalbos supratimą ir generavimą. Šeimos plėtra taip pat apima efektyvaus mokymo bei išvadų gavimo infrastruktūrą ir tolesnį mokymą su prižiūrimais pavyzdžiais bei pirmenybėmis grįstu optimizavimu. Šie sprendimai paaiškina modelio kilmę; jie nepaverčia tekstinės užklausos vaizdo įvestimi.\n\nModelio konfigūracija. Paskelbtas tekstinis modelis turi 54 sluoksnius, 64 užklausų dėmesio galvutes ir 8 raktų bei reikšmių galvutes. Teksto ekspertų konfigūracijoje nurodyti 64 ekspertai, vienu metu aktyvuojant 8. Praktiškai rengdami įvestį, kontekste išsaugokite užduočiai reikalingas ištraukas su jų antraštėmis ir ryšiais. Pokalbis ir sugeneruotas atsakymas dalijasi turimu konteksto limitu, todėl pasirinkite reikšmingą medžiagą ir nurodykite rezultato ilgį, nelaikydami viso lango vieta atsakymui.\n\nUžklausa prasideda klausimu arba instrukcija. Dokumentų analizei pateikite pažymėtus skyrius ir paprašykite išvados su kiekvieną punktą pagrindžiančiu skyriumi. Rašymui pateikite auditoriją, šaltinio faktus ir reikiamą struktūrą. Galite paprašyti paslaugos paaiškinimo, reikalavimų santraukos arba dviejų vidinių procedūrų palyginimo. Įtraukite dviprasmiškiems atvejams taikomas taisykles ir paprašykite pastabos apie trūkstamą informaciją, kai šaltinis nepagrindžia aiškaus atsakymo.\n\nAtsakymai pagal šaltinius. Gamintojas skelbia kinų ir anglų kalbų užklausų pavyzdžius darbo eigai, kurioje pateikiamas dabartinis laikas, šaltinių straipsniai ir klausimas. Modeliui nurodoma įvertinti šaltinių aktualumą bei naujumą, teikti pirmenybę autoritetingai medžiagai ir pasakyti, kai įrodymų nepakanka. Taikydami šį būdą pažymėkite kiekvieną pateiktą šaltinį, išsaugokite paskelbimo laiką, kai jis prieinamas, ir atskirkite šaltinio turinį nuo klausimo. Tikimasi šiomis ištraukomis pagrįsto atsakymo, o ne prielaidos, kad paieškos žingsnis jau atliktas.\n\nGeneravimo gairės. Baidu kortelė paskelbtiems modelio pavyzdžiams rekomenduoja temperature 0.8 ir top-p 0.8. Konfigūruodami suderinamą generavimo aplinką laikykite tai gamintojo gairėmis, tada vertinkite išvestį pagal užduoties reikalavimus. Modelio PT ir Paddle leidimai žymi skirtingus svorių formatus; vardinis tekstinis leidimas išlieka atskiras nuo VL regos ir kalbos modelio bei Base mokymo kontrolinio taško. Praktinė peržiūra turi patikrinti svarbius faktinius teiginius, skaitines detales ir prašomų skyrių išsamumą pagal pateiktą medžiagą.", "editorialOverlay": { "copy_fields": { "practical_html": "Techninis pavyzdys anglų kalba
Resolve conflicting reference passages\n\nAnswer the question using these references only. R1, old handbook: Trial accounts retain exports for 7 days. R2, current handbook: Trial exports are retained for 14 days; paid-account exports for 90 days. Question: How long can a trial customer retrieve an export? Cite the relevant reference and explain why the other passage differs.A short answer with the retention period, reference identifier and a sentence describing the documented version conflict.Check that the answer uses the current trial rule and does not substitute the paid-account period.baidu/ERNIE-4.5-300B-A47BERNIE 4.5 300B-A47B – Baidu tekstinis ekspertų mišinio modelis su iš viso 300 milijardų parametrų, 47 milijardais aktyvių parametrų kiekvienam žetonui ir paskelbtu 131 072 žetonų kontekstu. Jis palaiko kalbos supratimą ir generavimą, įskaitant atsakymus pagal jūsų pateiktas šaltinių ištraukas.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
ERNIE 4.5 300B-A47B – didysis Baidu tekstinis modelis ERNIE 4.5 šeimoje. Jo ekspertų mišinyje iš viso yra 300 milijardų parametrų, o kiekvienam žetonui aktyvuojami 47 milijardai. Paskelbtoje modelio konfigūracijoje nurodytas 131 072 žetonų konteksto ilgis. Jis priima ir generuoja tekstą, palaikydamas pokalbį, paaiškinimą arba naują dokumentą pagal pateiktą klausimą ir medžiagą.
ERNIE 4.5 ypatybės. Baidu aprašo bendrą kalbinės ir vaizdinės informacijos mokymą visoje šeimoje, taikant maršrutizavimą, leidžiantį skirtingiems modalumams bendrinti dalį parametrų ir išlaikyti specializuotą apdorojimą. Tekstinis variantas orientuotas į bendrą kalbos supratimą ir generavimą. Šeimos plėtra taip pat apima efektyvaus mokymo bei išvadų gavimo infrastruktūrą ir tolesnį mokymą su prižiūrimais pavyzdžiais bei pirmenybėmis grįstu optimizavimu. Šie sprendimai paaiškina modelio kilmę; jie nepaverčia tekstinės užklausos vaizdo įvestimi.
Modelio konfigūracija. Paskelbtas tekstinis modelis turi 54 sluoksnius, 64 užklausų dėmesio galvutes ir 8 raktų bei reikšmių galvutes. Teksto ekspertų konfigūracijoje nurodyti 64 ekspertai, vienu metu aktyvuojant 8. Praktiškai rengdami įvestį, kontekste išsaugokite užduočiai reikalingas ištraukas su jų antraštėmis ir ryšiais. Pokalbis ir sugeneruotas atsakymas dalijasi turimu konteksto limitu, todėl pasirinkite reikšmingą medžiagą ir nurodykite rezultato ilgį, nelaikydami viso lango vieta atsakymui.
Užklausa prasideda klausimu arba instrukcija. Dokumentų analizei pateikite pažymėtus skyrius ir paprašykite išvados su kiekvieną punktą pagrindžiančiu skyriumi. Rašymui pateikite auditoriją, šaltinio faktus ir reikiamą struktūrą. Galite paprašyti paslaugos paaiškinimo, reikalavimų santraukos arba dviejų vidinių procedūrų palyginimo. Įtraukite dviprasmiškiems atvejams taikomas taisykles ir paprašykite pastabos apie trūkstamą informaciją, kai šaltinis nepagrindžia aiškaus atsakymo.
Atsakymai pagal šaltinius. Gamintojas skelbia kinų ir anglų kalbų užklausų pavyzdžius darbo eigai, kurioje pateikiamas dabartinis laikas, šaltinių straipsniai ir klausimas. Modeliui nurodoma įvertinti šaltinių aktualumą bei naujumą, teikti pirmenybę autoritetingai medžiagai ir pasakyti, kai įrodymų nepakanka. Taikydami šį būdą pažymėkite kiekvieną pateiktą šaltinį, išsaugokite paskelbimo laiką, kai jis prieinamas, ir atskirkite šaltinio turinį nuo klausimo. Tikimasi šiomis ištraukomis pagrįsto atsakymo, o ne prielaidos, kad paieškos žingsnis jau atliktas.
Generavimo gairės. Baidu kortelė paskelbtiems modelio pavyzdžiams rekomenduoja temperature 0.8 ir top-p 0.8. Konfigūruodami suderinamą generavimo aplinką laikykite tai gamintojo gairėmis, tada vertinkite išvestį pagal užduoties reikalavimus. Modelio PT ir Paddle leidimai žymi skirtingus svorių formatus; vardinis tekstinis leidimas išlieka atskiras nuo VL regos ir kalbos modelio bei Base mokymo kontrolinio taško. Praktinė peržiūra turi patikrinti svarbius faktinius teiginius, skaitines detales ir prašomų skyrių išsamumą pagal pateiktą medžiagą.
POST /v1/chat/completionstexttext| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos baidu/ERNIE-4.5-300B-A47B | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Pavyzdžiai: system, user, assistant, tool, function Sąlygos: Šie vaidmenys aiškiai išreikšti šaltinio kodo suderinamumo tipuose; tikslus vaidmenų rinkinys priklauso nuo konkretaus modelio. Priklauso nuo modelio | Numatyta— |
Laukasmessages[].content | Tipasstring|content_part[]|null | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].tool_calls | Tipastool_call[] | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].tool_call_id | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: role=tool; naudokite tikrąjį grąžintą ID | Numatyta— |
Laukasmessages[].name | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].reasoning_content | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: Grąžinkite tikrąjį gautą samprotavimą ten, kur šis modelis jį naudoja | Numatyta— |
Laukasmessages[].reasoning_details | Tipasobject|array | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Priklauso nuo modelio | Numatyta— |
Laukasmax_completion_tokens | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Priklauso nuo modelio | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Laukasstream_options.include_usage | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastemperature | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastop_p | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasstop | Tipasstring|string[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastools | Tipasfunction_tool[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastools[].type | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos function Priklauso nuo modelio | Numatyta— |
Laukastools[].function.name | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Taikoma, kai: pateiktas funkcijos tipo įrankis | Numatyta— |
Laukastools[].function.description | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastools[].function.parameters | TipasJSON_schema | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastool_choice | Tipasstring|object | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasparallel_tool_calls | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasresponse_format | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasreasoning_effort | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasreasoning | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasservice_tier | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasinstructions | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Suderinamumo laukas | Numatyta— |
Laukasfunctions | Tipasfunction[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasfunction_call | Tipasstring|object | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasprompt_cache_options | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmodalities | Tipasstring[] | ReikalavimasNeprivaloma | Reikšmės ir ribos text | Numatyta— |
Laukasprovider | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: provider.options šiame Ultra teksto maršrute atmetamas | Numatyta— |
Laukascache_control.ttl | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: 1h atmetamas tikrosiose užklausų podėlio vietose | Numatyta— |
Tekstas · UTF8 tekstas
messages[].content
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages |
Parametrasmaterial_types | Specifikacijatext |
Parametrasmessages | Specifikacijapranešimų masyvas su role/content struktūra |
Parametrasfile_material | Specifikacijatikrasis UTF-8 dokumentas įterptas kaip pažodinis tekstas; failo ID nenumanomas |
Parametrasoptional_controls | Specifikacijastream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrascontrol_scope | Specifikacijapriklauso nuo modelio; naudotojo funkcijų įrankiai skiriasi nuo priglobtų įrankių |
Parametrasoutput_modalities | Specifikacijatext |
Parametrashosted_operations | Specifikacijafalse |
Parametrasmultimodal_input_binding | Specifikacijanull |
Gyvavimo ciklas: synchronous_or_streamed
Siųskite tikslų modelio ID kartu su messages.
Konteksto ilgis nėra išvesties limitas.
Teksto failas gali pateikti pažodinį tekstą; vaizdų / garso / failų objektų įvestims reikia tikslaus susiejimo.
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.0006 / 1K tokenų Išvestis · Išvesties tokenai $0.00228 / 1K tokenų Įvestis · Talpyklos skaitymas $0 / 1K tokenų Įvestis · Rašymas į talpyklą $0 / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "baidu/ERNIE-4.5-300B-A47B", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='baidu/ERNIE-4.5-300B-A47B',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='baidu/ERNIE-4.5-300B-A47B',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną variantą ir jo turinį / įrankių iškvietimus / samprotavimą. SSE prieaugius surinkite pagal varianto / įrankio indeksą; išsaugokite galutinę užbaigimo priežastį ir naudojimo duomenis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukaschoices[].index | Tipasinteger |
Laukaschoices[].message.content | Tipasstring|null |
Laukaschoices[].message.tool_calls | Tipastool_call[] |
Laukaschoices[].message.reasoning_content | Tipasstring |
Laukaschoices[].message.reasoning_details | Tipasobject|array |
Laukaschoices[].finish_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra baidu/ERNIE-4.5-300B-A47B
Naudokite aukščiau nurodytus metodų kelius.
baidu/ERNIE-4.5-300B-A47BERNIE 4.5 300B-A47B – Baidu tekstinis ekspertų mišinio modelis su iš viso 300 milijardų parametrų, 47 milijardais aktyvių parametrų kiekvienam žetonui ir paskelbtu 131 072 žetonų kontekstu. Jis palaiko kalbos supratimą ir generavimą, įskaitant atsakymus pagal jūsų pateiktas šaltinių ištraukas.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
ERNIE 4.5 300B-A47B – didysis Baidu tekstinis modelis ERNIE 4.5 šeimoje. Jo ekspertų mišinyje iš viso yra 300 milijardų parametrų, o kiekvienam žetonui aktyvuojami 47 milijardai. Paskelbtoje modelio konfigūracijoje nurodytas 131 072 žetonų konteksto ilgis. Jis priima ir generuoja tekstą, palaikydamas pokalbį, paaiškinimą arba naują dokumentą pagal pateiktą klausimą ir medžiagą.
ERNIE 4.5 ypatybės. Baidu aprašo bendrą kalbinės ir vaizdinės informacijos mokymą visoje šeimoje, taikant maršrutizavimą, leidžiantį skirtingiems modalumams bendrinti dalį parametrų ir išlaikyti specializuotą apdorojimą. Tekstinis variantas orientuotas į bendrą kalbos supratimą ir generavimą. Šeimos plėtra taip pat apima efektyvaus mokymo bei išvadų gavimo infrastruktūrą ir tolesnį mokymą su prižiūrimais pavyzdžiais bei pirmenybėmis grįstu optimizavimu. Šie sprendimai paaiškina modelio kilmę; jie nepaverčia tekstinės užklausos vaizdo įvestimi.
Modelio konfigūracija. Paskelbtas tekstinis modelis turi 54 sluoksnius, 64 užklausų dėmesio galvutes ir 8 raktų bei reikšmių galvutes. Teksto ekspertų konfigūracijoje nurodyti 64 ekspertai, vienu metu aktyvuojant 8. Praktiškai rengdami įvestį, kontekste išsaugokite užduočiai reikalingas ištraukas su jų antraštėmis ir ryšiais. Pokalbis ir sugeneruotas atsakymas dalijasi turimu konteksto limitu, todėl pasirinkite reikšmingą medžiagą ir nurodykite rezultato ilgį, nelaikydami viso lango vieta atsakymui.
Užklausa prasideda klausimu arba instrukcija. Dokumentų analizei pateikite pažymėtus skyrius ir paprašykite išvados su kiekvieną punktą pagrindžiančiu skyriumi. Rašymui pateikite auditoriją, šaltinio faktus ir reikiamą struktūrą. Galite paprašyti paslaugos paaiškinimo, reikalavimų santraukos arba dviejų vidinių procedūrų palyginimo. Įtraukite dviprasmiškiems atvejams taikomas taisykles ir paprašykite pastabos apie trūkstamą informaciją, kai šaltinis nepagrindžia aiškaus atsakymo.
Atsakymai pagal šaltinius. Gamintojas skelbia kinų ir anglų kalbų užklausų pavyzdžius darbo eigai, kurioje pateikiamas dabartinis laikas, šaltinių straipsniai ir klausimas. Modeliui nurodoma įvertinti šaltinių aktualumą bei naujumą, teikti pirmenybę autoritetingai medžiagai ir pasakyti, kai įrodymų nepakanka. Taikydami šį būdą pažymėkite kiekvieną pateiktą šaltinį, išsaugokite paskelbimo laiką, kai jis prieinamas, ir atskirkite šaltinio turinį nuo klausimo. Tikimasi šiomis ištraukomis pagrįsto atsakymo, o ne prielaidos, kad paieškos žingsnis jau atliktas.
Generavimo gairės. Baidu kortelė paskelbtiems modelio pavyzdžiams rekomenduoja temperature 0.8 ir top-p 0.8. Konfigūruodami suderinamą generavimo aplinką laikykite tai gamintojo gairėmis, tada vertinkite išvestį pagal užduoties reikalavimus. Modelio PT ir Paddle leidimai žymi skirtingus svorių formatus; vardinis tekstinis leidimas išlieka atskiras nuo VL regos ir kalbos modelio bei Base mokymo kontrolinio taško. Praktinė peržiūra turi patikrinti svarbius faktinius teiginius, skaitines detales ir prašomų skyrių išsamumą pagal pateiktą medžiagą.
POST /v1/messagestextjson, sse| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos baidu/ERNIE-4.5-300B-A47B | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos user, assistant | Numatyta— |
Laukasmessages[].content | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Tekstas · UTF-8 tekstas
messages[].content eilutė
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages, max_tokens |
Parametrasoptional_controls | Specifikacijastream |
Parametrasmaterial_types | Specifikacijatext |
Parametrastext_file_material | SpecifikacijaPerskaitykite tikrąjį UTF-8 dokumentą ir įterpkite jo tekstą į nurodytą input lauką arba pranešimo turinio eilutę. |
Gyvavimo ciklas: synchronous_or_streamed
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.0006 / 1K tokenų Išvestis · Išvesties tokenai $0.00228 / 1K tokenų Įvestis · Talpyklos skaitymas $0 / 1K tokenų Įvestis · Rašymas į talpyklą $0 / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
{\n "model": "baidu/ERNIE-4.5-300B-A47B",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'baidu/ERNIE-4.5-300B-A47B', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'baidu/ERNIE-4.5-300B-A47B', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite visus turinio blokus, mąstymo parašus ir tikruosius įrankių naudojimo ID. Surinkite visus SSE blokų prieaugius; pirmasis teksto blokas nėra visa išvestis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukasid | Tipasstring |
Laukasmodel | Tipasstring |
Laukascontent[] | Tipastext|thinking|tool_use|other content block |
Laukasstop_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra baidu/ERNIE-4.5-300B-A47B
Naudokite aukščiau nurodytus metodų kelius.
Techninis pavyzdys anglų kalba
Resolve conflicting reference passages\n\nAnswer the question using these references only. R1, old handbook: Trial accounts retain exports for 7 days. R2, current handbook: Trial exports are retained for 14 days; paid-account exports for 90 days. Question: How long can a trial customer retrieve an export? Cite the relevant reference and explain why the other passage differs.A short answer with the retention period, reference identifier and a sentence describing the documented version conflict.Check that the answer uses the current trial rule and does not substitute the paid-account period.