ERNIE 4.5 300B-A47B je veľký textový model Baidu v rodine ERNIE 4.5. Jeho návrh so zmesou expertov obsahuje celkovo 300 miliárd parametrov a pre každý token aktivuje 47 miliárd. Zverejnená konfigurácia modelu uvádza dĺžku kontextu 131 072 tokenov. Prijíma text a generuje text, čím podporuje konverzáciu, vysvetlenie alebo nový dokument založený na dodanej otázke a materiáli.
Hlavné vlastnosti ERNIE 4.5. Baidu opisuje spoločný tréning jazykových a vizuálnych informácií naprieč rodinou so smerovaním, ktoré umožňuje rôznym modalitám zdieľať niektoré parametre a zachovávať vyhradené spracovanie. Textový variant sa sústreďuje na všeobecné porozumenie jazyku a generovanie. Vývoj rodiny zahŕňa aj infraštruktúru efektívneho tréningu a inferencie a následný tréning s príkladmi s dohľadom a optimalizáciou podľa preferencií. Tieto návrhové voľby vysvetľujú zázemie modelu; nemenia textovú požiadavku na obrázkový vstup.
Konfigurácia modelu. Zverejnený textový model má 54 vrstiev, 64 dopytových hláv pozornosti a 8 hláv kľúč/hodnota. Konfigurácia textových expertov uvádza 64 expertov, z ktorých sa naraz aktivuje 8. Pri praktickej príprave vstupu využite kontext na zachovanie pasáží potrebných pre úlohu spolu s ich nadpismi a vzťahmi. Konverzácia a vygenerovaná odpoveď zdieľajú dostupný kontextový rozpočet, preto vyberte relevantný materiál a určte dĺžku výsledku namiesto považovania celého okna za priestor odpovede.
Požiadavka začína otázkou alebo pokynom. Pri analýze dokumentov dodajte označené sekcie a vyžiadajte záver so sekciou podporujúcou každý bod. Pri tvorbe textu dodajte publikum, zdrojové fakty a požadovanú štruktúru. Môžete žiadať vysvetlenie služby, zhrnutie požiadaviek alebo porovnanie dvoch interných postupov. Zahrňte pravidlá pre nejednoznačné prípady a vyžiadajte poznámku o chýbajúcich informáciách, keď zdroj neoprávňuje k jednoznačnej odpovedi.
Odpovedanie podložené referenciami. Výrobca zverejňuje čínske a anglické príklady pokynov pre postup, ktorý dodáva aktuálny čas, referenčné články a otázku. Model dostáva pokyn posúdiť relevantnosť a aktuálnosť referencií, uprednostniť autoritatívny materiál a uviesť, keď sú dôkazy nedostatočné. Pri použití tohto vzoru označte každú dodanú referenciu, zachovajte dostupný čas jej zverejnenia a oddeľte referenčný obsah od otázky. Očakávaným výsledkom je odpoveď založená na týchto pasážach, nie predpoklad, že vyhľadávací krok už prebehol.
Odporúčania pre generovanie. Karta Baidu pre svoje zverejnené príklady modelu odporúča temperature 0.8 a top-p 0.8. Pri konfigurácii kompatibilného generovania ich vnímajte ako odporúčania výrobcu a potom výstup vyhodnoťte oproti požiadavkám úlohy. Vydania modelu PT a Paddle označujú odlišné formáty váh; pomenovaná textová edícia zostáva odlišná od vizuálno-jazykového modelu VL aj základného tréningového checkpointu Base. Praktická kontrola má overiť dôležité faktické tvrdenia, číselné detaily a úplnosť požadovaných sekcií oproti dodanému materiálu.
", "aboutText": "ERNIE 4.5 300B-A47B je veľký textový model Baidu v rodine ERNIE 4.5. Jeho návrh so zmesou expertov obsahuje celkovo 300 miliárd parametrov a pre každý token aktivuje 47 miliárd. Zverejnená konfigurácia modelu uvádza dĺžku kontextu 131 072 tokenov. Prijíma text a generuje text, čím podporuje konverzáciu, vysvetlenie alebo nový dokument založený na dodanej otázke a materiáli.\n\nHlavné vlastnosti ERNIE 4.5. Baidu opisuje spoločný tréning jazykových a vizuálnych informácií naprieč rodinou so smerovaním, ktoré umožňuje rôznym modalitám zdieľať niektoré parametre a zachovávať vyhradené spracovanie. Textový variant sa sústreďuje na všeobecné porozumenie jazyku a generovanie. Vývoj rodiny zahŕňa aj infraštruktúru efektívneho tréningu a inferencie a následný tréning s príkladmi s dohľadom a optimalizáciou podľa preferencií. Tieto návrhové voľby vysvetľujú zázemie modelu; nemenia textovú požiadavku na obrázkový vstup.\n\nKonfigurácia modelu. Zverejnený textový model má 54 vrstiev, 64 dopytových hláv pozornosti a 8 hláv kľúč/hodnota. Konfigurácia textových expertov uvádza 64 expertov, z ktorých sa naraz aktivuje 8. Pri praktickej príprave vstupu využite kontext na zachovanie pasáží potrebných pre úlohu spolu s ich nadpismi a vzťahmi. Konverzácia a vygenerovaná odpoveď zdieľajú dostupný kontextový rozpočet, preto vyberte relevantný materiál a určte dĺžku výsledku namiesto považovania celého okna za priestor odpovede.\n\nPožiadavka začína otázkou alebo pokynom. Pri analýze dokumentov dodajte označené sekcie a vyžiadajte záver so sekciou podporujúcou každý bod. Pri tvorbe textu dodajte publikum, zdrojové fakty a požadovanú štruktúru. Môžete žiadať vysvetlenie služby, zhrnutie požiadaviek alebo porovnanie dvoch interných postupov. Zahrňte pravidlá pre nejednoznačné prípady a vyžiadajte poznámku o chýbajúcich informáciách, keď zdroj neoprávňuje k jednoznačnej odpovedi.\n\nOdpovedanie podložené referenciami. Výrobca zverejňuje čínske a anglické príklady pokynov pre postup, ktorý dodáva aktuálny čas, referenčné články a otázku. Model dostáva pokyn posúdiť relevantnosť a aktuálnosť referencií, uprednostniť autoritatívny materiál a uviesť, keď sú dôkazy nedostatočné. Pri použití tohto vzoru označte každú dodanú referenciu, zachovajte dostupný čas jej zverejnenia a oddeľte referenčný obsah od otázky. Očakávaným výsledkom je odpoveď založená na týchto pasážach, nie predpoklad, že vyhľadávací krok už prebehol.\n\nOdporúčania pre generovanie. Karta Baidu pre svoje zverejnené príklady modelu odporúča temperature 0.8 a top-p 0.8. Pri konfigurácii kompatibilného generovania ich vnímajte ako odporúčania výrobcu a potom výstup vyhodnoťte oproti požiadavkám úlohy. Vydania modelu PT a Paddle označujú odlišné formáty váh; pomenovaná textová edícia zostáva odlišná od vizuálno-jazykového modelu VL aj základného tréningového checkpointu Base. Praktická kontrola má overiť dôležité faktické tvrdenia, číselné detaily a úplnosť požadovaných sekcií oproti dodanému materiálu.", "editorialOverlay": { "copy_fields": { "practical_html": "Technický príklad v angličtine
Resolve conflicting reference passages\n\nAnswer the question using these references only. R1, old handbook: Trial accounts retain exports for 7 days. R2, current handbook: Trial exports are retained for 14 days; paid-account exports for 90 days. Question: How long can a trial customer retrieve an export? Cite the relevant reference and explain why the other passage differs.A short answer with the retention period, reference identifier and a sentence describing the documented version conflict.Check that the answer uses the current trial rule and does not substitute the paid-account period.baidu/ERNIE-4.5-300B-A47BERNIE 4.5 300B-A47B je textový model Baidu so zmesou expertov, celkovo 300 miliardami parametrov, 47 miliardami aktívnych parametrov na token a zverejneným kontextom 131 072 tokenov. Podporuje porozumenie jazyku a generovanie vrátane odpovedí podložených referenčnými pasážami, ktoré dodáte.
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
ERNIE 4.5 300B-A47B je veľký textový model Baidu v rodine ERNIE 4.5. Jeho návrh so zmesou expertov obsahuje celkovo 300 miliárd parametrov a pre každý token aktivuje 47 miliárd. Zverejnená konfigurácia modelu uvádza dĺžku kontextu 131 072 tokenov. Prijíma text a generuje text, čím podporuje konverzáciu, vysvetlenie alebo nový dokument založený na dodanej otázke a materiáli.
Hlavné vlastnosti ERNIE 4.5. Baidu opisuje spoločný tréning jazykových a vizuálnych informácií naprieč rodinou so smerovaním, ktoré umožňuje rôznym modalitám zdieľať niektoré parametre a zachovávať vyhradené spracovanie. Textový variant sa sústreďuje na všeobecné porozumenie jazyku a generovanie. Vývoj rodiny zahŕňa aj infraštruktúru efektívneho tréningu a inferencie a následný tréning s príkladmi s dohľadom a optimalizáciou podľa preferencií. Tieto návrhové voľby vysvetľujú zázemie modelu; nemenia textovú požiadavku na obrázkový vstup.
Konfigurácia modelu. Zverejnený textový model má 54 vrstiev, 64 dopytových hláv pozornosti a 8 hláv kľúč/hodnota. Konfigurácia textových expertov uvádza 64 expertov, z ktorých sa naraz aktivuje 8. Pri praktickej príprave vstupu využite kontext na zachovanie pasáží potrebných pre úlohu spolu s ich nadpismi a vzťahmi. Konverzácia a vygenerovaná odpoveď zdieľajú dostupný kontextový rozpočet, preto vyberte relevantný materiál a určte dĺžku výsledku namiesto považovania celého okna za priestor odpovede.
Požiadavka začína otázkou alebo pokynom. Pri analýze dokumentov dodajte označené sekcie a vyžiadajte záver so sekciou podporujúcou každý bod. Pri tvorbe textu dodajte publikum, zdrojové fakty a požadovanú štruktúru. Môžete žiadať vysvetlenie služby, zhrnutie požiadaviek alebo porovnanie dvoch interných postupov. Zahrňte pravidlá pre nejednoznačné prípady a vyžiadajte poznámku o chýbajúcich informáciách, keď zdroj neoprávňuje k jednoznačnej odpovedi.
Odpovedanie podložené referenciami. Výrobca zverejňuje čínske a anglické príklady pokynov pre postup, ktorý dodáva aktuálny čas, referenčné články a otázku. Model dostáva pokyn posúdiť relevantnosť a aktuálnosť referencií, uprednostniť autoritatívny materiál a uviesť, keď sú dôkazy nedostatočné. Pri použití tohto vzoru označte každú dodanú referenciu, zachovajte dostupný čas jej zverejnenia a oddeľte referenčný obsah od otázky. Očakávaným výsledkom je odpoveď založená na týchto pasážach, nie predpoklad, že vyhľadávací krok už prebehol.
Odporúčania pre generovanie. Karta Baidu pre svoje zverejnené príklady modelu odporúča temperature 0.8 a top-p 0.8. Pri konfigurácii kompatibilného generovania ich vnímajte ako odporúčania výrobcu a potom výstup vyhodnoťte oproti požiadavkám úlohy. Vydania modelu PT a Paddle označujú odlišné formáty váh; pomenovaná textová edícia zostáva odlišná od vizuálno-jazykového modelu VL aj základného tréningového checkpointu Base. Praktická kontrola má overiť dôležité faktické tvrdenia, číselné detaily a úplnosť požadovaných sekcií oproti dodanému materiálu.
POST /v1/chat/completionstexttext| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity baidu/ERNIE-4.5-300B-A47B | Predvolené— |
Polemessages | Typmessage[] | PožiadavkaPovinné | Hodnoty a limity Minimálny počet položiek: 1 | Predvolené— |
Polemessages[].role | Typstring | PožiadavkaPovinné | Hodnoty a limity Príklady: system, user, assistant, tool, function Podmienky: Tieto roly sú výslovne zastúpené typmi kompatibility v zdrojovom kóde; presný súbor rolí zostáva závislý od modelu. Závisí od modelu | Predvolené— |
Polemessages[].content | Typstring|content_part[]|null | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Polemessages[].tool_calls | Typtool_call[] | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Polemessages[].tool_call_id | Typstring | PožiadavkaVoliteľné | Hodnoty a limity Platí, keď: role=tool; použite skutočne vrátené ID | Predvolené— |
Polemessages[].name | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Polemessages[].reasoning_content | Typstring | PožiadavkaVoliteľné | Hodnoty a limity Platí, keď: Posielajte späť skutočne vrátené uvažovanie, ak ho tento model používa | Predvolené— |
Polemessages[].reasoning_details | Typobject|array | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Polemax_tokens | Typinteger | PožiadavkaVoliteľné | Hodnoty a limity Minimum: 1 Závisí od modelu | Predvolené— |
Polemax_completion_tokens | Typinteger | PožiadavkaVoliteľné | Hodnoty a limity Minimum: 1 Závisí od modelu | Predvolené— |
Polestream | Typboolean | PožiadavkaVoliteľné | Hodnoty a limity | Predvolenéfalse |
Polestream_options.include_usage | Typboolean | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poletemperature | Typnumber | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poletop_p | Typnumber | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Polestop | Typstring|string[] | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poletools | Typfunction_tool[] | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poletools[].type | Typstring | PožiadavkaVoliteľné | Hodnoty a limity function Závisí od modelu | Predvolené— |
Poletools[].function.name | Typstring | PožiadavkaPovinné | Hodnoty a limity Platí, keď: poskytnutý nástroj typu funkcia | Predvolené— |
Poletools[].function.description | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poletools[].function.parameters | TypJSON_schema | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poletool_choice | Typstring|object | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poleparallel_tool_calls | Typboolean | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poleresponse_format | Typobject | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Polereasoning_effort | Typstring | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Polereasoning | Typobject | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poleservice_tier | Typstring | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poleinstructions | Typstring | PožiadavkaVoliteľné | Hodnoty a limity Pole kompatibility | Predvolené— |
Polefunctions | Typfunction[] | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Polefunction_call | Typstring|object | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poleprompt_cache_options | Typobject | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Polemodalities | Typstring[] | PožiadavkaVoliteľné | Hodnoty a limity text | Predvolené— |
Poleprovider | Typobject | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: provider.options sa na tejto textovej trase Ultra odmieta | Predvolené— |
Polecache_control.ttl | Typstring | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Hodnota 1h sa v skutočne používaných poliach cache promptov odmieta | Predvolené— |
Text · Text UTF8
messages[].content
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, messages |
Parametermaterial_types | Špecifikáciatext |
Parametermessages | Špecifikáciapole správ so štruktúrou role/content |
Parameterfile_material | Špecifikáciaskutočný dokument UTF-8 vložený ako doslovný text; ID súboru sa neodvodzuje |
Parameteroptional_controls | Špecifikáciastream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Špecifikáciazávisí od modelu; používateľské nástroje typu funkcia sa líšia od nástrojov prevádzkovaných službou |
Parameteroutput_modalities | Špecifikáciatext |
Parameterhosted_operations | Špecifikáciafalse |
Parametermultimodal_input_binding | Špecifikácianull |
Životný cyklus: synchronous_or_streamed
Pošlite presné ID modelu spolu s messages.
Dĺžka kontextu nie je horná hranica výstupu.
Textový súbor môže poskytnúť doslovný text; obrazové a zvukové vstupy a vstupy so súborovými objektmi potrebujú presné naviazanie.
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
| Konfigurácia | Sadzobník | Poplatok |
|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Poplatok Vstup · Vstupné tokeny $0.0006 / 1K tokenov Výstup · Výstupné tokeny $0.00228 / 1K tokenov Vstup · Čítanie cache $0 / 1K tokenov Vstup · Zápis do cache $0 / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "baidu/ERNIE-4.5-300B-A47B", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='baidu/ERNIE-4.5-300B-A47B',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='baidu/ERNIE-4.5-300B-A47B',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson alebo SSE
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Zachovajte každý variant odpovede a jeho obsah, volania nástrojov a uvažovanie. V SSE zostavujte čiastkové zmeny podľa indexu variantu/nástroja a zachovajte konečný dôvod ukončenia aj údaje o spotrebe.
Zachovajte ID požiadaviek/odpovedí aj hlavičky. Všeobecná URL na načítanie textovej úlohy nie je poskytnutá.
| Pole | Typ |
|---|---|
Polechoices[].index | Typinteger |
Polechoices[].message.content | Typstring|null |
Polechoices[].message.tool_calls | Typtool_call[] |
Polechoices[].message.reasoning_content | Typstring |
Polechoices[].message.reasoning_details | Typobject|array |
Polechoices[].finish_reason | Typstring|null |
Poleusage | Typobject |
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné polia, reprezentácia materiálu alebo hodnota parametra | Ďalší krokPred novou požiadavkou na vytvorenie opravte uvedené polia. |
Ailoot Ultra baidu/ERNIE-4.5-300B-A47B
Použite cesty metód uvedené vyššie.
baidu/ERNIE-4.5-300B-A47BERNIE 4.5 300B-A47B je textový model Baidu so zmesou expertov, celkovo 300 miliardami parametrov, 47 miliardami aktívnych parametrov na token a zverejneným kontextom 131 072 tokenov. Podporuje porozumenie jazyku a generovanie vrátane odpovedí podložených referenčnými pasážami, ktoré dodáte.
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
ERNIE 4.5 300B-A47B je veľký textový model Baidu v rodine ERNIE 4.5. Jeho návrh so zmesou expertov obsahuje celkovo 300 miliárd parametrov a pre každý token aktivuje 47 miliárd. Zverejnená konfigurácia modelu uvádza dĺžku kontextu 131 072 tokenov. Prijíma text a generuje text, čím podporuje konverzáciu, vysvetlenie alebo nový dokument založený na dodanej otázke a materiáli.
Hlavné vlastnosti ERNIE 4.5. Baidu opisuje spoločný tréning jazykových a vizuálnych informácií naprieč rodinou so smerovaním, ktoré umožňuje rôznym modalitám zdieľať niektoré parametre a zachovávať vyhradené spracovanie. Textový variant sa sústreďuje na všeobecné porozumenie jazyku a generovanie. Vývoj rodiny zahŕňa aj infraštruktúru efektívneho tréningu a inferencie a následný tréning s príkladmi s dohľadom a optimalizáciou podľa preferencií. Tieto návrhové voľby vysvetľujú zázemie modelu; nemenia textovú požiadavku na obrázkový vstup.
Konfigurácia modelu. Zverejnený textový model má 54 vrstiev, 64 dopytových hláv pozornosti a 8 hláv kľúč/hodnota. Konfigurácia textových expertov uvádza 64 expertov, z ktorých sa naraz aktivuje 8. Pri praktickej príprave vstupu využite kontext na zachovanie pasáží potrebných pre úlohu spolu s ich nadpismi a vzťahmi. Konverzácia a vygenerovaná odpoveď zdieľajú dostupný kontextový rozpočet, preto vyberte relevantný materiál a určte dĺžku výsledku namiesto považovania celého okna za priestor odpovede.
Požiadavka začína otázkou alebo pokynom. Pri analýze dokumentov dodajte označené sekcie a vyžiadajte záver so sekciou podporujúcou každý bod. Pri tvorbe textu dodajte publikum, zdrojové fakty a požadovanú štruktúru. Môžete žiadať vysvetlenie služby, zhrnutie požiadaviek alebo porovnanie dvoch interných postupov. Zahrňte pravidlá pre nejednoznačné prípady a vyžiadajte poznámku o chýbajúcich informáciách, keď zdroj neoprávňuje k jednoznačnej odpovedi.
Odpovedanie podložené referenciami. Výrobca zverejňuje čínske a anglické príklady pokynov pre postup, ktorý dodáva aktuálny čas, referenčné články a otázku. Model dostáva pokyn posúdiť relevantnosť a aktuálnosť referencií, uprednostniť autoritatívny materiál a uviesť, keď sú dôkazy nedostatočné. Pri použití tohto vzoru označte každú dodanú referenciu, zachovajte dostupný čas jej zverejnenia a oddeľte referenčný obsah od otázky. Očakávaným výsledkom je odpoveď založená na týchto pasážach, nie predpoklad, že vyhľadávací krok už prebehol.
Odporúčania pre generovanie. Karta Baidu pre svoje zverejnené príklady modelu odporúča temperature 0.8 a top-p 0.8. Pri konfigurácii kompatibilného generovania ich vnímajte ako odporúčania výrobcu a potom výstup vyhodnoťte oproti požiadavkám úlohy. Vydania modelu PT a Paddle označujú odlišné formáty váh; pomenovaná textová edícia zostáva odlišná od vizuálno-jazykového modelu VL aj základného tréningového checkpointu Base. Praktická kontrola má overiť dôležité faktické tvrdenia, číselné detaily a úplnosť požadovaných sekcií oproti dodanému materiálu.
POST /v1/messagestextjson, sse| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity baidu/ERNIE-4.5-300B-A47B | Predvolené— |
Polemessages | Typmessage[] | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polemessages[].role | Typstring | PožiadavkaPovinné | Hodnoty a limity user, assistant | Predvolené— |
Polemessages[].content | Typstring | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polemax_tokens | Typinteger | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polestream | Typboolean | PožiadavkaVoliteľné | Hodnoty a limity | Predvolenéfalse |
Text · Text UTF-8
reťazec messages[].content
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, messages, max_tokens |
Parameteroptional_controls | Špecifikáciastream |
Parametermaterial_types | Špecifikáciatext |
Parametertext_file_material | ŠpecifikáciaPrečítajte skutočný dokument UTF-8 a vložte jeho text do uvedeného vstupného reťazca alebo reťazca obsahu správy. |
Životný cyklus: synchronous_or_streamed
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
| Konfigurácia | Sadzobník | Poplatok |
|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Poplatok Vstup · Vstupné tokeny $0.0006 / 1K tokenov Výstup · Výstupné tokeny $0.00228 / 1K tokenov Vstup · Čítanie cache $0 / 1K tokenov Vstup · Zápis do cache $0 / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
{\n "model": "baidu/ERNIE-4.5-300B-A47B",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'baidu/ERNIE-4.5-300B-A47B', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'baidu/ERNIE-4.5-300B-A47B', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON alebo SSE
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Zachovajte všetky bloky obsahu, podpisy uvažovania a skutočné ID volaní nástrojov. Zostavte všetky čiastkové zmeny blokov SSE; prvý textový blok nie je celý výstup.
Zachovajte ID požiadaviek/odpovedí aj hlavičky. Všeobecná URL na načítanie textovej úlohy nie je poskytnutá.
| Pole | Typ |
|---|---|
Poleid | Typstring |
Polemodel | Typstring |
Polecontent[] | Typtext|thinking|tool_use|other content block |
Polestop_reason | Typstring|null |
Poleusage | Typobject |
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné polia, reprezentácia materiálu alebo hodnota parametra | Ďalší krokPred novou požiadavkou na vytvorenie opravte uvedené polia. |
Ailoot Ultra baidu/ERNIE-4.5-300B-A47B
Použite cesty metód uvedené vyššie.
Technický príklad v angličtine
Resolve conflicting reference passages\n\nAnswer the question using these references only. R1, old handbook: Trial accounts retain exports for 7 days. R2, current handbook: Trial exports are retained for 14 days; paid-account exports for 90 days. Question: How long can a trial customer retrieve an export? Cite the relevant reference and explain why the other passage differs.A short answer with the retention period, reference identifier and a sentence describing the documented version conflict.Check that the answer uses the current trial rule and does not substitute the paid-account period.