ERNIE 4.5 300B-A47B is het grote tekstmodel van Baidu binnen de ERNIE 4.5-familie. Het mixture-of-experts-ontwerp bevat in totaal 300 miljard parameters en activeert er 47 miljard voor elk token. De gepubliceerde modelconfiguratie geeft een contextlengte van 131.072 tokens. Het ontvangt tekst en genereert tekst, ter ondersteuning van een gesprek, een uitleg of een nieuw document op basis van de aangeleverde vraag en het materiaal.
Hoofdkenmerken van ERNIE 4.5. Baidu beschrijft gezamenlijke training van taal- en visuele informatie binnen de familie, met routing waarmee verschillende modaliteiten bepaalde parameters kunnen delen en tegelijk eigen verwerking behouden. De tekstvariant richt zich op algemeen taalbegrip en taalgeneratie. De ontwikkeling van de familie omvat ook infrastructuur voor efficiënte training en inferentie en natraining met voorbeelden onder supervisie en optimalisatie op basis van voorkeuren. Deze ontwerpkeuzes verklaren de achtergrond van het model; ze maken van een tekstaanvraag geen beeldinvoer.
Modelconfiguratie. Het gepubliceerde tekstmodel heeft 54 lagen, 64 query-attention-heads en 8 key/value-heads. De tekstexpertconfiguratie vermeldt 64 experts, waarvan er telkens 8 worden geactiveerd. Gebruik bij praktische invoervoorbereiding de context om de passages te behouden die voor de taak nodig zijn, samen met hun koppen en onderlinge verbanden. Het gesprek en het gegenereerde antwoord delen het beschikbare contextbudget, dus selecteer relevant materiaal en geef de lengte van het resultaat op in plaats van het volledige venster als antwoordruimte te beschouwen.
Een aanvraag begint met een vraag of instructie. Geef voor documentanalyse gelabelde secties mee en vraag om een conclusie met bij elk punt de ondersteunende sectie. Geef voor het opstellen van tekst de doelgroep, bronfeiten en vereiste structuur mee. Je kunt vragen om een uitleg van een dienst, een samenvatting van vereisten of een vergelijking van twee interne procedures. Voeg de regels toe die voor dubbelzinnige gevallen gelden en vraag om een vermelding van ontbrekende informatie wanneer de bron geen stellig antwoord rechtvaardigt.
Antwoorden op basis van referenties. De fabrikant publiceert Chinese en Engelse promptvoorbeelden voor een workflow die het huidige tijdstip, referentieartikelen en een vraag aanlevert. Het model krijgt de instructie te beoordelen of de referenties relevant en actueel zijn, voorrang te geven aan gezaghebbend materiaal en aan te geven wanneer het bewijs onvoldoende is. Label elke aangeleverde referentie om dat patroon toe te passen, behoud de publicatiedatum waar beschikbaar en scheid de referentie-inhoud van de vraag. Het verwachte resultaat is een antwoord op basis van die passages, niet de aanname dat er al een retrievalstap is uitgevoerd.
Generatierichtlijnen. De modelkaart van Baidu beveelt temperature 0,8 en top-p 0,8 aan voor de gepubliceerde modelvoorbeelden. Beschouw dit als richtlijnen van de fabrikant bij het configureren van een compatibele generatieopstelling en beoordeel de uitvoer vervolgens volgens de taakvereisten. De PT- en Paddle-versies van het model duiden verschillende gewichtsformaten aan; de benoemde teksteditie blijft onderscheiden van het VL vision-language-model en van een Base-trainingscheckpoint. Een praktische beoordeling controleert belangrijke feitelijke uitspraken, numerieke details en de volledigheid van de gevraagde secties aan de hand van het aangeleverde materiaal.
", "aboutText": "ERNIE 4.5 300B-A47B is het grote tekstmodel van Baidu binnen de ERNIE 4.5-familie. Het mixture-of-experts-ontwerp bevat in totaal 300 miljard parameters en activeert er 47 miljard voor elk token. De gepubliceerde modelconfiguratie geeft een contextlengte van 131.072 tokens. Het ontvangt tekst en genereert tekst, ter ondersteuning van een gesprek, een uitleg of een nieuw document op basis van de aangeleverde vraag en het materiaal.\n\nHoofdkenmerken van ERNIE 4.5. Baidu beschrijft gezamenlijke training van taal- en visuele informatie binnen de familie, met routing waarmee verschillende modaliteiten bepaalde parameters kunnen delen en tegelijk eigen verwerking behouden. De tekstvariant richt zich op algemeen taalbegrip en taalgeneratie. De ontwikkeling van de familie omvat ook infrastructuur voor efficiënte training en inferentie en natraining met voorbeelden onder supervisie en optimalisatie op basis van voorkeuren. Deze ontwerpkeuzes verklaren de achtergrond van het model; ze maken van een tekstaanvraag geen beeldinvoer.\n\nModelconfiguratie. Het gepubliceerde tekstmodel heeft 54 lagen, 64 query-attention-heads en 8 key/value-heads. De tekstexpertconfiguratie vermeldt 64 experts, waarvan er telkens 8 worden geactiveerd. Gebruik bij praktische invoervoorbereiding de context om de passages te behouden die voor de taak nodig zijn, samen met hun koppen en onderlinge verbanden. Het gesprek en het gegenereerde antwoord delen het beschikbare contextbudget, dus selecteer relevant materiaal en geef de lengte van het resultaat op in plaats van het volledige venster als antwoordruimte te beschouwen.\n\nEen aanvraag begint met een vraag of instructie. Geef voor documentanalyse gelabelde secties mee en vraag om een conclusie met bij elk punt de ondersteunende sectie. Geef voor het opstellen van tekst de doelgroep, bronfeiten en vereiste structuur mee. Je kunt vragen om een uitleg van een dienst, een samenvatting van vereisten of een vergelijking van twee interne procedures. Voeg de regels toe die voor dubbelzinnige gevallen gelden en vraag om een vermelding van ontbrekende informatie wanneer de bron geen stellig antwoord rechtvaardigt.\n\nAntwoorden op basis van referenties. De fabrikant publiceert Chinese en Engelse promptvoorbeelden voor een workflow die het huidige tijdstip, referentieartikelen en een vraag aanlevert. Het model krijgt de instructie te beoordelen of de referenties relevant en actueel zijn, voorrang te geven aan gezaghebbend materiaal en aan te geven wanneer het bewijs onvoldoende is. Label elke aangeleverde referentie om dat patroon toe te passen, behoud de publicatiedatum waar beschikbaar en scheid de referentie-inhoud van de vraag. Het verwachte resultaat is een antwoord op basis van die passages, niet de aanname dat er al een retrievalstap is uitgevoerd.\n\nGeneratierichtlijnen. De modelkaart van Baidu beveelt temperature 0,8 en top-p 0,8 aan voor de gepubliceerde modelvoorbeelden. Beschouw dit als richtlijnen van de fabrikant bij het configureren van een compatibele generatieopstelling en beoordeel de uitvoer vervolgens volgens de taakvereisten. De PT- en Paddle-versies van het model duiden verschillende gewichtsformaten aan; de benoemde teksteditie blijft onderscheiden van het VL vision-language-model en van een Base-trainingscheckpoint. Een praktische beoordeling controleert belangrijke feitelijke uitspraken, numerieke details en de volledigheid van de gevraagde secties aan de hand van het aangeleverde materiaal.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisch voorbeeld in het Engels
Resolve conflicting reference passages\n\nAnswer the question using these references only. R1, old handbook: Trial accounts retain exports for 7 days. R2, current handbook: Trial exports are retained for 14 days; paid-account exports for 90 days. Question: How long can a trial customer retrieve an export? Cite the relevant reference and explain why the other passage differs.A short answer with the retention period, reference identifier and a sentence describing the documented version conflict.Check that the answer uses the current trial rule and does not substitute the paid-account period.baidu/ERNIE-4.5-300B-A47BERNIE 4.5 300B-A47B is het tekstuele mixture-of-experts-model van Baidu met in totaal 300 miljard parameters, 47 miljard actieve parameters per token en een gepubliceerde context van 131.072 tokens. Het ondersteunt taalbegrip en taalgeneratie, waaronder antwoorden op basis van referentiepassages die je aanlevert.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
ERNIE 4.5 300B-A47B is het grote tekstmodel van Baidu binnen de ERNIE 4.5-familie. Het mixture-of-experts-ontwerp bevat in totaal 300 miljard parameters en activeert er 47 miljard voor elk token. De gepubliceerde modelconfiguratie geeft een contextlengte van 131.072 tokens. Het ontvangt tekst en genereert tekst, ter ondersteuning van een gesprek, een uitleg of een nieuw document op basis van de aangeleverde vraag en het materiaal.
Hoofdkenmerken van ERNIE 4.5. Baidu beschrijft gezamenlijke training van taal- en visuele informatie binnen de familie, met routing waarmee verschillende modaliteiten bepaalde parameters kunnen delen en tegelijk eigen verwerking behouden. De tekstvariant richt zich op algemeen taalbegrip en taalgeneratie. De ontwikkeling van de familie omvat ook infrastructuur voor efficiënte training en inferentie en natraining met voorbeelden onder supervisie en optimalisatie op basis van voorkeuren. Deze ontwerpkeuzes verklaren de achtergrond van het model; ze maken van een tekstaanvraag geen beeldinvoer.
Modelconfiguratie. Het gepubliceerde tekstmodel heeft 54 lagen, 64 query-attention-heads en 8 key/value-heads. De tekstexpertconfiguratie vermeldt 64 experts, waarvan er telkens 8 worden geactiveerd. Gebruik bij praktische invoervoorbereiding de context om de passages te behouden die voor de taak nodig zijn, samen met hun koppen en onderlinge verbanden. Het gesprek en het gegenereerde antwoord delen het beschikbare contextbudget, dus selecteer relevant materiaal en geef de lengte van het resultaat op in plaats van het volledige venster als antwoordruimte te beschouwen.
Een aanvraag begint met een vraag of instructie. Geef voor documentanalyse gelabelde secties mee en vraag om een conclusie met bij elk punt de ondersteunende sectie. Geef voor het opstellen van tekst de doelgroep, bronfeiten en vereiste structuur mee. Je kunt vragen om een uitleg van een dienst, een samenvatting van vereisten of een vergelijking van twee interne procedures. Voeg de regels toe die voor dubbelzinnige gevallen gelden en vraag om een vermelding van ontbrekende informatie wanneer de bron geen stellig antwoord rechtvaardigt.
Antwoorden op basis van referenties. De fabrikant publiceert Chinese en Engelse promptvoorbeelden voor een workflow die het huidige tijdstip, referentieartikelen en een vraag aanlevert. Het model krijgt de instructie te beoordelen of de referenties relevant en actueel zijn, voorrang te geven aan gezaghebbend materiaal en aan te geven wanneer het bewijs onvoldoende is. Label elke aangeleverde referentie om dat patroon toe te passen, behoud de publicatiedatum waar beschikbaar en scheid de referentie-inhoud van de vraag. Het verwachte resultaat is een antwoord op basis van die passages, niet de aanname dat er al een retrievalstap is uitgevoerd.
Generatierichtlijnen. De modelkaart van Baidu beveelt temperature 0,8 en top-p 0,8 aan voor de gepubliceerde modelvoorbeelden. Beschouw dit als richtlijnen van de fabrikant bij het configureren van een compatibele generatieopstelling en beoordeel de uitvoer vervolgens volgens de taakvereisten. De PT- en Paddle-versies van het model duiden verschillende gewichtsformaten aan; de benoemde teksteditie blijft onderscheiden van het VL vision-language-model en van een Base-trainingscheckpoint. Een praktische beoordeling controleert belangrijke feitelijke uitspraken, numerieke details en de volledigheid van de gevraagde secties aan de hand van het aangeleverde materiaal.
POST /v1/chat/completionstexttext| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten baidu/ERNIE-4.5-300B-A47B | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten Voorbeelden: system, user, assistant, tool, function Voorwaarden: Deze rollen worden expliciet weergegeven door compatibiliteitstypen in de broncode; de exacte rollenverzameling van het model blijft modelspecifiek. Afhankelijk van het model | Standaard— |
Veldmessages[].content | Typestring|content_part[]|null | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_calls | Typetool_call[] | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_call_id | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: role=tool; gebruik het werkelijk teruggegeven ID | Standaard— |
Veldmessages[].name | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].reasoning_content | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: Stuur de werkelijk teruggegeven redeneringen terug wanneer dit model ze gebruikt | Standaard— |
Veldmessages[].reasoning_details | Typeobject|array | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmax_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldmax_completion_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Veldstream_options.include_usage | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtemperature | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtop_p | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldstop | Typestring|string[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools | Typefunction_tool[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools[].type | Typestring | VereisteOptioneel | Waarden en limieten function Afhankelijk van het model | Standaard— |
Veldtools[].function.name | Typestring | VereisteVereist | Waarden en limieten Geldt wanneer: functietool opgegeven | Standaard— |
Veldtools[].function.description | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtools[].function.parameters | TypeJSON_schema | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtool_choice | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldparallel_tool_calls | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldresponse_format | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning_effort | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldservice_tier | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldinstructions | Typestring | VereisteOptioneel | Waarden en limieten Compatibiliteitsveld | Standaard— |
Veldfunctions | Typefunction[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldfunction_call | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldprompt_cache_options | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmodalities | Typestring[] | VereisteOptioneel | Waarden en limieten text | Standaard— |
Veldprovider | Typeobject | VereisteOptioneel | Waarden en limieten Voorwaarden: provider.options wordt op deze Ultra-tekstroute geweigerd | Standaard— |
Veldcache_control.ttl | Typestring | VereisteOptioneel | Waarden en limieten Voorwaarden: 1h wordt op de daadwerkelijke locaties voor promptcaching geweigerd | Standaard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages |
Parametermaterial_types | Contracttext |
Parametermessages | Contractberichtenarray met de structuur role/content |
Parameterfile_material | Contractwerkelijk UTF-8-document ingevoegd als letterlijke tekst; er wordt geen bestands-ID afgeleid |
Parameteroptional_controls | Contractstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Contractmodelspecifiek; functietools van de gebruiker verschillen van gehoste tools |
Parameteroutput_modalities | Contracttext |
Parameterhosted_operations | Contractfalse |
Parametermultimodal_input_binding | Contractnull |
Levenscyclus: synchronous_or_streamed
Stuur het exacte model-ID mee met messages.
Contextlengte is geen uitvoerlimiet.
Een tekstbestand kan letterlijke tekst aanleveren; beeld-, audio- en bestandsobjectinvoer vereisen een exacte koppeling.
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.0006 / 1K tokens Uitvoer · Uitvoertokens $0.00228 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "baidu/ERNIE-4.5-300B-A47B", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='baidu/ERNIE-4.5-300B-A47B',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='baidu/ERNIE-4.5-300B-A47B',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar elke keuze en de bijbehorende inhoud, toolaanroepen en redeneringen. Voeg in SSE delta’s samen per keuze-/toolindex en bewaar de uiteindelijke reden van beëindiging en de verbruiksgegevens.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldchoices[].index | Typeinteger |
Veldchoices[].message.content | Typestring|null |
Veldchoices[].message.tool_calls | Typetool_call[] |
Veldchoices[].message.reasoning_content | Typestring |
Veldchoices[].message.reasoning_details | Typeobject|array |
Veldchoices[].finish_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra baidu/ERNIE-4.5-300B-A47B
Gebruik de hierboven getoonde methodepaden.
baidu/ERNIE-4.5-300B-A47BERNIE 4.5 300B-A47B is het tekstuele mixture-of-experts-model van Baidu met in totaal 300 miljard parameters, 47 miljard actieve parameters per token en een gepubliceerde context van 131.072 tokens. Het ondersteunt taalbegrip en taalgeneratie, waaronder antwoorden op basis van referentiepassages die je aanlevert.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
ERNIE 4.5 300B-A47B is het grote tekstmodel van Baidu binnen de ERNIE 4.5-familie. Het mixture-of-experts-ontwerp bevat in totaal 300 miljard parameters en activeert er 47 miljard voor elk token. De gepubliceerde modelconfiguratie geeft een contextlengte van 131.072 tokens. Het ontvangt tekst en genereert tekst, ter ondersteuning van een gesprek, een uitleg of een nieuw document op basis van de aangeleverde vraag en het materiaal.
Hoofdkenmerken van ERNIE 4.5. Baidu beschrijft gezamenlijke training van taal- en visuele informatie binnen de familie, met routing waarmee verschillende modaliteiten bepaalde parameters kunnen delen en tegelijk eigen verwerking behouden. De tekstvariant richt zich op algemeen taalbegrip en taalgeneratie. De ontwikkeling van de familie omvat ook infrastructuur voor efficiënte training en inferentie en natraining met voorbeelden onder supervisie en optimalisatie op basis van voorkeuren. Deze ontwerpkeuzes verklaren de achtergrond van het model; ze maken van een tekstaanvraag geen beeldinvoer.
Modelconfiguratie. Het gepubliceerde tekstmodel heeft 54 lagen, 64 query-attention-heads en 8 key/value-heads. De tekstexpertconfiguratie vermeldt 64 experts, waarvan er telkens 8 worden geactiveerd. Gebruik bij praktische invoervoorbereiding de context om de passages te behouden die voor de taak nodig zijn, samen met hun koppen en onderlinge verbanden. Het gesprek en het gegenereerde antwoord delen het beschikbare contextbudget, dus selecteer relevant materiaal en geef de lengte van het resultaat op in plaats van het volledige venster als antwoordruimte te beschouwen.
Een aanvraag begint met een vraag of instructie. Geef voor documentanalyse gelabelde secties mee en vraag om een conclusie met bij elk punt de ondersteunende sectie. Geef voor het opstellen van tekst de doelgroep, bronfeiten en vereiste structuur mee. Je kunt vragen om een uitleg van een dienst, een samenvatting van vereisten of een vergelijking van twee interne procedures. Voeg de regels toe die voor dubbelzinnige gevallen gelden en vraag om een vermelding van ontbrekende informatie wanneer de bron geen stellig antwoord rechtvaardigt.
Antwoorden op basis van referenties. De fabrikant publiceert Chinese en Engelse promptvoorbeelden voor een workflow die het huidige tijdstip, referentieartikelen en een vraag aanlevert. Het model krijgt de instructie te beoordelen of de referenties relevant en actueel zijn, voorrang te geven aan gezaghebbend materiaal en aan te geven wanneer het bewijs onvoldoende is. Label elke aangeleverde referentie om dat patroon toe te passen, behoud de publicatiedatum waar beschikbaar en scheid de referentie-inhoud van de vraag. Het verwachte resultaat is een antwoord op basis van die passages, niet de aanname dat er al een retrievalstap is uitgevoerd.
Generatierichtlijnen. De modelkaart van Baidu beveelt temperature 0,8 en top-p 0,8 aan voor de gepubliceerde modelvoorbeelden. Beschouw dit als richtlijnen van de fabrikant bij het configureren van een compatibele generatieopstelling en beoordeel de uitvoer vervolgens volgens de taakvereisten. De PT- en Paddle-versies van het model duiden verschillende gewichtsformaten aan; de benoemde teksteditie blijft onderscheiden van het VL vision-language-model en van een Base-trainingscheckpoint. Een praktische beoordeling controleert belangrijke feitelijke uitspraken, numerieke details en de volledigheid van de gevraagde secties aan de hand van het aangeleverde materiaal.
POST /v1/messagestextjson, sse| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten baidu/ERNIE-4.5-300B-A47B | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten user, assistant | Standaard— |
Veldmessages[].content | Typestring | VereisteVereist | Waarden en limieten | Standaard— |
Veldmax_tokens | Typeinteger | VereisteVereist | Waarden en limieten | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Tekst · UTF-8-tekst
messages[].content als tekenreeks
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages, max_tokens |
Parameteroptional_controls | Contractstream |
Parametermaterial_types | Contracttext |
Parametertext_file_material | ContractLees het werkelijke UTF-8-document en plaats de tekst ervan in de aangegeven invoer of in de inhoudstekenreeks van een bericht. |
Levenscyclus: synchronous_or_streamed
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.0006 / 1K tokens Uitvoer · Uitvoertokens $0.00228 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
{\n "model": "baidu/ERNIE-4.5-300B-A47B",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'baidu/ERNIE-4.5-300B-A47B', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'baidu/ERNIE-4.5-300B-A47B', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar alle inhoudsblokken, handtekeningen van redeneringen en werkelijke toolgebruik-ID’s. Voeg alle SSE-blokdelta’s samen; het eerste tekstblok is niet de volledige uitvoer.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldid | Typestring |
Veldmodel | Typestring |
Veldcontent[] | Typetext|thinking|tool_use|other content block |
Veldstop_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra baidu/ERNIE-4.5-300B-A47B
Gebruik de hierboven getoonde methodepaden.
Technisch voorbeeld in het Engels
Resolve conflicting reference passages\n\nAnswer the question using these references only. R1, old handbook: Trial accounts retain exports for 7 days. R2, current handbook: Trial exports are retained for 14 days; paid-account exports for 90 days. Question: How long can a trial customer retrieve an export? Cite the relevant reference and explain why the other passage differs.A short answer with the retention period, reference identifier and a sentence describing the documented version conflict.Check that the answer uses the current trial rule and does not substitute the paid-account period.