Hunyuan A13B Instruct er Tencents instruksjonstilpassede mixture-of-experts-språkmodell for generelle tekst- og resonneringsoppgaver. Produsenten angir totalt 80 milliarder parametere, hvorav 13B er aktive. Grouped-query attention og sparsom aktivering er en del av effektivitetsdesignet. Den forblir atskilt fra den forhåndstrente basismodellen og separat publiserte, kvantiserte instruct-artefakter.
Hybrid tenking er en uttrykkelig egenskap ved denne utgaven. Langsom tenking er standard og produserer et resonneringstrinn før det endelige svaret. Rask tenking hopper over dette trinnet og returnerer svaret direkte. Produsentens konvensjoner for prompter og samtalemaler velger mellom disse oppførslene; de definerer ikke en innsatsstige med low, medium, high og xhigh.
Produsenten beskriver en full kontekst på 256K, eller 262 144 tokener, mens standardkonfigurasjonen begrenser konteksten til 32K for å redusere minnebelastningen. Å aktivere full kontekst krever riktig modell- og serveringskonfigurasjon. Produsentens anbefalte utrulling for lang kontekst bruker fire enheter på 96 GB med bfloat16-modell og -cache, og merker seg at en FP8-cache kan påvirke genereringskvaliteten. Dette er produsentens betingelser for utrulling, ikke et løfte om en bestemt modellrute.
For resonnering over lange dokumenter gir du det relevante materialet og definerer spørsmålet, begrensningene og rapporten som skal returneres. Be om støttende tekstutdrag, og angi hvordan manglende belegg skal håndteres. For kode eller matematikk tar du med implementasjonen eller premissene og ber om det foreslåtte svaret med trinnene eller kontrollene som trengs for å vurdere det.
Modellen er også rettet mot agentoppgaver og funksjonskall. Produsenten publiserer en egen parser og et agenteksempel for modellens genererte verktøykall. Applikasjonen leverer verktøydefinisjonene, utfører et foreslått kall og returnerer resultatet. Hold kallet og observasjonen samlet, slik at neste samtalerunde kan fortsette fra det som skjedde.
Velg tenkemåten ut fra oppgaven: et direkte svar kan dekke en avgrenset instruksjon, mens et resonneringstrinn kan støtte en analyse med avhengige trinn. Angi ønsket sluttleveranse, og behold de aktive begrensningene gjennom oppfølginger. Gjennomgå teksten, koden eller det foreslåtte kallet opp mot det opprinnelige oppdraget og belegget som den omkringliggende applikasjonen har levert.
", "aboutText": "Hunyuan A13B Instruct er Tencents instruksjonstilpassede mixture-of-experts-språkmodell for generelle tekst- og resonneringsoppgaver. Produsenten angir totalt 80 milliarder parametere, hvorav 13B er aktive. Grouped-query attention og sparsom aktivering er en del av effektivitetsdesignet. Den forblir atskilt fra den forhåndstrente basismodellen og separat publiserte, kvantiserte instruct-artefakter.\n\nHybrid tenking er en uttrykkelig egenskap ved denne utgaven. Langsom tenking er standard og produserer et resonneringstrinn før det endelige svaret. Rask tenking hopper over dette trinnet og returnerer svaret direkte. Produsentens konvensjoner for prompter og samtalemaler velger mellom disse oppførslene; de definerer ikke en innsatsstige med low, medium, high og xhigh.\n\nProdusenten beskriver en full kontekst på 256K, eller 262 144 tokener, mens standardkonfigurasjonen begrenser konteksten til 32K for å redusere minnebelastningen. Å aktivere full kontekst krever riktig modell- og serveringskonfigurasjon. Produsentens anbefalte utrulling for lang kontekst bruker fire enheter på 96 GB med bfloat16-modell og -cache, og merker seg at en FP8-cache kan påvirke genereringskvaliteten. Dette er produsentens betingelser for utrulling, ikke et løfte om en bestemt modellrute.\n\nFor resonnering over lange dokumenter gir du det relevante materialet og definerer spørsmålet, begrensningene og rapporten som skal returneres. Be om støttende tekstutdrag, og angi hvordan manglende belegg skal håndteres. For kode eller matematikk tar du med implementasjonen eller premissene og ber om det foreslåtte svaret med trinnene eller kontrollene som trengs for å vurdere det.\n\nModellen er også rettet mot agentoppgaver og funksjonskall. Produsenten publiserer en egen parser og et agenteksempel for modellens genererte verktøykall. Applikasjonen leverer verktøydefinisjonene, utfører et foreslått kall og returnerer resultatet. Hold kallet og observasjonen samlet, slik at neste samtalerunde kan fortsette fra det som skjedde.\n\nVelg tenkemåten ut fra oppgaven: et direkte svar kan dekke en avgrenset instruksjon, mens et resonneringstrinn kan støtte en analyse med avhengige trinn. Angi ønsket sluttleveranse, og behold de aktive begrensningene gjennom oppfølginger. Gjennomgå teksten, koden eller det foreslåtte kallet opp mot det opprinnelige oppdraget og belegget som den omkringliggende applikasjonen har levert.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Check a routing rule against cases\n\nA workshop rule says: route wooden items to bench W; route metal items to bench M; mixed-material items require supervisor review. A draft sends anything containing wood to W. Evaluate cases 'wood only', 'metal only' and 'wood plus metal'. Return the first rule conflict and a corrected decision sequence without adding new material categories.A case analysis and corrected routing sequence preserving the mixed-material exception.The wood-plus-metal item must go to supervisor review rather than directly to W.tencent/hunyuan-a13b-instructTencents Hunyuan A13B Instruct er en MoE-tekstmodell med 80B parametere, 13B aktive parametere og hybrid tenking. Den støtter en utvidet kontekst på 256K og verktøyorienterte oppgaver, med langsom tenking som standard og et valg for direkte svar.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Hunyuan A13B Instruct er Tencents instruksjonstilpassede mixture-of-experts-språkmodell for generelle tekst- og resonneringsoppgaver. Produsenten angir totalt 80 milliarder parametere, hvorav 13B er aktive. Grouped-query attention og sparsom aktivering er en del av effektivitetsdesignet. Den forblir atskilt fra den forhåndstrente basismodellen og separat publiserte, kvantiserte instruct-artefakter.
Hybrid tenking er en uttrykkelig egenskap ved denne utgaven. Langsom tenking er standard og produserer et resonneringstrinn før det endelige svaret. Rask tenking hopper over dette trinnet og returnerer svaret direkte. Produsentens konvensjoner for prompter og samtalemaler velger mellom disse oppførslene; de definerer ikke en innsatsstige med low, medium, high og xhigh.
Produsenten beskriver en full kontekst på 256K, eller 262 144 tokener, mens standardkonfigurasjonen begrenser konteksten til 32K for å redusere minnebelastningen. Å aktivere full kontekst krever riktig modell- og serveringskonfigurasjon. Produsentens anbefalte utrulling for lang kontekst bruker fire enheter på 96 GB med bfloat16-modell og -cache, og merker seg at en FP8-cache kan påvirke genereringskvaliteten. Dette er produsentens betingelser for utrulling, ikke et løfte om en bestemt modellrute.
For resonnering over lange dokumenter gir du det relevante materialet og definerer spørsmålet, begrensningene og rapporten som skal returneres. Be om støttende tekstutdrag, og angi hvordan manglende belegg skal håndteres. For kode eller matematikk tar du med implementasjonen eller premissene og ber om det foreslåtte svaret med trinnene eller kontrollene som trengs for å vurdere det.
Modellen er også rettet mot agentoppgaver og funksjonskall. Produsenten publiserer en egen parser og et agenteksempel for modellens genererte verktøykall. Applikasjonen leverer verktøydefinisjonene, utfører et foreslått kall og returnerer resultatet. Hold kallet og observasjonen samlet, slik at neste samtalerunde kan fortsette fra det som skjedde.
Velg tenkemåten ut fra oppgaven: et direkte svar kan dekke en avgrenset instruksjon, mens et resonneringstrinn kan støtte en analyse med avhengige trinn. Angi ønsket sluttleveranse, og behold de aktive begrensningene gjennom oppfølginger. Gjennomgå teksten, koden eller det foreslåtte kallet opp mot det opprinnelige oppdraget og belegget som den omkringliggende applikasjonen har levert.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser tencent/hunyuan-a13b-instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser Eksempler: system, user, assistant, tool, function Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt. Avhenger av modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfritt | Verdier & grenser Gjelder når: role=tool; bruk faktisk returnert ID | Standard— |
Feltmessages[].name | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfritt | Verdier & grenser Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttemperature | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttop_p | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools[].type | Typestring | KravValgfritt | Verdier & grenser function Avhenger av modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrevd | Verdier & grenser Gjelder når: funksjonsverktøy oppgitt | Standard— |
Felttools[].function.description | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfritt | Verdier & grenser | Standard— |
Felttool_choice | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltservice_tier | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltinstructions | Typestring | KravValgfritt | Verdier & grenser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfritt | Verdier & grenser text | Standard— |
Feltprovider | Typeobject | KravValgfritt | Verdier & grenser Vilkår: provider.options avvises på denne Ultra-tekstruten | Standard— |
Feltcache_control.ttl | Typestring | KravValgfritt | Verdier & grenser Vilkår: 1h avvises på faktiske steder for mellomlagring av ledetekster | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages |
Parametermaterial_types | Avtaletext |
Parametermessages | Avtalemeldingstabell med role/content-struktur |
Parameterfile_material | Avtalefaktisk UTF-8-dokument satt inn som bokstavelig tekst; ingen fil-ID utledes |
Parameteroptional_controls | Avtalestream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalemodellspesifikt; brukerens funksjonsverktøy skiller seg fra driftede verktøy |
Parameteroutput_modalities | Avtaletext |
Parameterhosted_operations | Avtalefalse |
Parametermultimodal_input_binding | Avtalenull |
Livssyklus: synchronous_or_streamed
Send eksakt modell-ID sammen med messages.
Kontekstlengde er ikke en outputgrense.
En tekstfil kan levere bokstavelig tekst; bilde-, lyd- og filobjektinput trenger eksakt binding.
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.00028 / 1K tokener Utdata · Utgående tokener $0.0012 / 1K tokener Inndata · Lesing fra hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.00028 / 1K tokener Utdata · Utgående tokener $0.0012 / 1K tokener Inndata · Lesing fra hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "tencent/hunyuan-a13b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='tencent/hunyuan-a13b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='tencent/hunyuan-a13b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra tencent/hunyuan-a13b-instruct
Bruk metodestiene som vises ovenfor.
tencent/hunyuan-a13b-instructTencents Hunyuan A13B Instruct er en MoE-tekstmodell med 80B parametere, 13B aktive parametere og hybrid tenking. Den støtter en utvidet kontekst på 256K og verktøyorienterte oppgaver, med langsom tenking som standard og et valg for direkte svar.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Hunyuan A13B Instruct er Tencents instruksjonstilpassede mixture-of-experts-språkmodell for generelle tekst- og resonneringsoppgaver. Produsenten angir totalt 80 milliarder parametere, hvorav 13B er aktive. Grouped-query attention og sparsom aktivering er en del av effektivitetsdesignet. Den forblir atskilt fra den forhåndstrente basismodellen og separat publiserte, kvantiserte instruct-artefakter.
Hybrid tenking er en uttrykkelig egenskap ved denne utgaven. Langsom tenking er standard og produserer et resonneringstrinn før det endelige svaret. Rask tenking hopper over dette trinnet og returnerer svaret direkte. Produsentens konvensjoner for prompter og samtalemaler velger mellom disse oppførslene; de definerer ikke en innsatsstige med low, medium, high og xhigh.
Produsenten beskriver en full kontekst på 256K, eller 262 144 tokener, mens standardkonfigurasjonen begrenser konteksten til 32K for å redusere minnebelastningen. Å aktivere full kontekst krever riktig modell- og serveringskonfigurasjon. Produsentens anbefalte utrulling for lang kontekst bruker fire enheter på 96 GB med bfloat16-modell og -cache, og merker seg at en FP8-cache kan påvirke genereringskvaliteten. Dette er produsentens betingelser for utrulling, ikke et løfte om en bestemt modellrute.
For resonnering over lange dokumenter gir du det relevante materialet og definerer spørsmålet, begrensningene og rapporten som skal returneres. Be om støttende tekstutdrag, og angi hvordan manglende belegg skal håndteres. For kode eller matematikk tar du med implementasjonen eller premissene og ber om det foreslåtte svaret med trinnene eller kontrollene som trengs for å vurdere det.
Modellen er også rettet mot agentoppgaver og funksjonskall. Produsenten publiserer en egen parser og et agenteksempel for modellens genererte verktøykall. Applikasjonen leverer verktøydefinisjonene, utfører et foreslått kall og returnerer resultatet. Hold kallet og observasjonen samlet, slik at neste samtalerunde kan fortsette fra det som skjedde.
Velg tenkemåten ut fra oppgaven: et direkte svar kan dekke en avgrenset instruksjon, mens et resonneringstrinn kan støtte en analyse med avhengige trinn. Angi ønsket sluttleveranse, og behold de aktive begrensningene gjennom oppfølginger. Gjennomgå teksten, koden eller det foreslåtte kallet opp mot det opprinnelige oppdraget og belegget som den omkringliggende applikasjonen har levert.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser tencent/hunyuan-a13b-instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrevd | Verdier & grenser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrevd | Verdier & grenser | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content-streng
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages, max_tokens |
Parameteroptional_controls | Avtalestream |
Parametermaterial_types | Avtaletext |
Parametertext_file_material | AvtaleLes det faktiske UTF-8-dokumentet og legg teksten i den angitte input- eller meldingsinnholdsstrengen. |
Livssyklus: synchronous_or_streamed
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.00028 / 1K tokener Utdata · Utgående tokener $0.0012 / 1K tokener Inndata · Lesing fra hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.00028 / 1K tokener Utdata · Utgående tokener $0.0012 / 1K tokener Inndata · Lesing fra hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
{\n "model": "tencent/hunyuan-a13b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'tencent/hunyuan-a13b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'tencent/hunyuan-a13b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold alle innholdsblokker, resonneringssignaturer og faktiske ID-er for verktøybruk. Sett sammen alle SSE-blokkendringer; den første tekstblokken er ikke hele resultatet.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra tencent/hunyuan-a13b-instruct
Bruk metodestiene som vises ovenfor.
Teknisk eksempel på engelsk
Check a routing rule against cases\n\nA workshop rule says: route wooden items to bench W; route metal items to bench M; mixed-material items require supervisor review. A draft sends anything containing wood to W. Evaluate cases 'wood only', 'metal only' and 'wood plus metal'. Return the first rule conflict and a corrected decision sequence without adding new material categories.A case analysis and corrected routing sequence preserving the mixed-material exception.The wood-plus-metal item must go to supervisor review rather than directly to W.