Qwen3-8B er en tæt Qwen3-sprogmodel, som kombinerer ræsonnement og almindelig tekstgenerering. Dens annoncerede styrker omfatter matematik, logisk problemløsning, kode, kreativ skrivning, rollebaseret dialog og instruktionsfølgning over flere ture. Familien understøtter mere end 100 sprog og dialekter. En praktisk anvendelse er en flersproget supportassistent, som omdanner en kundes besked og et givet politikuddrag til et nyttigt svar, mens produktnavne og den ønskede tone bevares.
Denne udgave har 8,2 milliarder parametre, heraf 6,95 milliarder uden for embeddings, og 36 lag. Den bruger grouped-query attention med 32 query-hoveder og otte key/value-hoveder. Det er en separat tæt model frem for mixture-of-experts-modellen på 235B, der arbejder med færre eksperter. Arbejdsinputtet og det genererede resultat er tekst: en oversættelse, forklaring, revideret dokument, plan eller program. Vælg en tydelig opgave, før kontekst tilføjes. Til et supportsvar gives kundebeskeden, den gældende politik, godkendt terminologi og den handling, læseren skal foretage; bed om et svar og en separat liste over fakta, der stadig mangler.
Udviklerens startforløb bruger en sekvens af chatbeskeder og en eksplicit chatskabelon. Ved kodehjælp medtages den relevante funktion, et input som blotlægger problemet, det faktiske output og det forventede resultat. Bed om en rettet funktion med eksempler og en separat forklaring af den ændrede adfærd. Ved oversættelse angives kilde- og målsprog, læsere og udtryk, som skal bevares. Disse input gør den resulterende tekst lettere at sammenligne med det oprindelige krav. Den offentliggjorte integration forventer et kørselsmiljø, der genkender Qwen3; modelkortet advarer om, at Transformers-versioner under 4.51.0 ikke genkender den nødvendige arkitektur.
Samme model understøtter tilstande med og uden ræsonnement. Ræsonnement er som standard slået til i den medfølgende skabelon. En fast deaktivering fjerner ræsonnementsafsnittet; når ræsonnement fortsat er slået til, kan /think og /no_think ændre valget mellem ture. Den seneste instruktion af denne type har forrang, og disse promptbaserede skift kan ikke tilsidesætte en fast deaktivering. I et produktforløb bruges direkte tilstand til en kort omskrivning af en godkendt besked, mens ræsonnement vælges til en uoverensstemmelse, der skal forklares. Hold det endelige svar adskilt fra mellemliggende ræsonnement, og behold kun det endelige svar i den senere samtalehistorik. Når ræsonnement er slået til, bevarer selv en blød anmodning om ikke at ræsonnere en ræsonnementsblok; indholdet kan være tomt. Den faste deaktivering fjerner denne blok.
Udvikleren beskriver værktøjskald og anbefaler Qwen-Agent til at håndtere skabeloner og fortolkning. En applikation kan give værktøjsdefinitioner, udføre anmodede kald og returnere resultaterne. For en supportassistent kan et afgrænset ordreopslag med kun læseadgang give en bekræftet forsendelsesstatus, før modellen formulerer et svar. Angiv de tilladte opslagsfelter, og hvordan en manglende post skal rapporteres. Det nyttige slutresultat er et svar forankret i de returnerede oplysninger, ikke en uunderbygget påstand om, at en ekstern handling lykkedes. Qwen3-vejledningen beskriver også parallelle værktøjskald og kald i flere trin med argumenter som objekter og resultater, der gives tilbage til samtalen.
Modelkortet angiver 32.768 oprindelige konteksttokens og 131.072 med YaRN-udvidelse. Adfærd ved lang kontekst afhænger derfor af den faktiske konfiguration. Statisk YaRN kan påvirke kortere anmodninger, så modelkortet anbefaler at aktivere det, når lang kontekst er nødvendig. Input, samtalehistorik og genereret output bruger et fælles kontekstbudget. Mærk lange kildeafsnit, fjern uvedkommende dubletter, og lad der være plads til det ønskede svar. Det offentliggjorte genereringseksempel og outputanbefalingerne er konfigurationsvejledning frem for et uafhængigt fast outputmaksimum. Qwen3-dokumentationen omtaler assistentbeskeder på 38.912 tokens i ræsonnementstilstand og 16.384 uden ræsonnement i sin forklaring af træningslængden og anbefaler at vurdere kvaliteten af længere generering. Disse tal er adskilt fra det samlede kontekstvindue og udgør ikke en fast grænse for et bestemt endpoint. Modelkortet forklarer også standardfordelingen af 40.960 positioner som 8.192 til typiske prompts plus 32.768 til output; det er udviklerens konfigurationsvejledning, adskilt fra den oprindelige træningskontekst og eventuelle endpointgrænser.
Ved ræsonnementstilstand er de anbefalede samplingværdier temperature 0.6, top-p 0.95, top-k 20 og min-p 0; uden ræsonnement er de 0.7, 0.8, 20 og 0. Udvikleren advarer om, at greedy decoding ved ræsonnement kan producere gentaget tekst. Højere tilstedeværelsesstraffe kan mindske gentagelser, men somme tider også blande sprog. Definer det endelige format eksplicit, for eksempel et svar efterfulgt af et JSON-objekt med uafklarede felter, og valider objektet, før en applikation bruger det. Kontroller foreslået kode med de givne tilfælde, og gennemgå oversættelser for bevaret terminologi.
", "aboutText": "Qwen3-8B er en tæt Qwen3-sprogmodel, som kombinerer ræsonnement og almindelig tekstgenerering. Dens annoncerede styrker omfatter matematik, logisk problemløsning, kode, kreativ skrivning, rollebaseret dialog og instruktionsfølgning over flere ture. Familien understøtter mere end 100 sprog og dialekter. En praktisk anvendelse er en flersproget supportassistent, som omdanner en kundes besked og et givet politikuddrag til et nyttigt svar, mens produktnavne og den ønskede tone bevares.\n\nDenne udgave har 8,2 milliarder parametre, heraf 6,95 milliarder uden for embeddings, og 36 lag. Den bruger grouped-query attention med 32 query-hoveder og otte key/value-hoveder. Det er en separat tæt model frem for mixture-of-experts-modellen på 235B, der arbejder med færre eksperter. Arbejdsinputtet og det genererede resultat er tekst: en oversættelse, forklaring, revideret dokument, plan eller program. Vælg en tydelig opgave, før kontekst tilføjes. Til et supportsvar gives kundebeskeden, den gældende politik, godkendt terminologi og den handling, læseren skal foretage; bed om et svar og en separat liste over fakta, der stadig mangler.\n\nUdviklerens startforløb bruger en sekvens af chatbeskeder og en eksplicit chatskabelon. Ved kodehjælp medtages den relevante funktion, et input som blotlægger problemet, det faktiske output og det forventede resultat. Bed om en rettet funktion med eksempler og en separat forklaring af den ændrede adfærd. Ved oversættelse angives kilde- og målsprog, læsere og udtryk, som skal bevares. Disse input gør den resulterende tekst lettere at sammenligne med det oprindelige krav. Den offentliggjorte integration forventer et kørselsmiljø, der genkender Qwen3; modelkortet advarer om, at Transformers-versioner under 4.51.0 ikke genkender den nødvendige arkitektur.\n\nSamme model understøtter tilstande med og uden ræsonnement. Ræsonnement er som standard slået til i den medfølgende skabelon. En fast deaktivering fjerner ræsonnementsafsnittet; når ræsonnement fortsat er slået til, kan /think og /no_think ændre valget mellem ture. Den seneste instruktion af denne type har forrang, og disse promptbaserede skift kan ikke tilsidesætte en fast deaktivering. I et produktforløb bruges direkte tilstand til en kort omskrivning af en godkendt besked, mens ræsonnement vælges til en uoverensstemmelse, der skal forklares. Hold det endelige svar adskilt fra mellemliggende ræsonnement, og behold kun det endelige svar i den senere samtalehistorik. Når ræsonnement er slået til, bevarer selv en blød anmodning om ikke at ræsonnere en ræsonnementsblok; indholdet kan være tomt. Den faste deaktivering fjerner denne blok.\n\nUdvikleren beskriver værktøjskald og anbefaler Qwen-Agent til at håndtere skabeloner og fortolkning. En applikation kan give værktøjsdefinitioner, udføre anmodede kald og returnere resultaterne. For en supportassistent kan et afgrænset ordreopslag med kun læseadgang give en bekræftet forsendelsesstatus, før modellen formulerer et svar. Angiv de tilladte opslagsfelter, og hvordan en manglende post skal rapporteres. Det nyttige slutresultat er et svar forankret i de returnerede oplysninger, ikke en uunderbygget påstand om, at en ekstern handling lykkedes. Qwen3-vejledningen beskriver også parallelle værktøjskald og kald i flere trin med argumenter som objekter og resultater, der gives tilbage til samtalen.\n\nModelkortet angiver 32.768 oprindelige konteksttokens og 131.072 med YaRN-udvidelse. Adfærd ved lang kontekst afhænger derfor af den faktiske konfiguration. Statisk YaRN kan påvirke kortere anmodninger, så modelkortet anbefaler at aktivere det, når lang kontekst er nødvendig. Input, samtalehistorik og genereret output bruger et fælles kontekstbudget. Mærk lange kildeafsnit, fjern uvedkommende dubletter, og lad der være plads til det ønskede svar. Det offentliggjorte genereringseksempel og outputanbefalingerne er konfigurationsvejledning frem for et uafhængigt fast outputmaksimum. Qwen3-dokumentationen omtaler assistentbeskeder på 38.912 tokens i ræsonnementstilstand og 16.384 uden ræsonnement i sin forklaring af træningslængden og anbefaler at vurdere kvaliteten af længere generering. Disse tal er adskilt fra det samlede kontekstvindue og udgør ikke en fast grænse for et bestemt endpoint. Modelkortet forklarer også standardfordelingen af 40.960 positioner som 8.192 til typiske prompts plus 32.768 til output; det er udviklerens konfigurationsvejledning, adskilt fra den oprindelige træningskontekst og eventuelle endpointgrænser.\n\nVed ræsonnementstilstand er de anbefalede samplingværdier temperature 0.6, top-p 0.95, top-k 20 og min-p 0; uden ræsonnement er de 0.7, 0.8, 20 og 0. Udvikleren advarer om, at greedy decoding ved ræsonnement kan producere gentaget tekst. Højere tilstedeværelsesstraffe kan mindske gentagelser, men somme tider også blande sprog. Definer det endelige format eksplicit, for eksempel et svar efterfulgt af et JSON-objekt med uafklarede felter, og valider objektet, før en applikation bruger det. Kontroller foreslået kode med de givne tilfælde, og gennemgå oversættelser for bevaret terminologi.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
A bilingual reply grounded in a return policy\n\nDraft a German reply to this customer: 'Can I return my unused Aero Cup after ten days?' Policy P1: unused products can be returned within 14 days; the customer must provide the order reference. Keep Aero Cup unchanged and ask for the missing reference. Follow the reply with a short English note naming the facts used.A polite German customer reply and a brief English source-fact note.The reply preserves the unused condition and 14-day window, asks for the reference and does not invent refund timing.qwen3-8bQwen3-8B tilbyder flersproget tekstgenerering, kodning og to svartilstande i en tæt model med 8.2 milliarder parametre. Brug direkte svar til hverdagssamtaler og tænkningstilstand til problemer, der kræver nærmere analyse.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Qwen3-8B er en tæt Qwen3-sprogmodel, som kombinerer ræsonnement og almindelig tekstgenerering. Dens annoncerede styrker omfatter matematik, logisk problemløsning, kode, kreativ skrivning, rollebaseret dialog og instruktionsfølgning over flere ture. Familien understøtter mere end 100 sprog og dialekter. En praktisk anvendelse er en flersproget supportassistent, som omdanner en kundes besked og et givet politikuddrag til et nyttigt svar, mens produktnavne og den ønskede tone bevares.
Denne udgave har 8,2 milliarder parametre, heraf 6,95 milliarder uden for embeddings, og 36 lag. Den bruger grouped-query attention med 32 query-hoveder og otte key/value-hoveder. Det er en separat tæt model frem for mixture-of-experts-modellen på 235B, der arbejder med færre eksperter. Arbejdsinputtet og det genererede resultat er tekst: en oversættelse, forklaring, revideret dokument, plan eller program. Vælg en tydelig opgave, før kontekst tilføjes. Til et supportsvar gives kundebeskeden, den gældende politik, godkendt terminologi og den handling, læseren skal foretage; bed om et svar og en separat liste over fakta, der stadig mangler.
Udviklerens startforløb bruger en sekvens af chatbeskeder og en eksplicit chatskabelon. Ved kodehjælp medtages den relevante funktion, et input som blotlægger problemet, det faktiske output og det forventede resultat. Bed om en rettet funktion med eksempler og en separat forklaring af den ændrede adfærd. Ved oversættelse angives kilde- og målsprog, læsere og udtryk, som skal bevares. Disse input gør den resulterende tekst lettere at sammenligne med det oprindelige krav. Den offentliggjorte integration forventer et kørselsmiljø, der genkender Qwen3; modelkortet advarer om, at Transformers-versioner under 4.51.0 ikke genkender den nødvendige arkitektur.
Samme model understøtter tilstande med og uden ræsonnement. Ræsonnement er som standard slået til i den medfølgende skabelon. En fast deaktivering fjerner ræsonnementsafsnittet; når ræsonnement fortsat er slået til, kan /think og /no_think ændre valget mellem ture. Den seneste instruktion af denne type har forrang, og disse promptbaserede skift kan ikke tilsidesætte en fast deaktivering. I et produktforløb bruges direkte tilstand til en kort omskrivning af en godkendt besked, mens ræsonnement vælges til en uoverensstemmelse, der skal forklares. Hold det endelige svar adskilt fra mellemliggende ræsonnement, og behold kun det endelige svar i den senere samtalehistorik. Når ræsonnement er slået til, bevarer selv en blød anmodning om ikke at ræsonnere en ræsonnementsblok; indholdet kan være tomt. Den faste deaktivering fjerner denne blok.
Udvikleren beskriver værktøjskald og anbefaler Qwen-Agent til at håndtere skabeloner og fortolkning. En applikation kan give værktøjsdefinitioner, udføre anmodede kald og returnere resultaterne. For en supportassistent kan et afgrænset ordreopslag med kun læseadgang give en bekræftet forsendelsesstatus, før modellen formulerer et svar. Angiv de tilladte opslagsfelter, og hvordan en manglende post skal rapporteres. Det nyttige slutresultat er et svar forankret i de returnerede oplysninger, ikke en uunderbygget påstand om, at en ekstern handling lykkedes. Qwen3-vejledningen beskriver også parallelle værktøjskald og kald i flere trin med argumenter som objekter og resultater, der gives tilbage til samtalen.
Modelkortet angiver 32.768 oprindelige konteksttokens og 131.072 med YaRN-udvidelse. Adfærd ved lang kontekst afhænger derfor af den faktiske konfiguration. Statisk YaRN kan påvirke kortere anmodninger, så modelkortet anbefaler at aktivere det, når lang kontekst er nødvendig. Input, samtalehistorik og genereret output bruger et fælles kontekstbudget. Mærk lange kildeafsnit, fjern uvedkommende dubletter, og lad der være plads til det ønskede svar. Det offentliggjorte genereringseksempel og outputanbefalingerne er konfigurationsvejledning frem for et uafhængigt fast outputmaksimum. Qwen3-dokumentationen omtaler assistentbeskeder på 38.912 tokens i ræsonnementstilstand og 16.384 uden ræsonnement i sin forklaring af træningslængden og anbefaler at vurdere kvaliteten af længere generering. Disse tal er adskilt fra det samlede kontekstvindue og udgør ikke en fast grænse for et bestemt endpoint. Modelkortet forklarer også standardfordelingen af 40.960 positioner som 8.192 til typiske prompts plus 32.768 til output; det er udviklerens konfigurationsvejledning, adskilt fra den oprindelige træningskontekst og eventuelle endpointgrænser.
Ved ræsonnementstilstand er de anbefalede samplingværdier temperature 0.6, top-p 0.95, top-k 20 og min-p 0; uden ræsonnement er de 0.7, 0.8, 20 og 0. Udvikleren advarer om, at greedy decoding ved ræsonnement kan producere gentaget tekst. Højere tilstedeværelsesstraffe kan mindske gentagelser, men somme tider også blande sprog. Definer det endelige format eksplicit, for eksempel et svar efterfulgt af et JSON-objekt med uafklarede felter, og valider objektet, før en applikation bruger det. Kontroller foreslået kode med de givne tilfælde, og gennemgå oversættelser for bevaret terminologi.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser qwen3-8b | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser Eksempler: system, user, assistant, tool, function Betingelser: Disse roller er eksplicit repræsenteret i kildekodens kompatibilitetstyper; modellens præcise rollesæt er fortsat modelspecifikt. Afhænger af modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfrit | Værdier og grænser Gælder når: role=tool; brug det faktisk returnerede ID | Standard— |
Feltmessages[].name | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfrit | Værdier og grænser Gælder når: Send det faktisk returnerede ræsonnement tilbage, når modellen bruger det | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttemperature | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttop_p | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools[].type | Typestring | KravValgfrit | Værdier og grænser function Afhænger af modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrævet | Værdier og grænser Gælder når: funktionsværktøj angivet | Standard— |
Felttools[].function.description | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfrit | Værdier og grænser | Standard— |
Felttool_choice | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltservice_tier | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltinstructions | Typestring | KravValgfrit | Værdier og grænser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfrit | Værdier og grænser text | Standard— |
Feltprovider | Typeobject | KravValgfrit | Værdier og grænser Betingelser: provider.options afvises på denne Ultra-tekstrute | Standard— |
Feltcache_control.ttl | Typestring | KravValgfrit | Værdier og grænser Betingelser: 1h afvises på de faktiske placeringer for promptcaching | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages |
Parametermaterial_types | Kontrakttext |
Parametermessages | Kontraktbeskedarray med strukturen role/content |
Parameterfile_material | Kontraktfaktisk UTF-8-dokument indsat som bogstavelig tekst; intet fil-ID udledes |
Parameteroptional_controls | Kontraktstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontraktmodelspecifikt; brugerens funktionsværktøjer er forskellige fra hostede værktøjer |
Parameteroutput_modalities | Kontrakttext |
Parameterhosted_operations | Kontraktfalse |
Parametermultimodal_input_binding | Kontraktnull |
Livscyklus: synchronous_or_streamed
Send det præcise model-ID med messages.
Kontekstlængde er ikke et outputloft.
En tekstfil kan levere bogstavelig tekst; billed-, lyd- og filobjektinput kræver en præcis binding.
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0.000144 / 1K tokens Output · Outputtokens $0.00144 / 1K tokens Input · Cachelæsning $0 / 1K tokens Input · Cacheskrivning $0 / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen3-8b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen3-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen3-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar hvert valg og dets indhold, værktøjskald og ræsonnement. Saml i SSE deltaer efter valg-/værktøjsindeks, og bevar den endelige afslutningsårsag og forbrugsoplysningerne.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra qwen3-8b
Brug metodestierne vist ovenfor.
qwen3-8bQwen3-8B tilbyder flersproget tekstgenerering, kodning og to svartilstande i en tæt model med 8.2 milliarder parametre. Brug direkte svar til hverdagssamtaler og tænkningstilstand til problemer, der kræver nærmere analyse.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Qwen3-8B er en tæt Qwen3-sprogmodel, som kombinerer ræsonnement og almindelig tekstgenerering. Dens annoncerede styrker omfatter matematik, logisk problemløsning, kode, kreativ skrivning, rollebaseret dialog og instruktionsfølgning over flere ture. Familien understøtter mere end 100 sprog og dialekter. En praktisk anvendelse er en flersproget supportassistent, som omdanner en kundes besked og et givet politikuddrag til et nyttigt svar, mens produktnavne og den ønskede tone bevares.
Denne udgave har 8,2 milliarder parametre, heraf 6,95 milliarder uden for embeddings, og 36 lag. Den bruger grouped-query attention med 32 query-hoveder og otte key/value-hoveder. Det er en separat tæt model frem for mixture-of-experts-modellen på 235B, der arbejder med færre eksperter. Arbejdsinputtet og det genererede resultat er tekst: en oversættelse, forklaring, revideret dokument, plan eller program. Vælg en tydelig opgave, før kontekst tilføjes. Til et supportsvar gives kundebeskeden, den gældende politik, godkendt terminologi og den handling, læseren skal foretage; bed om et svar og en separat liste over fakta, der stadig mangler.
Udviklerens startforløb bruger en sekvens af chatbeskeder og en eksplicit chatskabelon. Ved kodehjælp medtages den relevante funktion, et input som blotlægger problemet, det faktiske output og det forventede resultat. Bed om en rettet funktion med eksempler og en separat forklaring af den ændrede adfærd. Ved oversættelse angives kilde- og målsprog, læsere og udtryk, som skal bevares. Disse input gør den resulterende tekst lettere at sammenligne med det oprindelige krav. Den offentliggjorte integration forventer et kørselsmiljø, der genkender Qwen3; modelkortet advarer om, at Transformers-versioner under 4.51.0 ikke genkender den nødvendige arkitektur.
Samme model understøtter tilstande med og uden ræsonnement. Ræsonnement er som standard slået til i den medfølgende skabelon. En fast deaktivering fjerner ræsonnementsafsnittet; når ræsonnement fortsat er slået til, kan /think og /no_think ændre valget mellem ture. Den seneste instruktion af denne type har forrang, og disse promptbaserede skift kan ikke tilsidesætte en fast deaktivering. I et produktforløb bruges direkte tilstand til en kort omskrivning af en godkendt besked, mens ræsonnement vælges til en uoverensstemmelse, der skal forklares. Hold det endelige svar adskilt fra mellemliggende ræsonnement, og behold kun det endelige svar i den senere samtalehistorik. Når ræsonnement er slået til, bevarer selv en blød anmodning om ikke at ræsonnere en ræsonnementsblok; indholdet kan være tomt. Den faste deaktivering fjerner denne blok.
Udvikleren beskriver værktøjskald og anbefaler Qwen-Agent til at håndtere skabeloner og fortolkning. En applikation kan give værktøjsdefinitioner, udføre anmodede kald og returnere resultaterne. For en supportassistent kan et afgrænset ordreopslag med kun læseadgang give en bekræftet forsendelsesstatus, før modellen formulerer et svar. Angiv de tilladte opslagsfelter, og hvordan en manglende post skal rapporteres. Det nyttige slutresultat er et svar forankret i de returnerede oplysninger, ikke en uunderbygget påstand om, at en ekstern handling lykkedes. Qwen3-vejledningen beskriver også parallelle værktøjskald og kald i flere trin med argumenter som objekter og resultater, der gives tilbage til samtalen.
Modelkortet angiver 32.768 oprindelige konteksttokens og 131.072 med YaRN-udvidelse. Adfærd ved lang kontekst afhænger derfor af den faktiske konfiguration. Statisk YaRN kan påvirke kortere anmodninger, så modelkortet anbefaler at aktivere det, når lang kontekst er nødvendig. Input, samtalehistorik og genereret output bruger et fælles kontekstbudget. Mærk lange kildeafsnit, fjern uvedkommende dubletter, og lad der være plads til det ønskede svar. Det offentliggjorte genereringseksempel og outputanbefalingerne er konfigurationsvejledning frem for et uafhængigt fast outputmaksimum. Qwen3-dokumentationen omtaler assistentbeskeder på 38.912 tokens i ræsonnementstilstand og 16.384 uden ræsonnement i sin forklaring af træningslængden og anbefaler at vurdere kvaliteten af længere generering. Disse tal er adskilt fra det samlede kontekstvindue og udgør ikke en fast grænse for et bestemt endpoint. Modelkortet forklarer også standardfordelingen af 40.960 positioner som 8.192 til typiske prompts plus 32.768 til output; det er udviklerens konfigurationsvejledning, adskilt fra den oprindelige træningskontekst og eventuelle endpointgrænser.
Ved ræsonnementstilstand er de anbefalede samplingværdier temperature 0.6, top-p 0.95, top-k 20 og min-p 0; uden ræsonnement er de 0.7, 0.8, 20 og 0. Udvikleren advarer om, at greedy decoding ved ræsonnement kan producere gentaget tekst. Højere tilstedeværelsesstraffe kan mindske gentagelser, men somme tider også blande sprog. Definer det endelige format eksplicit, for eksempel et svar efterfulgt af et JSON-objekt med uafklarede felter, og valider objektet, før en applikation bruger det. Kontroller foreslået kode med de givne tilfælde, og gennemgå oversættelser for bevaret terminologi.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser qwen3-8b | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrævet | Værdier og grænser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrævet | Værdier og grænser | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content som streng
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages, max_tokens |
Parameteroptional_controls | Kontraktstream |
Parametermaterial_types | Kontrakttext |
Parametertext_file_material | KontraktLæs det faktiske UTF-8-dokument, og indsæt teksten i det angivne input eller beskedens indholdsstreng. |
Livscyklus: synchronous_or_streamed
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0.000144 / 1K tokens Output · Outputtokens $0.00144 / 1K tokens Input · Cachelæsning $0 / 1K tokens Input · Cacheskrivning $0 / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
{\n "model": "qwen3-8b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen3-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen3-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar alle indholdsblokke, ræsonnementssignaturer og faktiske værktøjsbrugs-ID’er. Saml alle SSE-blokdeltaer; den første tekstblok er ikke hele outputtet.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra qwen3-8b
Brug metodestierne vist ovenfor.
Teknisk eksempel på engelsk
A bilingual reply grounded in a return policy\n\nDraft a German reply to this customer: 'Can I return my unused Aero Cup after ten days?' Policy P1: unused products can be returned within 14 days; the customer must provide the order reference. Keep Aero Cup unchanged and ask for the missing reference. Follow the reply with a short English note naming the facts used.A polite German customer reply and a brief English source-fact note.The reply preserves the unused condition and 14-day window, asks for the reference and does not invent refund timing.