Qwen3-8B is een dicht Qwen3-taalmodel dat redeneren en gewone tekstgeneratie combineert. De aangekondigde sterke punten omvatten wiskunde, logisch probleemoplossen, code, creatief schrijven, rolgebonden gesprekken en instructieopvolging over meerdere beurten. De familie ondersteunt meer dan 100 talen en dialecten. Een praktische toepassing is een meertalige supportassistent die een klantbericht en een aangeleverd beleidsfragment omzet in een bruikbaar antwoord, met behoud van productnamen en de gevraagde toon.
Deze release heeft 8,2 miljard parameters, waaronder 6,95 miljard buiten de embeddings, en 36 lagen. Het gebruikt grouped-query attention met 32 querykoppen en acht key/value-koppen. Het is een afzonderlijk dicht model en geen mixture-of-experts-model van 235B dat met minder experts werkt. De werkinvoer en het gegenereerde resultaat zijn tekst: een vertaling, uitleg, herzien document, plan of programma. Kies een duidelijke taak voordat je context toevoegt. Geef voor een supportantwoord het klantbericht, het geldende beleid, de goedgekeurde terminologie en de handeling die de lezer moet uitvoeren; vraag om een antwoord en een afzonderlijke lijst met nog ontbrekende feiten.
De startworkflow van de ontwikkelaar gebruikt een reeks chatberichten en een expliciete chatsjabloon. Voeg voor codehulp de relevante functie, een invoer die het probleem zichtbaar maakt, de werkelijke uitvoer en het verwachte resultaat toe. Vraag om een gecorrigeerde functie met voorbeelden en een afzonderlijke uitleg van het gewijzigde gedrag. Benoem voor vertaling de bron- en doeltaal, de lezers en de te behouden termen. Die invoer maakt de resulterende tekst gemakkelijker te vergelijken met de oorspronkelijke eis. De gepubliceerde integratie verwacht een runtime die Qwen3 herkent; de modelkaart waarschuwt dat Transformers-versies lager dan 4.51.0 de vereiste architectuur niet herkennen.
Hetzelfde model ondersteunt modi met en zonder redeneren. Redeneren is standaard ingeschakeld in de meegeleverde sjabloon. Een harde uitschakeling verwijdert het redeneergedeelte; zolang redeneren ingeschakeld blijft, kunnen /think en /no_think de keuze tussen beurten veranderen. De laatste dergelijke instructie heeft voorrang en die schakelaars op promptniveau kunnen een harde uitschakeling niet opheffen. Gebruik in een productworkflow de directe modus voor een korte herschrijving van een goedgekeurd bericht en kies redeneren voor een afwijking die uitleg vereist. Houd het eindantwoord gescheiden van tussentijdse redeneringen en bewaar alleen het eindantwoord in de latere gespreksgeschiedenis. Met redeneren ingeschakeld behoudt zelfs een zacht verzoek om niet te redeneren een redeneerblok; de inhoud ervan kan leeg zijn. De harde uitschakeling verwijdert dat blok.
De ontwikkelaar beschrijft toolaanroepen en beveelt Qwen-Agent aan om sjablonen en het verwerken van aanroepen te beheren. Een applicatie kan tooldefinities aanbieden, gevraagde aanroepen uitvoeren en de resultaten teruggeven. Voor een supportassistent kan een beperkte, alleen-lezen bestelopzoeking een bevestigde verzendstatus leveren voordat het model een antwoord opstelt. Bepaal de toegestane opzoekvelden en hoe een ontbrekend record moet worden gemeld. Het bruikbare eindresultaat is een antwoord dat op de teruggegeven informatie steunt, geen ongefundeerde bewering dat een externe handeling is geslaagd. De Qwen3-handleiding beschrijft ook parallelle toolaanroepen en aanroepen in meerdere stappen, met argumenten als objecten en resultaten die in het gesprek worden teruggegeven.
De modelkaart noemt 32.768 oorspronkelijke contexttokens en 131.072 met YaRN-uitbreiding. Het gedrag bij lange context hangt dus af van de werkelijke configuratie. Statische YaRN kan kortere aanvragen beïnvloeden, dus de modelkaart adviseert die in te schakelen wanneer lange context nodig is. Invoer, gespreksgeschiedenis en gegenereerde uitvoer gebruiken een gedeeld contextbudget. Label lange brondelen, verwijder irrelevante duplicaten en laat ruimte voor het gevraagde antwoord. Het gepubliceerde generatievoorbeeld en de uitvoeraanbevelingen zijn configuratieadvies en geen onafhankelijk hard uitvoermaximum. De Qwen3-documentatie bespreekt in haar uitleg over de trainingslengte assistentberichten van 38.912 tokens in de redeneermodus en 16.384 zonder redeneren, en beveelt aan de kwaliteit van langere generaties te evalueren. Die aantallen staan los van het totale contextvenster en zijn geen harde limiet van een specifiek endpoint. De modelkaart verklaart ook de standaardtoewijzing van 40.960 posities als 8.192 voor gebruikelijke prompts plus 32.768 voor uitvoer; dit is configuratieadvies van de ontwikkelaar, los van de oorspronkelijke trainingscontext en een eventuele endpointlimiet.
Voor de redeneermodus zijn de aanbevolen samplingwaarden temperature 0.6, top-p 0.95, top-k 20 en min-p 0; zonder redeneren zijn het 0.7, 0.8, 20 en 0. De ontwikkelaar waarschuwt dat greedy decoding bij redeneren herhaalde tekst kan opleveren. Hogere aanwezigheidstraffen kunnen herhaling verminderen, maar soms ook talen vermengen. Definieer het eindformaat expliciet, bijvoorbeeld een antwoord gevolgd door een JSON-object met onopgeloste velden, en valideer dat object voordat een applicatie het gebruikt. Controleer voorgestelde code met de aangeleverde gevallen en beoordeel vertalingen op behoud van terminologie.
", "aboutText": "Qwen3-8B is een dicht Qwen3-taalmodel dat redeneren en gewone tekstgeneratie combineert. De aangekondigde sterke punten omvatten wiskunde, logisch probleemoplossen, code, creatief schrijven, rolgebonden gesprekken en instructieopvolging over meerdere beurten. De familie ondersteunt meer dan 100 talen en dialecten. Een praktische toepassing is een meertalige supportassistent die een klantbericht en een aangeleverd beleidsfragment omzet in een bruikbaar antwoord, met behoud van productnamen en de gevraagde toon.\n\nDeze release heeft 8,2 miljard parameters, waaronder 6,95 miljard buiten de embeddings, en 36 lagen. Het gebruikt grouped-query attention met 32 querykoppen en acht key/value-koppen. Het is een afzonderlijk dicht model en geen mixture-of-experts-model van 235B dat met minder experts werkt. De werkinvoer en het gegenereerde resultaat zijn tekst: een vertaling, uitleg, herzien document, plan of programma. Kies een duidelijke taak voordat je context toevoegt. Geef voor een supportantwoord het klantbericht, het geldende beleid, de goedgekeurde terminologie en de handeling die de lezer moet uitvoeren; vraag om een antwoord en een afzonderlijke lijst met nog ontbrekende feiten.\n\nDe startworkflow van de ontwikkelaar gebruikt een reeks chatberichten en een expliciete chatsjabloon. Voeg voor codehulp de relevante functie, een invoer die het probleem zichtbaar maakt, de werkelijke uitvoer en het verwachte resultaat toe. Vraag om een gecorrigeerde functie met voorbeelden en een afzonderlijke uitleg van het gewijzigde gedrag. Benoem voor vertaling de bron- en doeltaal, de lezers en de te behouden termen. Die invoer maakt de resulterende tekst gemakkelijker te vergelijken met de oorspronkelijke eis. De gepubliceerde integratie verwacht een runtime die Qwen3 herkent; de modelkaart waarschuwt dat Transformers-versies lager dan 4.51.0 de vereiste architectuur niet herkennen.\n\nHetzelfde model ondersteunt modi met en zonder redeneren. Redeneren is standaard ingeschakeld in de meegeleverde sjabloon. Een harde uitschakeling verwijdert het redeneergedeelte; zolang redeneren ingeschakeld blijft, kunnen /think en /no_think de keuze tussen beurten veranderen. De laatste dergelijke instructie heeft voorrang en die schakelaars op promptniveau kunnen een harde uitschakeling niet opheffen. Gebruik in een productworkflow de directe modus voor een korte herschrijving van een goedgekeurd bericht en kies redeneren voor een afwijking die uitleg vereist. Houd het eindantwoord gescheiden van tussentijdse redeneringen en bewaar alleen het eindantwoord in de latere gespreksgeschiedenis. Met redeneren ingeschakeld behoudt zelfs een zacht verzoek om niet te redeneren een redeneerblok; de inhoud ervan kan leeg zijn. De harde uitschakeling verwijdert dat blok.\n\nDe ontwikkelaar beschrijft toolaanroepen en beveelt Qwen-Agent aan om sjablonen en het verwerken van aanroepen te beheren. Een applicatie kan tooldefinities aanbieden, gevraagde aanroepen uitvoeren en de resultaten teruggeven. Voor een supportassistent kan een beperkte, alleen-lezen bestelopzoeking een bevestigde verzendstatus leveren voordat het model een antwoord opstelt. Bepaal de toegestane opzoekvelden en hoe een ontbrekend record moet worden gemeld. Het bruikbare eindresultaat is een antwoord dat op de teruggegeven informatie steunt, geen ongefundeerde bewering dat een externe handeling is geslaagd. De Qwen3-handleiding beschrijft ook parallelle toolaanroepen en aanroepen in meerdere stappen, met argumenten als objecten en resultaten die in het gesprek worden teruggegeven.\n\nDe modelkaart noemt 32.768 oorspronkelijke contexttokens en 131.072 met YaRN-uitbreiding. Het gedrag bij lange context hangt dus af van de werkelijke configuratie. Statische YaRN kan kortere aanvragen beïnvloeden, dus de modelkaart adviseert die in te schakelen wanneer lange context nodig is. Invoer, gespreksgeschiedenis en gegenereerde uitvoer gebruiken een gedeeld contextbudget. Label lange brondelen, verwijder irrelevante duplicaten en laat ruimte voor het gevraagde antwoord. Het gepubliceerde generatievoorbeeld en de uitvoeraanbevelingen zijn configuratieadvies en geen onafhankelijk hard uitvoermaximum. De Qwen3-documentatie bespreekt in haar uitleg over de trainingslengte assistentberichten van 38.912 tokens in de redeneermodus en 16.384 zonder redeneren, en beveelt aan de kwaliteit van langere generaties te evalueren. Die aantallen staan los van het totale contextvenster en zijn geen harde limiet van een specifiek endpoint. De modelkaart verklaart ook de standaardtoewijzing van 40.960 posities als 8.192 voor gebruikelijke prompts plus 32.768 voor uitvoer; dit is configuratieadvies van de ontwikkelaar, los van de oorspronkelijke trainingscontext en een eventuele endpointlimiet.\n\nVoor de redeneermodus zijn de aanbevolen samplingwaarden temperature 0.6, top-p 0.95, top-k 20 en min-p 0; zonder redeneren zijn het 0.7, 0.8, 20 en 0. De ontwikkelaar waarschuwt dat greedy decoding bij redeneren herhaalde tekst kan opleveren. Hogere aanwezigheidstraffen kunnen herhaling verminderen, maar soms ook talen vermengen. Definieer het eindformaat expliciet, bijvoorbeeld een antwoord gevolgd door een JSON-object met onopgeloste velden, en valideer dat object voordat een applicatie het gebruikt. Controleer voorgestelde code met de aangeleverde gevallen en beoordeel vertalingen op behoud van terminologie.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisch voorbeeld in het Engels
A bilingual reply grounded in a return policy\n\nDraft a German reply to this customer: 'Can I return my unused Aero Cup after ten days?' Policy P1: unused products can be returned within 14 days; the customer must provide the order reference. Keep Aero Cup unchanged and ask for the missing reference. Follow the reply with a short English note naming the facts used.A polite German customer reply and a brief English source-fact note.The reply preserves the unused condition and 14-day window, asks for the reference and does not invent refund timing.qwen3-8bQwen3-8B biedt meertalige tekstgeneratie, programmeren en twee antwoordmodi in een dense model met 8,2 miljard parameters. Gebruik directe antwoorden voor alledaagse gesprekken en de denkmodus voor problemen die nadere analyse nodig hebben.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Qwen3-8B is een dicht Qwen3-taalmodel dat redeneren en gewone tekstgeneratie combineert. De aangekondigde sterke punten omvatten wiskunde, logisch probleemoplossen, code, creatief schrijven, rolgebonden gesprekken en instructieopvolging over meerdere beurten. De familie ondersteunt meer dan 100 talen en dialecten. Een praktische toepassing is een meertalige supportassistent die een klantbericht en een aangeleverd beleidsfragment omzet in een bruikbaar antwoord, met behoud van productnamen en de gevraagde toon.
Deze release heeft 8,2 miljard parameters, waaronder 6,95 miljard buiten de embeddings, en 36 lagen. Het gebruikt grouped-query attention met 32 querykoppen en acht key/value-koppen. Het is een afzonderlijk dicht model en geen mixture-of-experts-model van 235B dat met minder experts werkt. De werkinvoer en het gegenereerde resultaat zijn tekst: een vertaling, uitleg, herzien document, plan of programma. Kies een duidelijke taak voordat je context toevoegt. Geef voor een supportantwoord het klantbericht, het geldende beleid, de goedgekeurde terminologie en de handeling die de lezer moet uitvoeren; vraag om een antwoord en een afzonderlijke lijst met nog ontbrekende feiten.
De startworkflow van de ontwikkelaar gebruikt een reeks chatberichten en een expliciete chatsjabloon. Voeg voor codehulp de relevante functie, een invoer die het probleem zichtbaar maakt, de werkelijke uitvoer en het verwachte resultaat toe. Vraag om een gecorrigeerde functie met voorbeelden en een afzonderlijke uitleg van het gewijzigde gedrag. Benoem voor vertaling de bron- en doeltaal, de lezers en de te behouden termen. Die invoer maakt de resulterende tekst gemakkelijker te vergelijken met de oorspronkelijke eis. De gepubliceerde integratie verwacht een runtime die Qwen3 herkent; de modelkaart waarschuwt dat Transformers-versies lager dan 4.51.0 de vereiste architectuur niet herkennen.
Hetzelfde model ondersteunt modi met en zonder redeneren. Redeneren is standaard ingeschakeld in de meegeleverde sjabloon. Een harde uitschakeling verwijdert het redeneergedeelte; zolang redeneren ingeschakeld blijft, kunnen /think en /no_think de keuze tussen beurten veranderen. De laatste dergelijke instructie heeft voorrang en die schakelaars op promptniveau kunnen een harde uitschakeling niet opheffen. Gebruik in een productworkflow de directe modus voor een korte herschrijving van een goedgekeurd bericht en kies redeneren voor een afwijking die uitleg vereist. Houd het eindantwoord gescheiden van tussentijdse redeneringen en bewaar alleen het eindantwoord in de latere gespreksgeschiedenis. Met redeneren ingeschakeld behoudt zelfs een zacht verzoek om niet te redeneren een redeneerblok; de inhoud ervan kan leeg zijn. De harde uitschakeling verwijdert dat blok.
De ontwikkelaar beschrijft toolaanroepen en beveelt Qwen-Agent aan om sjablonen en het verwerken van aanroepen te beheren. Een applicatie kan tooldefinities aanbieden, gevraagde aanroepen uitvoeren en de resultaten teruggeven. Voor een supportassistent kan een beperkte, alleen-lezen bestelopzoeking een bevestigde verzendstatus leveren voordat het model een antwoord opstelt. Bepaal de toegestane opzoekvelden en hoe een ontbrekend record moet worden gemeld. Het bruikbare eindresultaat is een antwoord dat op de teruggegeven informatie steunt, geen ongefundeerde bewering dat een externe handeling is geslaagd. De Qwen3-handleiding beschrijft ook parallelle toolaanroepen en aanroepen in meerdere stappen, met argumenten als objecten en resultaten die in het gesprek worden teruggegeven.
De modelkaart noemt 32.768 oorspronkelijke contexttokens en 131.072 met YaRN-uitbreiding. Het gedrag bij lange context hangt dus af van de werkelijke configuratie. Statische YaRN kan kortere aanvragen beïnvloeden, dus de modelkaart adviseert die in te schakelen wanneer lange context nodig is. Invoer, gespreksgeschiedenis en gegenereerde uitvoer gebruiken een gedeeld contextbudget. Label lange brondelen, verwijder irrelevante duplicaten en laat ruimte voor het gevraagde antwoord. Het gepubliceerde generatievoorbeeld en de uitvoeraanbevelingen zijn configuratieadvies en geen onafhankelijk hard uitvoermaximum. De Qwen3-documentatie bespreekt in haar uitleg over de trainingslengte assistentberichten van 38.912 tokens in de redeneermodus en 16.384 zonder redeneren, en beveelt aan de kwaliteit van langere generaties te evalueren. Die aantallen staan los van het totale contextvenster en zijn geen harde limiet van een specifiek endpoint. De modelkaart verklaart ook de standaardtoewijzing van 40.960 posities als 8.192 voor gebruikelijke prompts plus 32.768 voor uitvoer; dit is configuratieadvies van de ontwikkelaar, los van de oorspronkelijke trainingscontext en een eventuele endpointlimiet.
Voor de redeneermodus zijn de aanbevolen samplingwaarden temperature 0.6, top-p 0.95, top-k 20 en min-p 0; zonder redeneren zijn het 0.7, 0.8, 20 en 0. De ontwikkelaar waarschuwt dat greedy decoding bij redeneren herhaalde tekst kan opleveren. Hogere aanwezigheidstraffen kunnen herhaling verminderen, maar soms ook talen vermengen. Definieer het eindformaat expliciet, bijvoorbeeld een antwoord gevolgd door een JSON-object met onopgeloste velden, en valideer dat object voordat een applicatie het gebruikt. Controleer voorgestelde code met de aangeleverde gevallen en beoordeel vertalingen op behoud van terminologie.
POST /v1/chat/completionstexttext| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten qwen3-8b | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten Voorbeelden: system, user, assistant, tool, function Voorwaarden: Deze rollen worden expliciet weergegeven door compatibiliteitstypen in de broncode; de exacte rollenverzameling van het model blijft modelspecifiek. Afhankelijk van het model | Standaard— |
Veldmessages[].content | Typestring|content_part[]|null | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_calls | Typetool_call[] | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_call_id | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: role=tool; gebruik het werkelijk teruggegeven ID | Standaard— |
Veldmessages[].name | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].reasoning_content | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: Stuur de werkelijk teruggegeven redeneringen terug wanneer dit model ze gebruikt | Standaard— |
Veldmessages[].reasoning_details | Typeobject|array | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmax_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldmax_completion_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Veldstream_options.include_usage | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtemperature | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtop_p | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldstop | Typestring|string[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools | Typefunction_tool[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools[].type | Typestring | VereisteOptioneel | Waarden en limieten function Afhankelijk van het model | Standaard— |
Veldtools[].function.name | Typestring | VereisteVereist | Waarden en limieten Geldt wanneer: functietool opgegeven | Standaard— |
Veldtools[].function.description | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtools[].function.parameters | TypeJSON_schema | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtool_choice | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldparallel_tool_calls | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldresponse_format | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning_effort | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldservice_tier | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldinstructions | Typestring | VereisteOptioneel | Waarden en limieten Compatibiliteitsveld | Standaard— |
Veldfunctions | Typefunction[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldfunction_call | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldprompt_cache_options | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmodalities | Typestring[] | VereisteOptioneel | Waarden en limieten text | Standaard— |
Veldprovider | Typeobject | VereisteOptioneel | Waarden en limieten Voorwaarden: provider.options wordt op deze Ultra-tekstroute geweigerd | Standaard— |
Veldcache_control.ttl | Typestring | VereisteOptioneel | Waarden en limieten Voorwaarden: 1h wordt op de daadwerkelijke locaties voor promptcaching geweigerd | Standaard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages |
Parametermaterial_types | Contracttext |
Parametermessages | Contractberichtenarray met de structuur role/content |
Parameterfile_material | Contractwerkelijk UTF-8-document ingevoegd als letterlijke tekst; er wordt geen bestands-ID afgeleid |
Parameteroptional_controls | Contractstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Contractmodelspecifiek; functietools van de gebruiker verschillen van gehoste tools |
Parameteroutput_modalities | Contracttext |
Parameterhosted_operations | Contractfalse |
Parametermultimodal_input_binding | Contractnull |
Levenscyclus: synchronous_or_streamed
Stuur het exacte model-ID mee met messages.
Contextlengte is geen uitvoerlimiet.
Een tekstbestand kan letterlijke tekst aanleveren; beeld-, audio- en bestandsobjectinvoer vereisen een exacte koppeling.
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.000144 / 1K tokens Uitvoer · Uitvoertokens $0.00144 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen3-8b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen3-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen3-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar elke keuze en de bijbehorende inhoud, toolaanroepen en redeneringen. Voeg in SSE delta’s samen per keuze-/toolindex en bewaar de uiteindelijke reden van beëindiging en de verbruiksgegevens.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldchoices[].index | Typeinteger |
Veldchoices[].message.content | Typestring|null |
Veldchoices[].message.tool_calls | Typetool_call[] |
Veldchoices[].message.reasoning_content | Typestring |
Veldchoices[].message.reasoning_details | Typeobject|array |
Veldchoices[].finish_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra qwen3-8b
Gebruik de hierboven getoonde methodepaden.
qwen3-8bQwen3-8B biedt meertalige tekstgeneratie, programmeren en twee antwoordmodi in een dense model met 8,2 miljard parameters. Gebruik directe antwoorden voor alledaagse gesprekken en de denkmodus voor problemen die nadere analyse nodig hebben.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Qwen3-8B is een dicht Qwen3-taalmodel dat redeneren en gewone tekstgeneratie combineert. De aangekondigde sterke punten omvatten wiskunde, logisch probleemoplossen, code, creatief schrijven, rolgebonden gesprekken en instructieopvolging over meerdere beurten. De familie ondersteunt meer dan 100 talen en dialecten. Een praktische toepassing is een meertalige supportassistent die een klantbericht en een aangeleverd beleidsfragment omzet in een bruikbaar antwoord, met behoud van productnamen en de gevraagde toon.
Deze release heeft 8,2 miljard parameters, waaronder 6,95 miljard buiten de embeddings, en 36 lagen. Het gebruikt grouped-query attention met 32 querykoppen en acht key/value-koppen. Het is een afzonderlijk dicht model en geen mixture-of-experts-model van 235B dat met minder experts werkt. De werkinvoer en het gegenereerde resultaat zijn tekst: een vertaling, uitleg, herzien document, plan of programma. Kies een duidelijke taak voordat je context toevoegt. Geef voor een supportantwoord het klantbericht, het geldende beleid, de goedgekeurde terminologie en de handeling die de lezer moet uitvoeren; vraag om een antwoord en een afzonderlijke lijst met nog ontbrekende feiten.
De startworkflow van de ontwikkelaar gebruikt een reeks chatberichten en een expliciete chatsjabloon. Voeg voor codehulp de relevante functie, een invoer die het probleem zichtbaar maakt, de werkelijke uitvoer en het verwachte resultaat toe. Vraag om een gecorrigeerde functie met voorbeelden en een afzonderlijke uitleg van het gewijzigde gedrag. Benoem voor vertaling de bron- en doeltaal, de lezers en de te behouden termen. Die invoer maakt de resulterende tekst gemakkelijker te vergelijken met de oorspronkelijke eis. De gepubliceerde integratie verwacht een runtime die Qwen3 herkent; de modelkaart waarschuwt dat Transformers-versies lager dan 4.51.0 de vereiste architectuur niet herkennen.
Hetzelfde model ondersteunt modi met en zonder redeneren. Redeneren is standaard ingeschakeld in de meegeleverde sjabloon. Een harde uitschakeling verwijdert het redeneergedeelte; zolang redeneren ingeschakeld blijft, kunnen /think en /no_think de keuze tussen beurten veranderen. De laatste dergelijke instructie heeft voorrang en die schakelaars op promptniveau kunnen een harde uitschakeling niet opheffen. Gebruik in een productworkflow de directe modus voor een korte herschrijving van een goedgekeurd bericht en kies redeneren voor een afwijking die uitleg vereist. Houd het eindantwoord gescheiden van tussentijdse redeneringen en bewaar alleen het eindantwoord in de latere gespreksgeschiedenis. Met redeneren ingeschakeld behoudt zelfs een zacht verzoek om niet te redeneren een redeneerblok; de inhoud ervan kan leeg zijn. De harde uitschakeling verwijdert dat blok.
De ontwikkelaar beschrijft toolaanroepen en beveelt Qwen-Agent aan om sjablonen en het verwerken van aanroepen te beheren. Een applicatie kan tooldefinities aanbieden, gevraagde aanroepen uitvoeren en de resultaten teruggeven. Voor een supportassistent kan een beperkte, alleen-lezen bestelopzoeking een bevestigde verzendstatus leveren voordat het model een antwoord opstelt. Bepaal de toegestane opzoekvelden en hoe een ontbrekend record moet worden gemeld. Het bruikbare eindresultaat is een antwoord dat op de teruggegeven informatie steunt, geen ongefundeerde bewering dat een externe handeling is geslaagd. De Qwen3-handleiding beschrijft ook parallelle toolaanroepen en aanroepen in meerdere stappen, met argumenten als objecten en resultaten die in het gesprek worden teruggegeven.
De modelkaart noemt 32.768 oorspronkelijke contexttokens en 131.072 met YaRN-uitbreiding. Het gedrag bij lange context hangt dus af van de werkelijke configuratie. Statische YaRN kan kortere aanvragen beïnvloeden, dus de modelkaart adviseert die in te schakelen wanneer lange context nodig is. Invoer, gespreksgeschiedenis en gegenereerde uitvoer gebruiken een gedeeld contextbudget. Label lange brondelen, verwijder irrelevante duplicaten en laat ruimte voor het gevraagde antwoord. Het gepubliceerde generatievoorbeeld en de uitvoeraanbevelingen zijn configuratieadvies en geen onafhankelijk hard uitvoermaximum. De Qwen3-documentatie bespreekt in haar uitleg over de trainingslengte assistentberichten van 38.912 tokens in de redeneermodus en 16.384 zonder redeneren, en beveelt aan de kwaliteit van langere generaties te evalueren. Die aantallen staan los van het totale contextvenster en zijn geen harde limiet van een specifiek endpoint. De modelkaart verklaart ook de standaardtoewijzing van 40.960 posities als 8.192 voor gebruikelijke prompts plus 32.768 voor uitvoer; dit is configuratieadvies van de ontwikkelaar, los van de oorspronkelijke trainingscontext en een eventuele endpointlimiet.
Voor de redeneermodus zijn de aanbevolen samplingwaarden temperature 0.6, top-p 0.95, top-k 20 en min-p 0; zonder redeneren zijn het 0.7, 0.8, 20 en 0. De ontwikkelaar waarschuwt dat greedy decoding bij redeneren herhaalde tekst kan opleveren. Hogere aanwezigheidstraffen kunnen herhaling verminderen, maar soms ook talen vermengen. Definieer het eindformaat expliciet, bijvoorbeeld een antwoord gevolgd door een JSON-object met onopgeloste velden, en valideer dat object voordat een applicatie het gebruikt. Controleer voorgestelde code met de aangeleverde gevallen en beoordeel vertalingen op behoud van terminologie.
POST /v1/messagestextjson, sse| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten qwen3-8b | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten user, assistant | Standaard— |
Veldmessages[].content | Typestring | VereisteVereist | Waarden en limieten | Standaard— |
Veldmax_tokens | Typeinteger | VereisteVereist | Waarden en limieten | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Tekst · UTF-8-tekst
messages[].content als tekenreeks
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages, max_tokens |
Parameteroptional_controls | Contractstream |
Parametermaterial_types | Contracttext |
Parametertext_file_material | ContractLees het werkelijke UTF-8-document en plaats de tekst ervan in de aangegeven invoer of in de inhoudstekenreeks van een bericht. |
Levenscyclus: synchronous_or_streamed
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.000144 / 1K tokens Uitvoer · Uitvoertokens $0.00144 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
{\n "model": "qwen3-8b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen3-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen3-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar alle inhoudsblokken, handtekeningen van redeneringen en werkelijke toolgebruik-ID’s. Voeg alle SSE-blokdelta’s samen; het eerste tekstblok is niet de volledige uitvoer.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldid | Typestring |
Veldmodel | Typestring |
Veldcontent[] | Typetext|thinking|tool_use|other content block |
Veldstop_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra qwen3-8b
Gebruik de hierboven getoonde methodepaden.
Technisch voorbeeld in het Engels
A bilingual reply grounded in a return policy\n\nDraft a German reply to this customer: 'Can I return my unused Aero Cup after ten days?' Policy P1: unused products can be returned within 14 days; the customer must provide the order reference. Keep Aero Cup unchanged and ask for the missing reference. Follow the reply with a short English note naming the facts used.A polite German customer reply and a brief English source-fact note.The reply preserves the unused condition and 14-day window, asks for the reference and does not invent refund timing.