Qwen3-8B är en tät Qwen3-språkmodell som kombinerar resonemang med vanlig textgenerering. Dess angivna styrkor omfattar matematik, logisk problemlösning, kod, kreativt skrivande, rollbaserad dialog och instruktionsföljande över flera turer. Familjen stöder fler än 100 språk och dialekter. En praktisk tillämpning är en flerspråkig supportassistent som omvandlar en kunds meddelande och ett tillhandahållet policyutdrag till ett användbart svar och samtidigt behåller produktnamn och önskad ton.
Denna utgåva har 8.2 miljarder parametrar, inklusive 6.95 miljarder utanför inbäddningarna, och 36 lager. Den använder grupperad frågeuppmärksamhet med 32 frågehuvuden och åtta nyckel/värde-huvuden. Det är en separat tät modell snarare än expertblandningsmodellen på 235B som arbetar med färre experter. Arbetsindatan och det genererade resultatet är text: en översättning, förklaring, reviderat dokument, plan eller ett program. Välj en tydlig uppgift innan kontext läggs till. För ett supportsvar anger du kundmeddelandet, tillämplig policy, godkänd terminologi och den handling läsaren ska utföra; begär ett svar och en separat lista över fakta som fortfarande saknas.
Tillverkarens startflöde använder en sekvens av chattmeddelanden och en uttrycklig chattmall. För kodhjälp inkluderar du relevant funktion, indata som blottlägger problemet, den faktiska utdatan och det förväntade resultatet. Be om en korrigerad funktion med exempel och en separat förklaring av det ändrade beteendet. För översättning identifierar du käll- och målspråk, läsare och termer som ska bevaras. Dessa indata gör resultattexten lättare att jämföra med originalkravet. Den publicerade integrationen förväntar sig en Qwen3-medveten körmiljö; kortet varnar för att Transformers-versioner under 4.51.0 inte känner igen den nödvändiga arkitekturen.
Samma modell stöder tänkande och icke-tänkande lägen. Tänkande är aktiverat som standard i den tillhandahållna mallen. Hård avstängning tar bort resonemangsavsnittet; när tänkande förblir aktiverat kan /think och /no_think ändra valet mellan turer. Den senaste sådana instruktionen har företräde och dessa omkopplare på promptnivå kan inte åsidosätta en hård avstängning. I ett produktflöde använder du direktläget för en kort omskrivning av ett godkänt meddelande och väljer resonemang för en avvikelse som behöver förklaras. Håll slutsvaret skilt från mellanliggande resonemang och behåll bara slutsvaret i senare konversationshistorik. När tänkande är aktiverat behåller även en mjuk begäran om icke-tänkande ett resonemangsblock; innehållet kan vara tomt. Hård avstängning tar bort blocket.
Tillverkaren beskriver verktygsanrop och rekommenderar Qwen-Agent för att hantera mallar och tolkning. En applikation kan ge verktygsdefinitioner, köra begärda anrop och returnera resultaten. För en supportassistent kan ett snävt skrivskyddat orderuppslag ge en bekräftad leveransstatus innan modellen skriver ett svar. Ange tillåtna uppslagsfält och hur en saknad post ska rapporteras. Det användbara slutresultatet är ett svar grundat i den returnerade informationen, inte ett obelagt påstående om att en extern operation lyckades. Qwen3-guiden beskriver också parallella verktygsanrop och anrop i flera steg, med argument som objekt och resultat återförda till konversationen.
Modellkortet anger 32,768 ursprungliga kontexttoken och 131,072 med YaRN-utökning. Beteendet över lång kontext beror därför på den faktiska konfigurationen. Statisk YaRN kan påverka kortare förfrågningar, så kortet rekommenderar att aktivera den när lång kontext behövs. Indata, konversationshistorik och genererade utdata förbrukar en gemensam kontextbudget. Märk långa källavsnitt, ta bort ovidkommande dubbletter och lämna utrymme för det begärda svaret. Det publicerade genereringsexemplet och utdatarekommendationerna är konfigurationsvägledning, inte ett oberoende hårt utdatamaximum. Qwen3-dokumentationen diskuterar assistant-meddelandelängder på 38,912 token i tänkande läge och 16,384 i icke-tänkande läge i sin förklaring av träningslängd och rekommenderar att kvaliteten vid längre generering utvärderas. Siffrorna är skilda från det totala kontextfönstret och är inte en slutpunktsspecifik hård gräns. Kortet förklarar också sin standardfördelning av 40,960 tokenpositioner som 8,192 för typiska promptar plus 32,768 för utdata; detta är tillverkarens konfigurationsvägledning, skild från den ursprungliga träningskontexten och eventuell slutpunktsgräns.
För tänkande läge är de rekommenderade samplingsvärdena temperature 0.6, top-p 0.95, top-k 20 och min-p 0; för icke-tänkande är de 0.7, 0.8, 20 och 0. Tillverkaren varnar för att girig avkodning vid resonemang kan ge upprepad text. Högre närvarostraff kan minska upprepning men ibland orsaka språkblandning. Definiera slutformatet uttryckligen, exempelvis ett svar följt av ett JSON-objekt med olösta fält, och validera objektet innan en applikation använder det. Kontrollera föreslagen kod med de tillhandahållna fallen och granska översättningar för bevarad terminologi.
", "aboutText": "Qwen3-8B är en tät Qwen3-språkmodell som kombinerar resonemang med vanlig textgenerering. Dess angivna styrkor omfattar matematik, logisk problemlösning, kod, kreativt skrivande, rollbaserad dialog och instruktionsföljande över flera turer. Familjen stöder fler än 100 språk och dialekter. En praktisk tillämpning är en flerspråkig supportassistent som omvandlar en kunds meddelande och ett tillhandahållet policyutdrag till ett användbart svar och samtidigt behåller produktnamn och önskad ton.\n\nDenna utgåva har 8.2 miljarder parametrar, inklusive 6.95 miljarder utanför inbäddningarna, och 36 lager. Den använder grupperad frågeuppmärksamhet med 32 frågehuvuden och åtta nyckel/värde-huvuden. Det är en separat tät modell snarare än expertblandningsmodellen på 235B som arbetar med färre experter. Arbetsindatan och det genererade resultatet är text: en översättning, förklaring, reviderat dokument, plan eller ett program. Välj en tydlig uppgift innan kontext läggs till. För ett supportsvar anger du kundmeddelandet, tillämplig policy, godkänd terminologi och den handling läsaren ska utföra; begär ett svar och en separat lista över fakta som fortfarande saknas.\n\nTillverkarens startflöde använder en sekvens av chattmeddelanden och en uttrycklig chattmall. För kodhjälp inkluderar du relevant funktion, indata som blottlägger problemet, den faktiska utdatan och det förväntade resultatet. Be om en korrigerad funktion med exempel och en separat förklaring av det ändrade beteendet. För översättning identifierar du käll- och målspråk, läsare och termer som ska bevaras. Dessa indata gör resultattexten lättare att jämföra med originalkravet. Den publicerade integrationen förväntar sig en Qwen3-medveten körmiljö; kortet varnar för att Transformers-versioner under 4.51.0 inte känner igen den nödvändiga arkitekturen.\n\nSamma modell stöder tänkande och icke-tänkande lägen. Tänkande är aktiverat som standard i den tillhandahållna mallen. Hård avstängning tar bort resonemangsavsnittet; när tänkande förblir aktiverat kan /think och /no_think ändra valet mellan turer. Den senaste sådana instruktionen har företräde och dessa omkopplare på promptnivå kan inte åsidosätta en hård avstängning. I ett produktflöde använder du direktläget för en kort omskrivning av ett godkänt meddelande och väljer resonemang för en avvikelse som behöver förklaras. Håll slutsvaret skilt från mellanliggande resonemang och behåll bara slutsvaret i senare konversationshistorik. När tänkande är aktiverat behåller även en mjuk begäran om icke-tänkande ett resonemangsblock; innehållet kan vara tomt. Hård avstängning tar bort blocket.\n\nTillverkaren beskriver verktygsanrop och rekommenderar Qwen-Agent för att hantera mallar och tolkning. En applikation kan ge verktygsdefinitioner, köra begärda anrop och returnera resultaten. För en supportassistent kan ett snävt skrivskyddat orderuppslag ge en bekräftad leveransstatus innan modellen skriver ett svar. Ange tillåtna uppslagsfält och hur en saknad post ska rapporteras. Det användbara slutresultatet är ett svar grundat i den returnerade informationen, inte ett obelagt påstående om att en extern operation lyckades. Qwen3-guiden beskriver också parallella verktygsanrop och anrop i flera steg, med argument som objekt och resultat återförda till konversationen.\n\nModellkortet anger 32,768 ursprungliga kontexttoken och 131,072 med YaRN-utökning. Beteendet över lång kontext beror därför på den faktiska konfigurationen. Statisk YaRN kan påverka kortare förfrågningar, så kortet rekommenderar att aktivera den när lång kontext behövs. Indata, konversationshistorik och genererade utdata förbrukar en gemensam kontextbudget. Märk långa källavsnitt, ta bort ovidkommande dubbletter och lämna utrymme för det begärda svaret. Det publicerade genereringsexemplet och utdatarekommendationerna är konfigurationsvägledning, inte ett oberoende hårt utdatamaximum. Qwen3-dokumentationen diskuterar assistant-meddelandelängder på 38,912 token i tänkande läge och 16,384 i icke-tänkande läge i sin förklaring av träningslängd och rekommenderar att kvaliteten vid längre generering utvärderas. Siffrorna är skilda från det totala kontextfönstret och är inte en slutpunktsspecifik hård gräns. Kortet förklarar också sin standardfördelning av 40,960 tokenpositioner som 8,192 för typiska promptar plus 32,768 för utdata; detta är tillverkarens konfigurationsvägledning, skild från den ursprungliga träningskontexten och eventuell slutpunktsgräns.\n\nFör tänkande läge är de rekommenderade samplingsvärdena temperature 0.6, top-p 0.95, top-k 20 och min-p 0; för icke-tänkande är de 0.7, 0.8, 20 och 0. Tillverkaren varnar för att girig avkodning vid resonemang kan ge upprepad text. Högre närvarostraff kan minska upprepning men ibland orsaka språkblandning. Definiera slutformatet uttryckligen, exempelvis ett svar följt av ett JSON-objekt med olösta fält, och validera objektet innan en applikation använder det. Kontrollera föreslagen kod med de tillhandahållna fallen och granska översättningar för bevarad terminologi.", "editorialOverlay": { "copy_fields": { "practical_html": "Tekniskt exempel på engelska
A bilingual reply grounded in a return policy\n\nDraft a German reply to this customer: 'Can I return my unused Aero Cup after ten days?' Policy P1: unused products can be returned within 14 days; the customer must provide the order reference. Keep Aero Cup unchanged and ask for the missing reference. Follow the reply with a short English note naming the facts used.A polite German customer reply and a brief English source-fact note.The reply preserves the unused condition and 14-day window, asks for the reference and does not invent refund timing.qwen3-8bQwen3-8B erbjuder flerspråkig textgenerering, kodning och två svarslägen i en tät modell med 8.2 miljarder parametrar. Använd direkta svar för vardaglig dialog och resonemangsläget för problem som kräver närmare analys.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Qwen3-8B är en tät Qwen3-språkmodell som kombinerar resonemang med vanlig textgenerering. Dess angivna styrkor omfattar matematik, logisk problemlösning, kod, kreativt skrivande, rollbaserad dialog och instruktionsföljande över flera turer. Familjen stöder fler än 100 språk och dialekter. En praktisk tillämpning är en flerspråkig supportassistent som omvandlar en kunds meddelande och ett tillhandahållet policyutdrag till ett användbart svar och samtidigt behåller produktnamn och önskad ton.
Denna utgåva har 8.2 miljarder parametrar, inklusive 6.95 miljarder utanför inbäddningarna, och 36 lager. Den använder grupperad frågeuppmärksamhet med 32 frågehuvuden och åtta nyckel/värde-huvuden. Det är en separat tät modell snarare än expertblandningsmodellen på 235B som arbetar med färre experter. Arbetsindatan och det genererade resultatet är text: en översättning, förklaring, reviderat dokument, plan eller ett program. Välj en tydlig uppgift innan kontext läggs till. För ett supportsvar anger du kundmeddelandet, tillämplig policy, godkänd terminologi och den handling läsaren ska utföra; begär ett svar och en separat lista över fakta som fortfarande saknas.
Tillverkarens startflöde använder en sekvens av chattmeddelanden och en uttrycklig chattmall. För kodhjälp inkluderar du relevant funktion, indata som blottlägger problemet, den faktiska utdatan och det förväntade resultatet. Be om en korrigerad funktion med exempel och en separat förklaring av det ändrade beteendet. För översättning identifierar du käll- och målspråk, läsare och termer som ska bevaras. Dessa indata gör resultattexten lättare att jämföra med originalkravet. Den publicerade integrationen förväntar sig en Qwen3-medveten körmiljö; kortet varnar för att Transformers-versioner under 4.51.0 inte känner igen den nödvändiga arkitekturen.
Samma modell stöder tänkande och icke-tänkande lägen. Tänkande är aktiverat som standard i den tillhandahållna mallen. Hård avstängning tar bort resonemangsavsnittet; när tänkande förblir aktiverat kan /think och /no_think ändra valet mellan turer. Den senaste sådana instruktionen har företräde och dessa omkopplare på promptnivå kan inte åsidosätta en hård avstängning. I ett produktflöde använder du direktläget för en kort omskrivning av ett godkänt meddelande och väljer resonemang för en avvikelse som behöver förklaras. Håll slutsvaret skilt från mellanliggande resonemang och behåll bara slutsvaret i senare konversationshistorik. När tänkande är aktiverat behåller även en mjuk begäran om icke-tänkande ett resonemangsblock; innehållet kan vara tomt. Hård avstängning tar bort blocket.
Tillverkaren beskriver verktygsanrop och rekommenderar Qwen-Agent för att hantera mallar och tolkning. En applikation kan ge verktygsdefinitioner, köra begärda anrop och returnera resultaten. För en supportassistent kan ett snävt skrivskyddat orderuppslag ge en bekräftad leveransstatus innan modellen skriver ett svar. Ange tillåtna uppslagsfält och hur en saknad post ska rapporteras. Det användbara slutresultatet är ett svar grundat i den returnerade informationen, inte ett obelagt påstående om att en extern operation lyckades. Qwen3-guiden beskriver också parallella verktygsanrop och anrop i flera steg, med argument som objekt och resultat återförda till konversationen.
Modellkortet anger 32,768 ursprungliga kontexttoken och 131,072 med YaRN-utökning. Beteendet över lång kontext beror därför på den faktiska konfigurationen. Statisk YaRN kan påverka kortare förfrågningar, så kortet rekommenderar att aktivera den när lång kontext behövs. Indata, konversationshistorik och genererade utdata förbrukar en gemensam kontextbudget. Märk långa källavsnitt, ta bort ovidkommande dubbletter och lämna utrymme för det begärda svaret. Det publicerade genereringsexemplet och utdatarekommendationerna är konfigurationsvägledning, inte ett oberoende hårt utdatamaximum. Qwen3-dokumentationen diskuterar assistant-meddelandelängder på 38,912 token i tänkande läge och 16,384 i icke-tänkande läge i sin förklaring av träningslängd och rekommenderar att kvaliteten vid längre generering utvärderas. Siffrorna är skilda från det totala kontextfönstret och är inte en slutpunktsspecifik hård gräns. Kortet förklarar också sin standardfördelning av 40,960 tokenpositioner som 8,192 för typiska promptar plus 32,768 för utdata; detta är tillverkarens konfigurationsvägledning, skild från den ursprungliga träningskontexten och eventuell slutpunktsgräns.
För tänkande läge är de rekommenderade samplingsvärdena temperature 0.6, top-p 0.95, top-k 20 och min-p 0; för icke-tänkande är de 0.7, 0.8, 20 och 0. Tillverkaren varnar för att girig avkodning vid resonemang kan ge upprepad text. Högre närvarostraff kan minska upprepning men ibland orsaka språkblandning. Definiera slutformatet uttryckligen, exempelvis ett svar följt av ett JSON-objekt med olösta fält, och validera objektet innan en applikation använder det. Kontrollera föreslagen kod med de tillhandahållna fallen och granska översättningar för bevarad terminologi.
POST /v1/chat/completionstexttext| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser qwen3-8b | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser Exempel: system, user, assistant, tool, function Villkor: Dessa roller representeras uttryckligen av källkodens kompatibilitetstyper; den exakta rolluppsättningen är fortfarande modellspecifik. Beror på modellen | Standard— |
Fältmessages[].content | Typstring|content_part[]|null | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_calls | Typtool_call[] | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_call_id | Typstring | KravValfritt | Värden & gränser Gäller när: role=tool; använd det faktiska returnerade ID:t | Standard— |
Fältmessages[].name | Typstring | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].reasoning_content | Typstring | KravValfritt | Värden & gränser Gäller när: Skicka tillbaka det faktiska returnerade resonemanget när modellen använder det | Standard— |
Fältmessages[].reasoning_details | Typobject|array | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmax_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältmax_completion_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Fältstream_options.include_usage | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttemperature | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttop_p | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältstop | Typstring|string[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools | Typfunction_tool[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools[].type | Typstring | KravValfritt | Värden & gränser function Beror på modellen | Standard— |
Fälttools[].function.name | Typstring | KravObligatoriskt | Värden & gränser Gäller när: verktyg av typen funktion har tillhandahållits | Standard— |
Fälttools[].function.description | Typstring | KravValfritt | Värden & gränser | Standard— |
Fälttools[].function.parameters | TypJSON_schema | KravValfritt | Värden & gränser | Standard— |
Fälttool_choice | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältparallel_tool_calls | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältresponse_format | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning_effort | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältservice_tier | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältinstructions | Typstring | KravValfritt | Värden & gränser Kompatibilitetsfält | Standard— |
Fältfunctions | Typfunction[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältfunction_call | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältprompt_cache_options | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmodalities | Typstring[] | KravValfritt | Värden & gränser text | Standard— |
Fältprovider | Typobject | KravValfritt | Värden & gränser Villkor: provider.options avvisas på denna Ultra-textrutt | Standard— |
Fältcache_control.ttl | Typstring | KravValfritt | Värden & gränser Villkor: 1h avvisas på de faktiska platserna för promptcache | Standard— |
Text · UTF8-text
messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages |
Parametermaterial_types | Avtaltext |
Parametermessages | Avtalmeddelandearray med strukturen role/content |
Parameterfile_material | Avtaldet faktiska UTF-8-dokumentet infogat som bokstavlig text; inget fil-ID härleds |
Parameteroptional_controls | Avtalstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalmodellspecifikt; användarens funktionsverktyg skiljer sig från värdbaserade verktyg |
Parameteroutput_modalities | Avtaltext |
Parameterhosted_operations | Avtalfalse |
Parametermultimodal_input_binding | Avtalnull |
Livscykel: synchronous_or_streamed
Skicka det exakta modell-ID:t tillsammans med messages.
Kontextlängden är inte en utdatagräns.
En textfil kan tillhandahålla bokstavlig text; bild-/ljud-/filobjektsindata kräver exakt bindning.
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
| Konfiguration | Prislista | Avgift |
|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Avgift Indata · Indatatoken $0.000144 / 1K token Utdata · Utdatatoken $0.00144 / 1K token Indata · Cacheläsning $0 / 1K token Indata · Skrivning till cache $0 / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen3-8b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen3-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen3-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll varje svarsalternativ och dess innehåll/verktygsanrop/resonemang. Sätt i SSE samman deltauppdateringar efter svarsalternativets/verktygets index och behåll den slutliga avslutsorsaken och användningsuppgifterna.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältchoices[].index | Typinteger |
Fältchoices[].message.content | Typstring|null |
Fältchoices[].message.tool_calls | Typtool_call[] |
Fältchoices[].message.reasoning_content | Typstring |
Fältchoices[].message.reasoning_details | Typobject|array |
Fältchoices[].finish_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra qwen3-8b
Använd metodsökvägarna som visas ovan.
qwen3-8bQwen3-8B erbjuder flerspråkig textgenerering, kodning och två svarslägen i en tät modell med 8.2 miljarder parametrar. Använd direkta svar för vardaglig dialog och resonemangsläget för problem som kräver närmare analys.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Qwen3-8B är en tät Qwen3-språkmodell som kombinerar resonemang med vanlig textgenerering. Dess angivna styrkor omfattar matematik, logisk problemlösning, kod, kreativt skrivande, rollbaserad dialog och instruktionsföljande över flera turer. Familjen stöder fler än 100 språk och dialekter. En praktisk tillämpning är en flerspråkig supportassistent som omvandlar en kunds meddelande och ett tillhandahållet policyutdrag till ett användbart svar och samtidigt behåller produktnamn och önskad ton.
Denna utgåva har 8.2 miljarder parametrar, inklusive 6.95 miljarder utanför inbäddningarna, och 36 lager. Den använder grupperad frågeuppmärksamhet med 32 frågehuvuden och åtta nyckel/värde-huvuden. Det är en separat tät modell snarare än expertblandningsmodellen på 235B som arbetar med färre experter. Arbetsindatan och det genererade resultatet är text: en översättning, förklaring, reviderat dokument, plan eller ett program. Välj en tydlig uppgift innan kontext läggs till. För ett supportsvar anger du kundmeddelandet, tillämplig policy, godkänd terminologi och den handling läsaren ska utföra; begär ett svar och en separat lista över fakta som fortfarande saknas.
Tillverkarens startflöde använder en sekvens av chattmeddelanden och en uttrycklig chattmall. För kodhjälp inkluderar du relevant funktion, indata som blottlägger problemet, den faktiska utdatan och det förväntade resultatet. Be om en korrigerad funktion med exempel och en separat förklaring av det ändrade beteendet. För översättning identifierar du käll- och målspråk, läsare och termer som ska bevaras. Dessa indata gör resultattexten lättare att jämföra med originalkravet. Den publicerade integrationen förväntar sig en Qwen3-medveten körmiljö; kortet varnar för att Transformers-versioner under 4.51.0 inte känner igen den nödvändiga arkitekturen.
Samma modell stöder tänkande och icke-tänkande lägen. Tänkande är aktiverat som standard i den tillhandahållna mallen. Hård avstängning tar bort resonemangsavsnittet; när tänkande förblir aktiverat kan /think och /no_think ändra valet mellan turer. Den senaste sådana instruktionen har företräde och dessa omkopplare på promptnivå kan inte åsidosätta en hård avstängning. I ett produktflöde använder du direktläget för en kort omskrivning av ett godkänt meddelande och väljer resonemang för en avvikelse som behöver förklaras. Håll slutsvaret skilt från mellanliggande resonemang och behåll bara slutsvaret i senare konversationshistorik. När tänkande är aktiverat behåller även en mjuk begäran om icke-tänkande ett resonemangsblock; innehållet kan vara tomt. Hård avstängning tar bort blocket.
Tillverkaren beskriver verktygsanrop och rekommenderar Qwen-Agent för att hantera mallar och tolkning. En applikation kan ge verktygsdefinitioner, köra begärda anrop och returnera resultaten. För en supportassistent kan ett snävt skrivskyddat orderuppslag ge en bekräftad leveransstatus innan modellen skriver ett svar. Ange tillåtna uppslagsfält och hur en saknad post ska rapporteras. Det användbara slutresultatet är ett svar grundat i den returnerade informationen, inte ett obelagt påstående om att en extern operation lyckades. Qwen3-guiden beskriver också parallella verktygsanrop och anrop i flera steg, med argument som objekt och resultat återförda till konversationen.
Modellkortet anger 32,768 ursprungliga kontexttoken och 131,072 med YaRN-utökning. Beteendet över lång kontext beror därför på den faktiska konfigurationen. Statisk YaRN kan påverka kortare förfrågningar, så kortet rekommenderar att aktivera den när lång kontext behövs. Indata, konversationshistorik och genererade utdata förbrukar en gemensam kontextbudget. Märk långa källavsnitt, ta bort ovidkommande dubbletter och lämna utrymme för det begärda svaret. Det publicerade genereringsexemplet och utdatarekommendationerna är konfigurationsvägledning, inte ett oberoende hårt utdatamaximum. Qwen3-dokumentationen diskuterar assistant-meddelandelängder på 38,912 token i tänkande läge och 16,384 i icke-tänkande läge i sin förklaring av träningslängd och rekommenderar att kvaliteten vid längre generering utvärderas. Siffrorna är skilda från det totala kontextfönstret och är inte en slutpunktsspecifik hård gräns. Kortet förklarar också sin standardfördelning av 40,960 tokenpositioner som 8,192 för typiska promptar plus 32,768 för utdata; detta är tillverkarens konfigurationsvägledning, skild från den ursprungliga träningskontexten och eventuell slutpunktsgräns.
För tänkande läge är de rekommenderade samplingsvärdena temperature 0.6, top-p 0.95, top-k 20 och min-p 0; för icke-tänkande är de 0.7, 0.8, 20 och 0. Tillverkaren varnar för att girig avkodning vid resonemang kan ge upprepad text. Högre närvarostraff kan minska upprepning men ibland orsaka språkblandning. Definiera slutformatet uttryckligen, exempelvis ett svar följt av ett JSON-objekt med olösta fält, och validera objektet innan en applikation använder det. Kontrollera föreslagen kod med de tillhandahållna fallen och granska översättningar för bevarad terminologi.
POST /v1/messagestextjson, sse| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser qwen3-8b | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser user, assistant | Standard— |
Fältmessages[].content | Typstring | KravObligatoriskt | Värden & gränser | Standard— |
Fältmax_tokens | Typinteger | KravObligatoriskt | Värden & gränser | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Text · UTF-8-text
sträng i messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages, max_tokens |
Parameteroptional_controls | Avtalstream |
Parametermaterial_types | Avtaltext |
Parametertext_file_material | AvtalLäs det faktiska UTF-8-dokumentet och placera texten i det angivna input-fältet eller i strängen för meddelandets innehåll. |
Livscykel: synchronous_or_streamed
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
| Konfiguration | Prislista | Avgift |
|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Avgift Indata · Indatatoken $0.000144 / 1K token Utdata · Utdatatoken $0.00144 / 1K token Indata · Cacheläsning $0 / 1K token Indata · Skrivning till cache $0 / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
{\n "model": "qwen3-8b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen3-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen3-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll alla innehållsblock, resonemangssignaturer och faktiska ID:n för verktygsanvändning. Sätt samman alla SSE-deltauppdateringar för blocken; ett första textblock är inte hela utdata.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältid | Typstring |
Fältmodel | Typstring |
Fältcontent[] | Typtext|thinking|tool_use|other content block |
Fältstop_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra qwen3-8b
Använd metodsökvägarna som visas ovan.
Tekniskt exempel på engelska
A bilingual reply grounded in a return policy\n\nDraft a German reply to this customer: 'Can I return my unused Aero Cup after ten days?' Policy P1: unused products can be returned within 14 days; the customer must provide the order reference. Keep Aero Cup unchanged and ask for the missing reference. Follow the reply with a short English note naming the facts used.A polite German customer reply and a brief English source-fact note.The reply preserves the unused condition and 14-day window, asks for the reference and does not invent refund timing.