Qwen3-235B-A22B-FP8 is de officiële FP8-editie van Qwen3-235B-A22B. De aangekondigde tekstmogelijkheden omvatten wiskundig en logisch redeneren, codegeneratie, creatief schrijven, rolgebaseerde dialoog en instructies volgen over meerdere beurten in meer dan 100 talen en dialecten. Het combineert Thinking en directe antwoorden. Gebruik het voor een taak die meerdere beperkingen samenbrengt, zoals twee implementaties aan dezelfde specificatie toetsen en de vergelijking in een concreet wijzigingsvoorstel omzetten.
De onderliggende architectuur is mixture-of-experts: 235 miljard parameters in totaal, 22 miljard actief tijdens verwerking, 94 lagen en 128 experts waarvan er acht per token worden geselecteerd. Grouped-query attention gebruikt 64 querykoppen en vier sleutel/waarde-koppen. Het FP8-achtervoegsel identificeert een afzonderlijk gepubliceerd checkpoint, geen extra antwoordmodaliteit of een ander aantal parameters. Het model ontvangt tekst en genereert tekst. Geef een codereviewassistent de specificatie, relevante bronbestanden en het verwachte gedrag en vraag een beslissingstabel, de geselecteerde wijziging en voorbeelden die het beoogde resultaat aantonen.
De beginwerkwijze van de ontwikkelaar formatteert bronmateriaal en instructies als een gesprek. Label bij een documentvergelijking de versies, vermeld de autoriteit van elke bron en identificeer de vereisten die ongewijzigd moeten blijven. Geef bij een wiskundige vraag de volledige opgave en gewenste vorm van het eindantwoord. Specificeer bij een implementatietaak de taal, werkelijke invoervorm, foutgeval en te behouden interfaces. Maak het eindresultaat expliciet, zodat een lang antwoord het oorspronkelijke verzoek blijft oplossen. De gepubliceerde integratie verwacht een uitvoeromgeving die Qwen3 herkent; de kaart waarschuwt dat Transformers-versies onder 4.51.0 de vereiste architectuur niet herkennen.
Deze editie heeft een eigen FP8-notitie. Het checkpoint gebruikt fijnmazige FP8-kwantisatie met blokgrootte 128; de gepubliceerde configuratie legt het kwantisatieschema vast. De ontwikkelaar noemt Transformers, SGLang en vLLM als inferentieopties, maar waarschuwt voor problemen met fijnmazige FP8 bij gedistribueerde Transformers-inferentie. Gebruik op meerdere apparaten kan CUDA_LAUNCH_BLOCKING=1 vereisen. Dit is een editiegebonden compatibiliteitsdetail, geen reden om tussen uitvoeromgevingen identieke snelheid, geheugengebruik of uitvoerkwaliteit te veronderstellen. Behoud de volledige FP8-naam bij het vergelijken of registreren van resultaten en beoordeel het daadwerkelijke checkpoint in de beoogde omgeving.
Thinking is de standaardinstelling in het aangeleverde chatsjabloon en een harde schakelaar kan het uitschakelen. Als Thinking is ingeschakeld, kunnen /think en /no_think afzonderlijke beurten sturen; de laatste instructie krijgt voorrang. Tekstuele schakelaars overrulen een harde uitschakeling niet. Houd het definitieve antwoord apart van het gegenereerde redeneergedeelte en neem het eindantwoord in de latere gespreksgeschiedenis op. Een gedetailleerde tegenstrijdigheidsanalyse kan om Thinking vragen, terwijl een vervolg dat een aanvaarde conclusie herformatteert om een direct antwoord kan vragen. Als Thinking is ingeschakeld, behoudt zelfs een tekstueel non-Thinking-verzoek een redeneerblok; de inhoud kan leeg zijn. De harde uitschakeling verwijdert dat blok.
De kaart raadt Qwen-Agent aan voor sjablonen en parsing van toolaanroepen. Bij een technische assistent kan de toepassing een testuitvoerder of een alleen-lezen-bronopzoekactie beschikbaar stellen, de geaccepteerde aanroep uitvoeren en bewijs voor het volgende antwoord teruggeven. Specificeer invoer, bevoegdheden en resultaatvelden van de tool. Eis dat de assistent de voorgestelde wijziging aan het geretourneerde resultaat koppelt en onderscheid maakt tussen een gevraagde test en een test die de toepassing daadwerkelijk heeft voltooid. Toolgerelateerde modelmogelijkheden hangen van deze omringende uitvoeringswerkwijze af. De Qwen3-gids beschrijft ook parallelle en meerstapsaanroepen, waarbij argumenten als objecten worden voorgesteld en resultaten aan het gesprek worden teruggeleverd.
De native context is 32.768 tokens, met 131.072 gedocumenteerd via YaRN-uitbreiding. Invoer en gegenereerde uitvoer delen het sequentiebudget. Het grotere venster vereist de relevante configuratie en statisch YaRN kan korte invoer beïnvloeden. Organiseer lang bronmateriaal per bestand of onderdeel en reserveer ruimte voor de eindvergelijking of code. Uitvoerlengten in de snelstart en aanbevelingen voor goede werkwijzen zijn generatieadvies, geen bewijs van een afzonderlijk uitvoermaximum voor de volledige dienst. De Qwen3-documentatie bespreekt in de uitleg van trainingslengten assistentberichten van 38.912 tokens in Thinking-modus en 16.384 in non-Thinking-modus en raadt aan de kwaliteit van langere generatie te beoordelen. Deze cijfers verschillen van het volledige contextvenster en zijn geen harde endpointgebonden limiet. De kaart verklaart ook de standaardpositietoewijzing van 40.960 tokens als 8.192 voor gebruikelijke prompts plus 32.768 voor uitvoer; dit is configuratieadvies van de ontwikkelaar, afzonderlijk van de native trainingscontext en iedere endpointlimiet.
Aanbevolen sampling voor Thinking gebruikt temperature 0,6, top-p 0,95, top-k 20 en min-p 0; directe modus gebruikt 0,7, 0,8, 20 en 0. Greedy decoding in Thinking-modus kan tot herhaling leiden en sterkere presence penalties kunnen taalmenging veroorzaken. Vraag een controleerbare eindstructuur, zoals een resultatentabel gevolgd door de gewijzigde functie en relevante gevallen. Controleer numerieke conclusies, voer code in de doelomgeving uit en beoordeel toolresultaten voordat u een voorgestelde wijziging toepast. De identiteit van het FP8-checkpoint en de aandachtspunten voor de uitvoeromgeving horen bij die beoordeling te blijven.
", "aboutText": "Qwen3-235B-A22B-FP8 is de officiële FP8-editie van Qwen3-235B-A22B. De aangekondigde tekstmogelijkheden omvatten wiskundig en logisch redeneren, codegeneratie, creatief schrijven, rolgebaseerde dialoog en instructies volgen over meerdere beurten in meer dan 100 talen en dialecten. Het combineert Thinking en directe antwoorden. Gebruik het voor een taak die meerdere beperkingen samenbrengt, zoals twee implementaties aan dezelfde specificatie toetsen en de vergelijking in een concreet wijzigingsvoorstel omzetten.\n\nDe onderliggende architectuur is mixture-of-experts: 235 miljard parameters in totaal, 22 miljard actief tijdens verwerking, 94 lagen en 128 experts waarvan er acht per token worden geselecteerd. Grouped-query attention gebruikt 64 querykoppen en vier sleutel/waarde-koppen. Het FP8-achtervoegsel identificeert een afzonderlijk gepubliceerd checkpoint, geen extra antwoordmodaliteit of een ander aantal parameters. Het model ontvangt tekst en genereert tekst. Geef een codereviewassistent de specificatie, relevante bronbestanden en het verwachte gedrag en vraag een beslissingstabel, de geselecteerde wijziging en voorbeelden die het beoogde resultaat aantonen.\n\nDe beginwerkwijze van de ontwikkelaar formatteert bronmateriaal en instructies als een gesprek. Label bij een documentvergelijking de versies, vermeld de autoriteit van elke bron en identificeer de vereisten die ongewijzigd moeten blijven. Geef bij een wiskundige vraag de volledige opgave en gewenste vorm van het eindantwoord. Specificeer bij een implementatietaak de taal, werkelijke invoervorm, foutgeval en te behouden interfaces. Maak het eindresultaat expliciet, zodat een lang antwoord het oorspronkelijke verzoek blijft oplossen. De gepubliceerde integratie verwacht een uitvoeromgeving die Qwen3 herkent; de kaart waarschuwt dat Transformers-versies onder 4.51.0 de vereiste architectuur niet herkennen.\n\nDeze editie heeft een eigen FP8-notitie. Het checkpoint gebruikt fijnmazige FP8-kwantisatie met blokgrootte 128; de gepubliceerde configuratie legt het kwantisatieschema vast. De ontwikkelaar noemt Transformers, SGLang en vLLM als inferentieopties, maar waarschuwt voor problemen met fijnmazige FP8 bij gedistribueerde Transformers-inferentie. Gebruik op meerdere apparaten kan CUDA_LAUNCH_BLOCKING=1 vereisen. Dit is een editiegebonden compatibiliteitsdetail, geen reden om tussen uitvoeromgevingen identieke snelheid, geheugengebruik of uitvoerkwaliteit te veronderstellen. Behoud de volledige FP8-naam bij het vergelijken of registreren van resultaten en beoordeel het daadwerkelijke checkpoint in de beoogde omgeving.\n\nThinking is de standaardinstelling in het aangeleverde chatsjabloon en een harde schakelaar kan het uitschakelen. Als Thinking is ingeschakeld, kunnen /think en /no_think afzonderlijke beurten sturen; de laatste instructie krijgt voorrang. Tekstuele schakelaars overrulen een harde uitschakeling niet. Houd het definitieve antwoord apart van het gegenereerde redeneergedeelte en neem het eindantwoord in de latere gespreksgeschiedenis op. Een gedetailleerde tegenstrijdigheidsanalyse kan om Thinking vragen, terwijl een vervolg dat een aanvaarde conclusie herformatteert om een direct antwoord kan vragen. Als Thinking is ingeschakeld, behoudt zelfs een tekstueel non-Thinking-verzoek een redeneerblok; de inhoud kan leeg zijn. De harde uitschakeling verwijdert dat blok.\n\nDe kaart raadt Qwen-Agent aan voor sjablonen en parsing van toolaanroepen. Bij een technische assistent kan de toepassing een testuitvoerder of een alleen-lezen-bronopzoekactie beschikbaar stellen, de geaccepteerde aanroep uitvoeren en bewijs voor het volgende antwoord teruggeven. Specificeer invoer, bevoegdheden en resultaatvelden van de tool. Eis dat de assistent de voorgestelde wijziging aan het geretourneerde resultaat koppelt en onderscheid maakt tussen een gevraagde test en een test die de toepassing daadwerkelijk heeft voltooid. Toolgerelateerde modelmogelijkheden hangen van deze omringende uitvoeringswerkwijze af. De Qwen3-gids beschrijft ook parallelle en meerstapsaanroepen, waarbij argumenten als objecten worden voorgesteld en resultaten aan het gesprek worden teruggeleverd.\n\nDe native context is 32.768 tokens, met 131.072 gedocumenteerd via YaRN-uitbreiding. Invoer en gegenereerde uitvoer delen het sequentiebudget. Het grotere venster vereist de relevante configuratie en statisch YaRN kan korte invoer beïnvloeden. Organiseer lang bronmateriaal per bestand of onderdeel en reserveer ruimte voor de eindvergelijking of code. Uitvoerlengten in de snelstart en aanbevelingen voor goede werkwijzen zijn generatieadvies, geen bewijs van een afzonderlijk uitvoermaximum voor de volledige dienst. De Qwen3-documentatie bespreekt in de uitleg van trainingslengten assistentberichten van 38.912 tokens in Thinking-modus en 16.384 in non-Thinking-modus en raadt aan de kwaliteit van langere generatie te beoordelen. Deze cijfers verschillen van het volledige contextvenster en zijn geen harde endpointgebonden limiet. De kaart verklaart ook de standaardpositietoewijzing van 40.960 tokens als 8.192 voor gebruikelijke prompts plus 32.768 voor uitvoer; dit is configuratieadvies van de ontwikkelaar, afzonderlijk van de native trainingscontext en iedere endpointlimiet.\n\nAanbevolen sampling voor Thinking gebruikt temperature 0,6, top-p 0,95, top-k 20 en min-p 0; directe modus gebruikt 0,7, 0,8, 20 en 0. Greedy decoding in Thinking-modus kan tot herhaling leiden en sterkere presence penalties kunnen taalmenging veroorzaken. Vraag een controleerbare eindstructuur, zoals een resultatentabel gevolgd door de gewijzigde functie en relevante gevallen. Controleer numerieke conclusies, voer code in de doelomgeving uit en beoordeel toolresultaten voordat u een voorgestelde wijziging toepast. De identiteit van het FP8-checkpoint en de aandachtspunten voor de uitvoeromgeving horen bij die beoordeling te blijven.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisch voorbeeld in het Engels
Compare two normalizers to a contract\n\nThe contract requires unique case-sensitive tags in first-occurrence order. Compare Python A: return sorted(set(tags)) with B: return list(dict.fromkeys(tags)). Input: ["red", "Blue", "red", "blue"]. Give a criterion table, select the compliant implementation and provide tests for order and case preservation. Do not alter the contract to fit either implementation.A two-implementation decision table, a selected implementation and two contract-focused tests.Check that sorting is recognized as an order violation and Blue remains distinct from blue.qwen/qwen3-235b-a22b-fp8Qwen3-235B-A22B-FP8 is het officiële fijnmazige FP8-checkpoint van het grote mixture-of-experts-model van Qwen3. Het behoudt hybride tekstuele redeneer- en gespreksvaardigheden, met zijn eigen kwantisatie-identiteit en aandachtspunten voor de uitvoeromgeving.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Qwen3-235B-A22B-FP8 is de officiële FP8-editie van Qwen3-235B-A22B. De aangekondigde tekstmogelijkheden omvatten wiskundig en logisch redeneren, codegeneratie, creatief schrijven, rolgebaseerde dialoog en instructies volgen over meerdere beurten in meer dan 100 talen en dialecten. Het combineert Thinking en directe antwoorden. Gebruik het voor een taak die meerdere beperkingen samenbrengt, zoals twee implementaties aan dezelfde specificatie toetsen en de vergelijking in een concreet wijzigingsvoorstel omzetten.
De onderliggende architectuur is mixture-of-experts: 235 miljard parameters in totaal, 22 miljard actief tijdens verwerking, 94 lagen en 128 experts waarvan er acht per token worden geselecteerd. Grouped-query attention gebruikt 64 querykoppen en vier sleutel/waarde-koppen. Het FP8-achtervoegsel identificeert een afzonderlijk gepubliceerd checkpoint, geen extra antwoordmodaliteit of een ander aantal parameters. Het model ontvangt tekst en genereert tekst. Geef een codereviewassistent de specificatie, relevante bronbestanden en het verwachte gedrag en vraag een beslissingstabel, de geselecteerde wijziging en voorbeelden die het beoogde resultaat aantonen.
De beginwerkwijze van de ontwikkelaar formatteert bronmateriaal en instructies als een gesprek. Label bij een documentvergelijking de versies, vermeld de autoriteit van elke bron en identificeer de vereisten die ongewijzigd moeten blijven. Geef bij een wiskundige vraag de volledige opgave en gewenste vorm van het eindantwoord. Specificeer bij een implementatietaak de taal, werkelijke invoervorm, foutgeval en te behouden interfaces. Maak het eindresultaat expliciet, zodat een lang antwoord het oorspronkelijke verzoek blijft oplossen. De gepubliceerde integratie verwacht een uitvoeromgeving die Qwen3 herkent; de kaart waarschuwt dat Transformers-versies onder 4.51.0 de vereiste architectuur niet herkennen.
Deze editie heeft een eigen FP8-notitie. Het checkpoint gebruikt fijnmazige FP8-kwantisatie met blokgrootte 128; de gepubliceerde configuratie legt het kwantisatieschema vast. De ontwikkelaar noemt Transformers, SGLang en vLLM als inferentieopties, maar waarschuwt voor problemen met fijnmazige FP8 bij gedistribueerde Transformers-inferentie. Gebruik op meerdere apparaten kan CUDA_LAUNCH_BLOCKING=1 vereisen. Dit is een editiegebonden compatibiliteitsdetail, geen reden om tussen uitvoeromgevingen identieke snelheid, geheugengebruik of uitvoerkwaliteit te veronderstellen. Behoud de volledige FP8-naam bij het vergelijken of registreren van resultaten en beoordeel het daadwerkelijke checkpoint in de beoogde omgeving.
Thinking is de standaardinstelling in het aangeleverde chatsjabloon en een harde schakelaar kan het uitschakelen. Als Thinking is ingeschakeld, kunnen /think en /no_think afzonderlijke beurten sturen; de laatste instructie krijgt voorrang. Tekstuele schakelaars overrulen een harde uitschakeling niet. Houd het definitieve antwoord apart van het gegenereerde redeneergedeelte en neem het eindantwoord in de latere gespreksgeschiedenis op. Een gedetailleerde tegenstrijdigheidsanalyse kan om Thinking vragen, terwijl een vervolg dat een aanvaarde conclusie herformatteert om een direct antwoord kan vragen. Als Thinking is ingeschakeld, behoudt zelfs een tekstueel non-Thinking-verzoek een redeneerblok; de inhoud kan leeg zijn. De harde uitschakeling verwijdert dat blok.
De kaart raadt Qwen-Agent aan voor sjablonen en parsing van toolaanroepen. Bij een technische assistent kan de toepassing een testuitvoerder of een alleen-lezen-bronopzoekactie beschikbaar stellen, de geaccepteerde aanroep uitvoeren en bewijs voor het volgende antwoord teruggeven. Specificeer invoer, bevoegdheden en resultaatvelden van de tool. Eis dat de assistent de voorgestelde wijziging aan het geretourneerde resultaat koppelt en onderscheid maakt tussen een gevraagde test en een test die de toepassing daadwerkelijk heeft voltooid. Toolgerelateerde modelmogelijkheden hangen van deze omringende uitvoeringswerkwijze af. De Qwen3-gids beschrijft ook parallelle en meerstapsaanroepen, waarbij argumenten als objecten worden voorgesteld en resultaten aan het gesprek worden teruggeleverd.
De native context is 32.768 tokens, met 131.072 gedocumenteerd via YaRN-uitbreiding. Invoer en gegenereerde uitvoer delen het sequentiebudget. Het grotere venster vereist de relevante configuratie en statisch YaRN kan korte invoer beïnvloeden. Organiseer lang bronmateriaal per bestand of onderdeel en reserveer ruimte voor de eindvergelijking of code. Uitvoerlengten in de snelstart en aanbevelingen voor goede werkwijzen zijn generatieadvies, geen bewijs van een afzonderlijk uitvoermaximum voor de volledige dienst. De Qwen3-documentatie bespreekt in de uitleg van trainingslengten assistentberichten van 38.912 tokens in Thinking-modus en 16.384 in non-Thinking-modus en raadt aan de kwaliteit van langere generatie te beoordelen. Deze cijfers verschillen van het volledige contextvenster en zijn geen harde endpointgebonden limiet. De kaart verklaart ook de standaardpositietoewijzing van 40.960 tokens als 8.192 voor gebruikelijke prompts plus 32.768 voor uitvoer; dit is configuratieadvies van de ontwikkelaar, afzonderlijk van de native trainingscontext en iedere endpointlimiet.
Aanbevolen sampling voor Thinking gebruikt temperature 0,6, top-p 0,95, top-k 20 en min-p 0; directe modus gebruikt 0,7, 0,8, 20 en 0. Greedy decoding in Thinking-modus kan tot herhaling leiden en sterkere presence penalties kunnen taalmenging veroorzaken. Vraag een controleerbare eindstructuur, zoals een resultatentabel gevolgd door de gewijzigde functie en relevante gevallen. Controleer numerieke conclusies, voer code in de doelomgeving uit en beoordeel toolresultaten voordat u een voorgestelde wijziging toepast. De identiteit van het FP8-checkpoint en de aandachtspunten voor de uitvoeromgeving horen bij die beoordeling te blijven.
POST /v1/chat/completionstexttext| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten qwen/qwen3-235b-a22b-fp8 | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten Voorbeelden: system, user, assistant, tool, function Voorwaarden: Deze rollen worden expliciet weergegeven door compatibiliteitstypen in de broncode; de exacte rollenverzameling van het model blijft modelspecifiek. Afhankelijk van het model | Standaard— |
Veldmessages[].content | Typestring|content_part[]|null | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_calls | Typetool_call[] | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_call_id | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: role=tool; gebruik het werkelijk teruggegeven ID | Standaard— |
Veldmessages[].name | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].reasoning_content | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: Stuur de werkelijk teruggegeven redeneringen terug wanneer dit model ze gebruikt | Standaard— |
Veldmessages[].reasoning_details | Typeobject|array | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmax_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldmax_completion_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Veldstream_options.include_usage | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtemperature | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtop_p | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldstop | Typestring|string[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools | Typefunction_tool[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools[].type | Typestring | VereisteOptioneel | Waarden en limieten function Afhankelijk van het model | Standaard— |
Veldtools[].function.name | Typestring | VereisteVereist | Waarden en limieten Geldt wanneer: functietool opgegeven | Standaard— |
Veldtools[].function.description | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtools[].function.parameters | TypeJSON_schema | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtool_choice | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldparallel_tool_calls | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldresponse_format | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning_effort | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldservice_tier | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldinstructions | Typestring | VereisteOptioneel | Waarden en limieten Compatibiliteitsveld | Standaard— |
Veldfunctions | Typefunction[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldfunction_call | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldprompt_cache_options | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmodalities | Typestring[] | VereisteOptioneel | Waarden en limieten text | Standaard— |
Veldprovider | Typeobject | VereisteOptioneel | Waarden en limieten Voorwaarden: provider.options wordt op deze Ultra-tekstroute geweigerd | Standaard— |
Veldcache_control.ttl | Typestring | VereisteOptioneel | Waarden en limieten Voorwaarden: 1h wordt op de daadwerkelijke locaties voor promptcaching geweigerd | Standaard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages |
Parametermaterial_types | Contracttext |
Parametermessages | Contractberichtenarray met de structuur role/content |
Parameterfile_material | Contractwerkelijk UTF-8-document ingevoegd als letterlijke tekst; er wordt geen bestands-ID afgeleid |
Parameteroptional_controls | Contractstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Contractmodelspecifiek; functietools van de gebruiker verschillen van gehoste tools |
Parameteroutput_modalities | Contracttext |
Parameterhosted_operations | Contractfalse |
Parametermultimodal_input_binding | Contractnull |
Levenscyclus: synchronous_or_streamed
Stuur het exacte model-ID mee met messages.
Contextlengte is geen uitvoerlimiet.
Een tekstbestand kan letterlijke tekst aanleveren; beeld-, audio- en bestandsobjectinvoer vereisen een exacte koppeling.
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.0004 / 1K tokens Uitvoer · Uitvoertokens $0.0016 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen3-235b-a22b-fp8", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen3-235b-a22b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen3-235b-a22b-fp8',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar elke keuze en de bijbehorende inhoud, toolaanroepen en redeneringen. Voeg in SSE delta’s samen per keuze-/toolindex en bewaar de uiteindelijke reden van beëindiging en de verbruiksgegevens.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldchoices[].index | Typeinteger |
Veldchoices[].message.content | Typestring|null |
Veldchoices[].message.tool_calls | Typetool_call[] |
Veldchoices[].message.reasoning_content | Typestring |
Veldchoices[].message.reasoning_details | Typeobject|array |
Veldchoices[].finish_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra qwen/qwen3-235b-a22b-fp8
Gebruik de hierboven getoonde methodepaden.
qwen/qwen3-235b-a22b-fp8Qwen3-235B-A22B-FP8 is het officiële fijnmazige FP8-checkpoint van het grote mixture-of-experts-model van Qwen3. Het behoudt hybride tekstuele redeneer- en gespreksvaardigheden, met zijn eigen kwantisatie-identiteit en aandachtspunten voor de uitvoeromgeving.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Qwen3-235B-A22B-FP8 is de officiële FP8-editie van Qwen3-235B-A22B. De aangekondigde tekstmogelijkheden omvatten wiskundig en logisch redeneren, codegeneratie, creatief schrijven, rolgebaseerde dialoog en instructies volgen over meerdere beurten in meer dan 100 talen en dialecten. Het combineert Thinking en directe antwoorden. Gebruik het voor een taak die meerdere beperkingen samenbrengt, zoals twee implementaties aan dezelfde specificatie toetsen en de vergelijking in een concreet wijzigingsvoorstel omzetten.
De onderliggende architectuur is mixture-of-experts: 235 miljard parameters in totaal, 22 miljard actief tijdens verwerking, 94 lagen en 128 experts waarvan er acht per token worden geselecteerd. Grouped-query attention gebruikt 64 querykoppen en vier sleutel/waarde-koppen. Het FP8-achtervoegsel identificeert een afzonderlijk gepubliceerd checkpoint, geen extra antwoordmodaliteit of een ander aantal parameters. Het model ontvangt tekst en genereert tekst. Geef een codereviewassistent de specificatie, relevante bronbestanden en het verwachte gedrag en vraag een beslissingstabel, de geselecteerde wijziging en voorbeelden die het beoogde resultaat aantonen.
De beginwerkwijze van de ontwikkelaar formatteert bronmateriaal en instructies als een gesprek. Label bij een documentvergelijking de versies, vermeld de autoriteit van elke bron en identificeer de vereisten die ongewijzigd moeten blijven. Geef bij een wiskundige vraag de volledige opgave en gewenste vorm van het eindantwoord. Specificeer bij een implementatietaak de taal, werkelijke invoervorm, foutgeval en te behouden interfaces. Maak het eindresultaat expliciet, zodat een lang antwoord het oorspronkelijke verzoek blijft oplossen. De gepubliceerde integratie verwacht een uitvoeromgeving die Qwen3 herkent; de kaart waarschuwt dat Transformers-versies onder 4.51.0 de vereiste architectuur niet herkennen.
Deze editie heeft een eigen FP8-notitie. Het checkpoint gebruikt fijnmazige FP8-kwantisatie met blokgrootte 128; de gepubliceerde configuratie legt het kwantisatieschema vast. De ontwikkelaar noemt Transformers, SGLang en vLLM als inferentieopties, maar waarschuwt voor problemen met fijnmazige FP8 bij gedistribueerde Transformers-inferentie. Gebruik op meerdere apparaten kan CUDA_LAUNCH_BLOCKING=1 vereisen. Dit is een editiegebonden compatibiliteitsdetail, geen reden om tussen uitvoeromgevingen identieke snelheid, geheugengebruik of uitvoerkwaliteit te veronderstellen. Behoud de volledige FP8-naam bij het vergelijken of registreren van resultaten en beoordeel het daadwerkelijke checkpoint in de beoogde omgeving.
Thinking is de standaardinstelling in het aangeleverde chatsjabloon en een harde schakelaar kan het uitschakelen. Als Thinking is ingeschakeld, kunnen /think en /no_think afzonderlijke beurten sturen; de laatste instructie krijgt voorrang. Tekstuele schakelaars overrulen een harde uitschakeling niet. Houd het definitieve antwoord apart van het gegenereerde redeneergedeelte en neem het eindantwoord in de latere gespreksgeschiedenis op. Een gedetailleerde tegenstrijdigheidsanalyse kan om Thinking vragen, terwijl een vervolg dat een aanvaarde conclusie herformatteert om een direct antwoord kan vragen. Als Thinking is ingeschakeld, behoudt zelfs een tekstueel non-Thinking-verzoek een redeneerblok; de inhoud kan leeg zijn. De harde uitschakeling verwijdert dat blok.
De kaart raadt Qwen-Agent aan voor sjablonen en parsing van toolaanroepen. Bij een technische assistent kan de toepassing een testuitvoerder of een alleen-lezen-bronopzoekactie beschikbaar stellen, de geaccepteerde aanroep uitvoeren en bewijs voor het volgende antwoord teruggeven. Specificeer invoer, bevoegdheden en resultaatvelden van de tool. Eis dat de assistent de voorgestelde wijziging aan het geretourneerde resultaat koppelt en onderscheid maakt tussen een gevraagde test en een test die de toepassing daadwerkelijk heeft voltooid. Toolgerelateerde modelmogelijkheden hangen van deze omringende uitvoeringswerkwijze af. De Qwen3-gids beschrijft ook parallelle en meerstapsaanroepen, waarbij argumenten als objecten worden voorgesteld en resultaten aan het gesprek worden teruggeleverd.
De native context is 32.768 tokens, met 131.072 gedocumenteerd via YaRN-uitbreiding. Invoer en gegenereerde uitvoer delen het sequentiebudget. Het grotere venster vereist de relevante configuratie en statisch YaRN kan korte invoer beïnvloeden. Organiseer lang bronmateriaal per bestand of onderdeel en reserveer ruimte voor de eindvergelijking of code. Uitvoerlengten in de snelstart en aanbevelingen voor goede werkwijzen zijn generatieadvies, geen bewijs van een afzonderlijk uitvoermaximum voor de volledige dienst. De Qwen3-documentatie bespreekt in de uitleg van trainingslengten assistentberichten van 38.912 tokens in Thinking-modus en 16.384 in non-Thinking-modus en raadt aan de kwaliteit van langere generatie te beoordelen. Deze cijfers verschillen van het volledige contextvenster en zijn geen harde endpointgebonden limiet. De kaart verklaart ook de standaardpositietoewijzing van 40.960 tokens als 8.192 voor gebruikelijke prompts plus 32.768 voor uitvoer; dit is configuratieadvies van de ontwikkelaar, afzonderlijk van de native trainingscontext en iedere endpointlimiet.
Aanbevolen sampling voor Thinking gebruikt temperature 0,6, top-p 0,95, top-k 20 en min-p 0; directe modus gebruikt 0,7, 0,8, 20 en 0. Greedy decoding in Thinking-modus kan tot herhaling leiden en sterkere presence penalties kunnen taalmenging veroorzaken. Vraag een controleerbare eindstructuur, zoals een resultatentabel gevolgd door de gewijzigde functie en relevante gevallen. Controleer numerieke conclusies, voer code in de doelomgeving uit en beoordeel toolresultaten voordat u een voorgestelde wijziging toepast. De identiteit van het FP8-checkpoint en de aandachtspunten voor de uitvoeromgeving horen bij die beoordeling te blijven.
POST /v1/messagestextjson, sse| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten qwen/qwen3-235b-a22b-fp8 | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten user, assistant | Standaard— |
Veldmessages[].content | Typestring | VereisteVereist | Waarden en limieten | Standaard— |
Veldmax_tokens | Typeinteger | VereisteVereist | Waarden en limieten | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Tekst · UTF-8-tekst
messages[].content als tekenreeks
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages, max_tokens |
Parameteroptional_controls | Contractstream |
Parametermaterial_types | Contracttext |
Parametertext_file_material | ContractLees het werkelijke UTF-8-document en plaats de tekst ervan in de aangegeven invoer of in de inhoudstekenreeks van een bericht. |
Levenscyclus: synchronous_or_streamed
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.0004 / 1K tokens Uitvoer · Uitvoertokens $0.0016 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
{\n "model": "qwen/qwen3-235b-a22b-fp8",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-235b-a22b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen3-235b-a22b-fp8', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar alle inhoudsblokken, handtekeningen van redeneringen en werkelijke toolgebruik-ID’s. Voeg alle SSE-blokdelta’s samen; het eerste tekstblok is niet de volledige uitvoer.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldid | Typestring |
Veldmodel | Typestring |
Veldcontent[] | Typetext|thinking|tool_use|other content block |
Veldstop_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra qwen/qwen3-235b-a22b-fp8
Gebruik de hierboven getoonde methodepaden.
Technisch voorbeeld in het Engels
Compare two normalizers to a contract\n\nThe contract requires unique case-sensitive tags in first-occurrence order. Compare Python A: return sorted(set(tags)) with B: return list(dict.fromkeys(tags)). Input: ["red", "Blue", "red", "blue"]. Give a criterion table, select the compliant implementation and provide tests for order and case preservation. Do not alter the contract to fit either implementation.A two-implementation decision table, a selected implementation and two contract-focused tests.Check that sorting is recognized as an order violation and Blue remains distinct from blue.