Qwen2.5-32B-Instruct is het op instructies afgestemde 32B-tekstmodel in de algemene Qwen2.5-familie. Het combineert taalbegrip en -generatie met programmeren en wiskunde, in plaats van de afzonderlijk benoemde Coder- of Math-specialist te zijn. De maker benadrukt vooral gedetailleerde instructies volgen, lange teksten schrijven, tabelbegrip en gestructureerde tekst produceren, met name JSON. De familie is voorgetraind op een corpus dat wordt beschreven als tot 18 biljoen tokens groot.
Gestructureerde gegevens, lange antwoorden en meertalig werk
Een nuttige extractietaak levert een bronpassage en de exacte velden die de volgende applicatiestap nodig heeft. Definieer de veldtypen, of de formulering moet worden gekopieerd of samengevat en hoe ontbrekende informatie wordt weergegeven. Een productrecord kan bijvoorbeeld vragen om een identificatie, gebruiksvoorwaarden en een lijst onopgeloste vragen. Vraag alleen om het JSON-record als dit moet worden geparst, of om een aparte uitleg als iemand de reden achter de geëxtraheerde velden moet onderzoeken.
Tabelbegrip is een andere gedocumenteerde focus. Lever de kolomnamen, eenheden en relevante rijen met de vraag aan. Vraag het model de rijen te vinden die aan een voorwaarde voldoen, een verandering tussen perioden uit te leggen of een tabel in een geschreven rapport om te zetten. Een praktische uitvoer kan de identificatie van elke rij bij de bevinding bewaren. Dit behoudt de verbinding tussen de aangeleverde gegevens en het antwoord in plaats van een samenvatting zonder traceerbare bronrij te produceren.
Benoem voor lange teksten het publiek, de secties en bronfeiten voordat je het document vraagt. Een technisch voorstel kan een probleemomschrijving, vereisten, alternatieven en een aanbeveling vereisen met uitsluitend het aangeleverde materiaal. Geef aan welke voorwaarden verplicht zijn en welke vragen moeten worden opgelost. De maker ontwikkelt ook robuustheid bij verschillende systeemprompts, ter ondersteuning van een gedefinieerde rol, toon en gespreksvoorwaarden.
De familie ondersteunt meer dan 29 talen, waaronder Engels, Chinees, Russisch, Frans, Spaans, Portugees, Duits, Italiaans, Japans, Koreaans, Vietnamees, Thai en Arabisch. Maak bij een meertalige taak onderscheid tussen de brontaal en de gewenste uitvoertaal en geef een terminologielijst als namen of technische termen consistent moeten blijven. Een tweetalig rapport kan om dezelfde bronfeiten in twee versies vragen, met behoud van identificaties en eenheden.
Modeldetails van deze editie
De 32B-Instruct-release heeft 32,5 miljard parameters, waaronder 31,0 miljard niet-embeddingparameters, en 64 Transformer-lagen. Het gebruikt roterende positie-embeddings, SwiGLU, RMSNorm en attention-QKV-bias. Grouped-query attention gebruikt 40 queryheads en 8 key/value-heads. Dit is een dense decoder-only taalmodelrelease met pretraining en post-training; Instruct duidt de voor gesprekken getrainde editie aan, niet het basismodel.
De kaart geeft een volledige context van 131.072 tokens en generatie tot 8.192 tokens. Deze getallen beschrijven verschillende delen van een taak: de context bewaart de prompt en het gesprek, terwijl het generatiegetal het geschreven antwoord begrenst. De 512 gegenereerde tokens in de snelstart zijn slechts een voorbeeld binnen die grotere generatiegrens. Het model accepteert en geeft tekst terug; de inhoud van een gescande tabel of schermafbeelding moet als tekst worden aangeleverd, of er is een afzonderlijk visueel model nodig.
Gesprek en tools
De modelkaart toont afzonderlijke systeem- en gebruikersberichten die met de bijbehorende chattemplate worden opgemaakt. Zet de blijvende antwoordregels van de assistent in de juiste gespreksrol en plaats het daadwerkelijke document, de tabel of code bij de taak van de gebruiker. Markeer de grens tussen geciteerd bronmateriaal en instructies, zodat een instructie in een document niet wordt aangezien voor de bedoelde applicatietaak.
De officiële familieaankondiging documenteert toolaanroepen via compatibele gesprekstemplates en dienstintegraties. In die werkwijze levert de toepassing functiebeschrijvingen, ontvangt het voorgestelde aanroepverzoek, voert de functie uit en geeft het resultaat terug. Dit kan een tekstvraag verbinden met een berekening of gegevensopzoeking, maar alleen dit model kiezen levert de externe tool of diens gegevens niet. JSON-generatie en een toolaanroep zijn ook verschillende resultaten: de ene geeft tekst een formaat, de andere vraagt de omringende toepassing een benoemde bewerking uit te voeren.
Lange context voorbereiden
De vrijgegeven configuratie begint bij 32.768 tokens. Invoer boven die instelling vereist de gedocumenteerde YaRN-uitbreiding, waarvan het voorbeeld een factor van 4,0 en een oorspronkelijke maximale positie-instelling van 32.768 gebruikt. De maker waarschuwt dat statische schaling het gedrag bij kortere tekst kan beïnvloeden en beveelt aan deze in te schakelen wanneer langcontextverwerking nodig is.
Geef bij een vergelijking van grote documenten de rol van elk document aan en vraag om één duidelijk gedefinieerd resultaat: een eisenmatrix, een lijst verschillen of een herziene sectie. Bewaar bronlocaties bij geëxtraheerde bevindingen en laat voldoende antwoordruimte voor de gewenste structuur. Lange context helpt het relevante materiaal samen te houden; het vervangt niet de noodzaak te bepalen wat moet worden vergeleken of hoe het eindresultaat wordt gebruikt.
", "aboutText": "Qwen2.5-32B-Instruct is het op instructies afgestemde 32B-tekstmodel in de algemene Qwen2.5-familie. Het combineert taalbegrip en -generatie met programmeren en wiskunde, in plaats van de afzonderlijk benoemde Coder- of Math-specialist te zijn. De maker benadrukt vooral gedetailleerde instructies volgen, lange teksten schrijven, tabelbegrip en gestructureerde tekst produceren, met name JSON. De familie is voorgetraind op een corpus dat wordt beschreven als tot 18 biljoen tokens groot.\n\nGestructureerde gegevens, lange antwoorden en meertalig werk\n\nEen nuttige extractietaak levert een bronpassage en de exacte velden die de volgende applicatiestap nodig heeft. Definieer de veldtypen, of de formulering moet worden gekopieerd of samengevat en hoe ontbrekende informatie wordt weergegeven. Een productrecord kan bijvoorbeeld vragen om een identificatie, gebruiksvoorwaarden en een lijst onopgeloste vragen. Vraag alleen om het JSON-record als dit moet worden geparst, of om een aparte uitleg als iemand de reden achter de geëxtraheerde velden moet onderzoeken.\n\nTabelbegrip is een andere gedocumenteerde focus. Lever de kolomnamen, eenheden en relevante rijen met de vraag aan. Vraag het model de rijen te vinden die aan een voorwaarde voldoen, een verandering tussen perioden uit te leggen of een tabel in een geschreven rapport om te zetten. Een praktische uitvoer kan de identificatie van elke rij bij de bevinding bewaren. Dit behoudt de verbinding tussen de aangeleverde gegevens en het antwoord in plaats van een samenvatting zonder traceerbare bronrij te produceren.\n\nBenoem voor lange teksten het publiek, de secties en bronfeiten voordat je het document vraagt. Een technisch voorstel kan een probleemomschrijving, vereisten, alternatieven en een aanbeveling vereisen met uitsluitend het aangeleverde materiaal. Geef aan welke voorwaarden verplicht zijn en welke vragen moeten worden opgelost. De maker ontwikkelt ook robuustheid bij verschillende systeemprompts, ter ondersteuning van een gedefinieerde rol, toon en gespreksvoorwaarden.\n\nDe familie ondersteunt meer dan 29 talen, waaronder Engels, Chinees, Russisch, Frans, Spaans, Portugees, Duits, Italiaans, Japans, Koreaans, Vietnamees, Thai en Arabisch. Maak bij een meertalige taak onderscheid tussen de brontaal en de gewenste uitvoertaal en geef een terminologielijst als namen of technische termen consistent moeten blijven. Een tweetalig rapport kan om dezelfde bronfeiten in twee versies vragen, met behoud van identificaties en eenheden.\n\nModeldetails van deze editie\n\nDe 32B-Instruct-release heeft 32,5 miljard parameters, waaronder 31,0 miljard niet-embeddingparameters, en 64 Transformer-lagen. Het gebruikt roterende positie-embeddings, SwiGLU, RMSNorm en attention-QKV-bias. Grouped-query attention gebruikt 40 queryheads en 8 key/value-heads. Dit is een dense decoder-only taalmodelrelease met pretraining en post-training; Instruct duidt de voor gesprekken getrainde editie aan, niet het basismodel.\n\nDe kaart geeft een volledige context van 131.072 tokens en generatie tot 8.192 tokens. Deze getallen beschrijven verschillende delen van een taak: de context bewaart de prompt en het gesprek, terwijl het generatiegetal het geschreven antwoord begrenst. De 512 gegenereerde tokens in de snelstart zijn slechts een voorbeeld binnen die grotere generatiegrens. Het model accepteert en geeft tekst terug; de inhoud van een gescande tabel of schermafbeelding moet als tekst worden aangeleverd, of er is een afzonderlijk visueel model nodig.\n\nGesprek en tools\n\nDe modelkaart toont afzonderlijke systeem- en gebruikersberichten die met de bijbehorende chattemplate worden opgemaakt. Zet de blijvende antwoordregels van de assistent in de juiste gespreksrol en plaats het daadwerkelijke document, de tabel of code bij de taak van de gebruiker. Markeer de grens tussen geciteerd bronmateriaal en instructies, zodat een instructie in een document niet wordt aangezien voor de bedoelde applicatietaak.\n\nDe officiële familieaankondiging documenteert toolaanroepen via compatibele gesprekstemplates en dienstintegraties. In die werkwijze levert de toepassing functiebeschrijvingen, ontvangt het voorgestelde aanroepverzoek, voert de functie uit en geeft het resultaat terug. Dit kan een tekstvraag verbinden met een berekening of gegevensopzoeking, maar alleen dit model kiezen levert de externe tool of diens gegevens niet. JSON-generatie en een toolaanroep zijn ook verschillende resultaten: de ene geeft tekst een formaat, de andere vraagt de omringende toepassing een benoemde bewerking uit te voeren.\n\nLange context voorbereiden\n\nDe vrijgegeven configuratie begint bij 32.768 tokens. Invoer boven die instelling vereist de gedocumenteerde YaRN-uitbreiding, waarvan het voorbeeld een factor van 4,0 en een oorspronkelijke maximale positie-instelling van 32.768 gebruikt. De maker waarschuwt dat statische schaling het gedrag bij kortere tekst kan beïnvloeden en beveelt aan deze in te schakelen wanneer langcontextverwerking nodig is.\n\nGeef bij een vergelijking van grote documenten de rol van elk document aan en vraag om één duidelijk gedefinieerd resultaat: een eisenmatrix, een lijst verschillen of een herziene sectie. Bewaar bronlocaties bij geëxtraheerde bevindingen en laat voldoende antwoordruimte voor de gewenste structuur. Lange context helpt het relevante materiaal samen te houden; het vervangt niet de noodzaak te bepalen wat moet worden vergeleken of hoe het eindresultaat wordt gebruikt.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisch voorbeeld in het Engels
Explain a stock table\n\nAnalyze this text table: SKU | opening units | received units | shipped units. A1 | 20 | 10 | 18. B2 | 7 | 0 | 9. Calculate closing stock for each SKU, identify any impossible negative balance and draft a short note naming the row that needs investigation. Preserve column units.A closing-stock table with row IDs and a short anomaly note supported by the source values.Recalculate opening plus received minus shipped and verify the B2 discrepancy is flagged rather than corrected.Qwen/Qwen2.5-32B-InstructQwen2.5-32B-Instruct is een meertalig tekstmodel voor gedetailleerde instructies, programmeren, wiskunde en gestructureerde gegevens. De editie met 32,5 miljard parameters benadrukt tabelbegrip, JSON-uitvoer en lange geschreven resultaten, met gedocumenteerde instellingen voor uitgebreide context.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Qwen2.5-32B-Instruct is het op instructies afgestemde 32B-tekstmodel in de algemene Qwen2.5-familie. Het combineert taalbegrip en -generatie met programmeren en wiskunde, in plaats van de afzonderlijk benoemde Coder- of Math-specialist te zijn. De maker benadrukt vooral gedetailleerde instructies volgen, lange teksten schrijven, tabelbegrip en gestructureerde tekst produceren, met name JSON. De familie is voorgetraind op een corpus dat wordt beschreven als tot 18 biljoen tokens groot.
Gestructureerde gegevens, lange antwoorden en meertalig werk
Een nuttige extractietaak levert een bronpassage en de exacte velden die de volgende applicatiestap nodig heeft. Definieer de veldtypen, of de formulering moet worden gekopieerd of samengevat en hoe ontbrekende informatie wordt weergegeven. Een productrecord kan bijvoorbeeld vragen om een identificatie, gebruiksvoorwaarden en een lijst onopgeloste vragen. Vraag alleen om het JSON-record als dit moet worden geparst, of om een aparte uitleg als iemand de reden achter de geëxtraheerde velden moet onderzoeken.
Tabelbegrip is een andere gedocumenteerde focus. Lever de kolomnamen, eenheden en relevante rijen met de vraag aan. Vraag het model de rijen te vinden die aan een voorwaarde voldoen, een verandering tussen perioden uit te leggen of een tabel in een geschreven rapport om te zetten. Een praktische uitvoer kan de identificatie van elke rij bij de bevinding bewaren. Dit behoudt de verbinding tussen de aangeleverde gegevens en het antwoord in plaats van een samenvatting zonder traceerbare bronrij te produceren.
Benoem voor lange teksten het publiek, de secties en bronfeiten voordat je het document vraagt. Een technisch voorstel kan een probleemomschrijving, vereisten, alternatieven en een aanbeveling vereisen met uitsluitend het aangeleverde materiaal. Geef aan welke voorwaarden verplicht zijn en welke vragen moeten worden opgelost. De maker ontwikkelt ook robuustheid bij verschillende systeemprompts, ter ondersteuning van een gedefinieerde rol, toon en gespreksvoorwaarden.
De familie ondersteunt meer dan 29 talen, waaronder Engels, Chinees, Russisch, Frans, Spaans, Portugees, Duits, Italiaans, Japans, Koreaans, Vietnamees, Thai en Arabisch. Maak bij een meertalige taak onderscheid tussen de brontaal en de gewenste uitvoertaal en geef een terminologielijst als namen of technische termen consistent moeten blijven. Een tweetalig rapport kan om dezelfde bronfeiten in twee versies vragen, met behoud van identificaties en eenheden.
Modeldetails van deze editie
De 32B-Instruct-release heeft 32,5 miljard parameters, waaronder 31,0 miljard niet-embeddingparameters, en 64 Transformer-lagen. Het gebruikt roterende positie-embeddings, SwiGLU, RMSNorm en attention-QKV-bias. Grouped-query attention gebruikt 40 queryheads en 8 key/value-heads. Dit is een dense decoder-only taalmodelrelease met pretraining en post-training; Instruct duidt de voor gesprekken getrainde editie aan, niet het basismodel.
De kaart geeft een volledige context van 131.072 tokens en generatie tot 8.192 tokens. Deze getallen beschrijven verschillende delen van een taak: de context bewaart de prompt en het gesprek, terwijl het generatiegetal het geschreven antwoord begrenst. De 512 gegenereerde tokens in de snelstart zijn slechts een voorbeeld binnen die grotere generatiegrens. Het model accepteert en geeft tekst terug; de inhoud van een gescande tabel of schermafbeelding moet als tekst worden aangeleverd, of er is een afzonderlijk visueel model nodig.
Gesprek en tools
De modelkaart toont afzonderlijke systeem- en gebruikersberichten die met de bijbehorende chattemplate worden opgemaakt. Zet de blijvende antwoordregels van de assistent in de juiste gespreksrol en plaats het daadwerkelijke document, de tabel of code bij de taak van de gebruiker. Markeer de grens tussen geciteerd bronmateriaal en instructies, zodat een instructie in een document niet wordt aangezien voor de bedoelde applicatietaak.
De officiële familieaankondiging documenteert toolaanroepen via compatibele gesprekstemplates en dienstintegraties. In die werkwijze levert de toepassing functiebeschrijvingen, ontvangt het voorgestelde aanroepverzoek, voert de functie uit en geeft het resultaat terug. Dit kan een tekstvraag verbinden met een berekening of gegevensopzoeking, maar alleen dit model kiezen levert de externe tool of diens gegevens niet. JSON-generatie en een toolaanroep zijn ook verschillende resultaten: de ene geeft tekst een formaat, de andere vraagt de omringende toepassing een benoemde bewerking uit te voeren.
Lange context voorbereiden
De vrijgegeven configuratie begint bij 32.768 tokens. Invoer boven die instelling vereist de gedocumenteerde YaRN-uitbreiding, waarvan het voorbeeld een factor van 4,0 en een oorspronkelijke maximale positie-instelling van 32.768 gebruikt. De maker waarschuwt dat statische schaling het gedrag bij kortere tekst kan beïnvloeden en beveelt aan deze in te schakelen wanneer langcontextverwerking nodig is.
Geef bij een vergelijking van grote documenten de rol van elk document aan en vraag om één duidelijk gedefinieerd resultaat: een eisenmatrix, een lijst verschillen of een herziene sectie. Bewaar bronlocaties bij geëxtraheerde bevindingen en laat voldoende antwoordruimte voor de gewenste structuur. Lange context helpt het relevante materiaal samen te houden; het vervangt niet de noodzaak te bepalen wat moet worden vergeleken of hoe het eindresultaat wordt gebruikt.
POST /v1/chat/completionstexttext| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten Qwen/Qwen2.5-32B-Instruct | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten Voorbeelden: system, user, assistant, tool, function Voorwaarden: Deze rollen worden expliciet weergegeven door compatibiliteitstypen in de broncode; de exacte rollenverzameling van het model blijft modelspecifiek. Afhankelijk van het model | Standaard— |
Veldmessages[].content | Typestring|content_part[]|null | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_calls | Typetool_call[] | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_call_id | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: role=tool; gebruik het werkelijk teruggegeven ID | Standaard— |
Veldmessages[].name | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].reasoning_content | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: Stuur de werkelijk teruggegeven redeneringen terug wanneer dit model ze gebruikt | Standaard— |
Veldmessages[].reasoning_details | Typeobject|array | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmax_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldmax_completion_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Veldstream_options.include_usage | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtemperature | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtop_p | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldstop | Typestring|string[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools | Typefunction_tool[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools[].type | Typestring | VereisteOptioneel | Waarden en limieten function Afhankelijk van het model | Standaard— |
Veldtools[].function.name | Typestring | VereisteVereist | Waarden en limieten Geldt wanneer: functietool opgegeven | Standaard— |
Veldtools[].function.description | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtools[].function.parameters | TypeJSON_schema | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtool_choice | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldparallel_tool_calls | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldresponse_format | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning_effort | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldservice_tier | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldinstructions | Typestring | VereisteOptioneel | Waarden en limieten Compatibiliteitsveld | Standaard— |
Veldfunctions | Typefunction[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldfunction_call | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldprompt_cache_options | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmodalities | Typestring[] | VereisteOptioneel | Waarden en limieten text | Standaard— |
Veldprovider | Typeobject | VereisteOptioneel | Waarden en limieten Voorwaarden: provider.options wordt op deze Ultra-tekstroute geweigerd | Standaard— |
Veldcache_control.ttl | Typestring | VereisteOptioneel | Waarden en limieten Voorwaarden: 1h wordt op de daadwerkelijke locaties voor promptcaching geweigerd | Standaard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages |
Parametermaterial_types | Contracttext |
Parametermessages | Contractberichtenarray met de structuur role/content |
Parameterfile_material | Contractwerkelijk UTF-8-document ingevoegd als letterlijke tekst; er wordt geen bestands-ID afgeleid |
Parameteroptional_controls | Contractstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Contractmodelspecifiek; functietools van de gebruiker verschillen van gehoste tools |
Parameteroutput_modalities | Contracttext |
Parameterhosted_operations | Contractfalse |
Parametermultimodal_input_binding | Contractnull |
Levenscyclus: synchronous_or_streamed
Stuur het exacte model-ID mee met messages.
Contextlengte is geen uitvoerlimiet.
Een tekstbestand kan letterlijke tekst aanleveren; beeld-, audio- en bestandsobjectinvoer vereisen een exacte koppeling.
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.00036 / 1K tokens Uitvoer · Uitvoertokens $0.00036 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "Qwen/Qwen2.5-32B-Instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='Qwen/Qwen2.5-32B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='Qwen/Qwen2.5-32B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar elke keuze en de bijbehorende inhoud, toolaanroepen en redeneringen. Voeg in SSE delta’s samen per keuze-/toolindex en bewaar de uiteindelijke reden van beëindiging en de verbruiksgegevens.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldchoices[].index | Typeinteger |
Veldchoices[].message.content | Typestring|null |
Veldchoices[].message.tool_calls | Typetool_call[] |
Veldchoices[].message.reasoning_content | Typestring |
Veldchoices[].message.reasoning_details | Typeobject|array |
Veldchoices[].finish_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
Qwen/Qwen2.5-32B-InstructQwen2.5-32B-Instruct is een meertalig tekstmodel voor gedetailleerde instructies, programmeren, wiskunde en gestructureerde gegevens. De editie met 32,5 miljard parameters benadrukt tabelbegrip, JSON-uitvoer en lange geschreven resultaten, met gedocumenteerde instellingen voor uitgebreide context.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Qwen2.5-32B-Instruct is het op instructies afgestemde 32B-tekstmodel in de algemene Qwen2.5-familie. Het combineert taalbegrip en -generatie met programmeren en wiskunde, in plaats van de afzonderlijk benoemde Coder- of Math-specialist te zijn. De maker benadrukt vooral gedetailleerde instructies volgen, lange teksten schrijven, tabelbegrip en gestructureerde tekst produceren, met name JSON. De familie is voorgetraind op een corpus dat wordt beschreven als tot 18 biljoen tokens groot.
Gestructureerde gegevens, lange antwoorden en meertalig werk
Een nuttige extractietaak levert een bronpassage en de exacte velden die de volgende applicatiestap nodig heeft. Definieer de veldtypen, of de formulering moet worden gekopieerd of samengevat en hoe ontbrekende informatie wordt weergegeven. Een productrecord kan bijvoorbeeld vragen om een identificatie, gebruiksvoorwaarden en een lijst onopgeloste vragen. Vraag alleen om het JSON-record als dit moet worden geparst, of om een aparte uitleg als iemand de reden achter de geëxtraheerde velden moet onderzoeken.
Tabelbegrip is een andere gedocumenteerde focus. Lever de kolomnamen, eenheden en relevante rijen met de vraag aan. Vraag het model de rijen te vinden die aan een voorwaarde voldoen, een verandering tussen perioden uit te leggen of een tabel in een geschreven rapport om te zetten. Een praktische uitvoer kan de identificatie van elke rij bij de bevinding bewaren. Dit behoudt de verbinding tussen de aangeleverde gegevens en het antwoord in plaats van een samenvatting zonder traceerbare bronrij te produceren.
Benoem voor lange teksten het publiek, de secties en bronfeiten voordat je het document vraagt. Een technisch voorstel kan een probleemomschrijving, vereisten, alternatieven en een aanbeveling vereisen met uitsluitend het aangeleverde materiaal. Geef aan welke voorwaarden verplicht zijn en welke vragen moeten worden opgelost. De maker ontwikkelt ook robuustheid bij verschillende systeemprompts, ter ondersteuning van een gedefinieerde rol, toon en gespreksvoorwaarden.
De familie ondersteunt meer dan 29 talen, waaronder Engels, Chinees, Russisch, Frans, Spaans, Portugees, Duits, Italiaans, Japans, Koreaans, Vietnamees, Thai en Arabisch. Maak bij een meertalige taak onderscheid tussen de brontaal en de gewenste uitvoertaal en geef een terminologielijst als namen of technische termen consistent moeten blijven. Een tweetalig rapport kan om dezelfde bronfeiten in twee versies vragen, met behoud van identificaties en eenheden.
Modeldetails van deze editie
De 32B-Instruct-release heeft 32,5 miljard parameters, waaronder 31,0 miljard niet-embeddingparameters, en 64 Transformer-lagen. Het gebruikt roterende positie-embeddings, SwiGLU, RMSNorm en attention-QKV-bias. Grouped-query attention gebruikt 40 queryheads en 8 key/value-heads. Dit is een dense decoder-only taalmodelrelease met pretraining en post-training; Instruct duidt de voor gesprekken getrainde editie aan, niet het basismodel.
De kaart geeft een volledige context van 131.072 tokens en generatie tot 8.192 tokens. Deze getallen beschrijven verschillende delen van een taak: de context bewaart de prompt en het gesprek, terwijl het generatiegetal het geschreven antwoord begrenst. De 512 gegenereerde tokens in de snelstart zijn slechts een voorbeeld binnen die grotere generatiegrens. Het model accepteert en geeft tekst terug; de inhoud van een gescande tabel of schermafbeelding moet als tekst worden aangeleverd, of er is een afzonderlijk visueel model nodig.
Gesprek en tools
De modelkaart toont afzonderlijke systeem- en gebruikersberichten die met de bijbehorende chattemplate worden opgemaakt. Zet de blijvende antwoordregels van de assistent in de juiste gespreksrol en plaats het daadwerkelijke document, de tabel of code bij de taak van de gebruiker. Markeer de grens tussen geciteerd bronmateriaal en instructies, zodat een instructie in een document niet wordt aangezien voor de bedoelde applicatietaak.
De officiële familieaankondiging documenteert toolaanroepen via compatibele gesprekstemplates en dienstintegraties. In die werkwijze levert de toepassing functiebeschrijvingen, ontvangt het voorgestelde aanroepverzoek, voert de functie uit en geeft het resultaat terug. Dit kan een tekstvraag verbinden met een berekening of gegevensopzoeking, maar alleen dit model kiezen levert de externe tool of diens gegevens niet. JSON-generatie en een toolaanroep zijn ook verschillende resultaten: de ene geeft tekst een formaat, de andere vraagt de omringende toepassing een benoemde bewerking uit te voeren.
Lange context voorbereiden
De vrijgegeven configuratie begint bij 32.768 tokens. Invoer boven die instelling vereist de gedocumenteerde YaRN-uitbreiding, waarvan het voorbeeld een factor van 4,0 en een oorspronkelijke maximale positie-instelling van 32.768 gebruikt. De maker waarschuwt dat statische schaling het gedrag bij kortere tekst kan beïnvloeden en beveelt aan deze in te schakelen wanneer langcontextverwerking nodig is.
Geef bij een vergelijking van grote documenten de rol van elk document aan en vraag om één duidelijk gedefinieerd resultaat: een eisenmatrix, een lijst verschillen of een herziene sectie. Bewaar bronlocaties bij geëxtraheerde bevindingen en laat voldoende antwoordruimte voor de gewenste structuur. Lange context helpt het relevante materiaal samen te houden; het vervangt niet de noodzaak te bepalen wat moet worden vergeleken of hoe het eindresultaat wordt gebruikt.
POST /v1/messagestextjson, sse| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten Qwen/Qwen2.5-32B-Instruct | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten user, assistant | Standaard— |
Veldmessages[].content | Typestring | VereisteVereist | Waarden en limieten | Standaard— |
Veldmax_tokens | Typeinteger | VereisteVereist | Waarden en limieten | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Tekst · UTF-8-tekst
messages[].content als tekenreeks
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages, max_tokens |
Parameteroptional_controls | Contractstream |
Parametermaterial_types | Contracttext |
Parametertext_file_material | ContractLees het werkelijke UTF-8-document en plaats de tekst ervan in de aangegeven invoer of in de inhoudstekenreeks van een bericht. |
Levenscyclus: synchronous_or_streamed
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.00036 / 1K tokens Uitvoer · Uitvoertokens $0.00036 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
{\n "model": "Qwen/Qwen2.5-32B-Instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-32B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-32B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar alle inhoudsblokken, handtekeningen van redeneringen en werkelijke toolgebruik-ID’s. Voeg alle SSE-blokdelta’s samen; het eerste tekstblok is niet de volledige uitvoer.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldid | Typestring |
Veldmodel | Typestring |
Veldcontent[] | Typetext|thinking|tool_use|other content block |
Veldstop_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
qwen2.5-32b-instructQwen2.5-32B-Instruct is een meertalig tekstmodel voor gedetailleerde instructies, programmeren, wiskunde en gestructureerde gegevens. De editie met 32,5 miljard parameters benadrukt tabelbegrip, JSON-uitvoer en lange geschreven resultaten, met gedocumenteerde instellingen voor uitgebreide context.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Qwen2.5-32B-Instruct is het op instructies afgestemde 32B-tekstmodel in de algemene Qwen2.5-familie. Het combineert taalbegrip en -generatie met programmeren en wiskunde, in plaats van de afzonderlijk benoemde Coder- of Math-specialist te zijn. De maker benadrukt vooral gedetailleerde instructies volgen, lange teksten schrijven, tabelbegrip en gestructureerde tekst produceren, met name JSON. De familie is voorgetraind op een corpus dat wordt beschreven als tot 18 biljoen tokens groot.
Gestructureerde gegevens, lange antwoorden en meertalig werk
Een nuttige extractietaak levert een bronpassage en de exacte velden die de volgende applicatiestap nodig heeft. Definieer de veldtypen, of de formulering moet worden gekopieerd of samengevat en hoe ontbrekende informatie wordt weergegeven. Een productrecord kan bijvoorbeeld vragen om een identificatie, gebruiksvoorwaarden en een lijst onopgeloste vragen. Vraag alleen om het JSON-record als dit moet worden geparst, of om een aparte uitleg als iemand de reden achter de geëxtraheerde velden moet onderzoeken.
Tabelbegrip is een andere gedocumenteerde focus. Lever de kolomnamen, eenheden en relevante rijen met de vraag aan. Vraag het model de rijen te vinden die aan een voorwaarde voldoen, een verandering tussen perioden uit te leggen of een tabel in een geschreven rapport om te zetten. Een praktische uitvoer kan de identificatie van elke rij bij de bevinding bewaren. Dit behoudt de verbinding tussen de aangeleverde gegevens en het antwoord in plaats van een samenvatting zonder traceerbare bronrij te produceren.
Benoem voor lange teksten het publiek, de secties en bronfeiten voordat je het document vraagt. Een technisch voorstel kan een probleemomschrijving, vereisten, alternatieven en een aanbeveling vereisen met uitsluitend het aangeleverde materiaal. Geef aan welke voorwaarden verplicht zijn en welke vragen moeten worden opgelost. De maker ontwikkelt ook robuustheid bij verschillende systeemprompts, ter ondersteuning van een gedefinieerde rol, toon en gespreksvoorwaarden.
De familie ondersteunt meer dan 29 talen, waaronder Engels, Chinees, Russisch, Frans, Spaans, Portugees, Duits, Italiaans, Japans, Koreaans, Vietnamees, Thai en Arabisch. Maak bij een meertalige taak onderscheid tussen de brontaal en de gewenste uitvoertaal en geef een terminologielijst als namen of technische termen consistent moeten blijven. Een tweetalig rapport kan om dezelfde bronfeiten in twee versies vragen, met behoud van identificaties en eenheden.
Modeldetails van deze editie
De 32B-Instruct-release heeft 32,5 miljard parameters, waaronder 31,0 miljard niet-embeddingparameters, en 64 Transformer-lagen. Het gebruikt roterende positie-embeddings, SwiGLU, RMSNorm en attention-QKV-bias. Grouped-query attention gebruikt 40 queryheads en 8 key/value-heads. Dit is een dense decoder-only taalmodelrelease met pretraining en post-training; Instruct duidt de voor gesprekken getrainde editie aan, niet het basismodel.
De kaart geeft een volledige context van 131.072 tokens en generatie tot 8.192 tokens. Deze getallen beschrijven verschillende delen van een taak: de context bewaart de prompt en het gesprek, terwijl het generatiegetal het geschreven antwoord begrenst. De 512 gegenereerde tokens in de snelstart zijn slechts een voorbeeld binnen die grotere generatiegrens. Het model accepteert en geeft tekst terug; de inhoud van een gescande tabel of schermafbeelding moet als tekst worden aangeleverd, of er is een afzonderlijk visueel model nodig.
Gesprek en tools
De modelkaart toont afzonderlijke systeem- en gebruikersberichten die met de bijbehorende chattemplate worden opgemaakt. Zet de blijvende antwoordregels van de assistent in de juiste gespreksrol en plaats het daadwerkelijke document, de tabel of code bij de taak van de gebruiker. Markeer de grens tussen geciteerd bronmateriaal en instructies, zodat een instructie in een document niet wordt aangezien voor de bedoelde applicatietaak.
De officiële familieaankondiging documenteert toolaanroepen via compatibele gesprekstemplates en dienstintegraties. In die werkwijze levert de toepassing functiebeschrijvingen, ontvangt het voorgestelde aanroepverzoek, voert de functie uit en geeft het resultaat terug. Dit kan een tekstvraag verbinden met een berekening of gegevensopzoeking, maar alleen dit model kiezen levert de externe tool of diens gegevens niet. JSON-generatie en een toolaanroep zijn ook verschillende resultaten: de ene geeft tekst een formaat, de andere vraagt de omringende toepassing een benoemde bewerking uit te voeren.
Lange context voorbereiden
De vrijgegeven configuratie begint bij 32.768 tokens. Invoer boven die instelling vereist de gedocumenteerde YaRN-uitbreiding, waarvan het voorbeeld een factor van 4,0 en een oorspronkelijke maximale positie-instelling van 32.768 gebruikt. De maker waarschuwt dat statische schaling het gedrag bij kortere tekst kan beïnvloeden en beveelt aan deze in te schakelen wanneer langcontextverwerking nodig is.
Geef bij een vergelijking van grote documenten de rol van elk document aan en vraag om één duidelijk gedefinieerd resultaat: een eisenmatrix, een lijst verschillen of een herziene sectie. Bewaar bronlocaties bij geëxtraheerde bevindingen en laat voldoende antwoordruimte voor de gewenste structuur. Lange context helpt het relevante materiaal samen te houden; het vervangt niet de noodzaak te bepalen wat moet worden vergeleken of hoe het eindresultaat wordt gebruikt.
POST /v1/chat/completionstexttext| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten qwen2.5-32b-instruct | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmessages[].content | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: Tekstgesprek | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Tekst · UTF8-tekst
messages[].content
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages |
Parametermaterial_types | Contracttext |
Parametermessages | Contractberichtenarray met de structuur role/content |
Parameterfile_material | Contractwerkelijk UTF-8-document ingevoegd als letterlijke tekst; er wordt geen bestands-ID afgeleid |
Parameteroptional_controls | Contractstream |
Parametercontrol_scope | ContractTekstgesprek; stream is een booleaanse waarde en is standaard false. |
Parameteroutput_modalities | Contracttext |
Parameterhosted_operations | Contractfalse |
Parametermultimodal_input_binding | Contractnull |
Methodealiasnamen: /chat/completions
Levenscyclus: synchronous_or_streamed
Stuur het exacte model-ID mee met messages.
Contextlengte is geen uitvoerlimiet.
Een tekstbestand kan letterlijke tekst aanleveren; beeld-, audio- en bestandsobjectinvoer vereisen een exacte koppeling.
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.00036 / 1K tokens Uitvoer · Uitvoertokens $0.00036 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"qwen2.5-32b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="qwen2.5-32b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar elke keuze en de bijbehorende inhoud, toolaanroepen en redeneringen. Voeg in SSE delta’s samen per keuze-/toolindex en bewaar de uiteindelijke reden van beëindiging en de verbruiksgegevens.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldchoices[].index | Typeinteger |
Veldchoices[].message.content | Typestring|null |
Veldchoices[].message.tool_calls | Typetool_call[] |
Veldchoices[].message.reasoning_content | Typestring |
Veldchoices[].message.reasoning_details | Typeobject|array |
Veldchoices[].finish_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
qwen2.5-32b-instructQwen2.5-32B-Instruct is een meertalig tekstmodel voor gedetailleerde instructies, programmeren, wiskunde en gestructureerde gegevens. De editie met 32,5 miljard parameters benadrukt tabelbegrip, JSON-uitvoer en lange geschreven resultaten, met gedocumenteerde instellingen voor uitgebreide context.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Qwen2.5-32B-Instruct is het op instructies afgestemde 32B-tekstmodel in de algemene Qwen2.5-familie. Het combineert taalbegrip en -generatie met programmeren en wiskunde, in plaats van de afzonderlijk benoemde Coder- of Math-specialist te zijn. De maker benadrukt vooral gedetailleerde instructies volgen, lange teksten schrijven, tabelbegrip en gestructureerde tekst produceren, met name JSON. De familie is voorgetraind op een corpus dat wordt beschreven als tot 18 biljoen tokens groot.
Gestructureerde gegevens, lange antwoorden en meertalig werk
Een nuttige extractietaak levert een bronpassage en de exacte velden die de volgende applicatiestap nodig heeft. Definieer de veldtypen, of de formulering moet worden gekopieerd of samengevat en hoe ontbrekende informatie wordt weergegeven. Een productrecord kan bijvoorbeeld vragen om een identificatie, gebruiksvoorwaarden en een lijst onopgeloste vragen. Vraag alleen om het JSON-record als dit moet worden geparst, of om een aparte uitleg als iemand de reden achter de geëxtraheerde velden moet onderzoeken.
Tabelbegrip is een andere gedocumenteerde focus. Lever de kolomnamen, eenheden en relevante rijen met de vraag aan. Vraag het model de rijen te vinden die aan een voorwaarde voldoen, een verandering tussen perioden uit te leggen of een tabel in een geschreven rapport om te zetten. Een praktische uitvoer kan de identificatie van elke rij bij de bevinding bewaren. Dit behoudt de verbinding tussen de aangeleverde gegevens en het antwoord in plaats van een samenvatting zonder traceerbare bronrij te produceren.
Benoem voor lange teksten het publiek, de secties en bronfeiten voordat je het document vraagt. Een technisch voorstel kan een probleemomschrijving, vereisten, alternatieven en een aanbeveling vereisen met uitsluitend het aangeleverde materiaal. Geef aan welke voorwaarden verplicht zijn en welke vragen moeten worden opgelost. De maker ontwikkelt ook robuustheid bij verschillende systeemprompts, ter ondersteuning van een gedefinieerde rol, toon en gespreksvoorwaarden.
De familie ondersteunt meer dan 29 talen, waaronder Engels, Chinees, Russisch, Frans, Spaans, Portugees, Duits, Italiaans, Japans, Koreaans, Vietnamees, Thai en Arabisch. Maak bij een meertalige taak onderscheid tussen de brontaal en de gewenste uitvoertaal en geef een terminologielijst als namen of technische termen consistent moeten blijven. Een tweetalig rapport kan om dezelfde bronfeiten in twee versies vragen, met behoud van identificaties en eenheden.
Modeldetails van deze editie
De 32B-Instruct-release heeft 32,5 miljard parameters, waaronder 31,0 miljard niet-embeddingparameters, en 64 Transformer-lagen. Het gebruikt roterende positie-embeddings, SwiGLU, RMSNorm en attention-QKV-bias. Grouped-query attention gebruikt 40 queryheads en 8 key/value-heads. Dit is een dense decoder-only taalmodelrelease met pretraining en post-training; Instruct duidt de voor gesprekken getrainde editie aan, niet het basismodel.
De kaart geeft een volledige context van 131.072 tokens en generatie tot 8.192 tokens. Deze getallen beschrijven verschillende delen van een taak: de context bewaart de prompt en het gesprek, terwijl het generatiegetal het geschreven antwoord begrenst. De 512 gegenereerde tokens in de snelstart zijn slechts een voorbeeld binnen die grotere generatiegrens. Het model accepteert en geeft tekst terug; de inhoud van een gescande tabel of schermafbeelding moet als tekst worden aangeleverd, of er is een afzonderlijk visueel model nodig.
Gesprek en tools
De modelkaart toont afzonderlijke systeem- en gebruikersberichten die met de bijbehorende chattemplate worden opgemaakt. Zet de blijvende antwoordregels van de assistent in de juiste gespreksrol en plaats het daadwerkelijke document, de tabel of code bij de taak van de gebruiker. Markeer de grens tussen geciteerd bronmateriaal en instructies, zodat een instructie in een document niet wordt aangezien voor de bedoelde applicatietaak.
De officiële familieaankondiging documenteert toolaanroepen via compatibele gesprekstemplates en dienstintegraties. In die werkwijze levert de toepassing functiebeschrijvingen, ontvangt het voorgestelde aanroepverzoek, voert de functie uit en geeft het resultaat terug. Dit kan een tekstvraag verbinden met een berekening of gegevensopzoeking, maar alleen dit model kiezen levert de externe tool of diens gegevens niet. JSON-generatie en een toolaanroep zijn ook verschillende resultaten: de ene geeft tekst een formaat, de andere vraagt de omringende toepassing een benoemde bewerking uit te voeren.
Lange context voorbereiden
De vrijgegeven configuratie begint bij 32.768 tokens. Invoer boven die instelling vereist de gedocumenteerde YaRN-uitbreiding, waarvan het voorbeeld een factor van 4,0 en een oorspronkelijke maximale positie-instelling van 32.768 gebruikt. De maker waarschuwt dat statische schaling het gedrag bij kortere tekst kan beïnvloeden en beveelt aan deze in te schakelen wanneer langcontextverwerking nodig is.
Geef bij een vergelijking van grote documenten de rol van elk document aan en vraag om één duidelijk gedefinieerd resultaat: een eisenmatrix, een lijst verschillen of een herziene sectie. Bewaar bronlocaties bij geëxtraheerde bevindingen en laat voldoende antwoordruimte voor de gewenste structuur. Lange context helpt het relevante materiaal samen te houden; het vervangt niet de noodzaak te bepalen wat moet worden vergeleken of hoe het eindresultaat wordt gebruikt.
POST /v1/messagestextjson, sse| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten qwen2.5-32b-instruct | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten user, assistant | Standaard— |
Veldmessages[].content | Typestring | VereisteVereist | Waarden en limieten | Standaard— |
Veldmax_tokens | Typeinteger | VereisteVereist | Waarden en limieten | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Tekst · UTF-8-tekst
messages[].content als tekenreeks
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages, max_tokens |
Parameteroptional_controls | Contractstream |
Parametermaterial_types | Contracttext |
Parametertext_file_material | ContractLees het werkelijke UTF-8-document en plaats de tekst ervan in de aangegeven invoer of in de inhoudstekenreeks van een bericht. |
Levenscyclus: synchronous_or_streamed
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.00036 / 1K tokens Uitvoer · Uitvoertokens $0.00036 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
{\n "model": "qwen2.5-32b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-32b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-32b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar alle inhoudsblokken, handtekeningen van redeneringen en werkelijke toolgebruik-ID’s. Voeg alle SSE-blokdelta’s samen; het eerste tekstblok is niet de volledige uitvoer.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldid | Typestring |
Veldmodel | Typestring |
Veldcontent[] | Typetext|thinking|tool_use|other content block |
Veldstop_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
Technisch voorbeeld in het Engels
Explain a stock table\n\nAnalyze this text table: SKU | opening units | received units | shipped units. A1 | 20 | 10 | 18. B2 | 7 | 0 | 9. Calculate closing stock for each SKU, identify any impossible negative balance and draft a short note naming the row that needs investigation. Preserve column units.A closing-stock table with row IDs and a short anomaly note supported by the source values.Recalculate opening plus received minus shipped and verify the B2 discrepancy is flagged rather than corrected.