Qwen2.5-32B-Instruct is het op instructies afgestemde tekstmodel in 32B-formaat van de algemene Qwen2.5-familie. Het combineert taalbegrip en generatie met programmeren en wiskunde, in plaats van de afzonderlijk benoemde Coder- of Math-specialist te zijn. De ontwikkelaar benadrukt vooral gedetailleerde instructies volgen, lange teksten schrijven, tabellen begrijpen en gestructureerde tekst produceren, vooral JSON. De familie is voorgetraind op een corpus dat volgens de beschrijving 18 biljoen tokens bereikt.
Gestructureerde gegevens, lange antwoorden en meertalig werk
Een nuttige extractietaak levert een bronpassage en exact de velden die de volgende toepassingsstap nodig heeft. Definieer de veldtypen, of de bewoording gekopieerd of samengevat moet worden en hoe ontbrekende informatie wordt weergegeven. Een productrecord kan bijvoorbeeld een identificatie, bedrijfsomstandigheden en een lijst met onopgeloste vragen vragen. Vraag alleen het JSON-record wanneer het geparst moet worden, of een afzonderlijke uitleg wanneer iemand de redenering achter de geëxtraheerde velden moet onderzoeken.
Tabelbegrip is een ander gedocumenteerd aandachtspunt. Lever de kolomnamen, eenheden en relevante rijen samen met de vraag aan. Vraag het model de rijen te identificeren die aan een voorwaarde voldoen, een verandering tussen perioden te verklaren of een tabel in een geschreven rapport om te zetten. Een praktische uitvoer kan de identificatie van elke rij naast de bevinding behouden. Dat bewaart de koppeling tussen de aangeleverde gegevens en het antwoord, in plaats van een samenvatting zonder traceerbare bronrij te produceren.
Benoem voor lange teksten de doelgroep, onderdelen en bronfeiten voordat u om het document vraagt. Een technisch voorstel kan een probleemomschrijving, vereisten, alternatieven en een aanbeveling nodig hebben, uitsluitend op basis van het aangeleverde materiaal. Geef aan welke voorwaarden verplicht zijn en welke vragen nog moeten worden opgelost. De ontwikkelaar verbetert ook de robuustheid bij verschillende systeemprompts, ter ondersteuning van een gedefinieerde rol, toon en gespreksvoorwaarden.
De familie ondersteunt meer dan 29 talen, waaronder Engels, Chinees, Russisch, Frans, Spaans, Portugees, Duits, Italiaans, Japans, Koreaans, Vietnamees, Thai en Arabisch. Maak bij een meertalige taak een onderscheid tussen de brontaal en de vereiste uitvoertaal en geef een terminologielijst als namen of technische termen consistent moeten blijven. Een tweetalig rapport kan dezelfde bronfeiten in twee versies vragen, met behoud van identificaties en eenheden.
Modeldetails van deze editie
De 32B-Instruct-release heeft 32,5 miljard parameters, waarvan 31,0 miljard geen embeddingparameters zijn, en 64 Transformer-lagen. Ze gebruikt roterende positie-embeddings, SwiGLU, RMSNorm en QKV-bias in de attention. Grouped-query attention gebruikt 40 querykoppen en 8 sleutel/waarde-koppen. Dit is een taalmodelrelease met een dense, decoder-only architectuur, met pretraining en post-training; Instruct identificeert de voor gesprekken getrainde editie in plaats van het basismodel.
De kaart vermeldt een volledige context van 131.072 tokens en generatie van maximaal 8.192 tokens. Deze cijfers beschrijven verschillende delen van een taak: de context houdt de prompt en het gesprek vast, terwijl het generatiecijfer het geschreven antwoord begrenst. De 512 gegenereerde tokens in de snelstart zijn slechts een voorbeeld binnen die grotere opgegeven generatielimiet. Het model accepteert en retourneert tekst; de inhoud van een gescande tabel of screenshot moet als tekst beschikbaar worden gemaakt of door een afzonderlijk visueel model worden verwerkt.
Gesprek en tools
De modelkaart toont afzonderlijke systeem- en gebruikersberichten, geformatteerd met het bijbehorende chatsjabloon. Zet de duurzame antwoordregels van de assistent in de passende gespreksrol en plaats het daadwerkelijke document, de tabel of code bij de taak van de gebruiker. Markeer de grens tussen geciteerd bronmateriaal en instructies, zodat een instructie binnen een document niet voor de bedoelde taak van de toepassing wordt gehouden.
De officiële familieaankondiging documenteert toolaanroepen via compatibele gesprekssjablonen en dienstintegraties. In zo'n proces levert de toepassing de functiebeschrijvingen, ontvangt de voorgestelde aanroep, voert de functie uit en retourneert het resultaat. Dat kan een tekstuele vraag koppelen aan een berekening of gegevensopzoekactie, maar dit model kiezen levert op zichzelf geen externe tool of de bijbehorende gegevens. JSON-generatie en een toolaanroep zijn ook verschillende resultaten: het ene formatteert tekst, het andere vraagt de omringende toepassing om een benoemde bewerking uit te voeren.
Lange context voorbereiden
De gepubliceerde configuratie begint bij 32.768 tokens. Invoer boven die instelling vereist de gedocumenteerde YaRN-uitbreiding; het voorbeeld gebruikt een factor van 4,0 en een oorspronkelijke instelling van 32.768 maximale posities. De ontwikkelaar waarschuwt dat statische schaling het gedrag bij kortere teksten kan beïnvloeden en raadt aan die in te schakelen wanneer verwerking van lange context nodig is.
Benoem bij een vergelijking van grote documenten de rol van elk document en vraag één duidelijk gedefinieerd resultaat: een vereistenmatrix, afwijkingenlijst of herzien onderdeel. Behoud bronposities naast de geëxtraheerde bevindingen en laat voldoende antwoordruimte voor de gevraagde structuur. Langcontextcapaciteit helpt het relevante materiaal samen te houden; ze vervangt niet de noodzaak te definiëren wat vergeleken moet worden of hoe het uiteindelijke resultaat gebruikt zal worden.
", "aboutText": "Qwen2.5-32B-Instruct is het op instructies afgestemde tekstmodel in 32B-formaat van de algemene Qwen2.5-familie. Het combineert taalbegrip en generatie met programmeren en wiskunde, in plaats van de afzonderlijk benoemde Coder- of Math-specialist te zijn. De ontwikkelaar benadrukt vooral gedetailleerde instructies volgen, lange teksten schrijven, tabellen begrijpen en gestructureerde tekst produceren, vooral JSON. De familie is voorgetraind op een corpus dat volgens de beschrijving 18 biljoen tokens bereikt.\n\nGestructureerde gegevens, lange antwoorden en meertalig werk\n\nEen nuttige extractietaak levert een bronpassage en exact de velden die de volgende toepassingsstap nodig heeft. Definieer de veldtypen, of de bewoording gekopieerd of samengevat moet worden en hoe ontbrekende informatie wordt weergegeven. Een productrecord kan bijvoorbeeld een identificatie, bedrijfsomstandigheden en een lijst met onopgeloste vragen vragen. Vraag alleen het JSON-record wanneer het geparst moet worden, of een afzonderlijke uitleg wanneer iemand de redenering achter de geëxtraheerde velden moet onderzoeken.\n\nTabelbegrip is een ander gedocumenteerd aandachtspunt. Lever de kolomnamen, eenheden en relevante rijen samen met de vraag aan. Vraag het model de rijen te identificeren die aan een voorwaarde voldoen, een verandering tussen perioden te verklaren of een tabel in een geschreven rapport om te zetten. Een praktische uitvoer kan de identificatie van elke rij naast de bevinding behouden. Dat bewaart de koppeling tussen de aangeleverde gegevens en het antwoord, in plaats van een samenvatting zonder traceerbare bronrij te produceren.\n\nBenoem voor lange teksten de doelgroep, onderdelen en bronfeiten voordat u om het document vraagt. Een technisch voorstel kan een probleemomschrijving, vereisten, alternatieven en een aanbeveling nodig hebben, uitsluitend op basis van het aangeleverde materiaal. Geef aan welke voorwaarden verplicht zijn en welke vragen nog moeten worden opgelost. De ontwikkelaar verbetert ook de robuustheid bij verschillende systeemprompts, ter ondersteuning van een gedefinieerde rol, toon en gespreksvoorwaarden.\n\nDe familie ondersteunt meer dan 29 talen, waaronder Engels, Chinees, Russisch, Frans, Spaans, Portugees, Duits, Italiaans, Japans, Koreaans, Vietnamees, Thai en Arabisch. Maak bij een meertalige taak een onderscheid tussen de brontaal en de vereiste uitvoertaal en geef een terminologielijst als namen of technische termen consistent moeten blijven. Een tweetalig rapport kan dezelfde bronfeiten in twee versies vragen, met behoud van identificaties en eenheden.\n\nModeldetails van deze editie\n\nDe 32B-Instruct-release heeft 32,5 miljard parameters, waarvan 31,0 miljard geen embeddingparameters zijn, en 64 Transformer-lagen. Ze gebruikt roterende positie-embeddings, SwiGLU, RMSNorm en QKV-bias in de attention. Grouped-query attention gebruikt 40 querykoppen en 8 sleutel/waarde-koppen. Dit is een taalmodelrelease met een dense, decoder-only architectuur, met pretraining en post-training; Instruct identificeert de voor gesprekken getrainde editie in plaats van het basismodel.\n\nDe kaart vermeldt een volledige context van 131.072 tokens en generatie van maximaal 8.192 tokens. Deze cijfers beschrijven verschillende delen van een taak: de context houdt de prompt en het gesprek vast, terwijl het generatiecijfer het geschreven antwoord begrenst. De 512 gegenereerde tokens in de snelstart zijn slechts een voorbeeld binnen die grotere opgegeven generatielimiet. Het model accepteert en retourneert tekst; de inhoud van een gescande tabel of screenshot moet als tekst beschikbaar worden gemaakt of door een afzonderlijk visueel model worden verwerkt.\n\nGesprek en tools\n\nDe modelkaart toont afzonderlijke systeem- en gebruikersberichten, geformatteerd met het bijbehorende chatsjabloon. Zet de duurzame antwoordregels van de assistent in de passende gespreksrol en plaats het daadwerkelijke document, de tabel of code bij de taak van de gebruiker. Markeer de grens tussen geciteerd bronmateriaal en instructies, zodat een instructie binnen een document niet voor de bedoelde taak van de toepassing wordt gehouden.\n\nDe officiële familieaankondiging documenteert toolaanroepen via compatibele gesprekssjablonen en dienstintegraties. In zo'n proces levert de toepassing de functiebeschrijvingen, ontvangt de voorgestelde aanroep, voert de functie uit en retourneert het resultaat. Dat kan een tekstuele vraag koppelen aan een berekening of gegevensopzoekactie, maar dit model kiezen levert op zichzelf geen externe tool of de bijbehorende gegevens. JSON-generatie en een toolaanroep zijn ook verschillende resultaten: het ene formatteert tekst, het andere vraagt de omringende toepassing om een benoemde bewerking uit te voeren.\n\nLange context voorbereiden\n\nDe gepubliceerde configuratie begint bij 32.768 tokens. Invoer boven die instelling vereist de gedocumenteerde YaRN-uitbreiding; het voorbeeld gebruikt een factor van 4,0 en een oorspronkelijke instelling van 32.768 maximale posities. De ontwikkelaar waarschuwt dat statische schaling het gedrag bij kortere teksten kan beïnvloeden en raadt aan die in te schakelen wanneer verwerking van lange context nodig is.\n\nBenoem bij een vergelijking van grote documenten de rol van elk document en vraag één duidelijk gedefinieerd resultaat: een vereistenmatrix, afwijkingenlijst of herzien onderdeel. Behoud bronposities naast de geëxtraheerde bevindingen en laat voldoende antwoordruimte voor de gevraagde structuur. Langcontextcapaciteit helpt het relevante materiaal samen te houden; ze vervangt niet de noodzaak te definiëren wat vergeleken moet worden of hoe het uiteindelijke resultaat gebruikt zal worden.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisch voorbeeld in het Engels
Explain a stock table\n\nAnalyze this text table: SKU | opening units | received units | shipped units. A1 | 20 | 10 | 18. B2 | 7 | 0 | 9. Calculate closing stock for each SKU, identify any impossible negative balance and draft a short note naming the row that needs investigation. Preserve column units.A closing-stock table with row IDs and a short anomaly note supported by the source values.Recalculate opening plus received minus shipped and verify the B2 discrepancy is flagged rather than corrected.Qwen/Qwen2.5-32B-InstructQwen2.5-32B-Instruct is een meertalig tekstmodel voor gedetailleerde instructies, programmeren, wiskunde en gestructureerde gegevens. De editie met 32,5 miljard parameters benadrukt tabelbegrip, JSON-uitvoer en lange geschreven resultaten, met gedocumenteerde instellingen voor uitgebreide context.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Qwen2.5-32B-Instruct is het op instructies afgestemde tekstmodel in 32B-formaat van de algemene Qwen2.5-familie. Het combineert taalbegrip en generatie met programmeren en wiskunde, in plaats van de afzonderlijk benoemde Coder- of Math-specialist te zijn. De ontwikkelaar benadrukt vooral gedetailleerde instructies volgen, lange teksten schrijven, tabellen begrijpen en gestructureerde tekst produceren, vooral JSON. De familie is voorgetraind op een corpus dat volgens de beschrijving 18 biljoen tokens bereikt.
Gestructureerde gegevens, lange antwoorden en meertalig werk
Een nuttige extractietaak levert een bronpassage en exact de velden die de volgende toepassingsstap nodig heeft. Definieer de veldtypen, of de bewoording gekopieerd of samengevat moet worden en hoe ontbrekende informatie wordt weergegeven. Een productrecord kan bijvoorbeeld een identificatie, bedrijfsomstandigheden en een lijst met onopgeloste vragen vragen. Vraag alleen het JSON-record wanneer het geparst moet worden, of een afzonderlijke uitleg wanneer iemand de redenering achter de geëxtraheerde velden moet onderzoeken.
Tabelbegrip is een ander gedocumenteerd aandachtspunt. Lever de kolomnamen, eenheden en relevante rijen samen met de vraag aan. Vraag het model de rijen te identificeren die aan een voorwaarde voldoen, een verandering tussen perioden te verklaren of een tabel in een geschreven rapport om te zetten. Een praktische uitvoer kan de identificatie van elke rij naast de bevinding behouden. Dat bewaart de koppeling tussen de aangeleverde gegevens en het antwoord, in plaats van een samenvatting zonder traceerbare bronrij te produceren.
Benoem voor lange teksten de doelgroep, onderdelen en bronfeiten voordat u om het document vraagt. Een technisch voorstel kan een probleemomschrijving, vereisten, alternatieven en een aanbeveling nodig hebben, uitsluitend op basis van het aangeleverde materiaal. Geef aan welke voorwaarden verplicht zijn en welke vragen nog moeten worden opgelost. De ontwikkelaar verbetert ook de robuustheid bij verschillende systeemprompts, ter ondersteuning van een gedefinieerde rol, toon en gespreksvoorwaarden.
De familie ondersteunt meer dan 29 talen, waaronder Engels, Chinees, Russisch, Frans, Spaans, Portugees, Duits, Italiaans, Japans, Koreaans, Vietnamees, Thai en Arabisch. Maak bij een meertalige taak een onderscheid tussen de brontaal en de vereiste uitvoertaal en geef een terminologielijst als namen of technische termen consistent moeten blijven. Een tweetalig rapport kan dezelfde bronfeiten in twee versies vragen, met behoud van identificaties en eenheden.
Modeldetails van deze editie
De 32B-Instruct-release heeft 32,5 miljard parameters, waarvan 31,0 miljard geen embeddingparameters zijn, en 64 Transformer-lagen. Ze gebruikt roterende positie-embeddings, SwiGLU, RMSNorm en QKV-bias in de attention. Grouped-query attention gebruikt 40 querykoppen en 8 sleutel/waarde-koppen. Dit is een taalmodelrelease met een dense, decoder-only architectuur, met pretraining en post-training; Instruct identificeert de voor gesprekken getrainde editie in plaats van het basismodel.
De kaart vermeldt een volledige context van 131.072 tokens en generatie van maximaal 8.192 tokens. Deze cijfers beschrijven verschillende delen van een taak: de context houdt de prompt en het gesprek vast, terwijl het generatiecijfer het geschreven antwoord begrenst. De 512 gegenereerde tokens in de snelstart zijn slechts een voorbeeld binnen die grotere opgegeven generatielimiet. Het model accepteert en retourneert tekst; de inhoud van een gescande tabel of screenshot moet als tekst beschikbaar worden gemaakt of door een afzonderlijk visueel model worden verwerkt.
Gesprek en tools
De modelkaart toont afzonderlijke systeem- en gebruikersberichten, geformatteerd met het bijbehorende chatsjabloon. Zet de duurzame antwoordregels van de assistent in de passende gespreksrol en plaats het daadwerkelijke document, de tabel of code bij de taak van de gebruiker. Markeer de grens tussen geciteerd bronmateriaal en instructies, zodat een instructie binnen een document niet voor de bedoelde taak van de toepassing wordt gehouden.
De officiële familieaankondiging documenteert toolaanroepen via compatibele gesprekssjablonen en dienstintegraties. In zo'n proces levert de toepassing de functiebeschrijvingen, ontvangt de voorgestelde aanroep, voert de functie uit en retourneert het resultaat. Dat kan een tekstuele vraag koppelen aan een berekening of gegevensopzoekactie, maar dit model kiezen levert op zichzelf geen externe tool of de bijbehorende gegevens. JSON-generatie en een toolaanroep zijn ook verschillende resultaten: het ene formatteert tekst, het andere vraagt de omringende toepassing om een benoemde bewerking uit te voeren.
Lange context voorbereiden
De gepubliceerde configuratie begint bij 32.768 tokens. Invoer boven die instelling vereist de gedocumenteerde YaRN-uitbreiding; het voorbeeld gebruikt een factor van 4,0 en een oorspronkelijke instelling van 32.768 maximale posities. De ontwikkelaar waarschuwt dat statische schaling het gedrag bij kortere teksten kan beïnvloeden en raadt aan die in te schakelen wanneer verwerking van lange context nodig is.
Benoem bij een vergelijking van grote documenten de rol van elk document en vraag één duidelijk gedefinieerd resultaat: een vereistenmatrix, afwijkingenlijst of herzien onderdeel. Behoud bronposities naast de geëxtraheerde bevindingen en laat voldoende antwoordruimte voor de gevraagde structuur. Langcontextcapaciteit helpt het relevante materiaal samen te houden; ze vervangt niet de noodzaak te definiëren wat vergeleken moet worden of hoe het uiteindelijke resultaat gebruikt zal worden.
POST /v1/chat/completionstexttext| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten Qwen/Qwen2.5-32B-Instruct | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten Voorbeelden: system, user, assistant, tool, function Voorwaarden: Deze rollen worden expliciet weergegeven door compatibiliteitstypen in de broncode; de exacte rollenverzameling van het model blijft modelspecifiek. Afhankelijk van het model | Standaard— |
Veldmessages[].content | Typestring|content_part[]|null | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_calls | Typetool_call[] | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_call_id | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: role=tool; gebruik het werkelijk teruggegeven ID | Standaard— |
Veldmessages[].name | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].reasoning_content | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: Stuur de werkelijk teruggegeven redeneringen terug wanneer dit model ze gebruikt | Standaard— |
Veldmessages[].reasoning_details | Typeobject|array | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmax_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldmax_completion_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Veldstream_options.include_usage | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtemperature | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtop_p | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldstop | Typestring|string[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools | Typefunction_tool[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools[].type | Typestring | VereisteOptioneel | Waarden en limieten function Afhankelijk van het model | Standaard— |
Veldtools[].function.name | Typestring | VereisteVereist | Waarden en limieten Geldt wanneer: functietool opgegeven | Standaard— |
Veldtools[].function.description | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtools[].function.parameters | TypeJSON_schema | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtool_choice | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldparallel_tool_calls | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldresponse_format | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning_effort | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldservice_tier | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldinstructions | Typestring | VereisteOptioneel | Waarden en limieten Compatibiliteitsveld | Standaard— |
Veldfunctions | Typefunction[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldfunction_call | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldprompt_cache_options | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmodalities | Typestring[] | VereisteOptioneel | Waarden en limieten text | Standaard— |
Veldprovider | Typeobject | VereisteOptioneel | Waarden en limieten Voorwaarden: provider.options wordt op deze Ultra-tekstroute geweigerd | Standaard— |
Veldcache_control.ttl | Typestring | VereisteOptioneel | Waarden en limieten Voorwaarden: 1h wordt op de daadwerkelijke locaties voor promptcaching geweigerd | Standaard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages |
Parametermaterial_types | Contracttext |
Parametermessages | Contractberichtenarray met de structuur role/content |
Parameterfile_material | Contractwerkelijk UTF-8-document ingevoegd als letterlijke tekst; er wordt geen bestands-ID afgeleid |
Parameteroptional_controls | Contractstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Contractmodelspecifiek; functietools van de gebruiker verschillen van gehoste tools |
Parameteroutput_modalities | Contracttext |
Parameterhosted_operations | Contractfalse |
Parametermultimodal_input_binding | Contractnull |
Levenscyclus: synchronous_or_streamed
Stuur het exacte model-ID mee met messages.
Contextlengte is geen uitvoerlimiet.
Een tekstbestand kan letterlijke tekst aanleveren; beeld-, audio- en bestandsobjectinvoer vereisen een exacte koppeling.
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.00036 / 1K tokens Uitvoer · Uitvoertokens $0.00036 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "Qwen/Qwen2.5-32B-Instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='Qwen/Qwen2.5-32B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='Qwen/Qwen2.5-32B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar elke keuze en de bijbehorende inhoud, toolaanroepen en redeneringen. Voeg in SSE delta’s samen per keuze-/toolindex en bewaar de uiteindelijke reden van beëindiging en de verbruiksgegevens.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldchoices[].index | Typeinteger |
Veldchoices[].message.content | Typestring|null |
Veldchoices[].message.tool_calls | Typetool_call[] |
Veldchoices[].message.reasoning_content | Typestring |
Veldchoices[].message.reasoning_details | Typeobject|array |
Veldchoices[].finish_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
Qwen/Qwen2.5-32B-InstructQwen2.5-32B-Instruct is een meertalig tekstmodel voor gedetailleerde instructies, programmeren, wiskunde en gestructureerde gegevens. De editie met 32,5 miljard parameters benadrukt tabelbegrip, JSON-uitvoer en lange geschreven resultaten, met gedocumenteerde instellingen voor uitgebreide context.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Qwen2.5-32B-Instruct is het op instructies afgestemde tekstmodel in 32B-formaat van de algemene Qwen2.5-familie. Het combineert taalbegrip en generatie met programmeren en wiskunde, in plaats van de afzonderlijk benoemde Coder- of Math-specialist te zijn. De ontwikkelaar benadrukt vooral gedetailleerde instructies volgen, lange teksten schrijven, tabellen begrijpen en gestructureerde tekst produceren, vooral JSON. De familie is voorgetraind op een corpus dat volgens de beschrijving 18 biljoen tokens bereikt.
Gestructureerde gegevens, lange antwoorden en meertalig werk
Een nuttige extractietaak levert een bronpassage en exact de velden die de volgende toepassingsstap nodig heeft. Definieer de veldtypen, of de bewoording gekopieerd of samengevat moet worden en hoe ontbrekende informatie wordt weergegeven. Een productrecord kan bijvoorbeeld een identificatie, bedrijfsomstandigheden en een lijst met onopgeloste vragen vragen. Vraag alleen het JSON-record wanneer het geparst moet worden, of een afzonderlijke uitleg wanneer iemand de redenering achter de geëxtraheerde velden moet onderzoeken.
Tabelbegrip is een ander gedocumenteerd aandachtspunt. Lever de kolomnamen, eenheden en relevante rijen samen met de vraag aan. Vraag het model de rijen te identificeren die aan een voorwaarde voldoen, een verandering tussen perioden te verklaren of een tabel in een geschreven rapport om te zetten. Een praktische uitvoer kan de identificatie van elke rij naast de bevinding behouden. Dat bewaart de koppeling tussen de aangeleverde gegevens en het antwoord, in plaats van een samenvatting zonder traceerbare bronrij te produceren.
Benoem voor lange teksten de doelgroep, onderdelen en bronfeiten voordat u om het document vraagt. Een technisch voorstel kan een probleemomschrijving, vereisten, alternatieven en een aanbeveling nodig hebben, uitsluitend op basis van het aangeleverde materiaal. Geef aan welke voorwaarden verplicht zijn en welke vragen nog moeten worden opgelost. De ontwikkelaar verbetert ook de robuustheid bij verschillende systeemprompts, ter ondersteuning van een gedefinieerde rol, toon en gespreksvoorwaarden.
De familie ondersteunt meer dan 29 talen, waaronder Engels, Chinees, Russisch, Frans, Spaans, Portugees, Duits, Italiaans, Japans, Koreaans, Vietnamees, Thai en Arabisch. Maak bij een meertalige taak een onderscheid tussen de brontaal en de vereiste uitvoertaal en geef een terminologielijst als namen of technische termen consistent moeten blijven. Een tweetalig rapport kan dezelfde bronfeiten in twee versies vragen, met behoud van identificaties en eenheden.
Modeldetails van deze editie
De 32B-Instruct-release heeft 32,5 miljard parameters, waarvan 31,0 miljard geen embeddingparameters zijn, en 64 Transformer-lagen. Ze gebruikt roterende positie-embeddings, SwiGLU, RMSNorm en QKV-bias in de attention. Grouped-query attention gebruikt 40 querykoppen en 8 sleutel/waarde-koppen. Dit is een taalmodelrelease met een dense, decoder-only architectuur, met pretraining en post-training; Instruct identificeert de voor gesprekken getrainde editie in plaats van het basismodel.
De kaart vermeldt een volledige context van 131.072 tokens en generatie van maximaal 8.192 tokens. Deze cijfers beschrijven verschillende delen van een taak: de context houdt de prompt en het gesprek vast, terwijl het generatiecijfer het geschreven antwoord begrenst. De 512 gegenereerde tokens in de snelstart zijn slechts een voorbeeld binnen die grotere opgegeven generatielimiet. Het model accepteert en retourneert tekst; de inhoud van een gescande tabel of screenshot moet als tekst beschikbaar worden gemaakt of door een afzonderlijk visueel model worden verwerkt.
Gesprek en tools
De modelkaart toont afzonderlijke systeem- en gebruikersberichten, geformatteerd met het bijbehorende chatsjabloon. Zet de duurzame antwoordregels van de assistent in de passende gespreksrol en plaats het daadwerkelijke document, de tabel of code bij de taak van de gebruiker. Markeer de grens tussen geciteerd bronmateriaal en instructies, zodat een instructie binnen een document niet voor de bedoelde taak van de toepassing wordt gehouden.
De officiële familieaankondiging documenteert toolaanroepen via compatibele gesprekssjablonen en dienstintegraties. In zo'n proces levert de toepassing de functiebeschrijvingen, ontvangt de voorgestelde aanroep, voert de functie uit en retourneert het resultaat. Dat kan een tekstuele vraag koppelen aan een berekening of gegevensopzoekactie, maar dit model kiezen levert op zichzelf geen externe tool of de bijbehorende gegevens. JSON-generatie en een toolaanroep zijn ook verschillende resultaten: het ene formatteert tekst, het andere vraagt de omringende toepassing om een benoemde bewerking uit te voeren.
Lange context voorbereiden
De gepubliceerde configuratie begint bij 32.768 tokens. Invoer boven die instelling vereist de gedocumenteerde YaRN-uitbreiding; het voorbeeld gebruikt een factor van 4,0 en een oorspronkelijke instelling van 32.768 maximale posities. De ontwikkelaar waarschuwt dat statische schaling het gedrag bij kortere teksten kan beïnvloeden en raadt aan die in te schakelen wanneer verwerking van lange context nodig is.
Benoem bij een vergelijking van grote documenten de rol van elk document en vraag één duidelijk gedefinieerd resultaat: een vereistenmatrix, afwijkingenlijst of herzien onderdeel. Behoud bronposities naast de geëxtraheerde bevindingen en laat voldoende antwoordruimte voor de gevraagde structuur. Langcontextcapaciteit helpt het relevante materiaal samen te houden; ze vervangt niet de noodzaak te definiëren wat vergeleken moet worden of hoe het uiteindelijke resultaat gebruikt zal worden.
POST /v1/messagestextjson, sse| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten Qwen/Qwen2.5-32B-Instruct | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten user, assistant | Standaard— |
Veldmessages[].content | Typestring | VereisteVereist | Waarden en limieten | Standaard— |
Veldmax_tokens | Typeinteger | VereisteVereist | Waarden en limieten | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Tekst · UTF-8-tekst
messages[].content als tekenreeks
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages, max_tokens |
Parameteroptional_controls | Contractstream |
Parametermaterial_types | Contracttext |
Parametertext_file_material | ContractLees het werkelijke UTF-8-document en plaats de tekst ervan in de aangegeven invoer of in de inhoudstekenreeks van een bericht. |
Levenscyclus: synchronous_or_streamed
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.00036 / 1K tokens Uitvoer · Uitvoertokens $0.00036 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
{\n "model": "Qwen/Qwen2.5-32B-Instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-32B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-32B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar alle inhoudsblokken, handtekeningen van redeneringen en werkelijke toolgebruik-ID’s. Voeg alle SSE-blokdelta’s samen; het eerste tekstblok is niet de volledige uitvoer.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldid | Typestring |
Veldmodel | Typestring |
Veldcontent[] | Typetext|thinking|tool_use|other content block |
Veldstop_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
qwen2.5-32b-instructQwen2.5-32B-Instruct is een meertalig tekstmodel voor gedetailleerde instructies, programmeren, wiskunde en gestructureerde gegevens. De editie met 32,5 miljard parameters benadrukt tabelbegrip, JSON-uitvoer en lange geschreven resultaten, met gedocumenteerde instellingen voor uitgebreide context.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Qwen2.5-32B-Instruct is het op instructies afgestemde tekstmodel in 32B-formaat van de algemene Qwen2.5-familie. Het combineert taalbegrip en generatie met programmeren en wiskunde, in plaats van de afzonderlijk benoemde Coder- of Math-specialist te zijn. De ontwikkelaar benadrukt vooral gedetailleerde instructies volgen, lange teksten schrijven, tabellen begrijpen en gestructureerde tekst produceren, vooral JSON. De familie is voorgetraind op een corpus dat volgens de beschrijving 18 biljoen tokens bereikt.
Gestructureerde gegevens, lange antwoorden en meertalig werk
Een nuttige extractietaak levert een bronpassage en exact de velden die de volgende toepassingsstap nodig heeft. Definieer de veldtypen, of de bewoording gekopieerd of samengevat moet worden en hoe ontbrekende informatie wordt weergegeven. Een productrecord kan bijvoorbeeld een identificatie, bedrijfsomstandigheden en een lijst met onopgeloste vragen vragen. Vraag alleen het JSON-record wanneer het geparst moet worden, of een afzonderlijke uitleg wanneer iemand de redenering achter de geëxtraheerde velden moet onderzoeken.
Tabelbegrip is een ander gedocumenteerd aandachtspunt. Lever de kolomnamen, eenheden en relevante rijen samen met de vraag aan. Vraag het model de rijen te identificeren die aan een voorwaarde voldoen, een verandering tussen perioden te verklaren of een tabel in een geschreven rapport om te zetten. Een praktische uitvoer kan de identificatie van elke rij naast de bevinding behouden. Dat bewaart de koppeling tussen de aangeleverde gegevens en het antwoord, in plaats van een samenvatting zonder traceerbare bronrij te produceren.
Benoem voor lange teksten de doelgroep, onderdelen en bronfeiten voordat u om het document vraagt. Een technisch voorstel kan een probleemomschrijving, vereisten, alternatieven en een aanbeveling nodig hebben, uitsluitend op basis van het aangeleverde materiaal. Geef aan welke voorwaarden verplicht zijn en welke vragen nog moeten worden opgelost. De ontwikkelaar verbetert ook de robuustheid bij verschillende systeemprompts, ter ondersteuning van een gedefinieerde rol, toon en gespreksvoorwaarden.
De familie ondersteunt meer dan 29 talen, waaronder Engels, Chinees, Russisch, Frans, Spaans, Portugees, Duits, Italiaans, Japans, Koreaans, Vietnamees, Thai en Arabisch. Maak bij een meertalige taak een onderscheid tussen de brontaal en de vereiste uitvoertaal en geef een terminologielijst als namen of technische termen consistent moeten blijven. Een tweetalig rapport kan dezelfde bronfeiten in twee versies vragen, met behoud van identificaties en eenheden.
Modeldetails van deze editie
De 32B-Instruct-release heeft 32,5 miljard parameters, waarvan 31,0 miljard geen embeddingparameters zijn, en 64 Transformer-lagen. Ze gebruikt roterende positie-embeddings, SwiGLU, RMSNorm en QKV-bias in de attention. Grouped-query attention gebruikt 40 querykoppen en 8 sleutel/waarde-koppen. Dit is een taalmodelrelease met een dense, decoder-only architectuur, met pretraining en post-training; Instruct identificeert de voor gesprekken getrainde editie in plaats van het basismodel.
De kaart vermeldt een volledige context van 131.072 tokens en generatie van maximaal 8.192 tokens. Deze cijfers beschrijven verschillende delen van een taak: de context houdt de prompt en het gesprek vast, terwijl het generatiecijfer het geschreven antwoord begrenst. De 512 gegenereerde tokens in de snelstart zijn slechts een voorbeeld binnen die grotere opgegeven generatielimiet. Het model accepteert en retourneert tekst; de inhoud van een gescande tabel of screenshot moet als tekst beschikbaar worden gemaakt of door een afzonderlijk visueel model worden verwerkt.
Gesprek en tools
De modelkaart toont afzonderlijke systeem- en gebruikersberichten, geformatteerd met het bijbehorende chatsjabloon. Zet de duurzame antwoordregels van de assistent in de passende gespreksrol en plaats het daadwerkelijke document, de tabel of code bij de taak van de gebruiker. Markeer de grens tussen geciteerd bronmateriaal en instructies, zodat een instructie binnen een document niet voor de bedoelde taak van de toepassing wordt gehouden.
De officiële familieaankondiging documenteert toolaanroepen via compatibele gesprekssjablonen en dienstintegraties. In zo'n proces levert de toepassing de functiebeschrijvingen, ontvangt de voorgestelde aanroep, voert de functie uit en retourneert het resultaat. Dat kan een tekstuele vraag koppelen aan een berekening of gegevensopzoekactie, maar dit model kiezen levert op zichzelf geen externe tool of de bijbehorende gegevens. JSON-generatie en een toolaanroep zijn ook verschillende resultaten: het ene formatteert tekst, het andere vraagt de omringende toepassing om een benoemde bewerking uit te voeren.
Lange context voorbereiden
De gepubliceerde configuratie begint bij 32.768 tokens. Invoer boven die instelling vereist de gedocumenteerde YaRN-uitbreiding; het voorbeeld gebruikt een factor van 4,0 en een oorspronkelijke instelling van 32.768 maximale posities. De ontwikkelaar waarschuwt dat statische schaling het gedrag bij kortere teksten kan beïnvloeden en raadt aan die in te schakelen wanneer verwerking van lange context nodig is.
Benoem bij een vergelijking van grote documenten de rol van elk document en vraag één duidelijk gedefinieerd resultaat: een vereistenmatrix, afwijkingenlijst of herzien onderdeel. Behoud bronposities naast de geëxtraheerde bevindingen en laat voldoende antwoordruimte voor de gevraagde structuur. Langcontextcapaciteit helpt het relevante materiaal samen te houden; ze vervangt niet de noodzaak te definiëren wat vergeleken moet worden of hoe het uiteindelijke resultaat gebruikt zal worden.
POST /v1/chat/completionstexttext| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten qwen2.5-32b-instruct | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmessages[].content | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: Tekstgesprek | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Tekst · UTF8-tekst
messages[].content
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages |
Parametermaterial_types | Contracttext |
Parametermessages | Contractberichtenarray met de structuur role/content |
Parameterfile_material | Contractwerkelijk UTF-8-document ingevoegd als letterlijke tekst; er wordt geen bestands-ID afgeleid |
Parameteroptional_controls | Contractstream |
Parametercontrol_scope | ContractTekstgesprek; stream is een booleaanse waarde en is standaard false. |
Parameteroutput_modalities | Contracttext |
Parameterhosted_operations | Contractfalse |
Parametermultimodal_input_binding | Contractnull |
Methodealiasnamen: /chat/completions
Levenscyclus: synchronous_or_streamed
Stuur het exacte model-ID mee met messages.
Contextlengte is geen uitvoerlimiet.
Een tekstbestand kan letterlijke tekst aanleveren; beeld-, audio- en bestandsobjectinvoer vereisen een exacte koppeling.
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.00036 / 1K tokens Uitvoer · Uitvoertokens $0.00036 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"qwen2.5-32b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="qwen2.5-32b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar elke keuze en de bijbehorende inhoud, toolaanroepen en redeneringen. Voeg in SSE delta’s samen per keuze-/toolindex en bewaar de uiteindelijke reden van beëindiging en de verbruiksgegevens.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldchoices[].index | Typeinteger |
Veldchoices[].message.content | Typestring|null |
Veldchoices[].message.tool_calls | Typetool_call[] |
Veldchoices[].message.reasoning_content | Typestring |
Veldchoices[].message.reasoning_details | Typeobject|array |
Veldchoices[].finish_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
qwen2.5-32b-instructQwen2.5-32B-Instruct is een meertalig tekstmodel voor gedetailleerde instructies, programmeren, wiskunde en gestructureerde gegevens. De editie met 32,5 miljard parameters benadrukt tabelbegrip, JSON-uitvoer en lange geschreven resultaten, met gedocumenteerde instellingen voor uitgebreide context.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Qwen2.5-32B-Instruct is het op instructies afgestemde tekstmodel in 32B-formaat van de algemene Qwen2.5-familie. Het combineert taalbegrip en generatie met programmeren en wiskunde, in plaats van de afzonderlijk benoemde Coder- of Math-specialist te zijn. De ontwikkelaar benadrukt vooral gedetailleerde instructies volgen, lange teksten schrijven, tabellen begrijpen en gestructureerde tekst produceren, vooral JSON. De familie is voorgetraind op een corpus dat volgens de beschrijving 18 biljoen tokens bereikt.
Gestructureerde gegevens, lange antwoorden en meertalig werk
Een nuttige extractietaak levert een bronpassage en exact de velden die de volgende toepassingsstap nodig heeft. Definieer de veldtypen, of de bewoording gekopieerd of samengevat moet worden en hoe ontbrekende informatie wordt weergegeven. Een productrecord kan bijvoorbeeld een identificatie, bedrijfsomstandigheden en een lijst met onopgeloste vragen vragen. Vraag alleen het JSON-record wanneer het geparst moet worden, of een afzonderlijke uitleg wanneer iemand de redenering achter de geëxtraheerde velden moet onderzoeken.
Tabelbegrip is een ander gedocumenteerd aandachtspunt. Lever de kolomnamen, eenheden en relevante rijen samen met de vraag aan. Vraag het model de rijen te identificeren die aan een voorwaarde voldoen, een verandering tussen perioden te verklaren of een tabel in een geschreven rapport om te zetten. Een praktische uitvoer kan de identificatie van elke rij naast de bevinding behouden. Dat bewaart de koppeling tussen de aangeleverde gegevens en het antwoord, in plaats van een samenvatting zonder traceerbare bronrij te produceren.
Benoem voor lange teksten de doelgroep, onderdelen en bronfeiten voordat u om het document vraagt. Een technisch voorstel kan een probleemomschrijving, vereisten, alternatieven en een aanbeveling nodig hebben, uitsluitend op basis van het aangeleverde materiaal. Geef aan welke voorwaarden verplicht zijn en welke vragen nog moeten worden opgelost. De ontwikkelaar verbetert ook de robuustheid bij verschillende systeemprompts, ter ondersteuning van een gedefinieerde rol, toon en gespreksvoorwaarden.
De familie ondersteunt meer dan 29 talen, waaronder Engels, Chinees, Russisch, Frans, Spaans, Portugees, Duits, Italiaans, Japans, Koreaans, Vietnamees, Thai en Arabisch. Maak bij een meertalige taak een onderscheid tussen de brontaal en de vereiste uitvoertaal en geef een terminologielijst als namen of technische termen consistent moeten blijven. Een tweetalig rapport kan dezelfde bronfeiten in twee versies vragen, met behoud van identificaties en eenheden.
Modeldetails van deze editie
De 32B-Instruct-release heeft 32,5 miljard parameters, waarvan 31,0 miljard geen embeddingparameters zijn, en 64 Transformer-lagen. Ze gebruikt roterende positie-embeddings, SwiGLU, RMSNorm en QKV-bias in de attention. Grouped-query attention gebruikt 40 querykoppen en 8 sleutel/waarde-koppen. Dit is een taalmodelrelease met een dense, decoder-only architectuur, met pretraining en post-training; Instruct identificeert de voor gesprekken getrainde editie in plaats van het basismodel.
De kaart vermeldt een volledige context van 131.072 tokens en generatie van maximaal 8.192 tokens. Deze cijfers beschrijven verschillende delen van een taak: de context houdt de prompt en het gesprek vast, terwijl het generatiecijfer het geschreven antwoord begrenst. De 512 gegenereerde tokens in de snelstart zijn slechts een voorbeeld binnen die grotere opgegeven generatielimiet. Het model accepteert en retourneert tekst; de inhoud van een gescande tabel of screenshot moet als tekst beschikbaar worden gemaakt of door een afzonderlijk visueel model worden verwerkt.
Gesprek en tools
De modelkaart toont afzonderlijke systeem- en gebruikersberichten, geformatteerd met het bijbehorende chatsjabloon. Zet de duurzame antwoordregels van de assistent in de passende gespreksrol en plaats het daadwerkelijke document, de tabel of code bij de taak van de gebruiker. Markeer de grens tussen geciteerd bronmateriaal en instructies, zodat een instructie binnen een document niet voor de bedoelde taak van de toepassing wordt gehouden.
De officiële familieaankondiging documenteert toolaanroepen via compatibele gesprekssjablonen en dienstintegraties. In zo'n proces levert de toepassing de functiebeschrijvingen, ontvangt de voorgestelde aanroep, voert de functie uit en retourneert het resultaat. Dat kan een tekstuele vraag koppelen aan een berekening of gegevensopzoekactie, maar dit model kiezen levert op zichzelf geen externe tool of de bijbehorende gegevens. JSON-generatie en een toolaanroep zijn ook verschillende resultaten: het ene formatteert tekst, het andere vraagt de omringende toepassing om een benoemde bewerking uit te voeren.
Lange context voorbereiden
De gepubliceerde configuratie begint bij 32.768 tokens. Invoer boven die instelling vereist de gedocumenteerde YaRN-uitbreiding; het voorbeeld gebruikt een factor van 4,0 en een oorspronkelijke instelling van 32.768 maximale posities. De ontwikkelaar waarschuwt dat statische schaling het gedrag bij kortere teksten kan beïnvloeden en raadt aan die in te schakelen wanneer verwerking van lange context nodig is.
Benoem bij een vergelijking van grote documenten de rol van elk document en vraag één duidelijk gedefinieerd resultaat: een vereistenmatrix, afwijkingenlijst of herzien onderdeel. Behoud bronposities naast de geëxtraheerde bevindingen en laat voldoende antwoordruimte voor de gevraagde structuur. Langcontextcapaciteit helpt het relevante materiaal samen te houden; ze vervangt niet de noodzaak te definiëren wat vergeleken moet worden of hoe het uiteindelijke resultaat gebruikt zal worden.
POST /v1/messagestextjson, sse| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten qwen2.5-32b-instruct | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten user, assistant | Standaard— |
Veldmessages[].content | Typestring | VereisteVereist | Waarden en limieten | Standaard— |
Veldmax_tokens | Typeinteger | VereisteVereist | Waarden en limieten | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Tekst · UTF-8-tekst
messages[].content als tekenreeks
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages, max_tokens |
Parameteroptional_controls | Contractstream |
Parametermaterial_types | Contracttext |
Parametertext_file_material | ContractLees het werkelijke UTF-8-document en plaats de tekst ervan in de aangegeven invoer of in de inhoudstekenreeks van een bericht. |
Levenscyclus: synchronous_or_streamed
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.00036 / 1K tokens Uitvoer · Uitvoertokens $0.00036 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
{\n "model": "qwen2.5-32b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-32b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-32b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar alle inhoudsblokken, handtekeningen van redeneringen en werkelijke toolgebruik-ID’s. Voeg alle SSE-blokdelta’s samen; het eerste tekstblok is niet de volledige uitvoer.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldid | Typestring |
Veldmodel | Typestring |
Veldcontent[] | Typetext|thinking|tool_use|other content block |
Veldstop_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
Technisch voorbeeld in het Engels
Explain a stock table\n\nAnalyze this text table: SKU | opening units | received units | shipped units. A1 | 20 | 10 | 18. B2 | 7 | 0 | 9. Calculate closing stock for each SKU, identify any impossible negative balance and draft a short note naming the row that needs investigation. Preserve column units.A closing-stock table with row IDs and a short anomaly note supported by the source values.Recalculate opening plus received minus shipped and verify the B2 discrepancy is flagged rather than corrected.