Qwen2.5-32B-Instruct är den instruktionsfinjusterade textmodellen i 32B-storlek i den generella Qwen2.5-familjen. Den kombinerar språkförståelse och generering med programmering och matematik och är inte den separat namngivna Coder- eller Math-specialisten. Tillverkaren lyfter särskilt fram detaljerat instruktionsföljande, längre texter, tabellförståelse och strukturerad text, särskilt JSON. Familjen är förtränad på en korpus som uppges nå 18 biljoner token.
Strukturerade data, långa svar och flerspråkigt arbete
En användbar extraktionsuppgift ger ett källavsnitt och de exakta fält som nästa applikationssteg behöver. Definiera fälttyperna, om ordalydelsen ska kopieras eller sammanfattas och hur saknad information ska representeras. En produktpost kan till exempel begära en identifierare, driftsvillkor och en lista över olösta frågor. Be enbart om JSON-posten när den ska tolkas maskinellt eller om en separat förklaring när en person behöver granska resonemanget bakom de extraherade fälten.
Tabellförståelse är ett annat dokumenterat fokus. Tillhandahåll kolumnnamn, enheter och relevanta rader med frågan. Be modellen identifiera rader som uppfyller ett villkor, förklara en förändring mellan perioder eller omvandla tabellen till en skriftlig rapport. Ett praktiskt resultat kan behålla varje rads identifierare bredvid slutsatsen. Det bevarar kopplingen mellan data och svar i stället för att ge en sammanfattning utan spårbar källrad.
För längre texter ska du ange målgrupp, avsnitt och källfakta innan du begär dokumentet. Ett tekniskt förslag kan kräva problembeskrivning, krav, alternativ och en rekommendation som bara använder det tillhandahållna materialet. Ange vilka villkor som är obligatoriska och vilka som är frågor att lösa. Tillverkaren utvecklar också robusthet för olika systempromptar, vilket stöder en definierad roll, ton och samtalsvillkor.
Familjen stöder fler än 29 språk, däribland engelska, kinesiska, ryska, franska, spanska, portugisiska, tyska, italienska, japanska, koreanska, vietnamesiska, thailändska och arabiska. För en flerspråkig uppgift ska du skilja källspråket från det önskade utdataspråket och ge en terminologilista när namn eller tekniska termer behöver vara konsekventa. En tvåspråkig rapport kan be om samma källfakta i två versioner med identifierare och enheter oförändrade.
Modelluppgifter för denna version
32B-Instruct-versionen har 32,5 miljarder parametrar, varav 31,0 miljarder är parametrar utanför inbäddningarna, och 64 Transformer-lager. Den använder roterande positionsinbäddningar, SwiGLU, RMSNorm och QKV-bias i uppmärksamhetsmekanismen. Grouped-query attention använder 40 frågehuvuden och 8 nyckel-/värdehuvuden. Det är en tät decoder-only-språkmodell med förträning och efterträning; Instruct identifierar den samtalstränade versionen, inte basmodellen.
Kortet anger en full kontext på 131 072 token och generering av upp till 8 192 token. Siffrorna beskriver olika delar av en uppgift: kontexten bevarar prompten och samtalet, medan genereringssiffran begränsar det skriftliga svaret. Snabbstartens 512 genererade token är bara ett exempel inom den större angivna genereringsgränsen. Modellen tar emot och returnerar text; en skannad tabell eller skärmbild behöver göras tillgänglig som text eller hanteras av en separat visuell modell.
Samtal och verktyg
Modellkortet visar separata system- och användarmeddelanden formaterade med den matchande chattmallen. Lägg assistentens varaktiga svarsregler i rätt samtalsroll och placera det faktiska dokumentet, tabellen eller koden med användarens uppgift. Markera gränsen mellan citerat källmaterial och instruktioner så att en instruktion inne i ett dokument inte förväxlas med applikationens avsedda uppgift.
Familjens officiella meddelande dokumenterar verktygsanropsstöd genom kompatibla samtalsmallar och driftintegrationer. I ett sådant arbetsflöde tillhandahåller applikationen funktionsbeskrivningar, tar emot det föreslagna anropet, kör funktionen och returnerar resultatet. Det kan koppla en textfråga till en beräkning eller datainhämtning, men modellvalet i sig tillhandahåller inte det externa verktyget eller dess data. JSON-generering och verktygsanrop är också olika resultat: det ena formaterar text, det andra ber den omgivande applikationen utföra en namngiven operation.
Förberedelse av lång kontext
Den släppta konfigurationen börjar vid 32 768 token. Indata utöver inställningen kräver den dokumenterade YaRN-utökningen, vars exempel använder faktorn 4,0 och en ursprunglig inställning för maximalt antal positioner på 32 768. Tillverkaren varnar för att statisk skalning kan påverka beteendet för kortare texter och rekommenderar att den aktiveras när bearbetning med lång kontext behövs.
För en jämförelse av stora dokument ska du ange varje dokuments roll och be om ett väl definierat resultat: en kravmatris, en avvikelselista eller ett reviderat avsnitt. Behåll källplatser bredvid extraherade uppgifter och ge tillräckligt svarsutrymme för den önskade strukturen. Lång kontext hjälper till att hålla relevant material tillsammans; den ersätter inte behovet av att definiera vad som ska jämföras eller hur slutresultatet ska användas.
", "aboutText": "Qwen2.5-32B-Instruct är den instruktionsfinjusterade textmodellen i 32B-storlek i den generella Qwen2.5-familjen. Den kombinerar språkförståelse och generering med programmering och matematik och är inte den separat namngivna Coder- eller Math-specialisten. Tillverkaren lyfter särskilt fram detaljerat instruktionsföljande, längre texter, tabellförståelse och strukturerad text, särskilt JSON. Familjen är förtränad på en korpus som uppges nå 18 biljoner token.\n\nStrukturerade data, långa svar och flerspråkigt arbete\n\nEn användbar extraktionsuppgift ger ett källavsnitt och de exakta fält som nästa applikationssteg behöver. Definiera fälttyperna, om ordalydelsen ska kopieras eller sammanfattas och hur saknad information ska representeras. En produktpost kan till exempel begära en identifierare, driftsvillkor och en lista över olösta frågor. Be enbart om JSON-posten när den ska tolkas maskinellt eller om en separat förklaring när en person behöver granska resonemanget bakom de extraherade fälten.\n\nTabellförståelse är ett annat dokumenterat fokus. Tillhandahåll kolumnnamn, enheter och relevanta rader med frågan. Be modellen identifiera rader som uppfyller ett villkor, förklara en förändring mellan perioder eller omvandla tabellen till en skriftlig rapport. Ett praktiskt resultat kan behålla varje rads identifierare bredvid slutsatsen. Det bevarar kopplingen mellan data och svar i stället för att ge en sammanfattning utan spårbar källrad.\n\nFör längre texter ska du ange målgrupp, avsnitt och källfakta innan du begär dokumentet. Ett tekniskt förslag kan kräva problembeskrivning, krav, alternativ och en rekommendation som bara använder det tillhandahållna materialet. Ange vilka villkor som är obligatoriska och vilka som är frågor att lösa. Tillverkaren utvecklar också robusthet för olika systempromptar, vilket stöder en definierad roll, ton och samtalsvillkor.\n\nFamiljen stöder fler än 29 språk, däribland engelska, kinesiska, ryska, franska, spanska, portugisiska, tyska, italienska, japanska, koreanska, vietnamesiska, thailändska och arabiska. För en flerspråkig uppgift ska du skilja källspråket från det önskade utdataspråket och ge en terminologilista när namn eller tekniska termer behöver vara konsekventa. En tvåspråkig rapport kan be om samma källfakta i två versioner med identifierare och enheter oförändrade.\n\nModelluppgifter för denna version\n\n32B-Instruct-versionen har 32,5 miljarder parametrar, varav 31,0 miljarder är parametrar utanför inbäddningarna, och 64 Transformer-lager. Den använder roterande positionsinbäddningar, SwiGLU, RMSNorm och QKV-bias i uppmärksamhetsmekanismen. Grouped-query attention använder 40 frågehuvuden och 8 nyckel-/värdehuvuden. Det är en tät decoder-only-språkmodell med förträning och efterträning; Instruct identifierar den samtalstränade versionen, inte basmodellen.\n\nKortet anger en full kontext på 131 072 token och generering av upp till 8 192 token. Siffrorna beskriver olika delar av en uppgift: kontexten bevarar prompten och samtalet, medan genereringssiffran begränsar det skriftliga svaret. Snabbstartens 512 genererade token är bara ett exempel inom den större angivna genereringsgränsen. Modellen tar emot och returnerar text; en skannad tabell eller skärmbild behöver göras tillgänglig som text eller hanteras av en separat visuell modell.\n\nSamtal och verktyg\n\nModellkortet visar separata system- och användarmeddelanden formaterade med den matchande chattmallen. Lägg assistentens varaktiga svarsregler i rätt samtalsroll och placera det faktiska dokumentet, tabellen eller koden med användarens uppgift. Markera gränsen mellan citerat källmaterial och instruktioner så att en instruktion inne i ett dokument inte förväxlas med applikationens avsedda uppgift.\n\nFamiljens officiella meddelande dokumenterar verktygsanropsstöd genom kompatibla samtalsmallar och driftintegrationer. I ett sådant arbetsflöde tillhandahåller applikationen funktionsbeskrivningar, tar emot det föreslagna anropet, kör funktionen och returnerar resultatet. Det kan koppla en textfråga till en beräkning eller datainhämtning, men modellvalet i sig tillhandahåller inte det externa verktyget eller dess data. JSON-generering och verktygsanrop är också olika resultat: det ena formaterar text, det andra ber den omgivande applikationen utföra en namngiven operation.\n\nFörberedelse av lång kontext\n\nDen släppta konfigurationen börjar vid 32 768 token. Indata utöver inställningen kräver den dokumenterade YaRN-utökningen, vars exempel använder faktorn 4,0 och en ursprunglig inställning för maximalt antal positioner på 32 768. Tillverkaren varnar för att statisk skalning kan påverka beteendet för kortare texter och rekommenderar att den aktiveras när bearbetning med lång kontext behövs.\n\nFör en jämförelse av stora dokument ska du ange varje dokuments roll och be om ett väl definierat resultat: en kravmatris, en avvikelselista eller ett reviderat avsnitt. Behåll källplatser bredvid extraherade uppgifter och ge tillräckligt svarsutrymme för den önskade strukturen. Lång kontext hjälper till att hålla relevant material tillsammans; den ersätter inte behovet av att definiera vad som ska jämföras eller hur slutresultatet ska användas.", "editorialOverlay": { "copy_fields": { "practical_html": "Tekniskt exempel på engelska
Explain a stock table\n\nAnalyze this text table: SKU | opening units | received units | shipped units. A1 | 20 | 10 | 18. B2 | 7 | 0 | 9. Calculate closing stock for each SKU, identify any impossible negative balance and draft a short note naming the row that needs investigation. Preserve column units.A closing-stock table with row IDs and a short anomaly note supported by the source values.Recalculate opening plus received minus shipped and verify the B2 discrepancy is flagged rather than corrected.Qwen/Qwen2.5-32B-InstructQwen2.5-32B-Instruct är en flerspråkig textmodell för detaljerade instruktioner, programmering, matematik och strukturerade data. Versionen med 32,5 miljarder parametrar betonar tabellförståelse, JSON-utdata och långa skriftliga resultat, med dokumenterade inställningar för utökad kontext.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Qwen2.5-32B-Instruct är den instruktionsfinjusterade textmodellen i 32B-storlek i den generella Qwen2.5-familjen. Den kombinerar språkförståelse och generering med programmering och matematik och är inte den separat namngivna Coder- eller Math-specialisten. Tillverkaren lyfter särskilt fram detaljerat instruktionsföljande, längre texter, tabellförståelse och strukturerad text, särskilt JSON. Familjen är förtränad på en korpus som uppges nå 18 biljoner token.
Strukturerade data, långa svar och flerspråkigt arbete
En användbar extraktionsuppgift ger ett källavsnitt och de exakta fält som nästa applikationssteg behöver. Definiera fälttyperna, om ordalydelsen ska kopieras eller sammanfattas och hur saknad information ska representeras. En produktpost kan till exempel begära en identifierare, driftsvillkor och en lista över olösta frågor. Be enbart om JSON-posten när den ska tolkas maskinellt eller om en separat förklaring när en person behöver granska resonemanget bakom de extraherade fälten.
Tabellförståelse är ett annat dokumenterat fokus. Tillhandahåll kolumnnamn, enheter och relevanta rader med frågan. Be modellen identifiera rader som uppfyller ett villkor, förklara en förändring mellan perioder eller omvandla tabellen till en skriftlig rapport. Ett praktiskt resultat kan behålla varje rads identifierare bredvid slutsatsen. Det bevarar kopplingen mellan data och svar i stället för att ge en sammanfattning utan spårbar källrad.
För längre texter ska du ange målgrupp, avsnitt och källfakta innan du begär dokumentet. Ett tekniskt förslag kan kräva problembeskrivning, krav, alternativ och en rekommendation som bara använder det tillhandahållna materialet. Ange vilka villkor som är obligatoriska och vilka som är frågor att lösa. Tillverkaren utvecklar också robusthet för olika systempromptar, vilket stöder en definierad roll, ton och samtalsvillkor.
Familjen stöder fler än 29 språk, däribland engelska, kinesiska, ryska, franska, spanska, portugisiska, tyska, italienska, japanska, koreanska, vietnamesiska, thailändska och arabiska. För en flerspråkig uppgift ska du skilja källspråket från det önskade utdataspråket och ge en terminologilista när namn eller tekniska termer behöver vara konsekventa. En tvåspråkig rapport kan be om samma källfakta i två versioner med identifierare och enheter oförändrade.
Modelluppgifter för denna version
32B-Instruct-versionen har 32,5 miljarder parametrar, varav 31,0 miljarder är parametrar utanför inbäddningarna, och 64 Transformer-lager. Den använder roterande positionsinbäddningar, SwiGLU, RMSNorm och QKV-bias i uppmärksamhetsmekanismen. Grouped-query attention använder 40 frågehuvuden och 8 nyckel-/värdehuvuden. Det är en tät decoder-only-språkmodell med förträning och efterträning; Instruct identifierar den samtalstränade versionen, inte basmodellen.
Kortet anger en full kontext på 131 072 token och generering av upp till 8 192 token. Siffrorna beskriver olika delar av en uppgift: kontexten bevarar prompten och samtalet, medan genereringssiffran begränsar det skriftliga svaret. Snabbstartens 512 genererade token är bara ett exempel inom den större angivna genereringsgränsen. Modellen tar emot och returnerar text; en skannad tabell eller skärmbild behöver göras tillgänglig som text eller hanteras av en separat visuell modell.
Samtal och verktyg
Modellkortet visar separata system- och användarmeddelanden formaterade med den matchande chattmallen. Lägg assistentens varaktiga svarsregler i rätt samtalsroll och placera det faktiska dokumentet, tabellen eller koden med användarens uppgift. Markera gränsen mellan citerat källmaterial och instruktioner så att en instruktion inne i ett dokument inte förväxlas med applikationens avsedda uppgift.
Familjens officiella meddelande dokumenterar verktygsanropsstöd genom kompatibla samtalsmallar och driftintegrationer. I ett sådant arbetsflöde tillhandahåller applikationen funktionsbeskrivningar, tar emot det föreslagna anropet, kör funktionen och returnerar resultatet. Det kan koppla en textfråga till en beräkning eller datainhämtning, men modellvalet i sig tillhandahåller inte det externa verktyget eller dess data. JSON-generering och verktygsanrop är också olika resultat: det ena formaterar text, det andra ber den omgivande applikationen utföra en namngiven operation.
Förberedelse av lång kontext
Den släppta konfigurationen börjar vid 32 768 token. Indata utöver inställningen kräver den dokumenterade YaRN-utökningen, vars exempel använder faktorn 4,0 och en ursprunglig inställning för maximalt antal positioner på 32 768. Tillverkaren varnar för att statisk skalning kan påverka beteendet för kortare texter och rekommenderar att den aktiveras när bearbetning med lång kontext behövs.
För en jämförelse av stora dokument ska du ange varje dokuments roll och be om ett väl definierat resultat: en kravmatris, en avvikelselista eller ett reviderat avsnitt. Behåll källplatser bredvid extraherade uppgifter och ge tillräckligt svarsutrymme för den önskade strukturen. Lång kontext hjälper till att hålla relevant material tillsammans; den ersätter inte behovet av att definiera vad som ska jämföras eller hur slutresultatet ska användas.
POST /v1/chat/completionstexttext| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser Qwen/Qwen2.5-32B-Instruct | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser Exempel: system, user, assistant, tool, function Villkor: Dessa roller representeras uttryckligen av källkodens kompatibilitetstyper; den exakta rolluppsättningen är fortfarande modellspecifik. Beror på modellen | Standard— |
Fältmessages[].content | Typstring|content_part[]|null | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_calls | Typtool_call[] | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].tool_call_id | Typstring | KravValfritt | Värden & gränser Gäller när: role=tool; använd det faktiska returnerade ID:t | Standard— |
Fältmessages[].name | Typstring | KravValfritt | Värden & gränser | Standard— |
Fältmessages[].reasoning_content | Typstring | KravValfritt | Värden & gränser Gäller när: Skicka tillbaka det faktiska returnerade resonemanget när modellen använder det | Standard— |
Fältmessages[].reasoning_details | Typobject|array | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmax_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältmax_completion_tokens | Typinteger | KravValfritt | Värden & gränser Minimum: 1 Beror på modellen | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Fältstream_options.include_usage | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttemperature | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttop_p | Typnumber | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältstop | Typstring|string[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools | Typfunction_tool[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fälttools[].type | Typstring | KravValfritt | Värden & gränser function Beror på modellen | Standard— |
Fälttools[].function.name | Typstring | KravObligatoriskt | Värden & gränser Gäller när: verktyg av typen funktion har tillhandahållits | Standard— |
Fälttools[].function.description | Typstring | KravValfritt | Värden & gränser | Standard— |
Fälttools[].function.parameters | TypJSON_schema | KravValfritt | Värden & gränser | Standard— |
Fälttool_choice | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältparallel_tool_calls | Typboolean | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältresponse_format | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning_effort | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältreasoning | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältservice_tier | Typstring | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältinstructions | Typstring | KravValfritt | Värden & gränser Kompatibilitetsfält | Standard— |
Fältfunctions | Typfunction[] | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältfunction_call | Typstring|object | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältprompt_cache_options | Typobject | KravValfritt | Värden & gränser Beror på modellen | Standard— |
Fältmodalities | Typstring[] | KravValfritt | Värden & gränser text | Standard— |
Fältprovider | Typobject | KravValfritt | Värden & gränser Villkor: provider.options avvisas på denna Ultra-textrutt | Standard— |
Fältcache_control.ttl | Typstring | KravValfritt | Värden & gränser Villkor: 1h avvisas på de faktiska platserna för promptcache | Standard— |
Text · UTF8-text
messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages |
Parametermaterial_types | Avtaltext |
Parametermessages | Avtalmeddelandearray med strukturen role/content |
Parameterfile_material | Avtaldet faktiska UTF-8-dokumentet infogat som bokstavlig text; inget fil-ID härleds |
Parameteroptional_controls | Avtalstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalmodellspecifikt; användarens funktionsverktyg skiljer sig från värdbaserade verktyg |
Parameteroutput_modalities | Avtaltext |
Parameterhosted_operations | Avtalfalse |
Parametermultimodal_input_binding | Avtalnull |
Livscykel: synchronous_or_streamed
Skicka det exakta modell-ID:t tillsammans med messages.
Kontextlängden är inte en utdatagräns.
En textfil kan tillhandahålla bokstavlig text; bild-/ljud-/filobjektsindata kräver exakt bindning.
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
| Konfiguration | Prislista | Avgift |
|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Avgift Indata · Indatatoken $0.00036 / 1K token Utdata · Utdatatoken $0.00036 / 1K token Indata · Cacheläsning $0 / 1K token Indata · Skrivning till cache $0 / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "Qwen/Qwen2.5-32B-Instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='Qwen/Qwen2.5-32B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='Qwen/Qwen2.5-32B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll varje svarsalternativ och dess innehåll/verktygsanrop/resonemang. Sätt i SSE samman deltauppdateringar efter svarsalternativets/verktygets index och behåll den slutliga avslutsorsaken och användningsuppgifterna.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältchoices[].index | Typinteger |
Fältchoices[].message.content | Typstring|null |
Fältchoices[].message.tool_calls | Typtool_call[] |
Fältchoices[].message.reasoning_content | Typstring |
Fältchoices[].message.reasoning_details | Typobject|array |
Fältchoices[].finish_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
Qwen/Qwen2.5-32B-InstructQwen2.5-32B-Instruct är en flerspråkig textmodell för detaljerade instruktioner, programmering, matematik och strukturerade data. Versionen med 32,5 miljarder parametrar betonar tabellförståelse, JSON-utdata och långa skriftliga resultat, med dokumenterade inställningar för utökad kontext.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Qwen2.5-32B-Instruct är den instruktionsfinjusterade textmodellen i 32B-storlek i den generella Qwen2.5-familjen. Den kombinerar språkförståelse och generering med programmering och matematik och är inte den separat namngivna Coder- eller Math-specialisten. Tillverkaren lyfter särskilt fram detaljerat instruktionsföljande, längre texter, tabellförståelse och strukturerad text, särskilt JSON. Familjen är förtränad på en korpus som uppges nå 18 biljoner token.
Strukturerade data, långa svar och flerspråkigt arbete
En användbar extraktionsuppgift ger ett källavsnitt och de exakta fält som nästa applikationssteg behöver. Definiera fälttyperna, om ordalydelsen ska kopieras eller sammanfattas och hur saknad information ska representeras. En produktpost kan till exempel begära en identifierare, driftsvillkor och en lista över olösta frågor. Be enbart om JSON-posten när den ska tolkas maskinellt eller om en separat förklaring när en person behöver granska resonemanget bakom de extraherade fälten.
Tabellförståelse är ett annat dokumenterat fokus. Tillhandahåll kolumnnamn, enheter och relevanta rader med frågan. Be modellen identifiera rader som uppfyller ett villkor, förklara en förändring mellan perioder eller omvandla tabellen till en skriftlig rapport. Ett praktiskt resultat kan behålla varje rads identifierare bredvid slutsatsen. Det bevarar kopplingen mellan data och svar i stället för att ge en sammanfattning utan spårbar källrad.
För längre texter ska du ange målgrupp, avsnitt och källfakta innan du begär dokumentet. Ett tekniskt förslag kan kräva problembeskrivning, krav, alternativ och en rekommendation som bara använder det tillhandahållna materialet. Ange vilka villkor som är obligatoriska och vilka som är frågor att lösa. Tillverkaren utvecklar också robusthet för olika systempromptar, vilket stöder en definierad roll, ton och samtalsvillkor.
Familjen stöder fler än 29 språk, däribland engelska, kinesiska, ryska, franska, spanska, portugisiska, tyska, italienska, japanska, koreanska, vietnamesiska, thailändska och arabiska. För en flerspråkig uppgift ska du skilja källspråket från det önskade utdataspråket och ge en terminologilista när namn eller tekniska termer behöver vara konsekventa. En tvåspråkig rapport kan be om samma källfakta i två versioner med identifierare och enheter oförändrade.
Modelluppgifter för denna version
32B-Instruct-versionen har 32,5 miljarder parametrar, varav 31,0 miljarder är parametrar utanför inbäddningarna, och 64 Transformer-lager. Den använder roterande positionsinbäddningar, SwiGLU, RMSNorm och QKV-bias i uppmärksamhetsmekanismen. Grouped-query attention använder 40 frågehuvuden och 8 nyckel-/värdehuvuden. Det är en tät decoder-only-språkmodell med förträning och efterträning; Instruct identifierar den samtalstränade versionen, inte basmodellen.
Kortet anger en full kontext på 131 072 token och generering av upp till 8 192 token. Siffrorna beskriver olika delar av en uppgift: kontexten bevarar prompten och samtalet, medan genereringssiffran begränsar det skriftliga svaret. Snabbstartens 512 genererade token är bara ett exempel inom den större angivna genereringsgränsen. Modellen tar emot och returnerar text; en skannad tabell eller skärmbild behöver göras tillgänglig som text eller hanteras av en separat visuell modell.
Samtal och verktyg
Modellkortet visar separata system- och användarmeddelanden formaterade med den matchande chattmallen. Lägg assistentens varaktiga svarsregler i rätt samtalsroll och placera det faktiska dokumentet, tabellen eller koden med användarens uppgift. Markera gränsen mellan citerat källmaterial och instruktioner så att en instruktion inne i ett dokument inte förväxlas med applikationens avsedda uppgift.
Familjens officiella meddelande dokumenterar verktygsanropsstöd genom kompatibla samtalsmallar och driftintegrationer. I ett sådant arbetsflöde tillhandahåller applikationen funktionsbeskrivningar, tar emot det föreslagna anropet, kör funktionen och returnerar resultatet. Det kan koppla en textfråga till en beräkning eller datainhämtning, men modellvalet i sig tillhandahåller inte det externa verktyget eller dess data. JSON-generering och verktygsanrop är också olika resultat: det ena formaterar text, det andra ber den omgivande applikationen utföra en namngiven operation.
Förberedelse av lång kontext
Den släppta konfigurationen börjar vid 32 768 token. Indata utöver inställningen kräver den dokumenterade YaRN-utökningen, vars exempel använder faktorn 4,0 och en ursprunglig inställning för maximalt antal positioner på 32 768. Tillverkaren varnar för att statisk skalning kan påverka beteendet för kortare texter och rekommenderar att den aktiveras när bearbetning med lång kontext behövs.
För en jämförelse av stora dokument ska du ange varje dokuments roll och be om ett väl definierat resultat: en kravmatris, en avvikelselista eller ett reviderat avsnitt. Behåll källplatser bredvid extraherade uppgifter och ge tillräckligt svarsutrymme för den önskade strukturen. Lång kontext hjälper till att hålla relevant material tillsammans; den ersätter inte behovet av att definiera vad som ska jämföras eller hur slutresultatet ska användas.
POST /v1/messagestextjson, sse| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser Qwen/Qwen2.5-32B-Instruct | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser user, assistant | Standard— |
Fältmessages[].content | Typstring | KravObligatoriskt | Värden & gränser | Standard— |
Fältmax_tokens | Typinteger | KravObligatoriskt | Värden & gränser | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Text · UTF-8-text
sträng i messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages, max_tokens |
Parameteroptional_controls | Avtalstream |
Parametermaterial_types | Avtaltext |
Parametertext_file_material | AvtalLäs det faktiska UTF-8-dokumentet och placera texten i det angivna input-fältet eller i strängen för meddelandets innehåll. |
Livscykel: synchronous_or_streamed
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
| Konfiguration | Prislista | Avgift |
|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Avgift Indata · Indatatoken $0.00036 / 1K token Utdata · Utdatatoken $0.00036 / 1K token Indata · Cacheläsning $0 / 1K token Indata · Skrivning till cache $0 / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
{\n "model": "Qwen/Qwen2.5-32B-Instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-32B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-32B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll alla innehållsblock, resonemangssignaturer och faktiska ID:n för verktygsanvändning. Sätt samman alla SSE-deltauppdateringar för blocken; ett första textblock är inte hela utdata.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältid | Typstring |
Fältmodel | Typstring |
Fältcontent[] | Typtext|thinking|tool_use|other content block |
Fältstop_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
qwen2.5-32b-instructQwen2.5-32B-Instruct är en flerspråkig textmodell för detaljerade instruktioner, programmering, matematik och strukturerade data. Versionen med 32,5 miljarder parametrar betonar tabellförståelse, JSON-utdata och långa skriftliga resultat, med dokumenterade inställningar för utökad kontext.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Qwen2.5-32B-Instruct är den instruktionsfinjusterade textmodellen i 32B-storlek i den generella Qwen2.5-familjen. Den kombinerar språkförståelse och generering med programmering och matematik och är inte den separat namngivna Coder- eller Math-specialisten. Tillverkaren lyfter särskilt fram detaljerat instruktionsföljande, längre texter, tabellförståelse och strukturerad text, särskilt JSON. Familjen är förtränad på en korpus som uppges nå 18 biljoner token.
Strukturerade data, långa svar och flerspråkigt arbete
En användbar extraktionsuppgift ger ett källavsnitt och de exakta fält som nästa applikationssteg behöver. Definiera fälttyperna, om ordalydelsen ska kopieras eller sammanfattas och hur saknad information ska representeras. En produktpost kan till exempel begära en identifierare, driftsvillkor och en lista över olösta frågor. Be enbart om JSON-posten när den ska tolkas maskinellt eller om en separat förklaring när en person behöver granska resonemanget bakom de extraherade fälten.
Tabellförståelse är ett annat dokumenterat fokus. Tillhandahåll kolumnnamn, enheter och relevanta rader med frågan. Be modellen identifiera rader som uppfyller ett villkor, förklara en förändring mellan perioder eller omvandla tabellen till en skriftlig rapport. Ett praktiskt resultat kan behålla varje rads identifierare bredvid slutsatsen. Det bevarar kopplingen mellan data och svar i stället för att ge en sammanfattning utan spårbar källrad.
För längre texter ska du ange målgrupp, avsnitt och källfakta innan du begär dokumentet. Ett tekniskt förslag kan kräva problembeskrivning, krav, alternativ och en rekommendation som bara använder det tillhandahållna materialet. Ange vilka villkor som är obligatoriska och vilka som är frågor att lösa. Tillverkaren utvecklar också robusthet för olika systempromptar, vilket stöder en definierad roll, ton och samtalsvillkor.
Familjen stöder fler än 29 språk, däribland engelska, kinesiska, ryska, franska, spanska, portugisiska, tyska, italienska, japanska, koreanska, vietnamesiska, thailändska och arabiska. För en flerspråkig uppgift ska du skilja källspråket från det önskade utdataspråket och ge en terminologilista när namn eller tekniska termer behöver vara konsekventa. En tvåspråkig rapport kan be om samma källfakta i två versioner med identifierare och enheter oförändrade.
Modelluppgifter för denna version
32B-Instruct-versionen har 32,5 miljarder parametrar, varav 31,0 miljarder är parametrar utanför inbäddningarna, och 64 Transformer-lager. Den använder roterande positionsinbäddningar, SwiGLU, RMSNorm och QKV-bias i uppmärksamhetsmekanismen. Grouped-query attention använder 40 frågehuvuden och 8 nyckel-/värdehuvuden. Det är en tät decoder-only-språkmodell med förträning och efterträning; Instruct identifierar den samtalstränade versionen, inte basmodellen.
Kortet anger en full kontext på 131 072 token och generering av upp till 8 192 token. Siffrorna beskriver olika delar av en uppgift: kontexten bevarar prompten och samtalet, medan genereringssiffran begränsar det skriftliga svaret. Snabbstartens 512 genererade token är bara ett exempel inom den större angivna genereringsgränsen. Modellen tar emot och returnerar text; en skannad tabell eller skärmbild behöver göras tillgänglig som text eller hanteras av en separat visuell modell.
Samtal och verktyg
Modellkortet visar separata system- och användarmeddelanden formaterade med den matchande chattmallen. Lägg assistentens varaktiga svarsregler i rätt samtalsroll och placera det faktiska dokumentet, tabellen eller koden med användarens uppgift. Markera gränsen mellan citerat källmaterial och instruktioner så att en instruktion inne i ett dokument inte förväxlas med applikationens avsedda uppgift.
Familjens officiella meddelande dokumenterar verktygsanropsstöd genom kompatibla samtalsmallar och driftintegrationer. I ett sådant arbetsflöde tillhandahåller applikationen funktionsbeskrivningar, tar emot det föreslagna anropet, kör funktionen och returnerar resultatet. Det kan koppla en textfråga till en beräkning eller datainhämtning, men modellvalet i sig tillhandahåller inte det externa verktyget eller dess data. JSON-generering och verktygsanrop är också olika resultat: det ena formaterar text, det andra ber den omgivande applikationen utföra en namngiven operation.
Förberedelse av lång kontext
Den släppta konfigurationen börjar vid 32 768 token. Indata utöver inställningen kräver den dokumenterade YaRN-utökningen, vars exempel använder faktorn 4,0 och en ursprunglig inställning för maximalt antal positioner på 32 768. Tillverkaren varnar för att statisk skalning kan påverka beteendet för kortare texter och rekommenderar att den aktiveras när bearbetning med lång kontext behövs.
För en jämförelse av stora dokument ska du ange varje dokuments roll och be om ett väl definierat resultat: en kravmatris, en avvikelselista eller ett reviderat avsnitt. Behåll källplatser bredvid extraherade uppgifter och ge tillräckligt svarsutrymme för den önskade strukturen. Lång kontext hjälper till att hålla relevant material tillsammans; den ersätter inte behovet av att definiera vad som ska jämföras eller hur slutresultatet ska användas.
POST /v1/chat/completionstexttext| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser qwen2.5-32b-instruct | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser Minsta antal objekt: 1 | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser Beror på modellen | Standard— |
Fältmessages[].content | Typstring | KravValfritt | Värden & gränser Gäller när: Textsamtal | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Text · UTF8-text
messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages |
Parametermaterial_types | Avtaltext |
Parametermessages | Avtalmeddelandearray med strukturen role/content |
Parameterfile_material | Avtaldet faktiska UTF-8-dokumentet infogat som bokstavlig text; inget fil-ID härleds |
Parameteroptional_controls | Avtalstream |
Parametercontrol_scope | AvtalTextsamtal; stream är ett booleskt värde och har false som standard. |
Parameteroutput_modalities | Avtaltext |
Parameterhosted_operations | Avtalfalse |
Parametermultimodal_input_binding | Avtalnull |
Metodalias: /chat/completions
Livscykel: synchronous_or_streamed
Skicka det exakta modell-ID:t tillsammans med messages.
Kontextlängden är inte en utdatagräns.
En textfil kan tillhandahålla bokstavlig text; bild-/ljud-/filobjektsindata kräver exakt bindning.
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
| Konfiguration | Prislista | Avgift |
|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Avgift Indata · Indatatoken $0.00036 / 1K token Utdata · Utdatatoken $0.00036 / 1K token Indata · Cacheläsning $0 / 1K token Indata · Skrivning till cache $0 / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"qwen2.5-32b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="qwen2.5-32b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll varje svarsalternativ och dess innehåll/verktygsanrop/resonemang. Sätt i SSE samman deltauppdateringar efter svarsalternativets/verktygets index och behåll den slutliga avslutsorsaken och användningsuppgifterna.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältchoices[].index | Typinteger |
Fältchoices[].message.content | Typstring|null |
Fältchoices[].message.tool_calls | Typtool_call[] |
Fältchoices[].message.reasoning_content | Typstring |
Fältchoices[].message.reasoning_details | Typobject|array |
Fältchoices[].finish_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
qwen2.5-32b-instructQwen2.5-32B-Instruct är en flerspråkig textmodell för detaljerade instruktioner, programmering, matematik och strukturerade data. Versionen med 32,5 miljarder parametrar betonar tabellförståelse, JSON-utdata och långa skriftliga resultat, med dokumenterade inställningar för utökad kontext.
Den här beskrivningen omfattar modellens förmågor. Tillgängliga indata, utdata och alternativ i Ailoot anges nedan för den valda metoden.
Qwen2.5-32B-Instruct är den instruktionsfinjusterade textmodellen i 32B-storlek i den generella Qwen2.5-familjen. Den kombinerar språkförståelse och generering med programmering och matematik och är inte den separat namngivna Coder- eller Math-specialisten. Tillverkaren lyfter särskilt fram detaljerat instruktionsföljande, längre texter, tabellförståelse och strukturerad text, särskilt JSON. Familjen är förtränad på en korpus som uppges nå 18 biljoner token.
Strukturerade data, långa svar och flerspråkigt arbete
En användbar extraktionsuppgift ger ett källavsnitt och de exakta fält som nästa applikationssteg behöver. Definiera fälttyperna, om ordalydelsen ska kopieras eller sammanfattas och hur saknad information ska representeras. En produktpost kan till exempel begära en identifierare, driftsvillkor och en lista över olösta frågor. Be enbart om JSON-posten när den ska tolkas maskinellt eller om en separat förklaring när en person behöver granska resonemanget bakom de extraherade fälten.
Tabellförståelse är ett annat dokumenterat fokus. Tillhandahåll kolumnnamn, enheter och relevanta rader med frågan. Be modellen identifiera rader som uppfyller ett villkor, förklara en förändring mellan perioder eller omvandla tabellen till en skriftlig rapport. Ett praktiskt resultat kan behålla varje rads identifierare bredvid slutsatsen. Det bevarar kopplingen mellan data och svar i stället för att ge en sammanfattning utan spårbar källrad.
För längre texter ska du ange målgrupp, avsnitt och källfakta innan du begär dokumentet. Ett tekniskt förslag kan kräva problembeskrivning, krav, alternativ och en rekommendation som bara använder det tillhandahållna materialet. Ange vilka villkor som är obligatoriska och vilka som är frågor att lösa. Tillverkaren utvecklar också robusthet för olika systempromptar, vilket stöder en definierad roll, ton och samtalsvillkor.
Familjen stöder fler än 29 språk, däribland engelska, kinesiska, ryska, franska, spanska, portugisiska, tyska, italienska, japanska, koreanska, vietnamesiska, thailändska och arabiska. För en flerspråkig uppgift ska du skilja källspråket från det önskade utdataspråket och ge en terminologilista när namn eller tekniska termer behöver vara konsekventa. En tvåspråkig rapport kan be om samma källfakta i två versioner med identifierare och enheter oförändrade.
Modelluppgifter för denna version
32B-Instruct-versionen har 32,5 miljarder parametrar, varav 31,0 miljarder är parametrar utanför inbäddningarna, och 64 Transformer-lager. Den använder roterande positionsinbäddningar, SwiGLU, RMSNorm och QKV-bias i uppmärksamhetsmekanismen. Grouped-query attention använder 40 frågehuvuden och 8 nyckel-/värdehuvuden. Det är en tät decoder-only-språkmodell med förträning och efterträning; Instruct identifierar den samtalstränade versionen, inte basmodellen.
Kortet anger en full kontext på 131 072 token och generering av upp till 8 192 token. Siffrorna beskriver olika delar av en uppgift: kontexten bevarar prompten och samtalet, medan genereringssiffran begränsar det skriftliga svaret. Snabbstartens 512 genererade token är bara ett exempel inom den större angivna genereringsgränsen. Modellen tar emot och returnerar text; en skannad tabell eller skärmbild behöver göras tillgänglig som text eller hanteras av en separat visuell modell.
Samtal och verktyg
Modellkortet visar separata system- och användarmeddelanden formaterade med den matchande chattmallen. Lägg assistentens varaktiga svarsregler i rätt samtalsroll och placera det faktiska dokumentet, tabellen eller koden med användarens uppgift. Markera gränsen mellan citerat källmaterial och instruktioner så att en instruktion inne i ett dokument inte förväxlas med applikationens avsedda uppgift.
Familjens officiella meddelande dokumenterar verktygsanropsstöd genom kompatibla samtalsmallar och driftintegrationer. I ett sådant arbetsflöde tillhandahåller applikationen funktionsbeskrivningar, tar emot det föreslagna anropet, kör funktionen och returnerar resultatet. Det kan koppla en textfråga till en beräkning eller datainhämtning, men modellvalet i sig tillhandahåller inte det externa verktyget eller dess data. JSON-generering och verktygsanrop är också olika resultat: det ena formaterar text, det andra ber den omgivande applikationen utföra en namngiven operation.
Förberedelse av lång kontext
Den släppta konfigurationen börjar vid 32 768 token. Indata utöver inställningen kräver den dokumenterade YaRN-utökningen, vars exempel använder faktorn 4,0 och en ursprunglig inställning för maximalt antal positioner på 32 768. Tillverkaren varnar för att statisk skalning kan påverka beteendet för kortare texter och rekommenderar att den aktiveras när bearbetning med lång kontext behövs.
För en jämförelse av stora dokument ska du ange varje dokuments roll och be om ett väl definierat resultat: en kravmatris, en avvikelselista eller ett reviderat avsnitt. Behåll källplatser bredvid extraherade uppgifter och ge tillräckligt svarsutrymme för den önskade strukturen. Lång kontext hjälper till att hålla relevant material tillsammans; den ersätter inte behovet av att definiera vad som ska jämföras eller hur slutresultatet ska användas.
POST /v1/messagestextjson, sse| Fält | Typ | Krav | Värden & gränser | Standard |
|---|---|---|---|---|
Fältmodel | Typstring | KravObligatoriskt | Värden & gränser qwen2.5-32b-instruct | Standard— |
Fältmessages | Typmessage[] | KravObligatoriskt | Värden & gränser | Standard— |
Fältmessages[].role | Typstring | KravObligatoriskt | Värden & gränser user, assistant | Standard— |
Fältmessages[].content | Typstring | KravObligatoriskt | Värden & gränser | Standard— |
Fältmax_tokens | Typinteger | KravObligatoriskt | Värden & gränser | Standard— |
Fältstream | Typboolean | KravValfritt | Värden & gränser | Standardfalse |
Text · UTF-8-text
sträng i messages[].content
| Parameter | Avtal |
|---|---|
Parametercontent_type | Avtalapplication/json |
Parameterrequired | Avtalmodel, messages, max_tokens |
Parameteroptional_controls | Avtalstream |
Parametermaterial_types | Avtaltext |
Parametertext_file_material | AvtalLäs det faktiska UTF-8-dokumentet och placera texten i det angivna input-fältet eller i strängen för meddelandets innehåll. |
Livscykel: synchronous_or_streamed
Tariffuppgifter lägger inte till begäransalternativ. Parametrar som stöds anges för den valda metoden.
| Konfiguration | Prislista | Avgift |
|---|---|---|
| KonfigurationGrundpriser för token | PrislistaGrundpris | Avgift Indata · Indatatoken $0.00036 / 1K token Utdata · Utdatatoken $0.00036 / 1K token Indata · Cacheläsning $0 / 1K token Indata · Skrivning till cache $0 / 1K token Indata · Skrivning till cache, 1 tim — / 1K token |
Ailoot reserverar ett uppskattat belopp före en begäran. Efter resultatet slutregleras avgiften utifrån uppmätt förbrukning. Slutreglering för strömning använder den slutliga förbrukningsposten. Så fungerar reservation och slutreglering →
{\n "model": "qwen2.5-32b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-32b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-32b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behåll varje fullständigt returnerat svar, fil och innehållsdel.
Behåll alla innehållsblock, resonemangssignaturer och faktiska ID:n för verktygsanvändning. Sätt samman alla SSE-deltauppdateringar för blocken; ett första textblock är inte hela utdata.
Behåll begärans/svarets ID:n och huvuden. Ingen generell URL för hämtning av textjobb tillhandahålls.
| Fält | Typ |
|---|---|
Fältid | Typstring |
Fältmodel | Typstring |
Fältcontent[] | Typtext|thinking|tool_use|other content block |
Fältstop_reason | Typstring|null |
Fältusage | Typobject |
| Svar | Villkor | Nästa steg |
|---|---|---|
Svar400 · invalid_request_error | VillkorOgiltiga obligatoriska fält, ogiltig representation av underlaget eller ogiltigt parametervärde | Nästa stegKorrigera de angivna fälten före en ny begäran om att skapa. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
Tekniskt exempel på engelska
Explain a stock table\n\nAnalyze this text table: SKU | opening units | received units | shipped units. A1 | 20 | 10 | 18. B2 | 7 | 0 | 9. Calculate closing stock for each SKU, identify any impossible negative balance and draft a short note naming the row that needs investigation. Preserve column units.A closing-stock table with row IDs and a short anomaly note supported by the source values.Recalculate opening plus received minus shipped and verify the B2 discrepancy is flagged rather than corrected.