Qwen2.5-32B-Instruct er den instruktionstilpassede tekstmodel i 32B-størrelsen i den generelle Qwen2.5-familie. Den kombinerer sprogforståelse og generering med programmering og matematik og er ikke den særskilt navngivne Coder- eller Math-specialist. Producenten fremhæver især detaljeret instruktionsfølgning, længere tekster, forståelse af tabeller og produktion af struktureret tekst, særligt JSON. Familien er fortrænet på et korpus, der beskrives som omfattende op til 18 billioner tokens.
Strukturerede data, lange svar og flersproget arbejde
En nyttig udtræksopgave angiver en kildepassage og de præcise felter, som det næste trin i applikationen har brug for. Definér felttyperne, om ordlyden skal kopieres eller sammenfattes, og hvordan manglende oplysninger skal repræsenteres. En produktpost kan for eksempel bede om en identifikator, driftsbetingelser og en liste over uafklarede spørgsmål. Bed kun om JSON-posten, når den skal parses, eller bed om en særskilt forklaring, når en person skal undersøge begrundelsen for de udtrukne felter.
Tabelforståelse er et andet dokumenteret fokusområde. Angiv kolonnenavne, enheder og relevante rækker sammen med spørgsmålet. Bed modellen identificere de rækker, der opfylder en betingelse, forklare en ændring mellem perioder eller omdanne en tabel til en skriftlig rapport. Et praktisk output kan bevare hver rækkes identifikator ved siden af fundet. Det bevarer forbindelsen mellem de angivne data og svaret frem for at producere et resumé uden en sporbar kilderække.
Til længere tekster skal du angive målgruppen, afsnittene og kildefakta, før du beder om dokumentet. Et teknisk forslag kan kræve en problemformulering, krav, alternativer og en anbefaling, der kun bruger det angivne materiale. Præcisér, hvilke betingelser der er obligatoriske, og hvilke der er spørgsmål, som skal afklares. Producenten udvikler også robusthed på tværs af forskellige systemprompter, hvilket understøtter en defineret rolle, tone og samtalebetingelser.
Familien understøtter mere end 29 sprog, herunder engelsk, kinesisk, russisk, fransk, spansk, portugisisk, tysk, italiensk, japansk, koreansk, vietnamesisk, thai og arabisk. Til en flersproget opgave skal du skelne mellem kildesproget og det ønskede outputsprog og angive en terminologiliste, når navne eller tekniske begreber skal være konsekvente. En tosproget rapport kan bede om de samme kildefakta i to versioner, mens identifikatorer og enheder bevares uændret.
Modeldetaljer for denne udgave
32B-Instruct-udgaven har 32,5 milliarder parametre, heraf 31,0 milliarder parametre uden for embeddings, og 64 Transformer-lag. Den bruger roterende positionsembeddings, SwiGLU, RMSNorm og attention QKV-bias. Grouped-query attention bruger 40 query-hoveder og 8 key/value-hoveder. Dette er en tæt sprogmodeludgave med kun en decoder, fortræning og eftertræning; Instruct angiver den samtaletrænede udgave frem for basismodellen.
Kortet angiver en fuld kontekst på 131.072 tokens og generering på op til 8.192 tokens. Tallene beskriver forskellige dele af en opgave: konteksten bevarer prompten og samtalen, mens genereringstallet begrænser det skriftlige svar. Hurtigstartens 512 genererede tokens er blot et eksempel inden for den større angivne genereringsgrænse. Modellen modtager og returnerer tekst; indholdet i en scannet tabel eller et skærmbillede skal gøres tilgængeligt som tekst eller via en særskilt visuel model.
Samtale og værktøjer
Modelkortet viser separate system- og brugerbeskeder formateret med den tilhørende chatskabelon. Placér assistentens varige svarregler i den relevante samtalerolle og selve dokumentet, tabellen eller koden sammen med brugerens opgave. Markér grænsen mellem citeret kildemateriale og instruktioner, så en instruktion inde i et dokument ikke forveksles med applikationens tilsigtede opgave.
Den officielle familiemeddelelse dokumenterer støtte til værktøjskald gennem kompatible samtaleskabeloner og integrationer til modelbetjening. I sådan et forløb leverer applikationen funktionsbeskrivelserne, modtager det foreslåede kald, udfører funktionen og returnerer dens resultat. Det kan forbinde et tekstspørgsmål med en beregning eller et dataopslag, men valget af denne model alene leverer hverken det eksterne værktøj eller dets data. JSON-generering og et værktøjskald er også forskellige resultater: det ene formaterer tekst, mens det andet beder den omgivende applikation udføre en navngiven operation.
Forberedelse af lang kontekst
Den udgivne konfiguration starter ved 32.768 tokens. Input ud over den indstilling kræver den dokumenterede YaRN-udvidelse, hvis eksempel bruger en faktor på 4.0 og en oprindelig maksimumindstilling for positioner på 32.768. Producenten advarer om, at statisk skalering kan påvirke adfærden ved kortere tekst, og anbefaler at aktivere den, når behandling af lang kontekst er nødvendig.
Til en sammenligning af store dokumenter skal du identificere hvert dokuments rolle og bede om ét veldefineret produkt: en kravmatrix, en liste over uoverensstemmelser eller et revideret afsnit. Bevar kildeplaceringer ved siden af udtrukne fund, og afsæt nok svarplads til den ønskede struktur. Kapacitet til lang kontekst hjælper med at holde det relevante materiale samlet; den erstatter ikke behovet for at definere, hvad der skal sammenlignes, eller hvordan det endelige resultat skal bruges.
", "aboutText": "Qwen2.5-32B-Instruct er den instruktionstilpassede tekstmodel i 32B-størrelsen i den generelle Qwen2.5-familie. Den kombinerer sprogforståelse og generering med programmering og matematik og er ikke den særskilt navngivne Coder- eller Math-specialist. Producenten fremhæver især detaljeret instruktionsfølgning, længere tekster, forståelse af tabeller og produktion af struktureret tekst, særligt JSON. Familien er fortrænet på et korpus, der beskrives som omfattende op til 18 billioner tokens.\n\nStrukturerede data, lange svar og flersproget arbejde\n\nEn nyttig udtræksopgave angiver en kildepassage og de præcise felter, som det næste trin i applikationen har brug for. Definér felttyperne, om ordlyden skal kopieres eller sammenfattes, og hvordan manglende oplysninger skal repræsenteres. En produktpost kan for eksempel bede om en identifikator, driftsbetingelser og en liste over uafklarede spørgsmål. Bed kun om JSON-posten, når den skal parses, eller bed om en særskilt forklaring, når en person skal undersøge begrundelsen for de udtrukne felter.\n\nTabelforståelse er et andet dokumenteret fokusområde. Angiv kolonnenavne, enheder og relevante rækker sammen med spørgsmålet. Bed modellen identificere de rækker, der opfylder en betingelse, forklare en ændring mellem perioder eller omdanne en tabel til en skriftlig rapport. Et praktisk output kan bevare hver rækkes identifikator ved siden af fundet. Det bevarer forbindelsen mellem de angivne data og svaret frem for at producere et resumé uden en sporbar kilderække.\n\nTil længere tekster skal du angive målgruppen, afsnittene og kildefakta, før du beder om dokumentet. Et teknisk forslag kan kræve en problemformulering, krav, alternativer og en anbefaling, der kun bruger det angivne materiale. Præcisér, hvilke betingelser der er obligatoriske, og hvilke der er spørgsmål, som skal afklares. Producenten udvikler også robusthed på tværs af forskellige systemprompter, hvilket understøtter en defineret rolle, tone og samtalebetingelser.\n\nFamilien understøtter mere end 29 sprog, herunder engelsk, kinesisk, russisk, fransk, spansk, portugisisk, tysk, italiensk, japansk, koreansk, vietnamesisk, thai og arabisk. Til en flersproget opgave skal du skelne mellem kildesproget og det ønskede outputsprog og angive en terminologiliste, når navne eller tekniske begreber skal være konsekvente. En tosproget rapport kan bede om de samme kildefakta i to versioner, mens identifikatorer og enheder bevares uændret.\n\nModeldetaljer for denne udgave\n\n32B-Instruct-udgaven har 32,5 milliarder parametre, heraf 31,0 milliarder parametre uden for embeddings, og 64 Transformer-lag. Den bruger roterende positionsembeddings, SwiGLU, RMSNorm og attention QKV-bias. Grouped-query attention bruger 40 query-hoveder og 8 key/value-hoveder. Dette er en tæt sprogmodeludgave med kun en decoder, fortræning og eftertræning; Instruct angiver den samtaletrænede udgave frem for basismodellen.\n\nKortet angiver en fuld kontekst på 131.072 tokens og generering på op til 8.192 tokens. Tallene beskriver forskellige dele af en opgave: konteksten bevarer prompten og samtalen, mens genereringstallet begrænser det skriftlige svar. Hurtigstartens 512 genererede tokens er blot et eksempel inden for den større angivne genereringsgrænse. Modellen modtager og returnerer tekst; indholdet i en scannet tabel eller et skærmbillede skal gøres tilgængeligt som tekst eller via en særskilt visuel model.\n\nSamtale og værktøjer\n\nModelkortet viser separate system- og brugerbeskeder formateret med den tilhørende chatskabelon. Placér assistentens varige svarregler i den relevante samtalerolle og selve dokumentet, tabellen eller koden sammen med brugerens opgave. Markér grænsen mellem citeret kildemateriale og instruktioner, så en instruktion inde i et dokument ikke forveksles med applikationens tilsigtede opgave.\n\nDen officielle familiemeddelelse dokumenterer støtte til værktøjskald gennem kompatible samtaleskabeloner og integrationer til modelbetjening. I sådan et forløb leverer applikationen funktionsbeskrivelserne, modtager det foreslåede kald, udfører funktionen og returnerer dens resultat. Det kan forbinde et tekstspørgsmål med en beregning eller et dataopslag, men valget af denne model alene leverer hverken det eksterne værktøj eller dets data. JSON-generering og et værktøjskald er også forskellige resultater: det ene formaterer tekst, mens det andet beder den omgivende applikation udføre en navngiven operation.\n\nForberedelse af lang kontekst\n\nDen udgivne konfiguration starter ved 32.768 tokens. Input ud over den indstilling kræver den dokumenterede YaRN-udvidelse, hvis eksempel bruger en faktor på 4.0 og en oprindelig maksimumindstilling for positioner på 32.768. Producenten advarer om, at statisk skalering kan påvirke adfærden ved kortere tekst, og anbefaler at aktivere den, når behandling af lang kontekst er nødvendig.\n\nTil en sammenligning af store dokumenter skal du identificere hvert dokuments rolle og bede om ét veldefineret produkt: en kravmatrix, en liste over uoverensstemmelser eller et revideret afsnit. Bevar kildeplaceringer ved siden af udtrukne fund, og afsæt nok svarplads til den ønskede struktur. Kapacitet til lang kontekst hjælper med at holde det relevante materiale samlet; den erstatter ikke behovet for at definere, hvad der skal sammenlignes, eller hvordan det endelige resultat skal bruges.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Explain a stock table\n\nAnalyze this text table: SKU | opening units | received units | shipped units. A1 | 20 | 10 | 18. B2 | 7 | 0 | 9. Calculate closing stock for each SKU, identify any impossible negative balance and draft a short note naming the row that needs investigation. Preserve column units.A closing-stock table with row IDs and a short anomaly note supported by the source values.Recalculate opening plus received minus shipped and verify the B2 discrepancy is flagged rather than corrected.Qwen/Qwen2.5-32B-InstructQwen2.5-32B-Instruct er en flersproget tekstmodel til detaljerede instruktioner, programmering, matematik og strukturerede data. Udgaven med 32,5 milliarder parametre lægger vægt på tabelforståelse, JSON-output og lange skriftlige resultater med dokumenterede indstillinger for udvidet kontekst.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Qwen2.5-32B-Instruct er den instruktionstilpassede tekstmodel i 32B-størrelsen i den generelle Qwen2.5-familie. Den kombinerer sprogforståelse og generering med programmering og matematik og er ikke den særskilt navngivne Coder- eller Math-specialist. Producenten fremhæver især detaljeret instruktionsfølgning, længere tekster, forståelse af tabeller og produktion af struktureret tekst, særligt JSON. Familien er fortrænet på et korpus, der beskrives som omfattende op til 18 billioner tokens.
Strukturerede data, lange svar og flersproget arbejde
En nyttig udtræksopgave angiver en kildepassage og de præcise felter, som det næste trin i applikationen har brug for. Definér felttyperne, om ordlyden skal kopieres eller sammenfattes, og hvordan manglende oplysninger skal repræsenteres. En produktpost kan for eksempel bede om en identifikator, driftsbetingelser og en liste over uafklarede spørgsmål. Bed kun om JSON-posten, når den skal parses, eller bed om en særskilt forklaring, når en person skal undersøge begrundelsen for de udtrukne felter.
Tabelforståelse er et andet dokumenteret fokusområde. Angiv kolonnenavne, enheder og relevante rækker sammen med spørgsmålet. Bed modellen identificere de rækker, der opfylder en betingelse, forklare en ændring mellem perioder eller omdanne en tabel til en skriftlig rapport. Et praktisk output kan bevare hver rækkes identifikator ved siden af fundet. Det bevarer forbindelsen mellem de angivne data og svaret frem for at producere et resumé uden en sporbar kilderække.
Til længere tekster skal du angive målgruppen, afsnittene og kildefakta, før du beder om dokumentet. Et teknisk forslag kan kræve en problemformulering, krav, alternativer og en anbefaling, der kun bruger det angivne materiale. Præcisér, hvilke betingelser der er obligatoriske, og hvilke der er spørgsmål, som skal afklares. Producenten udvikler også robusthed på tværs af forskellige systemprompter, hvilket understøtter en defineret rolle, tone og samtalebetingelser.
Familien understøtter mere end 29 sprog, herunder engelsk, kinesisk, russisk, fransk, spansk, portugisisk, tysk, italiensk, japansk, koreansk, vietnamesisk, thai og arabisk. Til en flersproget opgave skal du skelne mellem kildesproget og det ønskede outputsprog og angive en terminologiliste, når navne eller tekniske begreber skal være konsekvente. En tosproget rapport kan bede om de samme kildefakta i to versioner, mens identifikatorer og enheder bevares uændret.
Modeldetaljer for denne udgave
32B-Instruct-udgaven har 32,5 milliarder parametre, heraf 31,0 milliarder parametre uden for embeddings, og 64 Transformer-lag. Den bruger roterende positionsembeddings, SwiGLU, RMSNorm og attention QKV-bias. Grouped-query attention bruger 40 query-hoveder og 8 key/value-hoveder. Dette er en tæt sprogmodeludgave med kun en decoder, fortræning og eftertræning; Instruct angiver den samtaletrænede udgave frem for basismodellen.
Kortet angiver en fuld kontekst på 131.072 tokens og generering på op til 8.192 tokens. Tallene beskriver forskellige dele af en opgave: konteksten bevarer prompten og samtalen, mens genereringstallet begrænser det skriftlige svar. Hurtigstartens 512 genererede tokens er blot et eksempel inden for den større angivne genereringsgrænse. Modellen modtager og returnerer tekst; indholdet i en scannet tabel eller et skærmbillede skal gøres tilgængeligt som tekst eller via en særskilt visuel model.
Samtale og værktøjer
Modelkortet viser separate system- og brugerbeskeder formateret med den tilhørende chatskabelon. Placér assistentens varige svarregler i den relevante samtalerolle og selve dokumentet, tabellen eller koden sammen med brugerens opgave. Markér grænsen mellem citeret kildemateriale og instruktioner, så en instruktion inde i et dokument ikke forveksles med applikationens tilsigtede opgave.
Den officielle familiemeddelelse dokumenterer støtte til værktøjskald gennem kompatible samtaleskabeloner og integrationer til modelbetjening. I sådan et forløb leverer applikationen funktionsbeskrivelserne, modtager det foreslåede kald, udfører funktionen og returnerer dens resultat. Det kan forbinde et tekstspørgsmål med en beregning eller et dataopslag, men valget af denne model alene leverer hverken det eksterne værktøj eller dets data. JSON-generering og et værktøjskald er også forskellige resultater: det ene formaterer tekst, mens det andet beder den omgivende applikation udføre en navngiven operation.
Forberedelse af lang kontekst
Den udgivne konfiguration starter ved 32.768 tokens. Input ud over den indstilling kræver den dokumenterede YaRN-udvidelse, hvis eksempel bruger en faktor på 4.0 og en oprindelig maksimumindstilling for positioner på 32.768. Producenten advarer om, at statisk skalering kan påvirke adfærden ved kortere tekst, og anbefaler at aktivere den, når behandling af lang kontekst er nødvendig.
Til en sammenligning af store dokumenter skal du identificere hvert dokuments rolle og bede om ét veldefineret produkt: en kravmatrix, en liste over uoverensstemmelser eller et revideret afsnit. Bevar kildeplaceringer ved siden af udtrukne fund, og afsæt nok svarplads til den ønskede struktur. Kapacitet til lang kontekst hjælper med at holde det relevante materiale samlet; den erstatter ikke behovet for at definere, hvad der skal sammenlignes, eller hvordan det endelige resultat skal bruges.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser Qwen/Qwen2.5-32B-Instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser Eksempler: system, user, assistant, tool, function Betingelser: Disse roller er eksplicit repræsenteret i kildekodens kompatibilitetstyper; modellens præcise rollesæt er fortsat modelspecifikt. Afhænger af modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfrit | Værdier og grænser Gælder når: role=tool; brug det faktisk returnerede ID | Standard— |
Feltmessages[].name | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfrit | Værdier og grænser Gælder når: Send det faktisk returnerede ræsonnement tilbage, når modellen bruger det | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttemperature | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttop_p | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools[].type | Typestring | KravValgfrit | Værdier og grænser function Afhænger af modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrævet | Værdier og grænser Gælder når: funktionsværktøj angivet | Standard— |
Felttools[].function.description | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfrit | Værdier og grænser | Standard— |
Felttool_choice | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltservice_tier | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltinstructions | Typestring | KravValgfrit | Værdier og grænser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfrit | Værdier og grænser text | Standard— |
Feltprovider | Typeobject | KravValgfrit | Værdier og grænser Betingelser: provider.options afvises på denne Ultra-tekstrute | Standard— |
Feltcache_control.ttl | Typestring | KravValgfrit | Værdier og grænser Betingelser: 1h afvises på de faktiske placeringer for promptcaching | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages |
Parametermaterial_types | Kontrakttext |
Parametermessages | Kontraktbeskedarray med strukturen role/content |
Parameterfile_material | Kontraktfaktisk UTF-8-dokument indsat som bogstavelig tekst; intet fil-ID udledes |
Parameteroptional_controls | Kontraktstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontraktmodelspecifikt; brugerens funktionsværktøjer er forskellige fra hostede værktøjer |
Parameteroutput_modalities | Kontrakttext |
Parameterhosted_operations | Kontraktfalse |
Parametermultimodal_input_binding | Kontraktnull |
Livscyklus: synchronous_or_streamed
Send det præcise model-ID med messages.
Kontekstlængde er ikke et outputloft.
En tekstfil kan levere bogstavelig tekst; billed-, lyd- og filobjektinput kræver en præcis binding.
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0.00036 / 1K tokens Output · Outputtokens $0.00036 / 1K tokens Input · Cachelæsning $0 / 1K tokens Input · Cacheskrivning $0 / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "Qwen/Qwen2.5-32B-Instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='Qwen/Qwen2.5-32B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='Qwen/Qwen2.5-32B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar hvert valg og dets indhold, værktøjskald og ræsonnement. Saml i SSE deltaer efter valg-/værktøjsindeks, og bevar den endelige afslutningsårsag og forbrugsoplysningerne.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
Qwen/Qwen2.5-32B-InstructQwen2.5-32B-Instruct er en flersproget tekstmodel til detaljerede instruktioner, programmering, matematik og strukturerede data. Udgaven med 32,5 milliarder parametre lægger vægt på tabelforståelse, JSON-output og lange skriftlige resultater med dokumenterede indstillinger for udvidet kontekst.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Qwen2.5-32B-Instruct er den instruktionstilpassede tekstmodel i 32B-størrelsen i den generelle Qwen2.5-familie. Den kombinerer sprogforståelse og generering med programmering og matematik og er ikke den særskilt navngivne Coder- eller Math-specialist. Producenten fremhæver især detaljeret instruktionsfølgning, længere tekster, forståelse af tabeller og produktion af struktureret tekst, særligt JSON. Familien er fortrænet på et korpus, der beskrives som omfattende op til 18 billioner tokens.
Strukturerede data, lange svar og flersproget arbejde
En nyttig udtræksopgave angiver en kildepassage og de præcise felter, som det næste trin i applikationen har brug for. Definér felttyperne, om ordlyden skal kopieres eller sammenfattes, og hvordan manglende oplysninger skal repræsenteres. En produktpost kan for eksempel bede om en identifikator, driftsbetingelser og en liste over uafklarede spørgsmål. Bed kun om JSON-posten, når den skal parses, eller bed om en særskilt forklaring, når en person skal undersøge begrundelsen for de udtrukne felter.
Tabelforståelse er et andet dokumenteret fokusområde. Angiv kolonnenavne, enheder og relevante rækker sammen med spørgsmålet. Bed modellen identificere de rækker, der opfylder en betingelse, forklare en ændring mellem perioder eller omdanne en tabel til en skriftlig rapport. Et praktisk output kan bevare hver rækkes identifikator ved siden af fundet. Det bevarer forbindelsen mellem de angivne data og svaret frem for at producere et resumé uden en sporbar kilderække.
Til længere tekster skal du angive målgruppen, afsnittene og kildefakta, før du beder om dokumentet. Et teknisk forslag kan kræve en problemformulering, krav, alternativer og en anbefaling, der kun bruger det angivne materiale. Præcisér, hvilke betingelser der er obligatoriske, og hvilke der er spørgsmål, som skal afklares. Producenten udvikler også robusthed på tværs af forskellige systemprompter, hvilket understøtter en defineret rolle, tone og samtalebetingelser.
Familien understøtter mere end 29 sprog, herunder engelsk, kinesisk, russisk, fransk, spansk, portugisisk, tysk, italiensk, japansk, koreansk, vietnamesisk, thai og arabisk. Til en flersproget opgave skal du skelne mellem kildesproget og det ønskede outputsprog og angive en terminologiliste, når navne eller tekniske begreber skal være konsekvente. En tosproget rapport kan bede om de samme kildefakta i to versioner, mens identifikatorer og enheder bevares uændret.
Modeldetaljer for denne udgave
32B-Instruct-udgaven har 32,5 milliarder parametre, heraf 31,0 milliarder parametre uden for embeddings, og 64 Transformer-lag. Den bruger roterende positionsembeddings, SwiGLU, RMSNorm og attention QKV-bias. Grouped-query attention bruger 40 query-hoveder og 8 key/value-hoveder. Dette er en tæt sprogmodeludgave med kun en decoder, fortræning og eftertræning; Instruct angiver den samtaletrænede udgave frem for basismodellen.
Kortet angiver en fuld kontekst på 131.072 tokens og generering på op til 8.192 tokens. Tallene beskriver forskellige dele af en opgave: konteksten bevarer prompten og samtalen, mens genereringstallet begrænser det skriftlige svar. Hurtigstartens 512 genererede tokens er blot et eksempel inden for den større angivne genereringsgrænse. Modellen modtager og returnerer tekst; indholdet i en scannet tabel eller et skærmbillede skal gøres tilgængeligt som tekst eller via en særskilt visuel model.
Samtale og værktøjer
Modelkortet viser separate system- og brugerbeskeder formateret med den tilhørende chatskabelon. Placér assistentens varige svarregler i den relevante samtalerolle og selve dokumentet, tabellen eller koden sammen med brugerens opgave. Markér grænsen mellem citeret kildemateriale og instruktioner, så en instruktion inde i et dokument ikke forveksles med applikationens tilsigtede opgave.
Den officielle familiemeddelelse dokumenterer støtte til værktøjskald gennem kompatible samtaleskabeloner og integrationer til modelbetjening. I sådan et forløb leverer applikationen funktionsbeskrivelserne, modtager det foreslåede kald, udfører funktionen og returnerer dens resultat. Det kan forbinde et tekstspørgsmål med en beregning eller et dataopslag, men valget af denne model alene leverer hverken det eksterne værktøj eller dets data. JSON-generering og et værktøjskald er også forskellige resultater: det ene formaterer tekst, mens det andet beder den omgivende applikation udføre en navngiven operation.
Forberedelse af lang kontekst
Den udgivne konfiguration starter ved 32.768 tokens. Input ud over den indstilling kræver den dokumenterede YaRN-udvidelse, hvis eksempel bruger en faktor på 4.0 og en oprindelig maksimumindstilling for positioner på 32.768. Producenten advarer om, at statisk skalering kan påvirke adfærden ved kortere tekst, og anbefaler at aktivere den, når behandling af lang kontekst er nødvendig.
Til en sammenligning af store dokumenter skal du identificere hvert dokuments rolle og bede om ét veldefineret produkt: en kravmatrix, en liste over uoverensstemmelser eller et revideret afsnit. Bevar kildeplaceringer ved siden af udtrukne fund, og afsæt nok svarplads til den ønskede struktur. Kapacitet til lang kontekst hjælper med at holde det relevante materiale samlet; den erstatter ikke behovet for at definere, hvad der skal sammenlignes, eller hvordan det endelige resultat skal bruges.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser Qwen/Qwen2.5-32B-Instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrævet | Værdier og grænser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrævet | Værdier og grænser | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content som streng
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages, max_tokens |
Parameteroptional_controls | Kontraktstream |
Parametermaterial_types | Kontrakttext |
Parametertext_file_material | KontraktLæs det faktiske UTF-8-dokument, og indsæt teksten i det angivne input eller beskedens indholdsstreng. |
Livscyklus: synchronous_or_streamed
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0.00036 / 1K tokens Output · Outputtokens $0.00036 / 1K tokens Input · Cachelæsning $0 / 1K tokens Input · Cacheskrivning $0 / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
{\n "model": "Qwen/Qwen2.5-32B-Instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-32B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-32B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar alle indholdsblokke, ræsonnementssignaturer og faktiske værktøjsbrugs-ID’er. Saml alle SSE-blokdeltaer; den første tekstblok er ikke hele outputtet.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
qwen2.5-32b-instructQwen2.5-32B-Instruct er en flersproget tekstmodel til detaljerede instruktioner, programmering, matematik og strukturerede data. Udgaven med 32,5 milliarder parametre lægger vægt på tabelforståelse, JSON-output og lange skriftlige resultater med dokumenterede indstillinger for udvidet kontekst.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Qwen2.5-32B-Instruct er den instruktionstilpassede tekstmodel i 32B-størrelsen i den generelle Qwen2.5-familie. Den kombinerer sprogforståelse og generering med programmering og matematik og er ikke den særskilt navngivne Coder- eller Math-specialist. Producenten fremhæver især detaljeret instruktionsfølgning, længere tekster, forståelse af tabeller og produktion af struktureret tekst, særligt JSON. Familien er fortrænet på et korpus, der beskrives som omfattende op til 18 billioner tokens.
Strukturerede data, lange svar og flersproget arbejde
En nyttig udtræksopgave angiver en kildepassage og de præcise felter, som det næste trin i applikationen har brug for. Definér felttyperne, om ordlyden skal kopieres eller sammenfattes, og hvordan manglende oplysninger skal repræsenteres. En produktpost kan for eksempel bede om en identifikator, driftsbetingelser og en liste over uafklarede spørgsmål. Bed kun om JSON-posten, når den skal parses, eller bed om en særskilt forklaring, når en person skal undersøge begrundelsen for de udtrukne felter.
Tabelforståelse er et andet dokumenteret fokusområde. Angiv kolonnenavne, enheder og relevante rækker sammen med spørgsmålet. Bed modellen identificere de rækker, der opfylder en betingelse, forklare en ændring mellem perioder eller omdanne en tabel til en skriftlig rapport. Et praktisk output kan bevare hver rækkes identifikator ved siden af fundet. Det bevarer forbindelsen mellem de angivne data og svaret frem for at producere et resumé uden en sporbar kilderække.
Til længere tekster skal du angive målgruppen, afsnittene og kildefakta, før du beder om dokumentet. Et teknisk forslag kan kræve en problemformulering, krav, alternativer og en anbefaling, der kun bruger det angivne materiale. Præcisér, hvilke betingelser der er obligatoriske, og hvilke der er spørgsmål, som skal afklares. Producenten udvikler også robusthed på tværs af forskellige systemprompter, hvilket understøtter en defineret rolle, tone og samtalebetingelser.
Familien understøtter mere end 29 sprog, herunder engelsk, kinesisk, russisk, fransk, spansk, portugisisk, tysk, italiensk, japansk, koreansk, vietnamesisk, thai og arabisk. Til en flersproget opgave skal du skelne mellem kildesproget og det ønskede outputsprog og angive en terminologiliste, når navne eller tekniske begreber skal være konsekvente. En tosproget rapport kan bede om de samme kildefakta i to versioner, mens identifikatorer og enheder bevares uændret.
Modeldetaljer for denne udgave
32B-Instruct-udgaven har 32,5 milliarder parametre, heraf 31,0 milliarder parametre uden for embeddings, og 64 Transformer-lag. Den bruger roterende positionsembeddings, SwiGLU, RMSNorm og attention QKV-bias. Grouped-query attention bruger 40 query-hoveder og 8 key/value-hoveder. Dette er en tæt sprogmodeludgave med kun en decoder, fortræning og eftertræning; Instruct angiver den samtaletrænede udgave frem for basismodellen.
Kortet angiver en fuld kontekst på 131.072 tokens og generering på op til 8.192 tokens. Tallene beskriver forskellige dele af en opgave: konteksten bevarer prompten og samtalen, mens genereringstallet begrænser det skriftlige svar. Hurtigstartens 512 genererede tokens er blot et eksempel inden for den større angivne genereringsgrænse. Modellen modtager og returnerer tekst; indholdet i en scannet tabel eller et skærmbillede skal gøres tilgængeligt som tekst eller via en særskilt visuel model.
Samtale og værktøjer
Modelkortet viser separate system- og brugerbeskeder formateret med den tilhørende chatskabelon. Placér assistentens varige svarregler i den relevante samtalerolle og selve dokumentet, tabellen eller koden sammen med brugerens opgave. Markér grænsen mellem citeret kildemateriale og instruktioner, så en instruktion inde i et dokument ikke forveksles med applikationens tilsigtede opgave.
Den officielle familiemeddelelse dokumenterer støtte til værktøjskald gennem kompatible samtaleskabeloner og integrationer til modelbetjening. I sådan et forløb leverer applikationen funktionsbeskrivelserne, modtager det foreslåede kald, udfører funktionen og returnerer dens resultat. Det kan forbinde et tekstspørgsmål med en beregning eller et dataopslag, men valget af denne model alene leverer hverken det eksterne værktøj eller dets data. JSON-generering og et værktøjskald er også forskellige resultater: det ene formaterer tekst, mens det andet beder den omgivende applikation udføre en navngiven operation.
Forberedelse af lang kontekst
Den udgivne konfiguration starter ved 32.768 tokens. Input ud over den indstilling kræver den dokumenterede YaRN-udvidelse, hvis eksempel bruger en faktor på 4.0 og en oprindelig maksimumindstilling for positioner på 32.768. Producenten advarer om, at statisk skalering kan påvirke adfærden ved kortere tekst, og anbefaler at aktivere den, når behandling af lang kontekst er nødvendig.
Til en sammenligning af store dokumenter skal du identificere hvert dokuments rolle og bede om ét veldefineret produkt: en kravmatrix, en liste over uoverensstemmelser eller et revideret afsnit. Bevar kildeplaceringer ved siden af udtrukne fund, og afsæt nok svarplads til den ønskede struktur. Kapacitet til lang kontekst hjælper med at holde det relevante materiale samlet; den erstatter ikke behovet for at definere, hvad der skal sammenlignes, eller hvordan det endelige resultat skal bruges.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser qwen2.5-32b-instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser Afhænger af modellen | Standard— |
Feltmessages[].content | Typestring | KravValgfrit | Værdier og grænser Gælder når: Tekstsamtale | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Tekst · UTF8-tekst
messages[].content
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages |
Parametermaterial_types | Kontrakttext |
Parametermessages | Kontraktbeskedarray med strukturen role/content |
Parameterfile_material | Kontraktfaktisk UTF-8-dokument indsat som bogstavelig tekst; intet fil-ID udledes |
Parameteroptional_controls | Kontraktstream |
Parametercontrol_scope | KontraktTekstsamtale; stream er en boolesk værdi og er som standard false. |
Parameteroutput_modalities | Kontrakttext |
Parameterhosted_operations | Kontraktfalse |
Parametermultimodal_input_binding | Kontraktnull |
Metodealiaser: /chat/completions
Livscyklus: synchronous_or_streamed
Send det præcise model-ID med messages.
Kontekstlængde er ikke et outputloft.
En tekstfil kan levere bogstavelig tekst; billed-, lyd- og filobjektinput kræver en præcis binding.
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0.00036 / 1K tokens Output · Outputtokens $0.00036 / 1K tokens Input · Cachelæsning $0 / 1K tokens Input · Cacheskrivning $0 / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"qwen2.5-32b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="qwen2.5-32b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar hvert valg og dets indhold, værktøjskald og ræsonnement. Saml i SSE deltaer efter valg-/værktøjsindeks, og bevar den endelige afslutningsårsag og forbrugsoplysningerne.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
qwen2.5-32b-instructQwen2.5-32B-Instruct er en flersproget tekstmodel til detaljerede instruktioner, programmering, matematik og strukturerede data. Udgaven med 32,5 milliarder parametre lægger vægt på tabelforståelse, JSON-output og lange skriftlige resultater med dokumenterede indstillinger for udvidet kontekst.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Qwen2.5-32B-Instruct er den instruktionstilpassede tekstmodel i 32B-størrelsen i den generelle Qwen2.5-familie. Den kombinerer sprogforståelse og generering med programmering og matematik og er ikke den særskilt navngivne Coder- eller Math-specialist. Producenten fremhæver især detaljeret instruktionsfølgning, længere tekster, forståelse af tabeller og produktion af struktureret tekst, særligt JSON. Familien er fortrænet på et korpus, der beskrives som omfattende op til 18 billioner tokens.
Strukturerede data, lange svar og flersproget arbejde
En nyttig udtræksopgave angiver en kildepassage og de præcise felter, som det næste trin i applikationen har brug for. Definér felttyperne, om ordlyden skal kopieres eller sammenfattes, og hvordan manglende oplysninger skal repræsenteres. En produktpost kan for eksempel bede om en identifikator, driftsbetingelser og en liste over uafklarede spørgsmål. Bed kun om JSON-posten, når den skal parses, eller bed om en særskilt forklaring, når en person skal undersøge begrundelsen for de udtrukne felter.
Tabelforståelse er et andet dokumenteret fokusområde. Angiv kolonnenavne, enheder og relevante rækker sammen med spørgsmålet. Bed modellen identificere de rækker, der opfylder en betingelse, forklare en ændring mellem perioder eller omdanne en tabel til en skriftlig rapport. Et praktisk output kan bevare hver rækkes identifikator ved siden af fundet. Det bevarer forbindelsen mellem de angivne data og svaret frem for at producere et resumé uden en sporbar kilderække.
Til længere tekster skal du angive målgruppen, afsnittene og kildefakta, før du beder om dokumentet. Et teknisk forslag kan kræve en problemformulering, krav, alternativer og en anbefaling, der kun bruger det angivne materiale. Præcisér, hvilke betingelser der er obligatoriske, og hvilke der er spørgsmål, som skal afklares. Producenten udvikler også robusthed på tværs af forskellige systemprompter, hvilket understøtter en defineret rolle, tone og samtalebetingelser.
Familien understøtter mere end 29 sprog, herunder engelsk, kinesisk, russisk, fransk, spansk, portugisisk, tysk, italiensk, japansk, koreansk, vietnamesisk, thai og arabisk. Til en flersproget opgave skal du skelne mellem kildesproget og det ønskede outputsprog og angive en terminologiliste, når navne eller tekniske begreber skal være konsekvente. En tosproget rapport kan bede om de samme kildefakta i to versioner, mens identifikatorer og enheder bevares uændret.
Modeldetaljer for denne udgave
32B-Instruct-udgaven har 32,5 milliarder parametre, heraf 31,0 milliarder parametre uden for embeddings, og 64 Transformer-lag. Den bruger roterende positionsembeddings, SwiGLU, RMSNorm og attention QKV-bias. Grouped-query attention bruger 40 query-hoveder og 8 key/value-hoveder. Dette er en tæt sprogmodeludgave med kun en decoder, fortræning og eftertræning; Instruct angiver den samtaletrænede udgave frem for basismodellen.
Kortet angiver en fuld kontekst på 131.072 tokens og generering på op til 8.192 tokens. Tallene beskriver forskellige dele af en opgave: konteksten bevarer prompten og samtalen, mens genereringstallet begrænser det skriftlige svar. Hurtigstartens 512 genererede tokens er blot et eksempel inden for den større angivne genereringsgrænse. Modellen modtager og returnerer tekst; indholdet i en scannet tabel eller et skærmbillede skal gøres tilgængeligt som tekst eller via en særskilt visuel model.
Samtale og værktøjer
Modelkortet viser separate system- og brugerbeskeder formateret med den tilhørende chatskabelon. Placér assistentens varige svarregler i den relevante samtalerolle og selve dokumentet, tabellen eller koden sammen med brugerens opgave. Markér grænsen mellem citeret kildemateriale og instruktioner, så en instruktion inde i et dokument ikke forveksles med applikationens tilsigtede opgave.
Den officielle familiemeddelelse dokumenterer støtte til værktøjskald gennem kompatible samtaleskabeloner og integrationer til modelbetjening. I sådan et forløb leverer applikationen funktionsbeskrivelserne, modtager det foreslåede kald, udfører funktionen og returnerer dens resultat. Det kan forbinde et tekstspørgsmål med en beregning eller et dataopslag, men valget af denne model alene leverer hverken det eksterne værktøj eller dets data. JSON-generering og et værktøjskald er også forskellige resultater: det ene formaterer tekst, mens det andet beder den omgivende applikation udføre en navngiven operation.
Forberedelse af lang kontekst
Den udgivne konfiguration starter ved 32.768 tokens. Input ud over den indstilling kræver den dokumenterede YaRN-udvidelse, hvis eksempel bruger en faktor på 4.0 og en oprindelig maksimumindstilling for positioner på 32.768. Producenten advarer om, at statisk skalering kan påvirke adfærden ved kortere tekst, og anbefaler at aktivere den, når behandling af lang kontekst er nødvendig.
Til en sammenligning af store dokumenter skal du identificere hvert dokuments rolle og bede om ét veldefineret produkt: en kravmatrix, en liste over uoverensstemmelser eller et revideret afsnit. Bevar kildeplaceringer ved siden af udtrukne fund, og afsæt nok svarplads til den ønskede struktur. Kapacitet til lang kontekst hjælper med at holde det relevante materiale samlet; den erstatter ikke behovet for at definere, hvad der skal sammenlignes, eller hvordan det endelige resultat skal bruges.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser qwen2.5-32b-instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrævet | Værdier og grænser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrævet | Værdier og grænser | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content som streng
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages, max_tokens |
Parameteroptional_controls | Kontraktstream |
Parametermaterial_types | Kontrakttext |
Parametertext_file_material | KontraktLæs det faktiske UTF-8-dokument, og indsæt teksten i det angivne input eller beskedens indholdsstreng. |
Livscyklus: synchronous_or_streamed
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0.00036 / 1K tokens Output · Outputtokens $0.00036 / 1K tokens Input · Cachelæsning $0 / 1K tokens Input · Cacheskrivning $0 / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
{\n "model": "qwen2.5-32b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-32b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-32b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar alle indholdsblokke, ræsonnementssignaturer og faktiske værktøjsbrugs-ID’er. Saml alle SSE-blokdeltaer; den første tekstblok er ikke hele outputtet.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
Teknisk eksempel på engelsk
Explain a stock table\n\nAnalyze this text table: SKU | opening units | received units | shipped units. A1 | 20 | 10 | 18. B2 | 7 | 0 | 9. Calculate closing stock for each SKU, identify any impossible negative balance and draft a short note naming the row that needs investigation. Preserve column units.A closing-stock table with row IDs and a short anomaly note supported by the source values.Recalculate opening plus received minus shipped and verify the B2 discrepancy is flagged rather than corrected.