Qwen2.5-32B-Instruct er den instruksjonstilpassede tekstmodellen i 32B-størrelse i den generelle Qwen2.5-familien. Den kombinerer språkforståelse og generering med koding og matematikk, i stedet for å være den separat navngitte Coder- eller Math-spesialisten. Produsenten fremhever særlig å følge detaljerte instruksjoner, skrive lange tekster, forstå tabeller og produsere strukturert tekst, spesielt JSON. Familien er forhåndstrent på et korpus beskrevet som opptil 18 billioner tokener.
Strukturerte data, lange svar og flerspråklig arbeid
En nyttig uttrekksoppgave gir et kildeutdrag og de nøyaktige feltene neste applikasjonstrinn trenger. Definer felttypene, om ordlyden må kopieres eller oppsummeres og hvordan fraværende informasjon skal vises. En produktpost kan for eksempel be om en identifikator, driftsbetingelser og en liste med uavklarte spørsmål. Be bare om JSON-posten når den skal tolkes av programvare, eller be om en separat forklaring når en person må undersøke resonnementet bak de uttrukne feltene.
Tabellforståelse er et annet dokumentert fokus. Gi kolonnenavn, enheter og relevante rader sammen med spørsmålet. Be modellen finne radene som oppfyller en betingelse, forklare en endring mellom perioder eller gjøre en tabell om til en skriftlig rapport. Nyttige utdata kan beholde hver rads identifikator ved funnet. Dette bevarer forbindelsen mellom de oppgitte dataene og svaret i stedet for å lage et sammendrag uten sporbar kilderad.
For lange tekster angir du målgruppen, delene og kildefaktaene før du ber om dokumentet. Et teknisk forslag kan kreve problemstilling, krav, alternativer og en anbefaling basert bare på det oppgitte materialet. Spesifiser hvilke betingelser som er obligatoriske og hvilke som er spørsmål som må avklares. Produsenten utvikler også robusthet på tvers av ulike systeminstrukser og støtter en definert rolle, tone og samtalebetingelser.
Familien støtter mer enn 29 språk, inkludert engelsk, kinesisk, russisk, fransk, spansk, portugisisk, tysk, italiensk, japansk, koreansk, vietnamesisk, thai og arabisk. For en flerspråklig oppgave skiller du kildespråket fra det nødvendige utdataspråket og gir en terminologiliste når navn eller fagbegreper må være konsekvente. En tospråklig rapport kan be om de samme kildefaktaene i to versjoner, samtidig som identifikatorer og enheter beholdes uendret.
Denne utgavens modelldetaljer
32B-Instruct-utgaven har 32,5 milliarder parametere, med 31,0 milliarder utenom embedding-parametere, og 64 Transformer-lag. Den bruker roterende posisjonsrepresentasjoner, SwiGLU, RMSNorm og attention-QKV-bias. Grouped-query attention bruker 40 query-hoder og 8 key/value-hoder. Dette er en tett språkmodellutgave med bare dekoder, forhåndstrening og ettertrening; Instruct angir den samtaletrente utgaven i stedet for basismodellen.
Kortet oppgir en full kontekst på 131 072 tokener og generering av opptil 8 192 tokener. Disse tallene beskriver ulike deler av en oppgave: Konteksten beholder instruksen og samtalen, mens genereringstallet begrenser det skriftlige svaret. Hurtigstartens 512 genererte tokener er bare et eksempel innenfor den større genereringsgrensen. Modellen tar imot og returnerer tekst; en skannet tabell eller et skjermbilde må få innholdet gjort tilgjengelig som tekst eller bruke en separat visuell modell.
Samtale og verktøy
Modellkortet viser separate system- og brukerbeskjeder formatert med den tilhørende samtalemalen. Plasser assistentens varige svarregler i riktig samtalerolle, og legg det faktiske dokumentet, tabellen eller koden sammen med brukerens oppgave. Marker grensen mellom sitert kildemateriale og instruksjoner slik at en instruksjon i et dokument ikke forveksles med applikasjonens tilsiktede oppgave.
Den offisielle familiekunngjøringen dokumenterer støtte for verktøykall gjennom kompatible samtalemaler og tjenesteintegrasjoner. I en slik arbeidsflyt gir applikasjonen funksjonsbeskrivelser, mottar det foreslåtte kallet, utfører funksjonen og returnerer resultatet. Dette kan koble et tekstlig spørsmål til en beregning eller et dataoppslag, men å velge denne modellen alene gir ikke det eksterne verktøyet eller dataene. JSON-generering og et verktøykall er også ulike resultater: Det ene formaterer tekst, mens det andre ber den omkringliggende applikasjonen utføre en navngitt operasjon.
Forberedelse av lang kontekst
Den utgitte konfigurasjonen starter på 32 768 tokener. Inndata utover denne innstillingen krever den dokumenterte YaRN-utvidelsen, der eksemplet bruker en faktor på 4,0 og en opprinnelig maksimal posisjonsinnstilling på 32 768. Produsenten advarer om at statisk skalering kan påvirke oppførselen på kortere tekst og anbefaler å aktivere den når langkontekstbehandling er nødvendig.
For en sammenligning av store dokumenter angir du rollen til hvert dokument og ber om én tydelig leveranse: en kravmatrise, en avviksliste eller en revidert del. Behold kildesteder ved uttrukne funn og la det være nok svarplass til ønsket struktur. Langkontekstkapasitet hjelper med å holde relevant materiale samlet; den erstatter ikke behovet for å definere hva som skal sammenlignes eller hvordan sluttresultatet skal brukes.
", "aboutText": "Qwen2.5-32B-Instruct er den instruksjonstilpassede tekstmodellen i 32B-størrelse i den generelle Qwen2.5-familien. Den kombinerer språkforståelse og generering med koding og matematikk, i stedet for å være den separat navngitte Coder- eller Math-spesialisten. Produsenten fremhever særlig å følge detaljerte instruksjoner, skrive lange tekster, forstå tabeller og produsere strukturert tekst, spesielt JSON. Familien er forhåndstrent på et korpus beskrevet som opptil 18 billioner tokener.\n\nStrukturerte data, lange svar og flerspråklig arbeid\n\nEn nyttig uttrekksoppgave gir et kildeutdrag og de nøyaktige feltene neste applikasjonstrinn trenger. Definer felttypene, om ordlyden må kopieres eller oppsummeres og hvordan fraværende informasjon skal vises. En produktpost kan for eksempel be om en identifikator, driftsbetingelser og en liste med uavklarte spørsmål. Be bare om JSON-posten når den skal tolkes av programvare, eller be om en separat forklaring når en person må undersøke resonnementet bak de uttrukne feltene.\n\nTabellforståelse er et annet dokumentert fokus. Gi kolonnenavn, enheter og relevante rader sammen med spørsmålet. Be modellen finne radene som oppfyller en betingelse, forklare en endring mellom perioder eller gjøre en tabell om til en skriftlig rapport. Nyttige utdata kan beholde hver rads identifikator ved funnet. Dette bevarer forbindelsen mellom de oppgitte dataene og svaret i stedet for å lage et sammendrag uten sporbar kilderad.\n\nFor lange tekster angir du målgruppen, delene og kildefaktaene før du ber om dokumentet. Et teknisk forslag kan kreve problemstilling, krav, alternativer og en anbefaling basert bare på det oppgitte materialet. Spesifiser hvilke betingelser som er obligatoriske og hvilke som er spørsmål som må avklares. Produsenten utvikler også robusthet på tvers av ulike systeminstrukser og støtter en definert rolle, tone og samtalebetingelser.\n\nFamilien støtter mer enn 29 språk, inkludert engelsk, kinesisk, russisk, fransk, spansk, portugisisk, tysk, italiensk, japansk, koreansk, vietnamesisk, thai og arabisk. For en flerspråklig oppgave skiller du kildespråket fra det nødvendige utdataspråket og gir en terminologiliste når navn eller fagbegreper må være konsekvente. En tospråklig rapport kan be om de samme kildefaktaene i to versjoner, samtidig som identifikatorer og enheter beholdes uendret.\n\nDenne utgavens modelldetaljer\n\n32B-Instruct-utgaven har 32,5 milliarder parametere, med 31,0 milliarder utenom embedding-parametere, og 64 Transformer-lag. Den bruker roterende posisjonsrepresentasjoner, SwiGLU, RMSNorm og attention-QKV-bias. Grouped-query attention bruker 40 query-hoder og 8 key/value-hoder. Dette er en tett språkmodellutgave med bare dekoder, forhåndstrening og ettertrening; Instruct angir den samtaletrente utgaven i stedet for basismodellen.\n\nKortet oppgir en full kontekst på 131 072 tokener og generering av opptil 8 192 tokener. Disse tallene beskriver ulike deler av en oppgave: Konteksten beholder instruksen og samtalen, mens genereringstallet begrenser det skriftlige svaret. Hurtigstartens 512 genererte tokener er bare et eksempel innenfor den større genereringsgrensen. Modellen tar imot og returnerer tekst; en skannet tabell eller et skjermbilde må få innholdet gjort tilgjengelig som tekst eller bruke en separat visuell modell.\n\nSamtale og verktøy\n\nModellkortet viser separate system- og brukerbeskjeder formatert med den tilhørende samtalemalen. Plasser assistentens varige svarregler i riktig samtalerolle, og legg det faktiske dokumentet, tabellen eller koden sammen med brukerens oppgave. Marker grensen mellom sitert kildemateriale og instruksjoner slik at en instruksjon i et dokument ikke forveksles med applikasjonens tilsiktede oppgave.\n\nDen offisielle familiekunngjøringen dokumenterer støtte for verktøykall gjennom kompatible samtalemaler og tjenesteintegrasjoner. I en slik arbeidsflyt gir applikasjonen funksjonsbeskrivelser, mottar det foreslåtte kallet, utfører funksjonen og returnerer resultatet. Dette kan koble et tekstlig spørsmål til en beregning eller et dataoppslag, men å velge denne modellen alene gir ikke det eksterne verktøyet eller dataene. JSON-generering og et verktøykall er også ulike resultater: Det ene formaterer tekst, mens det andre ber den omkringliggende applikasjonen utføre en navngitt operasjon.\n\nForberedelse av lang kontekst\n\nDen utgitte konfigurasjonen starter på 32 768 tokener. Inndata utover denne innstillingen krever den dokumenterte YaRN-utvidelsen, der eksemplet bruker en faktor på 4,0 og en opprinnelig maksimal posisjonsinnstilling på 32 768. Produsenten advarer om at statisk skalering kan påvirke oppførselen på kortere tekst og anbefaler å aktivere den når langkontekstbehandling er nødvendig.\n\nFor en sammenligning av store dokumenter angir du rollen til hvert dokument og ber om én tydelig leveranse: en kravmatrise, en avviksliste eller en revidert del. Behold kildesteder ved uttrukne funn og la det være nok svarplass til ønsket struktur. Langkontekstkapasitet hjelper med å holde relevant materiale samlet; den erstatter ikke behovet for å definere hva som skal sammenlignes eller hvordan sluttresultatet skal brukes.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Explain a stock table\n\nAnalyze this text table: SKU | opening units | received units | shipped units. A1 | 20 | 10 | 18. B2 | 7 | 0 | 9. Calculate closing stock for each SKU, identify any impossible negative balance and draft a short note naming the row that needs investigation. Preserve column units.A closing-stock table with row IDs and a short anomaly note supported by the source values.Recalculate opening plus received minus shipped and verify the B2 discrepancy is flagged rather than corrected.Qwen/Qwen2.5-32B-InstructQwen2.5-32B-Instruct er en flerspråklig tekstmodell for detaljerte instruksjoner, koding, matematikk og strukturerte data. Utgaven med 32,5 milliarder parametere fremhever tabellforståelse, JSON-utdata og lange skriftlige resultater, med dokumenterte innstillinger for utvidet kontekst.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Qwen2.5-32B-Instruct er den instruksjonstilpassede tekstmodellen i 32B-størrelse i den generelle Qwen2.5-familien. Den kombinerer språkforståelse og generering med koding og matematikk, i stedet for å være den separat navngitte Coder- eller Math-spesialisten. Produsenten fremhever særlig å følge detaljerte instruksjoner, skrive lange tekster, forstå tabeller og produsere strukturert tekst, spesielt JSON. Familien er forhåndstrent på et korpus beskrevet som opptil 18 billioner tokener.
Strukturerte data, lange svar og flerspråklig arbeid
En nyttig uttrekksoppgave gir et kildeutdrag og de nøyaktige feltene neste applikasjonstrinn trenger. Definer felttypene, om ordlyden må kopieres eller oppsummeres og hvordan fraværende informasjon skal vises. En produktpost kan for eksempel be om en identifikator, driftsbetingelser og en liste med uavklarte spørsmål. Be bare om JSON-posten når den skal tolkes av programvare, eller be om en separat forklaring når en person må undersøke resonnementet bak de uttrukne feltene.
Tabellforståelse er et annet dokumentert fokus. Gi kolonnenavn, enheter og relevante rader sammen med spørsmålet. Be modellen finne radene som oppfyller en betingelse, forklare en endring mellom perioder eller gjøre en tabell om til en skriftlig rapport. Nyttige utdata kan beholde hver rads identifikator ved funnet. Dette bevarer forbindelsen mellom de oppgitte dataene og svaret i stedet for å lage et sammendrag uten sporbar kilderad.
For lange tekster angir du målgruppen, delene og kildefaktaene før du ber om dokumentet. Et teknisk forslag kan kreve problemstilling, krav, alternativer og en anbefaling basert bare på det oppgitte materialet. Spesifiser hvilke betingelser som er obligatoriske og hvilke som er spørsmål som må avklares. Produsenten utvikler også robusthet på tvers av ulike systeminstrukser og støtter en definert rolle, tone og samtalebetingelser.
Familien støtter mer enn 29 språk, inkludert engelsk, kinesisk, russisk, fransk, spansk, portugisisk, tysk, italiensk, japansk, koreansk, vietnamesisk, thai og arabisk. For en flerspråklig oppgave skiller du kildespråket fra det nødvendige utdataspråket og gir en terminologiliste når navn eller fagbegreper må være konsekvente. En tospråklig rapport kan be om de samme kildefaktaene i to versjoner, samtidig som identifikatorer og enheter beholdes uendret.
Denne utgavens modelldetaljer
32B-Instruct-utgaven har 32,5 milliarder parametere, med 31,0 milliarder utenom embedding-parametere, og 64 Transformer-lag. Den bruker roterende posisjonsrepresentasjoner, SwiGLU, RMSNorm og attention-QKV-bias. Grouped-query attention bruker 40 query-hoder og 8 key/value-hoder. Dette er en tett språkmodellutgave med bare dekoder, forhåndstrening og ettertrening; Instruct angir den samtaletrente utgaven i stedet for basismodellen.
Kortet oppgir en full kontekst på 131 072 tokener og generering av opptil 8 192 tokener. Disse tallene beskriver ulike deler av en oppgave: Konteksten beholder instruksen og samtalen, mens genereringstallet begrenser det skriftlige svaret. Hurtigstartens 512 genererte tokener er bare et eksempel innenfor den større genereringsgrensen. Modellen tar imot og returnerer tekst; en skannet tabell eller et skjermbilde må få innholdet gjort tilgjengelig som tekst eller bruke en separat visuell modell.
Samtale og verktøy
Modellkortet viser separate system- og brukerbeskjeder formatert med den tilhørende samtalemalen. Plasser assistentens varige svarregler i riktig samtalerolle, og legg det faktiske dokumentet, tabellen eller koden sammen med brukerens oppgave. Marker grensen mellom sitert kildemateriale og instruksjoner slik at en instruksjon i et dokument ikke forveksles med applikasjonens tilsiktede oppgave.
Den offisielle familiekunngjøringen dokumenterer støtte for verktøykall gjennom kompatible samtalemaler og tjenesteintegrasjoner. I en slik arbeidsflyt gir applikasjonen funksjonsbeskrivelser, mottar det foreslåtte kallet, utfører funksjonen og returnerer resultatet. Dette kan koble et tekstlig spørsmål til en beregning eller et dataoppslag, men å velge denne modellen alene gir ikke det eksterne verktøyet eller dataene. JSON-generering og et verktøykall er også ulike resultater: Det ene formaterer tekst, mens det andre ber den omkringliggende applikasjonen utføre en navngitt operasjon.
Forberedelse av lang kontekst
Den utgitte konfigurasjonen starter på 32 768 tokener. Inndata utover denne innstillingen krever den dokumenterte YaRN-utvidelsen, der eksemplet bruker en faktor på 4,0 og en opprinnelig maksimal posisjonsinnstilling på 32 768. Produsenten advarer om at statisk skalering kan påvirke oppførselen på kortere tekst og anbefaler å aktivere den når langkontekstbehandling er nødvendig.
For en sammenligning av store dokumenter angir du rollen til hvert dokument og ber om én tydelig leveranse: en kravmatrise, en avviksliste eller en revidert del. Behold kildesteder ved uttrukne funn og la det være nok svarplass til ønsket struktur. Langkontekstkapasitet hjelper med å holde relevant materiale samlet; den erstatter ikke behovet for å definere hva som skal sammenlignes eller hvordan sluttresultatet skal brukes.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser Qwen/Qwen2.5-32B-Instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser Eksempler: system, user, assistant, tool, function Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt. Avhenger av modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfritt | Verdier & grenser Gjelder når: role=tool; bruk faktisk returnert ID | Standard— |
Feltmessages[].name | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfritt | Verdier & grenser Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttemperature | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttop_p | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools[].type | Typestring | KravValgfritt | Verdier & grenser function Avhenger av modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrevd | Verdier & grenser Gjelder når: funksjonsverktøy oppgitt | Standard— |
Felttools[].function.description | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfritt | Verdier & grenser | Standard— |
Felttool_choice | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltservice_tier | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltinstructions | Typestring | KravValgfritt | Verdier & grenser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfritt | Verdier & grenser text | Standard— |
Feltprovider | Typeobject | KravValgfritt | Verdier & grenser Vilkår: provider.options avvises på denne Ultra-tekstruten | Standard— |
Feltcache_control.ttl | Typestring | KravValgfritt | Verdier & grenser Vilkår: 1h avvises på faktiske steder for mellomlagring av ledetekster | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages |
Parametermaterial_types | Avtaletext |
Parametermessages | Avtalemeldingstabell med role/content-struktur |
Parameterfile_material | Avtalefaktisk UTF-8-dokument satt inn som bokstavelig tekst; ingen fil-ID utledes |
Parameteroptional_controls | Avtalestream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalemodellspesifikt; brukerens funksjonsverktøy skiller seg fra driftede verktøy |
Parameteroutput_modalities | Avtaletext |
Parameterhosted_operations | Avtalefalse |
Parametermultimodal_input_binding | Avtalenull |
Livssyklus: synchronous_or_streamed
Send eksakt modell-ID sammen med messages.
Kontekstlengde er ikke en outputgrense.
En tekstfil kan levere bokstavelig tekst; bilde-, lyd- og filobjektinput trenger eksakt binding.
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
| Konfigurasjon | Prisplan | Kostnad |
|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Kostnad Inndata · Inngående tokener $0.00036 / 1K tokener Utdata · Utgående tokener $0.00036 / 1K tokener Inndata · Lesing fra hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "Qwen/Qwen2.5-32B-Instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='Qwen/Qwen2.5-32B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='Qwen/Qwen2.5-32B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
Qwen/Qwen2.5-32B-InstructQwen2.5-32B-Instruct er en flerspråklig tekstmodell for detaljerte instruksjoner, koding, matematikk og strukturerte data. Utgaven med 32,5 milliarder parametere fremhever tabellforståelse, JSON-utdata og lange skriftlige resultater, med dokumenterte innstillinger for utvidet kontekst.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Qwen2.5-32B-Instruct er den instruksjonstilpassede tekstmodellen i 32B-størrelse i den generelle Qwen2.5-familien. Den kombinerer språkforståelse og generering med koding og matematikk, i stedet for å være den separat navngitte Coder- eller Math-spesialisten. Produsenten fremhever særlig å følge detaljerte instruksjoner, skrive lange tekster, forstå tabeller og produsere strukturert tekst, spesielt JSON. Familien er forhåndstrent på et korpus beskrevet som opptil 18 billioner tokener.
Strukturerte data, lange svar og flerspråklig arbeid
En nyttig uttrekksoppgave gir et kildeutdrag og de nøyaktige feltene neste applikasjonstrinn trenger. Definer felttypene, om ordlyden må kopieres eller oppsummeres og hvordan fraværende informasjon skal vises. En produktpost kan for eksempel be om en identifikator, driftsbetingelser og en liste med uavklarte spørsmål. Be bare om JSON-posten når den skal tolkes av programvare, eller be om en separat forklaring når en person må undersøke resonnementet bak de uttrukne feltene.
Tabellforståelse er et annet dokumentert fokus. Gi kolonnenavn, enheter og relevante rader sammen med spørsmålet. Be modellen finne radene som oppfyller en betingelse, forklare en endring mellom perioder eller gjøre en tabell om til en skriftlig rapport. Nyttige utdata kan beholde hver rads identifikator ved funnet. Dette bevarer forbindelsen mellom de oppgitte dataene og svaret i stedet for å lage et sammendrag uten sporbar kilderad.
For lange tekster angir du målgruppen, delene og kildefaktaene før du ber om dokumentet. Et teknisk forslag kan kreve problemstilling, krav, alternativer og en anbefaling basert bare på det oppgitte materialet. Spesifiser hvilke betingelser som er obligatoriske og hvilke som er spørsmål som må avklares. Produsenten utvikler også robusthet på tvers av ulike systeminstrukser og støtter en definert rolle, tone og samtalebetingelser.
Familien støtter mer enn 29 språk, inkludert engelsk, kinesisk, russisk, fransk, spansk, portugisisk, tysk, italiensk, japansk, koreansk, vietnamesisk, thai og arabisk. For en flerspråklig oppgave skiller du kildespråket fra det nødvendige utdataspråket og gir en terminologiliste når navn eller fagbegreper må være konsekvente. En tospråklig rapport kan be om de samme kildefaktaene i to versjoner, samtidig som identifikatorer og enheter beholdes uendret.
Denne utgavens modelldetaljer
32B-Instruct-utgaven har 32,5 milliarder parametere, med 31,0 milliarder utenom embedding-parametere, og 64 Transformer-lag. Den bruker roterende posisjonsrepresentasjoner, SwiGLU, RMSNorm og attention-QKV-bias. Grouped-query attention bruker 40 query-hoder og 8 key/value-hoder. Dette er en tett språkmodellutgave med bare dekoder, forhåndstrening og ettertrening; Instruct angir den samtaletrente utgaven i stedet for basismodellen.
Kortet oppgir en full kontekst på 131 072 tokener og generering av opptil 8 192 tokener. Disse tallene beskriver ulike deler av en oppgave: Konteksten beholder instruksen og samtalen, mens genereringstallet begrenser det skriftlige svaret. Hurtigstartens 512 genererte tokener er bare et eksempel innenfor den større genereringsgrensen. Modellen tar imot og returnerer tekst; en skannet tabell eller et skjermbilde må få innholdet gjort tilgjengelig som tekst eller bruke en separat visuell modell.
Samtale og verktøy
Modellkortet viser separate system- og brukerbeskjeder formatert med den tilhørende samtalemalen. Plasser assistentens varige svarregler i riktig samtalerolle, og legg det faktiske dokumentet, tabellen eller koden sammen med brukerens oppgave. Marker grensen mellom sitert kildemateriale og instruksjoner slik at en instruksjon i et dokument ikke forveksles med applikasjonens tilsiktede oppgave.
Den offisielle familiekunngjøringen dokumenterer støtte for verktøykall gjennom kompatible samtalemaler og tjenesteintegrasjoner. I en slik arbeidsflyt gir applikasjonen funksjonsbeskrivelser, mottar det foreslåtte kallet, utfører funksjonen og returnerer resultatet. Dette kan koble et tekstlig spørsmål til en beregning eller et dataoppslag, men å velge denne modellen alene gir ikke det eksterne verktøyet eller dataene. JSON-generering og et verktøykall er også ulike resultater: Det ene formaterer tekst, mens det andre ber den omkringliggende applikasjonen utføre en navngitt operasjon.
Forberedelse av lang kontekst
Den utgitte konfigurasjonen starter på 32 768 tokener. Inndata utover denne innstillingen krever den dokumenterte YaRN-utvidelsen, der eksemplet bruker en faktor på 4,0 og en opprinnelig maksimal posisjonsinnstilling på 32 768. Produsenten advarer om at statisk skalering kan påvirke oppførselen på kortere tekst og anbefaler å aktivere den når langkontekstbehandling er nødvendig.
For en sammenligning av store dokumenter angir du rollen til hvert dokument og ber om én tydelig leveranse: en kravmatrise, en avviksliste eller en revidert del. Behold kildesteder ved uttrukne funn og la det være nok svarplass til ønsket struktur. Langkontekstkapasitet hjelper med å holde relevant materiale samlet; den erstatter ikke behovet for å definere hva som skal sammenlignes eller hvordan sluttresultatet skal brukes.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser Qwen/Qwen2.5-32B-Instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrevd | Verdier & grenser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrevd | Verdier & grenser | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content-streng
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages, max_tokens |
Parameteroptional_controls | Avtalestream |
Parametermaterial_types | Avtaletext |
Parametertext_file_material | AvtaleLes det faktiske UTF-8-dokumentet og legg teksten i den angitte input- eller meldingsinnholdsstrengen. |
Livssyklus: synchronous_or_streamed
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
| Konfigurasjon | Prisplan | Kostnad |
|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Kostnad Inndata · Inngående tokener $0.00036 / 1K tokener Utdata · Utgående tokener $0.00036 / 1K tokener Inndata · Lesing fra hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
{\n "model": "Qwen/Qwen2.5-32B-Instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-32B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-32B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold alle innholdsblokker, resonneringssignaturer og faktiske ID-er for verktøybruk. Sett sammen alle SSE-blokkendringer; den første tekstblokken er ikke hele resultatet.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
qwen2.5-32b-instructQwen2.5-32B-Instruct er en flerspråklig tekstmodell for detaljerte instruksjoner, koding, matematikk og strukturerte data. Utgaven med 32,5 milliarder parametere fremhever tabellforståelse, JSON-utdata og lange skriftlige resultater, med dokumenterte innstillinger for utvidet kontekst.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Qwen2.5-32B-Instruct er den instruksjonstilpassede tekstmodellen i 32B-størrelse i den generelle Qwen2.5-familien. Den kombinerer språkforståelse og generering med koding og matematikk, i stedet for å være den separat navngitte Coder- eller Math-spesialisten. Produsenten fremhever særlig å følge detaljerte instruksjoner, skrive lange tekster, forstå tabeller og produsere strukturert tekst, spesielt JSON. Familien er forhåndstrent på et korpus beskrevet som opptil 18 billioner tokener.
Strukturerte data, lange svar og flerspråklig arbeid
En nyttig uttrekksoppgave gir et kildeutdrag og de nøyaktige feltene neste applikasjonstrinn trenger. Definer felttypene, om ordlyden må kopieres eller oppsummeres og hvordan fraværende informasjon skal vises. En produktpost kan for eksempel be om en identifikator, driftsbetingelser og en liste med uavklarte spørsmål. Be bare om JSON-posten når den skal tolkes av programvare, eller be om en separat forklaring når en person må undersøke resonnementet bak de uttrukne feltene.
Tabellforståelse er et annet dokumentert fokus. Gi kolonnenavn, enheter og relevante rader sammen med spørsmålet. Be modellen finne radene som oppfyller en betingelse, forklare en endring mellom perioder eller gjøre en tabell om til en skriftlig rapport. Nyttige utdata kan beholde hver rads identifikator ved funnet. Dette bevarer forbindelsen mellom de oppgitte dataene og svaret i stedet for å lage et sammendrag uten sporbar kilderad.
For lange tekster angir du målgruppen, delene og kildefaktaene før du ber om dokumentet. Et teknisk forslag kan kreve problemstilling, krav, alternativer og en anbefaling basert bare på det oppgitte materialet. Spesifiser hvilke betingelser som er obligatoriske og hvilke som er spørsmål som må avklares. Produsenten utvikler også robusthet på tvers av ulike systeminstrukser og støtter en definert rolle, tone og samtalebetingelser.
Familien støtter mer enn 29 språk, inkludert engelsk, kinesisk, russisk, fransk, spansk, portugisisk, tysk, italiensk, japansk, koreansk, vietnamesisk, thai og arabisk. For en flerspråklig oppgave skiller du kildespråket fra det nødvendige utdataspråket og gir en terminologiliste når navn eller fagbegreper må være konsekvente. En tospråklig rapport kan be om de samme kildefaktaene i to versjoner, samtidig som identifikatorer og enheter beholdes uendret.
Denne utgavens modelldetaljer
32B-Instruct-utgaven har 32,5 milliarder parametere, med 31,0 milliarder utenom embedding-parametere, og 64 Transformer-lag. Den bruker roterende posisjonsrepresentasjoner, SwiGLU, RMSNorm og attention-QKV-bias. Grouped-query attention bruker 40 query-hoder og 8 key/value-hoder. Dette er en tett språkmodellutgave med bare dekoder, forhåndstrening og ettertrening; Instruct angir den samtaletrente utgaven i stedet for basismodellen.
Kortet oppgir en full kontekst på 131 072 tokener og generering av opptil 8 192 tokener. Disse tallene beskriver ulike deler av en oppgave: Konteksten beholder instruksen og samtalen, mens genereringstallet begrenser det skriftlige svaret. Hurtigstartens 512 genererte tokener er bare et eksempel innenfor den større genereringsgrensen. Modellen tar imot og returnerer tekst; en skannet tabell eller et skjermbilde må få innholdet gjort tilgjengelig som tekst eller bruke en separat visuell modell.
Samtale og verktøy
Modellkortet viser separate system- og brukerbeskjeder formatert med den tilhørende samtalemalen. Plasser assistentens varige svarregler i riktig samtalerolle, og legg det faktiske dokumentet, tabellen eller koden sammen med brukerens oppgave. Marker grensen mellom sitert kildemateriale og instruksjoner slik at en instruksjon i et dokument ikke forveksles med applikasjonens tilsiktede oppgave.
Den offisielle familiekunngjøringen dokumenterer støtte for verktøykall gjennom kompatible samtalemaler og tjenesteintegrasjoner. I en slik arbeidsflyt gir applikasjonen funksjonsbeskrivelser, mottar det foreslåtte kallet, utfører funksjonen og returnerer resultatet. Dette kan koble et tekstlig spørsmål til en beregning eller et dataoppslag, men å velge denne modellen alene gir ikke det eksterne verktøyet eller dataene. JSON-generering og et verktøykall er også ulike resultater: Det ene formaterer tekst, mens det andre ber den omkringliggende applikasjonen utføre en navngitt operasjon.
Forberedelse av lang kontekst
Den utgitte konfigurasjonen starter på 32 768 tokener. Inndata utover denne innstillingen krever den dokumenterte YaRN-utvidelsen, der eksemplet bruker en faktor på 4,0 og en opprinnelig maksimal posisjonsinnstilling på 32 768. Produsenten advarer om at statisk skalering kan påvirke oppførselen på kortere tekst og anbefaler å aktivere den når langkontekstbehandling er nødvendig.
For en sammenligning av store dokumenter angir du rollen til hvert dokument og ber om én tydelig leveranse: en kravmatrise, en avviksliste eller en revidert del. Behold kildesteder ved uttrukne funn og la det være nok svarplass til ønsket struktur. Langkontekstkapasitet hjelper med å holde relevant materiale samlet; den erstatter ikke behovet for å definere hva som skal sammenlignes eller hvordan sluttresultatet skal brukes.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser qwen2.5-32b-instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser Avhenger av modellen | Standard— |
Feltmessages[].content | Typestring | KravValgfritt | Verdier & grenser Gjelder når: Tekstsamtale | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Tekst · UTF8-tekst
messages[].content
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages |
Parametermaterial_types | Avtaletext |
Parametermessages | Avtalemeldingstabell med role/content-struktur |
Parameterfile_material | Avtalefaktisk UTF-8-dokument satt inn som bokstavelig tekst; ingen fil-ID utledes |
Parameteroptional_controls | Avtalestream |
Parametercontrol_scope | AvtaleTekstsamtale; stream er en boolsk verdi med false som standard. |
Parameteroutput_modalities | Avtaletext |
Parameterhosted_operations | Avtalefalse |
Parametermultimodal_input_binding | Avtalenull |
Metodealiaser: /chat/completions
Livssyklus: synchronous_or_streamed
Send eksakt modell-ID sammen med messages.
Kontekstlengde er ikke en outputgrense.
En tekstfil kan levere bokstavelig tekst; bilde-, lyd- og filobjektinput trenger eksakt binding.
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
| Konfigurasjon | Prisplan | Kostnad |
|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Kostnad Inndata · Inngående tokener $0.00036 / 1K tokener Utdata · Utgående tokener $0.00036 / 1K tokener Inndata · Lesing fra hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"qwen2.5-32b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="qwen2.5-32b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
qwen2.5-32b-instructQwen2.5-32B-Instruct er en flerspråklig tekstmodell for detaljerte instruksjoner, koding, matematikk og strukturerte data. Utgaven med 32,5 milliarder parametere fremhever tabellforståelse, JSON-utdata og lange skriftlige resultater, med dokumenterte innstillinger for utvidet kontekst.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Qwen2.5-32B-Instruct er den instruksjonstilpassede tekstmodellen i 32B-størrelse i den generelle Qwen2.5-familien. Den kombinerer språkforståelse og generering med koding og matematikk, i stedet for å være den separat navngitte Coder- eller Math-spesialisten. Produsenten fremhever særlig å følge detaljerte instruksjoner, skrive lange tekster, forstå tabeller og produsere strukturert tekst, spesielt JSON. Familien er forhåndstrent på et korpus beskrevet som opptil 18 billioner tokener.
Strukturerte data, lange svar og flerspråklig arbeid
En nyttig uttrekksoppgave gir et kildeutdrag og de nøyaktige feltene neste applikasjonstrinn trenger. Definer felttypene, om ordlyden må kopieres eller oppsummeres og hvordan fraværende informasjon skal vises. En produktpost kan for eksempel be om en identifikator, driftsbetingelser og en liste med uavklarte spørsmål. Be bare om JSON-posten når den skal tolkes av programvare, eller be om en separat forklaring når en person må undersøke resonnementet bak de uttrukne feltene.
Tabellforståelse er et annet dokumentert fokus. Gi kolonnenavn, enheter og relevante rader sammen med spørsmålet. Be modellen finne radene som oppfyller en betingelse, forklare en endring mellom perioder eller gjøre en tabell om til en skriftlig rapport. Nyttige utdata kan beholde hver rads identifikator ved funnet. Dette bevarer forbindelsen mellom de oppgitte dataene og svaret i stedet for å lage et sammendrag uten sporbar kilderad.
For lange tekster angir du målgruppen, delene og kildefaktaene før du ber om dokumentet. Et teknisk forslag kan kreve problemstilling, krav, alternativer og en anbefaling basert bare på det oppgitte materialet. Spesifiser hvilke betingelser som er obligatoriske og hvilke som er spørsmål som må avklares. Produsenten utvikler også robusthet på tvers av ulike systeminstrukser og støtter en definert rolle, tone og samtalebetingelser.
Familien støtter mer enn 29 språk, inkludert engelsk, kinesisk, russisk, fransk, spansk, portugisisk, tysk, italiensk, japansk, koreansk, vietnamesisk, thai og arabisk. For en flerspråklig oppgave skiller du kildespråket fra det nødvendige utdataspråket og gir en terminologiliste når navn eller fagbegreper må være konsekvente. En tospråklig rapport kan be om de samme kildefaktaene i to versjoner, samtidig som identifikatorer og enheter beholdes uendret.
Denne utgavens modelldetaljer
32B-Instruct-utgaven har 32,5 milliarder parametere, med 31,0 milliarder utenom embedding-parametere, og 64 Transformer-lag. Den bruker roterende posisjonsrepresentasjoner, SwiGLU, RMSNorm og attention-QKV-bias. Grouped-query attention bruker 40 query-hoder og 8 key/value-hoder. Dette er en tett språkmodellutgave med bare dekoder, forhåndstrening og ettertrening; Instruct angir den samtaletrente utgaven i stedet for basismodellen.
Kortet oppgir en full kontekst på 131 072 tokener og generering av opptil 8 192 tokener. Disse tallene beskriver ulike deler av en oppgave: Konteksten beholder instruksen og samtalen, mens genereringstallet begrenser det skriftlige svaret. Hurtigstartens 512 genererte tokener er bare et eksempel innenfor den større genereringsgrensen. Modellen tar imot og returnerer tekst; en skannet tabell eller et skjermbilde må få innholdet gjort tilgjengelig som tekst eller bruke en separat visuell modell.
Samtale og verktøy
Modellkortet viser separate system- og brukerbeskjeder formatert med den tilhørende samtalemalen. Plasser assistentens varige svarregler i riktig samtalerolle, og legg det faktiske dokumentet, tabellen eller koden sammen med brukerens oppgave. Marker grensen mellom sitert kildemateriale og instruksjoner slik at en instruksjon i et dokument ikke forveksles med applikasjonens tilsiktede oppgave.
Den offisielle familiekunngjøringen dokumenterer støtte for verktøykall gjennom kompatible samtalemaler og tjenesteintegrasjoner. I en slik arbeidsflyt gir applikasjonen funksjonsbeskrivelser, mottar det foreslåtte kallet, utfører funksjonen og returnerer resultatet. Dette kan koble et tekstlig spørsmål til en beregning eller et dataoppslag, men å velge denne modellen alene gir ikke det eksterne verktøyet eller dataene. JSON-generering og et verktøykall er også ulike resultater: Det ene formaterer tekst, mens det andre ber den omkringliggende applikasjonen utføre en navngitt operasjon.
Forberedelse av lang kontekst
Den utgitte konfigurasjonen starter på 32 768 tokener. Inndata utover denne innstillingen krever den dokumenterte YaRN-utvidelsen, der eksemplet bruker en faktor på 4,0 og en opprinnelig maksimal posisjonsinnstilling på 32 768. Produsenten advarer om at statisk skalering kan påvirke oppførselen på kortere tekst og anbefaler å aktivere den når langkontekstbehandling er nødvendig.
For en sammenligning av store dokumenter angir du rollen til hvert dokument og ber om én tydelig leveranse: en kravmatrise, en avviksliste eller en revidert del. Behold kildesteder ved uttrukne funn og la det være nok svarplass til ønsket struktur. Langkontekstkapasitet hjelper med å holde relevant materiale samlet; den erstatter ikke behovet for å definere hva som skal sammenlignes eller hvordan sluttresultatet skal brukes.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser qwen2.5-32b-instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrevd | Verdier & grenser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrevd | Verdier & grenser | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content-streng
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages, max_tokens |
Parameteroptional_controls | Avtalestream |
Parametermaterial_types | Avtaletext |
Parametertext_file_material | AvtaleLes det faktiske UTF-8-dokumentet og legg teksten i den angitte input- eller meldingsinnholdsstrengen. |
Livssyklus: synchronous_or_streamed
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
| Konfigurasjon | Prisplan | Kostnad |
|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Kostnad Inndata · Inngående tokener $0.00036 / 1K tokener Utdata · Utgående tokener $0.00036 / 1K tokener Inndata · Lesing fra hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
{\n "model": "qwen2.5-32b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-32b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-32b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold alle innholdsblokker, resonneringssignaturer og faktiske ID-er for verktøybruk. Sett sammen alle SSE-blokkendringer; den første tekstblokken er ikke hele resultatet.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
Teknisk eksempel på engelsk
Explain a stock table\n\nAnalyze this text table: SKU | opening units | received units | shipped units. A1 | 20 | 10 | 18. B2 | 7 | 0 | 9. Calculate closing stock for each SKU, identify any impossible negative balance and draft a short note naming the row that needs investigation. Preserve column units.A closing-stock table with row IDs and a short anomaly note supported by the source values.Recalculate opening plus received minus shipped and verify the B2 discrepancy is flagged rather than corrected.