Qwen2.5 72B Instruct er den store, instruksjonstilpassede tekstmodellen i Qwens generelle Qwen2.5-serie. Den lager skriftlige svar, kode og strukturert tekst fra instruksjoner og samtaler. Funksjonene omfatter generell kunnskap, koding, matematikk, å følge detaljerte instruksjoner og arbeid med tabeller. Den er forskjellig fra Qwen2.5-basissjekkpunktet og de separate Coder-, Math- og bilde- og språkutgavene.
Modellen er en tett Transformer med bare dekoder, med totalt 72,7 milliarder parametere, inkludert 70 milliarder utenom embedding-parametere. Den publiserte arkitekturen har 80 lag og grouped-query attention med 64 query-hoder og åtte key/value-hoder, sammen med roterende posisjonsrepresentasjoner, SwiGLU og RMSNorm. Seriens data for forhåndstrening omfatter opptil 18 billioner tokener, etterfulgt av ettertrening for instruksjonsbasert bruk.
Det nøyaktige modellkortet oppgir en full kontekst på 131 072 tokener og generering av opptil 8 192 tokener. Den publiserte konfigurasjonen starter på 32 768 posisjoner; bruk av den utvidede konteksten krever produsentens oppsett for lengdeskalering. Kortet advarer om at statisk skalering kan påvirke ytelsen på kortere tekst og anbefaler å aktivere den når lange inndata trengs. Disse tallene skiller modellens fulle funksjonalitet fra standardkonfigurasjonen for sjekkpunktet som brukes i en bestemt utrulling.
For lange dokumenter angir du delene som skal undersøkes og resultatet som skal returneres: en sammenligning, en disposisjon, et sammendrag eller et sett med uttrukne fakta. Hold instruksjonene, kildeteksten og det etterspurte svaret innenfor tilgjengelig kontekst. En omfattende rapport har nytte av en plan for delene og tydelige prioriteringer, slik at utdata følger oppgaven i stedet for å bruke genereringslengden på en irrelevant innledning.
Forståelse av strukturerte data og JSON-generering er fremtredende deler av utgivelsen. Gi tabelloverskrifter, enheter og eventuelle regler for manglende verdier før du ber om en omforming. For en uttrekksoppgave definerer du utdatafeltene og ber modellen skille verdier som er oppgitt i kilden, fra informasjon som mangler. Applikasjonen kan deretter tolke og kontrollere resultatet mot forventet struktur. Å produsere JSON gjør ikke i seg selv et bestemt skjema til en garantert utdatakontrakt.
Qwen dokumenterer støtte for verktøykall gjennom samtalemaler og kompatible applikasjonsintegrasjoner. Gi funksjonsbeskrivelser og informasjonen hver funksjon trenger. Modellen forbereder et foreslått kall; applikasjonen utfører det og gir resultatet til neste tur. En nyttig dataoppgave kan hente en post, sammenligne den med brukerens spørsmål og returnere en kort forklaring knyttet til de hentede feltene. Utførelse og tilgang til eksterne systemer leveres av den omkringliggende applikasjonen.
Produsenten beskriver støtte for mer enn 29 språk, inkludert kinesisk, engelsk, fransk, spansk, portugisisk, tysk, italiensk, russisk, japansk, koreansk, vietnamesisk, thai og arabisk. Fleksible systeminstrukser støtter også å angi en chatbots rolle og betingelser. For kode eller matematikk gir du relevant implementasjon eller forutsetninger og ber om svaret sammen med kontrollene eller mellomtrinnene som trengs for å vurdere det. For flerspråklige utdata angir du målspråket og terminologien som skal beholdes, slik at resultatet passer det tiltenkte publikummet.
", "aboutText": "Qwen2.5 72B Instruct er den store, instruksjonstilpassede tekstmodellen i Qwens generelle Qwen2.5-serie. Den lager skriftlige svar, kode og strukturert tekst fra instruksjoner og samtaler. Funksjonene omfatter generell kunnskap, koding, matematikk, å følge detaljerte instruksjoner og arbeid med tabeller. Den er forskjellig fra Qwen2.5-basissjekkpunktet og de separate Coder-, Math- og bilde- og språkutgavene.\n\nModellen er en tett Transformer med bare dekoder, med totalt 72,7 milliarder parametere, inkludert 70 milliarder utenom embedding-parametere. Den publiserte arkitekturen har 80 lag og grouped-query attention med 64 query-hoder og åtte key/value-hoder, sammen med roterende posisjonsrepresentasjoner, SwiGLU og RMSNorm. Seriens data for forhåndstrening omfatter opptil 18 billioner tokener, etterfulgt av ettertrening for instruksjonsbasert bruk.\n\nDet nøyaktige modellkortet oppgir en full kontekst på 131 072 tokener og generering av opptil 8 192 tokener. Den publiserte konfigurasjonen starter på 32 768 posisjoner; bruk av den utvidede konteksten krever produsentens oppsett for lengdeskalering. Kortet advarer om at statisk skalering kan påvirke ytelsen på kortere tekst og anbefaler å aktivere den når lange inndata trengs. Disse tallene skiller modellens fulle funksjonalitet fra standardkonfigurasjonen for sjekkpunktet som brukes i en bestemt utrulling.\n\nFor lange dokumenter angir du delene som skal undersøkes og resultatet som skal returneres: en sammenligning, en disposisjon, et sammendrag eller et sett med uttrukne fakta. Hold instruksjonene, kildeteksten og det etterspurte svaret innenfor tilgjengelig kontekst. En omfattende rapport har nytte av en plan for delene og tydelige prioriteringer, slik at utdata følger oppgaven i stedet for å bruke genereringslengden på en irrelevant innledning.\n\nForståelse av strukturerte data og JSON-generering er fremtredende deler av utgivelsen. Gi tabelloverskrifter, enheter og eventuelle regler for manglende verdier før du ber om en omforming. For en uttrekksoppgave definerer du utdatafeltene og ber modellen skille verdier som er oppgitt i kilden, fra informasjon som mangler. Applikasjonen kan deretter tolke og kontrollere resultatet mot forventet struktur. Å produsere JSON gjør ikke i seg selv et bestemt skjema til en garantert utdatakontrakt.\n\nQwen dokumenterer støtte for verktøykall gjennom samtalemaler og kompatible applikasjonsintegrasjoner. Gi funksjonsbeskrivelser og informasjonen hver funksjon trenger. Modellen forbereder et foreslått kall; applikasjonen utfører det og gir resultatet til neste tur. En nyttig dataoppgave kan hente en post, sammenligne den med brukerens spørsmål og returnere en kort forklaring knyttet til de hentede feltene. Utførelse og tilgang til eksterne systemer leveres av den omkringliggende applikasjonen.\n\nProdusenten beskriver støtte for mer enn 29 språk, inkludert kinesisk, engelsk, fransk, spansk, portugisisk, tysk, italiensk, russisk, japansk, koreansk, vietnamesisk, thai og arabisk. Fleksible systeminstrukser støtter også å angi en chatbots rolle og betingelser. For kode eller matematikk gir du relevant implementasjon eller forutsetninger og ber om svaret sammen med kontrollene eller mellomtrinnene som trengs for å vurdere det. For flerspråklige utdata angir du målspråket og terminologien som skal beholdes, slik at resultatet passer det tiltenkte publikummet.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Transform a small stock table\n\nTransform this table into a compact requested JSON array. Columns: sku, units, unit. Rows: A7 | 12 | boxes; B3 | blank | pieces; C9 | 0 | boxes. Preserve SKU spelling and units, convert stated counts to integers, and use null for a blank count. Return the array only; do not calculate totals across different units.A three-object JSON-shaped array retaining sku, units and unit with numeric counts or null.The blank count remains null, zero remains 0, and boxes are not added to pieces.qwen/qwen-2.5-72b-instructQwen2.5 72B Instruct er Qwens tette, instruksjonstilpassede tekstmodell for flerspråklige samtaler, kode, matematikk og strukturerte data. Produsenten dokumenterer en utvidet kontekst på 131 072 tokener, generering av 8 192 tokener og maler for verktøykall.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Qwen2.5 72B Instruct er den store, instruksjonstilpassede tekstmodellen i Qwens generelle Qwen2.5-serie. Den lager skriftlige svar, kode og strukturert tekst fra instruksjoner og samtaler. Funksjonene omfatter generell kunnskap, koding, matematikk, å følge detaljerte instruksjoner og arbeid med tabeller. Den er forskjellig fra Qwen2.5-basissjekkpunktet og de separate Coder-, Math- og bilde- og språkutgavene.
Modellen er en tett Transformer med bare dekoder, med totalt 72,7 milliarder parametere, inkludert 70 milliarder utenom embedding-parametere. Den publiserte arkitekturen har 80 lag og grouped-query attention med 64 query-hoder og åtte key/value-hoder, sammen med roterende posisjonsrepresentasjoner, SwiGLU og RMSNorm. Seriens data for forhåndstrening omfatter opptil 18 billioner tokener, etterfulgt av ettertrening for instruksjonsbasert bruk.
Det nøyaktige modellkortet oppgir en full kontekst på 131 072 tokener og generering av opptil 8 192 tokener. Den publiserte konfigurasjonen starter på 32 768 posisjoner; bruk av den utvidede konteksten krever produsentens oppsett for lengdeskalering. Kortet advarer om at statisk skalering kan påvirke ytelsen på kortere tekst og anbefaler å aktivere den når lange inndata trengs. Disse tallene skiller modellens fulle funksjonalitet fra standardkonfigurasjonen for sjekkpunktet som brukes i en bestemt utrulling.
For lange dokumenter angir du delene som skal undersøkes og resultatet som skal returneres: en sammenligning, en disposisjon, et sammendrag eller et sett med uttrukne fakta. Hold instruksjonene, kildeteksten og det etterspurte svaret innenfor tilgjengelig kontekst. En omfattende rapport har nytte av en plan for delene og tydelige prioriteringer, slik at utdata følger oppgaven i stedet for å bruke genereringslengden på en irrelevant innledning.
Forståelse av strukturerte data og JSON-generering er fremtredende deler av utgivelsen. Gi tabelloverskrifter, enheter og eventuelle regler for manglende verdier før du ber om en omforming. For en uttrekksoppgave definerer du utdatafeltene og ber modellen skille verdier som er oppgitt i kilden, fra informasjon som mangler. Applikasjonen kan deretter tolke og kontrollere resultatet mot forventet struktur. Å produsere JSON gjør ikke i seg selv et bestemt skjema til en garantert utdatakontrakt.
Qwen dokumenterer støtte for verktøykall gjennom samtalemaler og kompatible applikasjonsintegrasjoner. Gi funksjonsbeskrivelser og informasjonen hver funksjon trenger. Modellen forbereder et foreslått kall; applikasjonen utfører det og gir resultatet til neste tur. En nyttig dataoppgave kan hente en post, sammenligne den med brukerens spørsmål og returnere en kort forklaring knyttet til de hentede feltene. Utførelse og tilgang til eksterne systemer leveres av den omkringliggende applikasjonen.
Produsenten beskriver støtte for mer enn 29 språk, inkludert kinesisk, engelsk, fransk, spansk, portugisisk, tysk, italiensk, russisk, japansk, koreansk, vietnamesisk, thai og arabisk. Fleksible systeminstrukser støtter også å angi en chatbots rolle og betingelser. For kode eller matematikk gir du relevant implementasjon eller forutsetninger og ber om svaret sammen med kontrollene eller mellomtrinnene som trengs for å vurdere det. For flerspråklige utdata angir du målspråket og terminologien som skal beholdes, slik at resultatet passer det tiltenkte publikummet.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser qwen/qwen-2.5-72b-instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser Eksempler: system, user, assistant, tool, function Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt. Avhenger av modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfritt | Verdier & grenser Gjelder når: role=tool; bruk faktisk returnert ID | Standard— |
Feltmessages[].name | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfritt | Verdier & grenser Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttemperature | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttop_p | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools[].type | Typestring | KravValgfritt | Verdier & grenser function Avhenger av modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrevd | Verdier & grenser Gjelder når: funksjonsverktøy oppgitt | Standard— |
Felttools[].function.description | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfritt | Verdier & grenser | Standard— |
Felttool_choice | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltservice_tier | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltinstructions | Typestring | KravValgfritt | Verdier & grenser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfritt | Verdier & grenser text | Standard— |
Feltprovider | Typeobject | KravValgfritt | Verdier & grenser Vilkår: provider.options avvises på denne Ultra-tekstruten | Standard— |
Feltcache_control.ttl | Typestring | KravValgfritt | Verdier & grenser Vilkår: 1h avvises på faktiske steder for mellomlagring av ledetekster | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages |
Parametermaterial_types | Avtaletext |
Parametermessages | Avtalemeldingstabell med role/content-struktur |
Parameterfile_material | Avtalefaktisk UTF-8-dokument satt inn som bokstavelig tekst; ingen fil-ID utledes |
Parameteroptional_controls | Avtalestream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalemodellspesifikt; brukerens funksjonsverktøy skiller seg fra driftede verktøy |
Parameteroutput_modalities | Avtaletext |
Parameterhosted_operations | Avtalefalse |
Parametermultimodal_input_binding | Avtalenull |
Livssyklus: synchronous_or_streamed
Send eksakt modell-ID sammen med messages.
Kontekstlengde er ikke en outputgrense.
En tekstfil kan levere bokstavelig tekst; bilde-, lyd- og filobjektinput trenger eksakt binding.
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.00118 / 1K tokener Utdata · Utgående tokener $0.00118 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.00118 / 1K tokener Utdata · Utgående tokener $0.00118 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "qwen/qwen-2.5-72b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='qwen/qwen-2.5-72b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='qwen/qwen-2.5-72b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra qwen/qwen-2.5-72b-instruct
Bruk metodestiene som vises ovenfor.
qwen/qwen-2.5-72b-instructQwen2.5 72B Instruct er Qwens tette, instruksjonstilpassede tekstmodell for flerspråklige samtaler, kode, matematikk og strukturerte data. Produsenten dokumenterer en utvidet kontekst på 131 072 tokener, generering av 8 192 tokener og maler for verktøykall.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Qwen2.5 72B Instruct er den store, instruksjonstilpassede tekstmodellen i Qwens generelle Qwen2.5-serie. Den lager skriftlige svar, kode og strukturert tekst fra instruksjoner og samtaler. Funksjonene omfatter generell kunnskap, koding, matematikk, å følge detaljerte instruksjoner og arbeid med tabeller. Den er forskjellig fra Qwen2.5-basissjekkpunktet og de separate Coder-, Math- og bilde- og språkutgavene.
Modellen er en tett Transformer med bare dekoder, med totalt 72,7 milliarder parametere, inkludert 70 milliarder utenom embedding-parametere. Den publiserte arkitekturen har 80 lag og grouped-query attention med 64 query-hoder og åtte key/value-hoder, sammen med roterende posisjonsrepresentasjoner, SwiGLU og RMSNorm. Seriens data for forhåndstrening omfatter opptil 18 billioner tokener, etterfulgt av ettertrening for instruksjonsbasert bruk.
Det nøyaktige modellkortet oppgir en full kontekst på 131 072 tokener og generering av opptil 8 192 tokener. Den publiserte konfigurasjonen starter på 32 768 posisjoner; bruk av den utvidede konteksten krever produsentens oppsett for lengdeskalering. Kortet advarer om at statisk skalering kan påvirke ytelsen på kortere tekst og anbefaler å aktivere den når lange inndata trengs. Disse tallene skiller modellens fulle funksjonalitet fra standardkonfigurasjonen for sjekkpunktet som brukes i en bestemt utrulling.
For lange dokumenter angir du delene som skal undersøkes og resultatet som skal returneres: en sammenligning, en disposisjon, et sammendrag eller et sett med uttrukne fakta. Hold instruksjonene, kildeteksten og det etterspurte svaret innenfor tilgjengelig kontekst. En omfattende rapport har nytte av en plan for delene og tydelige prioriteringer, slik at utdata følger oppgaven i stedet for å bruke genereringslengden på en irrelevant innledning.
Forståelse av strukturerte data og JSON-generering er fremtredende deler av utgivelsen. Gi tabelloverskrifter, enheter og eventuelle regler for manglende verdier før du ber om en omforming. For en uttrekksoppgave definerer du utdatafeltene og ber modellen skille verdier som er oppgitt i kilden, fra informasjon som mangler. Applikasjonen kan deretter tolke og kontrollere resultatet mot forventet struktur. Å produsere JSON gjør ikke i seg selv et bestemt skjema til en garantert utdatakontrakt.
Qwen dokumenterer støtte for verktøykall gjennom samtalemaler og kompatible applikasjonsintegrasjoner. Gi funksjonsbeskrivelser og informasjonen hver funksjon trenger. Modellen forbereder et foreslått kall; applikasjonen utfører det og gir resultatet til neste tur. En nyttig dataoppgave kan hente en post, sammenligne den med brukerens spørsmål og returnere en kort forklaring knyttet til de hentede feltene. Utførelse og tilgang til eksterne systemer leveres av den omkringliggende applikasjonen.
Produsenten beskriver støtte for mer enn 29 språk, inkludert kinesisk, engelsk, fransk, spansk, portugisisk, tysk, italiensk, russisk, japansk, koreansk, vietnamesisk, thai og arabisk. Fleksible systeminstrukser støtter også å angi en chatbots rolle og betingelser. For kode eller matematikk gir du relevant implementasjon eller forutsetninger og ber om svaret sammen med kontrollene eller mellomtrinnene som trengs for å vurdere det. For flerspråklige utdata angir du målspråket og terminologien som skal beholdes, slik at resultatet passer det tiltenkte publikummet.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser qwen/qwen-2.5-72b-instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrevd | Verdier & grenser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrevd | Verdier & grenser | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content-streng
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages, max_tokens |
Parameteroptional_controls | Avtalestream |
Parametermaterial_types | Avtaletext |
Parametertext_file_material | AvtaleLes det faktiske UTF-8-dokumentet og legg teksten i den angitte input- eller meldingsinnholdsstrengen. |
Livssyklus: synchronous_or_streamed
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
Knytt hver kostnad til de viste vilkårene. Bruk én sats for hvert sett med alternative konfigurasjoner.
| Konfigurasjon | Prisplan | Konteksttokener, mer enn | Konteksttokener, opptil og med | Kostnad |
|---|---|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Konteksttokener, mer enn— | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.00118 / 1K tokener Utdata · Utgående tokener $0.00118 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
| KonfigurasjonNivå 1 for forespørselslengde | Prisplan— | Konteksttokener, mer enn0 | Konteksttokener, opptil og medIngen øvre grense | Kostnad Inndata · Inngående tokener $0.00118 / 1K tokener Utdata · Utgående tokener $0.00118 / 1K tokener Inndata · Lesing fra hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer — / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
{\n "model": "qwen/qwen-2.5-72b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen-2.5-72b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen/qwen-2.5-72b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold alle innholdsblokker, resonneringssignaturer og faktiske ID-er for verktøybruk. Sett sammen alle SSE-blokkendringer; den første tekstblokken er ikke hele resultatet.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra qwen/qwen-2.5-72b-instruct
Bruk metodestiene som vises ovenfor.
Teknisk eksempel på engelsk
Transform a small stock table\n\nTransform this table into a compact requested JSON array. Columns: sku, units, unit. Rows: A7 | 12 | boxes; B3 | blank | pieces; C9 | 0 | boxes. Preserve SKU spelling and units, convert stated counts to integers, and use null for a blank count. Return the array only; do not calculate totals across different units.A three-object JSON-shaped array retaining sku, units and unit with numeric counts or null.The blank count remains null, zero remains 0, and boxes are not added to pieces.