Qwen2.5-14B-Instruct er den instruktionstilpassede udgave i 14B-størrelsen i den generelle Qwen2.5-familie. Den modtager en tekstsamtale og returnerer tekst: en forklaring, et dokument, programkode eller strukturerede felter. Producenten fremhæver instruktionsfølgning, programmering, matematik, forståelse af strukturerede data som tabeller og generering af strukturerede svar, især JSON.
Hvad familien forbedrer
Producenten beskriver bredere viden og stærkere programmerings- og matematiske evner end den foregående Qwen2-generation samt generering af lange svar og bedre håndtering af forskellige systeminstruktioner. Familien bruger et fortræningskorpus, som beskrives som omfattende op til 18 billioner tokens. Disse evner understøtter en fagspecifik assistent, hvis rolle og output defineres af opgaven. Denne model er fortsat den generelle Instruct-udgave; de særskilt navngivne Qwen2.5-Coder- og Qwen2.5-Math-serier har deres egne specialer.
En procesassistent kan modtage en procedure og et spørgsmål om ét trin. Definér læserens rolle, bed om de handlinger, der er relevante for trinnet, og kræv, at svaret bevarer procedurens oprindelige betingelser. Et nyttigt output kan adskille den næste handling, betingelsen for, at den gælder, og de oplysninger, der stadig mangler. Det gør en bred anmodning om råd til et svar, der er knyttet til den angivne proces.
Til en kodeforklaring skal du angive funktionen, relevante definitioner af hjælpefunktioner og det input, der skaber tvivl. Bed om rækkefølgen af operationer og den værdi, der returneres for dette input. Til en matematisk forklaring skal du angive symboler, antagelser og måludtryk, før du beder om udledningen. Begge opgaver bruger tekst; det er den omgivende applikations opgave at køre programmet eller stille et særskilt numerisk værktøj til rådighed.
Tabeller og JSON
Til et tabelspørgsmål skal du bevare kolonneoverskrifter og enheder, angive de relevante rækker og præcisere sammenligningen. Det ønskede output kan opregne de matchende rækkers identifikatorer og forklare, hvilken angivet betingelse hver række opfylder. Hvis tabellen har manglende værdier, skal du angive, om svaret skal udelade dem eller repræsentere dem eksplicit.
Til struktureret udtræk skal du vise feltnavne og påkrævede typer. Et input som en vareidentifikator, en lagerbeholdning og en lagerbetegnelse kan omdannes til en post med de samme felter. Bed kun om posten, når en applikation skal parse den; bed om en særskilt forklaring i prosa, når brugeren skal kunne undersøge fortolkningen af kilden. Modellens dokumenterede evne til at generere JSON er noget andet end, at en bestemt grænseflade håndhæver et skema.
Flersproget samtale understøttes på mere end 29 sprog, herunder engelsk, kinesisk, russisk, tysk, fransk, spansk, portugisisk, italiensk, japansk, koreansk, vietnamesisk, thai og arabisk. Angiv det endelige sprog og eventuel terminologi, der skal forblive uændret. Til en oversat teknisk forklaring skal du bede modellen bevare variabelnavne, citerede betegnelser og enheder, mens den tilpasser den omgivende prosa til læseren.
Den specifikke 14B-udgave
Modelkortet angiver 14,7 milliarder parametre, heraf 13,1 milliarder parametre uden for embeddings, og 48 Transformer-lag. Arkitekturen bruger roterende positionsembeddings, SwiGLU, RMSNorm og attention QKV-bias med 40 query-hoveder og 8 key/value-hoveder i grouped-query attention. Fortræning og eftertræning frembringer denne Instruct-udgave. Dens parameterantal og lagantal adskiller sig fra 32B-udgaven, selv når familiens evner og de offentliggjorte konteksttal er sammenfaldende.
Modelkortet angiver en fuld kontekst på 131.072 tokens og generering på op til 8.192 tokens. Det første tal vedrører samtalen og det materiale, der bevares til en opgave; det andet vedrører det genererede svar. Hurtigstartens indstilling på 512 tokens til generering er kun et eksempel og erstatter ikke kortets angivne svarkapacitet. Forståelse af billeder, video og lyd hører til særskilt navngivne multimodale udgaver, ikke til denne tekstmodel.
Inputformat og værktøjsunderstøttede opgaver
Producentens eksempel anvender den tilhørende chatskabelon på adskilte system- og brugerbeskeder. Definér assistentens rolle og svarregler adskilt fra det materiale, der undersøges. Angiv et fuldstændigt spørgsmål, og mærk kildeteksten, så en instruktion, der citeres inde i kilden, ikke forveksles med applikationens opgave.
Den officielle Qwen2.5-meddelelse beskriver også skabeloner til værktøjskald og kompatible integrationer. En værktøjsunderstøttet opgave kræver, at den omgivende applikation leverer funktionsbeskrivelser, udfører den valgte operation og giver resultatet til det næste svar. En samtale kan for eksempel bede om en beregning med et angivet beregningsværktøj; funktionsresultatet bliver derefter til information, som modellen kan forklare. Værktøjers tilgængelighed og udførelse kommer fra denne integration, mens denne udgave leverer samtalens tekstfunktioner.
Konfiguration til lange tekster
Den offentliggjorte konfiguration dækker i første omgang 32.768 tokens. Den dokumenterede udvidelse til længere input bruger YaRN med en eksempelfaktor på 4.0 og en oprindelig maksimumindstilling for positioner på 32.768. Statisk skalering kan påvirke adfærden ved kortere tekster, så producenten anbefaler at tilføje den, når lange kontekster er nødvendige.
Når du forbereder en lang kilde, skal du identificere det afsnit, der skal revideres, eller det spørgsmål, der skal besvares, og holde de understøttende dele samlet. En tydelig anmodning kan bede om en rettet passage, en tabel over ændringer og henvisninger til de oprindelige afsnit. Det bruger den udvidede kontekst til et konkret produkt, mens svaret holdes inden for den særskilte genereringsgrænse.
", "aboutText": "Qwen2.5-14B-Instruct er den instruktionstilpassede udgave i 14B-størrelsen i den generelle Qwen2.5-familie. Den modtager en tekstsamtale og returnerer tekst: en forklaring, et dokument, programkode eller strukturerede felter. Producenten fremhæver instruktionsfølgning, programmering, matematik, forståelse af strukturerede data som tabeller og generering af strukturerede svar, især JSON.\n\nHvad familien forbedrer\n\nProducenten beskriver bredere viden og stærkere programmerings- og matematiske evner end den foregående Qwen2-generation samt generering af lange svar og bedre håndtering af forskellige systeminstruktioner. Familien bruger et fortræningskorpus, som beskrives som omfattende op til 18 billioner tokens. Disse evner understøtter en fagspecifik assistent, hvis rolle og output defineres af opgaven. Denne model er fortsat den generelle Instruct-udgave; de særskilt navngivne Qwen2.5-Coder- og Qwen2.5-Math-serier har deres egne specialer.\n\nEn procesassistent kan modtage en procedure og et spørgsmål om ét trin. Definér læserens rolle, bed om de handlinger, der er relevante for trinnet, og kræv, at svaret bevarer procedurens oprindelige betingelser. Et nyttigt output kan adskille den næste handling, betingelsen for, at den gælder, og de oplysninger, der stadig mangler. Det gør en bred anmodning om råd til et svar, der er knyttet til den angivne proces.\n\nTil en kodeforklaring skal du angive funktionen, relevante definitioner af hjælpefunktioner og det input, der skaber tvivl. Bed om rækkefølgen af operationer og den værdi, der returneres for dette input. Til en matematisk forklaring skal du angive symboler, antagelser og måludtryk, før du beder om udledningen. Begge opgaver bruger tekst; det er den omgivende applikations opgave at køre programmet eller stille et særskilt numerisk værktøj til rådighed.\n\nTabeller og JSON\n\nTil et tabelspørgsmål skal du bevare kolonneoverskrifter og enheder, angive de relevante rækker og præcisere sammenligningen. Det ønskede output kan opregne de matchende rækkers identifikatorer og forklare, hvilken angivet betingelse hver række opfylder. Hvis tabellen har manglende værdier, skal du angive, om svaret skal udelade dem eller repræsentere dem eksplicit.\n\nTil struktureret udtræk skal du vise feltnavne og påkrævede typer. Et input som en vareidentifikator, en lagerbeholdning og en lagerbetegnelse kan omdannes til en post med de samme felter. Bed kun om posten, når en applikation skal parse den; bed om en særskilt forklaring i prosa, når brugeren skal kunne undersøge fortolkningen af kilden. Modellens dokumenterede evne til at generere JSON er noget andet end, at en bestemt grænseflade håndhæver et skema.\n\nFlersproget samtale understøttes på mere end 29 sprog, herunder engelsk, kinesisk, russisk, tysk, fransk, spansk, portugisisk, italiensk, japansk, koreansk, vietnamesisk, thai og arabisk. Angiv det endelige sprog og eventuel terminologi, der skal forblive uændret. Til en oversat teknisk forklaring skal du bede modellen bevare variabelnavne, citerede betegnelser og enheder, mens den tilpasser den omgivende prosa til læseren.\n\nDen specifikke 14B-udgave\n\nModelkortet angiver 14,7 milliarder parametre, heraf 13,1 milliarder parametre uden for embeddings, og 48 Transformer-lag. Arkitekturen bruger roterende positionsembeddings, SwiGLU, RMSNorm og attention QKV-bias med 40 query-hoveder og 8 key/value-hoveder i grouped-query attention. Fortræning og eftertræning frembringer denne Instruct-udgave. Dens parameterantal og lagantal adskiller sig fra 32B-udgaven, selv når familiens evner og de offentliggjorte konteksttal er sammenfaldende.\n\nModelkortet angiver en fuld kontekst på 131.072 tokens og generering på op til 8.192 tokens. Det første tal vedrører samtalen og det materiale, der bevares til en opgave; det andet vedrører det genererede svar. Hurtigstartens indstilling på 512 tokens til generering er kun et eksempel og erstatter ikke kortets angivne svarkapacitet. Forståelse af billeder, video og lyd hører til særskilt navngivne multimodale udgaver, ikke til denne tekstmodel.\n\nInputformat og værktøjsunderstøttede opgaver\n\nProducentens eksempel anvender den tilhørende chatskabelon på adskilte system- og brugerbeskeder. Definér assistentens rolle og svarregler adskilt fra det materiale, der undersøges. Angiv et fuldstændigt spørgsmål, og mærk kildeteksten, så en instruktion, der citeres inde i kilden, ikke forveksles med applikationens opgave.\n\nDen officielle Qwen2.5-meddelelse beskriver også skabeloner til værktøjskald og kompatible integrationer. En værktøjsunderstøttet opgave kræver, at den omgivende applikation leverer funktionsbeskrivelser, udfører den valgte operation og giver resultatet til det næste svar. En samtale kan for eksempel bede om en beregning med et angivet beregningsværktøj; funktionsresultatet bliver derefter til information, som modellen kan forklare. Værktøjers tilgængelighed og udførelse kommer fra denne integration, mens denne udgave leverer samtalens tekstfunktioner.\n\nKonfiguration til lange tekster\n\nDen offentliggjorte konfiguration dækker i første omgang 32.768 tokens. Den dokumenterede udvidelse til længere input bruger YaRN med en eksempelfaktor på 4.0 og en oprindelig maksimumindstilling for positioner på 32.768. Statisk skalering kan påvirke adfærden ved kortere tekster, så producenten anbefaler at tilføje den, når lange kontekster er nødvendige.\n\nNår du forbereder en lang kilde, skal du identificere det afsnit, der skal revideres, eller det spørgsmål, der skal besvares, og holde de understøttende dele samlet. En tydelig anmodning kan bede om en rettet passage, en tabel over ændringer og henvisninger til de oprindelige afsnit. Det bruger den udvidede kontekst til et konkret produkt, mens svaret holdes inden for den særskilte genereringsgrænse.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Filter a stock table with missing values\n\nUse this stock table: item_id | stock | reorder_at; A7 | 3 | 5; B2 | 8 | 4; C9 | unknown | 6. Return the identifiers requiring reorder under stock < reorder_at, then list rows that cannot be decided. Preserve identifiers and explain the condition for each selected or unresolved row.A reorder list and a separate unresolved-row list, each with a short source-based reason.Check that equality would not trigger reorder and that unknown stock is not treated as zero.Qwen/Qwen2.5-14B-InstructQwen2.5-14B-Instruct er en flersproget tekstmodel til instruktionsbaserede assistenter, kode og matematik. Dens egen udgave med 14,7 milliarder parametre understøtter fortolkning af tabeller, generering af JSON og en svargrænse på 8.192 tokens samt konfiguration af udvidet kontekst til lange input.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Qwen2.5-14B-Instruct er den instruktionstilpassede udgave i 14B-størrelsen i den generelle Qwen2.5-familie. Den modtager en tekstsamtale og returnerer tekst: en forklaring, et dokument, programkode eller strukturerede felter. Producenten fremhæver instruktionsfølgning, programmering, matematik, forståelse af strukturerede data som tabeller og generering af strukturerede svar, især JSON.
Hvad familien forbedrer
Producenten beskriver bredere viden og stærkere programmerings- og matematiske evner end den foregående Qwen2-generation samt generering af lange svar og bedre håndtering af forskellige systeminstruktioner. Familien bruger et fortræningskorpus, som beskrives som omfattende op til 18 billioner tokens. Disse evner understøtter en fagspecifik assistent, hvis rolle og output defineres af opgaven. Denne model er fortsat den generelle Instruct-udgave; de særskilt navngivne Qwen2.5-Coder- og Qwen2.5-Math-serier har deres egne specialer.
En procesassistent kan modtage en procedure og et spørgsmål om ét trin. Definér læserens rolle, bed om de handlinger, der er relevante for trinnet, og kræv, at svaret bevarer procedurens oprindelige betingelser. Et nyttigt output kan adskille den næste handling, betingelsen for, at den gælder, og de oplysninger, der stadig mangler. Det gør en bred anmodning om råd til et svar, der er knyttet til den angivne proces.
Til en kodeforklaring skal du angive funktionen, relevante definitioner af hjælpefunktioner og det input, der skaber tvivl. Bed om rækkefølgen af operationer og den værdi, der returneres for dette input. Til en matematisk forklaring skal du angive symboler, antagelser og måludtryk, før du beder om udledningen. Begge opgaver bruger tekst; det er den omgivende applikations opgave at køre programmet eller stille et særskilt numerisk værktøj til rådighed.
Tabeller og JSON
Til et tabelspørgsmål skal du bevare kolonneoverskrifter og enheder, angive de relevante rækker og præcisere sammenligningen. Det ønskede output kan opregne de matchende rækkers identifikatorer og forklare, hvilken angivet betingelse hver række opfylder. Hvis tabellen har manglende værdier, skal du angive, om svaret skal udelade dem eller repræsentere dem eksplicit.
Til struktureret udtræk skal du vise feltnavne og påkrævede typer. Et input som en vareidentifikator, en lagerbeholdning og en lagerbetegnelse kan omdannes til en post med de samme felter. Bed kun om posten, når en applikation skal parse den; bed om en særskilt forklaring i prosa, når brugeren skal kunne undersøge fortolkningen af kilden. Modellens dokumenterede evne til at generere JSON er noget andet end, at en bestemt grænseflade håndhæver et skema.
Flersproget samtale understøttes på mere end 29 sprog, herunder engelsk, kinesisk, russisk, tysk, fransk, spansk, portugisisk, italiensk, japansk, koreansk, vietnamesisk, thai og arabisk. Angiv det endelige sprog og eventuel terminologi, der skal forblive uændret. Til en oversat teknisk forklaring skal du bede modellen bevare variabelnavne, citerede betegnelser og enheder, mens den tilpasser den omgivende prosa til læseren.
Den specifikke 14B-udgave
Modelkortet angiver 14,7 milliarder parametre, heraf 13,1 milliarder parametre uden for embeddings, og 48 Transformer-lag. Arkitekturen bruger roterende positionsembeddings, SwiGLU, RMSNorm og attention QKV-bias med 40 query-hoveder og 8 key/value-hoveder i grouped-query attention. Fortræning og eftertræning frembringer denne Instruct-udgave. Dens parameterantal og lagantal adskiller sig fra 32B-udgaven, selv når familiens evner og de offentliggjorte konteksttal er sammenfaldende.
Modelkortet angiver en fuld kontekst på 131.072 tokens og generering på op til 8.192 tokens. Det første tal vedrører samtalen og det materiale, der bevares til en opgave; det andet vedrører det genererede svar. Hurtigstartens indstilling på 512 tokens til generering er kun et eksempel og erstatter ikke kortets angivne svarkapacitet. Forståelse af billeder, video og lyd hører til særskilt navngivne multimodale udgaver, ikke til denne tekstmodel.
Inputformat og værktøjsunderstøttede opgaver
Producentens eksempel anvender den tilhørende chatskabelon på adskilte system- og brugerbeskeder. Definér assistentens rolle og svarregler adskilt fra det materiale, der undersøges. Angiv et fuldstændigt spørgsmål, og mærk kildeteksten, så en instruktion, der citeres inde i kilden, ikke forveksles med applikationens opgave.
Den officielle Qwen2.5-meddelelse beskriver også skabeloner til værktøjskald og kompatible integrationer. En værktøjsunderstøttet opgave kræver, at den omgivende applikation leverer funktionsbeskrivelser, udfører den valgte operation og giver resultatet til det næste svar. En samtale kan for eksempel bede om en beregning med et angivet beregningsværktøj; funktionsresultatet bliver derefter til information, som modellen kan forklare. Værktøjers tilgængelighed og udførelse kommer fra denne integration, mens denne udgave leverer samtalens tekstfunktioner.
Konfiguration til lange tekster
Den offentliggjorte konfiguration dækker i første omgang 32.768 tokens. Den dokumenterede udvidelse til længere input bruger YaRN med en eksempelfaktor på 4.0 og en oprindelig maksimumindstilling for positioner på 32.768. Statisk skalering kan påvirke adfærden ved kortere tekster, så producenten anbefaler at tilføje den, når lange kontekster er nødvendige.
Når du forbereder en lang kilde, skal du identificere det afsnit, der skal revideres, eller det spørgsmål, der skal besvares, og holde de understøttende dele samlet. En tydelig anmodning kan bede om en rettet passage, en tabel over ændringer og henvisninger til de oprindelige afsnit. Det bruger den udvidede kontekst til et konkret produkt, mens svaret holdes inden for den særskilte genereringsgrænse.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser Qwen/Qwen2.5-14B-Instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser Eksempler: system, user, assistant, tool, function Betingelser: Disse roller er eksplicit repræsenteret i kildekodens kompatibilitetstyper; modellens præcise rollesæt er fortsat modelspecifikt. Afhænger af modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfrit | Værdier og grænser Gælder når: role=tool; brug det faktisk returnerede ID | Standard— |
Feltmessages[].name | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfrit | Værdier og grænser Gælder når: Send det faktisk returnerede ræsonnement tilbage, når modellen bruger det | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Afhænger af modellen | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttemperature | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttop_p | Typenumber | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Felttools[].type | Typestring | KravValgfrit | Værdier og grænser function Afhænger af modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrævet | Værdier og grænser Gælder når: funktionsværktøj angivet | Standard— |
Felttools[].function.description | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfrit | Værdier og grænser | Standard— |
Felttool_choice | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltreasoning | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltservice_tier | Typestring | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltinstructions | Typestring | KravValgfrit | Værdier og grænser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfrit | Værdier og grænser Afhænger af modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfrit | Værdier og grænser text | Standard— |
Feltprovider | Typeobject | KravValgfrit | Værdier og grænser Betingelser: provider.options afvises på denne Ultra-tekstrute | Standard— |
Feltcache_control.ttl | Typestring | KravValgfrit | Værdier og grænser Betingelser: 1h afvises på de faktiske placeringer for promptcaching | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages |
Parametermaterial_types | Kontrakttext |
Parametermessages | Kontraktbeskedarray med strukturen role/content |
Parameterfile_material | Kontraktfaktisk UTF-8-dokument indsat som bogstavelig tekst; intet fil-ID udledes |
Parameteroptional_controls | Kontraktstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontraktmodelspecifikt; brugerens funktionsværktøjer er forskellige fra hostede værktøjer |
Parameteroutput_modalities | Kontrakttext |
Parameterhosted_operations | Kontraktfalse |
Parametermultimodal_input_binding | Kontraktnull |
Livscyklus: synchronous_or_streamed
Send det præcise model-ID med messages.
Kontekstlængde er ikke et outputloft.
En tekstfil kan levere bogstavelig tekst; billed-, lyd- og filobjektinput kræver en præcis binding.
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0.0002 / 1K tokens Output · Outputtokens $0.0002 / 1K tokens Input · Cachelæsning $0 / 1K tokens Input · Cacheskrivning $0 / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "Qwen/Qwen2.5-14B-Instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='Qwen/Qwen2.5-14B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='Qwen/Qwen2.5-14B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar hvert valg og dets indhold, værktøjskald og ræsonnement. Saml i SSE deltaer efter valg-/værktøjsindeks, og bevar den endelige afslutningsårsag og forbrugsoplysningerne.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra Qwen/Qwen2.5-14B-Instruct, qwen2.5-14b-instruct
/chat/completions
Qwen/Qwen2.5-14B-InstructQwen2.5-14B-Instruct er en flersproget tekstmodel til instruktionsbaserede assistenter, kode og matematik. Dens egen udgave med 14,7 milliarder parametre understøtter fortolkning af tabeller, generering af JSON og en svargrænse på 8.192 tokens samt konfiguration af udvidet kontekst til lange input.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Qwen2.5-14B-Instruct er den instruktionstilpassede udgave i 14B-størrelsen i den generelle Qwen2.5-familie. Den modtager en tekstsamtale og returnerer tekst: en forklaring, et dokument, programkode eller strukturerede felter. Producenten fremhæver instruktionsfølgning, programmering, matematik, forståelse af strukturerede data som tabeller og generering af strukturerede svar, især JSON.
Hvad familien forbedrer
Producenten beskriver bredere viden og stærkere programmerings- og matematiske evner end den foregående Qwen2-generation samt generering af lange svar og bedre håndtering af forskellige systeminstruktioner. Familien bruger et fortræningskorpus, som beskrives som omfattende op til 18 billioner tokens. Disse evner understøtter en fagspecifik assistent, hvis rolle og output defineres af opgaven. Denne model er fortsat den generelle Instruct-udgave; de særskilt navngivne Qwen2.5-Coder- og Qwen2.5-Math-serier har deres egne specialer.
En procesassistent kan modtage en procedure og et spørgsmål om ét trin. Definér læserens rolle, bed om de handlinger, der er relevante for trinnet, og kræv, at svaret bevarer procedurens oprindelige betingelser. Et nyttigt output kan adskille den næste handling, betingelsen for, at den gælder, og de oplysninger, der stadig mangler. Det gør en bred anmodning om råd til et svar, der er knyttet til den angivne proces.
Til en kodeforklaring skal du angive funktionen, relevante definitioner af hjælpefunktioner og det input, der skaber tvivl. Bed om rækkefølgen af operationer og den værdi, der returneres for dette input. Til en matematisk forklaring skal du angive symboler, antagelser og måludtryk, før du beder om udledningen. Begge opgaver bruger tekst; det er den omgivende applikations opgave at køre programmet eller stille et særskilt numerisk værktøj til rådighed.
Tabeller og JSON
Til et tabelspørgsmål skal du bevare kolonneoverskrifter og enheder, angive de relevante rækker og præcisere sammenligningen. Det ønskede output kan opregne de matchende rækkers identifikatorer og forklare, hvilken angivet betingelse hver række opfylder. Hvis tabellen har manglende værdier, skal du angive, om svaret skal udelade dem eller repræsentere dem eksplicit.
Til struktureret udtræk skal du vise feltnavne og påkrævede typer. Et input som en vareidentifikator, en lagerbeholdning og en lagerbetegnelse kan omdannes til en post med de samme felter. Bed kun om posten, når en applikation skal parse den; bed om en særskilt forklaring i prosa, når brugeren skal kunne undersøge fortolkningen af kilden. Modellens dokumenterede evne til at generere JSON er noget andet end, at en bestemt grænseflade håndhæver et skema.
Flersproget samtale understøttes på mere end 29 sprog, herunder engelsk, kinesisk, russisk, tysk, fransk, spansk, portugisisk, italiensk, japansk, koreansk, vietnamesisk, thai og arabisk. Angiv det endelige sprog og eventuel terminologi, der skal forblive uændret. Til en oversat teknisk forklaring skal du bede modellen bevare variabelnavne, citerede betegnelser og enheder, mens den tilpasser den omgivende prosa til læseren.
Den specifikke 14B-udgave
Modelkortet angiver 14,7 milliarder parametre, heraf 13,1 milliarder parametre uden for embeddings, og 48 Transformer-lag. Arkitekturen bruger roterende positionsembeddings, SwiGLU, RMSNorm og attention QKV-bias med 40 query-hoveder og 8 key/value-hoveder i grouped-query attention. Fortræning og eftertræning frembringer denne Instruct-udgave. Dens parameterantal og lagantal adskiller sig fra 32B-udgaven, selv når familiens evner og de offentliggjorte konteksttal er sammenfaldende.
Modelkortet angiver en fuld kontekst på 131.072 tokens og generering på op til 8.192 tokens. Det første tal vedrører samtalen og det materiale, der bevares til en opgave; det andet vedrører det genererede svar. Hurtigstartens indstilling på 512 tokens til generering er kun et eksempel og erstatter ikke kortets angivne svarkapacitet. Forståelse af billeder, video og lyd hører til særskilt navngivne multimodale udgaver, ikke til denne tekstmodel.
Inputformat og værktøjsunderstøttede opgaver
Producentens eksempel anvender den tilhørende chatskabelon på adskilte system- og brugerbeskeder. Definér assistentens rolle og svarregler adskilt fra det materiale, der undersøges. Angiv et fuldstændigt spørgsmål, og mærk kildeteksten, så en instruktion, der citeres inde i kilden, ikke forveksles med applikationens opgave.
Den officielle Qwen2.5-meddelelse beskriver også skabeloner til værktøjskald og kompatible integrationer. En værktøjsunderstøttet opgave kræver, at den omgivende applikation leverer funktionsbeskrivelser, udfører den valgte operation og giver resultatet til det næste svar. En samtale kan for eksempel bede om en beregning med et angivet beregningsværktøj; funktionsresultatet bliver derefter til information, som modellen kan forklare. Værktøjers tilgængelighed og udførelse kommer fra denne integration, mens denne udgave leverer samtalens tekstfunktioner.
Konfiguration til lange tekster
Den offentliggjorte konfiguration dækker i første omgang 32.768 tokens. Den dokumenterede udvidelse til længere input bruger YaRN med en eksempelfaktor på 4.0 og en oprindelig maksimumindstilling for positioner på 32.768. Statisk skalering kan påvirke adfærden ved kortere tekster, så producenten anbefaler at tilføje den, når lange kontekster er nødvendige.
Når du forbereder en lang kilde, skal du identificere det afsnit, der skal revideres, eller det spørgsmål, der skal besvares, og holde de understøttende dele samlet. En tydelig anmodning kan bede om en rettet passage, en tabel over ændringer og henvisninger til de oprindelige afsnit. Det bruger den udvidede kontekst til et konkret produkt, mens svaret holdes inden for den særskilte genereringsgrænse.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser Qwen/Qwen2.5-14B-Instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrævet | Værdier og grænser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrævet | Værdier og grænser | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content som streng
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages, max_tokens |
Parameteroptional_controls | Kontraktstream |
Parametermaterial_types | Kontrakttext |
Parametertext_file_material | KontraktLæs det faktiske UTF-8-dokument, og indsæt teksten i det angivne input eller beskedens indholdsstreng. |
Livscyklus: synchronous_or_streamed
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0.0002 / 1K tokens Output · Outputtokens $0.0002 / 1K tokens Input · Cachelæsning $0 / 1K tokens Input · Cacheskrivning $0 / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
{\n "model": "Qwen/Qwen2.5-14B-Instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-14B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-14B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar alle indholdsblokke, ræsonnementssignaturer og faktiske værktøjsbrugs-ID’er. Saml alle SSE-blokdeltaer; den første tekstblok er ikke hele outputtet.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra Qwen/Qwen2.5-14B-Instruct, qwen2.5-14b-instruct
/chat/completions
qwen2.5-14b-instructQwen2.5-14B-Instruct er en flersproget tekstmodel til instruktionsbaserede assistenter, kode og matematik. Dens egen udgave med 14,7 milliarder parametre understøtter fortolkning af tabeller, generering af JSON og en svargrænse på 8.192 tokens samt konfiguration af udvidet kontekst til lange input.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Qwen2.5-14B-Instruct er den instruktionstilpassede udgave i 14B-størrelsen i den generelle Qwen2.5-familie. Den modtager en tekstsamtale og returnerer tekst: en forklaring, et dokument, programkode eller strukturerede felter. Producenten fremhæver instruktionsfølgning, programmering, matematik, forståelse af strukturerede data som tabeller og generering af strukturerede svar, især JSON.
Hvad familien forbedrer
Producenten beskriver bredere viden og stærkere programmerings- og matematiske evner end den foregående Qwen2-generation samt generering af lange svar og bedre håndtering af forskellige systeminstruktioner. Familien bruger et fortræningskorpus, som beskrives som omfattende op til 18 billioner tokens. Disse evner understøtter en fagspecifik assistent, hvis rolle og output defineres af opgaven. Denne model er fortsat den generelle Instruct-udgave; de særskilt navngivne Qwen2.5-Coder- og Qwen2.5-Math-serier har deres egne specialer.
En procesassistent kan modtage en procedure og et spørgsmål om ét trin. Definér læserens rolle, bed om de handlinger, der er relevante for trinnet, og kræv, at svaret bevarer procedurens oprindelige betingelser. Et nyttigt output kan adskille den næste handling, betingelsen for, at den gælder, og de oplysninger, der stadig mangler. Det gør en bred anmodning om råd til et svar, der er knyttet til den angivne proces.
Til en kodeforklaring skal du angive funktionen, relevante definitioner af hjælpefunktioner og det input, der skaber tvivl. Bed om rækkefølgen af operationer og den værdi, der returneres for dette input. Til en matematisk forklaring skal du angive symboler, antagelser og måludtryk, før du beder om udledningen. Begge opgaver bruger tekst; det er den omgivende applikations opgave at køre programmet eller stille et særskilt numerisk værktøj til rådighed.
Tabeller og JSON
Til et tabelspørgsmål skal du bevare kolonneoverskrifter og enheder, angive de relevante rækker og præcisere sammenligningen. Det ønskede output kan opregne de matchende rækkers identifikatorer og forklare, hvilken angivet betingelse hver række opfylder. Hvis tabellen har manglende værdier, skal du angive, om svaret skal udelade dem eller repræsentere dem eksplicit.
Til struktureret udtræk skal du vise feltnavne og påkrævede typer. Et input som en vareidentifikator, en lagerbeholdning og en lagerbetegnelse kan omdannes til en post med de samme felter. Bed kun om posten, når en applikation skal parse den; bed om en særskilt forklaring i prosa, når brugeren skal kunne undersøge fortolkningen af kilden. Modellens dokumenterede evne til at generere JSON er noget andet end, at en bestemt grænseflade håndhæver et skema.
Flersproget samtale understøttes på mere end 29 sprog, herunder engelsk, kinesisk, russisk, tysk, fransk, spansk, portugisisk, italiensk, japansk, koreansk, vietnamesisk, thai og arabisk. Angiv det endelige sprog og eventuel terminologi, der skal forblive uændret. Til en oversat teknisk forklaring skal du bede modellen bevare variabelnavne, citerede betegnelser og enheder, mens den tilpasser den omgivende prosa til læseren.
Den specifikke 14B-udgave
Modelkortet angiver 14,7 milliarder parametre, heraf 13,1 milliarder parametre uden for embeddings, og 48 Transformer-lag. Arkitekturen bruger roterende positionsembeddings, SwiGLU, RMSNorm og attention QKV-bias med 40 query-hoveder og 8 key/value-hoveder i grouped-query attention. Fortræning og eftertræning frembringer denne Instruct-udgave. Dens parameterantal og lagantal adskiller sig fra 32B-udgaven, selv når familiens evner og de offentliggjorte konteksttal er sammenfaldende.
Modelkortet angiver en fuld kontekst på 131.072 tokens og generering på op til 8.192 tokens. Det første tal vedrører samtalen og det materiale, der bevares til en opgave; det andet vedrører det genererede svar. Hurtigstartens indstilling på 512 tokens til generering er kun et eksempel og erstatter ikke kortets angivne svarkapacitet. Forståelse af billeder, video og lyd hører til særskilt navngivne multimodale udgaver, ikke til denne tekstmodel.
Inputformat og værktøjsunderstøttede opgaver
Producentens eksempel anvender den tilhørende chatskabelon på adskilte system- og brugerbeskeder. Definér assistentens rolle og svarregler adskilt fra det materiale, der undersøges. Angiv et fuldstændigt spørgsmål, og mærk kildeteksten, så en instruktion, der citeres inde i kilden, ikke forveksles med applikationens opgave.
Den officielle Qwen2.5-meddelelse beskriver også skabeloner til værktøjskald og kompatible integrationer. En værktøjsunderstøttet opgave kræver, at den omgivende applikation leverer funktionsbeskrivelser, udfører den valgte operation og giver resultatet til det næste svar. En samtale kan for eksempel bede om en beregning med et angivet beregningsværktøj; funktionsresultatet bliver derefter til information, som modellen kan forklare. Værktøjers tilgængelighed og udførelse kommer fra denne integration, mens denne udgave leverer samtalens tekstfunktioner.
Konfiguration til lange tekster
Den offentliggjorte konfiguration dækker i første omgang 32.768 tokens. Den dokumenterede udvidelse til længere input bruger YaRN med en eksempelfaktor på 4.0 og en oprindelig maksimumindstilling for positioner på 32.768. Statisk skalering kan påvirke adfærden ved kortere tekster, så producenten anbefaler at tilføje den, når lange kontekster er nødvendige.
Når du forbereder en lang kilde, skal du identificere det afsnit, der skal revideres, eller det spørgsmål, der skal besvares, og holde de understøttende dele samlet. En tydelig anmodning kan bede om en rettet passage, en tabel over ændringer og henvisninger til de oprindelige afsnit. Det bruger den udvidede kontekst til et konkret produkt, mens svaret holdes inden for den særskilte genereringsgrænse.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser qwen2.5-14b-instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser Minimumsantal elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser Afhænger af modellen | Standard— |
Feltmessages[].content | Typestring | KravValgfrit | Værdier og grænser Gælder når: Tekstsamtale | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Tekst · UTF8-tekst
messages[].content
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages |
Parametermaterial_types | Kontrakttext |
Parametermessages | Kontraktbeskedarray med strukturen role/content |
Parameterfile_material | Kontraktfaktisk UTF-8-dokument indsat som bogstavelig tekst; intet fil-ID udledes |
Parameteroptional_controls | Kontraktstream |
Parametercontrol_scope | KontraktTekstsamtale; stream er en boolesk værdi og er som standard false. |
Parameteroutput_modalities | Kontrakttext |
Parameterhosted_operations | Kontraktfalse |
Parametermultimodal_input_binding | Kontraktnull |
Metodealiaser: /chat/completions
Livscyklus: synchronous_or_streamed
Send det præcise model-ID med messages.
Kontekstlængde er ikke et outputloft.
En tekstfil kan levere bogstavelig tekst; billed-, lyd- og filobjektinput kræver en præcis binding.
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0.0002 / 1K tokens Output · Outputtokens $0.0002 / 1K tokens Input · Cachelæsning $0 / 1K tokens Input · Cacheskrivning $0 / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"qwen2.5-14b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="qwen2.5-14b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar hvert valg og dets indhold, værktøjskald og ræsonnement. Saml i SSE deltaer efter valg-/værktøjsindeks, og bevar den endelige afslutningsårsag og forbrugsoplysningerne.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra Qwen/Qwen2.5-14B-Instruct, qwen2.5-14b-instruct
/chat/completions
qwen2.5-14b-instructQwen2.5-14B-Instruct er en flersproget tekstmodel til instruktionsbaserede assistenter, kode og matematik. Dens egen udgave med 14,7 milliarder parametre understøtter fortolkning af tabeller, generering af JSON og en svargrænse på 8.192 tokens samt konfiguration af udvidet kontekst til lange input.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Qwen2.5-14B-Instruct er den instruktionstilpassede udgave i 14B-størrelsen i den generelle Qwen2.5-familie. Den modtager en tekstsamtale og returnerer tekst: en forklaring, et dokument, programkode eller strukturerede felter. Producenten fremhæver instruktionsfølgning, programmering, matematik, forståelse af strukturerede data som tabeller og generering af strukturerede svar, især JSON.
Hvad familien forbedrer
Producenten beskriver bredere viden og stærkere programmerings- og matematiske evner end den foregående Qwen2-generation samt generering af lange svar og bedre håndtering af forskellige systeminstruktioner. Familien bruger et fortræningskorpus, som beskrives som omfattende op til 18 billioner tokens. Disse evner understøtter en fagspecifik assistent, hvis rolle og output defineres af opgaven. Denne model er fortsat den generelle Instruct-udgave; de særskilt navngivne Qwen2.5-Coder- og Qwen2.5-Math-serier har deres egne specialer.
En procesassistent kan modtage en procedure og et spørgsmål om ét trin. Definér læserens rolle, bed om de handlinger, der er relevante for trinnet, og kræv, at svaret bevarer procedurens oprindelige betingelser. Et nyttigt output kan adskille den næste handling, betingelsen for, at den gælder, og de oplysninger, der stadig mangler. Det gør en bred anmodning om råd til et svar, der er knyttet til den angivne proces.
Til en kodeforklaring skal du angive funktionen, relevante definitioner af hjælpefunktioner og det input, der skaber tvivl. Bed om rækkefølgen af operationer og den værdi, der returneres for dette input. Til en matematisk forklaring skal du angive symboler, antagelser og måludtryk, før du beder om udledningen. Begge opgaver bruger tekst; det er den omgivende applikations opgave at køre programmet eller stille et særskilt numerisk værktøj til rådighed.
Tabeller og JSON
Til et tabelspørgsmål skal du bevare kolonneoverskrifter og enheder, angive de relevante rækker og præcisere sammenligningen. Det ønskede output kan opregne de matchende rækkers identifikatorer og forklare, hvilken angivet betingelse hver række opfylder. Hvis tabellen har manglende værdier, skal du angive, om svaret skal udelade dem eller repræsentere dem eksplicit.
Til struktureret udtræk skal du vise feltnavne og påkrævede typer. Et input som en vareidentifikator, en lagerbeholdning og en lagerbetegnelse kan omdannes til en post med de samme felter. Bed kun om posten, når en applikation skal parse den; bed om en særskilt forklaring i prosa, når brugeren skal kunne undersøge fortolkningen af kilden. Modellens dokumenterede evne til at generere JSON er noget andet end, at en bestemt grænseflade håndhæver et skema.
Flersproget samtale understøttes på mere end 29 sprog, herunder engelsk, kinesisk, russisk, tysk, fransk, spansk, portugisisk, italiensk, japansk, koreansk, vietnamesisk, thai og arabisk. Angiv det endelige sprog og eventuel terminologi, der skal forblive uændret. Til en oversat teknisk forklaring skal du bede modellen bevare variabelnavne, citerede betegnelser og enheder, mens den tilpasser den omgivende prosa til læseren.
Den specifikke 14B-udgave
Modelkortet angiver 14,7 milliarder parametre, heraf 13,1 milliarder parametre uden for embeddings, og 48 Transformer-lag. Arkitekturen bruger roterende positionsembeddings, SwiGLU, RMSNorm og attention QKV-bias med 40 query-hoveder og 8 key/value-hoveder i grouped-query attention. Fortræning og eftertræning frembringer denne Instruct-udgave. Dens parameterantal og lagantal adskiller sig fra 32B-udgaven, selv når familiens evner og de offentliggjorte konteksttal er sammenfaldende.
Modelkortet angiver en fuld kontekst på 131.072 tokens og generering på op til 8.192 tokens. Det første tal vedrører samtalen og det materiale, der bevares til en opgave; det andet vedrører det genererede svar. Hurtigstartens indstilling på 512 tokens til generering er kun et eksempel og erstatter ikke kortets angivne svarkapacitet. Forståelse af billeder, video og lyd hører til særskilt navngivne multimodale udgaver, ikke til denne tekstmodel.
Inputformat og værktøjsunderstøttede opgaver
Producentens eksempel anvender den tilhørende chatskabelon på adskilte system- og brugerbeskeder. Definér assistentens rolle og svarregler adskilt fra det materiale, der undersøges. Angiv et fuldstændigt spørgsmål, og mærk kildeteksten, så en instruktion, der citeres inde i kilden, ikke forveksles med applikationens opgave.
Den officielle Qwen2.5-meddelelse beskriver også skabeloner til værktøjskald og kompatible integrationer. En værktøjsunderstøttet opgave kræver, at den omgivende applikation leverer funktionsbeskrivelser, udfører den valgte operation og giver resultatet til det næste svar. En samtale kan for eksempel bede om en beregning med et angivet beregningsværktøj; funktionsresultatet bliver derefter til information, som modellen kan forklare. Værktøjers tilgængelighed og udførelse kommer fra denne integration, mens denne udgave leverer samtalens tekstfunktioner.
Konfiguration til lange tekster
Den offentliggjorte konfiguration dækker i første omgang 32.768 tokens. Den dokumenterede udvidelse til længere input bruger YaRN med en eksempelfaktor på 4.0 og en oprindelig maksimumindstilling for positioner på 32.768. Statisk skalering kan påvirke adfærden ved kortere tekster, så producenten anbefaler at tilføje den, når lange kontekster er nødvendige.
Når du forbereder en lang kilde, skal du identificere det afsnit, der skal revideres, eller det spørgsmål, der skal besvares, og holde de understøttende dele samlet. En tydelig anmodning kan bede om en rettet passage, en tabel over ændringer og henvisninger til de oprindelige afsnit. Det bruger den udvidede kontekst til et konkret produkt, mens svaret holdes inden for den særskilte genereringsgrænse.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser qwen2.5-14b-instruct | Standard— |
Feltmessages | Typemessage[] | KravPåkrævet | Værdier og grænser | Standard— |
Feltmessages[].role | Typestring | KravPåkrævet | Værdier og grænser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrævet | Værdier og grænser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrævet | Værdier og grænser | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content som streng
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages, max_tokens |
Parameteroptional_controls | Kontraktstream |
Parametermaterial_types | Kontrakttext |
Parametertext_file_material | KontraktLæs det faktiske UTF-8-dokument, og indsæt teksten i det angivne input eller beskedens indholdsstreng. |
Livscyklus: synchronous_or_streamed
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundtakster for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0.0002 / 1K tokens Output · Outputtokens $0.0002 / 1K tokens Input · Cachelæsning $0 / 1K tokens Input · Cacheskrivning $0 / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
{\n "model": "qwen2.5-14b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-14b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-14b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Bevar alle indholdsblokke, ræsonnementssignaturer og faktiske værktøjsbrugs-ID’er. Saml alle SSE-blokdeltaer; den første tekstblok er ikke hele outputtet.
Bevar anmodnings-/svar-ID’er og headere. Der leveres ingen generel URL til at hente tekstjob.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Betingelse | Næste trin |
|---|---|---|
Svar400 · invalid_request_error | BetingelseUgyldige obligatoriske felter, materialerepræsentation eller parameterværdi | Næste trinRet de angivne felter før en ny oprettelsesanmodning. |
Ailoot Ultra Qwen/Qwen2.5-14B-Instruct, qwen2.5-14b-instruct
/chat/completions
Teknisk eksempel på engelsk
Filter a stock table with missing values\n\nUse this stock table: item_id | stock | reorder_at; A7 | 3 | 5; B2 | 8 | 4; C9 | unknown | 6. Return the identifiers requiring reorder under stock < reorder_at, then list rows that cannot be decided. Preserve identifiers and explain the condition for each selected or unresolved row.A reorder list and a separate unresolved-row list, each with a short source-based reason.Check that equality would not trigger reorder and that unknown stock is not treated as zero.