Qwen2.5-32B-Instruct on yleiskäyttöisen Qwen2.5-perheen ohjeiden noudattamiseen hienosäädetty 32B-kokoluokan tekstimalli. Se yhdistää kielen ymmärtämisen ja tuottamisen ohjelmointiin ja matematiikkaan eikä ole erikseen nimetty Coder- tai Math-erikoismalli. Valmistaja korostaa erityisesti yksityiskohtaisten ohjeiden noudattamista, pitkien tekstien kirjoittamista, taulukoiden ymmärtämistä ja rakenteisen tekstin, etenkin JSONin, tuottamista. Perhe on esikoulutettu aineistolla, jonka kuvataan kattavan jopa 18 biljoonaa tokenia.
Rakenteinen tieto, pitkät vastaukset ja monikieliset tehtävät
Hyödyllisessä poimintatehtävässä annetaan lähdekatkelma ja täsmälleen ne kentät, joita sovelluksen seuraava vaihe tarvitsee. Määrittele kenttien tyypit, kopioidaanko sanamuoto vai tiivistetäänkö se ja miten puuttuva tieto esitetään. Tuotetietueeseen voidaan esimerkiksi pyytää tunniste, käyttöolosuhteet ja luettelo ratkaisemattomista kysymyksistä. Pyydä pelkkä JSON-tietue, kun se on jäsennettävä, tai erillinen selitys, kun ihmisen on voitava tarkastaa poimittujen kenttien perustelut.
Taulukoiden ymmärtäminen on toinen dokumentoitu painopiste. Anna kysymyksen mukana sarakkeiden nimet, yksiköt ja olennaiset rivit. Pyydä mallia tunnistamaan ehdon täyttävät rivit, selittämään jaksojen välinen muutos tai muuntamaan taulukko kirjalliseksi raportiksi. Käytännöllinen tuloste voi säilyttää kunkin rivin tunnisteen havainnon vieressä. Näin annettu tieto ja vastaus pysyvät yhteydessä toisiinsa sen sijaan, että syntyisi yhteenveto, jonka lähderiviä ei voi jäljittää.
Nimeä pitkää tekstiä varten yleisö, osiot ja lähdefaktat ennen asiakirjan pyytämistä. Tekninen ehdotus voi edellyttää ongelman kuvausta, vaatimuksia, vaihtoehtoja ja suositusta, jotka perustuvat vain annettuun aineistoon. Täsmennä, mitkä ehdot ovat pakollisia ja mitkä kysymyksiä, jotka on ratkaistava. Valmistaja kehittää myös toimintavarmuutta erilaisten järjestelmäkehotteiden yhteydessä, mikä tukee määriteltyä roolia, sävyä ja keskusteluehtoja.
Perhe tukee yli 29 kieltä, muun muassa englantia, kiinaa, venäjää, ranskaa, espanjaa, portugalia, saksaa, italiaa, japania, koreaa, vietnamia, thaita ja arabiaa. Erota monikielisessä tehtävässä lähdekieli vaaditusta tulostuskielestä ja anna termiluettelo, kun nimet tai tekniset termit on pidettävä johdonmukaisina. Kaksikieliseen raporttiin voidaan pyytää samat lähdefaktat kahtena versiona tunnisteita ja yksiköitä muuttamatta.
Tämän version mallitiedot
32B-Instruct-julkaisussa on 32,5 miljardia parametria, joista 31,0 miljardia on upotusten ulkopuolisia parametreja, sekä 64 Transformer-kerrosta. Se käyttää kiertäviä sijaintiupotuksia, SwiGLU:ta, RMSNormia ja attention QKV -bias-termiä. Ryhmitelty kyselyhuomio käyttää 40 kyselypäätä ja 8 avain/arvo-päätä. Kyseessä on tiheä, vain dekooderista koostuva kielimallijulkaisu, joka on esi- ja jälkikoulutettu; Instruct tarkoittaa keskusteluun koulutettua versiota perusmallin sijaan.
Mallikortti ilmoittaa täydeksi kontekstiksi 131 072 tokenia ja generoinnin enimmäispituudeksi 8 192 tokenia. Luvut kuvaavat tehtävän eri osia: konteksti säilyttää kehotteen ja keskustelun, kun taas generointiluku rajaa kirjoitettua vastausta. Pika-aloitusohjeen 512 tuotettua tokenia on vain esimerkki tämän suuremman ilmoitetun generointirajan sisällä. Malli ottaa vastaan ja palauttaa tekstiä; skannatun taulukon tai kuvakaappauksen sisältö on annettava tekstinä tai käsiteltävä erillisellä visuaalisella mallilla.
Keskustelu ja työkalut
Mallikortti näyttää erilliset järjestelmä- ja käyttäjäviestit, jotka muotoillaan malliin kuuluvalla keskustelumallineella. Sijoita avustajan pysyvät vastaussäännöt oikeaan keskustelurooliin ja varsinainen asiakirja, taulukko tai koodi käyttäjän tehtävän yhteyteen. Merkitse lainatun lähdeaineiston ja ohjeiden välinen raja, ettei asiakirjan sisällä esiintyvää ohjetta sekoiteta sovelluksen tarkoittamaan tehtävään.
Perheen virallinen julkistus dokumentoi työkalukutsujen tuen yhteensopivien keskustelumallineiden ja mallia palvelevien integraatioiden kautta. Tällaisessa työnkulussa sovellus antaa funktioiden kuvaukset, vastaanottaa ehdotetun kutsun, suorittaa funktion ja palauttaa sen tuloksen. Näin tekstikysymys voidaan yhdistää laskutoimitukseen tai tiedonhakuun, mutta pelkkä tämän mallin valinta ei tarjoa ulkoista työkalua tai sen tietoja. JSONin tuottaminen ja työkalukutsu ovat myös eri tuloksia: toinen muotoilee tekstiä, toinen pyytää ympäröivää sovellusta suorittamaan nimetyn toiminnon.
Pitkän kontekstin valmistelu
Julkaistut asetukset alkavat 32 768 tokenista. Tätä asetusta pidemmät syötteet vaativat dokumentoidun YaRN-laajennuksen, jonka esimerkissä kerroin on 4.0 ja alkuperäinen enimmäissijaintiasetus 32 768. Valmistaja varoittaa, että staattinen skaalaus voi vaikuttaa lyhyempien tekstien käsittelyyn, ja suosittelee sen käyttöönottoa silloin, kun pitkän kontekstin käsittelyä tarvitaan.
Kun vertaat laajoja asiakirjoja, määrittele kunkin asiakirjan rooli ja pyydä yksi selvästi rajattu tuotos: vaatimusmatriisi, eroavuusluettelo tai tarkistettu osio. Pidä lähdekohdat poimittujen havaintojen vieressä ja varaa riittävästi vastaustilaa pyydetylle rakenteelle. Pitkä konteksti auttaa pitämään olennaisen aineiston yhdessä; se ei korvaa tarvetta määritellä vertailun kohdetta tai lopputuloksen käyttötapaa.
", "aboutText": "Qwen2.5-32B-Instruct on yleiskäyttöisen Qwen2.5-perheen ohjeiden noudattamiseen hienosäädetty 32B-kokoluokan tekstimalli. Se yhdistää kielen ymmärtämisen ja tuottamisen ohjelmointiin ja matematiikkaan eikä ole erikseen nimetty Coder- tai Math-erikoismalli. Valmistaja korostaa erityisesti yksityiskohtaisten ohjeiden noudattamista, pitkien tekstien kirjoittamista, taulukoiden ymmärtämistä ja rakenteisen tekstin, etenkin JSONin, tuottamista. Perhe on esikoulutettu aineistolla, jonka kuvataan kattavan jopa 18 biljoonaa tokenia.\n\nRakenteinen tieto, pitkät vastaukset ja monikieliset tehtävät\n\nHyödyllisessä poimintatehtävässä annetaan lähdekatkelma ja täsmälleen ne kentät, joita sovelluksen seuraava vaihe tarvitsee. Määrittele kenttien tyypit, kopioidaanko sanamuoto vai tiivistetäänkö se ja miten puuttuva tieto esitetään. Tuotetietueeseen voidaan esimerkiksi pyytää tunniste, käyttöolosuhteet ja luettelo ratkaisemattomista kysymyksistä. Pyydä pelkkä JSON-tietue, kun se on jäsennettävä, tai erillinen selitys, kun ihmisen on voitava tarkastaa poimittujen kenttien perustelut.\n\nTaulukoiden ymmärtäminen on toinen dokumentoitu painopiste. Anna kysymyksen mukana sarakkeiden nimet, yksiköt ja olennaiset rivit. Pyydä mallia tunnistamaan ehdon täyttävät rivit, selittämään jaksojen välinen muutos tai muuntamaan taulukko kirjalliseksi raportiksi. Käytännöllinen tuloste voi säilyttää kunkin rivin tunnisteen havainnon vieressä. Näin annettu tieto ja vastaus pysyvät yhteydessä toisiinsa sen sijaan, että syntyisi yhteenveto, jonka lähderiviä ei voi jäljittää.\n\nNimeä pitkää tekstiä varten yleisö, osiot ja lähdefaktat ennen asiakirjan pyytämistä. Tekninen ehdotus voi edellyttää ongelman kuvausta, vaatimuksia, vaihtoehtoja ja suositusta, jotka perustuvat vain annettuun aineistoon. Täsmennä, mitkä ehdot ovat pakollisia ja mitkä kysymyksiä, jotka on ratkaistava. Valmistaja kehittää myös toimintavarmuutta erilaisten järjestelmäkehotteiden yhteydessä, mikä tukee määriteltyä roolia, sävyä ja keskusteluehtoja.\n\nPerhe tukee yli 29 kieltä, muun muassa englantia, kiinaa, venäjää, ranskaa, espanjaa, portugalia, saksaa, italiaa, japania, koreaa, vietnamia, thaita ja arabiaa. Erota monikielisessä tehtävässä lähdekieli vaaditusta tulostuskielestä ja anna termiluettelo, kun nimet tai tekniset termit on pidettävä johdonmukaisina. Kaksikieliseen raporttiin voidaan pyytää samat lähdefaktat kahtena versiona tunnisteita ja yksiköitä muuttamatta.\n\nTämän version mallitiedot\n\n32B-Instruct-julkaisussa on 32,5 miljardia parametria, joista 31,0 miljardia on upotusten ulkopuolisia parametreja, sekä 64 Transformer-kerrosta. Se käyttää kiertäviä sijaintiupotuksia, SwiGLU:ta, RMSNormia ja attention QKV -bias-termiä. Ryhmitelty kyselyhuomio käyttää 40 kyselypäätä ja 8 avain/arvo-päätä. Kyseessä on tiheä, vain dekooderista koostuva kielimallijulkaisu, joka on esi- ja jälkikoulutettu; Instruct tarkoittaa keskusteluun koulutettua versiota perusmallin sijaan.\n\nMallikortti ilmoittaa täydeksi kontekstiksi 131 072 tokenia ja generoinnin enimmäispituudeksi 8 192 tokenia. Luvut kuvaavat tehtävän eri osia: konteksti säilyttää kehotteen ja keskustelun, kun taas generointiluku rajaa kirjoitettua vastausta. Pika-aloitusohjeen 512 tuotettua tokenia on vain esimerkki tämän suuremman ilmoitetun generointirajan sisällä. Malli ottaa vastaan ja palauttaa tekstiä; skannatun taulukon tai kuvakaappauksen sisältö on annettava tekstinä tai käsiteltävä erillisellä visuaalisella mallilla.\n\nKeskustelu ja työkalut\n\nMallikortti näyttää erilliset järjestelmä- ja käyttäjäviestit, jotka muotoillaan malliin kuuluvalla keskustelumallineella. Sijoita avustajan pysyvät vastaussäännöt oikeaan keskustelurooliin ja varsinainen asiakirja, taulukko tai koodi käyttäjän tehtävän yhteyteen. Merkitse lainatun lähdeaineiston ja ohjeiden välinen raja, ettei asiakirjan sisällä esiintyvää ohjetta sekoiteta sovelluksen tarkoittamaan tehtävään.\n\nPerheen virallinen julkistus dokumentoi työkalukutsujen tuen yhteensopivien keskustelumallineiden ja mallia palvelevien integraatioiden kautta. Tällaisessa työnkulussa sovellus antaa funktioiden kuvaukset, vastaanottaa ehdotetun kutsun, suorittaa funktion ja palauttaa sen tuloksen. Näin tekstikysymys voidaan yhdistää laskutoimitukseen tai tiedonhakuun, mutta pelkkä tämän mallin valinta ei tarjoa ulkoista työkalua tai sen tietoja. JSONin tuottaminen ja työkalukutsu ovat myös eri tuloksia: toinen muotoilee tekstiä, toinen pyytää ympäröivää sovellusta suorittamaan nimetyn toiminnon.\n\nPitkän kontekstin valmistelu\n\nJulkaistut asetukset alkavat 32 768 tokenista. Tätä asetusta pidemmät syötteet vaativat dokumentoidun YaRN-laajennuksen, jonka esimerkissä kerroin on 4.0 ja alkuperäinen enimmäissijaintiasetus 32 768. Valmistaja varoittaa, että staattinen skaalaus voi vaikuttaa lyhyempien tekstien käsittelyyn, ja suosittelee sen käyttöönottoa silloin, kun pitkän kontekstin käsittelyä tarvitaan.\n\nKun vertaat laajoja asiakirjoja, määrittele kunkin asiakirjan rooli ja pyydä yksi selvästi rajattu tuotos: vaatimusmatriisi, eroavuusluettelo tai tarkistettu osio. Pidä lähdekohdat poimittujen havaintojen vieressä ja varaa riittävästi vastaustilaa pyydetylle rakenteelle. Pitkä konteksti auttaa pitämään olennaisen aineiston yhdessä; se ei korvaa tarvetta määritellä vertailun kohdetta tai lopputuloksen käyttötapaa.", "editorialOverlay": { "copy_fields": { "practical_html": "Tekninen esimerkki englanniksi
Explain a stock table\n\nAnalyze this text table: SKU | opening units | received units | shipped units. A1 | 20 | 10 | 18. B2 | 7 | 0 | 9. Calculate closing stock for each SKU, identify any impossible negative balance and draft a short note naming the row that needs investigation. Preserve column units.A closing-stock table with row IDs and a short anomaly note supported by the source values.Recalculate opening plus received minus shipped and verify the B2 discrepancy is flagged rather than corrected.Qwen/Qwen2.5-32B-InstructQwen2.5-32B-Instruct on monikielinen tekstimalli yksityiskohtaisille ohjeille, ohjelmoinnille, matematiikalle ja rakenteiselle tiedolle. Sen 32,5 miljardin parametrin versio painottaa taulukoiden ymmärtämistä, JSON-tulosteita ja pitkiä kirjoitettuja tuloksia, ja laajennetun kontekstin asetukset on dokumentoitu.
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
Qwen2.5-32B-Instruct on yleiskäyttöisen Qwen2.5-perheen ohjeiden noudattamiseen hienosäädetty 32B-kokoluokan tekstimalli. Se yhdistää kielen ymmärtämisen ja tuottamisen ohjelmointiin ja matematiikkaan eikä ole erikseen nimetty Coder- tai Math-erikoismalli. Valmistaja korostaa erityisesti yksityiskohtaisten ohjeiden noudattamista, pitkien tekstien kirjoittamista, taulukoiden ymmärtämistä ja rakenteisen tekstin, etenkin JSONin, tuottamista. Perhe on esikoulutettu aineistolla, jonka kuvataan kattavan jopa 18 biljoonaa tokenia.
Rakenteinen tieto, pitkät vastaukset ja monikieliset tehtävät
Hyödyllisessä poimintatehtävässä annetaan lähdekatkelma ja täsmälleen ne kentät, joita sovelluksen seuraava vaihe tarvitsee. Määrittele kenttien tyypit, kopioidaanko sanamuoto vai tiivistetäänkö se ja miten puuttuva tieto esitetään. Tuotetietueeseen voidaan esimerkiksi pyytää tunniste, käyttöolosuhteet ja luettelo ratkaisemattomista kysymyksistä. Pyydä pelkkä JSON-tietue, kun se on jäsennettävä, tai erillinen selitys, kun ihmisen on voitava tarkastaa poimittujen kenttien perustelut.
Taulukoiden ymmärtäminen on toinen dokumentoitu painopiste. Anna kysymyksen mukana sarakkeiden nimet, yksiköt ja olennaiset rivit. Pyydä mallia tunnistamaan ehdon täyttävät rivit, selittämään jaksojen välinen muutos tai muuntamaan taulukko kirjalliseksi raportiksi. Käytännöllinen tuloste voi säilyttää kunkin rivin tunnisteen havainnon vieressä. Näin annettu tieto ja vastaus pysyvät yhteydessä toisiinsa sen sijaan, että syntyisi yhteenveto, jonka lähderiviä ei voi jäljittää.
Nimeä pitkää tekstiä varten yleisö, osiot ja lähdefaktat ennen asiakirjan pyytämistä. Tekninen ehdotus voi edellyttää ongelman kuvausta, vaatimuksia, vaihtoehtoja ja suositusta, jotka perustuvat vain annettuun aineistoon. Täsmennä, mitkä ehdot ovat pakollisia ja mitkä kysymyksiä, jotka on ratkaistava. Valmistaja kehittää myös toimintavarmuutta erilaisten järjestelmäkehotteiden yhteydessä, mikä tukee määriteltyä roolia, sävyä ja keskusteluehtoja.
Perhe tukee yli 29 kieltä, muun muassa englantia, kiinaa, venäjää, ranskaa, espanjaa, portugalia, saksaa, italiaa, japania, koreaa, vietnamia, thaita ja arabiaa. Erota monikielisessä tehtävässä lähdekieli vaaditusta tulostuskielestä ja anna termiluettelo, kun nimet tai tekniset termit on pidettävä johdonmukaisina. Kaksikieliseen raporttiin voidaan pyytää samat lähdefaktat kahtena versiona tunnisteita ja yksiköitä muuttamatta.
Tämän version mallitiedot
32B-Instruct-julkaisussa on 32,5 miljardia parametria, joista 31,0 miljardia on upotusten ulkopuolisia parametreja, sekä 64 Transformer-kerrosta. Se käyttää kiertäviä sijaintiupotuksia, SwiGLU:ta, RMSNormia ja attention QKV -bias-termiä. Ryhmitelty kyselyhuomio käyttää 40 kyselypäätä ja 8 avain/arvo-päätä. Kyseessä on tiheä, vain dekooderista koostuva kielimallijulkaisu, joka on esi- ja jälkikoulutettu; Instruct tarkoittaa keskusteluun koulutettua versiota perusmallin sijaan.
Mallikortti ilmoittaa täydeksi kontekstiksi 131 072 tokenia ja generoinnin enimmäispituudeksi 8 192 tokenia. Luvut kuvaavat tehtävän eri osia: konteksti säilyttää kehotteen ja keskustelun, kun taas generointiluku rajaa kirjoitettua vastausta. Pika-aloitusohjeen 512 tuotettua tokenia on vain esimerkki tämän suuremman ilmoitetun generointirajan sisällä. Malli ottaa vastaan ja palauttaa tekstiä; skannatun taulukon tai kuvakaappauksen sisältö on annettava tekstinä tai käsiteltävä erillisellä visuaalisella mallilla.
Keskustelu ja työkalut
Mallikortti näyttää erilliset järjestelmä- ja käyttäjäviestit, jotka muotoillaan malliin kuuluvalla keskustelumallineella. Sijoita avustajan pysyvät vastaussäännöt oikeaan keskustelurooliin ja varsinainen asiakirja, taulukko tai koodi käyttäjän tehtävän yhteyteen. Merkitse lainatun lähdeaineiston ja ohjeiden välinen raja, ettei asiakirjan sisällä esiintyvää ohjetta sekoiteta sovelluksen tarkoittamaan tehtävään.
Perheen virallinen julkistus dokumentoi työkalukutsujen tuen yhteensopivien keskustelumallineiden ja mallia palvelevien integraatioiden kautta. Tällaisessa työnkulussa sovellus antaa funktioiden kuvaukset, vastaanottaa ehdotetun kutsun, suorittaa funktion ja palauttaa sen tuloksen. Näin tekstikysymys voidaan yhdistää laskutoimitukseen tai tiedonhakuun, mutta pelkkä tämän mallin valinta ei tarjoa ulkoista työkalua tai sen tietoja. JSONin tuottaminen ja työkalukutsu ovat myös eri tuloksia: toinen muotoilee tekstiä, toinen pyytää ympäröivää sovellusta suorittamaan nimetyn toiminnon.
Pitkän kontekstin valmistelu
Julkaistut asetukset alkavat 32 768 tokenista. Tätä asetusta pidemmät syötteet vaativat dokumentoidun YaRN-laajennuksen, jonka esimerkissä kerroin on 4.0 ja alkuperäinen enimmäissijaintiasetus 32 768. Valmistaja varoittaa, että staattinen skaalaus voi vaikuttaa lyhyempien tekstien käsittelyyn, ja suosittelee sen käyttöönottoa silloin, kun pitkän kontekstin käsittelyä tarvitaan.
Kun vertaat laajoja asiakirjoja, määrittele kunkin asiakirjan rooli ja pyydä yksi selvästi rajattu tuotos: vaatimusmatriisi, eroavuusluettelo tai tarkistettu osio. Pidä lähdekohdat poimittujen havaintojen vieressä ja varaa riittävästi vastaustilaa pyydetylle rakenteelle. Pitkä konteksti auttaa pitämään olennaisen aineiston yhdessä; se ei korvaa tarvetta määritellä vertailun kohdetta tai lopputuloksen käyttötapaa.
POST /v1/chat/completionstexttext| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat Qwen/Qwen2.5-32B-Instruct | Oletus— |
Kenttämessages | Tyyppimessage[] | VaatimusPakollinen | Arvot & rajat Kohteiden vähimmäismäärä: 1 | Oletus— |
Kenttämessages[].role | Tyyppistring | VaatimusPakollinen | Arvot & rajat Esimerkit: system, user, assistant, tool, function Ehdot: Nämä roolit esitetään nimenomaisesti lähdekoodin yhteensopivuustyypeissä; mallin täsmällinen roolijoukko pysyy mallikohtaisena. Riippuu mallista | Oletus— |
Kenttämessages[].content | Tyyppistring|content_part[]|null | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttämessages[].tool_calls | Tyyppitool_call[] | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttämessages[].tool_call_id | Tyyppistring | VaatimusValinnainen | Arvot & rajat Sovelletaan, kun: role=tool; käytä todella palautettua ID:tä | Oletus— |
Kenttämessages[].name | Tyyppistring | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttämessages[].reasoning_content | Tyyppistring | VaatimusValinnainen | Arvot & rajat Sovelletaan, kun: Palauta todella saatu päättely takaisin mallille, kun kyseinen malli käyttää sitä | Oletus— |
Kenttämessages[].reasoning_details | Tyyppiobject|array | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttämax_tokens | Tyyppiinteger | VaatimusValinnainen | Arvot & rajat Vähimmäismäärä: 1 Riippuu mallista | Oletus— |
Kenttämax_completion_tokens | Tyyppiinteger | VaatimusValinnainen | Arvot & rajat Vähimmäismäärä: 1 Riippuu mallista | Oletus— |
Kenttästream | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat | Oletusfalse |
Kenttästream_options.include_usage | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttätemperature | Tyyppinumber | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttätop_p | Tyyppinumber | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttästop | Tyyppistring|string[] | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttätools | Tyyppifunction_tool[] | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttätools[].type | Tyyppistring | VaatimusValinnainen | Arvot & rajat function Riippuu mallista | Oletus— |
Kenttätools[].function.name | Tyyppistring | VaatimusPakollinen | Arvot & rajat Sovelletaan, kun: funktiotyökalu annettu | Oletus— |
Kenttätools[].function.description | Tyyppistring | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttätools[].function.parameters | TyyppiJSON_schema | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttätool_choice | Tyyppistring|object | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäparallel_tool_calls | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäresponse_format | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäreasoning_effort | Tyyppistring | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäreasoning | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäservice_tier | Tyyppistring | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäinstructions | Tyyppistring | VaatimusValinnainen | Arvot & rajat Yhteensopivuuskenttä | Oletus— |
Kenttäfunctions | Tyyppifunction[] | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäfunction_call | Tyyppistring|object | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttäprompt_cache_options | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttämodalities | Tyyppistring[] | VaatimusValinnainen | Arvot & rajat text | Oletus— |
Kenttäprovider | Tyyppiobject | VaatimusValinnainen | Arvot & rajat Ehdot: provider.options hylätään tällä Ultran tekstireitillä | Oletus— |
Kenttäcache_control.ttl | Tyyppistring | VaatimusValinnainen | Arvot & rajat Ehdot: 1h hylätään varsinaisissa kehotevälimuistin kohdissa | Oletus— |
Teksti · UTF8-teksti
messages[].content
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, messages |
Parametrimaterial_types | Sopimustext |
Parametrimessages | Sopimusviestitaulukko role/content-rakenteella |
Parametrifile_material | Sopimusvarsinainen UTF-8-asiakirja lisätään sellaisenaan tekstinä; tiedoston ID:tä ei päätellä |
Parametrioptional_controls | Sopimusstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametricontrol_scope | Sopimusmallikohtainen; käyttäjän funktiotyökalut eroavat palvelun isännöimistä työkaluista |
Parametrioutput_modalities | Sopimustext |
Parametrihosted_operations | Sopimusfalse |
Parametrimultimodal_input_binding | Sopimusnull |
Elinkaari: synchronous_or_streamed
Lähetä mallin täsmällinen ID yhdessä messages-kentän kanssa.
Kontekstin pituus ei ole tuloksen yläraja.
Tekstitiedosto voi antaa tekstiä sellaisenaan; kuva-, ääni- ja tiedosto-objektisyötteet tarvitsevat täsmällisen sidonnan.
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
| Asetukset | Hinnasto | Veloitus |
|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Veloitus Syöte · Syötetokenit $0.00036 / 1K tokenia Tuloste · Tulostokenit $0.00036 / 1K tokenia Syöte · Välimuistin luku $0 / 1K tokenia Syöte · Välimuistiin kirjoitus $0 / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "Qwen/Qwen2.5-32B-Instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='Qwen/Qwen2.5-32B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='Qwen/Qwen2.5-32B-Instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson tai SSE
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä jokainen vastausvaihtoehto sisältöineen, työkalukutsuineen ja päättelyineen. Kokoa SSE:ssä muutokset vastausvaihtoehdon ja työkalun indeksin mukaan ja säilytä lopullinen päättymissyy sekä käyttötiedot.
Säilytä pyyntöjen/vastausten ID:t ja otsakkeet. Yleistä tekstityön haku-URL:ää ei anneta.
| Kenttä | Tyyppi |
|---|---|
Kenttächoices[].index | Tyyppiinteger |
Kenttächoices[].message.content | Tyyppistring|null |
Kenttächoices[].message.tool_calls | Tyyppitool_call[] |
Kenttächoices[].message.reasoning_content | Tyyppistring |
Kenttächoices[].message.reasoning_details | Tyyppiobject|array |
Kenttächoices[].finish_reason | Tyyppistring|null |
Kenttäusage | Tyyppiobject |
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
Qwen/Qwen2.5-32B-InstructQwen2.5-32B-Instruct on monikielinen tekstimalli yksityiskohtaisille ohjeille, ohjelmoinnille, matematiikalle ja rakenteiselle tiedolle. Sen 32,5 miljardin parametrin versio painottaa taulukoiden ymmärtämistä, JSON-tulosteita ja pitkiä kirjoitettuja tuloksia, ja laajennetun kontekstin asetukset on dokumentoitu.
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
Qwen2.5-32B-Instruct on yleiskäyttöisen Qwen2.5-perheen ohjeiden noudattamiseen hienosäädetty 32B-kokoluokan tekstimalli. Se yhdistää kielen ymmärtämisen ja tuottamisen ohjelmointiin ja matematiikkaan eikä ole erikseen nimetty Coder- tai Math-erikoismalli. Valmistaja korostaa erityisesti yksityiskohtaisten ohjeiden noudattamista, pitkien tekstien kirjoittamista, taulukoiden ymmärtämistä ja rakenteisen tekstin, etenkin JSONin, tuottamista. Perhe on esikoulutettu aineistolla, jonka kuvataan kattavan jopa 18 biljoonaa tokenia.
Rakenteinen tieto, pitkät vastaukset ja monikieliset tehtävät
Hyödyllisessä poimintatehtävässä annetaan lähdekatkelma ja täsmälleen ne kentät, joita sovelluksen seuraava vaihe tarvitsee. Määrittele kenttien tyypit, kopioidaanko sanamuoto vai tiivistetäänkö se ja miten puuttuva tieto esitetään. Tuotetietueeseen voidaan esimerkiksi pyytää tunniste, käyttöolosuhteet ja luettelo ratkaisemattomista kysymyksistä. Pyydä pelkkä JSON-tietue, kun se on jäsennettävä, tai erillinen selitys, kun ihmisen on voitava tarkastaa poimittujen kenttien perustelut.
Taulukoiden ymmärtäminen on toinen dokumentoitu painopiste. Anna kysymyksen mukana sarakkeiden nimet, yksiköt ja olennaiset rivit. Pyydä mallia tunnistamaan ehdon täyttävät rivit, selittämään jaksojen välinen muutos tai muuntamaan taulukko kirjalliseksi raportiksi. Käytännöllinen tuloste voi säilyttää kunkin rivin tunnisteen havainnon vieressä. Näin annettu tieto ja vastaus pysyvät yhteydessä toisiinsa sen sijaan, että syntyisi yhteenveto, jonka lähderiviä ei voi jäljittää.
Nimeä pitkää tekstiä varten yleisö, osiot ja lähdefaktat ennen asiakirjan pyytämistä. Tekninen ehdotus voi edellyttää ongelman kuvausta, vaatimuksia, vaihtoehtoja ja suositusta, jotka perustuvat vain annettuun aineistoon. Täsmennä, mitkä ehdot ovat pakollisia ja mitkä kysymyksiä, jotka on ratkaistava. Valmistaja kehittää myös toimintavarmuutta erilaisten järjestelmäkehotteiden yhteydessä, mikä tukee määriteltyä roolia, sävyä ja keskusteluehtoja.
Perhe tukee yli 29 kieltä, muun muassa englantia, kiinaa, venäjää, ranskaa, espanjaa, portugalia, saksaa, italiaa, japania, koreaa, vietnamia, thaita ja arabiaa. Erota monikielisessä tehtävässä lähdekieli vaaditusta tulostuskielestä ja anna termiluettelo, kun nimet tai tekniset termit on pidettävä johdonmukaisina. Kaksikieliseen raporttiin voidaan pyytää samat lähdefaktat kahtena versiona tunnisteita ja yksiköitä muuttamatta.
Tämän version mallitiedot
32B-Instruct-julkaisussa on 32,5 miljardia parametria, joista 31,0 miljardia on upotusten ulkopuolisia parametreja, sekä 64 Transformer-kerrosta. Se käyttää kiertäviä sijaintiupotuksia, SwiGLU:ta, RMSNormia ja attention QKV -bias-termiä. Ryhmitelty kyselyhuomio käyttää 40 kyselypäätä ja 8 avain/arvo-päätä. Kyseessä on tiheä, vain dekooderista koostuva kielimallijulkaisu, joka on esi- ja jälkikoulutettu; Instruct tarkoittaa keskusteluun koulutettua versiota perusmallin sijaan.
Mallikortti ilmoittaa täydeksi kontekstiksi 131 072 tokenia ja generoinnin enimmäispituudeksi 8 192 tokenia. Luvut kuvaavat tehtävän eri osia: konteksti säilyttää kehotteen ja keskustelun, kun taas generointiluku rajaa kirjoitettua vastausta. Pika-aloitusohjeen 512 tuotettua tokenia on vain esimerkki tämän suuremman ilmoitetun generointirajan sisällä. Malli ottaa vastaan ja palauttaa tekstiä; skannatun taulukon tai kuvakaappauksen sisältö on annettava tekstinä tai käsiteltävä erillisellä visuaalisella mallilla.
Keskustelu ja työkalut
Mallikortti näyttää erilliset järjestelmä- ja käyttäjäviestit, jotka muotoillaan malliin kuuluvalla keskustelumallineella. Sijoita avustajan pysyvät vastaussäännöt oikeaan keskustelurooliin ja varsinainen asiakirja, taulukko tai koodi käyttäjän tehtävän yhteyteen. Merkitse lainatun lähdeaineiston ja ohjeiden välinen raja, ettei asiakirjan sisällä esiintyvää ohjetta sekoiteta sovelluksen tarkoittamaan tehtävään.
Perheen virallinen julkistus dokumentoi työkalukutsujen tuen yhteensopivien keskustelumallineiden ja mallia palvelevien integraatioiden kautta. Tällaisessa työnkulussa sovellus antaa funktioiden kuvaukset, vastaanottaa ehdotetun kutsun, suorittaa funktion ja palauttaa sen tuloksen. Näin tekstikysymys voidaan yhdistää laskutoimitukseen tai tiedonhakuun, mutta pelkkä tämän mallin valinta ei tarjoa ulkoista työkalua tai sen tietoja. JSONin tuottaminen ja työkalukutsu ovat myös eri tuloksia: toinen muotoilee tekstiä, toinen pyytää ympäröivää sovellusta suorittamaan nimetyn toiminnon.
Pitkän kontekstin valmistelu
Julkaistut asetukset alkavat 32 768 tokenista. Tätä asetusta pidemmät syötteet vaativat dokumentoidun YaRN-laajennuksen, jonka esimerkissä kerroin on 4.0 ja alkuperäinen enimmäissijaintiasetus 32 768. Valmistaja varoittaa, että staattinen skaalaus voi vaikuttaa lyhyempien tekstien käsittelyyn, ja suosittelee sen käyttöönottoa silloin, kun pitkän kontekstin käsittelyä tarvitaan.
Kun vertaat laajoja asiakirjoja, määrittele kunkin asiakirjan rooli ja pyydä yksi selvästi rajattu tuotos: vaatimusmatriisi, eroavuusluettelo tai tarkistettu osio. Pidä lähdekohdat poimittujen havaintojen vieressä ja varaa riittävästi vastaustilaa pyydetylle rakenteelle. Pitkä konteksti auttaa pitämään olennaisen aineiston yhdessä; se ei korvaa tarvetta määritellä vertailun kohdetta tai lopputuloksen käyttötapaa.
POST /v1/messagestextjson, sse| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat Qwen/Qwen2.5-32B-Instruct | Oletus— |
Kenttämessages | Tyyppimessage[] | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttämessages[].role | Tyyppistring | VaatimusPakollinen | Arvot & rajat user, assistant | Oletus— |
Kenttämessages[].content | Tyyppistring | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttämax_tokens | Tyyppiinteger | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttästream | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat | Oletusfalse |
Teksti · UTF-8-teksti
messages[].content-merkkijono
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, messages, max_tokens |
Parametrioptional_controls | Sopimusstream |
Parametrimaterial_types | Sopimustext |
Parametritext_file_material | SopimusLue varsinainen UTF-8-asiakirja ja sijoita sen teksti ilmoitettuun syöte- tai viestisisällön merkkijonoon. |
Elinkaari: synchronous_or_streamed
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
| Asetukset | Hinnasto | Veloitus |
|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Veloitus Syöte · Syötetokenit $0.00036 / 1K tokenia Tuloste · Tulostokenit $0.00036 / 1K tokenia Syöte · Välimuistin luku $0 / 1K tokenia Syöte · Välimuistiin kirjoitus $0 / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
{\n "model": "Qwen/Qwen2.5-32B-Instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-32B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Qwen/Qwen2.5-32B-Instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON tai SSE
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä kaikki sisältölohkot, päättelyallekirjoitukset ja todelliset työkalukäytön ID:t. Kokoa kaikki SSE-lohkomuutokset; ensimmäinen tekstilohko ei ole koko tulos.
Säilytä pyyntöjen/vastausten ID:t ja otsakkeet. Yleistä tekstityön haku-URL:ää ei anneta.
| Kenttä | Tyyppi |
|---|---|
Kenttäid | Tyyppistring |
Kenttämodel | Tyyppistring |
Kenttäcontent[] | Tyyppitext|thinking|tool_use|other content block |
Kenttästop_reason | Tyyppistring|null |
Kenttäusage | Tyyppiobject |
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
qwen2.5-32b-instructQwen2.5-32B-Instruct on monikielinen tekstimalli yksityiskohtaisille ohjeille, ohjelmoinnille, matematiikalle ja rakenteiselle tiedolle. Sen 32,5 miljardin parametrin versio painottaa taulukoiden ymmärtämistä, JSON-tulosteita ja pitkiä kirjoitettuja tuloksia, ja laajennetun kontekstin asetukset on dokumentoitu.
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
Qwen2.5-32B-Instruct on yleiskäyttöisen Qwen2.5-perheen ohjeiden noudattamiseen hienosäädetty 32B-kokoluokan tekstimalli. Se yhdistää kielen ymmärtämisen ja tuottamisen ohjelmointiin ja matematiikkaan eikä ole erikseen nimetty Coder- tai Math-erikoismalli. Valmistaja korostaa erityisesti yksityiskohtaisten ohjeiden noudattamista, pitkien tekstien kirjoittamista, taulukoiden ymmärtämistä ja rakenteisen tekstin, etenkin JSONin, tuottamista. Perhe on esikoulutettu aineistolla, jonka kuvataan kattavan jopa 18 biljoonaa tokenia.
Rakenteinen tieto, pitkät vastaukset ja monikieliset tehtävät
Hyödyllisessä poimintatehtävässä annetaan lähdekatkelma ja täsmälleen ne kentät, joita sovelluksen seuraava vaihe tarvitsee. Määrittele kenttien tyypit, kopioidaanko sanamuoto vai tiivistetäänkö se ja miten puuttuva tieto esitetään. Tuotetietueeseen voidaan esimerkiksi pyytää tunniste, käyttöolosuhteet ja luettelo ratkaisemattomista kysymyksistä. Pyydä pelkkä JSON-tietue, kun se on jäsennettävä, tai erillinen selitys, kun ihmisen on voitava tarkastaa poimittujen kenttien perustelut.
Taulukoiden ymmärtäminen on toinen dokumentoitu painopiste. Anna kysymyksen mukana sarakkeiden nimet, yksiköt ja olennaiset rivit. Pyydä mallia tunnistamaan ehdon täyttävät rivit, selittämään jaksojen välinen muutos tai muuntamaan taulukko kirjalliseksi raportiksi. Käytännöllinen tuloste voi säilyttää kunkin rivin tunnisteen havainnon vieressä. Näin annettu tieto ja vastaus pysyvät yhteydessä toisiinsa sen sijaan, että syntyisi yhteenveto, jonka lähderiviä ei voi jäljittää.
Nimeä pitkää tekstiä varten yleisö, osiot ja lähdefaktat ennen asiakirjan pyytämistä. Tekninen ehdotus voi edellyttää ongelman kuvausta, vaatimuksia, vaihtoehtoja ja suositusta, jotka perustuvat vain annettuun aineistoon. Täsmennä, mitkä ehdot ovat pakollisia ja mitkä kysymyksiä, jotka on ratkaistava. Valmistaja kehittää myös toimintavarmuutta erilaisten järjestelmäkehotteiden yhteydessä, mikä tukee määriteltyä roolia, sävyä ja keskusteluehtoja.
Perhe tukee yli 29 kieltä, muun muassa englantia, kiinaa, venäjää, ranskaa, espanjaa, portugalia, saksaa, italiaa, japania, koreaa, vietnamia, thaita ja arabiaa. Erota monikielisessä tehtävässä lähdekieli vaaditusta tulostuskielestä ja anna termiluettelo, kun nimet tai tekniset termit on pidettävä johdonmukaisina. Kaksikieliseen raporttiin voidaan pyytää samat lähdefaktat kahtena versiona tunnisteita ja yksiköitä muuttamatta.
Tämän version mallitiedot
32B-Instruct-julkaisussa on 32,5 miljardia parametria, joista 31,0 miljardia on upotusten ulkopuolisia parametreja, sekä 64 Transformer-kerrosta. Se käyttää kiertäviä sijaintiupotuksia, SwiGLU:ta, RMSNormia ja attention QKV -bias-termiä. Ryhmitelty kyselyhuomio käyttää 40 kyselypäätä ja 8 avain/arvo-päätä. Kyseessä on tiheä, vain dekooderista koostuva kielimallijulkaisu, joka on esi- ja jälkikoulutettu; Instruct tarkoittaa keskusteluun koulutettua versiota perusmallin sijaan.
Mallikortti ilmoittaa täydeksi kontekstiksi 131 072 tokenia ja generoinnin enimmäispituudeksi 8 192 tokenia. Luvut kuvaavat tehtävän eri osia: konteksti säilyttää kehotteen ja keskustelun, kun taas generointiluku rajaa kirjoitettua vastausta. Pika-aloitusohjeen 512 tuotettua tokenia on vain esimerkki tämän suuremman ilmoitetun generointirajan sisällä. Malli ottaa vastaan ja palauttaa tekstiä; skannatun taulukon tai kuvakaappauksen sisältö on annettava tekstinä tai käsiteltävä erillisellä visuaalisella mallilla.
Keskustelu ja työkalut
Mallikortti näyttää erilliset järjestelmä- ja käyttäjäviestit, jotka muotoillaan malliin kuuluvalla keskustelumallineella. Sijoita avustajan pysyvät vastaussäännöt oikeaan keskustelurooliin ja varsinainen asiakirja, taulukko tai koodi käyttäjän tehtävän yhteyteen. Merkitse lainatun lähdeaineiston ja ohjeiden välinen raja, ettei asiakirjan sisällä esiintyvää ohjetta sekoiteta sovelluksen tarkoittamaan tehtävään.
Perheen virallinen julkistus dokumentoi työkalukutsujen tuen yhteensopivien keskustelumallineiden ja mallia palvelevien integraatioiden kautta. Tällaisessa työnkulussa sovellus antaa funktioiden kuvaukset, vastaanottaa ehdotetun kutsun, suorittaa funktion ja palauttaa sen tuloksen. Näin tekstikysymys voidaan yhdistää laskutoimitukseen tai tiedonhakuun, mutta pelkkä tämän mallin valinta ei tarjoa ulkoista työkalua tai sen tietoja. JSONin tuottaminen ja työkalukutsu ovat myös eri tuloksia: toinen muotoilee tekstiä, toinen pyytää ympäröivää sovellusta suorittamaan nimetyn toiminnon.
Pitkän kontekstin valmistelu
Julkaistut asetukset alkavat 32 768 tokenista. Tätä asetusta pidemmät syötteet vaativat dokumentoidun YaRN-laajennuksen, jonka esimerkissä kerroin on 4.0 ja alkuperäinen enimmäissijaintiasetus 32 768. Valmistaja varoittaa, että staattinen skaalaus voi vaikuttaa lyhyempien tekstien käsittelyyn, ja suosittelee sen käyttöönottoa silloin, kun pitkän kontekstin käsittelyä tarvitaan.
Kun vertaat laajoja asiakirjoja, määrittele kunkin asiakirjan rooli ja pyydä yksi selvästi rajattu tuotos: vaatimusmatriisi, eroavuusluettelo tai tarkistettu osio. Pidä lähdekohdat poimittujen havaintojen vieressä ja varaa riittävästi vastaustilaa pyydetylle rakenteelle. Pitkä konteksti auttaa pitämään olennaisen aineiston yhdessä; se ei korvaa tarvetta määritellä vertailun kohdetta tai lopputuloksen käyttötapaa.
POST /v1/chat/completionstexttext| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat qwen2.5-32b-instruct | Oletus— |
Kenttämessages | Tyyppimessage[] | VaatimusPakollinen | Arvot & rajat Kohteiden vähimmäismäärä: 1 | Oletus— |
Kenttämessages[].role | Tyyppistring | VaatimusPakollinen | Arvot & rajat Riippuu mallista | Oletus— |
Kenttämessages[].content | Tyyppistring | VaatimusValinnainen | Arvot & rajat Sovelletaan, kun: Tekstikeskustelu | Oletus— |
Kenttästream | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat | Oletusfalse |
Teksti · UTF8-teksti
messages[].content
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, messages |
Parametrimaterial_types | Sopimustext |
Parametrimessages | Sopimusviestitaulukko role/content-rakenteella |
Parametrifile_material | Sopimusvarsinainen UTF-8-asiakirja lisätään sellaisenaan tekstinä; tiedoston ID:tä ei päätellä |
Parametrioptional_controls | Sopimusstream |
Parametricontrol_scope | SopimusTekstikeskustelu; stream on totuusarvo, jonka oletus on false. |
Parametrioutput_modalities | Sopimustext |
Parametrihosted_operations | Sopimusfalse |
Parametrimultimodal_input_binding | Sopimusnull |
Menetelmien aliakset: /chat/completions
Elinkaari: synchronous_or_streamed
Lähetä mallin täsmällinen ID yhdessä messages-kentän kanssa.
Kontekstin pituus ei ole tuloksen yläraja.
Tekstitiedosto voi antaa tekstiä sellaisenaan; kuva-, ääni- ja tiedosto-objektisyötteet tarvitsevat täsmällisen sidonnan.
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
| Asetukset | Hinnasto | Veloitus |
|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Veloitus Syöte · Syötetokenit $0.00036 / 1K tokenia Tuloste · Tulostokenit $0.00036 / 1K tokenia Syöte · Välimuistin luku $0 / 1K tokenia Syöte · Välimuistiin kirjoitus $0 / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model":"qwen2.5-32b-instruct","messages":[{"role":"user","content":"hello"}],"stream":false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model="qwen2.5-32b-instruct", messages=[{"role":"user","content":"hello"}], stream=False)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\njson tai SSE
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä jokainen vastausvaihtoehto sisältöineen, työkalukutsuineen ja päättelyineen. Kokoa SSE:ssä muutokset vastausvaihtoehdon ja työkalun indeksin mukaan ja säilytä lopullinen päättymissyy sekä käyttötiedot.
Säilytä pyyntöjen/vastausten ID:t ja otsakkeet. Yleistä tekstityön haku-URL:ää ei anneta.
| Kenttä | Tyyppi |
|---|---|
Kenttächoices[].index | Tyyppiinteger |
Kenttächoices[].message.content | Tyyppistring|null |
Kenttächoices[].message.tool_calls | Tyyppitool_call[] |
Kenttächoices[].message.reasoning_content | Tyyppistring |
Kenttächoices[].message.reasoning_details | Tyyppiobject|array |
Kenttächoices[].finish_reason | Tyyppistring|null |
Kenttäusage | Tyyppiobject |
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
qwen2.5-32b-instructQwen2.5-32B-Instruct on monikielinen tekstimalli yksityiskohtaisille ohjeille, ohjelmoinnille, matematiikalle ja rakenteiselle tiedolle. Sen 32,5 miljardin parametrin versio painottaa taulukoiden ymmärtämistä, JSON-tulosteita ja pitkiä kirjoitettuja tuloksia, ja laajennetun kontekstin asetukset on dokumentoitu.
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
Qwen2.5-32B-Instruct on yleiskäyttöisen Qwen2.5-perheen ohjeiden noudattamiseen hienosäädetty 32B-kokoluokan tekstimalli. Se yhdistää kielen ymmärtämisen ja tuottamisen ohjelmointiin ja matematiikkaan eikä ole erikseen nimetty Coder- tai Math-erikoismalli. Valmistaja korostaa erityisesti yksityiskohtaisten ohjeiden noudattamista, pitkien tekstien kirjoittamista, taulukoiden ymmärtämistä ja rakenteisen tekstin, etenkin JSONin, tuottamista. Perhe on esikoulutettu aineistolla, jonka kuvataan kattavan jopa 18 biljoonaa tokenia.
Rakenteinen tieto, pitkät vastaukset ja monikieliset tehtävät
Hyödyllisessä poimintatehtävässä annetaan lähdekatkelma ja täsmälleen ne kentät, joita sovelluksen seuraava vaihe tarvitsee. Määrittele kenttien tyypit, kopioidaanko sanamuoto vai tiivistetäänkö se ja miten puuttuva tieto esitetään. Tuotetietueeseen voidaan esimerkiksi pyytää tunniste, käyttöolosuhteet ja luettelo ratkaisemattomista kysymyksistä. Pyydä pelkkä JSON-tietue, kun se on jäsennettävä, tai erillinen selitys, kun ihmisen on voitava tarkastaa poimittujen kenttien perustelut.
Taulukoiden ymmärtäminen on toinen dokumentoitu painopiste. Anna kysymyksen mukana sarakkeiden nimet, yksiköt ja olennaiset rivit. Pyydä mallia tunnistamaan ehdon täyttävät rivit, selittämään jaksojen välinen muutos tai muuntamaan taulukko kirjalliseksi raportiksi. Käytännöllinen tuloste voi säilyttää kunkin rivin tunnisteen havainnon vieressä. Näin annettu tieto ja vastaus pysyvät yhteydessä toisiinsa sen sijaan, että syntyisi yhteenveto, jonka lähderiviä ei voi jäljittää.
Nimeä pitkää tekstiä varten yleisö, osiot ja lähdefaktat ennen asiakirjan pyytämistä. Tekninen ehdotus voi edellyttää ongelman kuvausta, vaatimuksia, vaihtoehtoja ja suositusta, jotka perustuvat vain annettuun aineistoon. Täsmennä, mitkä ehdot ovat pakollisia ja mitkä kysymyksiä, jotka on ratkaistava. Valmistaja kehittää myös toimintavarmuutta erilaisten järjestelmäkehotteiden yhteydessä, mikä tukee määriteltyä roolia, sävyä ja keskusteluehtoja.
Perhe tukee yli 29 kieltä, muun muassa englantia, kiinaa, venäjää, ranskaa, espanjaa, portugalia, saksaa, italiaa, japania, koreaa, vietnamia, thaita ja arabiaa. Erota monikielisessä tehtävässä lähdekieli vaaditusta tulostuskielestä ja anna termiluettelo, kun nimet tai tekniset termit on pidettävä johdonmukaisina. Kaksikieliseen raporttiin voidaan pyytää samat lähdefaktat kahtena versiona tunnisteita ja yksiköitä muuttamatta.
Tämän version mallitiedot
32B-Instruct-julkaisussa on 32,5 miljardia parametria, joista 31,0 miljardia on upotusten ulkopuolisia parametreja, sekä 64 Transformer-kerrosta. Se käyttää kiertäviä sijaintiupotuksia, SwiGLU:ta, RMSNormia ja attention QKV -bias-termiä. Ryhmitelty kyselyhuomio käyttää 40 kyselypäätä ja 8 avain/arvo-päätä. Kyseessä on tiheä, vain dekooderista koostuva kielimallijulkaisu, joka on esi- ja jälkikoulutettu; Instruct tarkoittaa keskusteluun koulutettua versiota perusmallin sijaan.
Mallikortti ilmoittaa täydeksi kontekstiksi 131 072 tokenia ja generoinnin enimmäispituudeksi 8 192 tokenia. Luvut kuvaavat tehtävän eri osia: konteksti säilyttää kehotteen ja keskustelun, kun taas generointiluku rajaa kirjoitettua vastausta. Pika-aloitusohjeen 512 tuotettua tokenia on vain esimerkki tämän suuremman ilmoitetun generointirajan sisällä. Malli ottaa vastaan ja palauttaa tekstiä; skannatun taulukon tai kuvakaappauksen sisältö on annettava tekstinä tai käsiteltävä erillisellä visuaalisella mallilla.
Keskustelu ja työkalut
Mallikortti näyttää erilliset järjestelmä- ja käyttäjäviestit, jotka muotoillaan malliin kuuluvalla keskustelumallineella. Sijoita avustajan pysyvät vastaussäännöt oikeaan keskustelurooliin ja varsinainen asiakirja, taulukko tai koodi käyttäjän tehtävän yhteyteen. Merkitse lainatun lähdeaineiston ja ohjeiden välinen raja, ettei asiakirjan sisällä esiintyvää ohjetta sekoiteta sovelluksen tarkoittamaan tehtävään.
Perheen virallinen julkistus dokumentoi työkalukutsujen tuen yhteensopivien keskustelumallineiden ja mallia palvelevien integraatioiden kautta. Tällaisessa työnkulussa sovellus antaa funktioiden kuvaukset, vastaanottaa ehdotetun kutsun, suorittaa funktion ja palauttaa sen tuloksen. Näin tekstikysymys voidaan yhdistää laskutoimitukseen tai tiedonhakuun, mutta pelkkä tämän mallin valinta ei tarjoa ulkoista työkalua tai sen tietoja. JSONin tuottaminen ja työkalukutsu ovat myös eri tuloksia: toinen muotoilee tekstiä, toinen pyytää ympäröivää sovellusta suorittamaan nimetyn toiminnon.
Pitkän kontekstin valmistelu
Julkaistut asetukset alkavat 32 768 tokenista. Tätä asetusta pidemmät syötteet vaativat dokumentoidun YaRN-laajennuksen, jonka esimerkissä kerroin on 4.0 ja alkuperäinen enimmäissijaintiasetus 32 768. Valmistaja varoittaa, että staattinen skaalaus voi vaikuttaa lyhyempien tekstien käsittelyyn, ja suosittelee sen käyttöönottoa silloin, kun pitkän kontekstin käsittelyä tarvitaan.
Kun vertaat laajoja asiakirjoja, määrittele kunkin asiakirjan rooli ja pyydä yksi selvästi rajattu tuotos: vaatimusmatriisi, eroavuusluettelo tai tarkistettu osio. Pidä lähdekohdat poimittujen havaintojen vieressä ja varaa riittävästi vastaustilaa pyydetylle rakenteelle. Pitkä konteksti auttaa pitämään olennaisen aineiston yhdessä; se ei korvaa tarvetta määritellä vertailun kohdetta tai lopputuloksen käyttötapaa.
POST /v1/messagestextjson, sse| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat qwen2.5-32b-instruct | Oletus— |
Kenttämessages | Tyyppimessage[] | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttämessages[].role | Tyyppistring | VaatimusPakollinen | Arvot & rajat user, assistant | Oletus— |
Kenttämessages[].content | Tyyppistring | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttämax_tokens | Tyyppiinteger | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttästream | Tyyppiboolean | VaatimusValinnainen | Arvot & rajat | Oletusfalse |
Teksti · UTF-8-teksti
messages[].content-merkkijono
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusmodel, messages, max_tokens |
Parametrioptional_controls | Sopimusstream |
Parametrimaterial_types | Sopimustext |
Parametritext_file_material | SopimusLue varsinainen UTF-8-asiakirja ja sijoita sen teksti ilmoitettuun syöte- tai viestisisällön merkkijonoon. |
Elinkaari: synchronous_or_streamed
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
| Asetukset | Hinnasto | Veloitus |
|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Veloitus Syöte · Syötetokenit $0.00036 / 1K tokenia Tuloste · Tulostokenit $0.00036 / 1K tokenia Syöte · Välimuistin luku $0 / 1K tokenia Syöte · Välimuistiin kirjoitus $0 / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
{\n "model": "qwen2.5-32b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-32b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'qwen2.5-32b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON tai SSE
Säilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä kaikki sisältölohkot, päättelyallekirjoitukset ja todelliset työkalukäytön ID:t. Kokoa kaikki SSE-lohkomuutokset; ensimmäinen tekstilohko ei ole koko tulos.
Säilytä pyyntöjen/vastausten ID:t ja otsakkeet. Yleistä tekstityön haku-URL:ää ei anneta.
| Kenttä | Tyyppi |
|---|---|
Kenttäid | Tyyppistring |
Kenttämodel | Tyyppistring |
Kenttäcontent[] | Tyyppitext|thinking|tool_use|other content block |
Kenttästop_reason | Tyyppistring|null |
Kenttäusage | Tyyppiobject |
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoVirheelliset pakolliset kentät, aineiston esitysmuoto tai parametrin arvo | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta luontipyyntöä. |
Ailoot Ultra Qwen/Qwen2.5-32B-Instruct, qwen2.5-32b-instruct
/chat/completions
Tekninen esimerkki englanniksi
Explain a stock table\n\nAnalyze this text table: SKU | opening units | received units | shipped units. A1 | 20 | 10 | 18. B2 | 7 | 0 | 9. Calculate closing stock for each SKU, identify any impossible negative balance and draft a short note naming the row that needs investigation. Preserve column units.A closing-stock table with row IDs and a short anomaly note supported by the source values.Recalculate opening plus received minus shipped and verify the B2 discrepancy is flagged rather than corrected.