Ministral 3 8B Instruct 2512 on Mistral AI:n Ministral 3 -perheen keskikokoinen ohjeiden noudattamiseen hienosäädetty malli. Julkaistu mallipainojen versio on jälkikoulutettu keskustelu- ja ohjetehtäviin FP8-tarkkuudella. Se yhdistää kielikomponentin näköenkooderiin, vastaanottaa tekstiä ja kuvia sekä palauttaa tekstiä kuva- tai ääniartefaktin sijaan.
Arkkitehtuuri ja keskeiset ominaisuudet
Valmistaja ilmoittaa 8,4 miljardin parametrin kielimallin ja 0,4 miljardin parametrin näköenkooderin. Konteksti-ikkunaksi kuvataan 256 tuhatta tokenia, ja julkaistut käyttöohjeet käyttävät oletuksena määritettyä pituutta 262 144. Nämä koskevat tätä 8B-kokoista versiota; perheen pienemmällä 3B- ja suuremmalla 14B-mallilla on omat komponenttikokonsa ja konfiguraationsa.
Näkö laajentaa mallin syötettä kirjallisen keskustelun ulkopuolelle. Asiakirjakuvaan voidaan liittää kysymys valitusta kentästä, kappaleesta tai näkyvästä suhteesta. Kuvakaappaukseen voidaan liittää käyttäjän tavoite ja pyyntö tunnistaa olennainen ohjain. Pyydä kutakin johtopäätöstä tukeva havainto, kun vastaus riippuu visuaalisesta yksityiskohdasta, ja säilytä rajauksen tulkintaan tarvittavat otsikot, tunnisteet ja yksiköt.
Kortti kuvaa monikielistä työtä kymmenillä kielillä, kuten englanniksi, ranskaksi, espanjaksi, saksaksi, italiaksi, portugaliksi, hollanniksi, kiinaksi, japaniksi, koreaksi ja arabiaksi. Se mainitsee myös järjestelmäohjeiden noudattamisen, natiivit funktiokutsut ja JSON-tulosteen. Määritä lopullinen kieli, rooli ja tulosvaatimukset täsmällisesti sen sijaan, että jättäisit mallin päättelemään halutun artefaktin suuresta syötteestä.
Asiakirja-, keskustelu- ja agenttitehtävät
Valmistajan käyttötapauksia ovat keskusteluliittymät, arkiavustajat, kuvien ja asiakirjojen kuvailu, kääntäminen, sisällöntuotanto ja erikoistuneet agentit. Anna asiakirja-avustajalle sivu ja määritä palautettavat tiedot. Poimintapyyntö voi nimetä kenttätunnisteet, odotetut tyypit ja puuttuvien arvojen käsittelyn. Hyödyllinen vastaus voi sisältää asiakirjatunnisteen, poimitun arvon ja näkyvään lähteeseen sidotun lyhyen selityksen.
Säilytä jatkuvassa keskustelussa olennainen aiempi vastaus ja esitä kohdennettu jatkokysymys. Käyttäjä voi ensin pyytää asiakirjan yhteenvetoa ja sitten kysyä, mikä lausuma tukee yhtä johtopäätöstä. Tämä muuttaa tarvittavan tuloksen yleiskatsauksesta lähteeseen kytketyksi selitykseksi säilyttäen alkuperäisen aineiston ja keskustelun tarkoituksen.
Anna monikieliseen muokkaukseen alkuperäinen katkelma, tarkoitettu lukija ja termiluettelo. Pyydä muokattu versio, joka säilyttää nimet, ehdot ja yksiköt, sekä tarvittaessa lyhyt selitys muutoksista. Määritä sisällöntuotantoon yleisö ja sisällytettävät tosiasiat ennen lyhyen luonnoksen tai vaihtoehtoisen sanamuodon pyytämistä.
Agenttitehtävässä sovellus antaa työkalut ja niiden parametrit. Malli voi valita funktion ja valmistella argumentit, kun taas sovellus suorittaa sen ja palauttaa tuloksen. Kortin funktioesimerkki yhdistää kuvakysymyksen laskentatyökaluun. Pidä työkalutulos erillään ehdotetusta kutsusta, jotta seuraava kirjallinen vastaus käyttää toiminnon todella palauttamaa tietoa.
Suositeltu valmistelu ja asetukset
Valmistaja suosittelee järjestelmäohjetta, joka kuvaa ympäristön, käyttötapauksen ja työkalujen käyttötavan. Pidä työkalujoukko selkeästi määriteltynä ja rajattuna tehtävän vähimmäistarpeeseen. Pieni hakutyönkulku voi tarjota nykyiseen kysymykseen liittyvät funktiot selkeästi nimettyine pakollisine argumentteineen suuren irrallisten toimintojen kokoelman sijaan.
Arki- ja tuotantotyyppiseen käyttöön kortti suosittelee temperature-arvoa alle 0.1; suurempia arvoja voi käyttää luovaan kokeiluun. Käsittele tätä ohjetyönkulun suosituksena, ei erillisenä päättelytilan ohjaimena. Perheellä on erilliset Base-, Instruct- ja Reasoning-mallipainoversiot; tämä tietue on Instruct 2512 -versio, ei samankokoinen erillinen Reasoning-julkaisu.
Kuville valmistaja suosittelee kuvasuhteita lähellä 1:1:tä ja hyvin kapeiden tai leveiden syötteiden välttämistä. Rajaa tarvittaessa säilyttäen kysymyksen tarvitsemat tunnisteet ja konteksti. Jos sivulla on useita irrallisia alueita, yksilöi tarkasteltava osa ja palautettava tulos. Luettava, kohdennettu kuva on hyödyllisempi kuin pyyntö arvata, mikä laajan sivun pieni yksityiskohta on tärkeä.
Kontekstin ja version rajat
Suunnittele teksti, kuvat, keskustelu ja haluttu vastaus määritetyn kontekstin mukaan. Käyttöohjeet sallivat nimenomaisesti määritetyn mallipituuden pienentämisen, kun tarvitaan vähemmän kontekstia, joten koko ikkuna ei ole ohje täyttää jokaista pyyntöä kaikella saatavilla olevalla aineistolla. Kortin 512 tokenin generointiesimerkki on vain esimerkkiasetus, eivätkä luetut lähteet osoita erillistä ehdotonta vastauksen enimmäispituutta.
FP8 Instruct -mallipainojen versio, esikoulutettu Base-julkaisu ja Reasoning-julkaisu ovat erillisiä versioita. Valmistaja kuvaa myös erikoistamisen ja hienosäädön käyttötapauksina. Säilytä nimetty mallipainojen versio ja sen tokenisoija keskustelua valmisteltaessa sekä erota tekstigenerointi koodivarastopääsystä, funktioiden suorittamisesta ja muista ympäröivän sovelluksen tarjoamista toimenpiteistä.
", "aboutText": "Ministral 3 8B Instruct 2512 on Mistral AI:n Ministral 3 -perheen keskikokoinen ohjeiden noudattamiseen hienosäädetty malli. Julkaistu mallipainojen versio on jälkikoulutettu keskustelu- ja ohjetehtäviin FP8-tarkkuudella. Se yhdistää kielikomponentin näköenkooderiin, vastaanottaa tekstiä ja kuvia sekä palauttaa tekstiä kuva- tai ääniartefaktin sijaan.\n\nArkkitehtuuri ja keskeiset ominaisuudet\n\nValmistaja ilmoittaa 8,4 miljardin parametrin kielimallin ja 0,4 miljardin parametrin näköenkooderin. Konteksti-ikkunaksi kuvataan 256 tuhatta tokenia, ja julkaistut käyttöohjeet käyttävät oletuksena määritettyä pituutta 262 144. Nämä koskevat tätä 8B-kokoista versiota; perheen pienemmällä 3B- ja suuremmalla 14B-mallilla on omat komponenttikokonsa ja konfiguraationsa.\n\nNäkö laajentaa mallin syötettä kirjallisen keskustelun ulkopuolelle. Asiakirjakuvaan voidaan liittää kysymys valitusta kentästä, kappaleesta tai näkyvästä suhteesta. Kuvakaappaukseen voidaan liittää käyttäjän tavoite ja pyyntö tunnistaa olennainen ohjain. Pyydä kutakin johtopäätöstä tukeva havainto, kun vastaus riippuu visuaalisesta yksityiskohdasta, ja säilytä rajauksen tulkintaan tarvittavat otsikot, tunnisteet ja yksiköt.\n\nKortti kuvaa monikielistä työtä kymmenillä kielillä, kuten englanniksi, ranskaksi, espanjaksi, saksaksi, italiaksi, portugaliksi, hollanniksi, kiinaksi, japaniksi, koreaksi ja arabiaksi. Se mainitsee myös järjestelmäohjeiden noudattamisen, natiivit funktiokutsut ja JSON-tulosteen. Määritä lopullinen kieli, rooli ja tulosvaatimukset täsmällisesti sen sijaan, että jättäisit mallin päättelemään halutun artefaktin suuresta syötteestä.\n\nAsiakirja-, keskustelu- ja agenttitehtävät\n\nValmistajan käyttötapauksia ovat keskusteluliittymät, arkiavustajat, kuvien ja asiakirjojen kuvailu, kääntäminen, sisällöntuotanto ja erikoistuneet agentit. Anna asiakirja-avustajalle sivu ja määritä palautettavat tiedot. Poimintapyyntö voi nimetä kenttätunnisteet, odotetut tyypit ja puuttuvien arvojen käsittelyn. Hyödyllinen vastaus voi sisältää asiakirjatunnisteen, poimitun arvon ja näkyvään lähteeseen sidotun lyhyen selityksen.\n\nSäilytä jatkuvassa keskustelussa olennainen aiempi vastaus ja esitä kohdennettu jatkokysymys. Käyttäjä voi ensin pyytää asiakirjan yhteenvetoa ja sitten kysyä, mikä lausuma tukee yhtä johtopäätöstä. Tämä muuttaa tarvittavan tuloksen yleiskatsauksesta lähteeseen kytketyksi selitykseksi säilyttäen alkuperäisen aineiston ja keskustelun tarkoituksen.\n\nAnna monikieliseen muokkaukseen alkuperäinen katkelma, tarkoitettu lukija ja termiluettelo. Pyydä muokattu versio, joka säilyttää nimet, ehdot ja yksiköt, sekä tarvittaessa lyhyt selitys muutoksista. Määritä sisällöntuotantoon yleisö ja sisällytettävät tosiasiat ennen lyhyen luonnoksen tai vaihtoehtoisen sanamuodon pyytämistä.\n\nAgenttitehtävässä sovellus antaa työkalut ja niiden parametrit. Malli voi valita funktion ja valmistella argumentit, kun taas sovellus suorittaa sen ja palauttaa tuloksen. Kortin funktioesimerkki yhdistää kuvakysymyksen laskentatyökaluun. Pidä työkalutulos erillään ehdotetusta kutsusta, jotta seuraava kirjallinen vastaus käyttää toiminnon todella palauttamaa tietoa.\n\nSuositeltu valmistelu ja asetukset\n\nValmistaja suosittelee järjestelmäohjetta, joka kuvaa ympäristön, käyttötapauksen ja työkalujen käyttötavan. Pidä työkalujoukko selkeästi määriteltynä ja rajattuna tehtävän vähimmäistarpeeseen. Pieni hakutyönkulku voi tarjota nykyiseen kysymykseen liittyvät funktiot selkeästi nimettyine pakollisine argumentteineen suuren irrallisten toimintojen kokoelman sijaan.\n\nArki- ja tuotantotyyppiseen käyttöön kortti suosittelee temperature-arvoa alle 0.1; suurempia arvoja voi käyttää luovaan kokeiluun. Käsittele tätä ohjetyönkulun suosituksena, ei erillisenä päättelytilan ohjaimena. Perheellä on erilliset Base-, Instruct- ja Reasoning-mallipainoversiot; tämä tietue on Instruct 2512 -versio, ei samankokoinen erillinen Reasoning-julkaisu.\n\nKuville valmistaja suosittelee kuvasuhteita lähellä 1:1:tä ja hyvin kapeiden tai leveiden syötteiden välttämistä. Rajaa tarvittaessa säilyttäen kysymyksen tarvitsemat tunnisteet ja konteksti. Jos sivulla on useita irrallisia alueita, yksilöi tarkasteltava osa ja palautettava tulos. Luettava, kohdennettu kuva on hyödyllisempi kuin pyyntö arvata, mikä laajan sivun pieni yksityiskohta on tärkeä.\n\nKontekstin ja version rajat\n\nSuunnittele teksti, kuvat, keskustelu ja haluttu vastaus määritetyn kontekstin mukaan. Käyttöohjeet sallivat nimenomaisesti määritetyn mallipituuden pienentämisen, kun tarvitaan vähemmän kontekstia, joten koko ikkuna ei ole ohje täyttää jokaista pyyntöä kaikella saatavilla olevalla aineistolla. Kortin 512 tokenin generointiesimerkki on vain esimerkkiasetus, eivätkä luetut lähteet osoita erillistä ehdotonta vastauksen enimmäispituutta.\n\nFP8 Instruct -mallipainojen versio, esikoulutettu Base-julkaisu ja Reasoning-julkaisu ovat erillisiä versioita. Valmistaja kuvaa myös erikoistamisen ja hienosäädön käyttötapauksina. Säilytä nimetty mallipainojen versio ja sen tokenisoija keskustelua valmisteltaessa sekä erota tekstigenerointi koodivarastopääsystä, funktioiden suorittamisesta ja muista ympäröivän sovelluksen tarjoamista toimenpiteistä.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "6dae123313626596543832d4e235553fb6ed97c11eaba993d082f98021f342da", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "fi", "methods": [ { "html": "mistralai/ministral-8b-2512:batchMinistral 3 8B Instruct 2512 on monikielinen teksti- ja kuvaohjemalli, jossa on 8,4 miljardin parametrin kielikomponentti ja 0,4 miljardin parametrin näköenkooderi. Se tukee valmistajan ilmoittamaa 256 tuhannen tokenin kontekstia, järjestelmäohjeita, JSON-muotoa ja natiiveja funktiokutsuja avustajia ja asiakirjatyönkulkuja varten.
Tämä kuvaus kattaa mallin ominaisuudet. Ailootissa saatavilla olevat syötteet, tulosteet ja asetukset luetellaan alla valitulle menetelmälle.
Ministral 3 8B Instruct 2512 on Mistral AI:n Ministral 3 -perheen keskikokoinen ohjeiden noudattamiseen hienosäädetty malli. Julkaistu mallipainojen versio on jälkikoulutettu keskustelu- ja ohjetehtäviin FP8-tarkkuudella. Se yhdistää kielikomponentin näköenkooderiin, vastaanottaa tekstiä ja kuvia sekä palauttaa tekstiä kuva- tai ääniartefaktin sijaan.
Arkkitehtuuri ja keskeiset ominaisuudet
Valmistaja ilmoittaa 8,4 miljardin parametrin kielimallin ja 0,4 miljardin parametrin näköenkooderin. Konteksti-ikkunaksi kuvataan 256 tuhatta tokenia, ja julkaistut käyttöohjeet käyttävät oletuksena määritettyä pituutta 262 144. Nämä koskevat tätä 8B-kokoista versiota; perheen pienemmällä 3B- ja suuremmalla 14B-mallilla on omat komponenttikokonsa ja konfiguraationsa.
Näkö laajentaa mallin syötettä kirjallisen keskustelun ulkopuolelle. Asiakirjakuvaan voidaan liittää kysymys valitusta kentästä, kappaleesta tai näkyvästä suhteesta. Kuvakaappaukseen voidaan liittää käyttäjän tavoite ja pyyntö tunnistaa olennainen ohjain. Pyydä kutakin johtopäätöstä tukeva havainto, kun vastaus riippuu visuaalisesta yksityiskohdasta, ja säilytä rajauksen tulkintaan tarvittavat otsikot, tunnisteet ja yksiköt.
Kortti kuvaa monikielistä työtä kymmenillä kielillä, kuten englanniksi, ranskaksi, espanjaksi, saksaksi, italiaksi, portugaliksi, hollanniksi, kiinaksi, japaniksi, koreaksi ja arabiaksi. Se mainitsee myös järjestelmäohjeiden noudattamisen, natiivit funktiokutsut ja JSON-tulosteen. Määritä lopullinen kieli, rooli ja tulosvaatimukset täsmällisesti sen sijaan, että jättäisit mallin päättelemään halutun artefaktin suuresta syötteestä.
Asiakirja-, keskustelu- ja agenttitehtävät
Valmistajan käyttötapauksia ovat keskusteluliittymät, arkiavustajat, kuvien ja asiakirjojen kuvailu, kääntäminen, sisällöntuotanto ja erikoistuneet agentit. Anna asiakirja-avustajalle sivu ja määritä palautettavat tiedot. Poimintapyyntö voi nimetä kenttätunnisteet, odotetut tyypit ja puuttuvien arvojen käsittelyn. Hyödyllinen vastaus voi sisältää asiakirjatunnisteen, poimitun arvon ja näkyvään lähteeseen sidotun lyhyen selityksen.
Säilytä jatkuvassa keskustelussa olennainen aiempi vastaus ja esitä kohdennettu jatkokysymys. Käyttäjä voi ensin pyytää asiakirjan yhteenvetoa ja sitten kysyä, mikä lausuma tukee yhtä johtopäätöstä. Tämä muuttaa tarvittavan tuloksen yleiskatsauksesta lähteeseen kytketyksi selitykseksi säilyttäen alkuperäisen aineiston ja keskustelun tarkoituksen.
Anna monikieliseen muokkaukseen alkuperäinen katkelma, tarkoitettu lukija ja termiluettelo. Pyydä muokattu versio, joka säilyttää nimet, ehdot ja yksiköt, sekä tarvittaessa lyhyt selitys muutoksista. Määritä sisällöntuotantoon yleisö ja sisällytettävät tosiasiat ennen lyhyen luonnoksen tai vaihtoehtoisen sanamuodon pyytämistä.
Agenttitehtävässä sovellus antaa työkalut ja niiden parametrit. Malli voi valita funktion ja valmistella argumentit, kun taas sovellus suorittaa sen ja palauttaa tuloksen. Kortin funktioesimerkki yhdistää kuvakysymyksen laskentatyökaluun. Pidä työkalutulos erillään ehdotetusta kutsusta, jotta seuraava kirjallinen vastaus käyttää toiminnon todella palauttamaa tietoa.
Suositeltu valmistelu ja asetukset
Valmistaja suosittelee järjestelmäohjetta, joka kuvaa ympäristön, käyttötapauksen ja työkalujen käyttötavan. Pidä työkalujoukko selkeästi määriteltynä ja rajattuna tehtävän vähimmäistarpeeseen. Pieni hakutyönkulku voi tarjota nykyiseen kysymykseen liittyvät funktiot selkeästi nimettyine pakollisine argumentteineen suuren irrallisten toimintojen kokoelman sijaan.
Arki- ja tuotantotyyppiseen käyttöön kortti suosittelee temperature-arvoa alle 0.1; suurempia arvoja voi käyttää luovaan kokeiluun. Käsittele tätä ohjetyönkulun suosituksena, ei erillisenä päättelytilan ohjaimena. Perheellä on erilliset Base-, Instruct- ja Reasoning-mallipainoversiot; tämä tietue on Instruct 2512 -versio, ei samankokoinen erillinen Reasoning-julkaisu.
Kuville valmistaja suosittelee kuvasuhteita lähellä 1:1:tä ja hyvin kapeiden tai leveiden syötteiden välttämistä. Rajaa tarvittaessa säilyttäen kysymyksen tarvitsemat tunnisteet ja konteksti. Jos sivulla on useita irrallisia alueita, yksilöi tarkasteltava osa ja palautettava tulos. Luettava, kohdennettu kuva on hyödyllisempi kuin pyyntö arvata, mikä laajan sivun pieni yksityiskohta on tärkeä.
Kontekstin ja version rajat
Suunnittele teksti, kuvat, keskustelu ja haluttu vastaus määritetyn kontekstin mukaan. Käyttöohjeet sallivat nimenomaisesti määritetyn mallipituuden pienentämisen, kun tarvitaan vähemmän kontekstia, joten koko ikkuna ei ole ohje täyttää jokaista pyyntöä kaikella saatavilla olevalla aineistolla. Kortin 512 tokenin generointiesimerkki on vain esimerkkiasetus, eivätkä luetut lähteet osoita erillistä ehdotonta vastauksen enimmäispituutta.
FP8 Instruct -mallipainojen versio, esikoulutettu Base-julkaisu ja Reasoning-julkaisu ovat erillisiä versioita. Valmistaja kuvaa myös erikoistamisen ja hienosäädön käyttötapauksina. Säilytä nimetty mallipainojen versio ja sen tokenisoija keskustelua valmisteltaessa sekä erota tekstigenerointi koodivarastopääsystä, funktioiden suorittamisesta ja muista ympäröivän sovelluksen tarjoamista toimenpiteistä.
POST /v1/batchestexttext| Kenttä | Tyyppi | Vaatimus | Arvot & rajat | Oletus |
|---|---|---|---|---|
Kenttäendpoint | Tyyppistring | VaatimusPakollinen | Arvot & rajat /v1/chat/completions | Oletus— |
Kenttämodel | Tyyppistring | VaatimusPakollinen | Arvot & rajat mistralai/ministral-8b-2512:batch | Oletus— |
Kenttärequests | Tyyppibatch_item[] | VaatimusPakollinen | Arvot & rajat Kohteiden vähimmäismäärä: 1 | Oletus— |
Kenttärequests[].custom_id | Tyyppistring | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttärequests[].body.messages | Tyyppimessage[] | VaatimusPakollinen | Arvot & rajat | Oletus— |
Kenttäcompletion_window | Tyyppistring | VaatimusValinnainen | Arvot & rajat 24h | Oletus— |
Kenttäprovider | Tyyppiobject|null | VaatimusValinnainen | Arvot & rajat | Oletus— |
Kenttärequests[].body.model | Tyyppistring | VaatimusValinnainen | Arvot & rajat mistralai/ministral-8b-2512:batch, mistralai/ministral-8b-2512 | Oletus— |
Kenttäprovider.only | Tyyppistring[] | VaatimusValinnainen | Arvot & rajat mistral | Oletus— |
Kenttäprovider.allow_fallbacks | Tyyppiboolean|null | VaatimusValinnainen | Arvot & rajat false, null | Oletus— |
| Parametri | Sopimus |
|---|---|
Parametricontent_type | Sopimusapplication/json |
Parametrirequired | Sopimusendpoint, model, requests |
Parametrimaterial_types | Sopimustext |
Parametrirepresentation | Sopimuspyyntöön sisältyvä requests[]; jokaisella alkiolla on custom_id ja body |
Parametrirequest_endpoint_profile | Sopimus/v1/chat/completions |
Parametrifile_material | SopimusKutsuja voi lukea todellisen UTF-8 JSONL -aineiston paikallisesti requests[]-taulukkoon. Latauksen purpose-arvoa, input_file_id-arvoa tai tiedostoviitettä ei käytetä. Puuttuva tai tyhjä asiakkaan aineisto keskeyttää valmistelun ennen POST-pyyntöä. |
Parametriserialization_order | Sopimusendpoint, model, provider (jos annettu), completion_window (jos annettu), requests viimeisenä |
Parametrioptional_controls | Sopimusprovider.only, provider.allow_fallbacks, completion_window |
Parametrischema_scope | SopimusTekstimuotoiset Chat Completions -pyyntörungot dokumentoidussa pyyntöön sisältyvässä Batch-kääreessä. |
Elinkaari: asynchronous
GET /v1/batches/{operation_id} · alkuperäisen luontivastauksen todellinen response.id; sama käyttäjä, avain ja ryhmä
Hintatiedot eivät lisää pyyntövalintoja. Tuetut parametrit on lueteltu valitulle menetelmälle.
Kohdista kukin veloitus näytettyihin ehtoihin. Käytä yhtä hintaa kutakin vaihtoehtoisten asetusten ryhmää kohden.
| Asetukset | Hinnasto | Kontekstin tokenit, enemmän kuin | Kontekstin tokenit, enintään raja-arvo mukaan lukien | Veloitus |
|---|---|---|---|---|
| AsetuksetTokenien perushinnat | HinnastoPerushinta | Kontekstin tokenit, enemmän kuin— | Kontekstin tokenit, enintään raja-arvo mukaan lukienEi ylärajaa | Veloitus Syöte · Syötetokenit $0.00015 / 1K tokenia Tuloste · Tulostokenit $0.00015 / 1K tokenia Syöte · Välimuistin luku $0.000015 / 1K tokenia Syöte · Välimuistiin kirjoitus — / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
| AsetuksetPyynnön pituusluokka 1 | Hinnasto— | Kontekstin tokenit, enemmän kuin0 | Kontekstin tokenit, enintään raja-arvo mukaan lukienEi ylärajaa | Veloitus Syöte · Syötetokenit $0.00015 / 1K tokenia Tuloste · Tulostokenit $0.00015 / 1K tokenia Syöte · Välimuistin luku $0.000015 / 1K tokenia Syöte · Välimuistiin kirjoitus — / 1K tokenia Syöte · Välimuistiin kirjoitus, 1 tunti — / 1K tokenia |
Ailoot varaa arvioidun summan ennen pyyntöä. Tuloksen jälkeen lopullinen veloitus toteutetaan mitatun käytön perusteella. Suoratoiston veloituksessa käytetään lopullista käyttötietuetta. Varauksen ja lopullisen veloituksen toiminta →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json\nfrom pathlib import Path\nbody=json.loads('{"endpoint":"/v1/chat/completions","model":"mistralai/ministral-8b-2512:batch","requests":[{"custom_id":"req-0001","body":{"messages":[{"role":"user","content":"Hello!"}],"max_tokens":16}}]}')\nPath("batch-request.json").write_text(json.dumps(body,ensure_ascii=False),encoding="utf-8")\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/batches \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @batch-request.json -D batch-response-headers.txt -o batch-create-response.json\nimport json, os\nfrom pathlib import Path\nfrom urllib.request import Request, urlopen\n\ndef prepare_requests(customer_path):\n path = Path(customer_path)\n if not path.is_file(): raise ValueError("Customer JSONL file is missing")\n items = [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line.strip()]\n if not items: raise ValueError("Customer JSONL contains no requests")\n ids = set()\n for item in items:\n if set(item) != {"custom_id", "body"}: raise ValueError("Each item needs custom_id and body")\n cid = item["custom_id"]\n if not isinstance(cid, str) or not cid.strip() or cid in ids: raise ValueError("custom_id must be nonempty and unique")\n ids.add(cid)\n if not isinstance(item["body"], dict) or not item["body"].get("messages"): raise ValueError("Supply actual text messages")\n supplied_model = item["body"].get("model")\n if supplied_model is not None and supplied_model not in ['mistralai/ministral-8b-2512:batch', 'mistralai/ministral-8b-2512']: raise ValueError("body.model must be an exact documented caller or wire ID")\n return {"endpoint":"/v1/chat/completions", "model":"mistralai/ministral-8b-2512:batch", "requests":items}\n\nif __name__ == "__main__":\n material = os.environ.get("AILOOT_BATCH_REQUESTS_JSONL", "")\n if not material: raise SystemExit("Set AILOOT_BATCH_REQUESTS_JSONL to your actual customer file")\n body = prepare_requests(material)\n key = os.environ.get("AILOOT_API_KEY", "")\n if not key: raise SystemExit("Set AILOOT_API_KEY")\n request = Request("https://api.ailoot.ai/v1/batches", data=json.dumps(body, ensure_ascii=False).encode("utf-8"), headers={"Authorization":"Bearer " + key, "Content-Type":"application/json"}, method="POST")\n with urlopen(request) as response:\n raw = response.read()\n Path("batch-create-response.json").write_bytes(raw)\n print(raw.decode("utf-8"))\nimport json\nfrom pathlib import Path\nraw = Path("batch-status-response.json").read_bytes()\nresponse = json.loads(raw)\nif response.get("status") != "completed":\n raise SystemExit("Keep the original operation; read its status without resubmitting")\nresults = response.get("results")\nif not isinstance(results, list) or not results:\n raise SystemExit("Preserve the original response; completed results are missing")\nPath("batch-results.jsonl").write_text("".join(json.dumps(item, ensure_ascii=False) + "\\n" for item in results), encoding="utf-8")\n# Preserve batch-status-response.json with aggregate usage and every result/error.\nvastaukseen sisältyvä JSON kentässä results[].response.body
GET /v1/batches/{operation_id}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nBATCH_OPERATION_ID="$(python3 - <<'PY_ID'\nimport json\nfrom pathlib import Path\nfrom urllib.parse import quote\nresponse = json.loads(Path("batch-create-response.json").read_text(encoding="utf-8"))\noperation = response.get("id")\nif not isinstance(operation, str) or not operation: raise SystemExit("No actual original operation ID; preserve the response and do not resubmit")\nprint(quote(operation, safe=""))\nPY_ID\n)"\ncurl --fail-with-body --silent --show-error "https://api.ailoot.ai/v1/batches/$BATCH_OPERATION_ID" \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -o batch-status-response.json\nSäilytä jokainen kokonainen palautettu vastaus, tiedosto ja sisällön osa.
Säilytä koko alkuperäinen tilatiedot sisältävä JSON, jokainen tulos ja custom_id sekä täydellinen vastaus- tai virherunko. Tallenna valmistuneet results[]-tulokset JSONL-muodossa suodattamatta.
Säilytä alkuperäinen operaation ID. 503 result_pending_check sisältää otsakkeen X-Should-Retry:false; älä koskaan lähetä uudelleen alkuperäistä eräajoa, jonka tila on tuntematon.
| Kenttä | Tyyppi |
|---|---|
Kenttäresults[].custom_id | Tyyppistring |
Kenttäresults[].response.body.choices[].message.content | Tyyppistring|null |
Kenttäresults[].error | Tyyppiobject|null |
Kenttäusage | Tyyppiobject|null |
Kenttäid | Tyyppistring |
Kenttämodel | Tyyppistring |
Kenttäendpoint | Tyyppistring |
Kenttästatus | Tyyppistring |
Kenttärequest_counts | Tyyppiobject |
Kenttäresults[].id | Tyyppistring |
Kenttäresults[].response.status_code | Tyyppiinteger |
Kenttäresults[].response.request_id | Tyyppistring |
| Vastaus | Ehto | Seuraava vaihe |
|---|---|---|
Vastaus400 · invalid_request_error | EhtoDokumentoitu pyyntöön sisältyvä kääre on virheellinen, avaimet ovat päällekkäisiä, alkion identiteetti on virheellinen tai määritetyt mallin ominaisuudet ovat ristiriidassa. | Seuraava vaiheKorjaa ilmoitetut kentät ennen uutta lähetystä. |
Vastaus401 · authentication_error | EhtoVirheellinen API-avain. | Seuraava vaiheKäytä valtuutettua Ailoot-avainta. |
Vastaus403 · permission_error | EhtoEräajoryhmä ei ole käytettävissä. | Seuraava vaiheTarkista avaimen ja ryhmän käyttöoikeudet. |
Vastaus422 · invalid_request_error | EhtoEräajo laskutetaan saldosta; tilauspohjaisella laskutuksella tehty eräajon luontipyyntö hylätään. | Seuraava vaiheKäytä valtuutettua saldosta laskutettavaa ryhmää. |
Vastaus422 · price_unavailable | EhtoEräajon syötteelle ei voida laskea hinta-arviota. | Seuraava vaiheSäilytä vastaus; käytä dokumentoitua API-perheen syötettä. |
Vastaus402 · billing_error | EhtoEräajon varaus ei ole käytettävissä. | Seuraava vaihePoista pyynnön hyväksymisen esteet ennen uutta pyyntöä. |
Vastaus503 · price_unavailable | EhtoEräajomenetelmän hinta tai natiivit hinnat eivät ole käytettävissä. | Seuraava vaiheSäilytä vastaus; älä korvaa hintoja toisilla. |
Vastaus503 · api_error | EhtoTäsmällinen toimittajan reitti ei ole käytettävissä. | Seuraava vaiheSäilytä vastaus reitin korjaamista varten. |
Vastaus503 · result_pending_check | EhtoAlkuperäinen tulos edellyttää tarkistusta; X-Should-Retry:false. | Seuraava vaiheSäilytä alkuperäinen operation_id/id ja lue sen tila; älä koskaan toista alkuperäistä POST-pyyntöä. |
Vastaus404 · not_found | EhtoEräajon tilan operaatiota ei ole tai se kuuluu toiselle identiteetille. | Seuraava vaiheKäytä täsmälleen alkuperäistä id-arvoa sekä samaa käyttäjää, avainta ja ryhmää. |
Ailoot Ultra mistralai/ministral-8b-2512:batch
Käytä yllä näytettyjä menetelmäpolkuja.