Mixtral 8x22B Instruct v0.1 je različica podjetja Mistral AI, prilagojena sledenju navodilom, ki izhaja iz posebej poimenovanega osnovnega modela Mixtral 8x22B v0.1. Prejema besedilni pogovor in ustvarja besedilo, vključno z razlagami, kodo in predlaganimi klici funkcij. Izdaja družine poudarja angleščino, francoščino, italijanščino, nemščino in španščino ter matematične in programske zmogljivosti.
Redki eksperti in kontekst
Proizvajalec opisuje redki model mešanice ekspertov s skupno 141 milijardami parametrov in 39 milijardami aktivnih parametrov. Objavljena konfiguracija Instruct vsebuje 8 ekspertov, pri čemer sta za vsak žeton izbrana 2, 56 plasti, 48 glav pozornosti za poizvedbe in 8 glav za ključe in vrednosti. Skupno število parametrov in izbrani eksperti opisujejo strukturo modela, ne dolžine odgovora.
Izdaja družine dokumentira kontekst 64K, konkretna konfiguracija Instruct pa največje število položajev nastavi na 65.536. Ta prostor uporabite za skupno ohranitev izvornih odlomkov, pogovora in zahtevanega odgovora. Vprašanje o obsežnem dokumentu lahko zahteva en pogoj iz več razdelkov ter vrne jedrnato tabelo z vsakim mestom v viru. Vključite gradivo, ki določa rezultat, namesto da okno zapolnite z nepovezano vsebino.
Kodiranje pogovora z navodili
Kartica modela se začne s proizvajalčevim razčlenjevalnikom žetonov v3 za navodila, nato pa pokaže oblikovanje sporočil z ustrezno predlogo klepeta. Njegovo objavljeno besedišče ima 32.768 vnosov. Izvorni in združljivi razčlenjevalnik žetonov morata ustvariti ujemajoče se predstavitve sporočil; kartica izrecno obravnava primerjavo njunih kodiranj. To se razlikuje od predpostavke, da je oblika Tekken, ki jo uporabljajo poznejši modeli Mistral, zamenljiva s to izdajo.
V pogovoru razlikujte uporabnikovo vprašanje, prejšnji odgovor pomočnika in morebiten rezultat orodja. Pri nadaljnjem vprašanju ohranite ustrezen prejšnji odgovor. Naloga lahko najprej zahteva razlago izvornega odlomka, nato natančnejšo primerjavo, pri čemer ohrani izvorno vsebino in namen razprave.
Pri večjezičnem urejanju določite izvorni jezik, končni jezik in terminologijo, ki mora ostati nespremenjena. Zahtevajte popravljen odlomek, ki ohrani imena, pogoje in enote. Pri matematičnem problemu opredelite spremenljivke in predpostavke ter določite, ali naj bo končni rezultat natančen izraz, numerični približek ali dokaz. Pri programiranju pred zahtevo za implementacijo ali razlago vključite podpis funkcije, ustrezne deklaracije in pričakovano vedenje.
Klici funkcij in njihovi rezultati
Kartica dokumentira izvorno klicanje funkcij z opisi orodij in shemami parametrov. Aplikacija poda operacije, model pripravi argumente izbrane funkcije, aplikacija pa jo izvede. Vrnjeni rezultat je nato treba dodati pogovoru, da ga model lahko uporabi v naslednjem odgovoru. Kartica opozarja, da en skrajšan primer kode ne prikazuje tega celotnega cikla.
Naloga poizvedovanja naj določi, kateri podatki manjkajo in katera podana funkcija jih lahko vrne. Preden aplikacija izvede operacijo, vključite zahtevane vrednosti ali zahtevajte manjkajoče podatke. Predlagani klic ohranite ločen od dejansko vrnjenih podatkov; končna razlaga se tako lahko sklicuje na pridobljeni rezultat, ne na rezultat, sklepan iz imena orodja.
V proizvajalčevi izvorni obliki pogovora klici orodij in ustrezni rezultati uporabljajo ID-je z natanko devetimi alfanumeričnimi znaki. Razčlenjevalnik žetonov vsebuje tudi posebne oznake za razpoložljiva orodja, klice orodij in rezultate orodij. Pri pripravi pogovora v izvorni obliki ohranite ustrezno predstavitev; vidna predstavitev ovojnice je ločena izbira vmesnika.
Praktični programski in dokumentni izdelki
Pri popravku kode podajte prizadeto funkcijo, vhod, ki razkrije težavo, in pričakovani rezultat. Zahtevajte popravljen odsek, vzrok odstopanja in primere vhodov, ki razločujejo predvideno vedenje. Ustvarjena koda je besedilni izdelek; njeno prevajanje, izvajanje ali uveljavitev v repozitoriju zahteva povezano razvojno okolje.
Pri razlagi dokumenta zahtevajte izjavo, ki odgovarja na vprašanje, in razdelek, ki jo podpira. Primerjava lahko loči skupne pogoje, razlike in nerešene podrobnosti. Za omejen besedilni zapis določite imena polj in obravnavo manjkajočih vrednosti. Prvotna napoved družine opisuje klicanje funkcij skupaj z omejenim izhodom v proizvajalčevi povezani storitvi; te možnosti oblikovanja ostajajo ločene od izvajanja zunanje operacije.
Različica in omejitve ustvarjanja
Kartica za posamezne primere prikazuje proračune ustvarjanja, denimo 64 in 1.000 žetonov. To so predstavitvene nastavitve, ne neodvisne največje zmogljivosti odgovora. Poziv in želeni odgovor ohranite znotraj dejansko nastavljenega konteksta ter zahtevajte dolžino, primerno nalogi.
Ta vnos je besedilna kontrolna točka Instruct v0.1 z oblikovanjem navodil v3. Vida, govora in kontrol hibridnega sklepanja, uvedenih v poznejših družinah Mistral, ji ne pripisujte. Pri pripravi razlage, predloga kode ali odgovora s pomočjo orodij, ki ga potrebuje naslednji korak, ohranite konkretno različico in izvorno gradivo.
", "aboutText": "Mixtral 8x22B Instruct v0.1 je različica podjetja Mistral AI, prilagojena sledenju navodilom, ki izhaja iz posebej poimenovanega osnovnega modela Mixtral 8x22B v0.1. Prejema besedilni pogovor in ustvarja besedilo, vključno z razlagami, kodo in predlaganimi klici funkcij. Izdaja družine poudarja angleščino, francoščino, italijanščino, nemščino in španščino ter matematične in programske zmogljivosti.\n\nRedki eksperti in kontekst\n\nProizvajalec opisuje redki model mešanice ekspertov s skupno 141 milijardami parametrov in 39 milijardami aktivnih parametrov. Objavljena konfiguracija Instruct vsebuje 8 ekspertov, pri čemer sta za vsak žeton izbrana 2, 56 plasti, 48 glav pozornosti za poizvedbe in 8 glav za ključe in vrednosti. Skupno število parametrov in izbrani eksperti opisujejo strukturo modela, ne dolžine odgovora.\n\nIzdaja družine dokumentira kontekst 64K, konkretna konfiguracija Instruct pa največje število položajev nastavi na 65.536. Ta prostor uporabite za skupno ohranitev izvornih odlomkov, pogovora in zahtevanega odgovora. Vprašanje o obsežnem dokumentu lahko zahteva en pogoj iz več razdelkov ter vrne jedrnato tabelo z vsakim mestom v viru. Vključite gradivo, ki določa rezultat, namesto da okno zapolnite z nepovezano vsebino.\n\nKodiranje pogovora z navodili\n\nKartica modela se začne s proizvajalčevim razčlenjevalnikom žetonov v3 za navodila, nato pa pokaže oblikovanje sporočil z ustrezno predlogo klepeta. Njegovo objavljeno besedišče ima 32.768 vnosov. Izvorni in združljivi razčlenjevalnik žetonov morata ustvariti ujemajoče se predstavitve sporočil; kartica izrecno obravnava primerjavo njunih kodiranj. To se razlikuje od predpostavke, da je oblika Tekken, ki jo uporabljajo poznejši modeli Mistral, zamenljiva s to izdajo.\n\nV pogovoru razlikujte uporabnikovo vprašanje, prejšnji odgovor pomočnika in morebiten rezultat orodja. Pri nadaljnjem vprašanju ohranite ustrezen prejšnji odgovor. Naloga lahko najprej zahteva razlago izvornega odlomka, nato natančnejšo primerjavo, pri čemer ohrani izvorno vsebino in namen razprave.\n\nPri večjezičnem urejanju določite izvorni jezik, končni jezik in terminologijo, ki mora ostati nespremenjena. Zahtevajte popravljen odlomek, ki ohrani imena, pogoje in enote. Pri matematičnem problemu opredelite spremenljivke in predpostavke ter določite, ali naj bo končni rezultat natančen izraz, numerični približek ali dokaz. Pri programiranju pred zahtevo za implementacijo ali razlago vključite podpis funkcije, ustrezne deklaracije in pričakovano vedenje.\n\nKlici funkcij in njihovi rezultati\n\nKartica dokumentira izvorno klicanje funkcij z opisi orodij in shemami parametrov. Aplikacija poda operacije, model pripravi argumente izbrane funkcije, aplikacija pa jo izvede. Vrnjeni rezultat je nato treba dodati pogovoru, da ga model lahko uporabi v naslednjem odgovoru. Kartica opozarja, da en skrajšan primer kode ne prikazuje tega celotnega cikla.\n\nNaloga poizvedovanja naj določi, kateri podatki manjkajo in katera podana funkcija jih lahko vrne. Preden aplikacija izvede operacijo, vključite zahtevane vrednosti ali zahtevajte manjkajoče podatke. Predlagani klic ohranite ločen od dejansko vrnjenih podatkov; končna razlaga se tako lahko sklicuje na pridobljeni rezultat, ne na rezultat, sklepan iz imena orodja.\n\nV proizvajalčevi izvorni obliki pogovora klici orodij in ustrezni rezultati uporabljajo ID-je z natanko devetimi alfanumeričnimi znaki. Razčlenjevalnik žetonov vsebuje tudi posebne oznake za razpoložljiva orodja, klice orodij in rezultate orodij. Pri pripravi pogovora v izvorni obliki ohranite ustrezno predstavitev; vidna predstavitev ovojnice je ločena izbira vmesnika.\n\nPraktični programski in dokumentni izdelki\n\nPri popravku kode podajte prizadeto funkcijo, vhod, ki razkrije težavo, in pričakovani rezultat. Zahtevajte popravljen odsek, vzrok odstopanja in primere vhodov, ki razločujejo predvideno vedenje. Ustvarjena koda je besedilni izdelek; njeno prevajanje, izvajanje ali uveljavitev v repozitoriju zahteva povezano razvojno okolje.\n\nPri razlagi dokumenta zahtevajte izjavo, ki odgovarja na vprašanje, in razdelek, ki jo podpira. Primerjava lahko loči skupne pogoje, razlike in nerešene podrobnosti. Za omejen besedilni zapis določite imena polj in obravnavo manjkajočih vrednosti. Prvotna napoved družine opisuje klicanje funkcij skupaj z omejenim izhodom v proizvajalčevi povezani storitvi; te možnosti oblikovanja ostajajo ločene od izvajanja zunanje operacije.\n\nRazličica in omejitve ustvarjanja\n\nKartica za posamezne primere prikazuje proračune ustvarjanja, denimo 64 in 1.000 žetonov. To so predstavitvene nastavitve, ne neodvisne največje zmogljivosti odgovora. Poziv in želeni odgovor ohranite znotraj dejansko nastavljenega konteksta ter zahtevajte dolžino, primerno nalogi.\n\nTa vnos je besedilna kontrolna točka Instruct v0.1 z oblikovanjem navodil v3. Vida, govora in kontrol hibridnega sklepanja, uvedenih v poznejših družinah Mistral, ji ne pripisujte. Pri pripravi razlage, predloga kode ali odgovora s pomočjo orodij, ki ga potrebuje naslednji korak, ohranite konkretno različico in izvorno gradivo.", "editorialOverlay": { "copy_fields": { "practical_html": "Tehnični primer v angleščini
Repair integer average division\n\nFix this Python function for nonempty numeric lists: def average(values): return sum(values) // len(values). Input [1, 2] must produce 1.5. Return the corrected function and assertions for [1, 2] and [2, 4]. State the nonempty-input assumption rather than inventing an empty-list policy.A focused function correction, two assertions and the retained input assumption.The function must preserve a fractional average and leave the unspecified empty-list behavior undecided.mistralai/mixtral-8x22b-instructMixtral 8x22B Instruct v0.1 je večjezični besedilni model za pogovor, matematiko, kodo in klice funkcij. Njegova redka arhitektura mešanice ekspertov uporablja 39 milijard aktivnih parametrov od skupno 141 milijard, s kontekstom 64K po navedbah proizvajalca in lastno obliko navodil v3.
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
Mixtral 8x22B Instruct v0.1 je različica podjetja Mistral AI, prilagojena sledenju navodilom, ki izhaja iz posebej poimenovanega osnovnega modela Mixtral 8x22B v0.1. Prejema besedilni pogovor in ustvarja besedilo, vključno z razlagami, kodo in predlaganimi klici funkcij. Izdaja družine poudarja angleščino, francoščino, italijanščino, nemščino in španščino ter matematične in programske zmogljivosti.
Redki eksperti in kontekst
Proizvajalec opisuje redki model mešanice ekspertov s skupno 141 milijardami parametrov in 39 milijardami aktivnih parametrov. Objavljena konfiguracija Instruct vsebuje 8 ekspertov, pri čemer sta za vsak žeton izbrana 2, 56 plasti, 48 glav pozornosti za poizvedbe in 8 glav za ključe in vrednosti. Skupno število parametrov in izbrani eksperti opisujejo strukturo modela, ne dolžine odgovora.
Izdaja družine dokumentira kontekst 64K, konkretna konfiguracija Instruct pa največje število položajev nastavi na 65.536. Ta prostor uporabite za skupno ohranitev izvornih odlomkov, pogovora in zahtevanega odgovora. Vprašanje o obsežnem dokumentu lahko zahteva en pogoj iz več razdelkov ter vrne jedrnato tabelo z vsakim mestom v viru. Vključite gradivo, ki določa rezultat, namesto da okno zapolnite z nepovezano vsebino.
Kodiranje pogovora z navodili
Kartica modela se začne s proizvajalčevim razčlenjevalnikom žetonov v3 za navodila, nato pa pokaže oblikovanje sporočil z ustrezno predlogo klepeta. Njegovo objavljeno besedišče ima 32.768 vnosov. Izvorni in združljivi razčlenjevalnik žetonov morata ustvariti ujemajoče se predstavitve sporočil; kartica izrecno obravnava primerjavo njunih kodiranj. To se razlikuje od predpostavke, da je oblika Tekken, ki jo uporabljajo poznejši modeli Mistral, zamenljiva s to izdajo.
V pogovoru razlikujte uporabnikovo vprašanje, prejšnji odgovor pomočnika in morebiten rezultat orodja. Pri nadaljnjem vprašanju ohranite ustrezen prejšnji odgovor. Naloga lahko najprej zahteva razlago izvornega odlomka, nato natančnejšo primerjavo, pri čemer ohrani izvorno vsebino in namen razprave.
Pri večjezičnem urejanju določite izvorni jezik, končni jezik in terminologijo, ki mora ostati nespremenjena. Zahtevajte popravljen odlomek, ki ohrani imena, pogoje in enote. Pri matematičnem problemu opredelite spremenljivke in predpostavke ter določite, ali naj bo končni rezultat natančen izraz, numerični približek ali dokaz. Pri programiranju pred zahtevo za implementacijo ali razlago vključite podpis funkcije, ustrezne deklaracije in pričakovano vedenje.
Klici funkcij in njihovi rezultati
Kartica dokumentira izvorno klicanje funkcij z opisi orodij in shemami parametrov. Aplikacija poda operacije, model pripravi argumente izbrane funkcije, aplikacija pa jo izvede. Vrnjeni rezultat je nato treba dodati pogovoru, da ga model lahko uporabi v naslednjem odgovoru. Kartica opozarja, da en skrajšan primer kode ne prikazuje tega celotnega cikla.
Naloga poizvedovanja naj določi, kateri podatki manjkajo in katera podana funkcija jih lahko vrne. Preden aplikacija izvede operacijo, vključite zahtevane vrednosti ali zahtevajte manjkajoče podatke. Predlagani klic ohranite ločen od dejansko vrnjenih podatkov; končna razlaga se tako lahko sklicuje na pridobljeni rezultat, ne na rezultat, sklepan iz imena orodja.
V proizvajalčevi izvorni obliki pogovora klici orodij in ustrezni rezultati uporabljajo ID-je z natanko devetimi alfanumeričnimi znaki. Razčlenjevalnik žetonov vsebuje tudi posebne oznake za razpoložljiva orodja, klice orodij in rezultate orodij. Pri pripravi pogovora v izvorni obliki ohranite ustrezno predstavitev; vidna predstavitev ovojnice je ločena izbira vmesnika.
Praktični programski in dokumentni izdelki
Pri popravku kode podajte prizadeto funkcijo, vhod, ki razkrije težavo, in pričakovani rezultat. Zahtevajte popravljen odsek, vzrok odstopanja in primere vhodov, ki razločujejo predvideno vedenje. Ustvarjena koda je besedilni izdelek; njeno prevajanje, izvajanje ali uveljavitev v repozitoriju zahteva povezano razvojno okolje.
Pri razlagi dokumenta zahtevajte izjavo, ki odgovarja na vprašanje, in razdelek, ki jo podpira. Primerjava lahko loči skupne pogoje, razlike in nerešene podrobnosti. Za omejen besedilni zapis določite imena polj in obravnavo manjkajočih vrednosti. Prvotna napoved družine opisuje klicanje funkcij skupaj z omejenim izhodom v proizvajalčevi povezani storitvi; te možnosti oblikovanja ostajajo ločene od izvajanja zunanje operacije.
Različica in omejitve ustvarjanja
Kartica za posamezne primere prikazuje proračune ustvarjanja, denimo 64 in 1.000 žetonov. To so predstavitvene nastavitve, ne neodvisne največje zmogljivosti odgovora. Poziv in želeni odgovor ohranite znotraj dejansko nastavljenega konteksta ter zahtevajte dolžino, primerno nalogi.
Ta vnos je besedilna kontrolna točka Instruct v0.1 z oblikovanjem navodil v3. Vida, govora in kontrol hibridnega sklepanja, uvedenih v poznejših družinah Mistral, ji ne pripisujte. Pri pripravi razlage, predloga kode ali odgovora s pomočjo orodij, ki ga potrebuje naslednji korak, ohranite konkretno različico in izvorno gradivo.
POST /v1/chat/completionstexttext| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve mistralai/mixtral-8x22b-instruct | Privzeto— |
Poljemessages | Vrstamessage[] | ZahtevaObvezno | Vrednosti in omejitve Najmanjše število elementov: 1 | Privzeto— |
Poljemessages[].role | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve Primeri: system, user, assistant, tool, function Pogoji: Te vloge so izrecno predstavljene s tipi združljivosti v izvorni kodi; natančen nabor vlog ostaja odvisen od modela. Odvisno od modela | Privzeto— |
Poljemessages[].content | Vrstastring|content_part[]|null | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].tool_calls | Vrstatool_call[] | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].tool_call_id | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Velja, ko: role=tool; uporabite dejansko vrnjeni ID | Privzeto— |
Poljemessages[].name | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].reasoning_content | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Velja, ko: Pošljite nazaj dejansko vrnjeno sklepanje, kadar ga ta model uporablja | Privzeto— |
Poljemessages[].reasoning_details | Vrstaobject|array | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljemax_tokens | Vrstainteger | ZahtevaIzbirno | Vrednosti in omejitve Najmanj: 1 Odvisno od modela | Privzeto— |
Poljemax_completion_tokens | Vrstainteger | ZahtevaIzbirno | Vrednosti in omejitve Najmanj: 1 Odvisno od modela | Privzeto— |
Poljestream | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve | Privzetofalse |
Poljestream_options.include_usage | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetemperature | Vrstanumber | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetop_p | Vrstanumber | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljestop | Vrstastring|string[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetools | Vrstafunction_tool[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljetools[].type | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve function Odvisno od modela | Privzeto— |
Poljetools[].function.name | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve Velja, ko: podano je funkcijsko orodje | Privzeto— |
Poljetools[].function.description | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljetools[].function.parameters | VrstaJSON_schema | ZahtevaIzbirno | Vrednosti in omejitve | Privzeto— |
Poljetool_choice | Vrstastring|object | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeparallel_tool_calls | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeresponse_format | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljereasoning_effort | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljereasoning | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeservice_tier | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeinstructions | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Polje združljivosti | Privzeto— |
Poljefunctions | Vrstafunction[] | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljefunction_call | Vrstastring|object | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljeprompt_cache_options | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Odvisno od modela | Privzeto— |
Poljemodalities | Vrstastring[] | ZahtevaIzbirno | Vrednosti in omejitve text | Privzeto— |
Poljeprovider | Vrstaobject | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: provider.options je na tej besedilni poti Ultra zavrnjen | Privzeto— |
Poljecache_control.ttl | Vrstastring | ZahtevaIzbirno | Vrednosti in omejitve Pogoji: 1h je zavrnjen na dejanskih mestih za predpomnjenje pozivov | Privzeto— |
Besedilo · Besedilo UTF8
messages[].content
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, messages |
Parametermaterial_types | Specifikacijatext |
Parametermessages | Specifikacijapolje sporočil s strukturo role/content |
Parameterfile_material | Specifikacijadejanski dokument UTF-8 je vstavljen kot dobesedno besedilo; ID datoteke se ne izpeljuje |
Parameteroptional_controls | Specifikacijastream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Specifikacijaodvisno od modela; uporabniška funkcijska orodja se razlikujejo od orodij, ki jih izvaja storitev |
Parameteroutput_modalities | Specifikacijatext |
Parameterhosted_operations | Specifikacijafalse |
Parametermultimodal_input_binding | Specifikacijanull |
Življenjski cikel: synchronous_or_streamed
Pošljite natančen ID modela skupaj z messages.
Dolžina konteksta ni zgornja meja izhoda.
Besedilna datoteka lahko poda dobesedno besedilo; slikovni, zvočni vhodi in vhodi z datotečnimi objekti potrebujejo natančno vezavo.
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
Vsak strošek povežite s prikazanimi pogoji. Za vsak nabor alternativnih nastavitev uporabite eno ceno.
| Nastavitev | Cenovna lestvica | Žetonov konteksta več kot | Žetonov konteksta do vključno | Strošek |
|---|---|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Žetonov konteksta več kot— | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni $0.004 / 1K žetonov Izhod · Izhodni žetoni $0.012 / 1K žetonov Vhod · Branje predpomnilnika $0.0004 / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
| NastavitevRazred 1 glede na dolžino zahteve | Cenovna lestvica— | Žetonov konteksta več kot0 | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni $0.004 / 1K žetonov Izhod · Izhodni žetoni $0.012 / 1K žetonov Vhod · Branje predpomnilnika $0.0004 / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "mistralai/mixtral-8x22b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='mistralai/mixtral-8x22b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='mistralai/mixtral-8x22b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson ali SSE
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Ohranite vsako možnost odgovora ter njeno vsebino, klice orodij in sklepanje. V SSE sestavite delne spremembe po indeksu možnosti/orodja ter ohranite končni razlog zaključka in podatke o porabi.
Ohranite ID zahtev/odgovorov in glave. Splošni URL za pridobivanje besedilne naloge ni podan.
| Polje | Vrsta |
|---|---|
Poljechoices[].index | Vrstainteger |
Poljechoices[].message.content | Vrstastring|null |
Poljechoices[].message.tool_calls | Vrstatool_call[] |
Poljechoices[].message.reasoning_content | Vrstastring |
Poljechoices[].message.reasoning_details | Vrstaobject|array |
Poljechoices[].finish_reason | Vrstastring|null |
Poljeusage | Vrstaobject |
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. |
Ailoot Ultra mistralai/mixtral-8x22b-instruct
Uporabite zgoraj navedene poti metod.
mistralai/mixtral-8x22b-instructMixtral 8x22B Instruct v0.1 je večjezični besedilni model za pogovor, matematiko, kodo in klice funkcij. Njegova redka arhitektura mešanice ekspertov uporablja 39 milijard aktivnih parametrov od skupno 141 milijard, s kontekstom 64K po navedbah proizvajalca in lastno obliko navodil v3.
Ta opis zajema zmožnosti modela. Vhodi, izhodi in možnosti, ki so na voljo v Ailoot, so spodaj navedeni za izbrano metodo.
Mixtral 8x22B Instruct v0.1 je različica podjetja Mistral AI, prilagojena sledenju navodilom, ki izhaja iz posebej poimenovanega osnovnega modela Mixtral 8x22B v0.1. Prejema besedilni pogovor in ustvarja besedilo, vključno z razlagami, kodo in predlaganimi klici funkcij. Izdaja družine poudarja angleščino, francoščino, italijanščino, nemščino in španščino ter matematične in programske zmogljivosti.
Redki eksperti in kontekst
Proizvajalec opisuje redki model mešanice ekspertov s skupno 141 milijardami parametrov in 39 milijardami aktivnih parametrov. Objavljena konfiguracija Instruct vsebuje 8 ekspertov, pri čemer sta za vsak žeton izbrana 2, 56 plasti, 48 glav pozornosti za poizvedbe in 8 glav za ključe in vrednosti. Skupno število parametrov in izbrani eksperti opisujejo strukturo modela, ne dolžine odgovora.
Izdaja družine dokumentira kontekst 64K, konkretna konfiguracija Instruct pa največje število položajev nastavi na 65.536. Ta prostor uporabite za skupno ohranitev izvornih odlomkov, pogovora in zahtevanega odgovora. Vprašanje o obsežnem dokumentu lahko zahteva en pogoj iz več razdelkov ter vrne jedrnato tabelo z vsakim mestom v viru. Vključite gradivo, ki določa rezultat, namesto da okno zapolnite z nepovezano vsebino.
Kodiranje pogovora z navodili
Kartica modela se začne s proizvajalčevim razčlenjevalnikom žetonov v3 za navodila, nato pa pokaže oblikovanje sporočil z ustrezno predlogo klepeta. Njegovo objavljeno besedišče ima 32.768 vnosov. Izvorni in združljivi razčlenjevalnik žetonov morata ustvariti ujemajoče se predstavitve sporočil; kartica izrecno obravnava primerjavo njunih kodiranj. To se razlikuje od predpostavke, da je oblika Tekken, ki jo uporabljajo poznejši modeli Mistral, zamenljiva s to izdajo.
V pogovoru razlikujte uporabnikovo vprašanje, prejšnji odgovor pomočnika in morebiten rezultat orodja. Pri nadaljnjem vprašanju ohranite ustrezen prejšnji odgovor. Naloga lahko najprej zahteva razlago izvornega odlomka, nato natančnejšo primerjavo, pri čemer ohrani izvorno vsebino in namen razprave.
Pri večjezičnem urejanju določite izvorni jezik, končni jezik in terminologijo, ki mora ostati nespremenjena. Zahtevajte popravljen odlomek, ki ohrani imena, pogoje in enote. Pri matematičnem problemu opredelite spremenljivke in predpostavke ter določite, ali naj bo končni rezultat natančen izraz, numerični približek ali dokaz. Pri programiranju pred zahtevo za implementacijo ali razlago vključite podpis funkcije, ustrezne deklaracije in pričakovano vedenje.
Klici funkcij in njihovi rezultati
Kartica dokumentira izvorno klicanje funkcij z opisi orodij in shemami parametrov. Aplikacija poda operacije, model pripravi argumente izbrane funkcije, aplikacija pa jo izvede. Vrnjeni rezultat je nato treba dodati pogovoru, da ga model lahko uporabi v naslednjem odgovoru. Kartica opozarja, da en skrajšan primer kode ne prikazuje tega celotnega cikla.
Naloga poizvedovanja naj določi, kateri podatki manjkajo in katera podana funkcija jih lahko vrne. Preden aplikacija izvede operacijo, vključite zahtevane vrednosti ali zahtevajte manjkajoče podatke. Predlagani klic ohranite ločen od dejansko vrnjenih podatkov; končna razlaga se tako lahko sklicuje na pridobljeni rezultat, ne na rezultat, sklepan iz imena orodja.
V proizvajalčevi izvorni obliki pogovora klici orodij in ustrezni rezultati uporabljajo ID-je z natanko devetimi alfanumeričnimi znaki. Razčlenjevalnik žetonov vsebuje tudi posebne oznake za razpoložljiva orodja, klice orodij in rezultate orodij. Pri pripravi pogovora v izvorni obliki ohranite ustrezno predstavitev; vidna predstavitev ovojnice je ločena izbira vmesnika.
Praktični programski in dokumentni izdelki
Pri popravku kode podajte prizadeto funkcijo, vhod, ki razkrije težavo, in pričakovani rezultat. Zahtevajte popravljen odsek, vzrok odstopanja in primere vhodov, ki razločujejo predvideno vedenje. Ustvarjena koda je besedilni izdelek; njeno prevajanje, izvajanje ali uveljavitev v repozitoriju zahteva povezano razvojno okolje.
Pri razlagi dokumenta zahtevajte izjavo, ki odgovarja na vprašanje, in razdelek, ki jo podpira. Primerjava lahko loči skupne pogoje, razlike in nerešene podrobnosti. Za omejen besedilni zapis določite imena polj in obravnavo manjkajočih vrednosti. Prvotna napoved družine opisuje klicanje funkcij skupaj z omejenim izhodom v proizvajalčevi povezani storitvi; te možnosti oblikovanja ostajajo ločene od izvajanja zunanje operacije.
Različica in omejitve ustvarjanja
Kartica za posamezne primere prikazuje proračune ustvarjanja, denimo 64 in 1.000 žetonov. To so predstavitvene nastavitve, ne neodvisne največje zmogljivosti odgovora. Poziv in želeni odgovor ohranite znotraj dejansko nastavljenega konteksta ter zahtevajte dolžino, primerno nalogi.
Ta vnos je besedilna kontrolna točka Instruct v0.1 z oblikovanjem navodil v3. Vida, govora in kontrol hibridnega sklepanja, uvedenih v poznejših družinah Mistral, ji ne pripisujte. Pri pripravi razlage, predloga kode ali odgovora s pomočjo orodij, ki ga potrebuje naslednji korak, ohranite konkretno različico in izvorno gradivo.
POST /v1/messagestextjson, sse| Polje | Vrsta | Zahteva | Vrednosti in omejitve | Privzeto |
|---|---|---|---|---|
Poljemodel | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve mistralai/mixtral-8x22b-instruct | Privzeto— |
Poljemessages | Vrstamessage[] | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljemessages[].role | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve user, assistant | Privzeto— |
Poljemessages[].content | Vrstastring | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljemax_tokens | Vrstainteger | ZahtevaObvezno | Vrednosti in omejitve | Privzeto— |
Poljestream | Vrstaboolean | ZahtevaIzbirno | Vrednosti in omejitve | Privzetofalse |
Besedilo · Besedilo UTF-8
niz messages[].content
| Parameter | Specifikacija |
|---|---|
Parametercontent_type | Specifikacijaapplication/json |
Parameterrequired | Specifikacijamodel, messages, max_tokens |
Parameteroptional_controls | Specifikacijastream |
Parametermaterial_types | Specifikacijatext |
Parametertext_file_material | SpecifikacijaPreberite dejanski dokument UTF-8 in njegovo besedilo vstavite v navedeni vhodni niz ali niz vsebine sporočila. |
Življenjski cikel: synchronous_or_streamed
Tarifni podatki ne dodajajo možnosti zahteve. Podprti parametri so navedeni pri izbrani metodi.
Vsak strošek povežite s prikazanimi pogoji. Za vsak nabor alternativnih nastavitev uporabite eno ceno.
| Nastavitev | Cenovna lestvica | Žetonov konteksta več kot | Žetonov konteksta do vključno | Strošek |
|---|---|---|---|---|
| NastavitevOsnovne cene za žetone | Cenovna lestvicaOsnovna cena | Žetonov konteksta več kot— | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni $0.004 / 1K žetonov Izhod · Izhodni žetoni $0.012 / 1K žetonov Vhod · Branje predpomnilnika $0.0004 / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
| NastavitevRazred 1 glede na dolžino zahteve | Cenovna lestvica— | Žetonov konteksta več kot0 | Žetonov konteksta do vključnoBrez zgornje meje | Strošek Vhod · Vhodni žetoni $0.004 / 1K žetonov Izhod · Izhodni žetoni $0.012 / 1K žetonov Vhod · Branje predpomnilnika $0.0004 / 1K žetonov Vhod · Zapis v predpomnilnik — / 1K žetonov Vhod · Zapis v predpomnilnik, 1 ura — / 1K žetonov |
Ailoot pred zahtevo rezervira ocenjeni znesek. Po rezultatu obračuna končni strošek na podlagi izmerjene porabe. Obračun pretakanja uporablja končni zapis porabe. Kako delujeta rezervacija in obračun →
{\n "model": "mistralai/mixtral-8x22b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mixtral-8x22b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mixtral-8x22b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON ali SSE
Shranite vsak v celoti vrnjen odgovor, datoteko in del vsebine.
Ohranite vse vsebinske bloke, podpise sklepanja in dejanske ID uporabe orodij. Sestavite vse delne spremembe blokov SSE; prvi besedilni blok ni celoten izhod.
Ohranite ID zahtev/odgovorov in glave. Splošni URL za pridobivanje besedilne naloge ni podan.
| Polje | Vrsta |
|---|---|
Poljeid | Vrstastring |
Poljemodel | Vrstastring |
Poljecontent[] | Vrstatext|thinking|tool_use|other content block |
Poljestop_reason | Vrstastring|null |
Poljeusage | Vrstaobject |
| Odgovor | Pogoj | Naslednji korak |
|---|---|---|
Odgovor400 · invalid_request_error | PogojNeveljavna obvezna polja, predstavitev gradiva ali vrednost parametra | Naslednji korakPred novo zahtevo za ustvarjanje popravite navedena polja. |
Ailoot Ultra mistralai/mixtral-8x22b-instruct
Uporabite zgoraj navedene poti metod.
Tehnični primer v angleščini
Repair integer average division\n\nFix this Python function for nonempty numeric lists: def average(values): return sum(values) // len(values). Input [1, 2] must produce 1.5. Return the corrected function and assertions for [1, 2] and [2, 4]. State the nonempty-input assumption rather than inventing an empty-list policy.A focused function correction, two assertions and the retained input assumption.The function must preserve a fractional average and leave the unspecified empty-list behavior undecided.