Mixtral 8x22B Instruct v0.1 ialah versi Mistral AI yang dilaraskan untuk mengikuti arahan daripada model asas Mixtral 8x22B v0.1 yang dinamakan secara berasingan. Ia menerima perbualan teks dan menghasilkan teks, termasuk penjelasan, kod dan cadangan panggilan fungsi. Keluaran keluarga ini menekankan bahasa Inggeris, Perancis, Itali, Jerman dan Sepanyol bersama keupayaan matematik dan pengekodan.
Pakar jarang dan konteks
Pembuat menerangkan model campuran pakar jarang dengan jumlah 141 bilion parameter dan 39 bilion parameter aktif. Konfigurasi Instruct yang dikeluarkan mengandungi 8 pakar dengan 2 dipilih bagi setiap token, 56 lapisan, 48 kepala perhatian pertanyaan dan 8 kepala kunci/nilai. Jumlah parameter dan pakar terpilih menerangkan struktur model dan bukannya panjang respons.
Keluaran keluarga mendokumentasikan konteks 64K, dan konfigurasi Instruct yang tepat menetapkan kedudukan maksimum kepada 65,536. Gunakan ruang itu untuk mengekalkan petikan sumber, perbualan dan jawapan yang diminta bersama. Soalan dokumen besar boleh bertanya satu syarat merentas beberapa bahagian sambil mengembalikan jadual ringkas dengan setiap lokasi sumber. Sertakan bahan yang menentukan hasil dan jangan isi tetingkap dengan kandungan yang tidak berkaitan.
Pengekodan perbualan arahan
Kad model bermula dengan pentoken arahan v3 pembuat dan kemudian menunjukkan cara memformat mesej dengan templat sembang yang sepadan. Kosa kata yang dikeluarkan mempunyai 32,768 entri. Pentoken asli dan pentoken serasi perlu menghasilkan perwakilan mesej yang sepadan; kad model membincangkan perbandingan pengekodannya secara jelas. Ini berbeza daripada menganggap format Tekken yang digunakan oleh model Mistral kemudian boleh saling ditukar dengan keluaran ini.
Untuk perbualan, bezakan soalan pengguna, jawapan pembantu terdahulu dan sebarang hasil alat. Kekalkan jawapan terdahulu yang relevan apabila bertanya soalan susulan. Tugas boleh terlebih dahulu meminta penjelasan petikan sumber dan kemudian meminta perbandingan yang lebih khusus, sambil mengekalkan kandungan sumber dan tujuan perbincangan.
Untuk penyuntingan berbilang bahasa, kenal pasti bahasa sumber, bahasa akhir dan istilah yang mesti dikekalkan tanpa perubahan. Minta petikan semakan yang mengekalkan nama, syarat dan unit. Untuk masalah matematik, takrifkan pemboleh ubah dan andaian serta nyatakan sama ada hasil akhir perlu berupa ungkapan tepat, penghampiran berangka atau bukti. Untuk pengekodan, sertakan tandatangan fungsi, pengisytiharan berkaitan dan tingkah laku yang dijangka sebelum meminta pelaksanaan atau penjelasan.
Panggilan fungsi dan hasilnya
Kad model mendokumentasikan panggilan fungsi asli dengan perihalan alat dan skema parameter. Aplikasi membekalkan operasi, model menyediakan argumen fungsi yang dipilih dan aplikasi melaksanakannya. Hasil yang dikembalikan kemudian mesti ditambah kepada perbualan supaya model boleh menggunakannya dalam jawapan seterusnya. Kad model mengingatkan bahawa satu contoh kod yang dipendekkan tidak menunjukkan kitaran lengkap ini.
Tugas carian perlu mengenal pasti maklumat yang tiada dan fungsi yang diberikan yang boleh mengembalikannya. Sertakan nilai yang diperlukan atau minta maklumat yang tiada sebelum aplikasi melaksanakan operasi. Kekalkan panggilan yang dicadangkan secara berasingan daripada data sebenar yang dikembalikan; penjelasan akhir kemudian boleh merujuk hasil yang diperoleh dan bukannya hasil yang disimpulkan daripada nama alat.
Dalam format perbualan asli pembuat, panggilan alat dan hasil yang sepadan menggunakan ID sepanjang tepat sembilan aksara abjad angka. Pentoken turut mengandungi penanda khas untuk alat tersedia, panggilan alat dan hasil alat. Kekalkan perwakilan yang sepadan semasa menyediakan perbualan berformat asli; perwakilan yang kelihatan dalam pembalut ialah pilihan antara muka yang berasingan.
Artifak pengekodan dan dokumen praktikal
Untuk pembetulan kod, berikan fungsi yang terjejas, input yang mendedahkan masalah dan hasil yang dijangka. Minta fragmen semakan, punca percanggahan dan contoh input yang membezakan tingkah laku yang dimaksudkan. Penjanaan kod ialah artifak teks; penyusunan, pelaksanaan atau penerapannya pada repositori memerlukan persekitaran pembangunan yang disambungkan.
Untuk penjelasan dokumen, minta pernyataan yang menjawab soalan dan bahagian yang menyokongnya. Perbandingan boleh memisahkan syarat bersama, perbezaan dan butiran yang belum diselesaikan. Untuk rekod teks terkekang, takrifkan nama medan dan cara menangani nilai yang tiada. Pengumuman asal keluarga menerangkan panggilan fungsi bersama output terkekang dalam perkhidmatan pembuat yang disambungkan; kemudahan pemformatan itu kekal berbeza daripada pelaksanaan operasi luaran.
Had edisi dan penjanaan
Kad model menunjukkan bajet penjanaan seperti 64 dan 1,000 token untuk contoh tertentu. Itu tetapan demonstrasi, bukannya kapasiti jawapan maksimum yang berasingan. Kekalkan prom dan jawapan yang diingini dalam konteks terkonfigurasi sebenar dan minta panjang yang sesuai dengan tugas.
Entri ini ialah titik semak Instruct v0.1 berasaskan teks dengan pemformatan arahan v3. Penglihatan, pertuturan dan kawalan penaakulan hibrid yang diperkenalkan dalam keluarga Mistral kemudian tidak patut dikaitkan dengannya. Kekalkan edisi tepat dan bahan sumber semasa menyediakan penjelasan, cadangan kod atau jawapan berbantukan alat yang diperlukan oleh langkah seterusnya.
", "aboutText": "Mixtral 8x22B Instruct v0.1 ialah versi Mistral AI yang dilaraskan untuk mengikuti arahan daripada model asas Mixtral 8x22B v0.1 yang dinamakan secara berasingan. Ia menerima perbualan teks dan menghasilkan teks, termasuk penjelasan, kod dan cadangan panggilan fungsi. Keluaran keluarga ini menekankan bahasa Inggeris, Perancis, Itali, Jerman dan Sepanyol bersama keupayaan matematik dan pengekodan.\n\nPakar jarang dan konteks\n\nPembuat menerangkan model campuran pakar jarang dengan jumlah 141 bilion parameter dan 39 bilion parameter aktif. Konfigurasi Instruct yang dikeluarkan mengandungi 8 pakar dengan 2 dipilih bagi setiap token, 56 lapisan, 48 kepala perhatian pertanyaan dan 8 kepala kunci/nilai. Jumlah parameter dan pakar terpilih menerangkan struktur model dan bukannya panjang respons.\n\nKeluaran keluarga mendokumentasikan konteks 64K, dan konfigurasi Instruct yang tepat menetapkan kedudukan maksimum kepada 65,536. Gunakan ruang itu untuk mengekalkan petikan sumber, perbualan dan jawapan yang diminta bersama. Soalan dokumen besar boleh bertanya satu syarat merentas beberapa bahagian sambil mengembalikan jadual ringkas dengan setiap lokasi sumber. Sertakan bahan yang menentukan hasil dan jangan isi tetingkap dengan kandungan yang tidak berkaitan.\n\nPengekodan perbualan arahan\n\nKad model bermula dengan pentoken arahan v3 pembuat dan kemudian menunjukkan cara memformat mesej dengan templat sembang yang sepadan. Kosa kata yang dikeluarkan mempunyai 32,768 entri. Pentoken asli dan pentoken serasi perlu menghasilkan perwakilan mesej yang sepadan; kad model membincangkan perbandingan pengekodannya secara jelas. Ini berbeza daripada menganggap format Tekken yang digunakan oleh model Mistral kemudian boleh saling ditukar dengan keluaran ini.\n\nUntuk perbualan, bezakan soalan pengguna, jawapan pembantu terdahulu dan sebarang hasil alat. Kekalkan jawapan terdahulu yang relevan apabila bertanya soalan susulan. Tugas boleh terlebih dahulu meminta penjelasan petikan sumber dan kemudian meminta perbandingan yang lebih khusus, sambil mengekalkan kandungan sumber dan tujuan perbincangan.\n\nUntuk penyuntingan berbilang bahasa, kenal pasti bahasa sumber, bahasa akhir dan istilah yang mesti dikekalkan tanpa perubahan. Minta petikan semakan yang mengekalkan nama, syarat dan unit. Untuk masalah matematik, takrifkan pemboleh ubah dan andaian serta nyatakan sama ada hasil akhir perlu berupa ungkapan tepat, penghampiran berangka atau bukti. Untuk pengekodan, sertakan tandatangan fungsi, pengisytiharan berkaitan dan tingkah laku yang dijangka sebelum meminta pelaksanaan atau penjelasan.\n\nPanggilan fungsi dan hasilnya\n\nKad model mendokumentasikan panggilan fungsi asli dengan perihalan alat dan skema parameter. Aplikasi membekalkan operasi, model menyediakan argumen fungsi yang dipilih dan aplikasi melaksanakannya. Hasil yang dikembalikan kemudian mesti ditambah kepada perbualan supaya model boleh menggunakannya dalam jawapan seterusnya. Kad model mengingatkan bahawa satu contoh kod yang dipendekkan tidak menunjukkan kitaran lengkap ini.\n\nTugas carian perlu mengenal pasti maklumat yang tiada dan fungsi yang diberikan yang boleh mengembalikannya. Sertakan nilai yang diperlukan atau minta maklumat yang tiada sebelum aplikasi melaksanakan operasi. Kekalkan panggilan yang dicadangkan secara berasingan daripada data sebenar yang dikembalikan; penjelasan akhir kemudian boleh merujuk hasil yang diperoleh dan bukannya hasil yang disimpulkan daripada nama alat.\n\nDalam format perbualan asli pembuat, panggilan alat dan hasil yang sepadan menggunakan ID sepanjang tepat sembilan aksara abjad angka. Pentoken turut mengandungi penanda khas untuk alat tersedia, panggilan alat dan hasil alat. Kekalkan perwakilan yang sepadan semasa menyediakan perbualan berformat asli; perwakilan yang kelihatan dalam pembalut ialah pilihan antara muka yang berasingan.\n\nArtifak pengekodan dan dokumen praktikal\n\nUntuk pembetulan kod, berikan fungsi yang terjejas, input yang mendedahkan masalah dan hasil yang dijangka. Minta fragmen semakan, punca percanggahan dan contoh input yang membezakan tingkah laku yang dimaksudkan. Penjanaan kod ialah artifak teks; penyusunan, pelaksanaan atau penerapannya pada repositori memerlukan persekitaran pembangunan yang disambungkan.\n\nUntuk penjelasan dokumen, minta pernyataan yang menjawab soalan dan bahagian yang menyokongnya. Perbandingan boleh memisahkan syarat bersama, perbezaan dan butiran yang belum diselesaikan. Untuk rekod teks terkekang, takrifkan nama medan dan cara menangani nilai yang tiada. Pengumuman asal keluarga menerangkan panggilan fungsi bersama output terkekang dalam perkhidmatan pembuat yang disambungkan; kemudahan pemformatan itu kekal berbeza daripada pelaksanaan operasi luaran.\n\nHad edisi dan penjanaan\n\nKad model menunjukkan bajet penjanaan seperti 64 dan 1,000 token untuk contoh tertentu. Itu tetapan demonstrasi, bukannya kapasiti jawapan maksimum yang berasingan. Kekalkan prom dan jawapan yang diingini dalam konteks terkonfigurasi sebenar dan minta panjang yang sesuai dengan tugas.\n\nEntri ini ialah titik semak Instruct v0.1 berasaskan teks dengan pemformatan arahan v3. Penglihatan, pertuturan dan kawalan penaakulan hibrid yang diperkenalkan dalam keluarga Mistral kemudian tidak patut dikaitkan dengannya. Kekalkan edisi tepat dan bahan sumber semasa menyediakan penjelasan, cadangan kod atau jawapan berbantukan alat yang diperlukan oleh langkah seterusnya.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknikal dalam bahasa Inggeris
Repair integer average division\n\nFix this Python function for nonempty numeric lists: def average(values): return sum(values) // len(values). Input [1, 2] must produce 1.5. Return the corrected function and assertions for [1, 2] and [2, 4]. State the nonempty-input assumption rather than inventing an empty-list policy.A focused function correction, two assertions and the retained input assumption.The function must preserve a fractional average and leave the unspecified empty-list behavior undecided.mistralai/mixtral-8x22b-instructMixtral 8x22B Instruct v0.1 ialah model teks berbilang bahasa untuk perbualan, matematik, kod dan panggilan fungsi. Seni bina campuran pakar jarangnya menggunakan 39B parameter aktif daripada jumlah 141B, dengan konteks 64K yang dinyatakan oleh pembuat dan format arahan v3 yang tersendiri.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Mixtral 8x22B Instruct v0.1 ialah versi Mistral AI yang dilaraskan untuk mengikuti arahan daripada model asas Mixtral 8x22B v0.1 yang dinamakan secara berasingan. Ia menerima perbualan teks dan menghasilkan teks, termasuk penjelasan, kod dan cadangan panggilan fungsi. Keluaran keluarga ini menekankan bahasa Inggeris, Perancis, Itali, Jerman dan Sepanyol bersama keupayaan matematik dan pengekodan.
Pakar jarang dan konteks
Pembuat menerangkan model campuran pakar jarang dengan jumlah 141 bilion parameter dan 39 bilion parameter aktif. Konfigurasi Instruct yang dikeluarkan mengandungi 8 pakar dengan 2 dipilih bagi setiap token, 56 lapisan, 48 kepala perhatian pertanyaan dan 8 kepala kunci/nilai. Jumlah parameter dan pakar terpilih menerangkan struktur model dan bukannya panjang respons.
Keluaran keluarga mendokumentasikan konteks 64K, dan konfigurasi Instruct yang tepat menetapkan kedudukan maksimum kepada 65,536. Gunakan ruang itu untuk mengekalkan petikan sumber, perbualan dan jawapan yang diminta bersama. Soalan dokumen besar boleh bertanya satu syarat merentas beberapa bahagian sambil mengembalikan jadual ringkas dengan setiap lokasi sumber. Sertakan bahan yang menentukan hasil dan jangan isi tetingkap dengan kandungan yang tidak berkaitan.
Pengekodan perbualan arahan
Kad model bermula dengan pentoken arahan v3 pembuat dan kemudian menunjukkan cara memformat mesej dengan templat sembang yang sepadan. Kosa kata yang dikeluarkan mempunyai 32,768 entri. Pentoken asli dan pentoken serasi perlu menghasilkan perwakilan mesej yang sepadan; kad model membincangkan perbandingan pengekodannya secara jelas. Ini berbeza daripada menganggap format Tekken yang digunakan oleh model Mistral kemudian boleh saling ditukar dengan keluaran ini.
Untuk perbualan, bezakan soalan pengguna, jawapan pembantu terdahulu dan sebarang hasil alat. Kekalkan jawapan terdahulu yang relevan apabila bertanya soalan susulan. Tugas boleh terlebih dahulu meminta penjelasan petikan sumber dan kemudian meminta perbandingan yang lebih khusus, sambil mengekalkan kandungan sumber dan tujuan perbincangan.
Untuk penyuntingan berbilang bahasa, kenal pasti bahasa sumber, bahasa akhir dan istilah yang mesti dikekalkan tanpa perubahan. Minta petikan semakan yang mengekalkan nama, syarat dan unit. Untuk masalah matematik, takrifkan pemboleh ubah dan andaian serta nyatakan sama ada hasil akhir perlu berupa ungkapan tepat, penghampiran berangka atau bukti. Untuk pengekodan, sertakan tandatangan fungsi, pengisytiharan berkaitan dan tingkah laku yang dijangka sebelum meminta pelaksanaan atau penjelasan.
Panggilan fungsi dan hasilnya
Kad model mendokumentasikan panggilan fungsi asli dengan perihalan alat dan skema parameter. Aplikasi membekalkan operasi, model menyediakan argumen fungsi yang dipilih dan aplikasi melaksanakannya. Hasil yang dikembalikan kemudian mesti ditambah kepada perbualan supaya model boleh menggunakannya dalam jawapan seterusnya. Kad model mengingatkan bahawa satu contoh kod yang dipendekkan tidak menunjukkan kitaran lengkap ini.
Tugas carian perlu mengenal pasti maklumat yang tiada dan fungsi yang diberikan yang boleh mengembalikannya. Sertakan nilai yang diperlukan atau minta maklumat yang tiada sebelum aplikasi melaksanakan operasi. Kekalkan panggilan yang dicadangkan secara berasingan daripada data sebenar yang dikembalikan; penjelasan akhir kemudian boleh merujuk hasil yang diperoleh dan bukannya hasil yang disimpulkan daripada nama alat.
Dalam format perbualan asli pembuat, panggilan alat dan hasil yang sepadan menggunakan ID sepanjang tepat sembilan aksara abjad angka. Pentoken turut mengandungi penanda khas untuk alat tersedia, panggilan alat dan hasil alat. Kekalkan perwakilan yang sepadan semasa menyediakan perbualan berformat asli; perwakilan yang kelihatan dalam pembalut ialah pilihan antara muka yang berasingan.
Artifak pengekodan dan dokumen praktikal
Untuk pembetulan kod, berikan fungsi yang terjejas, input yang mendedahkan masalah dan hasil yang dijangka. Minta fragmen semakan, punca percanggahan dan contoh input yang membezakan tingkah laku yang dimaksudkan. Penjanaan kod ialah artifak teks; penyusunan, pelaksanaan atau penerapannya pada repositori memerlukan persekitaran pembangunan yang disambungkan.
Untuk penjelasan dokumen, minta pernyataan yang menjawab soalan dan bahagian yang menyokongnya. Perbandingan boleh memisahkan syarat bersama, perbezaan dan butiran yang belum diselesaikan. Untuk rekod teks terkekang, takrifkan nama medan dan cara menangani nilai yang tiada. Pengumuman asal keluarga menerangkan panggilan fungsi bersama output terkekang dalam perkhidmatan pembuat yang disambungkan; kemudahan pemformatan itu kekal berbeza daripada pelaksanaan operasi luaran.
Had edisi dan penjanaan
Kad model menunjukkan bajet penjanaan seperti 64 dan 1,000 token untuk contoh tertentu. Itu tetapan demonstrasi, bukannya kapasiti jawapan maksimum yang berasingan. Kekalkan prom dan jawapan yang diingini dalam konteks terkonfigurasi sebenar dan minta panjang yang sesuai dengan tugas.
Entri ini ialah titik semak Instruct v0.1 berasaskan teks dengan pemformatan arahan v3. Penglihatan, pertuturan dan kawalan penaakulan hibrid yang diperkenalkan dalam keluarga Mistral kemudian tidak patut dikaitkan dengannya. Kekalkan edisi tepat dan bahan sumber semasa menyediakan penjelasan, cadangan kod atau jawapan berbantukan alat yang diperlukan oleh langkah seterusnya.
POST /v1/chat/completionstexttext| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had mistralai/mixtral-8x22b-instruct | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had Contoh: system, user, assistant, tool, function Syarat: Peranan ini diwakili secara eksplisit oleh jenis keserasian dalam kod sumber; set peranan model yang tepat kekal khusus untuk setiap model. Bergantung pada model | Lalai— |
Medanmessages[].content | Jenisstring|content_part[]|null | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_calls | Jenistool_call[] | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_call_id | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: role=tool; gunakan ID sebenar yang dipulangkan | Lalai— |
Medanmessages[].name | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].reasoning_content | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: Hantar semula penaakulan sebenar yang dipulangkan apabila model ini menggunakannya | Lalai— |
Medanmessages[].reasoning_details | Jenisobject|array | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanmax_completion_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Medanstream_options.include_usage | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantemperature | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantop_p | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanstop | Jenisstring|string[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools | Jenisfunction_tool[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools[].type | Jenisstring | KeperluanPilihan | Nilai & had function Bergantung pada model | Lalai— |
Medantools[].function.name | Jenisstring | KeperluanDiperlukan | Nilai & had Terpakai apabila: alat fungsi dibekalkan | Lalai— |
Medantools[].function.description | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medantools[].function.parameters | JenisJSON_schema | KeperluanPilihan | Nilai & had | Lalai— |
Medantool_choice | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanparallel_tool_calls | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanresponse_format | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning_effort | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanservice_tier | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medaninstructions | Jenisstring | KeperluanPilihan | Nilai & had Medan keserasian | Lalai— |
Medanfunctions | Jenisfunction[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanfunction_call | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanprompt_cache_options | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmodalities | Jenisstring[] | KeperluanPilihan | Nilai & had text | Lalai— |
Medanprovider | Jenisobject | KeperluanPilihan | Nilai & had Syarat: provider.options ditolak pada laluan teks Ultra ini | Lalai— |
Medancache_control.ttl | Jenisstring | KeperluanPilihan | Nilai & had Syarat: 1h ditolak pada lokasi cache prompt yang digunakan | Lalai— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontraktatasusunan mesej dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 sebenar dimasukkan sebagai teks literal; ID fail tidak diandaikan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeza daripada alat yang dihoskan |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Kitar hayat: synchronous_or_streamed
Hantar ID model yang tepat bersama messages.
Panjang konteks bukan had output.
Fail teks boleh membekalkan teks literal; input imej/audio/objek fail memerlukan pengikatan tepat.
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.004 / 1K token Output · Token output $0.012 / 1K token Input · Bacaan cache $0.0004 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.004 / 1K token Output · Token output $0.012 / 1K token Input · Bacaan cache $0.0004 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "mistralai/mixtral-8x22b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='mistralai/mixtral-8x22b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='mistralai/mixtral-8x22b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan setiap pilihan jawapan bersama kandungan, panggilan alat dan penaakulannya. Dalam SSE, gabungkan delta mengikut indeks pilihan jawapan/alat dan kekalkan sebab penamatan akhir serta data penggunaan.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanchoices[].index | Jenisinteger |
Medanchoices[].message.content | Jenisstring|null |
Medanchoices[].message.tool_calls | Jenistool_call[] |
Medanchoices[].message.reasoning_content | Jenisstring |
Medanchoices[].message.reasoning_details | Jenisobject|array |
Medanchoices[].finish_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra mistralai/mixtral-8x22b-instruct
Gunakan laluan kaedah yang dipaparkan di atas.
mistralai/mixtral-8x22b-instructMixtral 8x22B Instruct v0.1 ialah model teks berbilang bahasa untuk perbualan, matematik, kod dan panggilan fungsi. Seni bina campuran pakar jarangnya menggunakan 39B parameter aktif daripada jumlah 141B, dengan konteks 64K yang dinyatakan oleh pembuat dan format arahan v3 yang tersendiri.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Mixtral 8x22B Instruct v0.1 ialah versi Mistral AI yang dilaraskan untuk mengikuti arahan daripada model asas Mixtral 8x22B v0.1 yang dinamakan secara berasingan. Ia menerima perbualan teks dan menghasilkan teks, termasuk penjelasan, kod dan cadangan panggilan fungsi. Keluaran keluarga ini menekankan bahasa Inggeris, Perancis, Itali, Jerman dan Sepanyol bersama keupayaan matematik dan pengekodan.
Pakar jarang dan konteks
Pembuat menerangkan model campuran pakar jarang dengan jumlah 141 bilion parameter dan 39 bilion parameter aktif. Konfigurasi Instruct yang dikeluarkan mengandungi 8 pakar dengan 2 dipilih bagi setiap token, 56 lapisan, 48 kepala perhatian pertanyaan dan 8 kepala kunci/nilai. Jumlah parameter dan pakar terpilih menerangkan struktur model dan bukannya panjang respons.
Keluaran keluarga mendokumentasikan konteks 64K, dan konfigurasi Instruct yang tepat menetapkan kedudukan maksimum kepada 65,536. Gunakan ruang itu untuk mengekalkan petikan sumber, perbualan dan jawapan yang diminta bersama. Soalan dokumen besar boleh bertanya satu syarat merentas beberapa bahagian sambil mengembalikan jadual ringkas dengan setiap lokasi sumber. Sertakan bahan yang menentukan hasil dan jangan isi tetingkap dengan kandungan yang tidak berkaitan.
Pengekodan perbualan arahan
Kad model bermula dengan pentoken arahan v3 pembuat dan kemudian menunjukkan cara memformat mesej dengan templat sembang yang sepadan. Kosa kata yang dikeluarkan mempunyai 32,768 entri. Pentoken asli dan pentoken serasi perlu menghasilkan perwakilan mesej yang sepadan; kad model membincangkan perbandingan pengekodannya secara jelas. Ini berbeza daripada menganggap format Tekken yang digunakan oleh model Mistral kemudian boleh saling ditukar dengan keluaran ini.
Untuk perbualan, bezakan soalan pengguna, jawapan pembantu terdahulu dan sebarang hasil alat. Kekalkan jawapan terdahulu yang relevan apabila bertanya soalan susulan. Tugas boleh terlebih dahulu meminta penjelasan petikan sumber dan kemudian meminta perbandingan yang lebih khusus, sambil mengekalkan kandungan sumber dan tujuan perbincangan.
Untuk penyuntingan berbilang bahasa, kenal pasti bahasa sumber, bahasa akhir dan istilah yang mesti dikekalkan tanpa perubahan. Minta petikan semakan yang mengekalkan nama, syarat dan unit. Untuk masalah matematik, takrifkan pemboleh ubah dan andaian serta nyatakan sama ada hasil akhir perlu berupa ungkapan tepat, penghampiran berangka atau bukti. Untuk pengekodan, sertakan tandatangan fungsi, pengisytiharan berkaitan dan tingkah laku yang dijangka sebelum meminta pelaksanaan atau penjelasan.
Panggilan fungsi dan hasilnya
Kad model mendokumentasikan panggilan fungsi asli dengan perihalan alat dan skema parameter. Aplikasi membekalkan operasi, model menyediakan argumen fungsi yang dipilih dan aplikasi melaksanakannya. Hasil yang dikembalikan kemudian mesti ditambah kepada perbualan supaya model boleh menggunakannya dalam jawapan seterusnya. Kad model mengingatkan bahawa satu contoh kod yang dipendekkan tidak menunjukkan kitaran lengkap ini.
Tugas carian perlu mengenal pasti maklumat yang tiada dan fungsi yang diberikan yang boleh mengembalikannya. Sertakan nilai yang diperlukan atau minta maklumat yang tiada sebelum aplikasi melaksanakan operasi. Kekalkan panggilan yang dicadangkan secara berasingan daripada data sebenar yang dikembalikan; penjelasan akhir kemudian boleh merujuk hasil yang diperoleh dan bukannya hasil yang disimpulkan daripada nama alat.
Dalam format perbualan asli pembuat, panggilan alat dan hasil yang sepadan menggunakan ID sepanjang tepat sembilan aksara abjad angka. Pentoken turut mengandungi penanda khas untuk alat tersedia, panggilan alat dan hasil alat. Kekalkan perwakilan yang sepadan semasa menyediakan perbualan berformat asli; perwakilan yang kelihatan dalam pembalut ialah pilihan antara muka yang berasingan.
Artifak pengekodan dan dokumen praktikal
Untuk pembetulan kod, berikan fungsi yang terjejas, input yang mendedahkan masalah dan hasil yang dijangka. Minta fragmen semakan, punca percanggahan dan contoh input yang membezakan tingkah laku yang dimaksudkan. Penjanaan kod ialah artifak teks; penyusunan, pelaksanaan atau penerapannya pada repositori memerlukan persekitaran pembangunan yang disambungkan.
Untuk penjelasan dokumen, minta pernyataan yang menjawab soalan dan bahagian yang menyokongnya. Perbandingan boleh memisahkan syarat bersama, perbezaan dan butiran yang belum diselesaikan. Untuk rekod teks terkekang, takrifkan nama medan dan cara menangani nilai yang tiada. Pengumuman asal keluarga menerangkan panggilan fungsi bersama output terkekang dalam perkhidmatan pembuat yang disambungkan; kemudahan pemformatan itu kekal berbeza daripada pelaksanaan operasi luaran.
Had edisi dan penjanaan
Kad model menunjukkan bajet penjanaan seperti 64 dan 1,000 token untuk contoh tertentu. Itu tetapan demonstrasi, bukannya kapasiti jawapan maksimum yang berasingan. Kekalkan prom dan jawapan yang diingini dalam konteks terkonfigurasi sebenar dan minta panjang yang sesuai dengan tugas.
Entri ini ialah titik semak Instruct v0.1 berasaskan teks dengan pemformatan arahan v3. Penglihatan, pertuturan dan kawalan penaakulan hibrid yang diperkenalkan dalam keluarga Mistral kemudian tidak patut dikaitkan dengannya. Kekalkan edisi tepat dan bahan sumber semasa menyediakan penjelasan, cadangan kod atau jawapan berbantukan alat yang diperlukan oleh langkah seterusnya.
POST /v1/messagestextjson, sse| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had mistralai/mixtral-8x22b-instruct | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had user, assistant | Lalai— |
Medanmessages[].content | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Teks · Teks UTF-8
rentetan messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 sebenar dan letakkan teksnya dalam rentetan input atau kandungan mesej yang ditunjukkan. |
Kitar hayat: synchronous_or_streamed
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.004 / 1K token Output · Token output $0.012 / 1K token Input · Bacaan cache $0.0004 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.004 / 1K token Output · Token output $0.012 / 1K token Input · Bacaan cache $0.0004 / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
{\n "model": "mistralai/mixtral-8x22b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mixtral-8x22b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'mistralai/mixtral-8x22b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan semua blok kandungan, tandatangan penaakulan dan ID penggunaan alat sebenar. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan output.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medancontent[] | Jenistext|thinking|tool_use|other content block |
Medanstop_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra mistralai/mixtral-8x22b-instruct
Gunakan laluan kaedah yang dipaparkan di atas.
Contoh teknikal dalam bahasa Inggeris
Repair integer average division\n\nFix this Python function for nonempty numeric lists: def average(values): return sum(values) // len(values). Input [1, 2] must produce 1.5. Return the corrected function and assertions for [1, 2] and [2, 4]. State the nonempty-input assumption rather than inventing an empty-list policy.A focused function correction, two assertions and the retained input assumption.The function must preserve a fractional average and leave the unspecified empty-list behavior undecided.