Inkling-Small ialah model multimodal dengan pemberat terbuka Thinking Machines Lab yang lebih kecil untuk penaakulan, pengekodan, perbualan dan aplikasi yang menggunakan alat. Ia menerima teks, imej dan audio serta menghasilkan teks. Reka bentuk Mixture-of-Expertsnya mempunyai 276 bilion jumlah parameter dengan 12 bilion yang aktif, berbanding Inkling yang mempunyai 975 bilion jumlah parameter dan 41 bilion yang aktif. Small ialah model berasingan yang telah dikeluarkan dengan keseimbangan kecekapan dan keupayaan yang berbeza, bukannya mod output lebih pendek Inkling.
Untuk penyiasatan kod, bekalkan fail yang terjejas, tingkah laku yang diperhatikan dan perubahan yang anda perlukan, kemudian minta laluan yang bertanggungjawab serta pembetulan khusus. Artifak akhir yang berguna menyertakan suntingan yang dicadangkan dan bukti daripada sebarang semakan yang benar-benar dijalankan oleh aplikasi yang disambungkan. Untuk pembantu sokongan, berikan dasar dan fakta perbualan yang berkaitan serta minta respons seterusnya atau soalan yang belum ditanyakan. Penggunaan model yang dimaksudkan termasuk pembantu pengekodan, chatbot, respons yang diperkaya pemerolehan maklumat dan sistem berejen dengan alat aplikasi.
Tetingkap konteksnya sehingga satu juta token. Susun repositori atau koleksi dokumen yang panjang dengan nama fail, label bahagian dan soalan yang jelas, sambil mengekalkan fakta yang mesti digunakan pada peringkat seterusnya. Tetingkap yang besar berguna untuk membandingkan maklumat yang berjauhan, tetapi hasil yang diminta perlu kekal khusus: perubahan kod, penjelasan berasaskan sumber atau medan yang diekstrak. Maklumat baharu atau peribadi perlu berada dalam bukti yang dibekalkan atau hasil pemerolehan maklumat yang dikembalikan, tanpa menganggapnya sebagai sebahagian daripada pengetahuan yang dipelajari.
Usaha pemikiran boleh dikawal. Panduan keluarga pengeluar menggunakan nilai berterusan daripada 0.0 secara inklusif hingga kurang daripada 1.0, dengan pratetap permulaan none, minimal, low, medium, high dan xhigh yang sepadan dengan 0.0, 0.1, 0.2, 0.7, 0.9 dan 0.99. Pemapar pengeluar menggunakan high secara lalai. Usaha yang lebih tinggi boleh menggalakkan lebih banyak penaakulan dan mungkin memerlukan belanjawan penjanaan yang lebih besar, tetapi tidak menjamin jawapan yang lebih panjang atau lebih tepat. Tetapan sifar mengarahkan model ke arah tanpa penaakulan tanpa menguatkuasakan ketiadaan penaakulan secara keras. Pilih usaha mengikut tugasan dan pastikan keperluan output akhir jelas.
Imej boleh menyokong soalan visual, pentafsiran carta atau rajah dan penaakulan matematik daripada maklumat yang kelihatan. Untuk prestasi yang baik, gunakan imej dengan dimensi antara 40 hingga 4,096 piksel. Kekalkan label yang boleh dibaca dan terangkan butiran yang penting. Dengan alat Python yang dikonfigurasi, model boleh menggabungkan penaakulan visual dengan pemangkasan, pengezuman dan pemeriksaan dokumen atau carta secara berprogram. Operasi itu perlu dilaksanakan oleh persekitaran alat yang disambungkan; jawapan bertulis perlu menggunakan pemerhatian yang dikembalikan daripadanya.
Input audio ialah WAV yang disampel pada 16 kHz, dengan rakaman sebaik-baiknya di bawah dua minit untuk prestasi optimum. Ini ialah cadangan penyediaan, bukannya jaminan tempoh yang keras. Gunakan soalan lisan atau klip pendek yang berkaitan dan nyatakan sama ada hasil bertulis perlu mentranskripsikan pertuturan, menjawab soalan tentang rakaman atau mengaitkan kandungannya dengan bahan lain yang dibekalkan. Respons natif ialah teks, bukannya pertuturan yang dijana. Cadangan Inkling yang berasingan untuk audio lebih panjang tidak patut dipindahkan kepada edisi Small.
Aliran kerja yang menggunakan alat memerlukan huraian alat yang bermakna, takrif argumen dan hasil daripada operasi yang dilaksanakan oleh aplikasi. Asingkan hasil carian rujukan, pengiraan atau pemerhatian fail daripada tindakan yang dicadangkan oleh model. Untuk percanggahan carta, kenal pasti label yang berkaitan, periksa nilai yang dibekalkan melalui alat pengiraan dan minta penjelasan yang merujuk nilai tersebut. Model dilatih untuk pelbagai kerangka pengekodan dan ejen, jadi tugasan serta alat yang mengelilinginya perlu dihuraikan tanpa dibiarkan tersirat.
Pemberat terbuka menyokong penyelidikan model, penalaan halus dan integrasi ke dalam produk hiliran. Keluaran Inkling-Small menyusuli titik semak preview terdahulu dan merangkumi latihan tambahan untuk pengekodan berejen; model akhir dan preview itu perlu mengekalkan identiti berasingan. Untuk gaya pengekstrakan atau respons khusus, penyesuaian menggunakan contoh yang mewakili dan tingkah laku sasaran yang jelas. Prompt biasa pula membekalkan konteks untuk permintaan semasa; ia tidak mencipta atau bertukar kepada model yang baru dilatih.
Langkah semakan hasil yang berguna memastikan perubahan kod, transkripsi, fakta yang diekstrak atau respons bertulis yang dicadangkan sepadan dengan bukti yang dibekalkan. Nyatakan cara ketidakpastian dan maklumat yang tiada perlu dipaparkan, khususnya bagi ramalan atau jawapan fakta yang sumbernya tidak lengkap. Pengeluar melatih Inkling-Small untuk penentukuran ramalan menggunakan pembelajaran pengukuhan berdasarkan peraturan pemarkahan wajar bagi soalan dunia sebenar, dengan tujuan menyatakan keyakinan yang sesuai dengan bukti yang tersedia. Simpan bahan dan pemerhatian alat bersama artifak supaya susulan boleh menyemak satu isu tanpa kehilangan tugasan asal. Keupayaan umum berbilang bahasa dan multimodal Inkling-Small kekal berbeza daripada penjana pertuturan khusus atau perkhidmatan tindakan luaran yang dijamin.
", "aboutText": "Inkling-Small ialah model multimodal dengan pemberat terbuka Thinking Machines Lab yang lebih kecil untuk penaakulan, pengekodan, perbualan dan aplikasi yang menggunakan alat. Ia menerima teks, imej dan audio serta menghasilkan teks. Reka bentuk Mixture-of-Expertsnya mempunyai 276 bilion jumlah parameter dengan 12 bilion yang aktif, berbanding Inkling yang mempunyai 975 bilion jumlah parameter dan 41 bilion yang aktif. Small ialah model berasingan yang telah dikeluarkan dengan keseimbangan kecekapan dan keupayaan yang berbeza, bukannya mod output lebih pendek Inkling.\n\nUntuk penyiasatan kod, bekalkan fail yang terjejas, tingkah laku yang diperhatikan dan perubahan yang anda perlukan, kemudian minta laluan yang bertanggungjawab serta pembetulan khusus. Artifak akhir yang berguna menyertakan suntingan yang dicadangkan dan bukti daripada sebarang semakan yang benar-benar dijalankan oleh aplikasi yang disambungkan. Untuk pembantu sokongan, berikan dasar dan fakta perbualan yang berkaitan serta minta respons seterusnya atau soalan yang belum ditanyakan. Penggunaan model yang dimaksudkan termasuk pembantu pengekodan, chatbot, respons yang diperkaya pemerolehan maklumat dan sistem berejen dengan alat aplikasi.\n\nTetingkap konteksnya sehingga satu juta token. Susun repositori atau koleksi dokumen yang panjang dengan nama fail, label bahagian dan soalan yang jelas, sambil mengekalkan fakta yang mesti digunakan pada peringkat seterusnya. Tetingkap yang besar berguna untuk membandingkan maklumat yang berjauhan, tetapi hasil yang diminta perlu kekal khusus: perubahan kod, penjelasan berasaskan sumber atau medan yang diekstrak. Maklumat baharu atau peribadi perlu berada dalam bukti yang dibekalkan atau hasil pemerolehan maklumat yang dikembalikan, tanpa menganggapnya sebagai sebahagian daripada pengetahuan yang dipelajari.\n\nUsaha pemikiran boleh dikawal. Panduan keluarga pengeluar menggunakan nilai berterusan daripada 0.0 secara inklusif hingga kurang daripada 1.0, dengan pratetap permulaan none, minimal, low, medium, high dan xhigh yang sepadan dengan 0.0, 0.1, 0.2, 0.7, 0.9 dan 0.99. Pemapar pengeluar menggunakan high secara lalai. Usaha yang lebih tinggi boleh menggalakkan lebih banyak penaakulan dan mungkin memerlukan belanjawan penjanaan yang lebih besar, tetapi tidak menjamin jawapan yang lebih panjang atau lebih tepat. Tetapan sifar mengarahkan model ke arah tanpa penaakulan tanpa menguatkuasakan ketiadaan penaakulan secara keras. Pilih usaha mengikut tugasan dan pastikan keperluan output akhir jelas.\n\nImej boleh menyokong soalan visual, pentafsiran carta atau rajah dan penaakulan matematik daripada maklumat yang kelihatan. Untuk prestasi yang baik, gunakan imej dengan dimensi antara 40 hingga 4,096 piksel. Kekalkan label yang boleh dibaca dan terangkan butiran yang penting. Dengan alat Python yang dikonfigurasi, model boleh menggabungkan penaakulan visual dengan pemangkasan, pengezuman dan pemeriksaan dokumen atau carta secara berprogram. Operasi itu perlu dilaksanakan oleh persekitaran alat yang disambungkan; jawapan bertulis perlu menggunakan pemerhatian yang dikembalikan daripadanya.\n\nInput audio ialah WAV yang disampel pada 16 kHz, dengan rakaman sebaik-baiknya di bawah dua minit untuk prestasi optimum. Ini ialah cadangan penyediaan, bukannya jaminan tempoh yang keras. Gunakan soalan lisan atau klip pendek yang berkaitan dan nyatakan sama ada hasil bertulis perlu mentranskripsikan pertuturan, menjawab soalan tentang rakaman atau mengaitkan kandungannya dengan bahan lain yang dibekalkan. Respons natif ialah teks, bukannya pertuturan yang dijana. Cadangan Inkling yang berasingan untuk audio lebih panjang tidak patut dipindahkan kepada edisi Small.\n\nAliran kerja yang menggunakan alat memerlukan huraian alat yang bermakna, takrif argumen dan hasil daripada operasi yang dilaksanakan oleh aplikasi. Asingkan hasil carian rujukan, pengiraan atau pemerhatian fail daripada tindakan yang dicadangkan oleh model. Untuk percanggahan carta, kenal pasti label yang berkaitan, periksa nilai yang dibekalkan melalui alat pengiraan dan minta penjelasan yang merujuk nilai tersebut. Model dilatih untuk pelbagai kerangka pengekodan dan ejen, jadi tugasan serta alat yang mengelilinginya perlu dihuraikan tanpa dibiarkan tersirat.\n\nPemberat terbuka menyokong penyelidikan model, penalaan halus dan integrasi ke dalam produk hiliran. Keluaran Inkling-Small menyusuli titik semak preview terdahulu dan merangkumi latihan tambahan untuk pengekodan berejen; model akhir dan preview itu perlu mengekalkan identiti berasingan. Untuk gaya pengekstrakan atau respons khusus, penyesuaian menggunakan contoh yang mewakili dan tingkah laku sasaran yang jelas. Prompt biasa pula membekalkan konteks untuk permintaan semasa; ia tidak mencipta atau bertukar kepada model yang baru dilatih.\n\nLangkah semakan hasil yang berguna memastikan perubahan kod, transkripsi, fakta yang diekstrak atau respons bertulis yang dicadangkan sepadan dengan bukti yang dibekalkan. Nyatakan cara ketidakpastian dan maklumat yang tiada perlu dipaparkan, khususnya bagi ramalan atau jawapan fakta yang sumbernya tidak lengkap. Pengeluar melatih Inkling-Small untuk penentukuran ramalan menggunakan pembelajaran pengukuhan berdasarkan peraturan pemarkahan wajar bagi soalan dunia sebenar, dengan tujuan menyatakan keyakinan yang sesuai dengan bukti yang tersedia. Simpan bahan dan pemerhatian alat bersama artifak supaya susulan boleh menyemak satu isu tanpa kehilangan tugasan asal. Keupayaan umum berbilang bahasa dan multimodal Inkling-Small kekal berbeza daripada penjana pertuturan khusus atau perkhidmatan tindakan luaran yang dijamin.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "3f8790c3121e07de82c024365271874bb14eb48dc1ca32d35689d8e0dfec14da", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "ms", "methods": [ { "html": "thinkingmachines/inkling-small:freeInkling-Small ialah model multimodal berpemberat terbuka untuk pengaturcaraan, penggunaan alat dan penaakulan terhadap teks, imej serta audio. Usaha pemikiran yang boleh dikawal dan konteks besarnya menyokong tugas aplikasi terfokus dengan hasil bertulis, menggunakan model aktif yang lebih kecil daripada Inkling.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Inkling-Small ialah model multimodal dengan pemberat terbuka Thinking Machines Lab yang lebih kecil untuk penaakulan, pengekodan, perbualan dan aplikasi yang menggunakan alat. Ia menerima teks, imej dan audio serta menghasilkan teks. Reka bentuk Mixture-of-Expertsnya mempunyai 276 bilion jumlah parameter dengan 12 bilion yang aktif, berbanding Inkling yang mempunyai 975 bilion jumlah parameter dan 41 bilion yang aktif. Small ialah model berasingan yang telah dikeluarkan dengan keseimbangan kecekapan dan keupayaan yang berbeza, bukannya mod output lebih pendek Inkling.
Untuk penyiasatan kod, bekalkan fail yang terjejas, tingkah laku yang diperhatikan dan perubahan yang anda perlukan, kemudian minta laluan yang bertanggungjawab serta pembetulan khusus. Artifak akhir yang berguna menyertakan suntingan yang dicadangkan dan bukti daripada sebarang semakan yang benar-benar dijalankan oleh aplikasi yang disambungkan. Untuk pembantu sokongan, berikan dasar dan fakta perbualan yang berkaitan serta minta respons seterusnya atau soalan yang belum ditanyakan. Penggunaan model yang dimaksudkan termasuk pembantu pengekodan, chatbot, respons yang diperkaya pemerolehan maklumat dan sistem berejen dengan alat aplikasi.
Tetingkap konteksnya sehingga satu juta token. Susun repositori atau koleksi dokumen yang panjang dengan nama fail, label bahagian dan soalan yang jelas, sambil mengekalkan fakta yang mesti digunakan pada peringkat seterusnya. Tetingkap yang besar berguna untuk membandingkan maklumat yang berjauhan, tetapi hasil yang diminta perlu kekal khusus: perubahan kod, penjelasan berasaskan sumber atau medan yang diekstrak. Maklumat baharu atau peribadi perlu berada dalam bukti yang dibekalkan atau hasil pemerolehan maklumat yang dikembalikan, tanpa menganggapnya sebagai sebahagian daripada pengetahuan yang dipelajari.
Usaha pemikiran boleh dikawal. Panduan keluarga pengeluar menggunakan nilai berterusan daripada 0.0 secara inklusif hingga kurang daripada 1.0, dengan pratetap permulaan none, minimal, low, medium, high dan xhigh yang sepadan dengan 0.0, 0.1, 0.2, 0.7, 0.9 dan 0.99. Pemapar pengeluar menggunakan high secara lalai. Usaha yang lebih tinggi boleh menggalakkan lebih banyak penaakulan dan mungkin memerlukan belanjawan penjanaan yang lebih besar, tetapi tidak menjamin jawapan yang lebih panjang atau lebih tepat. Tetapan sifar mengarahkan model ke arah tanpa penaakulan tanpa menguatkuasakan ketiadaan penaakulan secara keras. Pilih usaha mengikut tugasan dan pastikan keperluan output akhir jelas.
Imej boleh menyokong soalan visual, pentafsiran carta atau rajah dan penaakulan matematik daripada maklumat yang kelihatan. Untuk prestasi yang baik, gunakan imej dengan dimensi antara 40 hingga 4,096 piksel. Kekalkan label yang boleh dibaca dan terangkan butiran yang penting. Dengan alat Python yang dikonfigurasi, model boleh menggabungkan penaakulan visual dengan pemangkasan, pengezuman dan pemeriksaan dokumen atau carta secara berprogram. Operasi itu perlu dilaksanakan oleh persekitaran alat yang disambungkan; jawapan bertulis perlu menggunakan pemerhatian yang dikembalikan daripadanya.
Input audio ialah WAV yang disampel pada 16 kHz, dengan rakaman sebaik-baiknya di bawah dua minit untuk prestasi optimum. Ini ialah cadangan penyediaan, bukannya jaminan tempoh yang keras. Gunakan soalan lisan atau klip pendek yang berkaitan dan nyatakan sama ada hasil bertulis perlu mentranskripsikan pertuturan, menjawab soalan tentang rakaman atau mengaitkan kandungannya dengan bahan lain yang dibekalkan. Respons natif ialah teks, bukannya pertuturan yang dijana. Cadangan Inkling yang berasingan untuk audio lebih panjang tidak patut dipindahkan kepada edisi Small.
Aliran kerja yang menggunakan alat memerlukan huraian alat yang bermakna, takrif argumen dan hasil daripada operasi yang dilaksanakan oleh aplikasi. Asingkan hasil carian rujukan, pengiraan atau pemerhatian fail daripada tindakan yang dicadangkan oleh model. Untuk percanggahan carta, kenal pasti label yang berkaitan, periksa nilai yang dibekalkan melalui alat pengiraan dan minta penjelasan yang merujuk nilai tersebut. Model dilatih untuk pelbagai kerangka pengekodan dan ejen, jadi tugasan serta alat yang mengelilinginya perlu dihuraikan tanpa dibiarkan tersirat.
Pemberat terbuka menyokong penyelidikan model, penalaan halus dan integrasi ke dalam produk hiliran. Keluaran Inkling-Small menyusuli titik semak preview terdahulu dan merangkumi latihan tambahan untuk pengekodan berejen; model akhir dan preview itu perlu mengekalkan identiti berasingan. Untuk gaya pengekstrakan atau respons khusus, penyesuaian menggunakan contoh yang mewakili dan tingkah laku sasaran yang jelas. Prompt biasa pula membekalkan konteks untuk permintaan semasa; ia tidak mencipta atau bertukar kepada model yang baru dilatih.
Langkah semakan hasil yang berguna memastikan perubahan kod, transkripsi, fakta yang diekstrak atau respons bertulis yang dicadangkan sepadan dengan bukti yang dibekalkan. Nyatakan cara ketidakpastian dan maklumat yang tiada perlu dipaparkan, khususnya bagi ramalan atau jawapan fakta yang sumbernya tidak lengkap. Pengeluar melatih Inkling-Small untuk penentukuran ramalan menggunakan pembelajaran pengukuhan berdasarkan peraturan pemarkahan wajar bagi soalan dunia sebenar, dengan tujuan menyatakan keyakinan yang sesuai dengan bukti yang tersedia. Simpan bahan dan pemerhatian alat bersama artifak supaya susulan boleh menyemak satu isu tanpa kehilangan tugasan asal. Keupayaan umum berbilang bahasa dan multimodal Inkling-Small kekal berbeza daripada penjana pertuturan khusus atau perkhidmatan tindakan luaran yang dijamin.
POST /v1/chat/completionstexttext| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had thinkingmachines/inkling-small:free | Lalai— |
Medanmessages | Jenisarray | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had false | Lalaifalse |
Medanmax_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Maksimum: 262,144 | Lalai— |
Medanmax_completion_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Maksimum: 262,144 | Lalai— |
Medann | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Maksimum: 128 | Lalai— |
Medantemperature | Jenisnumber | KeperluanPilihan | Nilai & had | Lalai— |
Medantop_p | Jenisnumber | KeperluanPilihan | Nilai & had | Lalai— |
Medanseed | Jenisinteger | KeperluanPilihan | Nilai & had | Lalai— |
Medanstop | Jenis | KeperluanPilihan | Nilai & had | Lalai— |
Medanfrequency_penalty | Jenisnumber | KeperluanPilihan | Nilai & had | Lalai— |
Medanpresence_penalty | Jenisnumber | KeperluanPilihan | Nilai & had | Lalai— |
Medanuser | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parameteroptional | Kontrakstream, max_tokens, max_completion_tokens, n, temperature, top_p, seed, stop, frequency_penalty, presence_penalty, user |
Parametermaterial_types | Kontraktext |
Parameterconditions | KontrakUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1048576 bytes. |
Kitar hayat: synchronous_json
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
| Konfigurasi | Jadual kadar | Caj |
|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Caj Input · Token input $0 / 1K token Output · Token output $0 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "thinkingmachines/inkling-small:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra thinkingmachines/inkling-small:free
Gunakan laluan kaedah yang dipaparkan di atas.
thinkingmachines/inkling-small:freeInkling-Small ialah model multimodal berpemberat terbuka untuk pengaturcaraan, penggunaan alat dan penaakulan terhadap teks, imej serta audio. Usaha pemikiran yang boleh dikawal dan konteks besarnya menyokong tugas aplikasi terfokus dengan hasil bertulis, menggunakan model aktif yang lebih kecil daripada Inkling.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Inkling-Small ialah model multimodal dengan pemberat terbuka Thinking Machines Lab yang lebih kecil untuk penaakulan, pengekodan, perbualan dan aplikasi yang menggunakan alat. Ia menerima teks, imej dan audio serta menghasilkan teks. Reka bentuk Mixture-of-Expertsnya mempunyai 276 bilion jumlah parameter dengan 12 bilion yang aktif, berbanding Inkling yang mempunyai 975 bilion jumlah parameter dan 41 bilion yang aktif. Small ialah model berasingan yang telah dikeluarkan dengan keseimbangan kecekapan dan keupayaan yang berbeza, bukannya mod output lebih pendek Inkling.
Untuk penyiasatan kod, bekalkan fail yang terjejas, tingkah laku yang diperhatikan dan perubahan yang anda perlukan, kemudian minta laluan yang bertanggungjawab serta pembetulan khusus. Artifak akhir yang berguna menyertakan suntingan yang dicadangkan dan bukti daripada sebarang semakan yang benar-benar dijalankan oleh aplikasi yang disambungkan. Untuk pembantu sokongan, berikan dasar dan fakta perbualan yang berkaitan serta minta respons seterusnya atau soalan yang belum ditanyakan. Penggunaan model yang dimaksudkan termasuk pembantu pengekodan, chatbot, respons yang diperkaya pemerolehan maklumat dan sistem berejen dengan alat aplikasi.
Tetingkap konteksnya sehingga satu juta token. Susun repositori atau koleksi dokumen yang panjang dengan nama fail, label bahagian dan soalan yang jelas, sambil mengekalkan fakta yang mesti digunakan pada peringkat seterusnya. Tetingkap yang besar berguna untuk membandingkan maklumat yang berjauhan, tetapi hasil yang diminta perlu kekal khusus: perubahan kod, penjelasan berasaskan sumber atau medan yang diekstrak. Maklumat baharu atau peribadi perlu berada dalam bukti yang dibekalkan atau hasil pemerolehan maklumat yang dikembalikan, tanpa menganggapnya sebagai sebahagian daripada pengetahuan yang dipelajari.
Usaha pemikiran boleh dikawal. Panduan keluarga pengeluar menggunakan nilai berterusan daripada 0.0 secara inklusif hingga kurang daripada 1.0, dengan pratetap permulaan none, minimal, low, medium, high dan xhigh yang sepadan dengan 0.0, 0.1, 0.2, 0.7, 0.9 dan 0.99. Pemapar pengeluar menggunakan high secara lalai. Usaha yang lebih tinggi boleh menggalakkan lebih banyak penaakulan dan mungkin memerlukan belanjawan penjanaan yang lebih besar, tetapi tidak menjamin jawapan yang lebih panjang atau lebih tepat. Tetapan sifar mengarahkan model ke arah tanpa penaakulan tanpa menguatkuasakan ketiadaan penaakulan secara keras. Pilih usaha mengikut tugasan dan pastikan keperluan output akhir jelas.
Imej boleh menyokong soalan visual, pentafsiran carta atau rajah dan penaakulan matematik daripada maklumat yang kelihatan. Untuk prestasi yang baik, gunakan imej dengan dimensi antara 40 hingga 4,096 piksel. Kekalkan label yang boleh dibaca dan terangkan butiran yang penting. Dengan alat Python yang dikonfigurasi, model boleh menggabungkan penaakulan visual dengan pemangkasan, pengezuman dan pemeriksaan dokumen atau carta secara berprogram. Operasi itu perlu dilaksanakan oleh persekitaran alat yang disambungkan; jawapan bertulis perlu menggunakan pemerhatian yang dikembalikan daripadanya.
Input audio ialah WAV yang disampel pada 16 kHz, dengan rakaman sebaik-baiknya di bawah dua minit untuk prestasi optimum. Ini ialah cadangan penyediaan, bukannya jaminan tempoh yang keras. Gunakan soalan lisan atau klip pendek yang berkaitan dan nyatakan sama ada hasil bertulis perlu mentranskripsikan pertuturan, menjawab soalan tentang rakaman atau mengaitkan kandungannya dengan bahan lain yang dibekalkan. Respons natif ialah teks, bukannya pertuturan yang dijana. Cadangan Inkling yang berasingan untuk audio lebih panjang tidak patut dipindahkan kepada edisi Small.
Aliran kerja yang menggunakan alat memerlukan huraian alat yang bermakna, takrif argumen dan hasil daripada operasi yang dilaksanakan oleh aplikasi. Asingkan hasil carian rujukan, pengiraan atau pemerhatian fail daripada tindakan yang dicadangkan oleh model. Untuk percanggahan carta, kenal pasti label yang berkaitan, periksa nilai yang dibekalkan melalui alat pengiraan dan minta penjelasan yang merujuk nilai tersebut. Model dilatih untuk pelbagai kerangka pengekodan dan ejen, jadi tugasan serta alat yang mengelilinginya perlu dihuraikan tanpa dibiarkan tersirat.
Pemberat terbuka menyokong penyelidikan model, penalaan halus dan integrasi ke dalam produk hiliran. Keluaran Inkling-Small menyusuli titik semak preview terdahulu dan merangkumi latihan tambahan untuk pengekodan berejen; model akhir dan preview itu perlu mengekalkan identiti berasingan. Untuk gaya pengekstrakan atau respons khusus, penyesuaian menggunakan contoh yang mewakili dan tingkah laku sasaran yang jelas. Prompt biasa pula membekalkan konteks untuk permintaan semasa; ia tidak mencipta atau bertukar kepada model yang baru dilatih.
Langkah semakan hasil yang berguna memastikan perubahan kod, transkripsi, fakta yang diekstrak atau respons bertulis yang dicadangkan sepadan dengan bukti yang dibekalkan. Nyatakan cara ketidakpastian dan maklumat yang tiada perlu dipaparkan, khususnya bagi ramalan atau jawapan fakta yang sumbernya tidak lengkap. Pengeluar melatih Inkling-Small untuk penentukuran ramalan menggunakan pembelajaran pengukuhan berdasarkan peraturan pemarkahan wajar bagi soalan dunia sebenar, dengan tujuan menyatakan keyakinan yang sesuai dengan bukti yang tersedia. Simpan bahan dan pemerhatian alat bersama artifak supaya susulan boleh menyemak satu isu tanpa kehilangan tugasan asal. Keupayaan umum berbilang bahasa dan multimodal Inkling-Small kekal berbeza daripada penjana pertuturan khusus atau perkhidmatan tindakan luaran yang dijamin.
POST /v1/messagestexttext| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had thinkingmachines/inkling-small:free | Lalai— |
Medanmessages | Jenisarray | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had false | Lalaifalse |
Medansystem | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanDiperlukan | Nilai & had Minimum: 1 Maksimum: 262,144 | Lalai— |
Medantemperature | Jenisnumber | KeperluanPilihan | Nilai & had | Lalai— |
Medantop_p | Jenisnumber | KeperluanPilihan | Nilai & had | Lalai— |
Medantop_k | Jenisinteger | KeperluanPilihan | Nilai & had | Lalai— |
Medanstop_sequences | Jenisarray | KeperluanPilihan | Nilai & had | Lalai— |
Medanmetadata | Jenisobject | KeperluanPilihan | Nilai & had | Lalai— |
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional | Kontrakstream, system, temperature, top_p, top_k, stop_sequences, metadata |
Parametermaterial_types | Kontraktext |
Parameterconditions | KontrakUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1048576 bytes. |
Kitar hayat: synchronous_json
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
| Konfigurasi | Jadual kadar | Caj |
|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Caj Input · Token input $0 / 1K token Output · Token output $0 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "thinkingmachines/inkling-small:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false, "max_tokens": 256}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra thinkingmachines/inkling-small:free
Gunakan laluan kaedah yang dipaparkan di atas.