Command R7B ialah model teks kompak Cohere keluaran Disember 2024. Seni binanya dengan 7 bilion parameter direka untuk penaakulan, peringkasan, soal jawab, pengekodan dan bantuan perusahaan. Pembangun turut melatihnya untuk penjanaan yang diperkaya dengan dapatan carian dan penggunaan pelbagai alat merentas beberapa langkah. Model ini menerima teks dan menjana teks, dengan konteks 128K dan output maksimum 4,000 token dalam profil pengeluar yang diterbitkan.
Model ini menggunakan transformer autoregresif dengan penalaan halus terselia dan latihan keutamaan. Corak perhatiannya menggabungkan tiga lapisan tetingkap gelongsor setempat, menggunakan tetingkap 4,096 token dengan pengekodan kedudukan putaran, bersama satu lapisan perhatian global. Model dilatih dalam 23 bahasa, termasuk bahasa Rusia, Inggeris dan bahasa yang disenaraikan dalam kad model tepat itu.
Pengeluar membezakan mukadimah perbualan dan arahan. Penggunaan perbualan menambah tingkah laku dialog, pengenalan, soalan susulan dan pemformatan seperti Markdown. Penggunaan arahan menyasarkan respons ringkas tetapi lengkap untuk pengekstrakan, peringkasan, terjemahan dan pengkategorian, tanpa Markdown atau LaTeX secara lalai. Model yang diterbitkan dibekalkan tanpa mukadimah sistem, maka pembangun mengesyorkan penyediaan mukadimah yang sesuai untuk tugasan.
Untuk aliran kerja pengelasan, berikan takrif kategori dan beritahu model cara mengendalikan item yang tidak sesuai dengan mana-mana kategori. Untuk respons sokongan, berikan soalan dan bahan produk yang diluluskan, kemudian minta jawapan dalam bahasa pengguna. Spesifikasi output yang jelas mengelakkan tambahan perbualan menjadi medan tidak sengaja dalam rekod data.
R7B dilatih untuk langkah jawapan akhir dalam penjanaan yang diperkaya dengan dapatan carian. Templat pengeluarnya menggabungkan perbualan dengan cebisan dokumen yang dibekalkan. Pembangun mengesyorkan cebisan pendek, lazimnya 100–400 perkataan, yang diwakili dengan kunci penerangan pendek dan nilai teks atau separa berstruktur. Pembangun turut mengesyorkan penilaian sama ada meletakkan dokumen berkaitan terus dalam mesej pengguna lebih baik untuk kes penggunaan tertentu.
Contoh tugasan ialah: “Gunakan petikan bernama ini untuk menjawab soalan, kenal pasti pernyataan yang menyokong jawapan dan tandakan maklumat yang tidak terkandung dalam petikan.” Kekalkan tajuk dan unit supaya fakta yang diekstrak boleh disemak dengan bahan asal. Aplikasi mendapatkan atau membekalkan dokumen; model menjana jawapan daripada konteks itu.
Contoh penggunaan alat pembangun membekalkan takrif fungsi dengan skema JSON serta mengekalkan panggilan yang dipilih, pelan dan hasilnya dalam perbualan. Setiap hasil ialah kamus yang dikaitkan dengan pengenal panggilan alat yang sepadan. Ini membolehkan respons seterusnya menggunakan pemerhatian sebenar. Oleh itu, pembantu kod boleh melaksanakan tugasan tertumpu apabila aplikasi sekeliling membekalkan alat pemeriksaan atau pengesahan yang sesuai.
Kad model menonjolkan SQL dan terjemahan kod, selain cebisan kod, penjelasan dan penulisan semula. Berikan skema, input atau kod sumber serta tingkah laku yang perlu dikekalkan. Pengeluar mengesyorkan suhu rendah atau penyahkodan tamak untuk penjanaan kod. Anggap pernyataan yang dijana sebagai artifak cadangan sehingga disemak dalam persekitaran yang dimaksudkan.
Peranan kompak R7B sangat sesuai untuk tugasan jelas yang berulang dan perbualan responsif. Peruntukkan ruang dalam konteks untuk jawapan serta sejarah alat yang berguna, dan nyatakan kriteria penyempurnaan dengan jelas. Untuk dakwaan yang bergantung pada sumber, berikan bukti berkaitan tanpa mengharapkan saiz model atau prom panjang sahaja menentukan ketepatan.
", "aboutText": "Command R7B ialah model teks kompak Cohere keluaran Disember 2024. Seni binanya dengan 7 bilion parameter direka untuk penaakulan, peringkasan, soal jawab, pengekodan dan bantuan perusahaan. Pembangun turut melatihnya untuk penjanaan yang diperkaya dengan dapatan carian dan penggunaan pelbagai alat merentas beberapa langkah. Model ini menerima teks dan menjana teks, dengan konteks 128K dan output maksimum 4,000 token dalam profil pengeluar yang diterbitkan.\n\n### Model dan tingkah laku respons\n\nModel ini menggunakan transformer autoregresif dengan penalaan halus terselia dan latihan keutamaan. Corak perhatiannya menggabungkan tiga lapisan tetingkap gelongsor setempat, menggunakan tetingkap 4,096 token dengan pengekodan kedudukan putaran, bersama satu lapisan perhatian global. Model dilatih dalam 23 bahasa, termasuk bahasa Rusia, Inggeris dan bahasa yang disenaraikan dalam kad model tepat itu.\n\nPengeluar membezakan mukadimah perbualan dan arahan. Penggunaan perbualan menambah tingkah laku dialog, pengenalan, soalan susulan dan pemformatan seperti Markdown. Penggunaan arahan menyasarkan respons ringkas tetapi lengkap untuk pengekstrakan, peringkasan, terjemahan dan pengkategorian, tanpa Markdown atau LaTeX secara lalai. Model yang diterbitkan dibekalkan tanpa mukadimah sistem, maka pembangun mengesyorkan penyediaan mukadimah yang sesuai untuk tugasan.\n\nUntuk aliran kerja pengelasan, berikan takrif kategori dan beritahu model cara mengendalikan item yang tidak sesuai dengan mana-mana kategori. Untuk respons sokongan, berikan soalan dan bahan produk yang diluluskan, kemudian minta jawapan dalam bahasa pengguna. Spesifikasi output yang jelas mengelakkan tambahan perbualan menjadi medan tidak sengaja dalam rekod data.\n\n### Jawapan daripada dokumen\n\nR7B dilatih untuk langkah jawapan akhir dalam penjanaan yang diperkaya dengan dapatan carian. Templat pengeluarnya menggabungkan perbualan dengan cebisan dokumen yang dibekalkan. Pembangun mengesyorkan cebisan pendek, lazimnya 100–400 perkataan, yang diwakili dengan kunci penerangan pendek dan nilai teks atau separa berstruktur. Pembangun turut mengesyorkan penilaian sama ada meletakkan dokumen berkaitan terus dalam mesej pengguna lebih baik untuk kes penggunaan tertentu.\n\nContoh tugasan ialah: “Gunakan petikan bernama ini untuk menjawab soalan, kenal pasti pernyataan yang menyokong jawapan dan tandakan maklumat yang tidak terkandung dalam petikan.” Kekalkan tajuk dan unit supaya fakta yang diekstrak boleh disemak dengan bahan asal. Aplikasi mendapatkan atau membekalkan dokumen; model menjana jawapan daripada konteks itu.\n\n### Alat dan pengekodan\n\nContoh penggunaan alat pembangun membekalkan takrif fungsi dengan skema JSON serta mengekalkan panggilan yang dipilih, pelan dan hasilnya dalam perbualan. Setiap hasil ialah kamus yang dikaitkan dengan pengenal panggilan alat yang sepadan. Ini membolehkan respons seterusnya menggunakan pemerhatian sebenar. Oleh itu, pembantu kod boleh melaksanakan tugasan tertumpu apabila aplikasi sekeliling membekalkan alat pemeriksaan atau pengesahan yang sesuai.\n\nKad model menonjolkan SQL dan terjemahan kod, selain cebisan kod, penjelasan dan penulisan semula. Berikan skema, input atau kod sumber serta tingkah laku yang perlu dikekalkan. Pengeluar mengesyorkan suhu rendah atau penyahkodan tamak untuk penjanaan kod. Anggap pernyataan yang dijana sebagai artifak cadangan sehingga disemak dalam persekitaran yang dimaksudkan.\n\nPeranan kompak R7B sangat sesuai untuk tugasan jelas yang berulang dan perbualan responsif. Peruntukkan ruang dalam konteks untuk jawapan serta sejarah alat yang berguna, dan nyatakan kriteria penyempurnaan dengan jelas. Untuk dakwaan yang bergantung pada sumber, berikan bukti berkaitan tanpa mengharapkan saiz model atau prom panjang sahaja menentukan ketepatan.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknikal dalam bahasa Inggeris
Answer from support snippets\n\nAnswer the customer using only these support snippets. [Returns] Unused items can be returned within 14 days of receipt. [Shipping] Return shipping is paid by the buyer unless the item is defective. Question: "My unused item arrived 10 days ago. Can I return it, and who pays postage?" Cite the relevant snippet names.A concise customer answer citing Returns and Shipping, including the defect exception.Ensure the answer uses receipt time and preserves the buyer-paid postage exception.cohere/command-r7b-12-2024Command R7B ialah model teks 7B kompak Cohere untuk sembang, pengekstrakan, bantuan kod dan ejen berpandukan alat. Edisi Disember 2024 dilatih dalam 23 bahasa, menyokong konteks 128K dan direka untuk tugasan perusahaan yang tertumpu serta responsif menggunakan dokumen atau hasil alat yang dibekalkan.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Command R7B ialah model teks kompak Cohere keluaran Disember 2024. Seni binanya dengan 7 bilion parameter direka untuk penaakulan, peringkasan, soal jawab, pengekodan dan bantuan perusahaan. Pembangun turut melatihnya untuk penjanaan yang diperkaya dengan dapatan carian dan penggunaan pelbagai alat merentas beberapa langkah. Model ini menerima teks dan menjana teks, dengan konteks 128K dan output maksimum 4,000 token dalam profil pengeluar yang diterbitkan.
Model ini menggunakan transformer autoregresif dengan penalaan halus terselia dan latihan keutamaan. Corak perhatiannya menggabungkan tiga lapisan tetingkap gelongsor setempat, menggunakan tetingkap 4,096 token dengan pengekodan kedudukan putaran, bersama satu lapisan perhatian global. Model dilatih dalam 23 bahasa, termasuk bahasa Rusia, Inggeris dan bahasa yang disenaraikan dalam kad model tepat itu.
Pengeluar membezakan mukadimah perbualan dan arahan. Penggunaan perbualan menambah tingkah laku dialog, pengenalan, soalan susulan dan pemformatan seperti Markdown. Penggunaan arahan menyasarkan respons ringkas tetapi lengkap untuk pengekstrakan, peringkasan, terjemahan dan pengkategorian, tanpa Markdown atau LaTeX secara lalai. Model yang diterbitkan dibekalkan tanpa mukadimah sistem, maka pembangun mengesyorkan penyediaan mukadimah yang sesuai untuk tugasan.
Untuk aliran kerja pengelasan, berikan takrif kategori dan beritahu model cara mengendalikan item yang tidak sesuai dengan mana-mana kategori. Untuk respons sokongan, berikan soalan dan bahan produk yang diluluskan, kemudian minta jawapan dalam bahasa pengguna. Spesifikasi output yang jelas mengelakkan tambahan perbualan menjadi medan tidak sengaja dalam rekod data.
R7B dilatih untuk langkah jawapan akhir dalam penjanaan yang diperkaya dengan dapatan carian. Templat pengeluarnya menggabungkan perbualan dengan cebisan dokumen yang dibekalkan. Pembangun mengesyorkan cebisan pendek, lazimnya 100–400 perkataan, yang diwakili dengan kunci penerangan pendek dan nilai teks atau separa berstruktur. Pembangun turut mengesyorkan penilaian sama ada meletakkan dokumen berkaitan terus dalam mesej pengguna lebih baik untuk kes penggunaan tertentu.
Contoh tugasan ialah: “Gunakan petikan bernama ini untuk menjawab soalan, kenal pasti pernyataan yang menyokong jawapan dan tandakan maklumat yang tidak terkandung dalam petikan.” Kekalkan tajuk dan unit supaya fakta yang diekstrak boleh disemak dengan bahan asal. Aplikasi mendapatkan atau membekalkan dokumen; model menjana jawapan daripada konteks itu.
Contoh penggunaan alat pembangun membekalkan takrif fungsi dengan skema JSON serta mengekalkan panggilan yang dipilih, pelan dan hasilnya dalam perbualan. Setiap hasil ialah kamus yang dikaitkan dengan pengenal panggilan alat yang sepadan. Ini membolehkan respons seterusnya menggunakan pemerhatian sebenar. Oleh itu, pembantu kod boleh melaksanakan tugasan tertumpu apabila aplikasi sekeliling membekalkan alat pemeriksaan atau pengesahan yang sesuai.
Kad model menonjolkan SQL dan terjemahan kod, selain cebisan kod, penjelasan dan penulisan semula. Berikan skema, input atau kod sumber serta tingkah laku yang perlu dikekalkan. Pengeluar mengesyorkan suhu rendah atau penyahkodan tamak untuk penjanaan kod. Anggap pernyataan yang dijana sebagai artifak cadangan sehingga disemak dalam persekitaran yang dimaksudkan.
Peranan kompak R7B sangat sesuai untuk tugasan jelas yang berulang dan perbualan responsif. Peruntukkan ruang dalam konteks untuk jawapan serta sejarah alat yang berguna, dan nyatakan kriteria penyempurnaan dengan jelas. Untuk dakwaan yang bergantung pada sumber, berikan bukti berkaitan tanpa mengharapkan saiz model atau prom panjang sahaja menentukan ketepatan.
POST /v1/chat/completionstexttext| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had cohere/command-r7b-12-2024 | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had Contoh: system, user, assistant, tool, function Syarat: Peranan ini diwakili secara eksplisit oleh jenis keserasian dalam kod sumber; set peranan model yang tepat kekal khusus untuk setiap model. Bergantung pada model | Lalai— |
Medanmessages[].content | Jenisstring|content_part[]|null | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_calls | Jenistool_call[] | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_call_id | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: role=tool; gunakan ID sebenar yang dipulangkan | Lalai— |
Medanmessages[].name | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].reasoning_content | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: Hantar semula penaakulan sebenar yang dipulangkan apabila model ini menggunakannya | Lalai— |
Medanmessages[].reasoning_details | Jenisobject|array | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanmax_completion_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Medanstream_options.include_usage | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantemperature | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantop_p | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanstop | Jenisstring|string[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools | Jenisfunction_tool[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools[].type | Jenisstring | KeperluanPilihan | Nilai & had function Bergantung pada model | Lalai— |
Medantools[].function.name | Jenisstring | KeperluanDiperlukan | Nilai & had Terpakai apabila: alat fungsi dibekalkan | Lalai— |
Medantools[].function.description | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medantools[].function.parameters | JenisJSON_schema | KeperluanPilihan | Nilai & had | Lalai— |
Medantool_choice | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanparallel_tool_calls | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanresponse_format | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning_effort | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanservice_tier | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medaninstructions | Jenisstring | KeperluanPilihan | Nilai & had Medan keserasian | Lalai— |
Medanfunctions | Jenisfunction[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanfunction_call | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanprompt_cache_options | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmodalities | Jenisstring[] | KeperluanPilihan | Nilai & had text | Lalai— |
Medanprovider | Jenisobject | KeperluanPilihan | Nilai & had Syarat: provider.options ditolak pada laluan teks Ultra ini | Lalai— |
Medancache_control.ttl | Jenisstring | KeperluanPilihan | Nilai & had Syarat: 1h ditolak pada lokasi cache prompt yang digunakan | Lalai— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontraktatasusunan mesej dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 sebenar dimasukkan sebagai teks literal; ID fail tidak diandaikan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeza daripada alat yang dihoskan |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Kitar hayat: synchronous_or_streamed
Hantar ID model yang tepat bersama messages.
Panjang konteks bukan had output.
Fail teks boleh membekalkan teks literal; input imej/audio/objek fail memerlukan pengikatan tepat.
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.000075 / 1K token Output · Token output $0.0003 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.000075 / 1K token Output · Token output $0.0003 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "cohere/command-r7b-12-2024", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='cohere/command-r7b-12-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='cohere/command-r7b-12-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan setiap pilihan jawapan bersama kandungan, panggilan alat dan penaakulannya. Dalam SSE, gabungkan delta mengikut indeks pilihan jawapan/alat dan kekalkan sebab penamatan akhir serta data penggunaan.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanchoices[].index | Jenisinteger |
Medanchoices[].message.content | Jenisstring|null |
Medanchoices[].message.tool_calls | Jenistool_call[] |
Medanchoices[].message.reasoning_content | Jenisstring |
Medanchoices[].message.reasoning_details | Jenisobject|array |
Medanchoices[].finish_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra cohere/command-r7b-12-2024
Gunakan laluan kaedah yang dipaparkan di atas.
cohere/command-r7b-12-2024Command R7B ialah model teks 7B kompak Cohere untuk sembang, pengekstrakan, bantuan kod dan ejen berpandukan alat. Edisi Disember 2024 dilatih dalam 23 bahasa, menyokong konteks 128K dan direka untuk tugasan perusahaan yang tertumpu serta responsif menggunakan dokumen atau hasil alat yang dibekalkan.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Command R7B ialah model teks kompak Cohere keluaran Disember 2024. Seni binanya dengan 7 bilion parameter direka untuk penaakulan, peringkasan, soal jawab, pengekodan dan bantuan perusahaan. Pembangun turut melatihnya untuk penjanaan yang diperkaya dengan dapatan carian dan penggunaan pelbagai alat merentas beberapa langkah. Model ini menerima teks dan menjana teks, dengan konteks 128K dan output maksimum 4,000 token dalam profil pengeluar yang diterbitkan.
Model ini menggunakan transformer autoregresif dengan penalaan halus terselia dan latihan keutamaan. Corak perhatiannya menggabungkan tiga lapisan tetingkap gelongsor setempat, menggunakan tetingkap 4,096 token dengan pengekodan kedudukan putaran, bersama satu lapisan perhatian global. Model dilatih dalam 23 bahasa, termasuk bahasa Rusia, Inggeris dan bahasa yang disenaraikan dalam kad model tepat itu.
Pengeluar membezakan mukadimah perbualan dan arahan. Penggunaan perbualan menambah tingkah laku dialog, pengenalan, soalan susulan dan pemformatan seperti Markdown. Penggunaan arahan menyasarkan respons ringkas tetapi lengkap untuk pengekstrakan, peringkasan, terjemahan dan pengkategorian, tanpa Markdown atau LaTeX secara lalai. Model yang diterbitkan dibekalkan tanpa mukadimah sistem, maka pembangun mengesyorkan penyediaan mukadimah yang sesuai untuk tugasan.
Untuk aliran kerja pengelasan, berikan takrif kategori dan beritahu model cara mengendalikan item yang tidak sesuai dengan mana-mana kategori. Untuk respons sokongan, berikan soalan dan bahan produk yang diluluskan, kemudian minta jawapan dalam bahasa pengguna. Spesifikasi output yang jelas mengelakkan tambahan perbualan menjadi medan tidak sengaja dalam rekod data.
R7B dilatih untuk langkah jawapan akhir dalam penjanaan yang diperkaya dengan dapatan carian. Templat pengeluarnya menggabungkan perbualan dengan cebisan dokumen yang dibekalkan. Pembangun mengesyorkan cebisan pendek, lazimnya 100–400 perkataan, yang diwakili dengan kunci penerangan pendek dan nilai teks atau separa berstruktur. Pembangun turut mengesyorkan penilaian sama ada meletakkan dokumen berkaitan terus dalam mesej pengguna lebih baik untuk kes penggunaan tertentu.
Contoh tugasan ialah: “Gunakan petikan bernama ini untuk menjawab soalan, kenal pasti pernyataan yang menyokong jawapan dan tandakan maklumat yang tidak terkandung dalam petikan.” Kekalkan tajuk dan unit supaya fakta yang diekstrak boleh disemak dengan bahan asal. Aplikasi mendapatkan atau membekalkan dokumen; model menjana jawapan daripada konteks itu.
Contoh penggunaan alat pembangun membekalkan takrif fungsi dengan skema JSON serta mengekalkan panggilan yang dipilih, pelan dan hasilnya dalam perbualan. Setiap hasil ialah kamus yang dikaitkan dengan pengenal panggilan alat yang sepadan. Ini membolehkan respons seterusnya menggunakan pemerhatian sebenar. Oleh itu, pembantu kod boleh melaksanakan tugasan tertumpu apabila aplikasi sekeliling membekalkan alat pemeriksaan atau pengesahan yang sesuai.
Kad model menonjolkan SQL dan terjemahan kod, selain cebisan kod, penjelasan dan penulisan semula. Berikan skema, input atau kod sumber serta tingkah laku yang perlu dikekalkan. Pengeluar mengesyorkan suhu rendah atau penyahkodan tamak untuk penjanaan kod. Anggap pernyataan yang dijana sebagai artifak cadangan sehingga disemak dalam persekitaran yang dimaksudkan.
Peranan kompak R7B sangat sesuai untuk tugasan jelas yang berulang dan perbualan responsif. Peruntukkan ruang dalam konteks untuk jawapan serta sejarah alat yang berguna, dan nyatakan kriteria penyempurnaan dengan jelas. Untuk dakwaan yang bergantung pada sumber, berikan bukti berkaitan tanpa mengharapkan saiz model atau prom panjang sahaja menentukan ketepatan.
POST /v1/messagestextjson, sse| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had cohere/command-r7b-12-2024 | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had user, assistant | Lalai— |
Medanmessages[].content | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Teks · Teks UTF-8
rentetan messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 sebenar dan letakkan teksnya dalam rentetan input atau kandungan mesej yang ditunjukkan. |
Kitar hayat: synchronous_or_streamed
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.000075 / 1K token Output · Token output $0.0003 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.000075 / 1K token Output · Token output $0.0003 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
{\n "model": "cohere/command-r7b-12-2024",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r7b-12-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r7b-12-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan semua blok kandungan, tandatangan penaakulan dan ID penggunaan alat sebenar. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan output.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medancontent[] | Jenistext|thinking|tool_use|other content block |
Medanstop_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra cohere/command-r7b-12-2024
Gunakan laluan kaedah yang dipaparkan di atas.
Contoh teknikal dalam bahasa Inggeris
Answer from support snippets\n\nAnswer the customer using only these support snippets. [Returns] Unused items can be returned within 14 days of receipt. [Shipping] Return shipping is paid by the buyer unless the item is defective. Question: "My unused item arrived 10 days ago. Can I return it, and who pays postage?" Cite the relevant snippet names.A concise customer answer citing Returns and Shipping, including the defect exception.Ensure the answer uses receipt time and preserves the buyer-paid postage exception.