Command R (08-2024) ialah edisi Ogos 2024 model teks Cohere yang boleh diskalakan untuk perbualan, kerja berkonteks panjang dan jawapan berasaskan bukti. Model tepat ini mempunyai 32 bilion parameter, menerima teks dan menghasilkan teks. Model menggunakan konteks 128K, dengan output maksimum 4,000 token dalam profil perkhidmatan pembangun yang diterbitkan. Identitinya kekal berasingan daripada Command R terdahulu, kemas kini R+ yang lebih besar dan model Command A kemudian.
Pembangun menerangkan transformer autoregresif dengan perhatian pertanyaan berkumpulan, diikuti penalaan halus terselia dan latihan keutamaan. Model dilatih dalam 23 bahasa dan dinilai dalam sepuluh bahasa utama. Nyatakan bahasa jawapan, kekalkan nama yang diperlukan dan berikan kata-kata sumber apabila terjemahan atau perbandingan merentas bahasa perlu mengekalkan perbezaan yang tepat.
Kemas kini Ogos memperbaik keputusan tentang masa untuk menggunakan alat, pematuhan arahan sistem, manipulasi data berstruktur dan ketahanan terhadap perubahan seperti ruang putih. Model ini turut menyokong aliran kerja dapatan maklumat tanpa petikan rujukan dan dilatih menolak soalan yang tidak dapat dijawab daripada maklumat tersedia. Berikan kriteria jawapan yang jelas kepada model dan terangkan pengendalian data yang tiada, tanpa memintanya mengisi setiap medan tanpa mengira bukti.
Command R dilatih menjana jawapan daripada cebisan dokumen yang dibekalkan dan melampirkan rentang yang menghubungkan jawapan dengan maklumat sumber. Pengeluar mengesyorkan templat prom khususnya kerana tingkah laku ini dilatih dengan perwakilan tersebut. Gunakan cebisan pendek, lazimnya 100–400 perkataan, dengan kunci penerangan dan kandungan teks atau separa berstruktur. Kekalkan pengenal yang diperlukan untuk mentafsir rujukan sumber.
Kad tepat ini membezakan mod petikan rujukan tepat dan pantas. Mod tepat mula-mula mengenal pasti dokumen relevan dan sumber untuk dirujuk, membangunkan jawapan, kemudian menambah rentang yang menghubungkannya dengan sumber. Mod pantas menjana jawapan bersama rentang tersebut secara terus, mengurangkan token yang dijana dengan mengorbankan sedikit ketepatan hubungan dengan sumber. Pilih aliran kerja pengeluar mengikut keperluan kesetiaan kepada sumber dan bajet respons tugasan.
Untuk perbandingan praktikal, bekalkan keperluan bernama dan cadangan, kemudian minta setiap ketidakpadanan bersama petikan sumber yang membuktikannya. Untuk peringkasan, tentukan khalayak dan fakta yang mesti dikekalkan. Hasil yang berguna mengaitkan setiap dakwaan dengan cebisan sebenar, tanpa menganggap penanda sumber sebagai bukti bahawa dapatan maklumat luaran telah berlaku.
Aliran kerja alat natif dalam kad ini mempunyai dua peringkat model: pemilihan fungsi dan argumen, diikuti penjanaan jawapan selepas aplikasi melaksanakan panggilan itu dan mengembalikan hasilnya. Model boleh memilih sebahagian alat dan memanggil alat yang dibekalkan lebih daripada sekali. Pilihan directly_answer yang didokumenkan menyatakan pilihan untuk menjawab tanpa satu lagi operasi luaran.
Berikan nama, tujuan dan takrif parameter yang khusus kepada fungsi. Alat maklumat produk boleh mengembalikan rekod berkaitan, selepas itu jawapan patut menerangkan nilai yang diperlukan pengguna. Aplikasi melakukan carian dan menyemak argumen; senarai tindakan yang dijana tidak melaksanakannya sendiri. Edisi ini turut menyokong aliran kerja berbilang langkah yang dilatih secara berasingan, yang mengulangi tindakan, pemerhatian dan renungan sebelum jawapan akhir; templat khususnya berbeza daripada format satu langkah.
Simpan soalan, petikan yang diperoleh dan pemerhatian dalam konteks yang berkenaan, dengan ruang untuk jawapan akhir. Hasil yang berguna ialah teks ringkas bersama hubungan sumbernya serta penerangan jelas tentang maklumat yang masih tiada dalam bukti yang dibekalkan.
", "aboutText": "Command R (08-2024) ialah edisi Ogos 2024 model teks Cohere yang boleh diskalakan untuk perbualan, kerja berkonteks panjang dan jawapan berasaskan bukti. Model tepat ini mempunyai 32 bilion parameter, menerima teks dan menghasilkan teks. Model menggunakan konteks 128K, dengan output maksimum 4,000 token dalam profil perkhidmatan pembangun yang diterbitkan. Identitinya kekal berasingan daripada Command R terdahulu, kemas kini R+ yang lebih besar dan model Command A kemudian.\n\n### Butiran model dan kemas kini Ogos\n\nPembangun menerangkan transformer autoregresif dengan perhatian pertanyaan berkumpulan, diikuti penalaan halus terselia dan latihan keutamaan. Model dilatih dalam 23 bahasa dan dinilai dalam sepuluh bahasa utama. Nyatakan bahasa jawapan, kekalkan nama yang diperlukan dan berikan kata-kata sumber apabila terjemahan atau perbandingan merentas bahasa perlu mengekalkan perbezaan yang tepat.\n\nKemas kini Ogos memperbaik keputusan tentang masa untuk menggunakan alat, pematuhan arahan sistem, manipulasi data berstruktur dan ketahanan terhadap perubahan seperti ruang putih. Model ini turut menyokong aliran kerja dapatan maklumat tanpa petikan rujukan dan dilatih menolak soalan yang tidak dapat dijawab daripada maklumat tersedia. Berikan kriteria jawapan yang jelas kepada model dan terangkan pengendalian data yang tiada, tanpa memintanya mengisi setiap medan tanpa mengira bukti.\n\n### Penjanaan berasaskan bukti\n\nCommand R dilatih menjana jawapan daripada cebisan dokumen yang dibekalkan dan melampirkan rentang yang menghubungkan jawapan dengan maklumat sumber. Pengeluar mengesyorkan templat prom khususnya kerana tingkah laku ini dilatih dengan perwakilan tersebut. Gunakan cebisan pendek, lazimnya 100–400 perkataan, dengan kunci penerangan dan kandungan teks atau separa berstruktur. Kekalkan pengenal yang diperlukan untuk mentafsir rujukan sumber.\n\nKad tepat ini membezakan mod petikan rujukan tepat dan pantas. Mod tepat mula-mula mengenal pasti dokumen relevan dan sumber untuk dirujuk, membangunkan jawapan, kemudian menambah rentang yang menghubungkannya dengan sumber. Mod pantas menjana jawapan bersama rentang tersebut secara terus, mengurangkan token yang dijana dengan mengorbankan sedikit ketepatan hubungan dengan sumber. Pilih aliran kerja pengeluar mengikut keperluan kesetiaan kepada sumber dan bajet respons tugasan.\n\nUntuk perbandingan praktikal, bekalkan keperluan bernama dan cadangan, kemudian minta setiap ketidakpadanan bersama petikan sumber yang membuktikannya. Untuk peringkasan, tentukan khalayak dan fakta yang mesti dikekalkan. Hasil yang berguna mengaitkan setiap dakwaan dengan cebisan sebenar, tanpa menganggap penanda sumber sebagai bukti bahawa dapatan maklumat luaran telah berlaku.\n\n### Penggunaan alat satu langkah dan berbilang langkah\n\nAliran kerja alat natif dalam kad ini mempunyai dua peringkat model: pemilihan fungsi dan argumen, diikuti penjanaan jawapan selepas aplikasi melaksanakan panggilan itu dan mengembalikan hasilnya. Model boleh memilih sebahagian alat dan memanggil alat yang dibekalkan lebih daripada sekali. Pilihan directly_answer yang didokumenkan menyatakan pilihan untuk menjawab tanpa satu lagi operasi luaran.\n\nBerikan nama, tujuan dan takrif parameter yang khusus kepada fungsi. Alat maklumat produk boleh mengembalikan rekod berkaitan, selepas itu jawapan patut menerangkan nilai yang diperlukan pengguna. Aplikasi melakukan carian dan menyemak argumen; senarai tindakan yang dijana tidak melaksanakannya sendiri. Edisi ini turut menyokong aliran kerja berbilang langkah yang dilatih secara berasingan, yang mengulangi tindakan, pemerhatian dan renungan sebelum jawapan akhir; templat khususnya berbeza daripada format satu langkah.\n\nSimpan soalan, petikan yang diperoleh dan pemerhatian dalam konteks yang berkenaan, dengan ruang untuk jawapan akhir. Hasil yang berguna ialah teks ringkas bersama hubungan sumbernya serta penerangan jelas tentang maklumat yang masih tiada dalam bukti yang dibekalkan.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknikal dalam bahasa Inggeris
Ground a cancellation answer\n\nAnswer the customer from these excerpts only. [POLICY] Monthly plans may be canceled before renewal; service continues to the paid-through date. [ORDER] Plan renews 1 November; paid-through date is 31 October. Question: If I cancel on 20 October, when does access end? Give a concise answer with source labels and identify anything these excerpts do not establish.A short answer with POLICY and ORDER references plus a clearly marked evidence gap, if any.Check each asserted date against ORDER and avoid inventing a refund entitlement.cohere/command-r-08-2024Command R (08-2024) ialah model teks 32B Cohere untuk jawapan perbualan dan jawapan berasaskan dokumen. Konteks 128K, petikan rujukan pada rentang sumber dan panggilan fungsi satu langkahnya menyokong pembantu pengetahuan berbilang bahasa, pengekstrakan serta jawapan kepada soalan berdasarkan bukti yang dibekalkan.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Command R (08-2024) ialah edisi Ogos 2024 model teks Cohere yang boleh diskalakan untuk perbualan, kerja berkonteks panjang dan jawapan berasaskan bukti. Model tepat ini mempunyai 32 bilion parameter, menerima teks dan menghasilkan teks. Model menggunakan konteks 128K, dengan output maksimum 4,000 token dalam profil perkhidmatan pembangun yang diterbitkan. Identitinya kekal berasingan daripada Command R terdahulu, kemas kini R+ yang lebih besar dan model Command A kemudian.
Pembangun menerangkan transformer autoregresif dengan perhatian pertanyaan berkumpulan, diikuti penalaan halus terselia dan latihan keutamaan. Model dilatih dalam 23 bahasa dan dinilai dalam sepuluh bahasa utama. Nyatakan bahasa jawapan, kekalkan nama yang diperlukan dan berikan kata-kata sumber apabila terjemahan atau perbandingan merentas bahasa perlu mengekalkan perbezaan yang tepat.
Kemas kini Ogos memperbaik keputusan tentang masa untuk menggunakan alat, pematuhan arahan sistem, manipulasi data berstruktur dan ketahanan terhadap perubahan seperti ruang putih. Model ini turut menyokong aliran kerja dapatan maklumat tanpa petikan rujukan dan dilatih menolak soalan yang tidak dapat dijawab daripada maklumat tersedia. Berikan kriteria jawapan yang jelas kepada model dan terangkan pengendalian data yang tiada, tanpa memintanya mengisi setiap medan tanpa mengira bukti.
Command R dilatih menjana jawapan daripada cebisan dokumen yang dibekalkan dan melampirkan rentang yang menghubungkan jawapan dengan maklumat sumber. Pengeluar mengesyorkan templat prom khususnya kerana tingkah laku ini dilatih dengan perwakilan tersebut. Gunakan cebisan pendek, lazimnya 100–400 perkataan, dengan kunci penerangan dan kandungan teks atau separa berstruktur. Kekalkan pengenal yang diperlukan untuk mentafsir rujukan sumber.
Kad tepat ini membezakan mod petikan rujukan tepat dan pantas. Mod tepat mula-mula mengenal pasti dokumen relevan dan sumber untuk dirujuk, membangunkan jawapan, kemudian menambah rentang yang menghubungkannya dengan sumber. Mod pantas menjana jawapan bersama rentang tersebut secara terus, mengurangkan token yang dijana dengan mengorbankan sedikit ketepatan hubungan dengan sumber. Pilih aliran kerja pengeluar mengikut keperluan kesetiaan kepada sumber dan bajet respons tugasan.
Untuk perbandingan praktikal, bekalkan keperluan bernama dan cadangan, kemudian minta setiap ketidakpadanan bersama petikan sumber yang membuktikannya. Untuk peringkasan, tentukan khalayak dan fakta yang mesti dikekalkan. Hasil yang berguna mengaitkan setiap dakwaan dengan cebisan sebenar, tanpa menganggap penanda sumber sebagai bukti bahawa dapatan maklumat luaran telah berlaku.
Aliran kerja alat natif dalam kad ini mempunyai dua peringkat model: pemilihan fungsi dan argumen, diikuti penjanaan jawapan selepas aplikasi melaksanakan panggilan itu dan mengembalikan hasilnya. Model boleh memilih sebahagian alat dan memanggil alat yang dibekalkan lebih daripada sekali. Pilihan directly_answer yang didokumenkan menyatakan pilihan untuk menjawab tanpa satu lagi operasi luaran.
Berikan nama, tujuan dan takrif parameter yang khusus kepada fungsi. Alat maklumat produk boleh mengembalikan rekod berkaitan, selepas itu jawapan patut menerangkan nilai yang diperlukan pengguna. Aplikasi melakukan carian dan menyemak argumen; senarai tindakan yang dijana tidak melaksanakannya sendiri. Edisi ini turut menyokong aliran kerja berbilang langkah yang dilatih secara berasingan, yang mengulangi tindakan, pemerhatian dan renungan sebelum jawapan akhir; templat khususnya berbeza daripada format satu langkah.
Simpan soalan, petikan yang diperoleh dan pemerhatian dalam konteks yang berkenaan, dengan ruang untuk jawapan akhir. Hasil yang berguna ialah teks ringkas bersama hubungan sumbernya serta penerangan jelas tentang maklumat yang masih tiada dalam bukti yang dibekalkan.
POST /v1/chat/completionstexttext| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had cohere/command-r-08-2024 | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had Contoh: system, user, assistant, tool, function Syarat: Peranan ini diwakili secara eksplisit oleh jenis keserasian dalam kod sumber; set peranan model yang tepat kekal khusus untuk setiap model. Bergantung pada model | Lalai— |
Medanmessages[].content | Jenisstring|content_part[]|null | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_calls | Jenistool_call[] | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_call_id | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: role=tool; gunakan ID sebenar yang dipulangkan | Lalai— |
Medanmessages[].name | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].reasoning_content | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: Hantar semula penaakulan sebenar yang dipulangkan apabila model ini menggunakannya | Lalai— |
Medanmessages[].reasoning_details | Jenisobject|array | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanmax_completion_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Medanstream_options.include_usage | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantemperature | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantop_p | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanstop | Jenisstring|string[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools | Jenisfunction_tool[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools[].type | Jenisstring | KeperluanPilihan | Nilai & had function Bergantung pada model | Lalai— |
Medantools[].function.name | Jenisstring | KeperluanDiperlukan | Nilai & had Terpakai apabila: alat fungsi dibekalkan | Lalai— |
Medantools[].function.description | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medantools[].function.parameters | JenisJSON_schema | KeperluanPilihan | Nilai & had | Lalai— |
Medantool_choice | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanparallel_tool_calls | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanresponse_format | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning_effort | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanservice_tier | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medaninstructions | Jenisstring | KeperluanPilihan | Nilai & had Medan keserasian | Lalai— |
Medanfunctions | Jenisfunction[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanfunction_call | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanprompt_cache_options | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmodalities | Jenisstring[] | KeperluanPilihan | Nilai & had text | Lalai— |
Medanprovider | Jenisobject | KeperluanPilihan | Nilai & had Syarat: provider.options ditolak pada laluan teks Ultra ini | Lalai— |
Medancache_control.ttl | Jenisstring | KeperluanPilihan | Nilai & had Syarat: 1h ditolak pada lokasi cache prompt yang digunakan | Lalai— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontraktatasusunan mesej dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 sebenar dimasukkan sebagai teks literal; ID fail tidak diandaikan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeza daripada alat yang dihoskan |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Kitar hayat: synchronous_or_streamed
Hantar ID model yang tepat bersama messages.
Panjang konteks bukan had output.
Fail teks boleh membekalkan teks literal; input imej/audio/objek fail memerlukan pengikatan tepat.
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.0003 / 1K token Output · Token output $0.0012 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.0003 / 1K token Output · Token output $0.0012 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "cohere/command-r-08-2024", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='cohere/command-r-08-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='cohere/command-r-08-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan setiap pilihan jawapan bersama kandungan, panggilan alat dan penaakulannya. Dalam SSE, gabungkan delta mengikut indeks pilihan jawapan/alat dan kekalkan sebab penamatan akhir serta data penggunaan.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanchoices[].index | Jenisinteger |
Medanchoices[].message.content | Jenisstring|null |
Medanchoices[].message.tool_calls | Jenistool_call[] |
Medanchoices[].message.reasoning_content | Jenisstring |
Medanchoices[].message.reasoning_details | Jenisobject|array |
Medanchoices[].finish_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra cohere/command-r-08-2024
Gunakan laluan kaedah yang dipaparkan di atas.
cohere/command-r-08-2024Command R (08-2024) ialah model teks 32B Cohere untuk jawapan perbualan dan jawapan berasaskan dokumen. Konteks 128K, petikan rujukan pada rentang sumber dan panggilan fungsi satu langkahnya menyokong pembantu pengetahuan berbilang bahasa, pengekstrakan serta jawapan kepada soalan berdasarkan bukti yang dibekalkan.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Command R (08-2024) ialah edisi Ogos 2024 model teks Cohere yang boleh diskalakan untuk perbualan, kerja berkonteks panjang dan jawapan berasaskan bukti. Model tepat ini mempunyai 32 bilion parameter, menerima teks dan menghasilkan teks. Model menggunakan konteks 128K, dengan output maksimum 4,000 token dalam profil perkhidmatan pembangun yang diterbitkan. Identitinya kekal berasingan daripada Command R terdahulu, kemas kini R+ yang lebih besar dan model Command A kemudian.
Pembangun menerangkan transformer autoregresif dengan perhatian pertanyaan berkumpulan, diikuti penalaan halus terselia dan latihan keutamaan. Model dilatih dalam 23 bahasa dan dinilai dalam sepuluh bahasa utama. Nyatakan bahasa jawapan, kekalkan nama yang diperlukan dan berikan kata-kata sumber apabila terjemahan atau perbandingan merentas bahasa perlu mengekalkan perbezaan yang tepat.
Kemas kini Ogos memperbaik keputusan tentang masa untuk menggunakan alat, pematuhan arahan sistem, manipulasi data berstruktur dan ketahanan terhadap perubahan seperti ruang putih. Model ini turut menyokong aliran kerja dapatan maklumat tanpa petikan rujukan dan dilatih menolak soalan yang tidak dapat dijawab daripada maklumat tersedia. Berikan kriteria jawapan yang jelas kepada model dan terangkan pengendalian data yang tiada, tanpa memintanya mengisi setiap medan tanpa mengira bukti.
Command R dilatih menjana jawapan daripada cebisan dokumen yang dibekalkan dan melampirkan rentang yang menghubungkan jawapan dengan maklumat sumber. Pengeluar mengesyorkan templat prom khususnya kerana tingkah laku ini dilatih dengan perwakilan tersebut. Gunakan cebisan pendek, lazimnya 100–400 perkataan, dengan kunci penerangan dan kandungan teks atau separa berstruktur. Kekalkan pengenal yang diperlukan untuk mentafsir rujukan sumber.
Kad tepat ini membezakan mod petikan rujukan tepat dan pantas. Mod tepat mula-mula mengenal pasti dokumen relevan dan sumber untuk dirujuk, membangunkan jawapan, kemudian menambah rentang yang menghubungkannya dengan sumber. Mod pantas menjana jawapan bersama rentang tersebut secara terus, mengurangkan token yang dijana dengan mengorbankan sedikit ketepatan hubungan dengan sumber. Pilih aliran kerja pengeluar mengikut keperluan kesetiaan kepada sumber dan bajet respons tugasan.
Untuk perbandingan praktikal, bekalkan keperluan bernama dan cadangan, kemudian minta setiap ketidakpadanan bersama petikan sumber yang membuktikannya. Untuk peringkasan, tentukan khalayak dan fakta yang mesti dikekalkan. Hasil yang berguna mengaitkan setiap dakwaan dengan cebisan sebenar, tanpa menganggap penanda sumber sebagai bukti bahawa dapatan maklumat luaran telah berlaku.
Aliran kerja alat natif dalam kad ini mempunyai dua peringkat model: pemilihan fungsi dan argumen, diikuti penjanaan jawapan selepas aplikasi melaksanakan panggilan itu dan mengembalikan hasilnya. Model boleh memilih sebahagian alat dan memanggil alat yang dibekalkan lebih daripada sekali. Pilihan directly_answer yang didokumenkan menyatakan pilihan untuk menjawab tanpa satu lagi operasi luaran.
Berikan nama, tujuan dan takrif parameter yang khusus kepada fungsi. Alat maklumat produk boleh mengembalikan rekod berkaitan, selepas itu jawapan patut menerangkan nilai yang diperlukan pengguna. Aplikasi melakukan carian dan menyemak argumen; senarai tindakan yang dijana tidak melaksanakannya sendiri. Edisi ini turut menyokong aliran kerja berbilang langkah yang dilatih secara berasingan, yang mengulangi tindakan, pemerhatian dan renungan sebelum jawapan akhir; templat khususnya berbeza daripada format satu langkah.
Simpan soalan, petikan yang diperoleh dan pemerhatian dalam konteks yang berkenaan, dengan ruang untuk jawapan akhir. Hasil yang berguna ialah teks ringkas bersama hubungan sumbernya serta penerangan jelas tentang maklumat yang masih tiada dalam bukti yang dibekalkan.
POST /v1/messagestextjson, sse| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had cohere/command-r-08-2024 | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had user, assistant | Lalai— |
Medanmessages[].content | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Teks · Teks UTF-8
rentetan messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 sebenar dan letakkan teksnya dalam rentetan input atau kandungan mesej yang ditunjukkan. |
Kitar hayat: synchronous_or_streamed
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
Padankan setiap caj dengan syarat yang dipaparkan. Gunakan satu kadar bagi setiap set konfigurasi alternatif.
| Konfigurasi | Jadual kadar | Token konteks, melebihi | Token konteks, sehingga dan termasuk | Caj |
|---|---|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Token konteks, melebihi— | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.0003 / 1K token Output · Token output $0.0012 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiTahap panjang permintaan 1 | Jadual kadar— | Token konteks, melebihi0 | Token konteks, sehingga dan termasukTiada had atas | Caj Input · Token input $0.0003 / 1K token Output · Token output $0.0012 / 1K token Input · Bacaan cache — / 1K token Input · Penulisan cache — / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
{\n "model": "cohere/command-r-08-2024",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r-08-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r-08-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan semua blok kandungan, tandatangan penaakulan dan ID penggunaan alat sebenar. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan output.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medancontent[] | Jenistext|thinking|tool_use|other content block |
Medanstop_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra cohere/command-r-08-2024
Gunakan laluan kaedah yang dipaparkan di atas.
Contoh teknikal dalam bahasa Inggeris
Ground a cancellation answer\n\nAnswer the customer from these excerpts only. [POLICY] Monthly plans may be canceled before renewal; service continues to the paid-through date. [ORDER] Plan renews 1 November; paid-through date is 31 October. Question: If I cancel on 20 October, when does access end? Give a concise answer with source labels and identify anything these excerpts do not establish.A short answer with POLICY and ORDER references plus a clearly marked evidence gap, if any.Check each asserted date against ORDER and avoid inventing a refund entitlement.