Command R7B – kompaktiškas Cohere 2024 m. gruodžio tekstinis modelis. Jo 7 milijardų parametrų architektūra skirta samprotavimui, apibendrinimui, atsakymams į klausimus, programavimui ir įmonių pagalbai. Gamintojas jį taip pat moko paieška papildytam generavimui ir kelių įrankių naudojimui per kelis žingsnius. Jis priima ir generuoja tekstą, o paskelbtame gamintojo profilyje turi 128K kontekstą ir didžiausią 4 000 žetonų išvestį.
Modelis naudoja autoregresinį transformerį su prižiūrimu derinimu ir mokymu pagal pirmenybes. Jo dėmesio schema sujungia tris vietinio slenkančio lango sluoksnius, naudojančius 4 096 žetonų langą su sukamuoju pozicijos kodavimu, ir visuotinio dėmesio sluoksnį. Jis mokytas 23 kalbomis, įskaitant rusų, anglų ir konkrečioje modelio kortelėje išvardytas kalbas.
Gamintojas atskiria pokalbinę ir instrukcinę įžangas. Pokalbinis naudojimas prideda dialogo elgseną, prisistatymus, tolesnius klausimus ir formatavimą, pavyzdžiui, Markdown. Instrukcinis naudojimas skirtas glaustiems, bet pilniems atsakymams ištraukiant informaciją, apibendrinant, verčiant ir kategorizuojant, pagal nutylėjimą be Markdown arba LaTeX. Paskelbtas modelis pateikiamas be sisteminės įžangos, todėl gamintojas rekomenduoja pridėti užduočiai tinkamą įžangą.
Klasifikavimo darbo eigai pateikite kategorijų apibrėžimus ir nurodykite, kaip tvarkyti elementą, netinkantį nė vienai. Pagalbos atsakymui pateikite klausimą ir patvirtintą produkto medžiagą, tada paprašykite atsakymo naudotojo kalba. Aiški išvesties specifikacija neleidžia pokalbiniams papildymams tapti atsitiktiniais duomenų įrašo laukais.
R7B mokytas galutiniam paieška papildyto generavimo atsakymo etapui. Jo gamintojo šablonas sujungia pokalbį su pateiktomis dokumentų ištraukomis. Gamintojas rekomenduoja trumpus fragmentus, paprastai po 100–400 žodžių, vaizduojamus trumpais aprašomaisiais raktais ir tekstinėmis arba pusiau struktūruotomis reikšmėmis. Taip pat rekomenduoja įvertinti, ar konkrečiam atvejui geriau veikia reikšmingų dokumentų pateikimas tiesiogiai naudotojo žinutėje.
Pavyzdinė užduotis: „Naudok šias įvardytas ištraukas klausimui atsakyti, nurodyk atsakymą pagrindžiantį teiginį ir pažymėk informaciją, kurios ištraukose nėra.“ Išlaikykite antraštes bei vienetus, kad ištrauktą faktą būtų galima patikrinti pagal originalią medžiagą. Programa suranda arba pateikia dokumentus; modelis generuoja atsakymą pagal šį kontekstą.
Gamintojo įrankių naudojimo pavyzdys pateikia JSON schemos funkcijų apibrėžimus ir pokalbyje išsaugo pasirinktą iškvietimą, jo planą bei rezultatą. Kiekvienas rezultatas yra žodynas, susietas su atitinkamu įrankio iškvietimo identifikatoriumi. Tai leidžia kitam atsakymui panaudoti tikrą pastebėjimą. Taigi kodo asistentas gali atlikti tikslinę užduotį, kai aplinkinė programa pateikia tinkamus tikrinimo arba validavimo įrankius.
Modelio kortelė greta kodo fragmentų, paaiškinimų ir perrašymo pabrėžia SQL bei kodo vertimą. Pateikite schemą, įvestį arba šaltinio kodą ir išlaikytiną elgseną. Kodo generavimui gamintojas rekomenduoja žemą temperature arba godųjį dekodavimą. Sugeneruotą komandą laikykite siūlomu artefaktu, kol jis nepatikrintas numatytoje aplinkoje.
Kompaktiškas R7B vaidmuo gerai tinka aiškioms pasikartojančioms užduotims ir greitai reaguojančiam pokalbiui. Kontekste palikite vietos atsakymui bei naudingai įrankių istorijai ir aiškiai nurodykite užbaigimo kriterijų. Nuo šaltinių priklausantiems teiginiams pateikite reikšmingus įrodymus, nesitikėdami, kad vien modelio dydis arba ilga užklausa patvirtins teisingumą.
", "aboutText": "Command R7B – kompaktiškas Cohere 2024 m. gruodžio tekstinis modelis. Jo 7 milijardų parametrų architektūra skirta samprotavimui, apibendrinimui, atsakymams į klausimus, programavimui ir įmonių pagalbai. Gamintojas jį taip pat moko paieška papildytam generavimui ir kelių įrankių naudojimui per kelis žingsnius. Jis priima ir generuoja tekstą, o paskelbtame gamintojo profilyje turi 128K kontekstą ir didžiausią 4 000 žetonų išvestį.\n\n### Modelis ir atsakymo elgsena\n\nModelis naudoja autoregresinį transformerį su prižiūrimu derinimu ir mokymu pagal pirmenybes. Jo dėmesio schema sujungia tris vietinio slenkančio lango sluoksnius, naudojančius 4 096 žetonų langą su sukamuoju pozicijos kodavimu, ir visuotinio dėmesio sluoksnį. Jis mokytas 23 kalbomis, įskaitant rusų, anglų ir konkrečioje modelio kortelėje išvardytas kalbas.\n\nGamintojas atskiria pokalbinę ir instrukcinę įžangas. Pokalbinis naudojimas prideda dialogo elgseną, prisistatymus, tolesnius klausimus ir formatavimą, pavyzdžiui, Markdown. Instrukcinis naudojimas skirtas glaustiems, bet pilniems atsakymams ištraukiant informaciją, apibendrinant, verčiant ir kategorizuojant, pagal nutylėjimą be Markdown arba LaTeX. Paskelbtas modelis pateikiamas be sisteminės įžangos, todėl gamintojas rekomenduoja pridėti užduočiai tinkamą įžangą.\n\nKlasifikavimo darbo eigai pateikite kategorijų apibrėžimus ir nurodykite, kaip tvarkyti elementą, netinkantį nė vienai. Pagalbos atsakymui pateikite klausimą ir patvirtintą produkto medžiagą, tada paprašykite atsakymo naudotojo kalba. Aiški išvesties specifikacija neleidžia pokalbiniams papildymams tapti atsitiktiniais duomenų įrašo laukais.\n\n### Atsakymai pagal dokumentus\n\nR7B mokytas galutiniam paieška papildyto generavimo atsakymo etapui. Jo gamintojo šablonas sujungia pokalbį su pateiktomis dokumentų ištraukomis. Gamintojas rekomenduoja trumpus fragmentus, paprastai po 100–400 žodžių, vaizduojamus trumpais aprašomaisiais raktais ir tekstinėmis arba pusiau struktūruotomis reikšmėmis. Taip pat rekomenduoja įvertinti, ar konkrečiam atvejui geriau veikia reikšmingų dokumentų pateikimas tiesiogiai naudotojo žinutėje.\n\nPavyzdinė užduotis: „Naudok šias įvardytas ištraukas klausimui atsakyti, nurodyk atsakymą pagrindžiantį teiginį ir pažymėk informaciją, kurios ištraukose nėra.“ Išlaikykite antraštes bei vienetus, kad ištrauktą faktą būtų galima patikrinti pagal originalią medžiagą. Programa suranda arba pateikia dokumentus; modelis generuoja atsakymą pagal šį kontekstą.\n\n### Įrankiai ir programavimas\n\nGamintojo įrankių naudojimo pavyzdys pateikia JSON schemos funkcijų apibrėžimus ir pokalbyje išsaugo pasirinktą iškvietimą, jo planą bei rezultatą. Kiekvienas rezultatas yra žodynas, susietas su atitinkamu įrankio iškvietimo identifikatoriumi. Tai leidžia kitam atsakymui panaudoti tikrą pastebėjimą. Taigi kodo asistentas gali atlikti tikslinę užduotį, kai aplinkinė programa pateikia tinkamus tikrinimo arba validavimo įrankius.\n\nModelio kortelė greta kodo fragmentų, paaiškinimų ir perrašymo pabrėžia SQL bei kodo vertimą. Pateikite schemą, įvestį arba šaltinio kodą ir išlaikytiną elgseną. Kodo generavimui gamintojas rekomenduoja žemą temperature arba godųjį dekodavimą. Sugeneruotą komandą laikykite siūlomu artefaktu, kol jis nepatikrintas numatytoje aplinkoje.\n\nKompaktiškas R7B vaidmuo gerai tinka aiškioms pasikartojančioms užduotims ir greitai reaguojančiam pokalbiui. Kontekste palikite vietos atsakymui bei naudingai įrankių istorijai ir aiškiai nurodykite užbaigimo kriterijų. Nuo šaltinių priklausantiems teiginiams pateikite reikšmingus įrodymus, nesitikėdami, kad vien modelio dydis arba ilga užklausa patvirtins teisingumą.", "editorialOverlay": { "copy_fields": { "practical_html": "Techninis pavyzdys anglų kalba
Answer from support snippets\n\nAnswer the customer using only these support snippets. [Returns] Unused items can be returned within 14 days of receipt. [Shipping] Return shipping is paid by the buyer unless the item is defective. Question: "My unused item arrived 10 days ago. Can I return it, and who pays postage?" Cite the relevant snippet names.A concise customer answer citing Returns and Shipping, including the defect exception.Ensure the answer uses receipt time and preserves the buyer-paid postage exception.cohere/command-r7b-12-2024Command R7B – kompaktiškas Cohere 7B tekstinis modelis pokalbiams, informacijos ištraukai, programavimo pagalbai ir agentams su įrankiais. 2024 m. gruodžio leidimas mokytas 23 kalbomis, palaiko 128K kontekstą ir skirtas tikslinėms, greitai reaguojančioms įmonių užduotims su pateiktais dokumentais arba įrankių rezultatais.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Command R7B – kompaktiškas Cohere 2024 m. gruodžio tekstinis modelis. Jo 7 milijardų parametrų architektūra skirta samprotavimui, apibendrinimui, atsakymams į klausimus, programavimui ir įmonių pagalbai. Gamintojas jį taip pat moko paieška papildytam generavimui ir kelių įrankių naudojimui per kelis žingsnius. Jis priima ir generuoja tekstą, o paskelbtame gamintojo profilyje turi 128K kontekstą ir didžiausią 4 000 žetonų išvestį.
Modelis naudoja autoregresinį transformerį su prižiūrimu derinimu ir mokymu pagal pirmenybes. Jo dėmesio schema sujungia tris vietinio slenkančio lango sluoksnius, naudojančius 4 096 žetonų langą su sukamuoju pozicijos kodavimu, ir visuotinio dėmesio sluoksnį. Jis mokytas 23 kalbomis, įskaitant rusų, anglų ir konkrečioje modelio kortelėje išvardytas kalbas.
Gamintojas atskiria pokalbinę ir instrukcinę įžangas. Pokalbinis naudojimas prideda dialogo elgseną, prisistatymus, tolesnius klausimus ir formatavimą, pavyzdžiui, Markdown. Instrukcinis naudojimas skirtas glaustiems, bet pilniems atsakymams ištraukiant informaciją, apibendrinant, verčiant ir kategorizuojant, pagal nutylėjimą be Markdown arba LaTeX. Paskelbtas modelis pateikiamas be sisteminės įžangos, todėl gamintojas rekomenduoja pridėti užduočiai tinkamą įžangą.
Klasifikavimo darbo eigai pateikite kategorijų apibrėžimus ir nurodykite, kaip tvarkyti elementą, netinkantį nė vienai. Pagalbos atsakymui pateikite klausimą ir patvirtintą produkto medžiagą, tada paprašykite atsakymo naudotojo kalba. Aiški išvesties specifikacija neleidžia pokalbiniams papildymams tapti atsitiktiniais duomenų įrašo laukais.
R7B mokytas galutiniam paieška papildyto generavimo atsakymo etapui. Jo gamintojo šablonas sujungia pokalbį su pateiktomis dokumentų ištraukomis. Gamintojas rekomenduoja trumpus fragmentus, paprastai po 100–400 žodžių, vaizduojamus trumpais aprašomaisiais raktais ir tekstinėmis arba pusiau struktūruotomis reikšmėmis. Taip pat rekomenduoja įvertinti, ar konkrečiam atvejui geriau veikia reikšmingų dokumentų pateikimas tiesiogiai naudotojo žinutėje.
Pavyzdinė užduotis: „Naudok šias įvardytas ištraukas klausimui atsakyti, nurodyk atsakymą pagrindžiantį teiginį ir pažymėk informaciją, kurios ištraukose nėra.“ Išlaikykite antraštes bei vienetus, kad ištrauktą faktą būtų galima patikrinti pagal originalią medžiagą. Programa suranda arba pateikia dokumentus; modelis generuoja atsakymą pagal šį kontekstą.
Gamintojo įrankių naudojimo pavyzdys pateikia JSON schemos funkcijų apibrėžimus ir pokalbyje išsaugo pasirinktą iškvietimą, jo planą bei rezultatą. Kiekvienas rezultatas yra žodynas, susietas su atitinkamu įrankio iškvietimo identifikatoriumi. Tai leidžia kitam atsakymui panaudoti tikrą pastebėjimą. Taigi kodo asistentas gali atlikti tikslinę užduotį, kai aplinkinė programa pateikia tinkamus tikrinimo arba validavimo įrankius.
Modelio kortelė greta kodo fragmentų, paaiškinimų ir perrašymo pabrėžia SQL bei kodo vertimą. Pateikite schemą, įvestį arba šaltinio kodą ir išlaikytiną elgseną. Kodo generavimui gamintojas rekomenduoja žemą temperature arba godųjį dekodavimą. Sugeneruotą komandą laikykite siūlomu artefaktu, kol jis nepatikrintas numatytoje aplinkoje.
Kompaktiškas R7B vaidmuo gerai tinka aiškioms pasikartojančioms užduotims ir greitai reaguojančiam pokalbiui. Kontekste palikite vietos atsakymui bei naudingai įrankių istorijai ir aiškiai nurodykite užbaigimo kriterijų. Nuo šaltinių priklausantiems teiginiams pateikite reikšmingus įrodymus, nesitikėdami, kad vien modelio dydis arba ilga užklausa patvirtins teisingumą.
POST /v1/chat/completionstexttext| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos cohere/command-r7b-12-2024 | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Pavyzdžiai: system, user, assistant, tool, function Sąlygos: Šie vaidmenys aiškiai išreikšti šaltinio kodo suderinamumo tipuose; tikslus vaidmenų rinkinys priklauso nuo konkretaus modelio. Priklauso nuo modelio | Numatyta— |
Laukasmessages[].content | Tipasstring|content_part[]|null | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].tool_calls | Tipastool_call[] | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].tool_call_id | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: role=tool; naudokite tikrąjį grąžintą ID | Numatyta— |
Laukasmessages[].name | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].reasoning_content | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: Grąžinkite tikrąjį gautą samprotavimą ten, kur šis modelis jį naudoja | Numatyta— |
Laukasmessages[].reasoning_details | Tipasobject|array | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Priklauso nuo modelio | Numatyta— |
Laukasmax_completion_tokens | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Priklauso nuo modelio | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Laukasstream_options.include_usage | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastemperature | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastop_p | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasstop | Tipasstring|string[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastools | Tipasfunction_tool[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastools[].type | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos function Priklauso nuo modelio | Numatyta— |
Laukastools[].function.name | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Taikoma, kai: pateiktas funkcijos tipo įrankis | Numatyta— |
Laukastools[].function.description | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastools[].function.parameters | TipasJSON_schema | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastool_choice | Tipasstring|object | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasparallel_tool_calls | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasresponse_format | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasreasoning_effort | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasreasoning | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasservice_tier | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasinstructions | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Suderinamumo laukas | Numatyta— |
Laukasfunctions | Tipasfunction[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasfunction_call | Tipasstring|object | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasprompt_cache_options | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmodalities | Tipasstring[] | ReikalavimasNeprivaloma | Reikšmės ir ribos text | Numatyta— |
Laukasprovider | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: provider.options šiame Ultra teksto maršrute atmetamas | Numatyta— |
Laukascache_control.ttl | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: 1h atmetamas tikrosiose užklausų podėlio vietose | Numatyta— |
Tekstas · UTF8 tekstas
messages[].content
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages |
Parametrasmaterial_types | Specifikacijatext |
Parametrasmessages | Specifikacijapranešimų masyvas su role/content struktūra |
Parametrasfile_material | Specifikacijatikrasis UTF-8 dokumentas įterptas kaip pažodinis tekstas; failo ID nenumanomas |
Parametrasoptional_controls | Specifikacijastream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrascontrol_scope | Specifikacijapriklauso nuo modelio; naudotojo funkcijų įrankiai skiriasi nuo priglobtų įrankių |
Parametrasoutput_modalities | Specifikacijatext |
Parametrashosted_operations | Specifikacijafalse |
Parametrasmultimodal_input_binding | Specifikacijanull |
Gyvavimo ciklas: synchronous_or_streamed
Siųskite tikslų modelio ID kartu su messages.
Konteksto ilgis nėra išvesties limitas.
Teksto failas gali pateikti pažodinį tekstą; vaizdų / garso / failų objektų įvestims reikia tikslaus susiejimo.
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
Kiekvieną mokestį susiekite su nurodytomis sąlygomis. Kiekvienam alternatyvių konfigūracijų rinkiniui taikykite vieną įkainį.
| Konfigūracija | Įkainių lentelė | Konteksto tokenų daugiau nei | Konteksto tokenų iki imtinai | Mokestis |
|---|---|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Konteksto tokenų daugiau nei— | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.000075 / 1K tokenų Išvestis · Išvesties tokenai $0.0003 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
| KonfigūracijaUžklausos ilgio pakopa 1 | Įkainių lentelė— | Konteksto tokenų daugiau nei0 | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.000075 / 1K tokenų Išvestis · Išvesties tokenai $0.0003 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "cohere/command-r7b-12-2024", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='cohere/command-r7b-12-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='cohere/command-r7b-12-2024',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną variantą ir jo turinį / įrankių iškvietimus / samprotavimą. SSE prieaugius surinkite pagal varianto / įrankio indeksą; išsaugokite galutinę užbaigimo priežastį ir naudojimo duomenis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukaschoices[].index | Tipasinteger |
Laukaschoices[].message.content | Tipasstring|null |
Laukaschoices[].message.tool_calls | Tipastool_call[] |
Laukaschoices[].message.reasoning_content | Tipasstring |
Laukaschoices[].message.reasoning_details | Tipasobject|array |
Laukaschoices[].finish_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra cohere/command-r7b-12-2024
Naudokite aukščiau nurodytus metodų kelius.
cohere/command-r7b-12-2024Command R7B – kompaktiškas Cohere 7B tekstinis modelis pokalbiams, informacijos ištraukai, programavimo pagalbai ir agentams su įrankiais. 2024 m. gruodžio leidimas mokytas 23 kalbomis, palaiko 128K kontekstą ir skirtas tikslinėms, greitai reaguojančioms įmonių užduotims su pateiktais dokumentais arba įrankių rezultatais.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Command R7B – kompaktiškas Cohere 2024 m. gruodžio tekstinis modelis. Jo 7 milijardų parametrų architektūra skirta samprotavimui, apibendrinimui, atsakymams į klausimus, programavimui ir įmonių pagalbai. Gamintojas jį taip pat moko paieška papildytam generavimui ir kelių įrankių naudojimui per kelis žingsnius. Jis priima ir generuoja tekstą, o paskelbtame gamintojo profilyje turi 128K kontekstą ir didžiausią 4 000 žetonų išvestį.
Modelis naudoja autoregresinį transformerį su prižiūrimu derinimu ir mokymu pagal pirmenybes. Jo dėmesio schema sujungia tris vietinio slenkančio lango sluoksnius, naudojančius 4 096 žetonų langą su sukamuoju pozicijos kodavimu, ir visuotinio dėmesio sluoksnį. Jis mokytas 23 kalbomis, įskaitant rusų, anglų ir konkrečioje modelio kortelėje išvardytas kalbas.
Gamintojas atskiria pokalbinę ir instrukcinę įžangas. Pokalbinis naudojimas prideda dialogo elgseną, prisistatymus, tolesnius klausimus ir formatavimą, pavyzdžiui, Markdown. Instrukcinis naudojimas skirtas glaustiems, bet pilniems atsakymams ištraukiant informaciją, apibendrinant, verčiant ir kategorizuojant, pagal nutylėjimą be Markdown arba LaTeX. Paskelbtas modelis pateikiamas be sisteminės įžangos, todėl gamintojas rekomenduoja pridėti užduočiai tinkamą įžangą.
Klasifikavimo darbo eigai pateikite kategorijų apibrėžimus ir nurodykite, kaip tvarkyti elementą, netinkantį nė vienai. Pagalbos atsakymui pateikite klausimą ir patvirtintą produkto medžiagą, tada paprašykite atsakymo naudotojo kalba. Aiški išvesties specifikacija neleidžia pokalbiniams papildymams tapti atsitiktiniais duomenų įrašo laukais.
R7B mokytas galutiniam paieška papildyto generavimo atsakymo etapui. Jo gamintojo šablonas sujungia pokalbį su pateiktomis dokumentų ištraukomis. Gamintojas rekomenduoja trumpus fragmentus, paprastai po 100–400 žodžių, vaizduojamus trumpais aprašomaisiais raktais ir tekstinėmis arba pusiau struktūruotomis reikšmėmis. Taip pat rekomenduoja įvertinti, ar konkrečiam atvejui geriau veikia reikšmingų dokumentų pateikimas tiesiogiai naudotojo žinutėje.
Pavyzdinė užduotis: „Naudok šias įvardytas ištraukas klausimui atsakyti, nurodyk atsakymą pagrindžiantį teiginį ir pažymėk informaciją, kurios ištraukose nėra.“ Išlaikykite antraštes bei vienetus, kad ištrauktą faktą būtų galima patikrinti pagal originalią medžiagą. Programa suranda arba pateikia dokumentus; modelis generuoja atsakymą pagal šį kontekstą.
Gamintojo įrankių naudojimo pavyzdys pateikia JSON schemos funkcijų apibrėžimus ir pokalbyje išsaugo pasirinktą iškvietimą, jo planą bei rezultatą. Kiekvienas rezultatas yra žodynas, susietas su atitinkamu įrankio iškvietimo identifikatoriumi. Tai leidžia kitam atsakymui panaudoti tikrą pastebėjimą. Taigi kodo asistentas gali atlikti tikslinę užduotį, kai aplinkinė programa pateikia tinkamus tikrinimo arba validavimo įrankius.
Modelio kortelė greta kodo fragmentų, paaiškinimų ir perrašymo pabrėžia SQL bei kodo vertimą. Pateikite schemą, įvestį arba šaltinio kodą ir išlaikytiną elgseną. Kodo generavimui gamintojas rekomenduoja žemą temperature arba godųjį dekodavimą. Sugeneruotą komandą laikykite siūlomu artefaktu, kol jis nepatikrintas numatytoje aplinkoje.
Kompaktiškas R7B vaidmuo gerai tinka aiškioms pasikartojančioms užduotims ir greitai reaguojančiam pokalbiui. Kontekste palikite vietos atsakymui bei naudingai įrankių istorijai ir aiškiai nurodykite užbaigimo kriterijų. Nuo šaltinių priklausantiems teiginiams pateikite reikšmingus įrodymus, nesitikėdami, kad vien modelio dydis arba ilga užklausa patvirtins teisingumą.
POST /v1/messagestextjson, sse| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos cohere/command-r7b-12-2024 | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos user, assistant | Numatyta— |
Laukasmessages[].content | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Tekstas · UTF-8 tekstas
messages[].content eilutė
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages, max_tokens |
Parametrasoptional_controls | Specifikacijastream |
Parametrasmaterial_types | Specifikacijatext |
Parametrastext_file_material | SpecifikacijaPerskaitykite tikrąjį UTF-8 dokumentą ir įterpkite jo tekstą į nurodytą input lauką arba pranešimo turinio eilutę. |
Gyvavimo ciklas: synchronous_or_streamed
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
Kiekvieną mokestį susiekite su nurodytomis sąlygomis. Kiekvienam alternatyvių konfigūracijų rinkiniui taikykite vieną įkainį.
| Konfigūracija | Įkainių lentelė | Konteksto tokenų daugiau nei | Konteksto tokenų iki imtinai | Mokestis |
|---|---|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Konteksto tokenų daugiau nei— | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.000075 / 1K tokenų Išvestis · Išvesties tokenai $0.0003 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
| KonfigūracijaUžklausos ilgio pakopa 1 | Įkainių lentelė— | Konteksto tokenų daugiau nei0 | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.000075 / 1K tokenų Išvestis · Išvesties tokenai $0.0003 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
{\n "model": "cohere/command-r7b-12-2024",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r7b-12-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'cohere/command-r7b-12-2024', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite visus turinio blokus, mąstymo parašus ir tikruosius įrankių naudojimo ID. Surinkite visus SSE blokų prieaugius; pirmasis teksto blokas nėra visa išvestis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukasid | Tipasstring |
Laukasmodel | Tipasstring |
Laukascontent[] | Tipastext|thinking|tool_use|other content block |
Laukasstop_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra cohere/command-r7b-12-2024
Naudokite aukščiau nurodytus metodų kelius.
Techninis pavyzdys anglų kalba
Answer from support snippets\n\nAnswer the customer using only these support snippets. [Returns] Unused items can be returned within 14 days of receipt. [Shipping] Return shipping is paid by the buyer unless the item is defective. Question: "My unused item arrived 10 days ago. Can I return it, and who pays postage?" Cite the relevant snippet names.A concise customer answer citing Returns and Shipping, including the defect exception.Ensure the answer uses receipt time and preserves the buyer-paid postage exception.