DeepSeek R1 Distill Llama 70B yra atskiras samprotavimo modelis, sukurtas Llama 3.3 70B Instruct pagrindu. DeepSeek papildomai apmoko bazinį modelį DeepSeek R1 sugeneruotais samprotavimo pavyzdžiais, perkeldamas matematinių, programavimo ir loginių problemų sprendimo šablonus į tankųjį Llama modelį. Jis priima tekstą ir pateikia tekstinį atsakymą su prašoma analize, kodu ar išvada.
Distiliavimas. Tai parengta modelio kontrolinė versija, o ne režimas, aktyvuojantis visą R1 modelį. Gamintojas išleidžia kelis distiliuotus modelius, sukurtus Llama ir Qwen pagrindais. 70B Llama leidimas naudoja Llama 3.3 Instruct; 8B Llama leidimas pradedamas nuo Llama 3.1 Base. Skirtingi jų pagrindai ir dydžiai svarbūs renkantis tikslų leidimą. DeepSeek taip pat keičia distiliuotų leidimų konfigūracijas ir žetonizatorius, todėl paskelbtas modelio parengimas turi likti susietas su konkrečia pavadinta kontroline versija.
Samprotavimo užduotys. Matematinei užduočiai pateikite visą formuluotę, apibrėžimus ir prielaidas bei nurodykite, ar rezultatas turi būti įrodymas, skaičiavimas, ar kontrpavyzdys. Paprašykite aiškaus išvedimo ir lengvai randamo galutinio atsakymo. Algoritmo klausimui nurodykite įvesties apribojimus ir norimą išvestį, tuomet paprašykite metodo, jo realizacijos ir prielaidas tikrinančių atvejų. Naudingas rezultatas yra sprendimas, kurio svarbius žingsnius galima patikrinti, o ne vien tikėtina galutinė reikšmė.
Generavimo rekomendacijos. DeepSeek rekomenduoja visas instrukcijas pateikti naudotojo žinutėje, nepridedant atskiros sisteminės užklausos. Jo samprotavimo serijai dokumentuotas temperatūros intervalas yra 0.5–0.7, o pasikartojimui ir nerišliai išvesčiai mažinti rekomenduojama 0.6. Matematinėse užklausose siūloma prašyti nuoseklaus sprendimo ir galutinį rezultatą pateikti matematiniame rėmelyje. Atvejams, kai numatytas samprotavimo šablonas praleidžiamas, DeepSeek rekomenduoja suderinamoje generavimo sąrankoje priverstinai nustatyti atsakymo prefiksą <think>\\n. Tai rekomendacijos suderinamai generavimo sąrankai, kurios nepatvirtina atskiro vykdymo įrankio.
Programavimo pagalbai įtraukite susijusią funkciją, užfiksuotą klaidą, laukiamą elgseną ir reprezentatyvią įvestį. Paprašykite minimalaus siūlomo pakeitimo su paaiškinimu ir testiniu atveju, kuris atskleistų pradinę problemą. Jei klausimas apima kelis modulius, išsaugokite jų pavadinimus ir apibūdinkite sąsają tarp jų. Tuomet modelis gali samprotauti apie pateiktus ryšius ir grąžinti pataisos pasiūlymą ar konkretų paaiškinimą peržiūrai.
Techninei analizei atskirkite pateiktus faktus nuo svarstomų alternatyvų. Galite paprašyti modelio palyginti du algoritmus, paaiškinti, kodėl sąlyga būtina, arba rasti įvestį, prieštaraujančią siūlomai taisyklei. Pirmiausia prašykite lemiamo argumento ir aiškiai nurodykite visas prielaidas. Svarbius skaičiavimus patikrinkite nepriklausomai, o sugeneruotą kodą vykdykite numatytoje aplinkoje; pats atsakymas yra tekstinis rezultatas. Lygindami modelio elgseną, naudokite kelias reprezentatyvias problemas, nelaikydami vieno atsakymo išsamiu vertinimu.
", "aboutText": "DeepSeek R1 Distill Llama 70B yra atskiras samprotavimo modelis, sukurtas Llama 3.3 70B Instruct pagrindu. DeepSeek papildomai apmoko bazinį modelį DeepSeek R1 sugeneruotais samprotavimo pavyzdžiais, perkeldamas matematinių, programavimo ir loginių problemų sprendimo šablonus į tankųjį Llama modelį. Jis priima tekstą ir pateikia tekstinį atsakymą su prašoma analize, kodu ar išvada.\n\nDistiliavimas. Tai parengta modelio kontrolinė versija, o ne režimas, aktyvuojantis visą R1 modelį. Gamintojas išleidžia kelis distiliuotus modelius, sukurtus Llama ir Qwen pagrindais. 70B Llama leidimas naudoja Llama 3.3 Instruct; 8B Llama leidimas pradedamas nuo Llama 3.1 Base. Skirtingi jų pagrindai ir dydžiai svarbūs renkantis tikslų leidimą. DeepSeek taip pat keičia distiliuotų leidimų konfigūracijas ir žetonizatorius, todėl paskelbtas modelio parengimas turi likti susietas su konkrečia pavadinta kontroline versija.\n\nSamprotavimo užduotys. Matematinei užduočiai pateikite visą formuluotę, apibrėžimus ir prielaidas bei nurodykite, ar rezultatas turi būti įrodymas, skaičiavimas, ar kontrpavyzdys. Paprašykite aiškaus išvedimo ir lengvai randamo galutinio atsakymo. Algoritmo klausimui nurodykite įvesties apribojimus ir norimą išvestį, tuomet paprašykite metodo, jo realizacijos ir prielaidas tikrinančių atvejų. Naudingas rezultatas yra sprendimas, kurio svarbius žingsnius galima patikrinti, o ne vien tikėtina galutinė reikšmė.\n\nGeneravimo rekomendacijos. DeepSeek rekomenduoja visas instrukcijas pateikti naudotojo žinutėje, nepridedant atskiros sisteminės užklausos. Jo samprotavimo serijai dokumentuotas temperatūros intervalas yra 0.5–0.7, o pasikartojimui ir nerišliai išvesčiai mažinti rekomenduojama 0.6. Matematinėse užklausose siūloma prašyti nuoseklaus sprendimo ir galutinį rezultatą pateikti matematiniame rėmelyje. Atvejams, kai numatytas samprotavimo šablonas praleidžiamas, DeepSeek rekomenduoja suderinamoje generavimo sąrankoje priverstinai nustatyti atsakymo prefiksą `Techninis pavyzdys anglų kalba
Test an allocation rule\n\nA workshop must assign 17 identical kits to four teams. Each team needs at least three kits, and Team A must receive an odd number. Find the allocation that minimizes the largest team allocation. Show a short verifiable argument that a smaller maximum is impossible, then give one valid allocation.An explicit allocation, its maximum and a concise optimality argument.The allocation must sum to 17, satisfy the minimum and oddness rules, and include a lower-bound argument.deepseek/deepseek-r1-distill-llama-70bTankusis samprotavimo modelis, kurį DeepSeek distiliavo iš R1 sugeneruotų pavyzdžių į Llama 3.3 70B Instruct. Tekstinėmis užklausomis pateikite matematinius uždavinius, kodą ir loginius klausimus, kuriems reikia paaiškinto sprendimo bei atskiro galutinio atsakymo.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
DeepSeek R1 Distill Llama 70B yra atskiras samprotavimo modelis, sukurtas Llama 3.3 70B Instruct pagrindu. DeepSeek papildomai apmoko bazinį modelį DeepSeek R1 sugeneruotais samprotavimo pavyzdžiais, perkeldamas matematinių, programavimo ir loginių problemų sprendimo šablonus į tankųjį Llama modelį. Jis priima tekstą ir pateikia tekstinį atsakymą su prašoma analize, kodu ar išvada.
Distiliavimas. Tai parengta modelio kontrolinė versija, o ne režimas, aktyvuojantis visą R1 modelį. Gamintojas išleidžia kelis distiliuotus modelius, sukurtus Llama ir Qwen pagrindais. 70B Llama leidimas naudoja Llama 3.3 Instruct; 8B Llama leidimas pradedamas nuo Llama 3.1 Base. Skirtingi jų pagrindai ir dydžiai svarbūs renkantis tikslų leidimą. DeepSeek taip pat keičia distiliuotų leidimų konfigūracijas ir žetonizatorius, todėl paskelbtas modelio parengimas turi likti susietas su konkrečia pavadinta kontroline versija.
Samprotavimo užduotys. Matematinei užduočiai pateikite visą formuluotę, apibrėžimus ir prielaidas bei nurodykite, ar rezultatas turi būti įrodymas, skaičiavimas, ar kontrpavyzdys. Paprašykite aiškaus išvedimo ir lengvai randamo galutinio atsakymo. Algoritmo klausimui nurodykite įvesties apribojimus ir norimą išvestį, tuomet paprašykite metodo, jo realizacijos ir prielaidas tikrinančių atvejų. Naudingas rezultatas yra sprendimas, kurio svarbius žingsnius galima patikrinti, o ne vien tikėtina galutinė reikšmė.
Generavimo rekomendacijos. DeepSeek rekomenduoja visas instrukcijas pateikti naudotojo žinutėje, nepridedant atskiros sisteminės užklausos. Jo samprotavimo serijai dokumentuotas temperatūros intervalas yra 0.5–0.7, o pasikartojimui ir nerišliai išvesčiai mažinti rekomenduojama 0.6. Matematinėse užklausose siūloma prašyti nuoseklaus sprendimo ir galutinį rezultatą pateikti matematiniame rėmelyje. Atvejams, kai numatytas samprotavimo šablonas praleidžiamas, DeepSeek rekomenduoja suderinamoje generavimo sąrankoje priverstinai nustatyti atsakymo prefiksą <think>\\n. Tai rekomendacijos suderinamai generavimo sąrankai, kurios nepatvirtina atskiro vykdymo įrankio.
Programavimo pagalbai įtraukite susijusią funkciją, užfiksuotą klaidą, laukiamą elgseną ir reprezentatyvią įvestį. Paprašykite minimalaus siūlomo pakeitimo su paaiškinimu ir testiniu atveju, kuris atskleistų pradinę problemą. Jei klausimas apima kelis modulius, išsaugokite jų pavadinimus ir apibūdinkite sąsają tarp jų. Tuomet modelis gali samprotauti apie pateiktus ryšius ir grąžinti pataisos pasiūlymą ar konkretų paaiškinimą peržiūrai.
Techninei analizei atskirkite pateiktus faktus nuo svarstomų alternatyvų. Galite paprašyti modelio palyginti du algoritmus, paaiškinti, kodėl sąlyga būtina, arba rasti įvestį, prieštaraujančią siūlomai taisyklei. Pirmiausia prašykite lemiamo argumento ir aiškiai nurodykite visas prielaidas. Svarbius skaičiavimus patikrinkite nepriklausomai, o sugeneruotą kodą vykdykite numatytoje aplinkoje; pats atsakymas yra tekstinis rezultatas. Lygindami modelio elgseną, naudokite kelias reprezentatyvias problemas, nelaikydami vieno atsakymo išsamiu vertinimu.
POST /v1/chat/completionstexttext| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos deepseek/deepseek-r1-distill-llama-70b | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Pavyzdžiai: system, user, assistant, tool, function Sąlygos: Šie vaidmenys aiškiai išreikšti šaltinio kodo suderinamumo tipuose; tikslus vaidmenų rinkinys priklauso nuo konkretaus modelio. Priklauso nuo modelio | Numatyta— |
Laukasmessages[].content | Tipasstring|content_part[]|null | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].tool_calls | Tipastool_call[] | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].tool_call_id | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: role=tool; naudokite tikrąjį grąžintą ID | Numatyta— |
Laukasmessages[].name | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].reasoning_content | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: Grąžinkite tikrąjį gautą samprotavimą ten, kur šis modelis jį naudoja | Numatyta— |
Laukasmessages[].reasoning_details | Tipasobject|array | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Priklauso nuo modelio | Numatyta— |
Laukasmax_completion_tokens | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Priklauso nuo modelio | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Laukasstream_options.include_usage | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastemperature | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastop_p | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasstop | Tipasstring|string[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastools | Tipasfunction_tool[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastools[].type | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos function Priklauso nuo modelio | Numatyta— |
Laukastools[].function.name | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Taikoma, kai: pateiktas funkcijos tipo įrankis | Numatyta— |
Laukastools[].function.description | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastools[].function.parameters | TipasJSON_schema | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastool_choice | Tipasstring|object | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasparallel_tool_calls | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasresponse_format | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasreasoning_effort | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasreasoning | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasservice_tier | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasinstructions | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Suderinamumo laukas | Numatyta— |
Laukasfunctions | Tipasfunction[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasfunction_call | Tipasstring|object | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasprompt_cache_options | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmodalities | Tipasstring[] | ReikalavimasNeprivaloma | Reikšmės ir ribos text | Numatyta— |
Laukasprovider | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: provider.options šiame Ultra teksto maršrute atmetamas | Numatyta— |
Laukascache_control.ttl | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: 1h atmetamas tikrosiose užklausų podėlio vietose | Numatyta— |
Tekstas · UTF8 tekstas
messages[].content
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages |
Parametrasmaterial_types | Specifikacijatext |
Parametrasmessages | Specifikacijapranešimų masyvas su role/content struktūra |
Parametrasfile_material | Specifikacijatikrasis UTF-8 dokumentas įterptas kaip pažodinis tekstas; failo ID nenumanomas |
Parametrasoptional_controls | Specifikacijastream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrascontrol_scope | Specifikacijapriklauso nuo modelio; naudotojo funkcijų įrankiai skiriasi nuo priglobtų įrankių |
Parametrasoutput_modalities | Specifikacijatext |
Parametrashosted_operations | Specifikacijafalse |
Parametrasmultimodal_input_binding | Specifikacijanull |
Gyvavimo ciklas: synchronous_or_streamed
Siųskite tikslų modelio ID kartu su messages.
Konteksto ilgis nėra išvesties limitas.
Teksto failas gali pateikti pažodinį tekstą; vaizdų / garso / failų objektų įvestims reikia tikslaus susiejimo.
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.00028 / 1K tokenų Išvestis · Išvesties tokenai $0.00086 / 1K tokenų Įvestis · Talpyklos skaitymas $0 / 1K tokenų Įvestis · Rašymas į talpyklą $0 / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "deepseek/deepseek-r1-distill-llama-70b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='deepseek/deepseek-r1-distill-llama-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='deepseek/deepseek-r1-distill-llama-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną variantą ir jo turinį / įrankių iškvietimus / samprotavimą. SSE prieaugius surinkite pagal varianto / įrankio indeksą; išsaugokite galutinę užbaigimo priežastį ir naudojimo duomenis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukaschoices[].index | Tipasinteger |
Laukaschoices[].message.content | Tipasstring|null |
Laukaschoices[].message.tool_calls | Tipastool_call[] |
Laukaschoices[].message.reasoning_content | Tipasstring |
Laukaschoices[].message.reasoning_details | Tipasobject|array |
Laukaschoices[].finish_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra deepseek/deepseek-r1-distill-llama-70b
Naudokite aukščiau nurodytus metodų kelius.
deepseek/deepseek-r1-distill-llama-70bTankusis samprotavimo modelis, kurį DeepSeek distiliavo iš R1 sugeneruotų pavyzdžių į Llama 3.3 70B Instruct. Tekstinėmis užklausomis pateikite matematinius uždavinius, kodą ir loginius klausimus, kuriems reikia paaiškinto sprendimo bei atskiro galutinio atsakymo.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
DeepSeek R1 Distill Llama 70B yra atskiras samprotavimo modelis, sukurtas Llama 3.3 70B Instruct pagrindu. DeepSeek papildomai apmoko bazinį modelį DeepSeek R1 sugeneruotais samprotavimo pavyzdžiais, perkeldamas matematinių, programavimo ir loginių problemų sprendimo šablonus į tankųjį Llama modelį. Jis priima tekstą ir pateikia tekstinį atsakymą su prašoma analize, kodu ar išvada.
Distiliavimas. Tai parengta modelio kontrolinė versija, o ne režimas, aktyvuojantis visą R1 modelį. Gamintojas išleidžia kelis distiliuotus modelius, sukurtus Llama ir Qwen pagrindais. 70B Llama leidimas naudoja Llama 3.3 Instruct; 8B Llama leidimas pradedamas nuo Llama 3.1 Base. Skirtingi jų pagrindai ir dydžiai svarbūs renkantis tikslų leidimą. DeepSeek taip pat keičia distiliuotų leidimų konfigūracijas ir žetonizatorius, todėl paskelbtas modelio parengimas turi likti susietas su konkrečia pavadinta kontroline versija.
Samprotavimo užduotys. Matematinei užduočiai pateikite visą formuluotę, apibrėžimus ir prielaidas bei nurodykite, ar rezultatas turi būti įrodymas, skaičiavimas, ar kontrpavyzdys. Paprašykite aiškaus išvedimo ir lengvai randamo galutinio atsakymo. Algoritmo klausimui nurodykite įvesties apribojimus ir norimą išvestį, tuomet paprašykite metodo, jo realizacijos ir prielaidas tikrinančių atvejų. Naudingas rezultatas yra sprendimas, kurio svarbius žingsnius galima patikrinti, o ne vien tikėtina galutinė reikšmė.
Generavimo rekomendacijos. DeepSeek rekomenduoja visas instrukcijas pateikti naudotojo žinutėje, nepridedant atskiros sisteminės užklausos. Jo samprotavimo serijai dokumentuotas temperatūros intervalas yra 0.5–0.7, o pasikartojimui ir nerišliai išvesčiai mažinti rekomenduojama 0.6. Matematinėse užklausose siūloma prašyti nuoseklaus sprendimo ir galutinį rezultatą pateikti matematiniame rėmelyje. Atvejams, kai numatytas samprotavimo šablonas praleidžiamas, DeepSeek rekomenduoja suderinamoje generavimo sąrankoje priverstinai nustatyti atsakymo prefiksą <think>\\n. Tai rekomendacijos suderinamai generavimo sąrankai, kurios nepatvirtina atskiro vykdymo įrankio.
Programavimo pagalbai įtraukite susijusią funkciją, užfiksuotą klaidą, laukiamą elgseną ir reprezentatyvią įvestį. Paprašykite minimalaus siūlomo pakeitimo su paaiškinimu ir testiniu atveju, kuris atskleistų pradinę problemą. Jei klausimas apima kelis modulius, išsaugokite jų pavadinimus ir apibūdinkite sąsają tarp jų. Tuomet modelis gali samprotauti apie pateiktus ryšius ir grąžinti pataisos pasiūlymą ar konkretų paaiškinimą peržiūrai.
Techninei analizei atskirkite pateiktus faktus nuo svarstomų alternatyvų. Galite paprašyti modelio palyginti du algoritmus, paaiškinti, kodėl sąlyga būtina, arba rasti įvestį, prieštaraujančią siūlomai taisyklei. Pirmiausia prašykite lemiamo argumento ir aiškiai nurodykite visas prielaidas. Svarbius skaičiavimus patikrinkite nepriklausomai, o sugeneruotą kodą vykdykite numatytoje aplinkoje; pats atsakymas yra tekstinis rezultatas. Lygindami modelio elgseną, naudokite kelias reprezentatyvias problemas, nelaikydami vieno atsakymo išsamiu vertinimu.
POST /v1/messagestextjson, sse| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos deepseek/deepseek-r1-distill-llama-70b | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos user, assistant | Numatyta— |
Laukasmessages[].content | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Tekstas · UTF-8 tekstas
messages[].content eilutė
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages, max_tokens |
Parametrasoptional_controls | Specifikacijastream |
Parametrasmaterial_types | Specifikacijatext |
Parametrastext_file_material | SpecifikacijaPerskaitykite tikrąjį UTF-8 dokumentą ir įterpkite jo tekstą į nurodytą input lauką arba pranešimo turinio eilutę. |
Gyvavimo ciklas: synchronous_or_streamed
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0.00028 / 1K tokenų Išvestis · Išvesties tokenai $0.00086 / 1K tokenų Įvestis · Talpyklos skaitymas $0 / 1K tokenų Įvestis · Rašymas į talpyklą $0 / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
{\n "model": "deepseek/deepseek-r1-distill-llama-70b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'deepseek/deepseek-r1-distill-llama-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'deepseek/deepseek-r1-distill-llama-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite visus turinio blokus, mąstymo parašus ir tikruosius įrankių naudojimo ID. Surinkite visus SSE blokų prieaugius; pirmasis teksto blokas nėra visa išvestis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukasid | Tipasstring |
Laukasmodel | Tipasstring |
Laukascontent[] | Tipastext|thinking|tool_use|other content block |
Laukasstop_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra deepseek/deepseek-r1-distill-llama-70b
Naudokite aukščiau nurodytus metodų kelius.
Techninis pavyzdys anglų kalba
Test an allocation rule\n\nA workshop must assign 17 identical kits to four teams. Each team needs at least three kits, and Team A must receive an odd number. Find the allocation that minimizes the largest team allocation. Show a short verifiable argument that a smaller maximum is impossible, then give one valid allocation.An explicit allocation, its maximum and a concise optimality argument.The allocation must sum to 17, satisfy the minimum and oddness rules, and include a lower-bound argument.