Trinity-Large-Thinking yra samprotavimui optimizuotas Arcee AI Trinity Large šeimos leidimas. Jis sukurtas agentams, planuojantiems per kelis etapus, kviečiantiems įrankius ir išlaikantiems nuoseklią užduotį ilgame pokalbyje, kartu išsaugant bendras teksto generavimo galimybes. Modelis priima tekstą ir generuoja tekstą, įskaitant aiškų samprotavimą ir įrankių užklausas. Jo mokymas išplečia Trinity-Large-Base modelį instrukciniu derinimu ir mokymu su pastiprinimu pagal samprotavimo grandines, įrankių kvietimo trajektorijas bei kelių etapų agentų užduotis.
Modelio kortelėje aprašyta retai aktyvuojama ekspertų mišinio architektūra su maždaug 398 milijardais bendrų parametrų ir 13 milijardų aktyvių parametrų vienam žetonui. Joje nurodyti 256 ekspertai, vienas bendras ekspertas, keturi aktyvūs ekspertai ir 512K konteksto langas, išplėstas iš 8 192 žetonų pirminio mokymo konteksto. Tai gamintojo modelio savybės, o ne atsakymo greičio prognozė. Thinking kontrolinis taškas skiriasi nuo lengvai papildomai apmokyto, pokalbiui paruošto Trinity-Large-Preview, kuris nepateikia reasoning_content, ir nuo Base bei TrueBase pirminio mokymo kontrolinių taškų.
Aiškus samprotavimas prieš galutinį atsakymą pasirodo <think>...</think> blokuose. Dokumentuotame struktūruotame atsakyme reasoning_content laiko samprotavimą atskirai nuo content ir tool_calls. Viso asistento ėjimo išsaugojimas yra esminė šio modelio naudojimo dalis: prieš kitą etapą perduokite samprotavimą atgal kartu su atsakymu ir visais įrankių kvietimais. Jo pokalbio šablonas atkuria samprotavimo blokus konstruodamas kitą įvestį. Jei istoriją reikia trumpinti, Arcee rekomenduoja pašalinti senesnius ėjimus ištisai, o ne iškirpti samprotavimą iš naujausių ėjimų.
Gamintojo agento ciklo schema prasideda naudotojo užduotimi ir įrankių apibrėžimais, gauna samprotavimą, atsakymą ar įrankių užklausas, vykdo prašomus įrankius už modelio ribų ir prieš tęsdama prideda asistento ėjimą bei tikrus įrankių rezultatus. Tai tęsiasi, kol grąžinamas galutinis atsakymas be įrankių kvietimų. Asistento ėjimams su įrankių kvietimais, bet be atsakymo teksto, vadovas reikalauja, kad content būtų tuščia eilutė, o ne null. Samprotavimo laukas taip pat turi atitikti teikimo sąsają: Arcee vadovas skiria reasoning_content nuo integracijų, kurios tikisi reasoning.
Dėl to modelis naudingas pagalbos eigoje, kuri pirmiausia suranda įrašą, pritaiko pateiktą politiką ir tada prašo tinkamo kito veiksmo, arba programavimo agentui, kuris peržiūri failus, pasiūlo pakeitimą ir interpretuoja vykdymo rezultatą. Pateikite tikrą tikslą, įrankių pavadinimus, argumentų schemas, apribojimus ir užbaigimo sąlygą. Iliustratyvus aprašas gali prašyti rasti trūkumą, paaiškinti įrodymus ir pasiūlyti minimalią pataisą, atskiriant pastebėtus įrankių rezultatus nuo dar planuojamų veiksmų. Įrankių kvietimai yra užklausos vykdymo sluoksniui, o ne įrodymas, kad modelis jau pakeitė failą ar atliko išorinį veiksmą.
Kortelė išvedimui rekomenduoja temperature 0.45–0.6, top_p 0.95 ir top_k 50. Tai rekomenduojamos nuostatos, o ne fiksuotos išvesties ribos. Svarbus gamintojo vadove aprašytas gedimo atvejis – netaisyklingas kelių etapų įrankių naudojimas, kai ankstesnis ėjimas praranda samprotavimą arba turi netinkamą pranešimo formą: įrankio kvietimo žymėjimas gali atsirasti samprotavimo lauke vietoj struktūruotos įrankio kvietimo išvesties. Išsaugokite visą ėjimą, išlaikykite ne null atsakymo turinį ir galutinį artefaktą laikykite atskirai nuo saugomos samprotavimo istorijos. Ši versija ypač tinka eigoms, kuriose svarbus tęstinumas tarp stebėjimų, samprotavimo ir tolesnių veiksmų.
", "aboutText": "Trinity-Large-Thinking yra samprotavimui optimizuotas Arcee AI Trinity Large šeimos leidimas. Jis sukurtas agentams, planuojantiems per kelis etapus, kviečiantiems įrankius ir išlaikantiems nuoseklią užduotį ilgame pokalbyje, kartu išsaugant bendras teksto generavimo galimybes. Modelis priima tekstą ir generuoja tekstą, įskaitant aiškų samprotavimą ir įrankių užklausas. Jo mokymas išplečia Trinity-Large-Base modelį instrukciniu derinimu ir mokymu su pastiprinimu pagal samprotavimo grandines, įrankių kvietimo trajektorijas bei kelių etapų agentų užduotis.\n\nModelio kortelėje aprašyta retai aktyvuojama ekspertų mišinio architektūra su maždaug 398 milijardais bendrų parametrų ir 13 milijardų aktyvių parametrų vienam žetonui. Joje nurodyti 256 ekspertai, vienas bendras ekspertas, keturi aktyvūs ekspertai ir 512K konteksto langas, išplėstas iš 8 192 žetonų pirminio mokymo konteksto. Tai gamintojo modelio savybės, o ne atsakymo greičio prognozė. Thinking kontrolinis taškas skiriasi nuo lengvai papildomai apmokyto, pokalbiui paruošto Trinity-Large-Preview, kuris nepateikia reasoning_content, ir nuo Base bei TrueBase pirminio mokymo kontrolinių taškų.\n\nAiškus samprotavimas prieš galutinį atsakymą pasirodoTechninis pavyzdys anglų kalba
Apply a support policy to a record\n\nUse this supplied lookup result: order C17 arrived 12 days ago, packaging intact, customer requests a return. Policy: unopened items may be returned within 14 days; opened items need review. Decide the next support step and draft a request for the one missing fact. Do not claim any external action occurred.A policy-based decision, the missing fact and a customer-facing clarification message.Check that unopened status remains unknown and that no return is described as already created.arcee-ai/trinity-large-thinkingTrinity-Large-Thinking yra Arcee AI samprotavimo modelis kelių etapų agentams ir įrankių kvietimui. Jis prieš atsakymą generuoja aiškų samprotavimą ir reikalauja jį išsaugoti tarp pokalbio ėjimų bei įrankiais grindžiamose eigose.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Trinity-Large-Thinking yra samprotavimui optimizuotas Arcee AI Trinity Large šeimos leidimas. Jis sukurtas agentams, planuojantiems per kelis etapus, kviečiantiems įrankius ir išlaikantiems nuoseklią užduotį ilgame pokalbyje, kartu išsaugant bendras teksto generavimo galimybes. Modelis priima tekstą ir generuoja tekstą, įskaitant aiškų samprotavimą ir įrankių užklausas. Jo mokymas išplečia Trinity-Large-Base modelį instrukciniu derinimu ir mokymu su pastiprinimu pagal samprotavimo grandines, įrankių kvietimo trajektorijas bei kelių etapų agentų užduotis.
Modelio kortelėje aprašyta retai aktyvuojama ekspertų mišinio architektūra su maždaug 398 milijardais bendrų parametrų ir 13 milijardų aktyvių parametrų vienam žetonui. Joje nurodyti 256 ekspertai, vienas bendras ekspertas, keturi aktyvūs ekspertai ir 512K konteksto langas, išplėstas iš 8 192 žetonų pirminio mokymo konteksto. Tai gamintojo modelio savybės, o ne atsakymo greičio prognozė. Thinking kontrolinis taškas skiriasi nuo lengvai papildomai apmokyto, pokalbiui paruošto Trinity-Large-Preview, kuris nepateikia reasoning_content, ir nuo Base bei TrueBase pirminio mokymo kontrolinių taškų.
Aiškus samprotavimas prieš galutinį atsakymą pasirodo <think>...</think> blokuose. Dokumentuotame struktūruotame atsakyme reasoning_content laiko samprotavimą atskirai nuo content ir tool_calls. Viso asistento ėjimo išsaugojimas yra esminė šio modelio naudojimo dalis: prieš kitą etapą perduokite samprotavimą atgal kartu su atsakymu ir visais įrankių kvietimais. Jo pokalbio šablonas atkuria samprotavimo blokus konstruodamas kitą įvestį. Jei istoriją reikia trumpinti, Arcee rekomenduoja pašalinti senesnius ėjimus ištisai, o ne iškirpti samprotavimą iš naujausių ėjimų.
Gamintojo agento ciklo schema prasideda naudotojo užduotimi ir įrankių apibrėžimais, gauna samprotavimą, atsakymą ar įrankių užklausas, vykdo prašomus įrankius už modelio ribų ir prieš tęsdama prideda asistento ėjimą bei tikrus įrankių rezultatus. Tai tęsiasi, kol grąžinamas galutinis atsakymas be įrankių kvietimų. Asistento ėjimams su įrankių kvietimais, bet be atsakymo teksto, vadovas reikalauja, kad content būtų tuščia eilutė, o ne null. Samprotavimo laukas taip pat turi atitikti teikimo sąsają: Arcee vadovas skiria reasoning_content nuo integracijų, kurios tikisi reasoning.
Dėl to modelis naudingas pagalbos eigoje, kuri pirmiausia suranda įrašą, pritaiko pateiktą politiką ir tada prašo tinkamo kito veiksmo, arba programavimo agentui, kuris peržiūri failus, pasiūlo pakeitimą ir interpretuoja vykdymo rezultatą. Pateikite tikrą tikslą, įrankių pavadinimus, argumentų schemas, apribojimus ir užbaigimo sąlygą. Iliustratyvus aprašas gali prašyti rasti trūkumą, paaiškinti įrodymus ir pasiūlyti minimalią pataisą, atskiriant pastebėtus įrankių rezultatus nuo dar planuojamų veiksmų. Įrankių kvietimai yra užklausos vykdymo sluoksniui, o ne įrodymas, kad modelis jau pakeitė failą ar atliko išorinį veiksmą.
Kortelė išvedimui rekomenduoja temperature 0.45–0.6, top_p 0.95 ir top_k 50. Tai rekomenduojamos nuostatos, o ne fiksuotos išvesties ribos. Svarbus gamintojo vadove aprašytas gedimo atvejis – netaisyklingas kelių etapų įrankių naudojimas, kai ankstesnis ėjimas praranda samprotavimą arba turi netinkamą pranešimo formą: įrankio kvietimo žymėjimas gali atsirasti samprotavimo lauke vietoj struktūruotos įrankio kvietimo išvesties. Išsaugokite visą ėjimą, išlaikykite ne null atsakymo turinį ir galutinį artefaktą laikykite atskirai nuo saugomos samprotavimo istorijos. Ši versija ypač tinka eigoms, kuriose svarbus tęstinumas tarp stebėjimų, samprotavimo ir tolesnių veiksmų.
POST /v1/chat/completionstexttext| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos arcee-ai/trinity-large-thinking | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausias elementų skaičius: 1 | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Pavyzdžiai: system, user, assistant, tool, function Sąlygos: Šie vaidmenys aiškiai išreikšti šaltinio kodo suderinamumo tipuose; tikslus vaidmenų rinkinys priklauso nuo konkretaus modelio. Priklauso nuo modelio | Numatyta— |
Laukasmessages[].content | Tipasstring|content_part[]|null | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].tool_calls | Tipastool_call[] | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].tool_call_id | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: role=tool; naudokite tikrąjį grąžintą ID | Numatyta— |
Laukasmessages[].name | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].reasoning_content | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Taikoma, kai: Grąžinkite tikrąjį gautą samprotavimą ten, kur šis modelis jį naudoja | Numatyta— |
Laukasmessages[].reasoning_details | Tipasobject|array | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Priklauso nuo modelio | Numatyta— |
Laukasmax_completion_tokens | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Priklauso nuo modelio | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Laukasstream_options.include_usage | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastemperature | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastop_p | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasstop | Tipasstring|string[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastools | Tipasfunction_tool[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukastools[].type | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos function Priklauso nuo modelio | Numatyta— |
Laukastools[].function.name | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos Taikoma, kai: pateiktas funkcijos tipo įrankis | Numatyta— |
Laukastools[].function.description | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastools[].function.parameters | TipasJSON_schema | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastool_choice | Tipasstring|object | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasparallel_tool_calls | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasresponse_format | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasreasoning_effort | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasreasoning | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasservice_tier | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasinstructions | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Suderinamumo laukas | Numatyta— |
Laukasfunctions | Tipasfunction[] | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasfunction_call | Tipasstring|object | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasprompt_cache_options | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Priklauso nuo modelio | Numatyta— |
Laukasmodalities | Tipasstring[] | ReikalavimasNeprivaloma | Reikšmės ir ribos text | Numatyta— |
Laukasprovider | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: provider.options šiame Ultra teksto maršrute atmetamas | Numatyta— |
Laukascache_control.ttl | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos Sąlygos: 1h atmetamas tikrosiose užklausų podėlio vietose | Numatyta— |
Tekstas · UTF8 tekstas
messages[].content
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages |
Parametrasmaterial_types | Specifikacijatext |
Parametrasmessages | Specifikacijapranešimų masyvas su role/content struktūra |
Parametrasfile_material | Specifikacijatikrasis UTF-8 dokumentas įterptas kaip pažodinis tekstas; failo ID nenumanomas |
Parametrasoptional_controls | Specifikacijastream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrascontrol_scope | Specifikacijapriklauso nuo modelio; naudotojo funkcijų įrankiai skiriasi nuo priglobtų įrankių |
Parametrasoutput_modalities | Specifikacijatext |
Parametrashosted_operations | Specifikacijafalse |
Parametrasmultimodal_input_binding | Specifikacijanull |
Gyvavimo ciklas: synchronous_or_streamed
Siųskite tikslų modelio ID kartu su messages.
Konteksto ilgis nėra išvesties limitas.
Teksto failas gali pateikti pažodinį tekstą; vaizdų / garso / failų objektų įvestims reikia tikslaus susiejimo.
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
Kiekvieną mokestį susiekite su nurodytomis sąlygomis. Kiekvienam alternatyvių konfigūracijų rinkiniui taikykite vieną įkainį.
| Konfigūracija | Įkainių lentelė | Konteksto tokenų daugiau nei | Konteksto tokenų iki imtinai | Mokestis |
|---|---|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Konteksto tokenų daugiau nei— | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.0005 / 1K tokenų Išvestis · Išvesties tokenai $0.0016 / 1K tokenų Įvestis · Talpyklos skaitymas $0.00012 / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
| KonfigūracijaUžklausos ilgio pakopa 1 | Įkainių lentelė— | Konteksto tokenų daugiau nei0 | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.0005 / 1K tokenų Išvestis · Išvesties tokenai $0.0016 / 1K tokenų Įvestis · Talpyklos skaitymas $0.00012 / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "arcee-ai/trinity-large-thinking", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='arcee-ai/trinity-large-thinking',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='arcee-ai/trinity-large-thinking',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite kiekvieną variantą ir jo turinį / įrankių iškvietimus / samprotavimą. SSE prieaugius surinkite pagal varianto / įrankio indeksą; išsaugokite galutinę užbaigimo priežastį ir naudojimo duomenis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukaschoices[].index | Tipasinteger |
Laukaschoices[].message.content | Tipasstring|null |
Laukaschoices[].message.tool_calls | Tipastool_call[] |
Laukaschoices[].message.reasoning_content | Tipasstring |
Laukaschoices[].message.reasoning_details | Tipasobject|array |
Laukaschoices[].finish_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra arcee-ai/trinity-large-thinking
Naudokite aukščiau nurodytus metodų kelius.
arcee-ai/trinity-large-thinkingTrinity-Large-Thinking yra Arcee AI samprotavimo modelis kelių etapų agentams ir įrankių kvietimui. Jis prieš atsakymą generuoja aiškų samprotavimą ir reikalauja jį išsaugoti tarp pokalbio ėjimų bei įrankiais grindžiamose eigose.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Trinity-Large-Thinking yra samprotavimui optimizuotas Arcee AI Trinity Large šeimos leidimas. Jis sukurtas agentams, planuojantiems per kelis etapus, kviečiantiems įrankius ir išlaikantiems nuoseklią užduotį ilgame pokalbyje, kartu išsaugant bendras teksto generavimo galimybes. Modelis priima tekstą ir generuoja tekstą, įskaitant aiškų samprotavimą ir įrankių užklausas. Jo mokymas išplečia Trinity-Large-Base modelį instrukciniu derinimu ir mokymu su pastiprinimu pagal samprotavimo grandines, įrankių kvietimo trajektorijas bei kelių etapų agentų užduotis.
Modelio kortelėje aprašyta retai aktyvuojama ekspertų mišinio architektūra su maždaug 398 milijardais bendrų parametrų ir 13 milijardų aktyvių parametrų vienam žetonui. Joje nurodyti 256 ekspertai, vienas bendras ekspertas, keturi aktyvūs ekspertai ir 512K konteksto langas, išplėstas iš 8 192 žetonų pirminio mokymo konteksto. Tai gamintojo modelio savybės, o ne atsakymo greičio prognozė. Thinking kontrolinis taškas skiriasi nuo lengvai papildomai apmokyto, pokalbiui paruošto Trinity-Large-Preview, kuris nepateikia reasoning_content, ir nuo Base bei TrueBase pirminio mokymo kontrolinių taškų.
Aiškus samprotavimas prieš galutinį atsakymą pasirodo <think>...</think> blokuose. Dokumentuotame struktūruotame atsakyme reasoning_content laiko samprotavimą atskirai nuo content ir tool_calls. Viso asistento ėjimo išsaugojimas yra esminė šio modelio naudojimo dalis: prieš kitą etapą perduokite samprotavimą atgal kartu su atsakymu ir visais įrankių kvietimais. Jo pokalbio šablonas atkuria samprotavimo blokus konstruodamas kitą įvestį. Jei istoriją reikia trumpinti, Arcee rekomenduoja pašalinti senesnius ėjimus ištisai, o ne iškirpti samprotavimą iš naujausių ėjimų.
Gamintojo agento ciklo schema prasideda naudotojo užduotimi ir įrankių apibrėžimais, gauna samprotavimą, atsakymą ar įrankių užklausas, vykdo prašomus įrankius už modelio ribų ir prieš tęsdama prideda asistento ėjimą bei tikrus įrankių rezultatus. Tai tęsiasi, kol grąžinamas galutinis atsakymas be įrankių kvietimų. Asistento ėjimams su įrankių kvietimais, bet be atsakymo teksto, vadovas reikalauja, kad content būtų tuščia eilutė, o ne null. Samprotavimo laukas taip pat turi atitikti teikimo sąsają: Arcee vadovas skiria reasoning_content nuo integracijų, kurios tikisi reasoning.
Dėl to modelis naudingas pagalbos eigoje, kuri pirmiausia suranda įrašą, pritaiko pateiktą politiką ir tada prašo tinkamo kito veiksmo, arba programavimo agentui, kuris peržiūri failus, pasiūlo pakeitimą ir interpretuoja vykdymo rezultatą. Pateikite tikrą tikslą, įrankių pavadinimus, argumentų schemas, apribojimus ir užbaigimo sąlygą. Iliustratyvus aprašas gali prašyti rasti trūkumą, paaiškinti įrodymus ir pasiūlyti minimalią pataisą, atskiriant pastebėtus įrankių rezultatus nuo dar planuojamų veiksmų. Įrankių kvietimai yra užklausos vykdymo sluoksniui, o ne įrodymas, kad modelis jau pakeitė failą ar atliko išorinį veiksmą.
Kortelė išvedimui rekomenduoja temperature 0.45–0.6, top_p 0.95 ir top_k 50. Tai rekomenduojamos nuostatos, o ne fiksuotos išvesties ribos. Svarbus gamintojo vadove aprašytas gedimo atvejis – netaisyklingas kelių etapų įrankių naudojimas, kai ankstesnis ėjimas praranda samprotavimą arba turi netinkamą pranešimo formą: įrankio kvietimo žymėjimas gali atsirasti samprotavimo lauke vietoj struktūruotos įrankio kvietimo išvesties. Išsaugokite visą ėjimą, išlaikykite ne null atsakymo turinį ir galutinį artefaktą laikykite atskirai nuo saugomos samprotavimo istorijos. Ši versija ypač tinka eigoms, kuriose svarbus tęstinumas tarp stebėjimų, samprotavimo ir tolesnių veiksmų.
POST /v1/messagestextjson, sse| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos arcee-ai/trinity-large-thinking | Numatyta— |
Laukasmessages | Tipasmessage[] | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmessages[].role | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos user, assistant | Numatyta— |
Laukasmessages[].content | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatytafalse |
Tekstas · UTF-8 tekstas
messages[].content eilutė
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages, max_tokens |
Parametrasoptional_controls | Specifikacijastream |
Parametrasmaterial_types | Specifikacijatext |
Parametrastext_file_material | SpecifikacijaPerskaitykite tikrąjį UTF-8 dokumentą ir įterpkite jo tekstą į nurodytą input lauką arba pranešimo turinio eilutę. |
Gyvavimo ciklas: synchronous_or_streamed
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
Kiekvieną mokestį susiekite su nurodytomis sąlygomis. Kiekvienam alternatyvių konfigūracijų rinkiniui taikykite vieną įkainį.
| Konfigūracija | Įkainių lentelė | Konteksto tokenų daugiau nei | Konteksto tokenų iki imtinai | Mokestis |
|---|---|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Konteksto tokenų daugiau nei— | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.0005 / 1K tokenų Išvestis · Išvesties tokenai $0.0016 / 1K tokenų Įvestis · Talpyklos skaitymas $0.00012 / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
| KonfigūracijaUžklausos ilgio pakopa 1 | Įkainių lentelė— | Konteksto tokenų daugiau nei0 | Konteksto tokenų iki imtinaiBe viršutinės ribos | Mokestis Įvestis · Įvesties tokenai $0.0005 / 1K tokenų Išvestis · Išvesties tokenai $0.0016 / 1K tokenų Įvestis · Talpyklos skaitymas $0.00012 / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
{\n "model": "arcee-ai/trinity-large-thinking",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'arcee-ai/trinity-large-thinking', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'arcee-ai/trinity-large-thinking', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON arba SSE
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Išsaugokite visus turinio blokus, mąstymo parašus ir tikruosius įrankių naudojimo ID. Surinkite visus SSE blokų prieaugius; pirmasis teksto blokas nėra visa išvestis.
Išsaugokite užklausų / atsakymų ID ir antraštes. Bendras teksto užduoties gavimo URL nepateikiamas.
| Laukas | Tipas |
|---|---|
Laukasid | Tipasstring |
Laukasmodel | Tipasstring |
Laukascontent[] | Tipastext|thinking|tool_use|other content block |
Laukasstop_reason | Tipasstring|null |
Laukasusage | Tipasobject |
| Atsakymas | Sąlyga | Kitas žingsnis |
|---|---|---|
Atsakymas400 · invalid_request_error | SąlygaNetinkami privalomi laukai, medžiagos pateikimo forma arba parametro reikšmė | Kitas žingsnisPrieš naują kūrimo užklausą pataisykite nurodytus laukus. |
Ailoot Ultra arcee-ai/trinity-large-thinking
Naudokite aukščiau nurodytus metodų kelius.
Techninis pavyzdys anglų kalba
Apply a support policy to a record\n\nUse this supplied lookup result: order C17 arrived 12 days ago, packaging intact, customer requests a return. Policy: unopened items may be returned within 14 days; opened items need review. Decide the next support step and draft a request for the one missing fact. Do not claim any external action occurred.A policy-based decision, the missing fact and a customer-facing clarification message.Check that unopened status remains unknown and that no return is described as already created.