A Trinity-Large-Thinking az Arcee AI Trinity Large családjának érvelésre optimalizált kiadása. Olyan ágensekhez készült, amelyek több lépésre terveznek, eszközöket hívnak, és hosszú beszélgetésen át összefüggően tartják a feladatot, miközben az általános szöveggenerálási képességeket is megőrzik. A modell szöveget fogad és szöveget generál, beleértve az explicit érvelést és az eszközkéréseket. Tanítása a Trinity-Large-Base modellt utasításhangolással és érvelési láncokon, eszközhívási folyamatokon, valamint több lépéses ágensfeladatokon végzett megerősítéses tanulással egészíti ki.
A modellkártya ritka mixture-of-experts architektúrát ír le, körülbelül 398 milliárd összes paraméterrel és tokenenként 13 milliárd aktív paraméterrel. 256 szakértőt, egy megosztott szakértőt, négy aktív szakértőt és az eredeti 8192 tokenes előtanítási kontextusról kibővített 512K kontextusablakot sorol fel. Ezek a gyártó által közölt modelltulajdonságok, nem a válaszsebesség előrejelzései. A Thinking modellváltozat különbözik az enyhén utótanított, csevegésre kész Trinity-Large-Preview-tól, amely nem ad reasoning_content mezőt, valamint a Base és TrueBase előtanítási modellváltozatoktól is.
Az explicit gondolkodás <think>...</think> blokkokban jelenik meg a végső válasz előtt. A dokumentált strukturált válaszban a reasoning_content ezt az érvelést a content és tool_calls mezőktől külön tartalmazza. A teljes asszisztensforduló megőrzése a modell használatának lényegi része: a következő lépés előtt az érvelést a válasszal és az esetleges eszközhívásokkal együtt adja vissza. A csevegési sablon a következő bemenet felépítésekor visszaállítja a gondolkodási blokkokat. Ha az előzményeket rövidíteni kell, az Arcee a régebbi fordulók teljes eltávolítását ajánlja a legutóbbi fordulók gondolkodási részének kivágása helyett.
A gyártó ágensciklus-mintája a felhasználói feladattal és eszközdefiníciókkal indul, érvelést, választ vagy eszközkéréseket fogad, a kért eszközöket a modellen kívül hajtja végre, majd a folytatás előtt hozzáfűzi az asszisztensfordulót és a tényleges eszközeredményeket. Ez addig tart, amíg eszközhívások nélküli végső válasz nem érkezik. Ha egy asszisztensforduló eszközhívásokat tartalmaz, de válaszszöveget nem, az útmutató üres karakterláncot ír elő a content mezőbe null helyett. Az érvelési mezőnek is illeszkednie kell a kiszolgáló felülethez: az Arcee útmutatója megkülönbözteti a reasoning_content mezőt a reasoning mezőt váró integrációktól.
Ez olyan támogatási munkafolyamathoz teszi hasznossá a modellt, amely először kikeres egy rekordot, alkalmazza a megadott szabályzatot, majd kéri a megfelelő következő műveletet; vagy olyan kódoló ágenshez, amely fájlokat vizsgál, módosítást javasol és értelmezi a végrehajtás eredményét. Adja meg a tényleges célt, az eszközneveket, az argumentumsémákat, a korlátokat és a befejezési feltételt. Szemléltető leírás kérheti egy hiba megtalálását, a bizonyíték magyarázatát és egy minimális javítócsomag javaslatát, miközben a megfigyelt eszközeredmények elkülönülnek a még tervezett műveletektől. Az eszközhívások a végrehajtási rétegnek küldött kérések, nem bizonyítékok arra, hogy a modell már módosított egy fájlt vagy elvégzett egy külső műveletet.
A kártya következtetéshez 0.45–0.6 temperature, 0.95 top_p és 50 top_k értéket ajánl. Ezek ajánlott beállítások, nem rögzített kimeneti korlátok. A gyártó útmutatójában fontos hibamód a hibás több lépéses eszközhasználat, amikor egy előző fordulóból elvész az érvelés, vagy az üzenet érvénytelen szerkezetű: az eszközhívás jelölése a strukturált eszközhívási kimenet helyett az érvelési mezőben jelenhet meg. Őrizze meg a teljes fordulót, tartson fenn nem null értékű válaszmezőt, és a végső eredményt kezelje külön a tárolt érvelési előzményektől. Ez a kiadás különösen olyan munkafolyamatokhoz illik, amelyekben fontos a megfigyelések, az érvelés és a következő műveletek közötti folytonosság.
", "aboutText": "A Trinity-Large-Thinking az Arcee AI Trinity Large családjának érvelésre optimalizált kiadása. Olyan ágensekhez készült, amelyek több lépésre terveznek, eszközöket hívnak, és hosszú beszélgetésen át összefüggően tartják a feladatot, miközben az általános szöveggenerálási képességeket is megőrzik. A modell szöveget fogad és szöveget generál, beleértve az explicit érvelést és az eszközkéréseket. Tanítása a Trinity-Large-Base modellt utasításhangolással és érvelési láncokon, eszközhívási folyamatokon, valamint több lépéses ágensfeladatokon végzett megerősítéses tanulással egészíti ki.\n\nA modellkártya ritka mixture-of-experts architektúrát ír le, körülbelül 398 milliárd összes paraméterrel és tokenenként 13 milliárd aktív paraméterrel. 256 szakértőt, egy megosztott szakértőt, négy aktív szakértőt és az eredeti 8192 tokenes előtanítási kontextusról kibővített 512K kontextusablakot sorol fel. Ezek a gyártó által közölt modelltulajdonságok, nem a válaszsebesség előrejelzései. A Thinking modellváltozat különbözik az enyhén utótanított, csevegésre kész Trinity-Large-Preview-tól, amely nem ad reasoning_content mezőt, valamint a Base és TrueBase előtanítási modellváltozatoktól is.\n\nAz explicit gondolkodásTechnikai példa angolul
Apply a support policy to a record\n\nUse this supplied lookup result: order C17 arrived 12 days ago, packaging intact, customer requests a return. Policy: unopened items may be returned within 14 days; opened items need review. Decide the next support step and draft a request for the one missing fact. Do not claim any external action occurred.A policy-based decision, the missing fact and a customer-facing clarification message.Check that unopened status remains unknown and that no return is described as already created.arcee-ai/trinity-large-thinkingA Trinity-Large-Thinking az Arcee AI érvelő modellje több lépéses ágensekhez és eszközhíváshoz. Válasza előtt explicit gondolkodást generál, és megköveteli ennek megőrzését a beszélgetési fordulókban és az eszközökre épülő munkafolyamatokban.
Ez a leírás a modell képességeit ismerteti. Az Ailootban elérhető bemenetek, kimenetek és lehetőségek alább, a kiválasztott metódusnál láthatók.
A Trinity-Large-Thinking az Arcee AI Trinity Large családjának érvelésre optimalizált kiadása. Olyan ágensekhez készült, amelyek több lépésre terveznek, eszközöket hívnak, és hosszú beszélgetésen át összefüggően tartják a feladatot, miközben az általános szöveggenerálási képességeket is megőrzik. A modell szöveget fogad és szöveget generál, beleértve az explicit érvelést és az eszközkéréseket. Tanítása a Trinity-Large-Base modellt utasításhangolással és érvelési láncokon, eszközhívási folyamatokon, valamint több lépéses ágensfeladatokon végzett megerősítéses tanulással egészíti ki.
A modellkártya ritka mixture-of-experts architektúrát ír le, körülbelül 398 milliárd összes paraméterrel és tokenenként 13 milliárd aktív paraméterrel. 256 szakértőt, egy megosztott szakértőt, négy aktív szakértőt és az eredeti 8192 tokenes előtanítási kontextusról kibővített 512K kontextusablakot sorol fel. Ezek a gyártó által közölt modelltulajdonságok, nem a válaszsebesség előrejelzései. A Thinking modellváltozat különbözik az enyhén utótanított, csevegésre kész Trinity-Large-Preview-tól, amely nem ad reasoning_content mezőt, valamint a Base és TrueBase előtanítási modellváltozatoktól is.
Az explicit gondolkodás <think>...</think> blokkokban jelenik meg a végső válasz előtt. A dokumentált strukturált válaszban a reasoning_content ezt az érvelést a content és tool_calls mezőktől külön tartalmazza. A teljes asszisztensforduló megőrzése a modell használatának lényegi része: a következő lépés előtt az érvelést a válasszal és az esetleges eszközhívásokkal együtt adja vissza. A csevegési sablon a következő bemenet felépítésekor visszaállítja a gondolkodási blokkokat. Ha az előzményeket rövidíteni kell, az Arcee a régebbi fordulók teljes eltávolítását ajánlja a legutóbbi fordulók gondolkodási részének kivágása helyett.
A gyártó ágensciklus-mintája a felhasználói feladattal és eszközdefiníciókkal indul, érvelést, választ vagy eszközkéréseket fogad, a kért eszközöket a modellen kívül hajtja végre, majd a folytatás előtt hozzáfűzi az asszisztensfordulót és a tényleges eszközeredményeket. Ez addig tart, amíg eszközhívások nélküli végső válasz nem érkezik. Ha egy asszisztensforduló eszközhívásokat tartalmaz, de válaszszöveget nem, az útmutató üres karakterláncot ír elő a content mezőbe null helyett. Az érvelési mezőnek is illeszkednie kell a kiszolgáló felülethez: az Arcee útmutatója megkülönbözteti a reasoning_content mezőt a reasoning mezőt váró integrációktól.
Ez olyan támogatási munkafolyamathoz teszi hasznossá a modellt, amely először kikeres egy rekordot, alkalmazza a megadott szabályzatot, majd kéri a megfelelő következő műveletet; vagy olyan kódoló ágenshez, amely fájlokat vizsgál, módosítást javasol és értelmezi a végrehajtás eredményét. Adja meg a tényleges célt, az eszközneveket, az argumentumsémákat, a korlátokat és a befejezési feltételt. Szemléltető leírás kérheti egy hiba megtalálását, a bizonyíték magyarázatát és egy minimális javítócsomag javaslatát, miközben a megfigyelt eszközeredmények elkülönülnek a még tervezett műveletektől. Az eszközhívások a végrehajtási rétegnek küldött kérések, nem bizonyítékok arra, hogy a modell már módosított egy fájlt vagy elvégzett egy külső műveletet.
A kártya következtetéshez 0.45–0.6 temperature, 0.95 top_p és 50 top_k értéket ajánl. Ezek ajánlott beállítások, nem rögzített kimeneti korlátok. A gyártó útmutatójában fontos hibamód a hibás több lépéses eszközhasználat, amikor egy előző fordulóból elvész az érvelés, vagy az üzenet érvénytelen szerkezetű: az eszközhívás jelölése a strukturált eszközhívási kimenet helyett az érvelési mezőben jelenhet meg. Őrizze meg a teljes fordulót, tartson fenn nem null értékű válaszmezőt, és a végső eredményt kezelje külön a tárolt érvelési előzményektől. Ez a kiadás különösen olyan munkafolyamatokhoz illik, amelyekben fontos a megfigyelések, az érvelés és a következő műveletek közötti folytonosság.
POST /v1/chat/completionstexttext| Mező | Típus | Követelmény | Értékek és korlátok | Alapértelmezett |
|---|---|---|---|---|
Mezőmodel | Típusstring | KövetelményKötelező | Értékek és korlátok arcee-ai/trinity-large-thinking | Alapértelmezett— |
Mezőmessages | Típusmessage[] | KövetelményKötelező | Értékek és korlátok Minimális elemszám: 1 | Alapértelmezett— |
Mezőmessages[].role | Típusstring | KövetelményKötelező | Értékek és korlátok Példák: system, user, assistant, tool, function Feltételek: Ezeket a szerepeket a forráskód kompatibilitási típusai kifejezetten reprezentálják; a pontos szerepkészlet továbbra is modellspecifikus. Modelltől függ | Alapértelmezett— |
Mezőmessages[].content | Típusstring|content_part[]|null | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőmessages[].tool_calls | Típustool_call[] | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőmessages[].tool_call_id | Típusstring | KövetelményOpcionális | Értékek és korlátok Akkor alkalmazandó, ha: role=tool; használja a ténylegesen visszaadott ID-t | Alapértelmezett— |
Mezőmessages[].name | Típusstring | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőmessages[].reasoning_content | Típusstring | KövetelményOpcionális | Értékek és korlátok Akkor alkalmazandó, ha: Küldje vissza a ténylegesen visszaadott gondolkodási tartalmat, ha ez a modell használja | Alapértelmezett— |
Mezőmessages[].reasoning_details | Típusobject|array | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőmax_tokens | Típusinteger | KövetelményOpcionális | Értékek és korlátok Minimum: 1 Modelltől függ | Alapértelmezett— |
Mezőmax_completion_tokens | Típusinteger | KövetelményOpcionális | Értékek és korlátok Minimum: 1 Modelltől függ | Alapértelmezett— |
Mezőstream | Típusboolean | KövetelményOpcionális | Értékek és korlátok | Alapértelmezettfalse |
Mezőstream_options.include_usage | Típusboolean | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőtemperature | Típusnumber | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőtop_p | Típusnumber | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőstop | Típusstring|string[] | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőtools | Típusfunction_tool[] | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőtools[].type | Típusstring | KövetelményOpcionális | Értékek és korlátok function Modelltől függ | Alapértelmezett— |
Mezőtools[].function.name | Típusstring | KövetelményKötelező | Értékek és korlátok Akkor alkalmazandó, ha: Függvényeszköz megadva | Alapértelmezett— |
Mezőtools[].function.description | Típusstring | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőtools[].function.parameters | TípusJSON_schema | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőtool_choice | Típusstring|object | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőparallel_tool_calls | Típusboolean | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőresponse_format | Típusobject | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőreasoning_effort | Típusstring | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőreasoning | Típusobject | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőservice_tier | Típusstring | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőinstructions | Típusstring | KövetelményOpcionális | Értékek és korlátok Kompatibilitási mező | Alapértelmezett— |
Mezőfunctions | Típusfunction[] | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőfunction_call | Típusstring|object | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőprompt_cache_options | Típusobject | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőmodalities | Típusstring[] | KövetelményOpcionális | Értékek és korlátok text | Alapértelmezett— |
Mezőprovider | Típusobject | KövetelményOpcionális | Értékek és korlátok Feltételek: A provider.options elutasításra kerül ezen az Ultra szöveges útvonalon | Alapértelmezett— |
Mezőcache_control.ttl | Típusstring | KövetelményOpcionális | Értékek és korlátok Feltételek: Az 1h elutasításra kerül a tényleges prompt-gyorsítótárazási helyeken | Alapértelmezett— |
Szöveg · UTF8 szöveg
messages[].content
| Paraméter | Szerződés |
|---|---|
Paramétercontent_type | Szerződésapplication/json |
Paraméterrequired | Szerződésmodel, messages |
Paramétermaterial_types | Szerződéstext |
Paramétermessages | Szerződésüzenettömb role/content szerkezettel |
Paraméterfile_material | Szerződésa tényleges UTF-8 dokumentum szó szerinti szövegként beillesztve; nincs kikövetkeztetett fájlazonosító |
Paraméteroptional_controls | Szerződésstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Paramétercontrol_scope | Szerződésmodellspecifikus; a felhasználói függvényeszközök eltérnek a hosztolt eszközöktől |
Paraméteroutput_modalities | Szerződéstext |
Paraméterhosted_operations | Szerződésfalse |
Paramétermultimodal_input_binding | Szerződésnull |
Életciklus: synchronous_or_streamed
Küldje el a pontos modellazonosítót a messages mellett.
A kontextushossz nem kimeneti felső korlát.
Egy szövegfájl szó szerinti szöveget adhat meg; a kép-/hang-/fájlobjektum-bemenetek pontos hozzárendelést igényelnek.
A díjszabás nem ad új kérési lehetőségeket. A támogatott paraméterek a kiválasztott módszernél szerepelnek.
Minden díjat a megjelenített feltételekhez rendeljen. Az alternatív beállítások minden csoportjához egy díjtételt használjon.
| Beállítás | Díjtáblázat | Kontextustokenek, több mint | Kontextustokenek, legfeljebb | Díj |
|---|---|---|---|---|
| BeállításTokenenkénti alapárak | DíjtáblázatAlapdíj | Kontextustokenek, több mint— | Kontextustokenek, legfeljebbNincs felső korlát | Díj Bemenet · Bemeneti tokenek $0.0005 / 1K token Kimenet · Kimeneti tokenek $0.0016 / 1K token Bemenet · Gyorsítótár olvasása $0.00012 / 1K token Bemenet · Írás a gyorsítótárba — / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
| BeállításA kéréshossz szerinti 1. ársáv | Díjtáblázat— | Kontextustokenek, több mint0 | Kontextustokenek, legfeljebbNincs felső korlát | Díj Bemenet · Bemeneti tokenek $0.0005 / 1K token Kimenet · Kimeneti tokenek $0.0016 / 1K token Bemenet · Gyorsítótár olvasása $0.00012 / 1K token Bemenet · Írás a gyorsítótárba — / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
Az Ailoot a kérés előtt becsült összeget foglal le. Az eredmény után a mért használat alapján elszámolja a végső díjat. Folyamatos átvitel esetén a végső használati rekordot használja. A foglalás és az elszámolás működése →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "arcee-ai/trinity-large-thinking", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='arcee-ai/trinity-large-thinking',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='arcee-ai/trinity-large-thinking',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson vagy SSE
Őrizzen meg minden teljes visszaadott választ, fájlt és tartalomrészt.
Őrizze meg az összes válaszváltozatot és azok tartalmát/eszközhívásait/gondolkodási tartalmát. SSE esetén válaszváltozat- és eszközindex szerint állítsa össze a részleges frissítéseket, és tartsa meg a végső befejezési okot és a használati adatokat.
Őrizze meg a kérés-/válaszazonosítókat és a fejléceket. Nincs megadva általános URL a szöveges feladatok lekéréséhez.
| Mező | Típus |
|---|---|
Mezőchoices[].index | Típusinteger |
Mezőchoices[].message.content | Típusstring|null |
Mezőchoices[].message.tool_calls | Típustool_call[] |
Mezőchoices[].message.reasoning_content | Típusstring |
Mezőchoices[].message.reasoning_details | Típusobject|array |
Mezőchoices[].finish_reason | Típusstring|null |
Mezőusage | Típusobject |
| Válasz | Feltétel | Következő lépés |
|---|---|---|
Válasz400 · invalid_request_error | FeltételÉrvénytelen kötelező mezők, az anyag érvénytelen reprezentációja vagy érvénytelen paraméterérték | Következő lépésJavítsa a jelzett mezőket egy új létrehozási kérés előtt. |
Ailoot Ultra arcee-ai/trinity-large-thinking
Használja a fent látható metódusútvonalakat.
arcee-ai/trinity-large-thinkingA Trinity-Large-Thinking az Arcee AI érvelő modellje több lépéses ágensekhez és eszközhíváshoz. Válasza előtt explicit gondolkodást generál, és megköveteli ennek megőrzését a beszélgetési fordulókban és az eszközökre épülő munkafolyamatokban.
Ez a leírás a modell képességeit ismerteti. Az Ailootban elérhető bemenetek, kimenetek és lehetőségek alább, a kiválasztott metódusnál láthatók.
A Trinity-Large-Thinking az Arcee AI Trinity Large családjának érvelésre optimalizált kiadása. Olyan ágensekhez készült, amelyek több lépésre terveznek, eszközöket hívnak, és hosszú beszélgetésen át összefüggően tartják a feladatot, miközben az általános szöveggenerálási képességeket is megőrzik. A modell szöveget fogad és szöveget generál, beleértve az explicit érvelést és az eszközkéréseket. Tanítása a Trinity-Large-Base modellt utasításhangolással és érvelési láncokon, eszközhívási folyamatokon, valamint több lépéses ágensfeladatokon végzett megerősítéses tanulással egészíti ki.
A modellkártya ritka mixture-of-experts architektúrát ír le, körülbelül 398 milliárd összes paraméterrel és tokenenként 13 milliárd aktív paraméterrel. 256 szakértőt, egy megosztott szakértőt, négy aktív szakértőt és az eredeti 8192 tokenes előtanítási kontextusról kibővített 512K kontextusablakot sorol fel. Ezek a gyártó által közölt modelltulajdonságok, nem a válaszsebesség előrejelzései. A Thinking modellváltozat különbözik az enyhén utótanított, csevegésre kész Trinity-Large-Preview-tól, amely nem ad reasoning_content mezőt, valamint a Base és TrueBase előtanítási modellváltozatoktól is.
Az explicit gondolkodás <think>...</think> blokkokban jelenik meg a végső válasz előtt. A dokumentált strukturált válaszban a reasoning_content ezt az érvelést a content és tool_calls mezőktől külön tartalmazza. A teljes asszisztensforduló megőrzése a modell használatának lényegi része: a következő lépés előtt az érvelést a válasszal és az esetleges eszközhívásokkal együtt adja vissza. A csevegési sablon a következő bemenet felépítésekor visszaállítja a gondolkodási blokkokat. Ha az előzményeket rövidíteni kell, az Arcee a régebbi fordulók teljes eltávolítását ajánlja a legutóbbi fordulók gondolkodási részének kivágása helyett.
A gyártó ágensciklus-mintája a felhasználói feladattal és eszközdefiníciókkal indul, érvelést, választ vagy eszközkéréseket fogad, a kért eszközöket a modellen kívül hajtja végre, majd a folytatás előtt hozzáfűzi az asszisztensfordulót és a tényleges eszközeredményeket. Ez addig tart, amíg eszközhívások nélküli végső válasz nem érkezik. Ha egy asszisztensforduló eszközhívásokat tartalmaz, de válaszszöveget nem, az útmutató üres karakterláncot ír elő a content mezőbe null helyett. Az érvelési mezőnek is illeszkednie kell a kiszolgáló felülethez: az Arcee útmutatója megkülönbözteti a reasoning_content mezőt a reasoning mezőt váró integrációktól.
Ez olyan támogatási munkafolyamathoz teszi hasznossá a modellt, amely először kikeres egy rekordot, alkalmazza a megadott szabályzatot, majd kéri a megfelelő következő műveletet; vagy olyan kódoló ágenshez, amely fájlokat vizsgál, módosítást javasol és értelmezi a végrehajtás eredményét. Adja meg a tényleges célt, az eszközneveket, az argumentumsémákat, a korlátokat és a befejezési feltételt. Szemléltető leírás kérheti egy hiba megtalálását, a bizonyíték magyarázatát és egy minimális javítócsomag javaslatát, miközben a megfigyelt eszközeredmények elkülönülnek a még tervezett műveletektől. Az eszközhívások a végrehajtási rétegnek küldött kérések, nem bizonyítékok arra, hogy a modell már módosított egy fájlt vagy elvégzett egy külső műveletet.
A kártya következtetéshez 0.45–0.6 temperature, 0.95 top_p és 50 top_k értéket ajánl. Ezek ajánlott beállítások, nem rögzített kimeneti korlátok. A gyártó útmutatójában fontos hibamód a hibás több lépéses eszközhasználat, amikor egy előző fordulóból elvész az érvelés, vagy az üzenet érvénytelen szerkezetű: az eszközhívás jelölése a strukturált eszközhívási kimenet helyett az érvelési mezőben jelenhet meg. Őrizze meg a teljes fordulót, tartson fenn nem null értékű válaszmezőt, és a végső eredményt kezelje külön a tárolt érvelési előzményektől. Ez a kiadás különösen olyan munkafolyamatokhoz illik, amelyekben fontos a megfigyelések, az érvelés és a következő műveletek közötti folytonosság.
POST /v1/messagestextjson, sse| Mező | Típus | Követelmény | Értékek és korlátok | Alapértelmezett |
|---|---|---|---|---|
Mezőmodel | Típusstring | KövetelményKötelező | Értékek és korlátok arcee-ai/trinity-large-thinking | Alapértelmezett— |
Mezőmessages | Típusmessage[] | KövetelményKötelező | Értékek és korlátok | Alapértelmezett— |
Mezőmessages[].role | Típusstring | KövetelményKötelező | Értékek és korlátok user, assistant | Alapértelmezett— |
Mezőmessages[].content | Típusstring | KövetelményKötelező | Értékek és korlátok | Alapértelmezett— |
Mezőmax_tokens | Típusinteger | KövetelményKötelező | Értékek és korlátok | Alapértelmezett— |
Mezőstream | Típusboolean | KövetelményOpcionális | Értékek és korlátok | Alapértelmezettfalse |
Szöveg · UTF-8 szöveg
messages[].content karakterlánc
| Paraméter | Szerződés |
|---|---|
Paramétercontent_type | Szerződésapplication/json |
Paraméterrequired | Szerződésmodel, messages, max_tokens |
Paraméteroptional_controls | Szerződésstream |
Paramétermaterial_types | Szerződéstext |
Paramétertext_file_material | SzerződésOlvassa el a tényleges UTF-8 dokumentumot, és tegye a szövegét a jelzett bemeneti karakterláncba vagy az üzenettartalom karakterláncába. |
Életciklus: synchronous_or_streamed
A díjszabás nem ad új kérési lehetőségeket. A támogatott paraméterek a kiválasztott módszernél szerepelnek.
Minden díjat a megjelenített feltételekhez rendeljen. Az alternatív beállítások minden csoportjához egy díjtételt használjon.
| Beállítás | Díjtáblázat | Kontextustokenek, több mint | Kontextustokenek, legfeljebb | Díj |
|---|---|---|---|---|
| BeállításTokenenkénti alapárak | DíjtáblázatAlapdíj | Kontextustokenek, több mint— | Kontextustokenek, legfeljebbNincs felső korlát | Díj Bemenet · Bemeneti tokenek $0.0005 / 1K token Kimenet · Kimeneti tokenek $0.0016 / 1K token Bemenet · Gyorsítótár olvasása $0.00012 / 1K token Bemenet · Írás a gyorsítótárba — / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
| BeállításA kéréshossz szerinti 1. ársáv | Díjtáblázat— | Kontextustokenek, több mint0 | Kontextustokenek, legfeljebbNincs felső korlát | Díj Bemenet · Bemeneti tokenek $0.0005 / 1K token Kimenet · Kimeneti tokenek $0.0016 / 1K token Bemenet · Gyorsítótár olvasása $0.00012 / 1K token Bemenet · Írás a gyorsítótárba — / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
Az Ailoot a kérés előtt becsült összeget foglal le. Az eredmény után a mért használat alapján elszámolja a végső díjat. Folyamatos átvitel esetén a végső használati rekordot használja. A foglalás és az elszámolás működése →
{\n "model": "arcee-ai/trinity-large-thinking",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'arcee-ai/trinity-large-thinking', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'arcee-ai/trinity-large-thinking', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON vagy SSE
Őrizzen meg minden teljes visszaadott választ, fájlt és tartalomrészt.
Őrizze meg az összes tartalomblokkot, a gondolkodási tartalom aláírásait és a tényleges eszközhasználati ID-kat. Állítsa össze az összes SSE-blokk részleges frissítését; az első szövegblokk nem a teljes kimenet.
Őrizze meg a kérés-/válaszazonosítókat és a fejléceket. Nincs megadva általános URL a szöveges feladatok lekéréséhez.
| Mező | Típus |
|---|---|
Mezőid | Típusstring |
Mezőmodel | Típusstring |
Mezőcontent[] | Típustext|thinking|tool_use|other content block |
Mezőstop_reason | Típusstring|null |
Mezőusage | Típusobject |
| Válasz | Feltétel | Következő lépés |
|---|---|---|
Válasz400 · invalid_request_error | FeltételÉrvénytelen kötelező mezők, az anyag érvénytelen reprezentációja vagy érvénytelen paraméterérték | Következő lépésJavítsa a jelzett mezőket egy új létrehozási kérés előtt. |
Ailoot Ultra arcee-ai/trinity-large-thinking
Használja a fent látható metódusútvonalakat.
Technikai példa angolul
Apply a support policy to a record\n\nUse this supplied lookup result: order C17 arrived 12 days ago, packaging intact, customer requests a return. Policy: unopened items may be returned within 14 days; opened items need review. Decide the next support step and draft a request for the one missing fact. Do not claim any external action occurred.A policy-based decision, the missing fact and a customer-facing clarification message.Check that unopened status remains unknown and that no return is described as already created.