Trinity-Large-Thinking je vydanie rodiny Trinity Large spoločnosti Arcee AI optimalizované na uvažovanie. Je určené pre agentov, ktorí plánujú vo viacerých krokoch, volajú nástroje a udržiavajú súdržnú úlohu počas dlhej konverzácie, pričom si zachováva všeobecné schopnosti generovania textu. Model prijíma text a generuje text vrátane explicitného uvažovania a požiadaviek na nástroje. Jeho tréning rozširuje model Trinity-Large-Base o ladenie podľa pokynov a posilňovacie učenie na reťazcoch uvažovania, trajektóriách volania nástrojov a viackrokových úlohách agentov.
Karta modelu opisuje riedku architektúru mixture-of-experts s približne 398 miliardami celkových parametrov a 13 miliardami aktívnych parametrov na token. Uvádza 256 expertov, jedného zdieľaného experta, štyroch aktívnych expertov a kontextové okno 512K po rozšírení z predtréningového kontextu 8 192 tokenov. Sú to vlastnosti modelu výrobcu, nie predpoveď rýchlosti odpovede. Checkpoint Thinking sa líši od mierne dotrénovaného Trinity-Large-Preview pripraveného na chat, ktorý neposkytuje reasoning_content, aj od predtréningových checkpointov Base a TrueBase.
Explicitné uvažovanie sa objavuje v blokoch <think>...</think> pred konečnou odpoveďou. V dokumentovanej štruktúrovanej odpovedi uchováva reasoning_content toto uvažovanie oddelene od content a tool_calls. Uchovanie celého kola asistenta je podstatnou súčasťou používania modelu: pred ďalším krokom odovzdajte späť uvažovanie spolu s odpoveďou a všetkými volaniami nástrojov. Jeho chatová šablóna pri zostavovaní ďalšieho vstupu obnovuje bloky uvažovania. Ak treba históriu skrátiť, Arcee odporúča odstraňovať staršie kolá ako celok namiesto odoberania uvažovania z nedávnych kôl.
Vzor slučky agenta od výrobcu začína úlohou používateľa a definíciami nástrojov, prijíma uvažovanie, odpoveď alebo požiadavky na nástroje, vykonáva požadované nástroje mimo modelu a pred pokračovaním pripája kolo asistenta spolu so skutočnými výsledkami nástrojov. Pokračuje, kým sa nevráti konečná odpoveď bez volaní nástrojov. Pri kolách asistenta obsahujúcich volania nástrojov bez textu odpovede príručka vyžaduje, aby content bol prázdny reťazec, nie null. Aj pole uvažovania musí zodpovedať obslužnému rozhraniu: príručka Arcee odlišuje reasoning_content od integrácií očakávajúcich reasoning.
Model je preto užitočný v postupe podpory, ktorý najprv vyhľadá záznam, uplatní dodané pravidlá a potom vyžiada vhodný ďalší krok, alebo pre programovacieho agenta, ktorý skúma súbory, navrhuje zmenu a interpretuje výsledok vykonania. Dajte mu skutočný cieľ, názvy nástrojov, schémy argumentov, obmedzenia a podmienku dokončenia. Ukážkové zadanie môže žiadať vyhľadanie chyby, vysvetlenie dôkazov a návrh minimálnej opravy, pričom pozorované výsledky nástrojov zostanú oddelené od ešte plánovaných krokov. Volania nástrojov sú požiadavky na vykonávaciu vrstvu, nie dôkaz, že model už zmenil súbor alebo dokončil externú akciu.
Karta odporúča pri inferencii temperature 0,45–0,6, top_p 0,95 a top_k 50. Sú to odporúčané nastavenia, nie pevné limity výstupu. Dôležitým režimom zlyhania v príručke výrobcu je chybne vytvorené viackrokové použitie nástrojov, keď sa z predchádzajúceho kola stratí uvažovanie alebo má správa neplatný tvar: značenie volania nástroja sa môže objaviť v poli uvažovania namiesto štruktúrovaného výstupu volania nástroja. Zachovajte celé kolo, ponechajte obsah odpovede odlišný od null a konečný výstup spracúvajte oddelene od uloženej histórie uvažovania. Táto edícia sa hodí najmä na postupy, pri ktorých záleží na kontinuite medzi pozorovaniami, uvažovaním a následnými krokmi.
", "aboutText": "Trinity-Large-Thinking je vydanie rodiny Trinity Large spoločnosti Arcee AI optimalizované na uvažovanie. Je určené pre agentov, ktorí plánujú vo viacerých krokoch, volajú nástroje a udržiavajú súdržnú úlohu počas dlhej konverzácie, pričom si zachováva všeobecné schopnosti generovania textu. Model prijíma text a generuje text vrátane explicitného uvažovania a požiadaviek na nástroje. Jeho tréning rozširuje model Trinity-Large-Base o ladenie podľa pokynov a posilňovacie učenie na reťazcoch uvažovania, trajektóriách volania nástrojov a viackrokových úlohách agentov.\n\nKarta modelu opisuje riedku architektúru mixture-of-experts s približne 398 miliardami celkových parametrov a 13 miliardami aktívnych parametrov na token. Uvádza 256 expertov, jedného zdieľaného experta, štyroch aktívnych expertov a kontextové okno 512K po rozšírení z predtréningového kontextu 8 192 tokenov. Sú to vlastnosti modelu výrobcu, nie predpoveď rýchlosti odpovede. Checkpoint Thinking sa líši od mierne dotrénovaného Trinity-Large-Preview pripraveného na chat, ktorý neposkytuje reasoning_content, aj od predtréningových checkpointov Base a TrueBase.\n\nExplicitné uvažovanie sa objavuje v blokochTechnický príklad v angličtine
Apply a support policy to a record\n\nUse this supplied lookup result: order C17 arrived 12 days ago, packaging intact, customer requests a return. Policy: unopened items may be returned within 14 days; opened items need review. Decide the next support step and draft a request for the one missing fact. Do not claim any external action occurred.A policy-based decision, the missing fact and a customer-facing clarification message.Check that unopened status remains unknown and that no return is described as already created.arcee-ai/trinity-large-thinkingTrinity-Large-Thinking je model uvažovania spoločnosti Arcee AI pre agentov s viacerými krokmi a volanie nástrojov. Pred odpoveďou generuje explicitné uvažovanie a vyžaduje jeho zachovanie medzi kolami konverzácie aj v postupoch využívajúcich nástroje.
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
Trinity-Large-Thinking je vydanie rodiny Trinity Large spoločnosti Arcee AI optimalizované na uvažovanie. Je určené pre agentov, ktorí plánujú vo viacerých krokoch, volajú nástroje a udržiavajú súdržnú úlohu počas dlhej konverzácie, pričom si zachováva všeobecné schopnosti generovania textu. Model prijíma text a generuje text vrátane explicitného uvažovania a požiadaviek na nástroje. Jeho tréning rozširuje model Trinity-Large-Base o ladenie podľa pokynov a posilňovacie učenie na reťazcoch uvažovania, trajektóriách volania nástrojov a viackrokových úlohách agentov.
Karta modelu opisuje riedku architektúru mixture-of-experts s približne 398 miliardami celkových parametrov a 13 miliardami aktívnych parametrov na token. Uvádza 256 expertov, jedného zdieľaného experta, štyroch aktívnych expertov a kontextové okno 512K po rozšírení z predtréningového kontextu 8 192 tokenov. Sú to vlastnosti modelu výrobcu, nie predpoveď rýchlosti odpovede. Checkpoint Thinking sa líši od mierne dotrénovaného Trinity-Large-Preview pripraveného na chat, ktorý neposkytuje reasoning_content, aj od predtréningových checkpointov Base a TrueBase.
Explicitné uvažovanie sa objavuje v blokoch <think>...</think> pred konečnou odpoveďou. V dokumentovanej štruktúrovanej odpovedi uchováva reasoning_content toto uvažovanie oddelene od content a tool_calls. Uchovanie celého kola asistenta je podstatnou súčasťou používania modelu: pred ďalším krokom odovzdajte späť uvažovanie spolu s odpoveďou a všetkými volaniami nástrojov. Jeho chatová šablóna pri zostavovaní ďalšieho vstupu obnovuje bloky uvažovania. Ak treba históriu skrátiť, Arcee odporúča odstraňovať staršie kolá ako celok namiesto odoberania uvažovania z nedávnych kôl.
Vzor slučky agenta od výrobcu začína úlohou používateľa a definíciami nástrojov, prijíma uvažovanie, odpoveď alebo požiadavky na nástroje, vykonáva požadované nástroje mimo modelu a pred pokračovaním pripája kolo asistenta spolu so skutočnými výsledkami nástrojov. Pokračuje, kým sa nevráti konečná odpoveď bez volaní nástrojov. Pri kolách asistenta obsahujúcich volania nástrojov bez textu odpovede príručka vyžaduje, aby content bol prázdny reťazec, nie null. Aj pole uvažovania musí zodpovedať obslužnému rozhraniu: príručka Arcee odlišuje reasoning_content od integrácií očakávajúcich reasoning.
Model je preto užitočný v postupe podpory, ktorý najprv vyhľadá záznam, uplatní dodané pravidlá a potom vyžiada vhodný ďalší krok, alebo pre programovacieho agenta, ktorý skúma súbory, navrhuje zmenu a interpretuje výsledok vykonania. Dajte mu skutočný cieľ, názvy nástrojov, schémy argumentov, obmedzenia a podmienku dokončenia. Ukážkové zadanie môže žiadať vyhľadanie chyby, vysvetlenie dôkazov a návrh minimálnej opravy, pričom pozorované výsledky nástrojov zostanú oddelené od ešte plánovaných krokov. Volania nástrojov sú požiadavky na vykonávaciu vrstvu, nie dôkaz, že model už zmenil súbor alebo dokončil externú akciu.
Karta odporúča pri inferencii temperature 0,45–0,6, top_p 0,95 a top_k 50. Sú to odporúčané nastavenia, nie pevné limity výstupu. Dôležitým režimom zlyhania v príručke výrobcu je chybne vytvorené viackrokové použitie nástrojov, keď sa z predchádzajúceho kola stratí uvažovanie alebo má správa neplatný tvar: značenie volania nástroja sa môže objaviť v poli uvažovania namiesto štruktúrovaného výstupu volania nástroja. Zachovajte celé kolo, ponechajte obsah odpovede odlišný od null a konečný výstup spracúvajte oddelene od uloženej histórie uvažovania. Táto edícia sa hodí najmä na postupy, pri ktorých záleží na kontinuite medzi pozorovaniami, uvažovaním a následnými krokmi.
POST /v1/chat/completionstexttext| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity arcee-ai/trinity-large-thinking | Predvolené— |
Polemessages | Typmessage[] | PožiadavkaPovinné | Hodnoty a limity Minimálny počet položiek: 1 | Predvolené— |
Polemessages[].role | Typstring | PožiadavkaPovinné | Hodnoty a limity Príklady: system, user, assistant, tool, function Podmienky: Tieto roly sú výslovne zastúpené typmi kompatibility v zdrojovom kóde; presný súbor rolí zostáva závislý od modelu. Závisí od modelu | Predvolené— |
Polemessages[].content | Typstring|content_part[]|null | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Polemessages[].tool_calls | Typtool_call[] | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Polemessages[].tool_call_id | Typstring | PožiadavkaVoliteľné | Hodnoty a limity Platí, keď: role=tool; použite skutočne vrátené ID | Predvolené— |
Polemessages[].name | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Polemessages[].reasoning_content | Typstring | PožiadavkaVoliteľné | Hodnoty a limity Platí, keď: Posielajte späť skutočne vrátené uvažovanie, ak ho tento model používa | Predvolené— |
Polemessages[].reasoning_details | Typobject|array | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Polemax_tokens | Typinteger | PožiadavkaVoliteľné | Hodnoty a limity Minimum: 1 Závisí od modelu | Predvolené— |
Polemax_completion_tokens | Typinteger | PožiadavkaVoliteľné | Hodnoty a limity Minimum: 1 Závisí od modelu | Predvolené— |
Polestream | Typboolean | PožiadavkaVoliteľné | Hodnoty a limity | Predvolenéfalse |
Polestream_options.include_usage | Typboolean | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poletemperature | Typnumber | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poletop_p | Typnumber | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Polestop | Typstring|string[] | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poletools | Typfunction_tool[] | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poletools[].type | Typstring | PožiadavkaVoliteľné | Hodnoty a limity function Závisí od modelu | Predvolené— |
Poletools[].function.name | Typstring | PožiadavkaPovinné | Hodnoty a limity Platí, keď: poskytnutý nástroj typu funkcia | Predvolené— |
Poletools[].function.description | Typstring | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poletools[].function.parameters | TypJSON_schema | PožiadavkaVoliteľné | Hodnoty a limity | Predvolené— |
Poletool_choice | Typstring|object | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poleparallel_tool_calls | Typboolean | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poleresponse_format | Typobject | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Polereasoning_effort | Typstring | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Polereasoning | Typobject | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poleservice_tier | Typstring | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poleinstructions | Typstring | PožiadavkaVoliteľné | Hodnoty a limity Pole kompatibility | Predvolené— |
Polefunctions | Typfunction[] | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Polefunction_call | Typstring|object | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Poleprompt_cache_options | Typobject | PožiadavkaVoliteľné | Hodnoty a limity Závisí od modelu | Predvolené— |
Polemodalities | Typstring[] | PožiadavkaVoliteľné | Hodnoty a limity text | Predvolené— |
Poleprovider | Typobject | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: provider.options sa na tejto textovej trase Ultra odmieta | Predvolené— |
Polecache_control.ttl | Typstring | PožiadavkaVoliteľné | Hodnoty a limity Podmienky: Hodnota 1h sa v skutočne používaných poliach cache promptov odmieta | Predvolené— |
Text · Text UTF8
messages[].content
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, messages |
Parametermaterial_types | Špecifikáciatext |
Parametermessages | Špecifikáciapole správ so štruktúrou role/content |
Parameterfile_material | Špecifikáciaskutočný dokument UTF-8 vložený ako doslovný text; ID súboru sa neodvodzuje |
Parameteroptional_controls | Špecifikáciastream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Špecifikáciazávisí od modelu; používateľské nástroje typu funkcia sa líšia od nástrojov prevádzkovaných službou |
Parameteroutput_modalities | Špecifikáciatext |
Parameterhosted_operations | Špecifikáciafalse |
Parametermultimodal_input_binding | Špecifikácianull |
Životný cyklus: synchronous_or_streamed
Pošlite presné ID modelu spolu s messages.
Dĺžka kontextu nie je horná hranica výstupu.
Textový súbor môže poskytnúť doslovný text; obrazové a zvukové vstupy a vstupy so súborovými objektmi potrebujú presné naviazanie.
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
Každý poplatok priraďte k zobrazeným podmienkam. Pre každú skupinu alternatívnych konfigurácií použite jednu sadzbu.
| Konfigurácia | Sadzobník | Počet tokenov kontextu väčší než | Tokeny kontextu, najviac (vrátane hranice) | Poplatok |
|---|---|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Počet tokenov kontextu väčší než— | Tokeny kontextu, najviac (vrátane hranice)Bez hornej hranice | Poplatok Vstup · Vstupné tokeny $0.0005 / 1K tokenov Výstup · Výstupné tokeny $0.0016 / 1K tokenov Vstup · Čítanie cache $0.00012 / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
| KonfiguráciaPásmo dĺžky požiadavky 1 | Sadzobník— | Počet tokenov kontextu väčší než0 | Tokeny kontextu, najviac (vrátane hranice)Bez hornej hranice | Poplatok Vstup · Vstupné tokeny $0.0005 / 1K tokenov Výstup · Výstupné tokeny $0.0016 / 1K tokenov Vstup · Čítanie cache $0.00012 / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "arcee-ai/trinity-large-thinking", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='arcee-ai/trinity-large-thinking',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='arcee-ai/trinity-large-thinking',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson alebo SSE
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Zachovajte každý variant odpovede a jeho obsah, volania nástrojov a uvažovanie. V SSE zostavujte čiastkové zmeny podľa indexu variantu/nástroja a zachovajte konečný dôvod ukončenia aj údaje o spotrebe.
Zachovajte ID požiadaviek/odpovedí aj hlavičky. Všeobecná URL na načítanie textovej úlohy nie je poskytnutá.
| Pole | Typ |
|---|---|
Polechoices[].index | Typinteger |
Polechoices[].message.content | Typstring|null |
Polechoices[].message.tool_calls | Typtool_call[] |
Polechoices[].message.reasoning_content | Typstring |
Polechoices[].message.reasoning_details | Typobject|array |
Polechoices[].finish_reason | Typstring|null |
Poleusage | Typobject |
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné polia, reprezentácia materiálu alebo hodnota parametra | Ďalší krokPred novou požiadavkou na vytvorenie opravte uvedené polia. |
Ailoot Ultra arcee-ai/trinity-large-thinking
Použite cesty metód uvedené vyššie.
arcee-ai/trinity-large-thinkingTrinity-Large-Thinking je model uvažovania spoločnosti Arcee AI pre agentov s viacerými krokmi a volanie nástrojov. Pred odpoveďou generuje explicitné uvažovanie a vyžaduje jeho zachovanie medzi kolami konverzácie aj v postupoch využívajúcich nástroje.
Tento opis pokrýva možnosti modelu. Dostupné vstupy, výstupy a voľby v Ailoot sú uvedené nižšie pre vybranú metódu.
Trinity-Large-Thinking je vydanie rodiny Trinity Large spoločnosti Arcee AI optimalizované na uvažovanie. Je určené pre agentov, ktorí plánujú vo viacerých krokoch, volajú nástroje a udržiavajú súdržnú úlohu počas dlhej konverzácie, pričom si zachováva všeobecné schopnosti generovania textu. Model prijíma text a generuje text vrátane explicitného uvažovania a požiadaviek na nástroje. Jeho tréning rozširuje model Trinity-Large-Base o ladenie podľa pokynov a posilňovacie učenie na reťazcoch uvažovania, trajektóriách volania nástrojov a viackrokových úlohách agentov.
Karta modelu opisuje riedku architektúru mixture-of-experts s približne 398 miliardami celkových parametrov a 13 miliardami aktívnych parametrov na token. Uvádza 256 expertov, jedného zdieľaného experta, štyroch aktívnych expertov a kontextové okno 512K po rozšírení z predtréningového kontextu 8 192 tokenov. Sú to vlastnosti modelu výrobcu, nie predpoveď rýchlosti odpovede. Checkpoint Thinking sa líši od mierne dotrénovaného Trinity-Large-Preview pripraveného na chat, ktorý neposkytuje reasoning_content, aj od predtréningových checkpointov Base a TrueBase.
Explicitné uvažovanie sa objavuje v blokoch <think>...</think> pred konečnou odpoveďou. V dokumentovanej štruktúrovanej odpovedi uchováva reasoning_content toto uvažovanie oddelene od content a tool_calls. Uchovanie celého kola asistenta je podstatnou súčasťou používania modelu: pred ďalším krokom odovzdajte späť uvažovanie spolu s odpoveďou a všetkými volaniami nástrojov. Jeho chatová šablóna pri zostavovaní ďalšieho vstupu obnovuje bloky uvažovania. Ak treba históriu skrátiť, Arcee odporúča odstraňovať staršie kolá ako celok namiesto odoberania uvažovania z nedávnych kôl.
Vzor slučky agenta od výrobcu začína úlohou používateľa a definíciami nástrojov, prijíma uvažovanie, odpoveď alebo požiadavky na nástroje, vykonáva požadované nástroje mimo modelu a pred pokračovaním pripája kolo asistenta spolu so skutočnými výsledkami nástrojov. Pokračuje, kým sa nevráti konečná odpoveď bez volaní nástrojov. Pri kolách asistenta obsahujúcich volania nástrojov bez textu odpovede príručka vyžaduje, aby content bol prázdny reťazec, nie null. Aj pole uvažovania musí zodpovedať obslužnému rozhraniu: príručka Arcee odlišuje reasoning_content od integrácií očakávajúcich reasoning.
Model je preto užitočný v postupe podpory, ktorý najprv vyhľadá záznam, uplatní dodané pravidlá a potom vyžiada vhodný ďalší krok, alebo pre programovacieho agenta, ktorý skúma súbory, navrhuje zmenu a interpretuje výsledok vykonania. Dajte mu skutočný cieľ, názvy nástrojov, schémy argumentov, obmedzenia a podmienku dokončenia. Ukážkové zadanie môže žiadať vyhľadanie chyby, vysvetlenie dôkazov a návrh minimálnej opravy, pričom pozorované výsledky nástrojov zostanú oddelené od ešte plánovaných krokov. Volania nástrojov sú požiadavky na vykonávaciu vrstvu, nie dôkaz, že model už zmenil súbor alebo dokončil externú akciu.
Karta odporúča pri inferencii temperature 0,45–0,6, top_p 0,95 a top_k 50. Sú to odporúčané nastavenia, nie pevné limity výstupu. Dôležitým režimom zlyhania v príručke výrobcu je chybne vytvorené viackrokové použitie nástrojov, keď sa z predchádzajúceho kola stratí uvažovanie alebo má správa neplatný tvar: značenie volania nástroja sa môže objaviť v poli uvažovania namiesto štruktúrovaného výstupu volania nástroja. Zachovajte celé kolo, ponechajte obsah odpovede odlišný od null a konečný výstup spracúvajte oddelene od uloženej histórie uvažovania. Táto edícia sa hodí najmä na postupy, pri ktorých záleží na kontinuite medzi pozorovaniami, uvažovaním a následnými krokmi.
POST /v1/messagestextjson, sse| Pole | Typ | Požiadavka | Hodnoty a limity | Predvolené |
|---|---|---|---|---|
Polemodel | Typstring | PožiadavkaPovinné | Hodnoty a limity arcee-ai/trinity-large-thinking | Predvolené— |
Polemessages | Typmessage[] | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polemessages[].role | Typstring | PožiadavkaPovinné | Hodnoty a limity user, assistant | Predvolené— |
Polemessages[].content | Typstring | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polemax_tokens | Typinteger | PožiadavkaPovinné | Hodnoty a limity | Predvolené— |
Polestream | Typboolean | PožiadavkaVoliteľné | Hodnoty a limity | Predvolenéfalse |
Text · Text UTF-8
reťazec messages[].content
| Parameter | Špecifikácia |
|---|---|
Parametercontent_type | Špecifikáciaapplication/json |
Parameterrequired | Špecifikáciamodel, messages, max_tokens |
Parameteroptional_controls | Špecifikáciastream |
Parametermaterial_types | Špecifikáciatext |
Parametertext_file_material | ŠpecifikáciaPrečítajte skutočný dokument UTF-8 a vložte jeho text do uvedeného vstupného reťazca alebo reťazca obsahu správy. |
Životný cyklus: synchronous_or_streamed
Tarifné údaje nepridávajú možnosti požiadavky. Podporované parametre sú uvedené pri vybranej metóde.
Každý poplatok priraďte k zobrazeným podmienkam. Pre každú skupinu alternatívnych konfigurácií použite jednu sadzbu.
| Konfigurácia | Sadzobník | Počet tokenov kontextu väčší než | Tokeny kontextu, najviac (vrátane hranice) | Poplatok |
|---|---|---|---|---|
| KonfiguráciaZákladné sadzby za tokeny | SadzobníkZákladná sadzba | Počet tokenov kontextu väčší než— | Tokeny kontextu, najviac (vrátane hranice)Bez hornej hranice | Poplatok Vstup · Vstupné tokeny $0.0005 / 1K tokenov Výstup · Výstupné tokeny $0.0016 / 1K tokenov Vstup · Čítanie cache $0.00012 / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
| KonfiguráciaPásmo dĺžky požiadavky 1 | Sadzobník— | Počet tokenov kontextu väčší než0 | Tokeny kontextu, najviac (vrátane hranice)Bez hornej hranice | Poplatok Vstup · Vstupné tokeny $0.0005 / 1K tokenov Výstup · Výstupné tokeny $0.0016 / 1K tokenov Vstup · Čítanie cache $0.00012 / 1K tokenov Vstup · Zápis do cache — / 1K tokenov Vstup · Zápis do cache, 1 hod — / 1K tokenov |
Ailoot pred požiadavkou rezervuje odhadovanú sumu. Po získaní výsledku vyúčtuje konečný poplatok podľa nameraného využitia. Pri streamovaní sa vyúčtovanie riadi konečným záznamom využitia. Ako funguje rezervácia a vyúčtovanie →
{\n "model": "arcee-ai/trinity-large-thinking",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'arcee-ai/trinity-large-thinking', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'arcee-ai/trinity-large-thinking', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON alebo SSE
Uložte každú úplnú vrátenú odpoveď, súbor a časť obsahu.
Zachovajte všetky bloky obsahu, podpisy uvažovania a skutočné ID volaní nástrojov. Zostavte všetky čiastkové zmeny blokov SSE; prvý textový blok nie je celý výstup.
Zachovajte ID požiadaviek/odpovedí aj hlavičky. Všeobecná URL na načítanie textovej úlohy nie je poskytnutá.
| Pole | Typ |
|---|---|
Poleid | Typstring |
Polemodel | Typstring |
Polecontent[] | Typtext|thinking|tool_use|other content block |
Polestop_reason | Typstring|null |
Poleusage | Typobject |
| Odpoveď | Podmienka | Ďalší krok |
|---|---|---|
Odpoveď400 · invalid_request_error | PodmienkaNeplatné povinné polia, reprezentácia materiálu alebo hodnota parametra | Ďalší krokPred novou požiadavkou na vytvorenie opravte uvedené polia. |
Ailoot Ultra arcee-ai/trinity-large-thinking
Použite cesty metód uvedené vyššie.
Technický príklad v angličtine
Apply a support policy to a record\n\nUse this supplied lookup result: order C17 arrived 12 days ago, packaging intact, customer requests a return. Policy: unopened items may be returned within 14 days; opened items need review. Decide the next support step and draft a request for the one missing fact. Do not claim any external action occurred.A policy-based decision, the missing fact and a customer-facing clarification message.Check that unopened status remains unknown and that no return is described as already created.