Trinity-Large-Thinking je vydání rodiny Arcee AI Trinity Large optimalizované pro uvažování. Je vytvořeno pro agenty, kteří plánují v několika krocích, volají nástroje a udržují soudržnou úlohu během dlouhé konverzace, a přitom si zachovává obecné schopnosti generování textu. Model přijímá text a generuje text včetně explicitního uvažování a požadavků na nástroje. Jeho trénink rozšiřuje model Trinity-Large-Base o instrukční ladění a posilované učení na řetězcích uvažování, posloupnostech volání nástrojů a vícekrokových agentních úlohách.
Karta modelu popisuje řídkou architekturu směsi expertů s přibližně 398 miliardami parametrů celkem a 13 miliardami aktivních parametrů na token. Uvádí 256 expertů, jednoho sdíleného experta, čtyři aktivní experty a kontextové okno 512K po rozšíření z předtréninkového kontextu 8 192 tokenů. Jde o vlastnosti modelu uváděné výrobcem, nikoli předpověď rychlosti odpovědi. Checkpoint Thinking se liší od lehce dotrénovaného Trinity-Large-Preview připraveného pro chat, který neposkytuje reasoning_content, i od předtréninkových checkpointů Base a TrueBase.
Explicitní uvažování se objevuje v blocích <think>...</think> před finální odpovědí. V dokumentované strukturované odpovědi obsahuje reasoning_content toto uvažování odděleně od content a tool_calls. Zachování celého tahu asistenta je podstatnou součástí používání modelu: před dalším krokem vraťte uvažování společně s odpovědí a případnými voláními nástrojů. Jeho chatová šablona při sestavení dalšího vstupu obnovuje bloky uvažování. Pokud je třeba historii zkrátit, Arcee doporučuje odstraňovat starší tahy jako celek, místo odstraňování uvažování z nedávných tahů.
Agentní smyčka výrobce začíná uživatelskou úlohou a definicemi nástrojů, přijímá uvažování, odpověď nebo požadavky na nástroje, provádí požadované nástroje mimo model a před pokračováním přidává tah asistenta i skutečné výsledky nástrojů. Pokračuje, dokud se nevrátí finální odpověď bez volání nástrojů. U tahů asistenta obsahujících volání nástrojů bez textu odpovědi průvodce vyžaduje content jako prázdný řetězec namísto null. Pole uvažování musí také odpovídat obslužnému rozhraní: průvodce Arcee odlišuje reasoning_content od integrací očekávajících reasoning.
Díky tomu je model užitečný pro podporu, která nejprve vyhledá záznam, použije dodaná pravidla a poté vyžádá vhodný další krok, nebo pro programovacího agenta, který prohlédne soubory, navrhne změnu a vyloží výsledek provedení. Dodejte skutečný cíl, názvy nástrojů, schémata argumentů, omezení a podmínku dokončení. Ilustrační zadání může žádat nalezení chyby, vysvětlení důkazů a návrh minimální opravy při oddělení pozorovaných výsledků nástrojů od teprve plánovaných akcí. Volání nástrojů jsou požadavky na vykonávací vrstvu, nikoli důkaz, že model již změnil soubor nebo dokončil externí akci.
Karta doporučuje pro inferenci temperature 0.45–0.6, top_p 0.95 a top_k 50. Jde o doporučená nastavení, nikoli pevné výstupní limity. Důležitým způsobem selhání v průvodci výrobce je chybně strukturované vícekrokové použití nástrojů, když předchozí tah ztratí uvažování nebo má neplatnou podobu zprávy: značky volání nástrojů se mohou objevit v poli uvažování namísto strukturovaného výstupu volání. Zachovejte úplný tah, ponechte obsah odpovědi odlišný od null a finální výstup posuzujte odděleně od uložené historie uvažování. Tato edice se hodí zejména pro postupy, kde záleží na návaznosti pozorování, uvažování a následných kroků.
", "aboutText": "Trinity-Large-Thinking je vydání rodiny Arcee AI Trinity Large optimalizované pro uvažování. Je vytvořeno pro agenty, kteří plánují v několika krocích, volají nástroje a udržují soudržnou úlohu během dlouhé konverzace, a přitom si zachovává obecné schopnosti generování textu. Model přijímá text a generuje text včetně explicitního uvažování a požadavků na nástroje. Jeho trénink rozšiřuje model Trinity-Large-Base o instrukční ladění a posilované učení na řetězcích uvažování, posloupnostech volání nástrojů a vícekrokových agentních úlohách.\n\nKarta modelu popisuje řídkou architekturu směsi expertů s přibližně 398 miliardami parametrů celkem a 13 miliardami aktivních parametrů na token. Uvádí 256 expertů, jednoho sdíleného experta, čtyři aktivní experty a kontextové okno 512K po rozšíření z předtréninkového kontextu 8 192 tokenů. Jde o vlastnosti modelu uváděné výrobcem, nikoli předpověď rychlosti odpovědi. Checkpoint Thinking se liší od lehce dotrénovaného Trinity-Large-Preview připraveného pro chat, který neposkytuje reasoning_content, i od předtréninkových checkpointů Base a TrueBase.\n\nExplicitní uvažování se objevuje v blocíchTechnický příklad v angličtině
Apply a support policy to a record\n\nUse this supplied lookup result: order C17 arrived 12 days ago, packaging intact, customer requests a return. Policy: unopened items may be returned within 14 days; opened items need review. Decide the next support step and draft a request for the one missing fact. Do not claim any external action occurred.A policy-based decision, the missing fact and a customer-facing clarification message.Check that unopened status remains unknown and that no return is described as already created.arcee-ai/trinity-large-thinkingTrinity-Large-Thinking je model Arcee AI pro uvažování ve vícekrokových agentech a volání nástrojů. Před odpovědí generuje explicitní uvažování a vyžaduje jeho zachování napříč tahy konverzace i postupy řízenými nástroji.
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Trinity-Large-Thinking je vydání rodiny Arcee AI Trinity Large optimalizované pro uvažování. Je vytvořeno pro agenty, kteří plánují v několika krocích, volají nástroje a udržují soudržnou úlohu během dlouhé konverzace, a přitom si zachovává obecné schopnosti generování textu. Model přijímá text a generuje text včetně explicitního uvažování a požadavků na nástroje. Jeho trénink rozšiřuje model Trinity-Large-Base o instrukční ladění a posilované učení na řetězcích uvažování, posloupnostech volání nástrojů a vícekrokových agentních úlohách.
Karta modelu popisuje řídkou architekturu směsi expertů s přibližně 398 miliardami parametrů celkem a 13 miliardami aktivních parametrů na token. Uvádí 256 expertů, jednoho sdíleného experta, čtyři aktivní experty a kontextové okno 512K po rozšíření z předtréninkového kontextu 8 192 tokenů. Jde o vlastnosti modelu uváděné výrobcem, nikoli předpověď rychlosti odpovědi. Checkpoint Thinking se liší od lehce dotrénovaného Trinity-Large-Preview připraveného pro chat, který neposkytuje reasoning_content, i od předtréninkových checkpointů Base a TrueBase.
Explicitní uvažování se objevuje v blocích <think>...</think> před finální odpovědí. V dokumentované strukturované odpovědi obsahuje reasoning_content toto uvažování odděleně od content a tool_calls. Zachování celého tahu asistenta je podstatnou součástí používání modelu: před dalším krokem vraťte uvažování společně s odpovědí a případnými voláními nástrojů. Jeho chatová šablona při sestavení dalšího vstupu obnovuje bloky uvažování. Pokud je třeba historii zkrátit, Arcee doporučuje odstraňovat starší tahy jako celek, místo odstraňování uvažování z nedávných tahů.
Agentní smyčka výrobce začíná uživatelskou úlohou a definicemi nástrojů, přijímá uvažování, odpověď nebo požadavky na nástroje, provádí požadované nástroje mimo model a před pokračováním přidává tah asistenta i skutečné výsledky nástrojů. Pokračuje, dokud se nevrátí finální odpověď bez volání nástrojů. U tahů asistenta obsahujících volání nástrojů bez textu odpovědi průvodce vyžaduje content jako prázdný řetězec namísto null. Pole uvažování musí také odpovídat obslužnému rozhraní: průvodce Arcee odlišuje reasoning_content od integrací očekávajících reasoning.
Díky tomu je model užitečný pro podporu, která nejprve vyhledá záznam, použije dodaná pravidla a poté vyžádá vhodný další krok, nebo pro programovacího agenta, který prohlédne soubory, navrhne změnu a vyloží výsledek provedení. Dodejte skutečný cíl, názvy nástrojů, schémata argumentů, omezení a podmínku dokončení. Ilustrační zadání může žádat nalezení chyby, vysvětlení důkazů a návrh minimální opravy při oddělení pozorovaných výsledků nástrojů od teprve plánovaných akcí. Volání nástrojů jsou požadavky na vykonávací vrstvu, nikoli důkaz, že model již změnil soubor nebo dokončil externí akci.
Karta doporučuje pro inferenci temperature 0.45–0.6, top_p 0.95 a top_k 50. Jde o doporučená nastavení, nikoli pevné výstupní limity. Důležitým způsobem selhání v průvodci výrobce je chybně strukturované vícekrokové použití nástrojů, když předchozí tah ztratí uvažování nebo má neplatnou podobu zprávy: značky volání nástrojů se mohou objevit v poli uvažování namísto strukturovaného výstupu volání. Zachovejte úplný tah, ponechte obsah odpovědi odlišný od null a finální výstup posuzujte odděleně od uložené historie uvažování. Tato edice se hodí zejména pro postupy, kde záleží na návaznosti pozorování, uvažování a následných kroků.
POST /v1/chat/completionstexttext| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity arcee-ai/trinity-large-thinking | Výchozí— |
Polemessages | Typmessage[] | PožadavekPovinné | Hodnoty a limity Minimální počet položek: 1 | Výchozí— |
Polemessages[].role | Typstring | PožadavekPovinné | Hodnoty a limity Příklady: system, user, assistant, tool, function Podmínky: Tyto role jsou výslovně zastoupeny typy kompatibility zdrojového kódu; přesná sada rolí zůstává specifická pro daný model. Závisí na modelu | Výchozí— |
Polemessages[].content | Typstring|content_part[]|null | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polemessages[].tool_calls | Typtool_call[] | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polemessages[].tool_call_id | Typstring | PožadavekVolitelné | Hodnoty a limity Platí, když: role=tool; použijte skutečně vrácené ID | Výchozí— |
Polemessages[].name | Typstring | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Polemessages[].reasoning_content | Typstring | PožadavekVolitelné | Hodnoty a limity Platí, když: Předávejte zpět skutečně vrácené uvažování tam, kde je tento model používá | Výchozí— |
Polemessages[].reasoning_details | Typobject|array | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polemax_tokens | Typinteger | PožadavekVolitelné | Hodnoty a limity Minimum: 1 Závisí na modelu | Výchozí— |
Polemax_completion_tokens | Typinteger | PožadavekVolitelné | Hodnoty a limity Minimum: 1 Závisí na modelu | Výchozí— |
Polestream | Typboolean | PožadavekVolitelné | Hodnoty a limity | Výchozífalse |
Polestream_options.include_usage | Typboolean | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletemperature | Typnumber | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletop_p | Typnumber | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polestop | Typstring|string[] | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletools | Typfunction_tool[] | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poletools[].type | Typstring | PožadavekVolitelné | Hodnoty a limity function Závisí na modelu | Výchozí— |
Poletools[].function.name | Typstring | PožadavekPovinné | Hodnoty a limity Platí, když: nástroj typu funkce je dodán | Výchozí— |
Poletools[].function.description | Typstring | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Poletools[].function.parameters | TypJSON_schema | PožadavekVolitelné | Hodnoty a limity | Výchozí— |
Poletool_choice | Typstring|object | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleparallel_tool_calls | Typboolean | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleresponse_format | Typobject | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polereasoning_effort | Typstring | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polereasoning | Typobject | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleservice_tier | Typstring | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleinstructions | Typstring | PožadavekVolitelné | Hodnoty a limity Pole kompatibility | Výchozí— |
Polefunctions | Typfunction[] | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polefunction_call | Typstring|object | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Poleprompt_cache_options | Typobject | PožadavekVolitelné | Hodnoty a limity Závisí na modelu | Výchozí— |
Polemodalities | Typstring[] | PožadavekVolitelné | Hodnoty a limity text | Výchozí— |
Poleprovider | Typobject | PožadavekVolitelné | Hodnoty a limity Podmínky: provider.options je na této textové trase Ultra odmítáno | Výchozí— |
Polecache_control.ttl | Typstring | PožadavekVolitelné | Hodnoty a limity Podmínky: Hodnota 1h je ve skutečných umístěních mezipaměti promptů odmítána | Výchozí— |
Text · text UTF8
messages[].content
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages |
Parametrmaterial_types | Kontrakttext |
Parametrmessages | Kontraktpole zpráv se strukturou role/content |
Parametrfile_material | Kontraktskutečný dokument UTF-8 vložený jako doslovný text; ID souboru se neodvozuje |
Parametroptional_controls | Kontraktstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrcontrol_scope | Kontraktspecifické pro model; nástroje uživatelských funkcí se liší od hostovaných nástrojů |
Parametroutput_modalities | Kontrakttext |
Parametrhosted_operations | Kontraktfalse |
Parametrmultimodal_input_binding | Kontraktnull |
Životní cyklus: synchronous_or_streamed
Odešlete přesné ID modelu spolu s messages.
Délka kontextu není limitem výstupu.
Textový soubor může dodat doslovný text; obrazové/zvukové vstupy a vstupy v podobě souborových objektů vyžadují přesnou vazbu.
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
Přiřaďte každý poplatek k uvedeným podmínkám. Pro každou sadu alternativních konfigurací použijte jednu sazbu.
| Konfigurace | Tabulka sazeb | Tokeny kontextu, více než | Tokeny kontextu, do uvedené hodnoty včetně | Poplatek |
|---|---|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Tokeny kontextu, více než— | Tokeny kontextu, do uvedené hodnoty včetněBez horní meze | Poplatek Vstup · Vstupní tokeny $0.0005 / 1K tokenů Výstup · Výstupní tokeny $0.0016 / 1K tokenů Vstup · Čtení z mezipaměti $0.00012 / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
| KonfiguracePásmo délky požadavku 1 | Tabulka sazeb— | Tokeny kontextu, více než0 | Tokeny kontextu, do uvedené hodnoty včetněBez horní meze | Poplatek Vstup · Vstupní tokeny $0.0005 / 1K tokenů Výstup · Výstupní tokeny $0.0016 / 1K tokenů Vstup · Čtení z mezipaměti $0.00012 / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "arcee-ai/trinity-large-thinking", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='arcee-ai/trinity-large-thinking',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='arcee-ai/trinity-large-thinking',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson nebo SSE
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Zachovejte každou volbu a její obsah/volání nástrojů/uvažování. V SSE sestavujte přírůstky podle indexu volby/nástroje a zachovejte konečný důvod ukončení i údaje o využití.
Zachovejte ID požadavků/odpovědí a hlavičky. Není dodána obecná URL pro načtení textové úlohy.
| Pole | Typ |
|---|---|
Polechoices[].index | Typinteger |
Polechoices[].message.content | Typstring|null |
Polechoices[].message.tool_calls | Typtool_call[] |
Polechoices[].message.reasoning_content | Typstring |
Polechoices[].message.reasoning_details | Typobject|array |
Polechoices[].finish_reason | Typstring|null |
Poleusage | Typobject |
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Ailoot Ultra arcee-ai/trinity-large-thinking
Použijte cesty metod uvedené výše.
arcee-ai/trinity-large-thinkingTrinity-Large-Thinking je model Arcee AI pro uvažování ve vícekrokových agentech a volání nástrojů. Před odpovědí generuje explicitní uvažování a vyžaduje jeho zachování napříč tahy konverzace i postupy řízenými nástroji.
Tento popis zahrnuje schopnosti modelu. Vstupy, výstupy a možnosti dostupné v Ailoot jsou uvedeny níže pro vybranou metodu.
Trinity-Large-Thinking je vydání rodiny Arcee AI Trinity Large optimalizované pro uvažování. Je vytvořeno pro agenty, kteří plánují v několika krocích, volají nástroje a udržují soudržnou úlohu během dlouhé konverzace, a přitom si zachovává obecné schopnosti generování textu. Model přijímá text a generuje text včetně explicitního uvažování a požadavků na nástroje. Jeho trénink rozšiřuje model Trinity-Large-Base o instrukční ladění a posilované učení na řetězcích uvažování, posloupnostech volání nástrojů a vícekrokových agentních úlohách.
Karta modelu popisuje řídkou architekturu směsi expertů s přibližně 398 miliardami parametrů celkem a 13 miliardami aktivních parametrů na token. Uvádí 256 expertů, jednoho sdíleného experta, čtyři aktivní experty a kontextové okno 512K po rozšíření z předtréninkového kontextu 8 192 tokenů. Jde o vlastnosti modelu uváděné výrobcem, nikoli předpověď rychlosti odpovědi. Checkpoint Thinking se liší od lehce dotrénovaného Trinity-Large-Preview připraveného pro chat, který neposkytuje reasoning_content, i od předtréninkových checkpointů Base a TrueBase.
Explicitní uvažování se objevuje v blocích <think>...</think> před finální odpovědí. V dokumentované strukturované odpovědi obsahuje reasoning_content toto uvažování odděleně od content a tool_calls. Zachování celého tahu asistenta je podstatnou součástí používání modelu: před dalším krokem vraťte uvažování společně s odpovědí a případnými voláními nástrojů. Jeho chatová šablona při sestavení dalšího vstupu obnovuje bloky uvažování. Pokud je třeba historii zkrátit, Arcee doporučuje odstraňovat starší tahy jako celek, místo odstraňování uvažování z nedávných tahů.
Agentní smyčka výrobce začíná uživatelskou úlohou a definicemi nástrojů, přijímá uvažování, odpověď nebo požadavky na nástroje, provádí požadované nástroje mimo model a před pokračováním přidává tah asistenta i skutečné výsledky nástrojů. Pokračuje, dokud se nevrátí finální odpověď bez volání nástrojů. U tahů asistenta obsahujících volání nástrojů bez textu odpovědi průvodce vyžaduje content jako prázdný řetězec namísto null. Pole uvažování musí také odpovídat obslužnému rozhraní: průvodce Arcee odlišuje reasoning_content od integrací očekávajících reasoning.
Díky tomu je model užitečný pro podporu, která nejprve vyhledá záznam, použije dodaná pravidla a poté vyžádá vhodný další krok, nebo pro programovacího agenta, který prohlédne soubory, navrhne změnu a vyloží výsledek provedení. Dodejte skutečný cíl, názvy nástrojů, schémata argumentů, omezení a podmínku dokončení. Ilustrační zadání může žádat nalezení chyby, vysvětlení důkazů a návrh minimální opravy při oddělení pozorovaných výsledků nástrojů od teprve plánovaných akcí. Volání nástrojů jsou požadavky na vykonávací vrstvu, nikoli důkaz, že model již změnil soubor nebo dokončil externí akci.
Karta doporučuje pro inferenci temperature 0.45–0.6, top_p 0.95 a top_k 50. Jde o doporučená nastavení, nikoli pevné výstupní limity. Důležitým způsobem selhání v průvodci výrobce je chybně strukturované vícekrokové použití nástrojů, když předchozí tah ztratí uvažování nebo má neplatnou podobu zprávy: značky volání nástrojů se mohou objevit v poli uvažování namísto strukturovaného výstupu volání. Zachovejte úplný tah, ponechte obsah odpovědi odlišný od null a finální výstup posuzujte odděleně od uložené historie uvažování. Tato edice se hodí zejména pro postupy, kde záleží na návaznosti pozorování, uvažování a následných kroků.
POST /v1/messagestextjson, sse| Pole | Typ | Požadavek | Hodnoty a limity | Výchozí |
|---|---|---|---|---|
Polemodel | Typstring | PožadavekPovinné | Hodnoty a limity arcee-ai/trinity-large-thinking | Výchozí— |
Polemessages | Typmessage[] | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polemessages[].role | Typstring | PožadavekPovinné | Hodnoty a limity user, assistant | Výchozí— |
Polemessages[].content | Typstring | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polemax_tokens | Typinteger | PožadavekPovinné | Hodnoty a limity | Výchozí— |
Polestream | Typboolean | PožadavekVolitelné | Hodnoty a limity | Výchozífalse |
Text · text UTF-8
řetězec messages[].content
| Parametr | Kontrakt |
|---|---|
Parametrcontent_type | Kontraktapplication/json |
Parametrrequired | Kontraktmodel, messages, max_tokens |
Parametroptional_controls | Kontraktstream |
Parametrmaterial_types | Kontrakttext |
Parametrtext_file_material | KontraktPřečtěte skutečný dokument UTF-8 a vložte jeho text do uvedeného pole input nebo do řetězce obsahu zprávy. |
Životní cyklus: synchronous_or_streamed
Údaje o tarifech nepřidávají možnosti požadavku. Podporované parametry jsou uvedeny u vybrané metody.
Přiřaďte každý poplatek k uvedeným podmínkám. Pro každou sadu alternativních konfigurací použijte jednu sazbu.
| Konfigurace | Tabulka sazeb | Tokeny kontextu, více než | Tokeny kontextu, do uvedené hodnoty včetně | Poplatek |
|---|---|---|---|---|
| KonfiguraceZákladní sazby za tokeny | Tabulka sazebZákladní sazba | Tokeny kontextu, více než— | Tokeny kontextu, do uvedené hodnoty včetněBez horní meze | Poplatek Vstup · Vstupní tokeny $0.0005 / 1K tokenů Výstup · Výstupní tokeny $0.0016 / 1K tokenů Vstup · Čtení z mezipaměti $0.00012 / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
| KonfiguracePásmo délky požadavku 1 | Tabulka sazeb— | Tokeny kontextu, více než0 | Tokeny kontextu, do uvedené hodnoty včetněBez horní meze | Poplatek Vstup · Vstupní tokeny $0.0005 / 1K tokenů Výstup · Výstupní tokeny $0.0016 / 1K tokenů Vstup · Čtení z mezipaměti $0.00012 / 1K tokenů Vstup · Zápis do mezipaměti — / 1K tokenů Vstup · Zápis do mezipaměti, 1 hodina — / 1K tokenů |
Ailoot před požadavkem rezervuje odhadovanou částku. Po výsledku vyúčtuje konečný poplatek podle naměřeného využití. Při streamování se účtování řídí konečným záznamem využití. Jak funguje rezervace a vyúčtování →
{\n "model": "arcee-ai/trinity-large-thinking",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'arcee-ai/trinity-large-thinking', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'arcee-ai/trinity-large-thinking', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON nebo SSE
Uchovejte každou úplnou vrácenou odpověď, soubor i část obsahu.
Zachovejte všechny bloky obsahu, podpisy uvažování a skutečná ID použití nástrojů. Sestavte všechny přírůstky bloků SSE; první textový blok není úplný výstup.
Zachovejte ID požadavků/odpovědí a hlavičky. Není dodána obecná URL pro načtení textové úlohy.
| Pole | Typ |
|---|---|
Poleid | Typstring |
Polemodel | Typstring |
Polecontent[] | Typtext|thinking|tool_use|other content block |
Polestop_reason | Typstring|null |
Poleusage | Typobject |
| Odpověď | Podmínka | Další krok |
|---|---|---|
Odpověď400 · invalid_request_error | PodmínkaNeplatná povinná pole, reprezentace podkladů nebo hodnota parametru | Další krokPřed novým požadavkem na vytvoření opravte uvedená pole. |
Ailoot Ultra arcee-ai/trinity-large-thinking
Použijte cesty metod uvedené výše.
Technický příklad v angličtině
Apply a support policy to a record\n\nUse this supplied lookup result: order C17 arrived 12 days ago, packaging intact, customer requests a return. Policy: unopened items may be returned within 14 days; opened items need review. Decide the next support step and draft a request for the one missing fact. Do not claim any external action occurred.A policy-based decision, the missing fact and a customer-facing clarification message.Check that unopened status remains unknown and that no return is described as already created.