Trinity-Large-Thinking ist die auf Schlussfolgern optimierte Veröffentlichung der Trinity-Large-Familie von Arcee AI. Es ist für Agenten ausgelegt, die über mehrere Schritte planen, Werkzeuge aufrufen und eine Aufgabe über ein langes Gespräch hinweg stimmig verfolgen, und behält dabei allgemeine Fähigkeiten zur Textgenerierung. Das Modell akzeptiert Text und erzeugt Text einschließlich ausdrücklicher Überlegungen und Werkzeuganfragen. Sein Training erweitert das Modell Trinity-Large-Base durch Instruction-Tuning und Reinforcement Learning anhand von Schlussfolgerungsketten, Werkzeugaufrufabläufen und mehrstufigen Agentenaufgaben.
Die Modellkarte beschreibt eine dünn besetzte Mixture-of-Experts-Architektur mit insgesamt etwa 398 Milliarden Parametern und 13 Milliarden aktiven Parametern pro Token. Sie führt 256 Experten, einen gemeinsamen Experten, vier aktive Experten und ein Kontextfenster von 512K nach der Erweiterung aus einem Vortrainingskontext von 8.192 Token an. Das sind Modelleigenschaften des Herstellers und keine Vorhersage der Antwortgeschwindigkeit. Der Thinking-Checkpoint unterscheidet sich vom leicht nachtrainierten, chatfähigen Trinity-Large-Preview, das kein reasoning_content bereitstellt, sowie von den Vortrainings-Checkpoints Base und TrueBase.
Ausdrückliche Überlegungen erscheinen vor der endgültigen Antwort in Blöcken <think>...</think>. In der dokumentierten strukturierten Antwort enthält reasoning_content diese Überlegungen getrennt von content und tool_calls. Die vollständige Assistentenrunde zu erhalten ist ein wesentlicher Bestandteil der Nutzung dieses Modells: Geben Sie vor dem nächsten Schritt die Überlegungen gemeinsam mit der Antwort und etwaigen Werkzeugaufrufen zurück. Seine Chatvorlage stellt die Überlegungsblöcke beim Aufbau der nächsten Eingabe wieder her. Wenn der Verlauf gekürzt werden muss, empfiehlt Arcee, ältere Runden als Ganzes zu entfernen, statt Überlegungen aus neueren Runden herauszulösen.
Das Agentenschleifenmuster des Herstellers beginnt mit der Nutzeraufgabe und den Werkzeugdefinitionen, empfängt Überlegungen, eine Antwort oder Werkzeuganfragen, führt die angeforderten Werkzeuge außerhalb des Modells aus und fügt vor der Fortsetzung die Assistentenrunde sowie die tatsächlichen Werkzeugergebnisse an. Das wird fortgesetzt, bis eine endgültige Antwort ohne Werkzeugaufrufe zurückgegeben wird. Bei Assistentenrunden mit Werkzeugaufrufen, aber ohne Antworttext, verlangt der Leitfaden für content eine leere Zeichenfolge statt null. Auch das Überlegungsfeld muss zur Bereitstellungsschnittstelle passen: Arcees Leitfaden unterscheidet reasoning_content von Integrationen, die reasoning erwarten.
Damit eignet sich das Modell für einen Supportablauf, der zuerst einen Datensatz nachschlägt, die bereitgestellte Richtlinie anwendet und anschließend die passende nächste Aktion anfordert, oder für einen Programmieragenten, der Dateien prüft, eine Änderung vorschlägt und ein Ausführungsergebnis interpretiert. Geben Sie das tatsächliche Ziel, Werkzeugnamen, Argumentschemas, Einschränkungen und eine Abschlussbedingung an. Ein beispielhaftes Briefing könnte verlangen, einen Fehler zu finden, die Belege zu erklären und einen minimalen Patch vorzuschlagen, wobei beobachtete Werkzeugergebnisse von noch geplanten Aktionen getrennt bleiben. Werkzeugaufrufe sind Anfragen an eine Ausführungsschicht und kein Beleg dafür, dass das Modell bereits eine Datei geändert oder eine externe Aktion abgeschlossen hat.
Die Karte empfiehlt für die Inferenz temperature 0.45–0.6, top_p 0.95 und top_k 50. Das sind empfohlene Einstellungen, keine festen Ausgabegrenzen. Der wichtige Fehlermodus im Herstellerleitfaden ist fehlerhaftes mehrstufiges Werkzeugverhalten, wenn eine vorherige Runde ihre Überlegungen verliert oder eine ungültige Nachrichtenstruktur enthält: Werkzeugaufruf-Markup kann dann im Überlegungsfeld statt in der strukturierten Werkzeugaufrufausgabe erscheinen. Bewahren Sie die vollständige Runde, erhalten Sie Antwortinhalt ungleich null und behandeln Sie das fertige Artefakt getrennt vom gespeicherten Überlegungsverlauf. Diese Ausgabe eignet sich besonders für Abläufe, in denen die Kontinuität zwischen Beobachtungen, Überlegungen und anschließenden Aktionen wichtig ist.
", "aboutText": "Trinity-Large-Thinking ist die auf Schlussfolgern optimierte Veröffentlichung der Trinity-Large-Familie von Arcee AI. Es ist für Agenten ausgelegt, die über mehrere Schritte planen, Werkzeuge aufrufen und eine Aufgabe über ein langes Gespräch hinweg stimmig verfolgen, und behält dabei allgemeine Fähigkeiten zur Textgenerierung. Das Modell akzeptiert Text und erzeugt Text einschließlich ausdrücklicher Überlegungen und Werkzeuganfragen. Sein Training erweitert das Modell Trinity-Large-Base durch Instruction-Tuning und Reinforcement Learning anhand von Schlussfolgerungsketten, Werkzeugaufrufabläufen und mehrstufigen Agentenaufgaben.\n\nDie Modellkarte beschreibt eine dünn besetzte Mixture-of-Experts-Architektur mit insgesamt etwa 398 Milliarden Parametern und 13 Milliarden aktiven Parametern pro Token. Sie führt 256 Experten, einen gemeinsamen Experten, vier aktive Experten und ein Kontextfenster von 512K nach der Erweiterung aus einem Vortrainingskontext von 8.192 Token an. Das sind Modelleigenschaften des Herstellers und keine Vorhersage der Antwortgeschwindigkeit. Der Thinking-Checkpoint unterscheidet sich vom leicht nachtrainierten, chatfähigen Trinity-Large-Preview, das kein reasoning_content bereitstellt, sowie von den Vortrainings-Checkpoints Base und TrueBase.\n\nAusdrückliche Überlegungen erscheinen vor der endgültigen Antwort in BlöckenTechnisches Beispiel auf Englisch
Apply a support policy to a record\n\nUse this supplied lookup result: order C17 arrived 12 days ago, packaging intact, customer requests a return. Policy: unopened items may be returned within 14 days; opened items need review. Decide the next support step and draft a request for the one missing fact. Do not claim any external action occurred.A policy-based decision, the missing fact and a customer-facing clarification message.Check that unopened status remains unknown and that no return is described as already created.arcee-ai/trinity-large-thinkingTrinity-Large-Thinking ist Arcee AIs Schlussfolgerungsmodell für mehrstufige Agenten und Werkzeugaufrufe. Es erzeugt ausdrückliche Überlegungen vor seiner Antwort und erfordert, dass diese über Gesprächsrunden und werkzeuggestützte Abläufe hinweg erhalten bleiben.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Trinity-Large-Thinking ist die auf Schlussfolgern optimierte Veröffentlichung der Trinity-Large-Familie von Arcee AI. Es ist für Agenten ausgelegt, die über mehrere Schritte planen, Werkzeuge aufrufen und eine Aufgabe über ein langes Gespräch hinweg stimmig verfolgen, und behält dabei allgemeine Fähigkeiten zur Textgenerierung. Das Modell akzeptiert Text und erzeugt Text einschließlich ausdrücklicher Überlegungen und Werkzeuganfragen. Sein Training erweitert das Modell Trinity-Large-Base durch Instruction-Tuning und Reinforcement Learning anhand von Schlussfolgerungsketten, Werkzeugaufrufabläufen und mehrstufigen Agentenaufgaben.
Die Modellkarte beschreibt eine dünn besetzte Mixture-of-Experts-Architektur mit insgesamt etwa 398 Milliarden Parametern und 13 Milliarden aktiven Parametern pro Token. Sie führt 256 Experten, einen gemeinsamen Experten, vier aktive Experten und ein Kontextfenster von 512K nach der Erweiterung aus einem Vortrainingskontext von 8.192 Token an. Das sind Modelleigenschaften des Herstellers und keine Vorhersage der Antwortgeschwindigkeit. Der Thinking-Checkpoint unterscheidet sich vom leicht nachtrainierten, chatfähigen Trinity-Large-Preview, das kein reasoning_content bereitstellt, sowie von den Vortrainings-Checkpoints Base und TrueBase.
Ausdrückliche Überlegungen erscheinen vor der endgültigen Antwort in Blöcken <think>...</think>. In der dokumentierten strukturierten Antwort enthält reasoning_content diese Überlegungen getrennt von content und tool_calls. Die vollständige Assistentenrunde zu erhalten ist ein wesentlicher Bestandteil der Nutzung dieses Modells: Geben Sie vor dem nächsten Schritt die Überlegungen gemeinsam mit der Antwort und etwaigen Werkzeugaufrufen zurück. Seine Chatvorlage stellt die Überlegungsblöcke beim Aufbau der nächsten Eingabe wieder her. Wenn der Verlauf gekürzt werden muss, empfiehlt Arcee, ältere Runden als Ganzes zu entfernen, statt Überlegungen aus neueren Runden herauszulösen.
Das Agentenschleifenmuster des Herstellers beginnt mit der Nutzeraufgabe und den Werkzeugdefinitionen, empfängt Überlegungen, eine Antwort oder Werkzeuganfragen, führt die angeforderten Werkzeuge außerhalb des Modells aus und fügt vor der Fortsetzung die Assistentenrunde sowie die tatsächlichen Werkzeugergebnisse an. Das wird fortgesetzt, bis eine endgültige Antwort ohne Werkzeugaufrufe zurückgegeben wird. Bei Assistentenrunden mit Werkzeugaufrufen, aber ohne Antworttext, verlangt der Leitfaden für content eine leere Zeichenfolge statt null. Auch das Überlegungsfeld muss zur Bereitstellungsschnittstelle passen: Arcees Leitfaden unterscheidet reasoning_content von Integrationen, die reasoning erwarten.
Damit eignet sich das Modell für einen Supportablauf, der zuerst einen Datensatz nachschlägt, die bereitgestellte Richtlinie anwendet und anschließend die passende nächste Aktion anfordert, oder für einen Programmieragenten, der Dateien prüft, eine Änderung vorschlägt und ein Ausführungsergebnis interpretiert. Geben Sie das tatsächliche Ziel, Werkzeugnamen, Argumentschemas, Einschränkungen und eine Abschlussbedingung an. Ein beispielhaftes Briefing könnte verlangen, einen Fehler zu finden, die Belege zu erklären und einen minimalen Patch vorzuschlagen, wobei beobachtete Werkzeugergebnisse von noch geplanten Aktionen getrennt bleiben. Werkzeugaufrufe sind Anfragen an eine Ausführungsschicht und kein Beleg dafür, dass das Modell bereits eine Datei geändert oder eine externe Aktion abgeschlossen hat.
Die Karte empfiehlt für die Inferenz temperature 0.45–0.6, top_p 0.95 und top_k 50. Das sind empfohlene Einstellungen, keine festen Ausgabegrenzen. Der wichtige Fehlermodus im Herstellerleitfaden ist fehlerhaftes mehrstufiges Werkzeugverhalten, wenn eine vorherige Runde ihre Überlegungen verliert oder eine ungültige Nachrichtenstruktur enthält: Werkzeugaufruf-Markup kann dann im Überlegungsfeld statt in der strukturierten Werkzeugaufrufausgabe erscheinen. Bewahren Sie die vollständige Runde, erhalten Sie Antwortinhalt ungleich null und behandeln Sie das fertige Artefakt getrennt vom gespeicherten Überlegungsverlauf. Diese Ausgabe eignet sich besonders für Abläufe, in denen die Kontinuität zwischen Beobachtungen, Überlegungen und anschließenden Aktionen wichtig ist.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits arcee-ai/trinity-large-thinking | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0005 / 1K Tokens Ausgabe · Ausgabetoken $0.0016 / 1K Tokens Eingabe · Cache lesen $0.00012 / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0005 / 1K Tokens Ausgabe · Ausgabetoken $0.0016 / 1K Tokens Eingabe · Cache lesen $0.00012 / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "arcee-ai/trinity-large-thinking", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='arcee-ai/trinity-large-thinking',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='arcee-ai/trinity-large-thinking',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra arcee-ai/trinity-large-thinking
Verwenden Sie die oben angezeigten Methodenpfade.
arcee-ai/trinity-large-thinkingTrinity-Large-Thinking ist Arcee AIs Schlussfolgerungsmodell für mehrstufige Agenten und Werkzeugaufrufe. Es erzeugt ausdrückliche Überlegungen vor seiner Antwort und erfordert, dass diese über Gesprächsrunden und werkzeuggestützte Abläufe hinweg erhalten bleiben.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Trinity-Large-Thinking ist die auf Schlussfolgern optimierte Veröffentlichung der Trinity-Large-Familie von Arcee AI. Es ist für Agenten ausgelegt, die über mehrere Schritte planen, Werkzeuge aufrufen und eine Aufgabe über ein langes Gespräch hinweg stimmig verfolgen, und behält dabei allgemeine Fähigkeiten zur Textgenerierung. Das Modell akzeptiert Text und erzeugt Text einschließlich ausdrücklicher Überlegungen und Werkzeuganfragen. Sein Training erweitert das Modell Trinity-Large-Base durch Instruction-Tuning und Reinforcement Learning anhand von Schlussfolgerungsketten, Werkzeugaufrufabläufen und mehrstufigen Agentenaufgaben.
Die Modellkarte beschreibt eine dünn besetzte Mixture-of-Experts-Architektur mit insgesamt etwa 398 Milliarden Parametern und 13 Milliarden aktiven Parametern pro Token. Sie führt 256 Experten, einen gemeinsamen Experten, vier aktive Experten und ein Kontextfenster von 512K nach der Erweiterung aus einem Vortrainingskontext von 8.192 Token an. Das sind Modelleigenschaften des Herstellers und keine Vorhersage der Antwortgeschwindigkeit. Der Thinking-Checkpoint unterscheidet sich vom leicht nachtrainierten, chatfähigen Trinity-Large-Preview, das kein reasoning_content bereitstellt, sowie von den Vortrainings-Checkpoints Base und TrueBase.
Ausdrückliche Überlegungen erscheinen vor der endgültigen Antwort in Blöcken <think>...</think>. In der dokumentierten strukturierten Antwort enthält reasoning_content diese Überlegungen getrennt von content und tool_calls. Die vollständige Assistentenrunde zu erhalten ist ein wesentlicher Bestandteil der Nutzung dieses Modells: Geben Sie vor dem nächsten Schritt die Überlegungen gemeinsam mit der Antwort und etwaigen Werkzeugaufrufen zurück. Seine Chatvorlage stellt die Überlegungsblöcke beim Aufbau der nächsten Eingabe wieder her. Wenn der Verlauf gekürzt werden muss, empfiehlt Arcee, ältere Runden als Ganzes zu entfernen, statt Überlegungen aus neueren Runden herauszulösen.
Das Agentenschleifenmuster des Herstellers beginnt mit der Nutzeraufgabe und den Werkzeugdefinitionen, empfängt Überlegungen, eine Antwort oder Werkzeuganfragen, führt die angeforderten Werkzeuge außerhalb des Modells aus und fügt vor der Fortsetzung die Assistentenrunde sowie die tatsächlichen Werkzeugergebnisse an. Das wird fortgesetzt, bis eine endgültige Antwort ohne Werkzeugaufrufe zurückgegeben wird. Bei Assistentenrunden mit Werkzeugaufrufen, aber ohne Antworttext, verlangt der Leitfaden für content eine leere Zeichenfolge statt null. Auch das Überlegungsfeld muss zur Bereitstellungsschnittstelle passen: Arcees Leitfaden unterscheidet reasoning_content von Integrationen, die reasoning erwarten.
Damit eignet sich das Modell für einen Supportablauf, der zuerst einen Datensatz nachschlägt, die bereitgestellte Richtlinie anwendet und anschließend die passende nächste Aktion anfordert, oder für einen Programmieragenten, der Dateien prüft, eine Änderung vorschlägt und ein Ausführungsergebnis interpretiert. Geben Sie das tatsächliche Ziel, Werkzeugnamen, Argumentschemas, Einschränkungen und eine Abschlussbedingung an. Ein beispielhaftes Briefing könnte verlangen, einen Fehler zu finden, die Belege zu erklären und einen minimalen Patch vorzuschlagen, wobei beobachtete Werkzeugergebnisse von noch geplanten Aktionen getrennt bleiben. Werkzeugaufrufe sind Anfragen an eine Ausführungsschicht und kein Beleg dafür, dass das Modell bereits eine Datei geändert oder eine externe Aktion abgeschlossen hat.
Die Karte empfiehlt für die Inferenz temperature 0.45–0.6, top_p 0.95 und top_k 50. Das sind empfohlene Einstellungen, keine festen Ausgabegrenzen. Der wichtige Fehlermodus im Herstellerleitfaden ist fehlerhaftes mehrstufiges Werkzeugverhalten, wenn eine vorherige Runde ihre Überlegungen verliert oder eine ungültige Nachrichtenstruktur enthält: Werkzeugaufruf-Markup kann dann im Überlegungsfeld statt in der strukturierten Werkzeugaufrufausgabe erscheinen. Bewahren Sie die vollständige Runde, erhalten Sie Antwortinhalt ungleich null und behandeln Sie das fertige Artefakt getrennt vom gespeicherten Überlegungsverlauf. Diese Ausgabe eignet sich besonders für Abläufe, in denen die Kontinuität zwischen Beobachtungen, Überlegungen und anschließenden Aktionen wichtig ist.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits arcee-ai/trinity-large-thinking | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0005 / 1K Tokens Ausgabe · Ausgabetoken $0.0016 / 1K Tokens Eingabe · Cache lesen $0.00012 / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0005 / 1K Tokens Ausgabe · Ausgabetoken $0.0016 / 1K Tokens Eingabe · Cache lesen $0.00012 / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "arcee-ai/trinity-large-thinking",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'arcee-ai/trinity-large-thinking', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'arcee-ai/trinity-large-thinking', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra arcee-ai/trinity-large-thinking
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Apply a support policy to a record\n\nUse this supplied lookup result: order C17 arrived 12 days ago, packaging intact, customer requests a return. Policy: unopened items may be returned within 14 days; opened items need review. Decide the next support step and draft a request for the one missing fact. Do not claim any external action occurred.A policy-based decision, the missing fact and a customer-facing clarification message.Check that unopened status remains unknown and that no return is described as already created.