Trinity-Large-Thinking adalah rilis keluarga Trinity Large dari Arcee AI yang dioptimalkan untuk penalaran. Model ini dibangun untuk agen yang merencanakan beberapa langkah, memanggil alat dan mempertahankan tugas yang koheren sepanjang percakapan panjang, sambil tetap memiliki kemampuan pembuatan teks umum. Model menerima teks dan menghasilkan teks, termasuk penalaran eksplisit dan permintaan alat. Pelatihannya memperluas model Trinity-Large-Base dengan penyetelan instruksi dan pembelajaran penguatan pada rantai penalaran, lintasan pemanggilan alat dan tugas agen multilangkah.
Kartu model menjelaskan arsitektur mixture-of-experts dengan aktivasi jarang (sparse) dengan sekitar 398 miliar parameter total dan 13 miliar parameter aktif per token. Kartu ini mencantumkan 256 pakar, satu pakar bersama, empat pakar aktif dan jendela konteks 512K setelah diperluas dari konteks prapelatihan 8.192 token. Ini merupakan sifat model dari pembuatnya, bukan prediksi kecepatan respons. Checkpoint Thinking berbeda dari Trinity-Large-Preview yang siap untuk percakapan dan menjalani pascapelatihan ringan, yang tidak menyediakan reasoning_content, serta dari checkpoint prapelatihan Base dan TrueBase.
Pemikiran eksplisit muncul dalam blok <think>...</think> sebelum respons akhir. Dalam respons terstruktur yang didokumentasikan, reasoning_content menyimpan penalaran tersebut secara terpisah dari content dan tool_calls. Mempertahankan giliran asisten lengkap merupakan bagian substantif penggunaan model ini: kirim kembali penalaran bersama jawaban dan setiap panggilan alat sebelum langkah berikutnya. Template percakapannya memulihkan blok pemikiran saat membangun masukan berikutnya. Jika riwayat harus dipersingkat, Arcee menyarankan menghapus seluruh giliran lama, alih-alih membuang pemikiran dari giliran terbaru.
Pola loop agen pembuatnya dimulai dengan tugas pengguna dan definisi alat, menerima penalaran, jawaban atau permintaan alat, menjalankan alat yang diminta di luar model, lalu menambahkan giliran asisten beserta hasil alat sebenarnya sebelum melanjutkan. Proses ini berlangsung hingga jawaban akhir dikembalikan tanpa panggilan alat. Untuk giliran asisten yang memuat panggilan alat tanpa teks jawaban, panduan mewajibkan content berupa string kosong, bukan null. Bidang penalaran juga harus sesuai dengan antarmuka penyajian: panduan Arcee membedakan reasoning_content dari integrasi yang mengharapkan reasoning.
Ini membuat model berguna untuk alur dukungan yang terlebih dahulu mencari rekaman data, menerapkan kebijakan yang disediakan, lalu meminta tindakan berikutnya yang tepat, atau agen pengodean yang memeriksa berkas, mengusulkan perubahan dan menafsirkan hasil eksekusi. Berikan tujuan sebenarnya, nama alat, skema argumen, batasan dan kondisi penyelesaian. Contoh brief dapat memintanya menemukan cacat, menjelaskan bukti dan mengusulkan patch minimal, sambil memisahkan hasil alat yang diamati dari tindakan yang masih direncanakan. Panggilan alat adalah permintaan kepada lapisan eksekusi, bukan bukti bahwa model telah mengubah berkas atau menyelesaikan tindakan eksternal.
Kartu ini merekomendasikan temperature 0.45–0.6, top_p 0.95 dan top_k 50 untuk inferensi. Ini adalah pengaturan yang direkomendasikan, bukan batas keluaran tetap. Pola kegagalan penting dalam panduan pembuatnya adalah penggunaan alat multilangkah yang salah format ketika giliran sebelumnya kehilangan penalaran atau membawa bentuk pesan yang tidak valid: markup panggilan alat dapat muncul di bidang penalaran, bukan keluaran panggilan alat terstruktur. Pertahankan giliran lengkap, simpan konten jawaban yang tidak null dan perlakukan artefak akhir secara terpisah dari riwayat penalaran tersimpan. Edisi ini sangat sesuai untuk alur kerja yang mengutamakan kesinambungan antara pengamatan, penalaran dan tindakan berikutnya.
", "aboutText": "Trinity-Large-Thinking adalah rilis keluarga Trinity Large dari Arcee AI yang dioptimalkan untuk penalaran. Model ini dibangun untuk agen yang merencanakan beberapa langkah, memanggil alat dan mempertahankan tugas yang koheren sepanjang percakapan panjang, sambil tetap memiliki kemampuan pembuatan teks umum. Model menerima teks dan menghasilkan teks, termasuk penalaran eksplisit dan permintaan alat. Pelatihannya memperluas model Trinity-Large-Base dengan penyetelan instruksi dan pembelajaran penguatan pada rantai penalaran, lintasan pemanggilan alat dan tugas agen multilangkah.\n\nKartu model menjelaskan arsitektur mixture-of-experts dengan aktivasi jarang (sparse) dengan sekitar 398 miliar parameter total dan 13 miliar parameter aktif per token. Kartu ini mencantumkan 256 pakar, satu pakar bersama, empat pakar aktif dan jendela konteks 512K setelah diperluas dari konteks prapelatihan 8.192 token. Ini merupakan sifat model dari pembuatnya, bukan prediksi kecepatan respons. Checkpoint Thinking berbeda dari Trinity-Large-Preview yang siap untuk percakapan dan menjalani pascapelatihan ringan, yang tidak menyediakan reasoning_content, serta dari checkpoint prapelatihan Base dan TrueBase.\n\nPemikiran eksplisit muncul dalam blokContoh teknis dalam bahasa Inggris
Apply a support policy to a record\n\nUse this supplied lookup result: order C17 arrived 12 days ago, packaging intact, customer requests a return. Policy: unopened items may be returned within 14 days; opened items need review. Decide the next support step and draft a request for the one missing fact. Do not claim any external action occurred.A policy-based decision, the missing fact and a customer-facing clarification message.Check that unopened status remains unknown and that no return is described as already created.arcee-ai/trinity-large-thinkingTrinity-Large-Thinking adalah model penalaran Arcee AI untuk agen multilangkah dan pemanggilan alat. Model ini menghasilkan pemikiran eksplisit sebelum jawaban dan mewajibkan penalaran tersebut dipertahankan di seluruh giliran percakapan serta alur kerja yang digerakkan alat.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Trinity-Large-Thinking adalah rilis keluarga Trinity Large dari Arcee AI yang dioptimalkan untuk penalaran. Model ini dibangun untuk agen yang merencanakan beberapa langkah, memanggil alat dan mempertahankan tugas yang koheren sepanjang percakapan panjang, sambil tetap memiliki kemampuan pembuatan teks umum. Model menerima teks dan menghasilkan teks, termasuk penalaran eksplisit dan permintaan alat. Pelatihannya memperluas model Trinity-Large-Base dengan penyetelan instruksi dan pembelajaran penguatan pada rantai penalaran, lintasan pemanggilan alat dan tugas agen multilangkah.
Kartu model menjelaskan arsitektur mixture-of-experts dengan aktivasi jarang (sparse) dengan sekitar 398 miliar parameter total dan 13 miliar parameter aktif per token. Kartu ini mencantumkan 256 pakar, satu pakar bersama, empat pakar aktif dan jendela konteks 512K setelah diperluas dari konteks prapelatihan 8.192 token. Ini merupakan sifat model dari pembuatnya, bukan prediksi kecepatan respons. Checkpoint Thinking berbeda dari Trinity-Large-Preview yang siap untuk percakapan dan menjalani pascapelatihan ringan, yang tidak menyediakan reasoning_content, serta dari checkpoint prapelatihan Base dan TrueBase.
Pemikiran eksplisit muncul dalam blok <think>...</think> sebelum respons akhir. Dalam respons terstruktur yang didokumentasikan, reasoning_content menyimpan penalaran tersebut secara terpisah dari content dan tool_calls. Mempertahankan giliran asisten lengkap merupakan bagian substantif penggunaan model ini: kirim kembali penalaran bersama jawaban dan setiap panggilan alat sebelum langkah berikutnya. Template percakapannya memulihkan blok pemikiran saat membangun masukan berikutnya. Jika riwayat harus dipersingkat, Arcee menyarankan menghapus seluruh giliran lama, alih-alih membuang pemikiran dari giliran terbaru.
Pola loop agen pembuatnya dimulai dengan tugas pengguna dan definisi alat, menerima penalaran, jawaban atau permintaan alat, menjalankan alat yang diminta di luar model, lalu menambahkan giliran asisten beserta hasil alat sebenarnya sebelum melanjutkan. Proses ini berlangsung hingga jawaban akhir dikembalikan tanpa panggilan alat. Untuk giliran asisten yang memuat panggilan alat tanpa teks jawaban, panduan mewajibkan content berupa string kosong, bukan null. Bidang penalaran juga harus sesuai dengan antarmuka penyajian: panduan Arcee membedakan reasoning_content dari integrasi yang mengharapkan reasoning.
Ini membuat model berguna untuk alur dukungan yang terlebih dahulu mencari rekaman data, menerapkan kebijakan yang disediakan, lalu meminta tindakan berikutnya yang tepat, atau agen pengodean yang memeriksa berkas, mengusulkan perubahan dan menafsirkan hasil eksekusi. Berikan tujuan sebenarnya, nama alat, skema argumen, batasan dan kondisi penyelesaian. Contoh brief dapat memintanya menemukan cacat, menjelaskan bukti dan mengusulkan patch minimal, sambil memisahkan hasil alat yang diamati dari tindakan yang masih direncanakan. Panggilan alat adalah permintaan kepada lapisan eksekusi, bukan bukti bahwa model telah mengubah berkas atau menyelesaikan tindakan eksternal.
Kartu ini merekomendasikan temperature 0.45–0.6, top_p 0.95 dan top_k 50 untuk inferensi. Ini adalah pengaturan yang direkomendasikan, bukan batas keluaran tetap. Pola kegagalan penting dalam panduan pembuatnya adalah penggunaan alat multilangkah yang salah format ketika giliran sebelumnya kehilangan penalaran atau membawa bentuk pesan yang tidak valid: markup panggilan alat dapat muncul di bidang penalaran, bukan keluaran panggilan alat terstruktur. Pertahankan giliran lengkap, simpan konten jawaban yang tidak null dan perlakukan artefak akhir secara terpisah dari riwayat penalaran tersimpan. Edisi ini sangat sesuai untuk alur kerja yang mengutamakan kesinambungan antara pengamatan, penalaran dan tindakan berikutnya.
POST /v1/chat/completionstexttext| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan arcee-ai/trinity-large-thinking | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan Item minimum: 1 | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan Contoh: system, user, assistant, tool, function Kondisi: Peran ini direpresentasikan secara eksplisit oleh tipe kompatibilitas dalam kode sumber; kumpulan peran model yang tepat tetap khusus untuk tiap model. Bergantung pada model | Bawaan— |
Kolommessages[].content | Jenisstring|content_part[]|null | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_calls | Jenistool_call[] | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_call_id | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: role=tool; gunakan ID yang benar-benar dikembalikan | Bawaan— |
Kolommessages[].name | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].reasoning_content | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: Kirim kembali penalaran yang benar-benar dikembalikan jika model ini menggunakannya | Bawaan— |
Kolommessages[].reasoning_details | Jenisobject|array | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolommax_completion_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Kolomstream_options.include_usage | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtemperature | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtop_p | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomstop | Jenisstring|string[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools | Jenisfunction_tool[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools[].type | Jenisstring | PersyaratanOpsional | Nilai & batasan function Bergantung pada model | Bawaan— |
Kolomtools[].function.name | Jenisstring | PersyaratanWajib | Nilai & batasan Berlaku jika: alat fungsi disediakan | Bawaan— |
Kolomtools[].function.description | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtools[].function.parameters | JenisJSON_schema | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtool_choice | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomparallel_tool_calls | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomresponse_format | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning_effort | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomservice_tier | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolominstructions | Jenisstring | PersyaratanOpsional | Nilai & batasan Kolom kompatibilitas | Bawaan— |
Kolomfunctions | Jenisfunction[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomfunction_call | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomprompt_cache_options | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommodalities | Jenisstring[] | PersyaratanOpsional | Nilai & batasan text | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak pada rute teks Ultra ini | Bawaan— |
Kolomcache_control.ttl | Jenisstring | PersyaratanOpsional | Nilai & batasan Kondisi: 1h ditolak pada lokasi cache prompt yang digunakan | Bawaan— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontrakarray pesan dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 yang sebenarnya dimasukkan sebagai teks apa adanya; ID file tidak disimpulkan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeda dari alat yang dihosting |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Siklus hidup: synchronous_or_streamed
Kirim ID model yang tepat bersama messages.
Panjang konteks bukan batas keluaran.
File teks dapat menyediakan teks apa adanya; masukan gambar/audio/objek file memerlukan pengikatan yang tepat.
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.0005 / 1K token Keluaran · Token keluaran $0.0016 / 1K token Masukan · Pembacaan cache $0.00012 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.0005 / 1K token Keluaran · Token keluaran $0.0016 / 1K token Masukan · Pembacaan cache $0.00012 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "arcee-ai/trinity-large-thinking", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='arcee-ai/trinity-large-thinking',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='arcee-ai/trinity-large-thinking',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap alternatif jawaban beserta konten, panggilan alat, dan penalarannya. Dalam SSE, gabungkan delta menurut indeks alternatif jawaban/alat, lalu pertahankan alasan penghentian akhir dan data penggunaan.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomchoices[].index | Jenisinteger |
Kolomchoices[].message.content | Jenisstring|null |
Kolomchoices[].message.tool_calls | Jenistool_call[] |
Kolomchoices[].message.reasoning_content | Jenisstring |
Kolomchoices[].message.reasoning_details | Jenisobject|array |
Kolomchoices[].finish_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra arcee-ai/trinity-large-thinking
Gunakan jalur metode yang ditampilkan di atas.
arcee-ai/trinity-large-thinkingTrinity-Large-Thinking adalah model penalaran Arcee AI untuk agen multilangkah dan pemanggilan alat. Model ini menghasilkan pemikiran eksplisit sebelum jawaban dan mewajibkan penalaran tersebut dipertahankan di seluruh giliran percakapan serta alur kerja yang digerakkan alat.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Trinity-Large-Thinking adalah rilis keluarga Trinity Large dari Arcee AI yang dioptimalkan untuk penalaran. Model ini dibangun untuk agen yang merencanakan beberapa langkah, memanggil alat dan mempertahankan tugas yang koheren sepanjang percakapan panjang, sambil tetap memiliki kemampuan pembuatan teks umum. Model menerima teks dan menghasilkan teks, termasuk penalaran eksplisit dan permintaan alat. Pelatihannya memperluas model Trinity-Large-Base dengan penyetelan instruksi dan pembelajaran penguatan pada rantai penalaran, lintasan pemanggilan alat dan tugas agen multilangkah.
Kartu model menjelaskan arsitektur mixture-of-experts dengan aktivasi jarang (sparse) dengan sekitar 398 miliar parameter total dan 13 miliar parameter aktif per token. Kartu ini mencantumkan 256 pakar, satu pakar bersama, empat pakar aktif dan jendela konteks 512K setelah diperluas dari konteks prapelatihan 8.192 token. Ini merupakan sifat model dari pembuatnya, bukan prediksi kecepatan respons. Checkpoint Thinking berbeda dari Trinity-Large-Preview yang siap untuk percakapan dan menjalani pascapelatihan ringan, yang tidak menyediakan reasoning_content, serta dari checkpoint prapelatihan Base dan TrueBase.
Pemikiran eksplisit muncul dalam blok <think>...</think> sebelum respons akhir. Dalam respons terstruktur yang didokumentasikan, reasoning_content menyimpan penalaran tersebut secara terpisah dari content dan tool_calls. Mempertahankan giliran asisten lengkap merupakan bagian substantif penggunaan model ini: kirim kembali penalaran bersama jawaban dan setiap panggilan alat sebelum langkah berikutnya. Template percakapannya memulihkan blok pemikiran saat membangun masukan berikutnya. Jika riwayat harus dipersingkat, Arcee menyarankan menghapus seluruh giliran lama, alih-alih membuang pemikiran dari giliran terbaru.
Pola loop agen pembuatnya dimulai dengan tugas pengguna dan definisi alat, menerima penalaran, jawaban atau permintaan alat, menjalankan alat yang diminta di luar model, lalu menambahkan giliran asisten beserta hasil alat sebenarnya sebelum melanjutkan. Proses ini berlangsung hingga jawaban akhir dikembalikan tanpa panggilan alat. Untuk giliran asisten yang memuat panggilan alat tanpa teks jawaban, panduan mewajibkan content berupa string kosong, bukan null. Bidang penalaran juga harus sesuai dengan antarmuka penyajian: panduan Arcee membedakan reasoning_content dari integrasi yang mengharapkan reasoning.
Ini membuat model berguna untuk alur dukungan yang terlebih dahulu mencari rekaman data, menerapkan kebijakan yang disediakan, lalu meminta tindakan berikutnya yang tepat, atau agen pengodean yang memeriksa berkas, mengusulkan perubahan dan menafsirkan hasil eksekusi. Berikan tujuan sebenarnya, nama alat, skema argumen, batasan dan kondisi penyelesaian. Contoh brief dapat memintanya menemukan cacat, menjelaskan bukti dan mengusulkan patch minimal, sambil memisahkan hasil alat yang diamati dari tindakan yang masih direncanakan. Panggilan alat adalah permintaan kepada lapisan eksekusi, bukan bukti bahwa model telah mengubah berkas atau menyelesaikan tindakan eksternal.
Kartu ini merekomendasikan temperature 0.45–0.6, top_p 0.95 dan top_k 50 untuk inferensi. Ini adalah pengaturan yang direkomendasikan, bukan batas keluaran tetap. Pola kegagalan penting dalam panduan pembuatnya adalah penggunaan alat multilangkah yang salah format ketika giliran sebelumnya kehilangan penalaran atau membawa bentuk pesan yang tidak valid: markup panggilan alat dapat muncul di bidang penalaran, bukan keluaran panggilan alat terstruktur. Pertahankan giliran lengkap, simpan konten jawaban yang tidak null dan perlakukan artefak akhir secara terpisah dari riwayat penalaran tersimpan. Edisi ini sangat sesuai untuk alur kerja yang mengutamakan kesinambungan antara pengamatan, penalaran dan tindakan berikutnya.
POST /v1/messagestextjson, sse| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan arcee-ai/trinity-large-thinking | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan user, assistant | Bawaan— |
Kolommessages[].content | Jenisstring | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Teks · Teks UTF-8
string messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 yang sebenarnya dan masukkan teksnya ke string masukan atau konten pesan yang ditunjukkan. |
Siklus hidup: synchronous_or_streamed
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
Cocokkan setiap biaya dengan kondisi yang ditampilkan. Gunakan satu tarif untuk setiap kelompok konfigurasi alternatif.
| Konfigurasi | Jadwal tarif | Token konteks, lebih dari | Token konteks, hingga dan termasuk | Biaya |
|---|---|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Token konteks, lebih dari— | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.0005 / 1K token Keluaran · Token keluaran $0.0016 / 1K token Masukan · Pembacaan cache $0.00012 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
| KonfigurasiPanjang permintaan · tingkat 1 | Jadwal tarif— | Token konteks, lebih dari0 | Token konteks, hingga dan termasukTanpa batas atas | Biaya Masukan · Token masukan $0.0005 / 1K token Keluaran · Token keluaran $0.0016 / 1K token Masukan · Pembacaan cache $0.00012 / 1K token Masukan · Penulisan cache — / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
{\n "model": "arcee-ai/trinity-large-thinking",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'arcee-ai/trinity-large-thinking', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'arcee-ai/trinity-large-thinking', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan semua blok konten, tanda tangan penalaran, dan ID penggunaan alat yang sebenarnya. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan keluaran.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomid | Jenisstring |
Kolommodel | Jenisstring |
Kolomcontent[] | Jenistext|thinking|tool_use|other content block |
Kolomstop_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra arcee-ai/trinity-large-thinking
Gunakan jalur metode yang ditampilkan di atas.
Contoh teknis dalam bahasa Inggris
Apply a support policy to a record\n\nUse this supplied lookup result: order C17 arrived 12 days ago, packaging intact, customer requests a return. Policy: unopened items may be returned within 14 days; opened items need review. Decide the next support step and draft a request for the one missing fact. Do not claim any external action occurred.A policy-based decision, the missing fact and a customer-facing clarification message.Check that unopened status remains unknown and that no return is described as already created.