Llama 3.1 405B ialah profil dihoskan yang dinamakan dalam keluarga Llama 3.1 Meta. Penyenaraian modelnya menetapkan panjang konteks 128,000 token. Dokumentasi keluarga Meta merangkumi input teks serta output teks atau kod bagi saiz 8B, 70B dan 405B. Koleksi ini merangkumi edisi pralatih dan ditala arahan; kad ini mengekalkan pengecam profil dihoskan.
Labelkan petikan yang perlu digunakan untuk tugas itu dan nyatakan soalan yang menghubungkannya. Perbandingan boleh meminta keperluan, pengecualian atau keputusan dalam setiap sumber, dengan label sokongan di sebelah setiap pemerhatian. Taklimat pula boleh mengenal pasti perkara yang diperlukan pembaca sebelum membuat keputusan yang dinamakan.
Kekalkan kuantiti, pihak dan pengecam apabila menyediakan bahan sumber. Minta jawapan dalam bentuk yang ditetapkan, seperti jadual perbandingan atau penjelasan ringkas diikuti petikan yang berkaitan. Ini menghubungkan himpunan teks yang panjang dengan hasil yang boleh disemak.
Meta menyenaraikan bahasa Inggeris, Jerman, Perancis, Itali, Portugis, Hindi, Sepanyol dan Thai sebagai bahasa yang disokong keluarga ini. Nyatakan bahasa jawapan yang dikehendaki dan berikan glosari apabila istilah penting. Untuk penulisan semula, kenal pasti khalayak dan butiran yang mesti kekal utuh. Untuk draf, bekalkan maklumat yang perlu disampaikan dan panjang yang sesuai untuk pembaca.
Keluarga ini dilatih pada set data luar talian. Berikan rekod, angka atau bahan dasar semasa apabila jawapan bergantung padanya. Simpan petikan sumber yang berkaitan dan perbualan terdahulu dalam konteks tersenarai profil ini, dengan ruang untuk hasil. Semak teks yang dikembalikan terhadap bukti yang dibekalkan sebelum memasukkannya ke dalam aliran kerja lain.
Kekalkan pengecam profil bersama prom dan jawapan apabila membandingkan hasil. Profil dihoskan yang dinamakan dan edisi pemberat model yang diterbitkan secara berasingan mempunyai identiti berbeza; tingkah laku khusus penalaan perlu dikaitkan dengan edisi yang benar-benar dipilih.
", "aboutText": "Llama 3.1 405B ialah profil dihoskan yang dinamakan dalam keluarga Llama 3.1 Meta. Penyenaraian modelnya menetapkan panjang konteks 128,000 token. Dokumentasi keluarga Meta merangkumi input teks serta output teks atau kod bagi saiz 8B, 70B dan 405B. Koleksi ini merangkumi edisi pralatih dan ditala arahan; kad ini mengekalkan pengecam profil dihoskan.\n\n### Susun soalan dokumen\n\nLabelkan petikan yang perlu digunakan untuk tugas itu dan nyatakan soalan yang menghubungkannya. Perbandingan boleh meminta keperluan, pengecualian atau keputusan dalam setiap sumber, dengan label sokongan di sebelah setiap pemerhatian. Taklimat pula boleh mengenal pasti perkara yang diperlukan pembaca sebelum membuat keputusan yang dinamakan.\n\nKekalkan kuantiti, pihak dan pengecam apabila menyediakan bahan sumber. Minta jawapan dalam bentuk yang ditetapkan, seperti jadual perbandingan atau penjelasan ringkas diikuti petikan yang berkaitan. Ini menghubungkan himpunan teks yang panjang dengan hasil yang boleh disemak.\n\n### Sediakan tugas teks berbilang bahasa\n\nMeta menyenaraikan bahasa Inggeris, Jerman, Perancis, Itali, Portugis, Hindi, Sepanyol dan Thai sebagai bahasa yang disokong keluarga ini. Nyatakan bahasa jawapan yang dikehendaki dan berikan glosari apabila istilah penting. Untuk penulisan semula, kenal pasti khalayak dan butiran yang mesti kekal utuh. Untuk draf, bekalkan maklumat yang perlu disampaikan dan panjang yang sesuai untuk pembaca.\n\n### Kekalkan bukti semasa dan identiti profil\n\nKeluarga ini dilatih pada set data luar talian. Berikan rekod, angka atau bahan dasar semasa apabila jawapan bergantung padanya. Simpan petikan sumber yang berkaitan dan perbualan terdahulu dalam konteks tersenarai profil ini, dengan ruang untuk hasil. Semak teks yang dikembalikan terhadap bukti yang dibekalkan sebelum memasukkannya ke dalam aliran kerja lain.\n\nKekalkan pengecam profil bersama prom dan jawapan apabila membandingkan hasil. Profil dihoskan yang dinamakan dan edisi pemberat model yang diterbitkan secara berasingan mempunyai identiti berbeza; tingkah laku khusus penalaan perlu dikaitkan dengan edisi yang benar-benar dipilih.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknikal dalam bahasa Inggeris
Prepare a bilingual policy briefing\n\nPrepare a French briefing from these English source sections. A: Remote work is allowed up to two days per week. B: Customer-site visits take priority over remote days. C: The manager approves the weekly schedule. Use télétravail for remote work. Return three concise bullets with source letters and keep the precedence rule explicit.Three French briefing bullets with A, B and C references and consistent glossary usage.Check that customer-site visits retain priority and manager approval is not presented as automatic.llama3.1-405bLlama 3.1 405B ialah profil yang dinamakan dalam keluarga model teks berbilang bahasa Meta, dengan konteks tersenarai 128,000 token. Berikan bahan sumber berlabel dan permintaan output yang ditetapkan untuk penjelasan dokumen, perbandingan atau draf.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Llama 3.1 405B ialah profil dihoskan yang dinamakan dalam keluarga Llama 3.1 Meta. Penyenaraian modelnya menetapkan panjang konteks 128,000 token. Dokumentasi keluarga Meta merangkumi input teks serta output teks atau kod bagi saiz 8B, 70B dan 405B. Koleksi ini merangkumi edisi pralatih dan ditala arahan; kad ini mengekalkan pengecam profil dihoskan.
Labelkan petikan yang perlu digunakan untuk tugas itu dan nyatakan soalan yang menghubungkannya. Perbandingan boleh meminta keperluan, pengecualian atau keputusan dalam setiap sumber, dengan label sokongan di sebelah setiap pemerhatian. Taklimat pula boleh mengenal pasti perkara yang diperlukan pembaca sebelum membuat keputusan yang dinamakan.
Kekalkan kuantiti, pihak dan pengecam apabila menyediakan bahan sumber. Minta jawapan dalam bentuk yang ditetapkan, seperti jadual perbandingan atau penjelasan ringkas diikuti petikan yang berkaitan. Ini menghubungkan himpunan teks yang panjang dengan hasil yang boleh disemak.
Meta menyenaraikan bahasa Inggeris, Jerman, Perancis, Itali, Portugis, Hindi, Sepanyol dan Thai sebagai bahasa yang disokong keluarga ini. Nyatakan bahasa jawapan yang dikehendaki dan berikan glosari apabila istilah penting. Untuk penulisan semula, kenal pasti khalayak dan butiran yang mesti kekal utuh. Untuk draf, bekalkan maklumat yang perlu disampaikan dan panjang yang sesuai untuk pembaca.
Keluarga ini dilatih pada set data luar talian. Berikan rekod, angka atau bahan dasar semasa apabila jawapan bergantung padanya. Simpan petikan sumber yang berkaitan dan perbualan terdahulu dalam konteks tersenarai profil ini, dengan ruang untuk hasil. Semak teks yang dikembalikan terhadap bukti yang dibekalkan sebelum memasukkannya ke dalam aliran kerja lain.
Kekalkan pengecam profil bersama prom dan jawapan apabila membandingkan hasil. Profil dihoskan yang dinamakan dan edisi pemberat model yang diterbitkan secara berasingan mempunyai identiti berbeza; tingkah laku khusus penalaan perlu dikaitkan dengan edisi yang benar-benar dipilih.
POST /v1/chat/completionstexttext| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had llama3.1-405b | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had Item minimum: 1 | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had Contoh: system, user, assistant, tool, function Syarat: Peranan ini diwakili secara eksplisit oleh jenis keserasian dalam kod sumber; set peranan model yang tepat kekal khusus untuk setiap model. Bergantung pada model | Lalai— |
Medanmessages[].content | Jenisstring|content_part[]|null | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_calls | Jenistool_call[] | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].tool_call_id | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: role=tool; gunakan ID sebenar yang dipulangkan | Lalai— |
Medanmessages[].name | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medanmessages[].reasoning_content | Jenisstring | KeperluanPilihan | Nilai & had Terpakai apabila: Hantar semula penaakulan sebenar yang dipulangkan apabila model ini menggunakannya | Lalai— |
Medanmessages[].reasoning_details | Jenisobject|array | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanmax_completion_tokens | Jenisinteger | KeperluanPilihan | Nilai & had Minimum: 1 Bergantung pada model | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Medanstream_options.include_usage | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantemperature | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantop_p | Jenisnumber | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanstop | Jenisstring|string[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools | Jenisfunction_tool[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medantools[].type | Jenisstring | KeperluanPilihan | Nilai & had function Bergantung pada model | Lalai— |
Medantools[].function.name | Jenisstring | KeperluanDiperlukan | Nilai & had Terpakai apabila: alat fungsi dibekalkan | Lalai— |
Medantools[].function.description | Jenisstring | KeperluanPilihan | Nilai & had | Lalai— |
Medantools[].function.parameters | JenisJSON_schema | KeperluanPilihan | Nilai & had | Lalai— |
Medantool_choice | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanparallel_tool_calls | Jenisboolean | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanresponse_format | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning_effort | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanreasoning | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanservice_tier | Jenisstring | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medaninstructions | Jenisstring | KeperluanPilihan | Nilai & had Medan keserasian | Lalai— |
Medanfunctions | Jenisfunction[] | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanfunction_call | Jenisstring|object | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanprompt_cache_options | Jenisobject | KeperluanPilihan | Nilai & had Bergantung pada model | Lalai— |
Medanmodalities | Jenisstring[] | KeperluanPilihan | Nilai & had text | Lalai— |
Medanprovider | Jenisobject | KeperluanPilihan | Nilai & had Syarat: provider.options ditolak pada laluan teks Ultra ini | Lalai— |
Medancache_control.ttl | Jenisstring | KeperluanPilihan | Nilai & had Syarat: 1h ditolak pada lokasi cache prompt yang digunakan | Lalai— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontraktatasusunan mesej dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 sebenar dimasukkan sebagai teks literal; ID fail tidak diandaikan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeza daripada alat yang dihoskan |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Kitar hayat: synchronous_or_streamed
Hantar ID model yang tepat bersama messages.
Panjang konteks bukan had output.
Fail teks boleh membekalkan teks literal; input imej/audio/objek fail memerlukan pengikatan tepat.
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
| Konfigurasi | Jadual kadar | Caj |
|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Caj Input · Token input $0.01 / 1K token Output · Token output $0.01 / 1K token Input · Bacaan cache $0 / 1K token Input · Penulisan cache $0 / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "llama3.1-405b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='llama3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='llama3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan setiap pilihan jawapan bersama kandungan, panggilan alat dan penaakulannya. Dalam SSE, gabungkan delta mengikut indeks pilihan jawapan/alat dan kekalkan sebab penamatan akhir serta data penggunaan.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanchoices[].index | Jenisinteger |
Medanchoices[].message.content | Jenisstring|null |
Medanchoices[].message.tool_calls | Jenistool_call[] |
Medanchoices[].message.reasoning_content | Jenisstring |
Medanchoices[].message.reasoning_details | Jenisobject|array |
Medanchoices[].finish_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra llama3.1-405b
Gunakan laluan kaedah yang dipaparkan di atas.
llama3.1-405bLlama 3.1 405B ialah profil yang dinamakan dalam keluarga model teks berbilang bahasa Meta, dengan konteks tersenarai 128,000 token. Berikan bahan sumber berlabel dan permintaan output yang ditetapkan untuk penjelasan dokumen, perbandingan atau draf.
Huraian ini merangkumi keupayaan model. Input, output dan pilihan yang tersedia di Ailoot disenaraikan di bawah untuk kaedah yang dipilih.
Llama 3.1 405B ialah profil dihoskan yang dinamakan dalam keluarga Llama 3.1 Meta. Penyenaraian modelnya menetapkan panjang konteks 128,000 token. Dokumentasi keluarga Meta merangkumi input teks serta output teks atau kod bagi saiz 8B, 70B dan 405B. Koleksi ini merangkumi edisi pralatih dan ditala arahan; kad ini mengekalkan pengecam profil dihoskan.
Labelkan petikan yang perlu digunakan untuk tugas itu dan nyatakan soalan yang menghubungkannya. Perbandingan boleh meminta keperluan, pengecualian atau keputusan dalam setiap sumber, dengan label sokongan di sebelah setiap pemerhatian. Taklimat pula boleh mengenal pasti perkara yang diperlukan pembaca sebelum membuat keputusan yang dinamakan.
Kekalkan kuantiti, pihak dan pengecam apabila menyediakan bahan sumber. Minta jawapan dalam bentuk yang ditetapkan, seperti jadual perbandingan atau penjelasan ringkas diikuti petikan yang berkaitan. Ini menghubungkan himpunan teks yang panjang dengan hasil yang boleh disemak.
Meta menyenaraikan bahasa Inggeris, Jerman, Perancis, Itali, Portugis, Hindi, Sepanyol dan Thai sebagai bahasa yang disokong keluarga ini. Nyatakan bahasa jawapan yang dikehendaki dan berikan glosari apabila istilah penting. Untuk penulisan semula, kenal pasti khalayak dan butiran yang mesti kekal utuh. Untuk draf, bekalkan maklumat yang perlu disampaikan dan panjang yang sesuai untuk pembaca.
Keluarga ini dilatih pada set data luar talian. Berikan rekod, angka atau bahan dasar semasa apabila jawapan bergantung padanya. Simpan petikan sumber yang berkaitan dan perbualan terdahulu dalam konteks tersenarai profil ini, dengan ruang untuk hasil. Semak teks yang dikembalikan terhadap bukti yang dibekalkan sebelum memasukkannya ke dalam aliran kerja lain.
Kekalkan pengecam profil bersama prom dan jawapan apabila membandingkan hasil. Profil dihoskan yang dinamakan dan edisi pemberat model yang diterbitkan secara berasingan mempunyai identiti berbeza; tingkah laku khusus penalaan perlu dikaitkan dengan edisi yang benar-benar dipilih.
POST /v1/messagestextjson, sse| Medan | Jenis | Keperluan | Nilai & had | Lalai |
|---|---|---|---|---|
Medanmodel | Jenisstring | KeperluanDiperlukan | Nilai & had llama3.1-405b | Lalai— |
Medanmessages | Jenismessage[] | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmessages[].role | Jenisstring | KeperluanDiperlukan | Nilai & had user, assistant | Lalai— |
Medanmessages[].content | Jenisstring | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanmax_tokens | Jenisinteger | KeperluanDiperlukan | Nilai & had | Lalai— |
Medanstream | Jenisboolean | KeperluanPilihan | Nilai & had | Lalaifalse |
Teks · Teks UTF-8
rentetan messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 sebenar dan letakkan teksnya dalam rentetan input atau kandungan mesej yang ditunjukkan. |
Kitar hayat: synchronous_or_streamed
Rujukan tarif tidak menambah pilihan permintaan. Parameter yang disokong disenaraikan untuk kaedah yang dipilih.
| Konfigurasi | Jadual kadar | Caj |
|---|---|---|
| KonfigurasiKadar asas token | Jadual kadarKadar asas | Caj Input · Token input $0.01 / 1K token Output · Token output $0.01 / 1K token Input · Bacaan cache $0 / 1K token Input · Penulisan cache $0 / 1K token Input · Penulisan cache, 1 jam — / 1K token |
Ailoot merizabkan anggaran amaun sebelum permintaan. Selepas hasil diterima, caj akhir diselesaikan berdasarkan penggunaan terukur. Penyelesaian caj penstriman menggunakan rekod penggunaan akhir. Cara rizab dan penyelesaian caj berfungsi →
{\n "model": "llama3.1-405b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'llama3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'llama3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, fail dan bahagian kandungan yang dikembalikan.
Kekalkan semua blok kandungan, tandatangan penaakulan dan ID penggunaan alat sebenar. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan output.
Kekalkan ID permintaan/respons dan pengepala. Tiada URL umum bagi pengambilan tugas teks dibekalkan.
| Medan | Jenis |
|---|---|
Medanid | Jenisstring |
Medanmodel | Jenisstring |
Medancontent[] | Jenistext|thinking|tool_use|other content block |
Medanstop_reason | Jenisstring|null |
Medanusage | Jenisobject |
| Respons | Syarat | Langkah seterusnya |
|---|---|---|
Respons400 · invalid_request_error | SyaratMedan wajib, perwakilan bahan atau nilai parameter tidak sah | Langkah seterusnyaBetulkan medan yang ditunjukkan sebelum permintaan penciptaan baharu. |
Ailoot Ultra llama3.1-405b
Gunakan laluan kaedah yang dipaparkan di atas.
Contoh teknikal dalam bahasa Inggeris
Prepare a bilingual policy briefing\n\nPrepare a French briefing from these English source sections. A: Remote work is allowed up to two days per week. B: Customer-site visits take priority over remote days. C: The manager approves the weekly schedule. Use télétravail for remote work. Return three concise bullets with source letters and keep the precedence rule explicit.Three French briefing bullets with A, B and C references and consistent glossary usage.Check that customer-site visits retain priority and manager approval is not presented as automatic.