Llama 3.2 90B Vision adalah model gambar dan teks Meta yang lebih besar dalam koleksi Llama 3.2 Vision. Model ini menggabungkan model bahasa autoregresif Llama 3.1 dengan adaptor visi yang dilatih secara terpisah. Lapisan cross-attention memasukkan representasi dari encoder gambar ke dalam model bahasa, sehingga pertanyaan teks dapat ditafsirkan bersama konten yang terlihat. Penamaan 90B mengidentifikasi kelas ukuran; tabel konfigurasi Meta mencantumkan 88.8 miliar parameter dan grouped-query attention.
Model ini menerima teks dan gambar serta menghasilkan teks, dengan panjang konteks 128K token. Untuk tugas hanya teks, bahasa yang didukung secara resmi adalah Inggris, Jerman, Prancis, Italia, Portugis, Hindi, Spanyol, dan Thai. Aplikasi gambar dan teks didukung secara resmi dalam bahasa Inggris. Perbedaan ini penting ketika menyiapkan asisten dokumen: bahasa yang digunakan untuk percakapan teks dan bahasa yang digunakan untuk bertanya tentang gambar merupakan pilihan yang terpisah.
Meta menerbitkan edisi pralatih dan edisi yang disetel mengikuti instruksi. Model pralatih adalah fondasi yang dapat diadaptasi untuk tugas penalaran atas gambar. Edisi yang disetel mengikuti instruksi menambahkan penyetelan lanjutan terawasi dan pembelajaran penguatan dari umpan balik manusia untuk pengenalan visual, penalaran atas gambar, pembuatan keterangan gambar, dan percakapan seperti asisten dengan gambar. Label ukuran menjelaskan cabang 90B dan tetap membedakan edisi penyetelan tersebut.
Penggunaan yang dituju mencakup menjawab pertanyaan visual, pertanyaan tentang gambar dokumen, pembuatan keterangan gambar, pencocokan gambar dan teks, serta pengaitan bahasa dengan objek visual. Untuk halaman dokumen, tanyakan hubungan suatu judul dengan tabel atau klausul terlihat mana yang menjawab pertanyaan tertentu. Untuk grafik, tentukan seri atau label yang perlu dibandingkan dan minta penjelasan yang dikaitkan dengan detail tersebut. Untuk foto, minta keterangan yang mengidentifikasi adegan dan hubungan yang terlihat. Pengaitan visual menghubungkan frasa dalam pertanyaan dengan objek atau wilayah yang relevan; tugas pencocokan menghubungkan gambar dengan deskripsi teks yang sesuai.
Dalam tugas Ailoot API, sertakan pertanyaan yang jelas bersama gambar dan tentukan artefak teks yang diinginkan: deskripsi, penjelasan, jawaban dengan pengamatan pendukung, atau daftar detail yang diekstrak. Pertahankan bukti visual yang melekat pada pertanyaan agar revisi berikutnya dapat merujuk halaman, diagram, atau foto yang sama. Contoh model Meta menggunakan pemroses gambar dan prompt teks awal untuk menghasilkan teks; modalitas keluaran yang dipublikasikan tetap berupa teks.
Keluarga Vision dipralatih menggunakan enam miliar pasangan gambar dan teks. Penyetelan instruksi mencakup data instruksi visi publik dan lebih dari tiga juta contoh sintetis. Meta menyebut Desember 2023 sebagai batas waktu pengetahuan prapelatihan dan menjelaskan model ini sebagai rilis statis yang dilatih menggunakan kumpulan data luring. Upaya tanggung jawabnya mencakup penyetelan keamanan, evaluasi adversarial, dan pengamanan sistem yang terpisah. Untuk peninjauan praktis, bedakan hal yang secara kasatmata didukung gambar dari interpretasi model, lalu periksa deskripsi terhadap materi yang disediakan. Meta menyatakan bahwa respons dapat tidak akurat atau bias dan evaluasinya tidak mencakup setiap skenario aplikasi.
", "aboutText": "Llama 3.2 90B Vision adalah model gambar dan teks Meta yang lebih besar dalam koleksi Llama 3.2 Vision. Model ini menggabungkan model bahasa autoregresif Llama 3.1 dengan adaptor visi yang dilatih secara terpisah. Lapisan cross-attention memasukkan representasi dari encoder gambar ke dalam model bahasa, sehingga pertanyaan teks dapat ditafsirkan bersama konten yang terlihat. Penamaan 90B mengidentifikasi kelas ukuran; tabel konfigurasi Meta mencantumkan 88.8 miliar parameter dan grouped-query attention.\n\nModel ini menerima teks dan gambar serta menghasilkan teks, dengan panjang konteks 128K token. Untuk tugas hanya teks, bahasa yang didukung secara resmi adalah Inggris, Jerman, Prancis, Italia, Portugis, Hindi, Spanyol, dan Thai. Aplikasi gambar dan teks didukung secara resmi dalam bahasa Inggris. Perbedaan ini penting ketika menyiapkan asisten dokumen: bahasa yang digunakan untuk percakapan teks dan bahasa yang digunakan untuk bertanya tentang gambar merupakan pilihan yang terpisah.\n\nMeta menerbitkan edisi pralatih dan edisi yang disetel mengikuti instruksi. Model pralatih adalah fondasi yang dapat diadaptasi untuk tugas penalaran atas gambar. Edisi yang disetel mengikuti instruksi menambahkan penyetelan lanjutan terawasi dan pembelajaran penguatan dari umpan balik manusia untuk pengenalan visual, penalaran atas gambar, pembuatan keterangan gambar, dan percakapan seperti asisten dengan gambar. Label ukuran menjelaskan cabang 90B dan tetap membedakan edisi penyetelan tersebut.\n\nPenggunaan yang dituju mencakup menjawab pertanyaan visual, pertanyaan tentang gambar dokumen, pembuatan keterangan gambar, pencocokan gambar dan teks, serta pengaitan bahasa dengan objek visual. Untuk halaman dokumen, tanyakan hubungan suatu judul dengan tabel atau klausul terlihat mana yang menjawab pertanyaan tertentu. Untuk grafik, tentukan seri atau label yang perlu dibandingkan dan minta penjelasan yang dikaitkan dengan detail tersebut. Untuk foto, minta keterangan yang mengidentifikasi adegan dan hubungan yang terlihat. Pengaitan visual menghubungkan frasa dalam pertanyaan dengan objek atau wilayah yang relevan; tugas pencocokan menghubungkan gambar dengan deskripsi teks yang sesuai.\n\nDalam tugas Ailoot API, sertakan pertanyaan yang jelas bersama gambar dan tentukan artefak teks yang diinginkan: deskripsi, penjelasan, jawaban dengan pengamatan pendukung, atau daftar detail yang diekstrak. Pertahankan bukti visual yang melekat pada pertanyaan agar revisi berikutnya dapat merujuk halaman, diagram, atau foto yang sama. Contoh model Meta menggunakan pemroses gambar dan prompt teks awal untuk menghasilkan teks; modalitas keluaran yang dipublikasikan tetap berupa teks.\n\nKeluarga Vision dipralatih menggunakan enam miliar pasangan gambar dan teks. Penyetelan instruksi mencakup data instruksi visi publik dan lebih dari tiga juta contoh sintetis. Meta menyebut Desember 2023 sebagai batas waktu pengetahuan prapelatihan dan menjelaskan model ini sebagai rilis statis yang dilatih menggunakan kumpulan data luring. Upaya tanggung jawabnya mencakup penyetelan keamanan, evaluasi adversarial, dan pengamanan sistem yang terpisah. Untuk peninjauan praktis, bedakan hal yang secara kasatmata didukung gambar dari interpretasi model, lalu periksa deskripsi terhadap materi yang disediakan. Meta menyatakan bahwa respons dapat tidak akurat atau bias dan evaluasinya tidak mencakup setiap skenario aplikasi.", "editorialOverlay": { "copy_fields": { "practical_html": "Contoh teknis dalam bahasa Inggris
Explain a chart from supplied values\n\nUse this text transcription of a bar chart: horizontal axis is quarter; vertical axis is returned units; Q1=12, Q2=18, Q3=9, Q4=15. Write a two-sentence caption identifying the largest and smallest bars and the change from Q2 to Q3. Do not infer sales totals or return rates.A two-sentence chart caption with the extrema and a nine-unit decrease from Q2 to Q3.The answer reports units rather than percentages and does not invent a denominator for return rates.llama3.2-90bLlama 3.2 90B Vision adalah model visi dan bahasa Meta yang lebih besar untuk menjelaskan gambar, menjawab pertanyaan tentang halaman dokumen, dan menghubungkan detail visual dengan prompt teks. Ukuran 90B memiliki edisi pralatih dan edisi yang disetel mengikuti instruksi secara terpisah, dengan keluaran teks dan jendela konteks 128K.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Llama 3.2 90B Vision adalah model gambar dan teks Meta yang lebih besar dalam koleksi Llama 3.2 Vision. Model ini menggabungkan model bahasa autoregresif Llama 3.1 dengan adaptor visi yang dilatih secara terpisah. Lapisan cross-attention memasukkan representasi dari encoder gambar ke dalam model bahasa, sehingga pertanyaan teks dapat ditafsirkan bersama konten yang terlihat. Penamaan 90B mengidentifikasi kelas ukuran; tabel konfigurasi Meta mencantumkan 88.8 miliar parameter dan grouped-query attention.
Model ini menerima teks dan gambar serta menghasilkan teks, dengan panjang konteks 128K token. Untuk tugas hanya teks, bahasa yang didukung secara resmi adalah Inggris, Jerman, Prancis, Italia, Portugis, Hindi, Spanyol, dan Thai. Aplikasi gambar dan teks didukung secara resmi dalam bahasa Inggris. Perbedaan ini penting ketika menyiapkan asisten dokumen: bahasa yang digunakan untuk percakapan teks dan bahasa yang digunakan untuk bertanya tentang gambar merupakan pilihan yang terpisah.
Meta menerbitkan edisi pralatih dan edisi yang disetel mengikuti instruksi. Model pralatih adalah fondasi yang dapat diadaptasi untuk tugas penalaran atas gambar. Edisi yang disetel mengikuti instruksi menambahkan penyetelan lanjutan terawasi dan pembelajaran penguatan dari umpan balik manusia untuk pengenalan visual, penalaran atas gambar, pembuatan keterangan gambar, dan percakapan seperti asisten dengan gambar. Label ukuran menjelaskan cabang 90B dan tetap membedakan edisi penyetelan tersebut.
Penggunaan yang dituju mencakup menjawab pertanyaan visual, pertanyaan tentang gambar dokumen, pembuatan keterangan gambar, pencocokan gambar dan teks, serta pengaitan bahasa dengan objek visual. Untuk halaman dokumen, tanyakan hubungan suatu judul dengan tabel atau klausul terlihat mana yang menjawab pertanyaan tertentu. Untuk grafik, tentukan seri atau label yang perlu dibandingkan dan minta penjelasan yang dikaitkan dengan detail tersebut. Untuk foto, minta keterangan yang mengidentifikasi adegan dan hubungan yang terlihat. Pengaitan visual menghubungkan frasa dalam pertanyaan dengan objek atau wilayah yang relevan; tugas pencocokan menghubungkan gambar dengan deskripsi teks yang sesuai.
Dalam tugas Ailoot API, sertakan pertanyaan yang jelas bersama gambar dan tentukan artefak teks yang diinginkan: deskripsi, penjelasan, jawaban dengan pengamatan pendukung, atau daftar detail yang diekstrak. Pertahankan bukti visual yang melekat pada pertanyaan agar revisi berikutnya dapat merujuk halaman, diagram, atau foto yang sama. Contoh model Meta menggunakan pemroses gambar dan prompt teks awal untuk menghasilkan teks; modalitas keluaran yang dipublikasikan tetap berupa teks.
Keluarga Vision dipralatih menggunakan enam miliar pasangan gambar dan teks. Penyetelan instruksi mencakup data instruksi visi publik dan lebih dari tiga juta contoh sintetis. Meta menyebut Desember 2023 sebagai batas waktu pengetahuan prapelatihan dan menjelaskan model ini sebagai rilis statis yang dilatih menggunakan kumpulan data luring. Upaya tanggung jawabnya mencakup penyetelan keamanan, evaluasi adversarial, dan pengamanan sistem yang terpisah. Untuk peninjauan praktis, bedakan hal yang secara kasatmata didukung gambar dari interpretasi model, lalu periksa deskripsi terhadap materi yang disediakan. Meta menyatakan bahwa respons dapat tidak akurat atau bias dan evaluasinya tidak mencakup setiap skenario aplikasi.
POST /v1/chat/completionstexttext| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan llama3.2-90b | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan Item minimum: 1 | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan Contoh: system, user, assistant, tool, function Kondisi: Peran ini direpresentasikan secara eksplisit oleh tipe kompatibilitas dalam kode sumber; kumpulan peran model yang tepat tetap khusus untuk tiap model. Bergantung pada model | Bawaan— |
Kolommessages[].content | Jenisstring|content_part[]|null | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_calls | Jenistool_call[] | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].tool_call_id | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: role=tool; gunakan ID yang benar-benar dikembalikan | Bawaan— |
Kolommessages[].name | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolommessages[].reasoning_content | Jenisstring | PersyaratanOpsional | Nilai & batasan Berlaku jika: Kirim kembali penalaran yang benar-benar dikembalikan jika model ini menggunakannya | Bawaan— |
Kolommessages[].reasoning_details | Jenisobject|array | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolommax_completion_tokens | Jenisinteger | PersyaratanOpsional | Nilai & batasan Minimum: 1 Bergantung pada model | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Kolomstream_options.include_usage | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtemperature | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtop_p | Jenisnumber | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomstop | Jenisstring|string[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools | Jenisfunction_tool[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomtools[].type | Jenisstring | PersyaratanOpsional | Nilai & batasan function Bergantung pada model | Bawaan— |
Kolomtools[].function.name | Jenisstring | PersyaratanWajib | Nilai & batasan Berlaku jika: alat fungsi disediakan | Bawaan— |
Kolomtools[].function.description | Jenisstring | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtools[].function.parameters | JenisJSON_schema | PersyaratanOpsional | Nilai & batasan | Bawaan— |
Kolomtool_choice | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomparallel_tool_calls | Jenisboolean | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomresponse_format | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning_effort | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomreasoning | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomservice_tier | Jenisstring | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolominstructions | Jenisstring | PersyaratanOpsional | Nilai & batasan Kolom kompatibilitas | Bawaan— |
Kolomfunctions | Jenisfunction[] | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomfunction_call | Jenisstring|object | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolomprompt_cache_options | Jenisobject | PersyaratanOpsional | Nilai & batasan Bergantung pada model | Bawaan— |
Kolommodalities | Jenisstring[] | PersyaratanOpsional | Nilai & batasan text | Bawaan— |
Kolomprovider | Jenisobject | PersyaratanOpsional | Nilai & batasan Kondisi: provider.options ditolak pada rute teks Ultra ini | Bawaan— |
Kolomcache_control.ttl | Jenisstring | PersyaratanOpsional | Nilai & batasan Kondisi: 1h ditolak pada lokasi cache prompt yang digunakan | Bawaan— |
Teks · Teks UTF8
messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages |
Parametermaterial_types | Kontraktext |
Parametermessages | Kontrakarray pesan dengan struktur role/content |
Parameterfile_material | Kontrakdokumen UTF-8 yang sebenarnya dimasukkan sebagai teks apa adanya; ID file tidak disimpulkan |
Parameteroptional_controls | Kontrakstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Kontrakkhusus model; alat fungsi pengguna berbeda dari alat yang dihosting |
Parameteroutput_modalities | Kontraktext |
Parameterhosted_operations | Kontrakfalse |
Parametermultimodal_input_binding | Kontraknull |
Siklus hidup: synchronous_or_streamed
Kirim ID model yang tepat bersama messages.
Panjang konteks bukan batas keluaran.
File teks dapat menyediakan teks apa adanya; masukan gambar/audio/objek file memerlukan pengikatan yang tepat.
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
| Konfigurasi | Jadwal tarif | Biaya |
|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Biaya Masukan · Token masukan $0.004 / 1K token Keluaran · Token keluaran $0.004 / 1K token Masukan · Pembacaan cache $0 / 1K token Masukan · Penulisan cache $0 / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "llama3.2-90b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='llama3.2-90b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='llama3.2-90b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan setiap alternatif jawaban beserta konten, panggilan alat, dan penalarannya. Dalam SSE, gabungkan delta menurut indeks alternatif jawaban/alat, lalu pertahankan alasan penghentian akhir dan data penggunaan.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomchoices[].index | Jenisinteger |
Kolomchoices[].message.content | Jenisstring|null |
Kolomchoices[].message.tool_calls | Jenistool_call[] |
Kolomchoices[].message.reasoning_content | Jenisstring |
Kolomchoices[].message.reasoning_details | Jenisobject|array |
Kolomchoices[].finish_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra llama3.2-90b
Gunakan jalur metode yang ditampilkan di atas.
llama3.2-90bLlama 3.2 90B Vision adalah model visi dan bahasa Meta yang lebih besar untuk menjelaskan gambar, menjawab pertanyaan tentang halaman dokumen, dan menghubungkan detail visual dengan prompt teks. Ukuran 90B memiliki edisi pralatih dan edisi yang disetel mengikuti instruksi secara terpisah, dengan keluaran teks dan jendela konteks 128K.
Deskripsi ini mencakup kemampuan model. Masukan, keluaran, dan opsi yang tersedia di Ailoot tercantum di bawah untuk metode yang dipilih.
Llama 3.2 90B Vision adalah model gambar dan teks Meta yang lebih besar dalam koleksi Llama 3.2 Vision. Model ini menggabungkan model bahasa autoregresif Llama 3.1 dengan adaptor visi yang dilatih secara terpisah. Lapisan cross-attention memasukkan representasi dari encoder gambar ke dalam model bahasa, sehingga pertanyaan teks dapat ditafsirkan bersama konten yang terlihat. Penamaan 90B mengidentifikasi kelas ukuran; tabel konfigurasi Meta mencantumkan 88.8 miliar parameter dan grouped-query attention.
Model ini menerima teks dan gambar serta menghasilkan teks, dengan panjang konteks 128K token. Untuk tugas hanya teks, bahasa yang didukung secara resmi adalah Inggris, Jerman, Prancis, Italia, Portugis, Hindi, Spanyol, dan Thai. Aplikasi gambar dan teks didukung secara resmi dalam bahasa Inggris. Perbedaan ini penting ketika menyiapkan asisten dokumen: bahasa yang digunakan untuk percakapan teks dan bahasa yang digunakan untuk bertanya tentang gambar merupakan pilihan yang terpisah.
Meta menerbitkan edisi pralatih dan edisi yang disetel mengikuti instruksi. Model pralatih adalah fondasi yang dapat diadaptasi untuk tugas penalaran atas gambar. Edisi yang disetel mengikuti instruksi menambahkan penyetelan lanjutan terawasi dan pembelajaran penguatan dari umpan balik manusia untuk pengenalan visual, penalaran atas gambar, pembuatan keterangan gambar, dan percakapan seperti asisten dengan gambar. Label ukuran menjelaskan cabang 90B dan tetap membedakan edisi penyetelan tersebut.
Penggunaan yang dituju mencakup menjawab pertanyaan visual, pertanyaan tentang gambar dokumen, pembuatan keterangan gambar, pencocokan gambar dan teks, serta pengaitan bahasa dengan objek visual. Untuk halaman dokumen, tanyakan hubungan suatu judul dengan tabel atau klausul terlihat mana yang menjawab pertanyaan tertentu. Untuk grafik, tentukan seri atau label yang perlu dibandingkan dan minta penjelasan yang dikaitkan dengan detail tersebut. Untuk foto, minta keterangan yang mengidentifikasi adegan dan hubungan yang terlihat. Pengaitan visual menghubungkan frasa dalam pertanyaan dengan objek atau wilayah yang relevan; tugas pencocokan menghubungkan gambar dengan deskripsi teks yang sesuai.
Dalam tugas Ailoot API, sertakan pertanyaan yang jelas bersama gambar dan tentukan artefak teks yang diinginkan: deskripsi, penjelasan, jawaban dengan pengamatan pendukung, atau daftar detail yang diekstrak. Pertahankan bukti visual yang melekat pada pertanyaan agar revisi berikutnya dapat merujuk halaman, diagram, atau foto yang sama. Contoh model Meta menggunakan pemroses gambar dan prompt teks awal untuk menghasilkan teks; modalitas keluaran yang dipublikasikan tetap berupa teks.
Keluarga Vision dipralatih menggunakan enam miliar pasangan gambar dan teks. Penyetelan instruksi mencakup data instruksi visi publik dan lebih dari tiga juta contoh sintetis. Meta menyebut Desember 2023 sebagai batas waktu pengetahuan prapelatihan dan menjelaskan model ini sebagai rilis statis yang dilatih menggunakan kumpulan data luring. Upaya tanggung jawabnya mencakup penyetelan keamanan, evaluasi adversarial, dan pengamanan sistem yang terpisah. Untuk peninjauan praktis, bedakan hal yang secara kasatmata didukung gambar dari interpretasi model, lalu periksa deskripsi terhadap materi yang disediakan. Meta menyatakan bahwa respons dapat tidak akurat atau bias dan evaluasinya tidak mencakup setiap skenario aplikasi.
POST /v1/messagestextjson, sse| Kolom | Jenis | Persyaratan | Nilai & batasan | Bawaan |
|---|---|---|---|---|
Kolommodel | Jenisstring | PersyaratanWajib | Nilai & batasan llama3.2-90b | Bawaan— |
Kolommessages | Jenismessage[] | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommessages[].role | Jenisstring | PersyaratanWajib | Nilai & batasan user, assistant | Bawaan— |
Kolommessages[].content | Jenisstring | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolommax_tokens | Jenisinteger | PersyaratanWajib | Nilai & batasan | Bawaan— |
Kolomstream | Jenisboolean | PersyaratanOpsional | Nilai & batasan | Bawaanfalse |
Teks · Teks UTF-8
string messages[].content
| Parameter | Kontrak |
|---|---|
Parametercontent_type | Kontrakapplication/json |
Parameterrequired | Kontrakmodel, messages, max_tokens |
Parameteroptional_controls | Kontrakstream |
Parametermaterial_types | Kontraktext |
Parametertext_file_material | KontrakBaca dokumen UTF-8 yang sebenarnya dan masukkan teksnya ke string masukan atau konten pesan yang ditunjukkan. |
Siklus hidup: synchronous_or_streamed
Referensi tarif tidak menambah opsi permintaan. Parameter yang didukung tercantum pada metode yang dipilih.
| Konfigurasi | Jadwal tarif | Biaya |
|---|---|---|
| KonfigurasiTarif dasar token | Jadwal tarifTarif dasar | Biaya Masukan · Token masukan $0.004 / 1K token Keluaran · Token keluaran $0.004 / 1K token Masukan · Pembacaan cache $0 / 1K token Masukan · Penulisan cache $0 / 1K token Masukan · Penulisan cache, 1 jam — / 1K token |
Ailoot mencadangkan perkiraan dana sebelum permintaan. Setelah hasil diterima, tagihan akhir diselesaikan berdasarkan penggunaan yang terukur. Penyelesaian tagihan streaming menggunakan catatan penggunaan akhir. Cara kerja cadangan dan penyelesaian tagihan →
{\n "model": "llama3.2-90b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'llama3.2-90b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'llama3.2-90b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON atau SSE
Simpan setiap respons lengkap, berkas, dan bagian konten yang dikembalikan.
Simpan semua blok konten, tanda tangan penalaran, dan ID penggunaan alat yang sebenarnya. Gabungkan semua delta blok SSE; blok teks pertama bukan keseluruhan keluaran.
Simpan ID permintaan/respons dan header. URL umum untuk pengambilan tugas teks tidak disediakan.
| Kolom | Jenis |
|---|---|
Kolomid | Jenisstring |
Kolommodel | Jenisstring |
Kolomcontent[] | Jenistext|thinking|tool_use|other content block |
Kolomstop_reason | Jenisstring|null |
Kolomusage | Jenisobject |
| Respons | Kondisi | Langkah berikutnya |
|---|---|---|
Respons400 · invalid_request_error | KondisiBidang wajib, representasi materi, atau nilai parameter tidak valid | Langkah berikutnyaPerbaiki bidang yang ditunjukkan sebelum permintaan pembuatan baru. |
Ailoot Ultra llama3.2-90b
Gunakan jalur metode yang ditampilkan di atas.
Contoh teknis dalam bahasa Inggris
Explain a chart from supplied values\n\nUse this text transcription of a bar chart: horizontal axis is quarter; vertical axis is returned units; Q1=12, Q2=18, Q3=9, Q4=15. Write a two-sentence caption identifying the largest and smallest bars and the change from Q2 to Q3. Do not infer sales totals or return rates.A two-sentence chart caption with the extrema and a nine-unit decrease from Q2 to Q3.The answer reports units rather than percentages and does not invent a denominator for return rates.