A Llama 3.2 11B Vision a Meta kisebb multimodális tagja a Llama 3.2 Vision gyűjteményben. A modell Llama 3.1 nyelvi alaparchitektúrát egyesít egy külön tanított képi adapterrel. A keresztfigyelem a képkódoló reprezentációit az autoregresszív szöveges modellhez kapcsolja, így a válasz a vizuális bizonyítékot az írásos feladattal együtt használhatja. A Meta konfigurációs táblázatában a 11B méretosztály 10,6 milliárd paraméterrel rendelkezik, és csoportosított lekérdezéses figyelmet használ.
Bemenete szövegből és képekből áll; kimenete szöveg, 128 ezer tokenes kontextushosszal. Kizárólag szöveges feladatokhoz az angol, német, francia, olasz, portugál, hindi, spanyol és thai hivatalosan támogatott. A képi-szöveges alkalmazások hivatalosan angolul támogatottak. Egy többnyelvű szöveges beszélgetés és egy képpel kapcsolatos kérdés dokumentált nyelvi köre tehát eltérő.
Az előtanított és az utasításokra finomhangolt kiadások különböző célokat szolgálnak. Az előtanított kiadás alapot ad a képi következtetéshez való adaptáláshoz. Az utasításokra finomhangolt kiadás felügyelt finomhangolást és emberi visszajelzéses megerősítéses tanulást használ a vizuális felismerés, a képi következtetés, a képaláírás és a képekkel folytatott beszélgetés támogatására. A 11B címke ezt a méretágat azonosítja; nem helyettesíti a hangolási kiadás kiválasztását.
A tervezett vizuális alkalmazások közé tartozik a fényképekkel kapcsolatos kérdések megválaszolása, egy dokumentum szövegének és elrendezésének értelmezése, képaláírások írása, képek leírásokkal való párosítása, valamint a nyelvi hivatkozások tárgyakhoz vagy területekhez kötése. Egy dokumentumasszisztens szakaszonként magyarázhat el egy űrlapot, összekapcsolhat egy táblázatot a címsorával, vagy válaszolhat a látható oldallal kapcsolatos kérdésre. Egy termékes munkafolyamat leírhatja a fényképen szereplő tárgyakat és kapcsolatokat. Vizuális hivatkozásfeloldáshoz nevezze meg a kérdésben a tárgyat vagy területet, és kérjen a megadott képhez kötött magyarázatot. Kép-szöveg párosításnál hasonlítsa össze a látható tartalmat a lehetséges leírásokkal.
Ailoot API-feladathoz párosítsa a képet konkrét utasítással, és válassza ki a szükséges szöveges eredményt: képaláírást, megfigyelésekkel ellátott választ, kinyert részletek listáját vagy magyarázatot. Adja meg, mely képrészlet fontos, és a válasz finomításakor őrizze meg annak kapcsolatát a kérdéssel. A kép bizonyítékként szolgál egy szöveges eredményhez; a Meta példái képből és kiinduló promptból generálnak szöveget.
A Vision család előtanítása hatmilliárd kép-szöveg párt használ. Az utasításokra hangolás nyilvános képi utasításadatkészleteket és több mint hárommillió szintetikus példát kombinál. Az előtanítás határdátuma 2023. december, a kiadás pedig offline adatkészleten tanított statikus modell. A Meta felelős működést célzó munkája biztonsági finomhangolást, adverszárius tesztelést és rendszerszintű védelmeket tartalmaz. Megadott korlátai közé tartoznak a pontatlan vagy elfogult válaszok és az értékelés lefedettsége, amely nem foghat át minden telepítési helyzetet. Ellenőrizze az eredményül kapott leírásokat a látható anyag alapján, és különítse el a megfigyeléseket az értelmezéstől.
", "aboutText": "A Llama 3.2 11B Vision a Meta kisebb multimodális tagja a Llama 3.2 Vision gyűjteményben. A modell Llama 3.1 nyelvi alaparchitektúrát egyesít egy külön tanított képi adapterrel. A keresztfigyelem a képkódoló reprezentációit az autoregresszív szöveges modellhez kapcsolja, így a válasz a vizuális bizonyítékot az írásos feladattal együtt használhatja. A Meta konfigurációs táblázatában a 11B méretosztály 10,6 milliárd paraméterrel rendelkezik, és csoportosított lekérdezéses figyelmet használ.\n\nBemenete szövegből és képekből áll; kimenete szöveg, 128 ezer tokenes kontextushosszal. Kizárólag szöveges feladatokhoz az angol, német, francia, olasz, portugál, hindi, spanyol és thai hivatalosan támogatott. A képi-szöveges alkalmazások hivatalosan angolul támogatottak. Egy többnyelvű szöveges beszélgetés és egy képpel kapcsolatos kérdés dokumentált nyelvi köre tehát eltérő.\n\nAz előtanított és az utasításokra finomhangolt kiadások különböző célokat szolgálnak. Az előtanított kiadás alapot ad a képi következtetéshez való adaptáláshoz. Az utasításokra finomhangolt kiadás felügyelt finomhangolást és emberi visszajelzéses megerősítéses tanulást használ a vizuális felismerés, a képi következtetés, a képaláírás és a képekkel folytatott beszélgetés támogatására. A 11B címke ezt a méretágat azonosítja; nem helyettesíti a hangolási kiadás kiválasztását.\n\nA tervezett vizuális alkalmazások közé tartozik a fényképekkel kapcsolatos kérdések megválaszolása, egy dokumentum szövegének és elrendezésének értelmezése, képaláírások írása, képek leírásokkal való párosítása, valamint a nyelvi hivatkozások tárgyakhoz vagy területekhez kötése. Egy dokumentumasszisztens szakaszonként magyarázhat el egy űrlapot, összekapcsolhat egy táblázatot a címsorával, vagy válaszolhat a látható oldallal kapcsolatos kérdésre. Egy termékes munkafolyamat leírhatja a fényképen szereplő tárgyakat és kapcsolatokat. Vizuális hivatkozásfeloldáshoz nevezze meg a kérdésben a tárgyat vagy területet, és kérjen a megadott képhez kötött magyarázatot. Kép-szöveg párosításnál hasonlítsa össze a látható tartalmat a lehetséges leírásokkal.\n\nAiloot API-feladathoz párosítsa a képet konkrét utasítással, és válassza ki a szükséges szöveges eredményt: képaláírást, megfigyelésekkel ellátott választ, kinyert részletek listáját vagy magyarázatot. Adja meg, mely képrészlet fontos, és a válasz finomításakor őrizze meg annak kapcsolatát a kérdéssel. A kép bizonyítékként szolgál egy szöveges eredményhez; a Meta példái képből és kiinduló promptból generálnak szöveget.\n\nA Vision család előtanítása hatmilliárd kép-szöveg párt használ. Az utasításokra hangolás nyilvános képi utasításadatkészleteket és több mint hárommillió szintetikus példát kombinál. Az előtanítás határdátuma 2023. december, a kiadás pedig offline adatkészleten tanított statikus modell. A Meta felelős működést célzó munkája biztonsági finomhangolást, adverszárius tesztelést és rendszerszintű védelmeket tartalmaz. Megadott korlátai közé tartoznak a pontatlan vagy elfogult válaszok és az értékelés lefedettsége, amely nem foghat át minden telepítési helyzetet. Ellenőrizze az eredményül kapott leírásokat a látható anyag alapján, és különítse el a megfigyeléseket az értelmezéstől.", "editorialOverlay": { "copy_fields": { "practical_html": "Technikai példa angolul
Match descriptions to a transcribed product view\n\nUse this text description of a product view: one blue mug with a handle, no lid, standing beside a silver spoon. Candidate captions: A, blue lidded travel cup; B, blue handled mug beside a spoon; C, two blue bowls. Select the caption supported by the description and explain each mismatch in the alternatives.One selected caption and a brief evidence comparison for all three candidates.Check that no unmentioned lid or second vessel is added and that the choice uses the supplied text only.llama3.2-11bA Meta kisebb Llama 3.2 Vision kiadása képi-szöveges promptokból leírásokat, dokumentumokkal kapcsolatos válaszokat és vizuális magyarázatokat készít. Kontextusablaka 128 ezer tokenes, külön előtanított és utasításokra finomhangolt kiadásokkal.
Ez a leírás a modell képességeit ismerteti. Az Ailootban elérhető bemenetek, kimenetek és lehetőségek alább, a kiválasztott metódusnál láthatók.
A Llama 3.2 11B Vision a Meta kisebb multimodális tagja a Llama 3.2 Vision gyűjteményben. A modell Llama 3.1 nyelvi alaparchitektúrát egyesít egy külön tanított képi adapterrel. A keresztfigyelem a képkódoló reprezentációit az autoregresszív szöveges modellhez kapcsolja, így a válasz a vizuális bizonyítékot az írásos feladattal együtt használhatja. A Meta konfigurációs táblázatában a 11B méretosztály 10,6 milliárd paraméterrel rendelkezik, és csoportosított lekérdezéses figyelmet használ.
Bemenete szövegből és képekből áll; kimenete szöveg, 128 ezer tokenes kontextushosszal. Kizárólag szöveges feladatokhoz az angol, német, francia, olasz, portugál, hindi, spanyol és thai hivatalosan támogatott. A képi-szöveges alkalmazások hivatalosan angolul támogatottak. Egy többnyelvű szöveges beszélgetés és egy képpel kapcsolatos kérdés dokumentált nyelvi köre tehát eltérő.
Az előtanított és az utasításokra finomhangolt kiadások különböző célokat szolgálnak. Az előtanított kiadás alapot ad a képi következtetéshez való adaptáláshoz. Az utasításokra finomhangolt kiadás felügyelt finomhangolást és emberi visszajelzéses megerősítéses tanulást használ a vizuális felismerés, a képi következtetés, a képaláírás és a képekkel folytatott beszélgetés támogatására. A 11B címke ezt a méretágat azonosítja; nem helyettesíti a hangolási kiadás kiválasztását.
A tervezett vizuális alkalmazások közé tartozik a fényképekkel kapcsolatos kérdések megválaszolása, egy dokumentum szövegének és elrendezésének értelmezése, képaláírások írása, képek leírásokkal való párosítása, valamint a nyelvi hivatkozások tárgyakhoz vagy területekhez kötése. Egy dokumentumasszisztens szakaszonként magyarázhat el egy űrlapot, összekapcsolhat egy táblázatot a címsorával, vagy válaszolhat a látható oldallal kapcsolatos kérdésre. Egy termékes munkafolyamat leírhatja a fényképen szereplő tárgyakat és kapcsolatokat. Vizuális hivatkozásfeloldáshoz nevezze meg a kérdésben a tárgyat vagy területet, és kérjen a megadott képhez kötött magyarázatot. Kép-szöveg párosításnál hasonlítsa össze a látható tartalmat a lehetséges leírásokkal.
Ailoot API-feladathoz párosítsa a képet konkrét utasítással, és válassza ki a szükséges szöveges eredményt: képaláírást, megfigyelésekkel ellátott választ, kinyert részletek listáját vagy magyarázatot. Adja meg, mely képrészlet fontos, és a válasz finomításakor őrizze meg annak kapcsolatát a kérdéssel. A kép bizonyítékként szolgál egy szöveges eredményhez; a Meta példái képből és kiinduló promptból generálnak szöveget.
A Vision család előtanítása hatmilliárd kép-szöveg párt használ. Az utasításokra hangolás nyilvános képi utasításadatkészleteket és több mint hárommillió szintetikus példát kombinál. Az előtanítás határdátuma 2023. december, a kiadás pedig offline adatkészleten tanított statikus modell. A Meta felelős működést célzó munkája biztonsági finomhangolást, adverszárius tesztelést és rendszerszintű védelmeket tartalmaz. Megadott korlátai közé tartoznak a pontatlan vagy elfogult válaszok és az értékelés lefedettsége, amely nem foghat át minden telepítési helyzetet. Ellenőrizze az eredményül kapott leírásokat a látható anyag alapján, és különítse el a megfigyeléseket az értelmezéstől.
POST /v1/chat/completionstexttext| Mező | Típus | Követelmény | Értékek és korlátok | Alapértelmezett |
|---|---|---|---|---|
Mezőmodel | Típusstring | KövetelményKötelező | Értékek és korlátok llama3.2-11b | Alapértelmezett— |
Mezőmessages | Típusmessage[] | KövetelményKötelező | Értékek és korlátok Minimális elemszám: 1 | Alapértelmezett— |
Mezőmessages[].role | Típusstring | KövetelményKötelező | Értékek és korlátok Példák: system, user, assistant, tool, function Feltételek: Ezeket a szerepeket a forráskód kompatibilitási típusai kifejezetten reprezentálják; a pontos szerepkészlet továbbra is modellspecifikus. Modelltől függ | Alapértelmezett— |
Mezőmessages[].content | Típusstring|content_part[]|null | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőmessages[].tool_calls | Típustool_call[] | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőmessages[].tool_call_id | Típusstring | KövetelményOpcionális | Értékek és korlátok Akkor alkalmazandó, ha: role=tool; használja a ténylegesen visszaadott ID-t | Alapértelmezett— |
Mezőmessages[].name | Típusstring | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőmessages[].reasoning_content | Típusstring | KövetelményOpcionális | Értékek és korlátok Akkor alkalmazandó, ha: Küldje vissza a ténylegesen visszaadott gondolkodási tartalmat, ha ez a modell használja | Alapértelmezett— |
Mezőmessages[].reasoning_details | Típusobject|array | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőmax_tokens | Típusinteger | KövetelményOpcionális | Értékek és korlátok Minimum: 1 Modelltől függ | Alapértelmezett— |
Mezőmax_completion_tokens | Típusinteger | KövetelményOpcionális | Értékek és korlátok Minimum: 1 Modelltől függ | Alapértelmezett— |
Mezőstream | Típusboolean | KövetelményOpcionális | Értékek és korlátok | Alapértelmezettfalse |
Mezőstream_options.include_usage | Típusboolean | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőtemperature | Típusnumber | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőtop_p | Típusnumber | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőstop | Típusstring|string[] | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőtools | Típusfunction_tool[] | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőtools[].type | Típusstring | KövetelményOpcionális | Értékek és korlátok function Modelltől függ | Alapértelmezett— |
Mezőtools[].function.name | Típusstring | KövetelményKötelező | Értékek és korlátok Akkor alkalmazandó, ha: Függvényeszköz megadva | Alapértelmezett— |
Mezőtools[].function.description | Típusstring | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőtools[].function.parameters | TípusJSON_schema | KövetelményOpcionális | Értékek és korlátok | Alapértelmezett— |
Mezőtool_choice | Típusstring|object | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőparallel_tool_calls | Típusboolean | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőresponse_format | Típusobject | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőreasoning_effort | Típusstring | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőreasoning | Típusobject | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőservice_tier | Típusstring | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőinstructions | Típusstring | KövetelményOpcionális | Értékek és korlátok Kompatibilitási mező | Alapértelmezett— |
Mezőfunctions | Típusfunction[] | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőfunction_call | Típusstring|object | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőprompt_cache_options | Típusobject | KövetelményOpcionális | Értékek és korlátok Modelltől függ | Alapértelmezett— |
Mezőmodalities | Típusstring[] | KövetelményOpcionális | Értékek és korlátok text | Alapértelmezett— |
Mezőprovider | Típusobject | KövetelményOpcionális | Értékek és korlátok Feltételek: A provider.options elutasításra kerül ezen az Ultra szöveges útvonalon | Alapértelmezett— |
Mezőcache_control.ttl | Típusstring | KövetelményOpcionális | Értékek és korlátok Feltételek: Az 1h elutasításra kerül a tényleges prompt-gyorsítótárazási helyeken | Alapértelmezett— |
Szöveg · UTF8 szöveg
messages[].content
| Paraméter | Szerződés |
|---|---|
Paramétercontent_type | Szerződésapplication/json |
Paraméterrequired | Szerződésmodel, messages |
Paramétermaterial_types | Szerződéstext |
Paramétermessages | Szerződésüzenettömb role/content szerkezettel |
Paraméterfile_material | Szerződésa tényleges UTF-8 dokumentum szó szerinti szövegként beillesztve; nincs kikövetkeztetett fájlazonosító |
Paraméteroptional_controls | Szerződésstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Paramétercontrol_scope | Szerződésmodellspecifikus; a felhasználói függvényeszközök eltérnek a hosztolt eszközöktől |
Paraméteroutput_modalities | Szerződéstext |
Paraméterhosted_operations | Szerződésfalse |
Paramétermultimodal_input_binding | Szerződésnull |
Életciklus: synchronous_or_streamed
Küldje el a pontos modellazonosítót a messages mellett.
A kontextushossz nem kimeneti felső korlát.
Egy szövegfájl szó szerinti szöveget adhat meg; a kép-/hang-/fájlobjektum-bemenetek pontos hozzárendelést igényelnek.
A díjszabás nem ad új kérési lehetőségeket. A támogatott paraméterek a kiválasztott módszernél szerepelnek.
| Beállítás | Díjtáblázat | Díj |
|---|---|---|
| BeállításTokenenkénti alapárak | DíjtáblázatAlapdíj | Díj Bemenet · Bemeneti tokenek $0.001 / 1K token Kimenet · Kimeneti tokenek $0.001 / 1K token Bemenet · Gyorsítótár olvasása $0 / 1K token Bemenet · Írás a gyorsítótárba $0 / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
Az Ailoot a kérés előtt becsült összeget foglal le. Az eredmény után a mért használat alapján elszámolja a végső díjat. Folyamatos átvitel esetén a végső használati rekordot használja. A foglalás és az elszámolás működése →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "llama3.2-11b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='llama3.2-11b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='llama3.2-11b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson vagy SSE
Őrizzen meg minden teljes visszaadott választ, fájlt és tartalomrészt.
Őrizze meg az összes válaszváltozatot és azok tartalmát/eszközhívásait/gondolkodási tartalmát. SSE esetén válaszváltozat- és eszközindex szerint állítsa össze a részleges frissítéseket, és tartsa meg a végső befejezési okot és a használati adatokat.
Őrizze meg a kérés-/válaszazonosítókat és a fejléceket. Nincs megadva általános URL a szöveges feladatok lekéréséhez.
| Mező | Típus |
|---|---|
Mezőchoices[].index | Típusinteger |
Mezőchoices[].message.content | Típusstring|null |
Mezőchoices[].message.tool_calls | Típustool_call[] |
Mezőchoices[].message.reasoning_content | Típusstring |
Mezőchoices[].message.reasoning_details | Típusobject|array |
Mezőchoices[].finish_reason | Típusstring|null |
Mezőusage | Típusobject |
| Válasz | Feltétel | Következő lépés |
|---|---|---|
Válasz400 · invalid_request_error | FeltételÉrvénytelen kötelező mezők, az anyag érvénytelen reprezentációja vagy érvénytelen paraméterérték | Következő lépésJavítsa a jelzett mezőket egy új létrehozási kérés előtt. |
Ailoot Ultra llama3.2-11b
Használja a fent látható metódusútvonalakat.
llama3.2-11bA Meta kisebb Llama 3.2 Vision kiadása képi-szöveges promptokból leírásokat, dokumentumokkal kapcsolatos válaszokat és vizuális magyarázatokat készít. Kontextusablaka 128 ezer tokenes, külön előtanított és utasításokra finomhangolt kiadásokkal.
Ez a leírás a modell képességeit ismerteti. Az Ailootban elérhető bemenetek, kimenetek és lehetőségek alább, a kiválasztott metódusnál láthatók.
A Llama 3.2 11B Vision a Meta kisebb multimodális tagja a Llama 3.2 Vision gyűjteményben. A modell Llama 3.1 nyelvi alaparchitektúrát egyesít egy külön tanított képi adapterrel. A keresztfigyelem a képkódoló reprezentációit az autoregresszív szöveges modellhez kapcsolja, így a válasz a vizuális bizonyítékot az írásos feladattal együtt használhatja. A Meta konfigurációs táblázatában a 11B méretosztály 10,6 milliárd paraméterrel rendelkezik, és csoportosított lekérdezéses figyelmet használ.
Bemenete szövegből és képekből áll; kimenete szöveg, 128 ezer tokenes kontextushosszal. Kizárólag szöveges feladatokhoz az angol, német, francia, olasz, portugál, hindi, spanyol és thai hivatalosan támogatott. A képi-szöveges alkalmazások hivatalosan angolul támogatottak. Egy többnyelvű szöveges beszélgetés és egy képpel kapcsolatos kérdés dokumentált nyelvi köre tehát eltérő.
Az előtanított és az utasításokra finomhangolt kiadások különböző célokat szolgálnak. Az előtanított kiadás alapot ad a képi következtetéshez való adaptáláshoz. Az utasításokra finomhangolt kiadás felügyelt finomhangolást és emberi visszajelzéses megerősítéses tanulást használ a vizuális felismerés, a képi következtetés, a képaláírás és a képekkel folytatott beszélgetés támogatására. A 11B címke ezt a méretágat azonosítja; nem helyettesíti a hangolási kiadás kiválasztását.
A tervezett vizuális alkalmazások közé tartozik a fényképekkel kapcsolatos kérdések megválaszolása, egy dokumentum szövegének és elrendezésének értelmezése, képaláírások írása, képek leírásokkal való párosítása, valamint a nyelvi hivatkozások tárgyakhoz vagy területekhez kötése. Egy dokumentumasszisztens szakaszonként magyarázhat el egy űrlapot, összekapcsolhat egy táblázatot a címsorával, vagy válaszolhat a látható oldallal kapcsolatos kérdésre. Egy termékes munkafolyamat leírhatja a fényképen szereplő tárgyakat és kapcsolatokat. Vizuális hivatkozásfeloldáshoz nevezze meg a kérdésben a tárgyat vagy területet, és kérjen a megadott képhez kötött magyarázatot. Kép-szöveg párosításnál hasonlítsa össze a látható tartalmat a lehetséges leírásokkal.
Ailoot API-feladathoz párosítsa a képet konkrét utasítással, és válassza ki a szükséges szöveges eredményt: képaláírást, megfigyelésekkel ellátott választ, kinyert részletek listáját vagy magyarázatot. Adja meg, mely képrészlet fontos, és a válasz finomításakor őrizze meg annak kapcsolatát a kérdéssel. A kép bizonyítékként szolgál egy szöveges eredményhez; a Meta példái képből és kiinduló promptból generálnak szöveget.
A Vision család előtanítása hatmilliárd kép-szöveg párt használ. Az utasításokra hangolás nyilvános képi utasításadatkészleteket és több mint hárommillió szintetikus példát kombinál. Az előtanítás határdátuma 2023. december, a kiadás pedig offline adatkészleten tanított statikus modell. A Meta felelős működést célzó munkája biztonsági finomhangolást, adverszárius tesztelést és rendszerszintű védelmeket tartalmaz. Megadott korlátai közé tartoznak a pontatlan vagy elfogult válaszok és az értékelés lefedettsége, amely nem foghat át minden telepítési helyzetet. Ellenőrizze az eredményül kapott leírásokat a látható anyag alapján, és különítse el a megfigyeléseket az értelmezéstől.
POST /v1/messagestextjson, sse| Mező | Típus | Követelmény | Értékek és korlátok | Alapértelmezett |
|---|---|---|---|---|
Mezőmodel | Típusstring | KövetelményKötelező | Értékek és korlátok llama3.2-11b | Alapértelmezett— |
Mezőmessages | Típusmessage[] | KövetelményKötelező | Értékek és korlátok | Alapértelmezett— |
Mezőmessages[].role | Típusstring | KövetelményKötelező | Értékek és korlátok user, assistant | Alapértelmezett— |
Mezőmessages[].content | Típusstring | KövetelményKötelező | Értékek és korlátok | Alapértelmezett— |
Mezőmax_tokens | Típusinteger | KövetelményKötelező | Értékek és korlátok | Alapértelmezett— |
Mezőstream | Típusboolean | KövetelményOpcionális | Értékek és korlátok | Alapértelmezettfalse |
Szöveg · UTF-8 szöveg
messages[].content karakterlánc
| Paraméter | Szerződés |
|---|---|
Paramétercontent_type | Szerződésapplication/json |
Paraméterrequired | Szerződésmodel, messages, max_tokens |
Paraméteroptional_controls | Szerződésstream |
Paramétermaterial_types | Szerződéstext |
Paramétertext_file_material | SzerződésOlvassa el a tényleges UTF-8 dokumentumot, és tegye a szövegét a jelzett bemeneti karakterláncba vagy az üzenettartalom karakterláncába. |
Életciklus: synchronous_or_streamed
A díjszabás nem ad új kérési lehetőségeket. A támogatott paraméterek a kiválasztott módszernél szerepelnek.
| Beállítás | Díjtáblázat | Díj |
|---|---|---|
| BeállításTokenenkénti alapárak | DíjtáblázatAlapdíj | Díj Bemenet · Bemeneti tokenek $0.001 / 1K token Kimenet · Kimeneti tokenek $0.001 / 1K token Bemenet · Gyorsítótár olvasása $0 / 1K token Bemenet · Írás a gyorsítótárba $0 / 1K token Bemenet · Írás a gyorsítótárba, 1 óra — / 1K token |
Az Ailoot a kérés előtt becsült összeget foglal le. Az eredmény után a mért használat alapján elszámolja a végső díjat. Folyamatos átvitel esetén a végső használati rekordot használja. A foglalás és az elszámolás működése →
{\n "model": "llama3.2-11b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'llama3.2-11b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'llama3.2-11b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON vagy SSE
Őrizzen meg minden teljes visszaadott választ, fájlt és tartalomrészt.
Őrizze meg az összes tartalomblokkot, a gondolkodási tartalom aláírásait és a tényleges eszközhasználati ID-kat. Állítsa össze az összes SSE-blokk részleges frissítését; az első szövegblokk nem a teljes kimenet.
Őrizze meg a kérés-/válaszazonosítókat és a fejléceket. Nincs megadva általános URL a szöveges feladatok lekéréséhez.
| Mező | Típus |
|---|---|
Mezőid | Típusstring |
Mezőmodel | Típusstring |
Mezőcontent[] | Típustext|thinking|tool_use|other content block |
Mezőstop_reason | Típusstring|null |
Mezőusage | Típusobject |
| Válasz | Feltétel | Következő lépés |
|---|---|---|
Válasz400 · invalid_request_error | FeltételÉrvénytelen kötelező mezők, az anyag érvénytelen reprezentációja vagy érvénytelen paraméterérték | Következő lépésJavítsa a jelzett mezőket egy új létrehozási kérés előtt. |
Ailoot Ultra llama3.2-11b
Használja a fent látható metódusútvonalakat.
Technikai példa angolul
Match descriptions to a transcribed product view\n\nUse this text description of a product view: one blue mug with a handle, no lid, standing beside a silver spoon. Candidate captions: A, blue lidded travel cup; B, blue handled mug beside a spoon; C, two blue bowls. Select the caption supported by the description and explain each mismatch in the alternatives.One selected caption and a brief evidence comparison for all three candidates.Check that no unmentioned lid or second vessel is added and that the choice uses the supplied text only.