Llama 3.2 11B Vision er Metas mindre multimodale medlem av Llama 3.2 Vision-samlingen. Modellen kombinerer en Llama 3.1-språkgrunnstruktur med en separat trent synsadapter. Kryssoppmerksomhet kobler representasjoner fra bildekoderen til den autoregressive tekstmodellen, slik at svaret kan bruke visuelt kildegrunnlag sammen med den skriftlige oppgaven. Størrelsesklassen 11B har 10.6 milliarder parametere i Metas konfigurasjonstabell og bruker grouped-query attention.
Inndataene består av tekst og bilder; utdataene er tekst, med en kontekstlengde på 128K tokener. Engelsk, tysk, fransk, italiensk, portugisisk, hindi, spansk og thai støttes offisielt for oppgaver med bare tekst. Applikasjoner med bilde og tekst støttes offisielt på engelsk. En flerspråklig tekstsamtale og et spørsmål om et bilde har derfor forskjellige dokumenterte språkomfang.
De forhåndstrente og instruksjonsjusterte utgavene har forskjellige formål. Den forhåndstrente utgaven gir et grunnlag for tilpasning til resonnering over bilder. Den instruksjonsjusterte utgaven bruker veiledet finjustering og forsterkningslæring med menneskelig tilbakemelding for å støtte visuell gjenkjenning, resonnering over bilder, bildetekster og samtaler med bilder. Etiketten 11B identifiserer denne størrelsesgrenen; den erstatter ikke valget av justeringsutgave.
De tiltenkte visuelle bruksområdene omfatter å besvare spørsmål om fotografier, forstå tekst og layout i et dokument, skrive bildetekster, koble bilder til beskrivelser og forankre språk i objekter eller områder. En dokumentassistent kan forklare et skjema del for del, knytte en tabell til overskriften eller besvare et spørsmål om den synlige siden. En produktarbeidsflyt kan beskrive objektene og relasjonene i et fotografi. For visuell forankring navngir du objektet eller området i spørsmålet og ber om en forklaring knyttet til det vedlagte bildet. For sammenkobling av bilde og tekst sammenligner du det synlige innholdet med mulige beskrivelser.
For en Ailoot API-oppgave kobler du bildet til en spesifikk instruksjon og velger tekstartefaktet du trenger: en bildetekst, et svar med observasjoner, en liste over uttrukne detaljer eller en forklaring. Angi hvilken del av bildet som er viktig, og bevar forbindelsen til spørsmålet når du forbedrer svaret. Bildet fungerer som kildegrunnlag for et tekstresultat; Metas eksempler genererer tekst fra et bilde og en innledende ledetekst.
Vision-familiens forhåndstrening bruker seks milliarder bilde- og tekstpar. Instruksjonsjusteringen kombinerer offentlige datasett med synsinstruksjoner og mer enn tre millioner syntetiske eksempler. Skjæringsdatoen for forhåndstreningen er desember 2023, og utgaven er en statisk modell trent på et frakoblet datasett. Metas ansvarlighetsarbeid omfatter sikkerhetsfinjustering, adversariell testing og sikringer på systemnivå. De oppgitte begrensningene omfatter unøyaktige eller skjeve svar og en evalueringsdekning som ikke kan omfatte alle utrullingsscenarier. Kontroller de resulterende beskrivelsene mot det synlige materialet og hold observasjoner atskilt fra tolkning.
", "aboutText": "Llama 3.2 11B Vision er Metas mindre multimodale medlem av Llama 3.2 Vision-samlingen. Modellen kombinerer en Llama 3.1-språkgrunnstruktur med en separat trent synsadapter. Kryssoppmerksomhet kobler representasjoner fra bildekoderen til den autoregressive tekstmodellen, slik at svaret kan bruke visuelt kildegrunnlag sammen med den skriftlige oppgaven. Størrelsesklassen 11B har 10.6 milliarder parametere i Metas konfigurasjonstabell og bruker grouped-query attention.\n\nInndataene består av tekst og bilder; utdataene er tekst, med en kontekstlengde på 128K tokener. Engelsk, tysk, fransk, italiensk, portugisisk, hindi, spansk og thai støttes offisielt for oppgaver med bare tekst. Applikasjoner med bilde og tekst støttes offisielt på engelsk. En flerspråklig tekstsamtale og et spørsmål om et bilde har derfor forskjellige dokumenterte språkomfang.\n\nDe forhåndstrente og instruksjonsjusterte utgavene har forskjellige formål. Den forhåndstrente utgaven gir et grunnlag for tilpasning til resonnering over bilder. Den instruksjonsjusterte utgaven bruker veiledet finjustering og forsterkningslæring med menneskelig tilbakemelding for å støtte visuell gjenkjenning, resonnering over bilder, bildetekster og samtaler med bilder. Etiketten 11B identifiserer denne størrelsesgrenen; den erstatter ikke valget av justeringsutgave.\n\nDe tiltenkte visuelle bruksområdene omfatter å besvare spørsmål om fotografier, forstå tekst og layout i et dokument, skrive bildetekster, koble bilder til beskrivelser og forankre språk i objekter eller områder. En dokumentassistent kan forklare et skjema del for del, knytte en tabell til overskriften eller besvare et spørsmål om den synlige siden. En produktarbeidsflyt kan beskrive objektene og relasjonene i et fotografi. For visuell forankring navngir du objektet eller området i spørsmålet og ber om en forklaring knyttet til det vedlagte bildet. For sammenkobling av bilde og tekst sammenligner du det synlige innholdet med mulige beskrivelser.\n\nFor en Ailoot API-oppgave kobler du bildet til en spesifikk instruksjon og velger tekstartefaktet du trenger: en bildetekst, et svar med observasjoner, en liste over uttrukne detaljer eller en forklaring. Angi hvilken del av bildet som er viktig, og bevar forbindelsen til spørsmålet når du forbedrer svaret. Bildet fungerer som kildegrunnlag for et tekstresultat; Metas eksempler genererer tekst fra et bilde og en innledende ledetekst.\n\nVision-familiens forhåndstrening bruker seks milliarder bilde- og tekstpar. Instruksjonsjusteringen kombinerer offentlige datasett med synsinstruksjoner og mer enn tre millioner syntetiske eksempler. Skjæringsdatoen for forhåndstreningen er desember 2023, og utgaven er en statisk modell trent på et frakoblet datasett. Metas ansvarlighetsarbeid omfatter sikkerhetsfinjustering, adversariell testing og sikringer på systemnivå. De oppgitte begrensningene omfatter unøyaktige eller skjeve svar og en evalueringsdekning som ikke kan omfatte alle utrullingsscenarier. Kontroller de resulterende beskrivelsene mot det synlige materialet og hold observasjoner atskilt fra tolkning.", "editorialOverlay": { "copy_fields": { "practical_html": "Teknisk eksempel på engelsk
Match descriptions to a transcribed product view\n\nUse this text description of a product view: one blue mug with a handle, no lid, standing beside a silver spoon. Candidate captions: A, blue lidded travel cup; B, blue handled mug beside a spoon; C, two blue bowls. Select the caption supported by the description and explain each mismatch in the alternatives.One selected caption and a brief evidence comparison for all three candidates.Check that no unmentioned lid or second vessel is added and that the choice uses the supplied text only.llama3.2-11bMetas mindre Llama 3.2 Vision-utgave gjør ledetekster med bilde og tekst om til beskrivelser, dokumentsvar og visuelle forklaringer. Den har et kontekstvindu på 128K, med separate forhåndstrente og instruksjonsjusterte utgaver.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Llama 3.2 11B Vision er Metas mindre multimodale medlem av Llama 3.2 Vision-samlingen. Modellen kombinerer en Llama 3.1-språkgrunnstruktur med en separat trent synsadapter. Kryssoppmerksomhet kobler representasjoner fra bildekoderen til den autoregressive tekstmodellen, slik at svaret kan bruke visuelt kildegrunnlag sammen med den skriftlige oppgaven. Størrelsesklassen 11B har 10.6 milliarder parametere i Metas konfigurasjonstabell og bruker grouped-query attention.
Inndataene består av tekst og bilder; utdataene er tekst, med en kontekstlengde på 128K tokener. Engelsk, tysk, fransk, italiensk, portugisisk, hindi, spansk og thai støttes offisielt for oppgaver med bare tekst. Applikasjoner med bilde og tekst støttes offisielt på engelsk. En flerspråklig tekstsamtale og et spørsmål om et bilde har derfor forskjellige dokumenterte språkomfang.
De forhåndstrente og instruksjonsjusterte utgavene har forskjellige formål. Den forhåndstrente utgaven gir et grunnlag for tilpasning til resonnering over bilder. Den instruksjonsjusterte utgaven bruker veiledet finjustering og forsterkningslæring med menneskelig tilbakemelding for å støtte visuell gjenkjenning, resonnering over bilder, bildetekster og samtaler med bilder. Etiketten 11B identifiserer denne størrelsesgrenen; den erstatter ikke valget av justeringsutgave.
De tiltenkte visuelle bruksområdene omfatter å besvare spørsmål om fotografier, forstå tekst og layout i et dokument, skrive bildetekster, koble bilder til beskrivelser og forankre språk i objekter eller områder. En dokumentassistent kan forklare et skjema del for del, knytte en tabell til overskriften eller besvare et spørsmål om den synlige siden. En produktarbeidsflyt kan beskrive objektene og relasjonene i et fotografi. For visuell forankring navngir du objektet eller området i spørsmålet og ber om en forklaring knyttet til det vedlagte bildet. For sammenkobling av bilde og tekst sammenligner du det synlige innholdet med mulige beskrivelser.
For en Ailoot API-oppgave kobler du bildet til en spesifikk instruksjon og velger tekstartefaktet du trenger: en bildetekst, et svar med observasjoner, en liste over uttrukne detaljer eller en forklaring. Angi hvilken del av bildet som er viktig, og bevar forbindelsen til spørsmålet når du forbedrer svaret. Bildet fungerer som kildegrunnlag for et tekstresultat; Metas eksempler genererer tekst fra et bilde og en innledende ledetekst.
Vision-familiens forhåndstrening bruker seks milliarder bilde- og tekstpar. Instruksjonsjusteringen kombinerer offentlige datasett med synsinstruksjoner og mer enn tre millioner syntetiske eksempler. Skjæringsdatoen for forhåndstreningen er desember 2023, og utgaven er en statisk modell trent på et frakoblet datasett. Metas ansvarlighetsarbeid omfatter sikkerhetsfinjustering, adversariell testing og sikringer på systemnivå. De oppgitte begrensningene omfatter unøyaktige eller skjeve svar og en evalueringsdekning som ikke kan omfatte alle utrullingsscenarier. Kontroller de resulterende beskrivelsene mot det synlige materialet og hold observasjoner atskilt fra tolkning.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser llama3.2-11b | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser Minste antall elementer: 1 | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser Eksempler: system, user, assistant, tool, function Vilkår: Disse rollene representeres eksplisitt av kompatibilitetstyper i kildekoden; det eksakte rollesettet for modellen er fortsatt modellspesifikt. Avhenger av modellen | Standard— |
Feltmessages[].content | Typestring|content_part[]|null | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_calls | Typetool_call[] | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].tool_call_id | Typestring | KravValgfritt | Verdier & grenser Gjelder når: role=tool; bruk faktisk returnert ID | Standard— |
Feltmessages[].name | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Feltmessages[].reasoning_content | Typestring | KravValgfritt | Verdier & grenser Gjelder når: Send den faktisk returnerte resonneringen tilbake der denne modellen bruker den | Standard— |
Feltmessages[].reasoning_details | Typeobject|array | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmax_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfritt | Verdier & grenser Minimum: 1 Avhenger av modellen | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Feltstream_options.include_usage | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttemperature | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttop_p | Typenumber | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltstop | Typestring|string[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools | Typefunction_tool[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Felttools[].type | Typestring | KravValgfritt | Verdier & grenser function Avhenger av modellen | Standard— |
Felttools[].function.name | Typestring | KravPåkrevd | Verdier & grenser Gjelder når: funksjonsverktøy oppgitt | Standard— |
Felttools[].function.description | Typestring | KravValgfritt | Verdier & grenser | Standard— |
Felttools[].function.parameters | TypeJSON_schema | KravValgfritt | Verdier & grenser | Standard— |
Felttool_choice | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltparallel_tool_calls | Typeboolean | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltresponse_format | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning_effort | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltreasoning | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltservice_tier | Typestring | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltinstructions | Typestring | KravValgfritt | Verdier & grenser Kompatibilitetsfelt | Standard— |
Feltfunctions | Typefunction[] | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltfunction_call | Typestring|object | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltprompt_cache_options | Typeobject | KravValgfritt | Verdier & grenser Avhenger av modellen | Standard— |
Feltmodalities | Typestring[] | KravValgfritt | Verdier & grenser text | Standard— |
Feltprovider | Typeobject | KravValgfritt | Verdier & grenser Vilkår: provider.options avvises på denne Ultra-tekstruten | Standard— |
Feltcache_control.ttl | Typestring | KravValgfritt | Verdier & grenser Vilkår: 1h avvises på faktiske steder for mellomlagring av ledetekster | Standard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages |
Parametermaterial_types | Avtaletext |
Parametermessages | Avtalemeldingstabell med role/content-struktur |
Parameterfile_material | Avtalefaktisk UTF-8-dokument satt inn som bokstavelig tekst; ingen fil-ID utledes |
Parameteroptional_controls | Avtalestream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Avtalemodellspesifikt; brukerens funksjonsverktøy skiller seg fra driftede verktøy |
Parameteroutput_modalities | Avtaletext |
Parameterhosted_operations | Avtalefalse |
Parametermultimodal_input_binding | Avtalenull |
Livssyklus: synchronous_or_streamed
Send eksakt modell-ID sammen med messages.
Kontekstlengde er ikke en outputgrense.
En tekstfil kan levere bokstavelig tekst; bilde-, lyd- og filobjektinput trenger eksakt binding.
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
| Konfigurasjon | Prisplan | Kostnad |
|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Kostnad Inndata · Inngående tokener $0.001 / 1K tokener Utdata · Utgående tokener $0.001 / 1K tokener Inndata · Lesing fra hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "llama3.2-11b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='llama3.2-11b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='llama3.2-11b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold hvert svaralternativ med innhold, verktøykall og resonnering. Sett sammen endringer i SSE etter svaralternativets/verktøyets indeks, og behold endelig avslutningsgrunn og bruksdata.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltchoices[].index | Typeinteger |
Feltchoices[].message.content | Typestring|null |
Feltchoices[].message.tool_calls | Typetool_call[] |
Feltchoices[].message.reasoning_content | Typestring |
Feltchoices[].message.reasoning_details | Typeobject|array |
Feltchoices[].finish_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra llama3.2-11b
Bruk metodestiene som vises ovenfor.
llama3.2-11bMetas mindre Llama 3.2 Vision-utgave gjør ledetekster med bilde og tekst om til beskrivelser, dokumentsvar og visuelle forklaringer. Den har et kontekstvindu på 128K, med separate forhåndstrente og instruksjonsjusterte utgaver.
Denne beskrivelsen dekker modellens funksjoner. Tilgjengelige inndata, utdata og alternativer i Ailoot er oppført nedenfor for den valgte metoden.
Llama 3.2 11B Vision er Metas mindre multimodale medlem av Llama 3.2 Vision-samlingen. Modellen kombinerer en Llama 3.1-språkgrunnstruktur med en separat trent synsadapter. Kryssoppmerksomhet kobler representasjoner fra bildekoderen til den autoregressive tekstmodellen, slik at svaret kan bruke visuelt kildegrunnlag sammen med den skriftlige oppgaven. Størrelsesklassen 11B har 10.6 milliarder parametere i Metas konfigurasjonstabell og bruker grouped-query attention.
Inndataene består av tekst og bilder; utdataene er tekst, med en kontekstlengde på 128K tokener. Engelsk, tysk, fransk, italiensk, portugisisk, hindi, spansk og thai støttes offisielt for oppgaver med bare tekst. Applikasjoner med bilde og tekst støttes offisielt på engelsk. En flerspråklig tekstsamtale og et spørsmål om et bilde har derfor forskjellige dokumenterte språkomfang.
De forhåndstrente og instruksjonsjusterte utgavene har forskjellige formål. Den forhåndstrente utgaven gir et grunnlag for tilpasning til resonnering over bilder. Den instruksjonsjusterte utgaven bruker veiledet finjustering og forsterkningslæring med menneskelig tilbakemelding for å støtte visuell gjenkjenning, resonnering over bilder, bildetekster og samtaler med bilder. Etiketten 11B identifiserer denne størrelsesgrenen; den erstatter ikke valget av justeringsutgave.
De tiltenkte visuelle bruksområdene omfatter å besvare spørsmål om fotografier, forstå tekst og layout i et dokument, skrive bildetekster, koble bilder til beskrivelser og forankre språk i objekter eller områder. En dokumentassistent kan forklare et skjema del for del, knytte en tabell til overskriften eller besvare et spørsmål om den synlige siden. En produktarbeidsflyt kan beskrive objektene og relasjonene i et fotografi. For visuell forankring navngir du objektet eller området i spørsmålet og ber om en forklaring knyttet til det vedlagte bildet. For sammenkobling av bilde og tekst sammenligner du det synlige innholdet med mulige beskrivelser.
For en Ailoot API-oppgave kobler du bildet til en spesifikk instruksjon og velger tekstartefaktet du trenger: en bildetekst, et svar med observasjoner, en liste over uttrukne detaljer eller en forklaring. Angi hvilken del av bildet som er viktig, og bevar forbindelsen til spørsmålet når du forbedrer svaret. Bildet fungerer som kildegrunnlag for et tekstresultat; Metas eksempler genererer tekst fra et bilde og en innledende ledetekst.
Vision-familiens forhåndstrening bruker seks milliarder bilde- og tekstpar. Instruksjonsjusteringen kombinerer offentlige datasett med synsinstruksjoner og mer enn tre millioner syntetiske eksempler. Skjæringsdatoen for forhåndstreningen er desember 2023, og utgaven er en statisk modell trent på et frakoblet datasett. Metas ansvarlighetsarbeid omfatter sikkerhetsfinjustering, adversariell testing og sikringer på systemnivå. De oppgitte begrensningene omfatter unøyaktige eller skjeve svar og en evalueringsdekning som ikke kan omfatte alle utrullingsscenarier. Kontroller de resulterende beskrivelsene mot det synlige materialet og hold observasjoner atskilt fra tolkning.
POST /v1/messagestextjson, sse| Felt | Type | Krav | Verdier & grenser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrevd | Verdier & grenser llama3.2-11b | Standard— |
Feltmessages | Typemessage[] | KravPåkrevd | Verdier & grenser | Standard— |
Feltmessages[].role | Typestring | KravPåkrevd | Verdier & grenser user, assistant | Standard— |
Feltmessages[].content | Typestring | KravPåkrevd | Verdier & grenser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrevd | Verdier & grenser | Standard— |
Feltstream | Typeboolean | KravValgfritt | Verdier & grenser | Standardfalse |
Tekst · UTF-8-tekst
messages[].content-streng
| Parameter | Avtale |
|---|---|
Parametercontent_type | Avtaleapplication/json |
Parameterrequired | Avtalemodel, messages, max_tokens |
Parameteroptional_controls | Avtalestream |
Parametermaterial_types | Avtaletext |
Parametertext_file_material | AvtaleLes det faktiske UTF-8-dokumentet og legg teksten i den angitte input- eller meldingsinnholdsstrengen. |
Livssyklus: synchronous_or_streamed
Tariffopplysninger legger ikke til forespørselsvalg. Støttede parametere står ved den valgte metoden.
| Konfigurasjon | Prisplan | Kostnad |
|---|---|---|
| KonfigurasjonGrunnpriser for tokener | PrisplanGrunnsats | Kostnad Inndata · Inngående tokener $0.001 / 1K tokener Utdata · Utgående tokener $0.001 / 1K tokener Inndata · Lesing fra hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer $0 / 1K tokener Inndata · Skriving til hurtigbuffer, 1 time — / 1K tokener |
Ailoot reserverer et estimert beløp før en forespørsel. Etter resultatet gjøres det endelige beløpet opp basert på målt forbruk. Oppgjør for strømming bruker den endelige forbruksposten. Slik fungerer reservasjon og oppgjør →
{\n "model": "llama3.2-11b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'llama3.2-11b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'llama3.2-11b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON eller SSE
Behold alle fullstendige returnerte svar, filer og innholdsdeler.
Behold alle innholdsblokker, resonneringssignaturer og faktiske ID-er for verktøybruk. Sett sammen alle SSE-blokkendringer; den første tekstblokken er ikke hele resultatet.
Behold forespørsels-/svar-ID-er og headere. Ingen generell URL for henting av tekstjobber oppgis.
| Felt | Type |
|---|---|
Feltid | Typestring |
Feltmodel | Typestring |
Feltcontent[] | Typetext|thinking|tool_use|other content block |
Feltstop_reason | Typestring|null |
Feltusage | Typeobject |
| Svar | Vilkår | Neste trinn |
|---|---|---|
Svar400 · invalid_request_error | VilkårUgyldige påkrevde felter, materialrepresentasjon eller parameterverdi | Neste trinnKorriger de angitte feltene før en ny opprettelsesforespørsel. |
Ailoot Ultra llama3.2-11b
Bruk metodestiene som vises ovenfor.
Teknisk eksempel på engelsk
Match descriptions to a transcribed product view\n\nUse this text description of a product view: one blue mug with a handle, no lid, standing beside a silver spoon. Candidate captions: A, blue lidded travel cup; B, blue handled mug beside a spoon; C, two blue bowls. Select the caption supported by the description and explain each mismatch in the alternatives.One selected caption and a brief evidence comparison for all three candidates.Check that no unmentioned lid or second vessel is added and that the choice uses the supplied text only.