Llama 3.2 90B Vision is Meta’s grotere beeld- en tekstmodel in de Llama 3.2 Vision-collectie. Het combineert het autoregressieve taalmodel Llama 3.1 met een afzonderlijk getrainde vision-adapter. Cross-attention-lagen brengen representaties van een beeldencoder in het taalmodel, waardoor een tekstvraag samen met de zichtbare inhoud kan worden geïnterpreteerd. De aanduiding 90B identificeert de grootteklasse; Meta’s configuratietabel vermeldt 88,8 miljard parameters en grouped-query attention.
Het model accepteert tekst en afbeeldingen en produceert tekst, met een contextlengte van 128K tokens. Voor taken die uitsluitend tekst gebruiken, zijn de officieel ondersteunde talen Engels, Duits, Frans, Italiaans, Portugees, Hindi, Spaans en Thai. Toepassingen met afbeeldingen en tekst worden officieel in het Engels ondersteund. Dit onderscheid is van belang bij het voorbereiden van een documentassistent: de taal van een tekstgesprek en de taal waarin vragen over een afbeelding worden gesteld, zijn afzonderlijke keuzes.
Meta publiceert zowel voorgetrainde als op instructies afgestemde edities. Het voorgetrainde model is een basis die voor redeneertaken met afbeeldingen kan worden aangepast. De op instructies afgestemde editie voegt supervised fine-tuning en reinforcement learning met menselijke feedback toe voor visuele herkenning, redeneren over afbeeldingen, bijschriften en assistentachtige gesprekken met afbeeldingen. Het formaatlabel beschrijft de 90B-tak en houdt die afstemmingsedities van elkaar gescheiden.
De beoogde toepassingen omvatten visuele vraagbeantwoording, vragen over documentafbeeldingen, bijschriften, koppeling van afbeeldingen aan tekst en visual grounding. Vraag bij een documentpagina hoe een kop samenhangt met een tabel of welke zichtbare bepaling een specifieke vraag beantwoordt. Geef bij een grafiek de te vergelijken reeksen of labels aan en vraag om een uitleg die op die details steunt. Vraag bij een foto om een bijschrift dat de scène en zichtbare relaties benoemt. Visual grounding verbindt een formulering in de vraag met het relevante object of gebied; koppeltaken verbinden een afbeelding met een passende tekstbeschrijving.
Geef voor een Ailoot API-taak een duidelijke vraag samen met de afbeelding en definieer het gewenste tekstuele artefact: een beschrijving, een uitleg, een antwoord met ondersteunende waarnemingen of een lijst geëxtraheerde details. Houd het zichtbare bewijsmateriaal verbonden met de vraag, zodat latere herzieningen naar dezelfde pagina, hetzelfde diagram of dezelfde foto kunnen verwijzen. Meta’s modelvoorbeelden gebruiken een beeldprocessor en een initiële tekstprompt om tekst te genereren; de gepubliceerde uitvoermodaliteit blijft tekst.
De Vision-familie is voorgetraind op zes miljard beeld-tekstparen. Instructieafstemming omvat openbare vision-instructiedata en meer dan drie miljoen synthetische voorbeelden. Meta geeft december 2023 als kennisgrens voor de pretraining en beschrijft het model als een statische release die op een offline dataset is getraind. Het werk rond verantwoord gebruik omvat veiligheidsgerichte fine-tuning, adversariële evaluatie en afzonderlijke systeemwaarborgen. Maak bij een praktische review onderscheid tussen wat de afbeelding zichtbaar ondersteunt en een interpretatie van het model, en controleer beschrijvingen aan de hand van het aangeleverde materiaal. Meta merkt op dat antwoorden onjuist of bevooroordeeld kunnen zijn en dat de evaluaties niet elk toepassingsscenario dekken.
", "aboutText": "Llama 3.2 90B Vision is Meta’s grotere beeld- en tekstmodel in de Llama 3.2 Vision-collectie. Het combineert het autoregressieve taalmodel Llama 3.1 met een afzonderlijk getrainde vision-adapter. Cross-attention-lagen brengen representaties van een beeldencoder in het taalmodel, waardoor een tekstvraag samen met de zichtbare inhoud kan worden geïnterpreteerd. De aanduiding 90B identificeert de grootteklasse; Meta’s configuratietabel vermeldt 88,8 miljard parameters en grouped-query attention.\n\nHet model accepteert tekst en afbeeldingen en produceert tekst, met een contextlengte van 128K tokens. Voor taken die uitsluitend tekst gebruiken, zijn de officieel ondersteunde talen Engels, Duits, Frans, Italiaans, Portugees, Hindi, Spaans en Thai. Toepassingen met afbeeldingen en tekst worden officieel in het Engels ondersteund. Dit onderscheid is van belang bij het voorbereiden van een documentassistent: de taal van een tekstgesprek en de taal waarin vragen over een afbeelding worden gesteld, zijn afzonderlijke keuzes.\n\nMeta publiceert zowel voorgetrainde als op instructies afgestemde edities. Het voorgetrainde model is een basis die voor redeneertaken met afbeeldingen kan worden aangepast. De op instructies afgestemde editie voegt supervised fine-tuning en reinforcement learning met menselijke feedback toe voor visuele herkenning, redeneren over afbeeldingen, bijschriften en assistentachtige gesprekken met afbeeldingen. Het formaatlabel beschrijft de 90B-tak en houdt die afstemmingsedities van elkaar gescheiden.\n\nDe beoogde toepassingen omvatten visuele vraagbeantwoording, vragen over documentafbeeldingen, bijschriften, koppeling van afbeeldingen aan tekst en visual grounding. Vraag bij een documentpagina hoe een kop samenhangt met een tabel of welke zichtbare bepaling een specifieke vraag beantwoordt. Geef bij een grafiek de te vergelijken reeksen of labels aan en vraag om een uitleg die op die details steunt. Vraag bij een foto om een bijschrift dat de scène en zichtbare relaties benoemt. Visual grounding verbindt een formulering in de vraag met het relevante object of gebied; koppeltaken verbinden een afbeelding met een passende tekstbeschrijving.\n\nGeef voor een Ailoot API-taak een duidelijke vraag samen met de afbeelding en definieer het gewenste tekstuele artefact: een beschrijving, een uitleg, een antwoord met ondersteunende waarnemingen of een lijst geëxtraheerde details. Houd het zichtbare bewijsmateriaal verbonden met de vraag, zodat latere herzieningen naar dezelfde pagina, hetzelfde diagram of dezelfde foto kunnen verwijzen. Meta’s modelvoorbeelden gebruiken een beeldprocessor en een initiële tekstprompt om tekst te genereren; de gepubliceerde uitvoermodaliteit blijft tekst.\n\nDe Vision-familie is voorgetraind op zes miljard beeld-tekstparen. Instructieafstemming omvat openbare vision-instructiedata en meer dan drie miljoen synthetische voorbeelden. Meta geeft december 2023 als kennisgrens voor de pretraining en beschrijft het model als een statische release die op een offline dataset is getraind. Het werk rond verantwoord gebruik omvat veiligheidsgerichte fine-tuning, adversariële evaluatie en afzonderlijke systeemwaarborgen. Maak bij een praktische review onderscheid tussen wat de afbeelding zichtbaar ondersteunt en een interpretatie van het model, en controleer beschrijvingen aan de hand van het aangeleverde materiaal. Meta merkt op dat antwoorden onjuist of bevooroordeeld kunnen zijn en dat de evaluaties niet elk toepassingsscenario dekken.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisch voorbeeld in het Engels
Explain a chart from supplied values\n\nUse this text transcription of a bar chart: horizontal axis is quarter; vertical axis is returned units; Q1=12, Q2=18, Q3=9, Q4=15. Write a two-sentence caption identifying the largest and smallest bars and the change from Q2 to Q3. Do not infer sales totals or return rates.A two-sentence chart caption with the extrema and a nine-unit decrease from Q2 to Q3.The answer reports units rather than percentages and does not invent a denominator for return rates.llama3.2-90bLlama 3.2 90B Vision is Meta’s grotere beeld- en taalmodel voor het uitleggen van afbeeldingen, het beantwoorden van vragen over documentpagina’s en het verbinden van visuele details met een tekstprompt. Het formaat 90B heeft afzonderlijke voorgetrainde en op instructies afgestemde edities, met tekstuitvoer en een contextvenster van 128K.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Llama 3.2 90B Vision is Meta’s grotere beeld- en tekstmodel in de Llama 3.2 Vision-collectie. Het combineert het autoregressieve taalmodel Llama 3.1 met een afzonderlijk getrainde vision-adapter. Cross-attention-lagen brengen representaties van een beeldencoder in het taalmodel, waardoor een tekstvraag samen met de zichtbare inhoud kan worden geïnterpreteerd. De aanduiding 90B identificeert de grootteklasse; Meta’s configuratietabel vermeldt 88,8 miljard parameters en grouped-query attention.
Het model accepteert tekst en afbeeldingen en produceert tekst, met een contextlengte van 128K tokens. Voor taken die uitsluitend tekst gebruiken, zijn de officieel ondersteunde talen Engels, Duits, Frans, Italiaans, Portugees, Hindi, Spaans en Thai. Toepassingen met afbeeldingen en tekst worden officieel in het Engels ondersteund. Dit onderscheid is van belang bij het voorbereiden van een documentassistent: de taal van een tekstgesprek en de taal waarin vragen over een afbeelding worden gesteld, zijn afzonderlijke keuzes.
Meta publiceert zowel voorgetrainde als op instructies afgestemde edities. Het voorgetrainde model is een basis die voor redeneertaken met afbeeldingen kan worden aangepast. De op instructies afgestemde editie voegt supervised fine-tuning en reinforcement learning met menselijke feedback toe voor visuele herkenning, redeneren over afbeeldingen, bijschriften en assistentachtige gesprekken met afbeeldingen. Het formaatlabel beschrijft de 90B-tak en houdt die afstemmingsedities van elkaar gescheiden.
De beoogde toepassingen omvatten visuele vraagbeantwoording, vragen over documentafbeeldingen, bijschriften, koppeling van afbeeldingen aan tekst en visual grounding. Vraag bij een documentpagina hoe een kop samenhangt met een tabel of welke zichtbare bepaling een specifieke vraag beantwoordt. Geef bij een grafiek de te vergelijken reeksen of labels aan en vraag om een uitleg die op die details steunt. Vraag bij een foto om een bijschrift dat de scène en zichtbare relaties benoemt. Visual grounding verbindt een formulering in de vraag met het relevante object of gebied; koppeltaken verbinden een afbeelding met een passende tekstbeschrijving.
Geef voor een Ailoot API-taak een duidelijke vraag samen met de afbeelding en definieer het gewenste tekstuele artefact: een beschrijving, een uitleg, een antwoord met ondersteunende waarnemingen of een lijst geëxtraheerde details. Houd het zichtbare bewijsmateriaal verbonden met de vraag, zodat latere herzieningen naar dezelfde pagina, hetzelfde diagram of dezelfde foto kunnen verwijzen. Meta’s modelvoorbeelden gebruiken een beeldprocessor en een initiële tekstprompt om tekst te genereren; de gepubliceerde uitvoermodaliteit blijft tekst.
De Vision-familie is voorgetraind op zes miljard beeld-tekstparen. Instructieafstemming omvat openbare vision-instructiedata en meer dan drie miljoen synthetische voorbeelden. Meta geeft december 2023 als kennisgrens voor de pretraining en beschrijft het model als een statische release die op een offline dataset is getraind. Het werk rond verantwoord gebruik omvat veiligheidsgerichte fine-tuning, adversariële evaluatie en afzonderlijke systeemwaarborgen. Maak bij een praktische review onderscheid tussen wat de afbeelding zichtbaar ondersteunt en een interpretatie van het model, en controleer beschrijvingen aan de hand van het aangeleverde materiaal. Meta merkt op dat antwoorden onjuist of bevooroordeeld kunnen zijn en dat de evaluaties niet elk toepassingsscenario dekken.
POST /v1/chat/completionstexttext| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten llama3.2-90b | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten Voorbeelden: system, user, assistant, tool, function Voorwaarden: Deze rollen worden expliciet weergegeven door compatibiliteitstypen in de broncode; de exacte rollenverzameling van het model blijft modelspecifiek. Afhankelijk van het model | Standaard— |
Veldmessages[].content | Typestring|content_part[]|null | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_calls | Typetool_call[] | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_call_id | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: role=tool; gebruik het werkelijk teruggegeven ID | Standaard— |
Veldmessages[].name | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].reasoning_content | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: Stuur de werkelijk teruggegeven redeneringen terug wanneer dit model ze gebruikt | Standaard— |
Veldmessages[].reasoning_details | Typeobject|array | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmax_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldmax_completion_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Veldstream_options.include_usage | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtemperature | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtop_p | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldstop | Typestring|string[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools | Typefunction_tool[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools[].type | Typestring | VereisteOptioneel | Waarden en limieten function Afhankelijk van het model | Standaard— |
Veldtools[].function.name | Typestring | VereisteVereist | Waarden en limieten Geldt wanneer: functietool opgegeven | Standaard— |
Veldtools[].function.description | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtools[].function.parameters | TypeJSON_schema | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtool_choice | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldparallel_tool_calls | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldresponse_format | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning_effort | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldservice_tier | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldinstructions | Typestring | VereisteOptioneel | Waarden en limieten Compatibiliteitsveld | Standaard— |
Veldfunctions | Typefunction[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldfunction_call | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldprompt_cache_options | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmodalities | Typestring[] | VereisteOptioneel | Waarden en limieten text | Standaard— |
Veldprovider | Typeobject | VereisteOptioneel | Waarden en limieten Voorwaarden: provider.options wordt op deze Ultra-tekstroute geweigerd | Standaard— |
Veldcache_control.ttl | Typestring | VereisteOptioneel | Waarden en limieten Voorwaarden: 1h wordt op de daadwerkelijke locaties voor promptcaching geweigerd | Standaard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages |
Parametermaterial_types | Contracttext |
Parametermessages | Contractberichtenarray met de structuur role/content |
Parameterfile_material | Contractwerkelijk UTF-8-document ingevoegd als letterlijke tekst; er wordt geen bestands-ID afgeleid |
Parameteroptional_controls | Contractstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Contractmodelspecifiek; functietools van de gebruiker verschillen van gehoste tools |
Parameteroutput_modalities | Contracttext |
Parameterhosted_operations | Contractfalse |
Parametermultimodal_input_binding | Contractnull |
Levenscyclus: synchronous_or_streamed
Stuur het exacte model-ID mee met messages.
Contextlengte is geen uitvoerlimiet.
Een tekstbestand kan letterlijke tekst aanleveren; beeld-, audio- en bestandsobjectinvoer vereisen een exacte koppeling.
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.004 / 1K tokens Uitvoer · Uitvoertokens $0.004 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "llama3.2-90b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='llama3.2-90b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='llama3.2-90b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar elke keuze en de bijbehorende inhoud, toolaanroepen en redeneringen. Voeg in SSE delta’s samen per keuze-/toolindex en bewaar de uiteindelijke reden van beëindiging en de verbruiksgegevens.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldchoices[].index | Typeinteger |
Veldchoices[].message.content | Typestring|null |
Veldchoices[].message.tool_calls | Typetool_call[] |
Veldchoices[].message.reasoning_content | Typestring |
Veldchoices[].message.reasoning_details | Typeobject|array |
Veldchoices[].finish_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra llama3.2-90b
Gebruik de hierboven getoonde methodepaden.
llama3.2-90bLlama 3.2 90B Vision is Meta’s grotere beeld- en taalmodel voor het uitleggen van afbeeldingen, het beantwoorden van vragen over documentpagina’s en het verbinden van visuele details met een tekstprompt. Het formaat 90B heeft afzonderlijke voorgetrainde en op instructies afgestemde edities, met tekstuitvoer en een contextvenster van 128K.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Llama 3.2 90B Vision is Meta’s grotere beeld- en tekstmodel in de Llama 3.2 Vision-collectie. Het combineert het autoregressieve taalmodel Llama 3.1 met een afzonderlijk getrainde vision-adapter. Cross-attention-lagen brengen representaties van een beeldencoder in het taalmodel, waardoor een tekstvraag samen met de zichtbare inhoud kan worden geïnterpreteerd. De aanduiding 90B identificeert de grootteklasse; Meta’s configuratietabel vermeldt 88,8 miljard parameters en grouped-query attention.
Het model accepteert tekst en afbeeldingen en produceert tekst, met een contextlengte van 128K tokens. Voor taken die uitsluitend tekst gebruiken, zijn de officieel ondersteunde talen Engels, Duits, Frans, Italiaans, Portugees, Hindi, Spaans en Thai. Toepassingen met afbeeldingen en tekst worden officieel in het Engels ondersteund. Dit onderscheid is van belang bij het voorbereiden van een documentassistent: de taal van een tekstgesprek en de taal waarin vragen over een afbeelding worden gesteld, zijn afzonderlijke keuzes.
Meta publiceert zowel voorgetrainde als op instructies afgestemde edities. Het voorgetrainde model is een basis die voor redeneertaken met afbeeldingen kan worden aangepast. De op instructies afgestemde editie voegt supervised fine-tuning en reinforcement learning met menselijke feedback toe voor visuele herkenning, redeneren over afbeeldingen, bijschriften en assistentachtige gesprekken met afbeeldingen. Het formaatlabel beschrijft de 90B-tak en houdt die afstemmingsedities van elkaar gescheiden.
De beoogde toepassingen omvatten visuele vraagbeantwoording, vragen over documentafbeeldingen, bijschriften, koppeling van afbeeldingen aan tekst en visual grounding. Vraag bij een documentpagina hoe een kop samenhangt met een tabel of welke zichtbare bepaling een specifieke vraag beantwoordt. Geef bij een grafiek de te vergelijken reeksen of labels aan en vraag om een uitleg die op die details steunt. Vraag bij een foto om een bijschrift dat de scène en zichtbare relaties benoemt. Visual grounding verbindt een formulering in de vraag met het relevante object of gebied; koppeltaken verbinden een afbeelding met een passende tekstbeschrijving.
Geef voor een Ailoot API-taak een duidelijke vraag samen met de afbeelding en definieer het gewenste tekstuele artefact: een beschrijving, een uitleg, een antwoord met ondersteunende waarnemingen of een lijst geëxtraheerde details. Houd het zichtbare bewijsmateriaal verbonden met de vraag, zodat latere herzieningen naar dezelfde pagina, hetzelfde diagram of dezelfde foto kunnen verwijzen. Meta’s modelvoorbeelden gebruiken een beeldprocessor en een initiële tekstprompt om tekst te genereren; de gepubliceerde uitvoermodaliteit blijft tekst.
De Vision-familie is voorgetraind op zes miljard beeld-tekstparen. Instructieafstemming omvat openbare vision-instructiedata en meer dan drie miljoen synthetische voorbeelden. Meta geeft december 2023 als kennisgrens voor de pretraining en beschrijft het model als een statische release die op een offline dataset is getraind. Het werk rond verantwoord gebruik omvat veiligheidsgerichte fine-tuning, adversariële evaluatie en afzonderlijke systeemwaarborgen. Maak bij een praktische review onderscheid tussen wat de afbeelding zichtbaar ondersteunt en een interpretatie van het model, en controleer beschrijvingen aan de hand van het aangeleverde materiaal. Meta merkt op dat antwoorden onjuist of bevooroordeeld kunnen zijn en dat de evaluaties niet elk toepassingsscenario dekken.
POST /v1/messagestextjson, sse| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten llama3.2-90b | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten user, assistant | Standaard— |
Veldmessages[].content | Typestring | VereisteVereist | Waarden en limieten | Standaard— |
Veldmax_tokens | Typeinteger | VereisteVereist | Waarden en limieten | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Tekst · UTF-8-tekst
messages[].content als tekenreeks
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages, max_tokens |
Parameteroptional_controls | Contractstream |
Parametermaterial_types | Contracttext |
Parametertext_file_material | ContractLees het werkelijke UTF-8-document en plaats de tekst ervan in de aangegeven invoer of in de inhoudstekenreeks van een bericht. |
Levenscyclus: synchronous_or_streamed
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
| Configuratie | Tariefstaffel | Kosten |
|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Kosten Invoer · Invoertokens $0.004 / 1K tokens Uitvoer · Uitvoertokens $0.004 / 1K tokens Invoer · Cache lezen $0 / 1K tokens Invoer · Cache schrijven $0 / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
{\n "model": "llama3.2-90b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'llama3.2-90b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'llama3.2-90b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar alle inhoudsblokken, handtekeningen van redeneringen en werkelijke toolgebruik-ID’s. Voeg alle SSE-blokdelta’s samen; het eerste tekstblok is niet de volledige uitvoer.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldid | Typestring |
Veldmodel | Typestring |
Veldcontent[] | Typetext|thinking|tool_use|other content block |
Veldstop_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra llama3.2-90b
Gebruik de hierboven getoonde methodepaden.
Technisch voorbeeld in het Engels
Explain a chart from supplied values\n\nUse this text transcription of a bar chart: horizontal axis is quarter; vertical axis is returned units; Q1=12, Q2=18, Q3=9, Q4=15. Write a two-sentence caption identifying the largest and smallest bars and the change from Q2 to Q3. Do not infer sales totals or return rates.A two-sentence chart caption with the extrema and a nine-unit decrease from Q2 to Q3.The answer reports units rather than percentages and does not invent a denominator for return rates.