Llama 3.2 11B Vision ist Metas kleineres multimodales Mitglied der Llama-3.2-Vision-Sammlung. Das Modell kombiniert ein Llama-3.1-Sprachgrundmodell mit einem separat trainierten Vision-Adapter. Cross-Attention verbindet Bild-Encoder-Repräsentationen mit dem autoregressiven Textmodell, sodass die Antwort visuelle Belege zusammen mit der schriftlichen Aufgabe nutzen kann. Die Größenklasse 11B besitzt laut Metas Konfigurationstabelle 10,6 Milliarden Parameter und verwendet Grouped-Query-Attention.
Die Eingabe besteht aus Text und Bildern; die Ausgabe ist Text bei einer Kontextlänge von 128K Token. Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai sind für reine Textaufgaben offiziell unterstützt. Bild- und Textanwendungen sind offiziell auf Englisch unterstützt. Eine mehrsprachige Textkonversation und eine Bildfrage haben somit unterschiedliche dokumentierte Sprachumfänge.
Die vortrainierten und die auf Anweisungen abgestimmten Ausgaben dienen unterschiedlichen Zwecken. Die vortrainierte Ausgabe liefert eine Grundlage für die Anpassung an Bild-Reasoning. Die auf Anweisungen abgestimmte Ausgabe verwendet überwachtes Fine-Tuning und Reinforcement Learning mit menschlichem Feedback, um visuelle Erkennung, Bild-Reasoning, Bildbeschriftungen und Gespräche mit Bildern zu unterstützen. Die Kennzeichnung 11B benennt diesen Größenzweig; sie ersetzt nicht die Wahl der Tuning-Ausgabe.
Zu den vorgesehenen visuellen Anwendungen gehören Fragenbeantwortung zu Fotos, Verständnis von Dokumenttext und -layout, Schreiben von Bildbeschriftungen, Zuordnen von Bildern zu Beschreibungen und Verorten von Sprache in Objekten oder Bereichen. Ein Dokumentassistent kann ein Formular Abschnitt für Abschnitt erklären, eine Tabelle mit ihrer Überschrift verbinden oder eine Frage zur sichtbaren Seite beantworten. Ein Produkt-Workflow kann die Objekte und Beziehungen eines Fotos beschreiben. Benennen Sie für visuelle Verortung das Objekt oder den Bereich in der Frage und fordern Sie eine auf das bereitgestellte Bild bezogene Erklärung an. Vergleichen Sie für Bild-Text-Zuordnung den sichtbaren Inhalt mit möglichen Beschreibungen.
Kombinieren Sie für eine Ailoot-API-Aufgabe das Bild mit einer konkreten Anweisung und wählen Sie das benötigte Textartefakt: eine Bildbeschriftung, eine Antwort mit Beobachtungen, eine Liste extrahierter Details oder eine Erklärung. Benennen Sie den wichtigen Bildteil und bewahren Sie bei der Verfeinerung der Antwort seine Verbindung zur Frage. Das Bild dient als Beleg für ein Textergebnis; Metas Beispiele erzeugen Text aus einem Bild und einem Ausgangsprompt.
Das Vortraining der Vision-Familie verwendet sechs Milliarden Bild-Text-Paare. Das Instruction-Tuning kombiniert öffentliche Vision-Anweisungsdatensätze mit mehr als drei Millionen synthetischen Beispielen. Der Vortrainingsstichtag ist Dezember 2023, und die Version ist ein statisches, auf einem Offline-Datensatz trainiertes Modell. Metas Arbeiten zum verantwortungsvollen Einsatz umfassen Sicherheits-Fine-Tuning, adversarielle Tests und Schutzmaßnahmen auf Systemebene. Zu den angegebenen Einschränkungen gehören ungenaue oder verzerrte Antworten und eine Evaluierungsabdeckung, die nicht jedes Bereitstellungsszenario umfassen kann. Prüfen Sie die resultierenden Beschreibungen anhand des sichtbaren Materials und halten Sie Beobachtungen und Interpretationen getrennt.
", "aboutText": "Llama 3.2 11B Vision ist Metas kleineres multimodales Mitglied der Llama-3.2-Vision-Sammlung. Das Modell kombiniert ein Llama-3.1-Sprachgrundmodell mit einem separat trainierten Vision-Adapter. Cross-Attention verbindet Bild-Encoder-Repräsentationen mit dem autoregressiven Textmodell, sodass die Antwort visuelle Belege zusammen mit der schriftlichen Aufgabe nutzen kann. Die Größenklasse 11B besitzt laut Metas Konfigurationstabelle 10,6 Milliarden Parameter und verwendet Grouped-Query-Attention.\n\nDie Eingabe besteht aus Text und Bildern; die Ausgabe ist Text bei einer Kontextlänge von 128K Token. Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai sind für reine Textaufgaben offiziell unterstützt. Bild- und Textanwendungen sind offiziell auf Englisch unterstützt. Eine mehrsprachige Textkonversation und eine Bildfrage haben somit unterschiedliche dokumentierte Sprachumfänge.\n\nDie vortrainierten und die auf Anweisungen abgestimmten Ausgaben dienen unterschiedlichen Zwecken. Die vortrainierte Ausgabe liefert eine Grundlage für die Anpassung an Bild-Reasoning. Die auf Anweisungen abgestimmte Ausgabe verwendet überwachtes Fine-Tuning und Reinforcement Learning mit menschlichem Feedback, um visuelle Erkennung, Bild-Reasoning, Bildbeschriftungen und Gespräche mit Bildern zu unterstützen. Die Kennzeichnung 11B benennt diesen Größenzweig; sie ersetzt nicht die Wahl der Tuning-Ausgabe.\n\nZu den vorgesehenen visuellen Anwendungen gehören Fragenbeantwortung zu Fotos, Verständnis von Dokumenttext und -layout, Schreiben von Bildbeschriftungen, Zuordnen von Bildern zu Beschreibungen und Verorten von Sprache in Objekten oder Bereichen. Ein Dokumentassistent kann ein Formular Abschnitt für Abschnitt erklären, eine Tabelle mit ihrer Überschrift verbinden oder eine Frage zur sichtbaren Seite beantworten. Ein Produkt-Workflow kann die Objekte und Beziehungen eines Fotos beschreiben. Benennen Sie für visuelle Verortung das Objekt oder den Bereich in der Frage und fordern Sie eine auf das bereitgestellte Bild bezogene Erklärung an. Vergleichen Sie für Bild-Text-Zuordnung den sichtbaren Inhalt mit möglichen Beschreibungen.\n\nKombinieren Sie für eine Ailoot-API-Aufgabe das Bild mit einer konkreten Anweisung und wählen Sie das benötigte Textartefakt: eine Bildbeschriftung, eine Antwort mit Beobachtungen, eine Liste extrahierter Details oder eine Erklärung. Benennen Sie den wichtigen Bildteil und bewahren Sie bei der Verfeinerung der Antwort seine Verbindung zur Frage. Das Bild dient als Beleg für ein Textergebnis; Metas Beispiele erzeugen Text aus einem Bild und einem Ausgangsprompt.\n\nDas Vortraining der Vision-Familie verwendet sechs Milliarden Bild-Text-Paare. Das Instruction-Tuning kombiniert öffentliche Vision-Anweisungsdatensätze mit mehr als drei Millionen synthetischen Beispielen. Der Vortrainingsstichtag ist Dezember 2023, und die Version ist ein statisches, auf einem Offline-Datensatz trainiertes Modell. Metas Arbeiten zum verantwortungsvollen Einsatz umfassen Sicherheits-Fine-Tuning, adversarielle Tests und Schutzmaßnahmen auf Systemebene. Zu den angegebenen Einschränkungen gehören ungenaue oder verzerrte Antworten und eine Evaluierungsabdeckung, die nicht jedes Bereitstellungsszenario umfassen kann. Prüfen Sie die resultierenden Beschreibungen anhand des sichtbaren Materials und halten Sie Beobachtungen und Interpretationen getrennt.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Match descriptions to a transcribed product view\n\nUse this text description of a product view: one blue mug with a handle, no lid, standing beside a silver spoon. Candidate captions: A, blue lidded travel cup; B, blue handled mug beside a spoon; C, two blue bowls. Select the caption supported by the description and explain each mismatch in the alternatives.One selected caption and a brief evidence comparison for all three candidates.Check that no unmentioned lid or second vessel is added and that the choice uses the supplied text only.llama3.2-11bMetas kleinere Llama-3.2-Vision-Ausgabe wandelt Bild- und Textprompts in Beschreibungen, Antworten zu Dokumenten und visuelle Erklärungen um. Sie besitzt ein Kontextfenster von 128K und eigenständige vortrainierte und auf Anweisungen abgestimmte Ausgaben.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama 3.2 11B Vision ist Metas kleineres multimodales Mitglied der Llama-3.2-Vision-Sammlung. Das Modell kombiniert ein Llama-3.1-Sprachgrundmodell mit einem separat trainierten Vision-Adapter. Cross-Attention verbindet Bild-Encoder-Repräsentationen mit dem autoregressiven Textmodell, sodass die Antwort visuelle Belege zusammen mit der schriftlichen Aufgabe nutzen kann. Die Größenklasse 11B besitzt laut Metas Konfigurationstabelle 10,6 Milliarden Parameter und verwendet Grouped-Query-Attention.
Die Eingabe besteht aus Text und Bildern; die Ausgabe ist Text bei einer Kontextlänge von 128K Token. Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai sind für reine Textaufgaben offiziell unterstützt. Bild- und Textanwendungen sind offiziell auf Englisch unterstützt. Eine mehrsprachige Textkonversation und eine Bildfrage haben somit unterschiedliche dokumentierte Sprachumfänge.
Die vortrainierten und die auf Anweisungen abgestimmten Ausgaben dienen unterschiedlichen Zwecken. Die vortrainierte Ausgabe liefert eine Grundlage für die Anpassung an Bild-Reasoning. Die auf Anweisungen abgestimmte Ausgabe verwendet überwachtes Fine-Tuning und Reinforcement Learning mit menschlichem Feedback, um visuelle Erkennung, Bild-Reasoning, Bildbeschriftungen und Gespräche mit Bildern zu unterstützen. Die Kennzeichnung 11B benennt diesen Größenzweig; sie ersetzt nicht die Wahl der Tuning-Ausgabe.
Zu den vorgesehenen visuellen Anwendungen gehören Fragenbeantwortung zu Fotos, Verständnis von Dokumenttext und -layout, Schreiben von Bildbeschriftungen, Zuordnen von Bildern zu Beschreibungen und Verorten von Sprache in Objekten oder Bereichen. Ein Dokumentassistent kann ein Formular Abschnitt für Abschnitt erklären, eine Tabelle mit ihrer Überschrift verbinden oder eine Frage zur sichtbaren Seite beantworten. Ein Produkt-Workflow kann die Objekte und Beziehungen eines Fotos beschreiben. Benennen Sie für visuelle Verortung das Objekt oder den Bereich in der Frage und fordern Sie eine auf das bereitgestellte Bild bezogene Erklärung an. Vergleichen Sie für Bild-Text-Zuordnung den sichtbaren Inhalt mit möglichen Beschreibungen.
Kombinieren Sie für eine Ailoot-API-Aufgabe das Bild mit einer konkreten Anweisung und wählen Sie das benötigte Textartefakt: eine Bildbeschriftung, eine Antwort mit Beobachtungen, eine Liste extrahierter Details oder eine Erklärung. Benennen Sie den wichtigen Bildteil und bewahren Sie bei der Verfeinerung der Antwort seine Verbindung zur Frage. Das Bild dient als Beleg für ein Textergebnis; Metas Beispiele erzeugen Text aus einem Bild und einem Ausgangsprompt.
Das Vortraining der Vision-Familie verwendet sechs Milliarden Bild-Text-Paare. Das Instruction-Tuning kombiniert öffentliche Vision-Anweisungsdatensätze mit mehr als drei Millionen synthetischen Beispielen. Der Vortrainingsstichtag ist Dezember 2023, und die Version ist ein statisches, auf einem Offline-Datensatz trainiertes Modell. Metas Arbeiten zum verantwortungsvollen Einsatz umfassen Sicherheits-Fine-Tuning, adversarielle Tests und Schutzmaßnahmen auf Systemebene. Zu den angegebenen Einschränkungen gehören ungenaue oder verzerrte Antworten und eine Evaluierungsabdeckung, die nicht jedes Bereitstellungsszenario umfassen kann. Prüfen Sie die resultierenden Beschreibungen anhand des sichtbaren Materials und halten Sie Beobachtungen und Interpretationen getrennt.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits llama3.2-11b | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0.001 / 1K Token Ausgabe · Ausgabetoken $0.001 / 1K Token Eingabe · Cache-Lesen $0 / 1K Token Eingabe · Cache-Schreiben $0 / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "llama3.2-11b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='llama3.2-11b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='llama3.2-11b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra llama3.2-11b
Verwenden Sie die oben angezeigten Methodenpfade.
llama3.2-11bMetas kleinere Llama-3.2-Vision-Ausgabe wandelt Bild- und Textprompts in Beschreibungen, Antworten zu Dokumenten und visuelle Erklärungen um. Sie besitzt ein Kontextfenster von 128K und eigenständige vortrainierte und auf Anweisungen abgestimmte Ausgaben.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama 3.2 11B Vision ist Metas kleineres multimodales Mitglied der Llama-3.2-Vision-Sammlung. Das Modell kombiniert ein Llama-3.1-Sprachgrundmodell mit einem separat trainierten Vision-Adapter. Cross-Attention verbindet Bild-Encoder-Repräsentationen mit dem autoregressiven Textmodell, sodass die Antwort visuelle Belege zusammen mit der schriftlichen Aufgabe nutzen kann. Die Größenklasse 11B besitzt laut Metas Konfigurationstabelle 10,6 Milliarden Parameter und verwendet Grouped-Query-Attention.
Die Eingabe besteht aus Text und Bildern; die Ausgabe ist Text bei einer Kontextlänge von 128K Token. Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai sind für reine Textaufgaben offiziell unterstützt. Bild- und Textanwendungen sind offiziell auf Englisch unterstützt. Eine mehrsprachige Textkonversation und eine Bildfrage haben somit unterschiedliche dokumentierte Sprachumfänge.
Die vortrainierten und die auf Anweisungen abgestimmten Ausgaben dienen unterschiedlichen Zwecken. Die vortrainierte Ausgabe liefert eine Grundlage für die Anpassung an Bild-Reasoning. Die auf Anweisungen abgestimmte Ausgabe verwendet überwachtes Fine-Tuning und Reinforcement Learning mit menschlichem Feedback, um visuelle Erkennung, Bild-Reasoning, Bildbeschriftungen und Gespräche mit Bildern zu unterstützen. Die Kennzeichnung 11B benennt diesen Größenzweig; sie ersetzt nicht die Wahl der Tuning-Ausgabe.
Zu den vorgesehenen visuellen Anwendungen gehören Fragenbeantwortung zu Fotos, Verständnis von Dokumenttext und -layout, Schreiben von Bildbeschriftungen, Zuordnen von Bildern zu Beschreibungen und Verorten von Sprache in Objekten oder Bereichen. Ein Dokumentassistent kann ein Formular Abschnitt für Abschnitt erklären, eine Tabelle mit ihrer Überschrift verbinden oder eine Frage zur sichtbaren Seite beantworten. Ein Produkt-Workflow kann die Objekte und Beziehungen eines Fotos beschreiben. Benennen Sie für visuelle Verortung das Objekt oder den Bereich in der Frage und fordern Sie eine auf das bereitgestellte Bild bezogene Erklärung an. Vergleichen Sie für Bild-Text-Zuordnung den sichtbaren Inhalt mit möglichen Beschreibungen.
Kombinieren Sie für eine Ailoot-API-Aufgabe das Bild mit einer konkreten Anweisung und wählen Sie das benötigte Textartefakt: eine Bildbeschriftung, eine Antwort mit Beobachtungen, eine Liste extrahierter Details oder eine Erklärung. Benennen Sie den wichtigen Bildteil und bewahren Sie bei der Verfeinerung der Antwort seine Verbindung zur Frage. Das Bild dient als Beleg für ein Textergebnis; Metas Beispiele erzeugen Text aus einem Bild und einem Ausgangsprompt.
Das Vortraining der Vision-Familie verwendet sechs Milliarden Bild-Text-Paare. Das Instruction-Tuning kombiniert öffentliche Vision-Anweisungsdatensätze mit mehr als drei Millionen synthetischen Beispielen. Der Vortrainingsstichtag ist Dezember 2023, und die Version ist ein statisches, auf einem Offline-Datensatz trainiertes Modell. Metas Arbeiten zum verantwortungsvollen Einsatz umfassen Sicherheits-Fine-Tuning, adversarielle Tests und Schutzmaßnahmen auf Systemebene. Zu den angegebenen Einschränkungen gehören ungenaue oder verzerrte Antworten und eine Evaluierungsabdeckung, die nicht jedes Bereitstellungsszenario umfassen kann. Prüfen Sie die resultierenden Beschreibungen anhand des sichtbaren Materials und halten Sie Beobachtungen und Interpretationen getrennt.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits llama3.2-11b | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
| Konfiguration | Tarifstaffel | Gebühr |
|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Gebühr Eingabe · Eingabetoken $0.001 / 1K Token Ausgabe · Ausgabetoken $0.001 / 1K Token Eingabe · Cache-Lesen $0 / 1K Token Eingabe · Cache-Schreiben $0 / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "llama3.2-11b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'llama3.2-11b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'llama3.2-11b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra llama3.2-11b
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Match descriptions to a transcribed product view\n\nUse this text description of a product view: one blue mug with a handle, no lid, standing beside a silver spoon. Candidate captions: A, blue lidded travel cup; B, blue handled mug beside a spoon; C, two blue bowls. Select the caption supported by the description and explain each mismatch in the alternatives.One selected caption and a brief evidence comparison for all three candidates.Check that no unmentioned lid or second vessel is added and that the choice uses the supplied text only.