Meta Llama 3.2 3B Instruct ist ein anweisungsoptimiertes Textmodell für mehrsprachige Assistentengespräche, abrufgestützte Arbeit und Zusammenfassungen. Die Modelltabelle des Herstellers nennt eine 3B-Klasse mit 3.21B Parametern. Es akzeptiert Text und erzeugt Text oder Code. Seine Entwicklung kombiniert Modellbeschneidung und Wissensdistillation mit Instruction-Tuning und schafft so ein kleines Modellprofil für gezielte Schreib- und Assistentenaufgaben.
Gib dem Modell das Quellmaterial, die Frage und die erwartete Antwortform vor. Eine Anfrage zur Schreibassistenz kann Zielgruppe, Ton und die zu bewahrenden Details festlegen. Eine Zusammenfassung kann die abzudeckenden Abschnitte und die gewünschte Länge oder Struktur benennen. Liefere für eine kurze Wissensdatenbankantwort die relevante Textstelle und verlange eine darauf gestützte Erklärung.
Der Hersteller nennt Wissensabruf, Zusammenfassung, mobile Schreibassistenten, das Umformulieren von Suchanfragen und Prompts als vorgesehene Anwendungen der anweisungsoptimierten Textmodelle. Eine Retrieval-Anwendung kann die gefundenen Textstellen bereitstellen und das Modell die Antwort formulieren lassen. Bewahre die Bezeichner der Textstellen beim Ergebnis, damit ein Leser oder eine andere Komponente die Belege prüfen kann.
Bewahre beim Umformulieren von Suchanfragen die ursprüngliche Frage und verlange eine knappe Suchformulierung, die ihre Absicht erhält. Verlange bei einer Dokumentzusammenfassung die Hauptaussagen und die Einschränkungen, die sie beeinflussen. Prüfe die tatsächliche Ausgabe auf ausgelassene Bedingungen, geänderte Zahlen oder erfundene Informationen, besonders wenn eine kurze Antwort eine umfangreichere Quelle verdichtet.
Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai sind die acht offiziell unterstützten Sprachen. Nenne die gewünschte Ausgabesprache und bewahre die Schreibweise von Namen oder Fachbegriffen, die unverändert bleiben müssen. Eine mehrsprachige Aufgabe sollte genügend Quellenkontext enthalten, um die Bedeutung der zurückgegebenen Formulierungen zu beurteilen, statt sich allein auf sprachliche Flüssigkeit zu verlassen.
Der Standard-Text-Checkpoint von Llama 3.2 hat ein Kontextfenster von 128K Tokens. Nutze dieses Budget für relevantes Quellmaterial, den Gesprächsverlauf und das generierte Ergebnis. Bewahre frühere Entscheidungen, die zur Fortsetzung nötig sind, und lass Platz für die Antwort. Der Stichtag der Vortrainingsdaten ist Dezember 2023; spätere Informationen benötigen daher Belege, die mit der Aufgabe oder von der umgebenden Retrieval-Anwendung geliefert werden.
Dies ist der Instruct-Checkpoint, der für assistentenartigen Dialog vorbereitet wurde. Die Modellkarte beschreibt überwachtes Fine-Tuning und Ausrichtung an menschlichen Präferenzen mit zusätzlicher Distillation während der Entwicklung der kleinen Modelle. Die Nutzungsbeispiele liefern System- und Nutzernachrichten in einem Chatformat. Eine Systemanweisung kann Rolle und Ausgabeerwartungen definieren, während die Nutzernachricht die aktuelle Aufgabe und die Quellen enthält.
Halte bei direkter Nutzung des Checkpoints das Gesprächsformat passend zur gewählten Version. Definiere das Ergebnis klar und prüfe die generierte Antwort einschliesslich ihres Bezugs zu den bereitgestellten Belegen. Gib für ein strukturiertes Textergebnis die erforderlichen Felder oder Überschriften an und validiere die tatsächliche Ausgabe, bevor eine Anwendung sie verwendet. Eine schriftliche Formatanweisung garantiert nicht, dass jeder Wert korrekt ist.
Der Hersteller unterscheidet das Standard-Textmodell von separat veröffentlichten quantisierten Textprofilen von Llama 3.2. Seine Modelltabelle nennt für diese quantisierten Profile einen 8K-Kontext, getrennt vom standardmässigen 128K-Fenster. Wähle Modell und Arbeitsbudget gemeinsam, statt anzunehmen, dass jede mit 3B bezeichnete Bereitstellung denselben Kontextumfang bewahrt.
Das 3B-Instruct-Modell ist auch von den grösseren Bildmodellen von Llama 3.2 getrennt. Bereite für dieses Textprofil textuelles Quellmaterial oder von der umgebenden Anwendung gewonnenen Text vor. Nutze das Modell für eine gezielte Antwort, Umformulierung, Zusammenfassung oder kurze Codeerklärung. Bewahre den gewählten Checkpoint, den Prompt und die Quelle beim Ergebnis und richte eine nächste Anweisung gezielt auf das fehlende Detail oder den beobachteten Fehler aus.
", "aboutText": "Meta Llama 3.2 3B Instruct ist ein anweisungsoptimiertes Textmodell für mehrsprachige Assistentengespräche, abrufgestützte Arbeit und Zusammenfassungen. Die Modelltabelle des Herstellers nennt eine 3B-Klasse mit 3.21B Parametern. Es akzeptiert Text und erzeugt Text oder Code. Seine Entwicklung kombiniert Modellbeschneidung und Wissensdistillation mit Instruction-Tuning und schafft so ein kleines Modellprofil für gezielte Schreib- und Assistentenaufgaben.\n\n### Ein begrenztes Textergebnis definieren\n\nGib dem Modell das Quellmaterial, die Frage und die erwartete Antwortform vor. Eine Anfrage zur Schreibassistenz kann Zielgruppe, Ton und die zu bewahrenden Details festlegen. Eine Zusammenfassung kann die abzudeckenden Abschnitte und die gewünschte Länge oder Struktur benennen. Liefere für eine kurze Wissensdatenbankantwort die relevante Textstelle und verlange eine darauf gestützte Erklärung.\n\nDer Hersteller nennt Wissensabruf, Zusammenfassung, mobile Schreibassistenten, das Umformulieren von Suchanfragen und Prompts als vorgesehene Anwendungen der anweisungsoptimierten Textmodelle. Eine Retrieval-Anwendung kann die gefundenen Textstellen bereitstellen und das Modell die Antwort formulieren lassen. Bewahre die Bezeichner der Textstellen beim Ergebnis, damit ein Leser oder eine andere Komponente die Belege prüfen kann.\n\nBewahre beim Umformulieren von Suchanfragen die ursprüngliche Frage und verlange eine knappe Suchformulierung, die ihre Absicht erhält. Verlange bei einer Dokumentzusammenfassung die Hauptaussagen und die Einschränkungen, die sie beeinflussen. Prüfe die tatsächliche Ausgabe auf ausgelassene Bedingungen, geänderte Zahlen oder erfundene Informationen, besonders wenn eine kurze Antwort eine umfangreichere Quelle verdichtet.\n\n### Sprachen und Kontext\n\nEnglisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai sind die acht offiziell unterstützten Sprachen. Nenne die gewünschte Ausgabesprache und bewahre die Schreibweise von Namen oder Fachbegriffen, die unverändert bleiben müssen. Eine mehrsprachige Aufgabe sollte genügend Quellenkontext enthalten, um die Bedeutung der zurückgegebenen Formulierungen zu beurteilen, statt sich allein auf sprachliche Flüssigkeit zu verlassen.\n\nDer Standard-Text-Checkpoint von Llama 3.2 hat ein Kontextfenster von 128K Tokens. Nutze dieses Budget für relevantes Quellmaterial, den Gesprächsverlauf und das generierte Ergebnis. Bewahre frühere Entscheidungen, die zur Fortsetzung nötig sind, und lass Platz für die Antwort. Der Stichtag der Vortrainingsdaten ist Dezember 2023; spätere Informationen benötigen daher Belege, die mit der Aufgabe oder von der umgebenden Retrieval-Anwendung geliefert werden.\n\n### Instruction-Tuning und Gesprächsformat\n\nDies ist der Instruct-Checkpoint, der für assistentenartigen Dialog vorbereitet wurde. Die Modellkarte beschreibt überwachtes Fine-Tuning und Ausrichtung an menschlichen Präferenzen mit zusätzlicher Distillation während der Entwicklung der kleinen Modelle. Die Nutzungsbeispiele liefern System- und Nutzernachrichten in einem Chatformat. Eine Systemanweisung kann Rolle und Ausgabeerwartungen definieren, während die Nutzernachricht die aktuelle Aufgabe und die Quellen enthält.\n\nHalte bei direkter Nutzung des Checkpoints das Gesprächsformat passend zur gewählten Version. Definiere das Ergebnis klar und prüfe die generierte Antwort einschliesslich ihres Bezugs zu den bereitgestellten Belegen. Gib für ein strukturiertes Textergebnis die erforderlichen Felder oder Überschriften an und validiere die tatsächliche Ausgabe, bevor eine Anwendung sie verwendet. Eine schriftliche Formatanweisung garantiert nicht, dass jeder Wert korrekt ist.\n\n### Standard-, quantisierte und Bildprofile\n\nDer Hersteller unterscheidet das Standard-Textmodell von separat veröffentlichten quantisierten Textprofilen von Llama 3.2. Seine Modelltabelle nennt für diese quantisierten Profile einen 8K-Kontext, getrennt vom standardmässigen 128K-Fenster. Wähle Modell und Arbeitsbudget gemeinsam, statt anzunehmen, dass jede mit 3B bezeichnete Bereitstellung denselben Kontextumfang bewahrt.\n\nDas 3B-Instruct-Modell ist auch von den grösseren Bildmodellen von Llama 3.2 getrennt. Bereite für dieses Textprofil textuelles Quellmaterial oder von der umgebenden Anwendung gewonnenen Text vor. Nutze das Modell für eine gezielte Antwort, Umformulierung, Zusammenfassung oder kurze Codeerklärung. Bewahre den gewählten Checkpoint, den Prompt und die Quelle beim Ergebnis und richte eine nächste Anweisung gezielt auf das fehlende Detail oder den beobachteten Fehler aus.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Rewrite a knowledge-base query\n\nRewrite this support question into one concise search query: 'I changed my work email yesterday and now the old address still gets export notifications, even though I log in with the new one.' Preserve the distinction between login identity and notification destination. Return the query and two key concepts it must retain; do not answer the question.One search query plus two retained concepts covering changed login email and stale export-notification address.The rewrite keeps the notification problem and does not collapse it into a login failure.meta-llama/llama-3.2-3b-instructMeta Llama 3.2 3B Instruct ist ein kompaktes Textmodell für mehrsprachigen Chat, abrufgestützte Zusammenfassungen und Schreibassistenz. Sein Standard-Checkpoint hat einen 128K-Kontext; separat veröffentlichte quantisierte Varianten haben ein anderes Arbeitsfenster.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Meta Llama 3.2 3B Instruct ist ein anweisungsoptimiertes Textmodell für mehrsprachige Assistentengespräche, abrufgestützte Arbeit und Zusammenfassungen. Die Modelltabelle des Herstellers nennt eine 3B-Klasse mit 3.21B Parametern. Es akzeptiert Text und erzeugt Text oder Code. Seine Entwicklung kombiniert Modellbeschneidung und Wissensdistillation mit Instruction-Tuning und schafft so ein kleines Modellprofil für gezielte Schreib- und Assistentenaufgaben.
Gib dem Modell das Quellmaterial, die Frage und die erwartete Antwortform vor. Eine Anfrage zur Schreibassistenz kann Zielgruppe, Ton und die zu bewahrenden Details festlegen. Eine Zusammenfassung kann die abzudeckenden Abschnitte und die gewünschte Länge oder Struktur benennen. Liefere für eine kurze Wissensdatenbankantwort die relevante Textstelle und verlange eine darauf gestützte Erklärung.
Der Hersteller nennt Wissensabruf, Zusammenfassung, mobile Schreibassistenten, das Umformulieren von Suchanfragen und Prompts als vorgesehene Anwendungen der anweisungsoptimierten Textmodelle. Eine Retrieval-Anwendung kann die gefundenen Textstellen bereitstellen und das Modell die Antwort formulieren lassen. Bewahre die Bezeichner der Textstellen beim Ergebnis, damit ein Leser oder eine andere Komponente die Belege prüfen kann.
Bewahre beim Umformulieren von Suchanfragen die ursprüngliche Frage und verlange eine knappe Suchformulierung, die ihre Absicht erhält. Verlange bei einer Dokumentzusammenfassung die Hauptaussagen und die Einschränkungen, die sie beeinflussen. Prüfe die tatsächliche Ausgabe auf ausgelassene Bedingungen, geänderte Zahlen oder erfundene Informationen, besonders wenn eine kurze Antwort eine umfangreichere Quelle verdichtet.
Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai sind die acht offiziell unterstützten Sprachen. Nenne die gewünschte Ausgabesprache und bewahre die Schreibweise von Namen oder Fachbegriffen, die unverändert bleiben müssen. Eine mehrsprachige Aufgabe sollte genügend Quellenkontext enthalten, um die Bedeutung der zurückgegebenen Formulierungen zu beurteilen, statt sich allein auf sprachliche Flüssigkeit zu verlassen.
Der Standard-Text-Checkpoint von Llama 3.2 hat ein Kontextfenster von 128K Tokens. Nutze dieses Budget für relevantes Quellmaterial, den Gesprächsverlauf und das generierte Ergebnis. Bewahre frühere Entscheidungen, die zur Fortsetzung nötig sind, und lass Platz für die Antwort. Der Stichtag der Vortrainingsdaten ist Dezember 2023; spätere Informationen benötigen daher Belege, die mit der Aufgabe oder von der umgebenden Retrieval-Anwendung geliefert werden.
Dies ist der Instruct-Checkpoint, der für assistentenartigen Dialog vorbereitet wurde. Die Modellkarte beschreibt überwachtes Fine-Tuning und Ausrichtung an menschlichen Präferenzen mit zusätzlicher Distillation während der Entwicklung der kleinen Modelle. Die Nutzungsbeispiele liefern System- und Nutzernachrichten in einem Chatformat. Eine Systemanweisung kann Rolle und Ausgabeerwartungen definieren, während die Nutzernachricht die aktuelle Aufgabe und die Quellen enthält.
Halte bei direkter Nutzung des Checkpoints das Gesprächsformat passend zur gewählten Version. Definiere das Ergebnis klar und prüfe die generierte Antwort einschliesslich ihres Bezugs zu den bereitgestellten Belegen. Gib für ein strukturiertes Textergebnis die erforderlichen Felder oder Überschriften an und validiere die tatsächliche Ausgabe, bevor eine Anwendung sie verwendet. Eine schriftliche Formatanweisung garantiert nicht, dass jeder Wert korrekt ist.
Der Hersteller unterscheidet das Standard-Textmodell von separat veröffentlichten quantisierten Textprofilen von Llama 3.2. Seine Modelltabelle nennt für diese quantisierten Profile einen 8K-Kontext, getrennt vom standardmässigen 128K-Fenster. Wähle Modell und Arbeitsbudget gemeinsam, statt anzunehmen, dass jede mit 3B bezeichnete Bereitstellung denselben Kontextumfang bewahrt.
Das 3B-Instruct-Modell ist auch von den grösseren Bildmodellen von Llama 3.2 getrennt. Bereite für dieses Textprofil textuelles Quellmaterial oder von der umgebenden Anwendung gewonnenen Text vor. Nutze das Modell für eine gezielte Antwort, Umformulierung, Zusammenfassung oder kurze Codeerklärung. Bewahre den gewählten Checkpoint, den Prompt und die Quelle beim Ergebnis und richte eine nächste Anweisung gezielt auf das fehlende Detail oder den beobachteten Fehler aus.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits meta-llama/llama-3.2-3b-instruct | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschliesslich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0001 / 1K Tokens Ausgabe · Ausgabetoken $0.00066 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0001 / 1K Tokens Ausgabe · Ausgabetoken $0.00066 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-3b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-3b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-3b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra meta-llama/llama-3.2-3b-instruct
Verwenden Sie die oben angezeigten Methodenpfade.
meta-llama/llama-3.2-3b-instructMeta Llama 3.2 3B Instruct ist ein kompaktes Textmodell für mehrsprachigen Chat, abrufgestützte Zusammenfassungen und Schreibassistenz. Sein Standard-Checkpoint hat einen 128K-Kontext; separat veröffentlichte quantisierte Varianten haben ein anderes Arbeitsfenster.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Meta Llama 3.2 3B Instruct ist ein anweisungsoptimiertes Textmodell für mehrsprachige Assistentengespräche, abrufgestützte Arbeit und Zusammenfassungen. Die Modelltabelle des Herstellers nennt eine 3B-Klasse mit 3.21B Parametern. Es akzeptiert Text und erzeugt Text oder Code. Seine Entwicklung kombiniert Modellbeschneidung und Wissensdistillation mit Instruction-Tuning und schafft so ein kleines Modellprofil für gezielte Schreib- und Assistentenaufgaben.
Gib dem Modell das Quellmaterial, die Frage und die erwartete Antwortform vor. Eine Anfrage zur Schreibassistenz kann Zielgruppe, Ton und die zu bewahrenden Details festlegen. Eine Zusammenfassung kann die abzudeckenden Abschnitte und die gewünschte Länge oder Struktur benennen. Liefere für eine kurze Wissensdatenbankantwort die relevante Textstelle und verlange eine darauf gestützte Erklärung.
Der Hersteller nennt Wissensabruf, Zusammenfassung, mobile Schreibassistenten, das Umformulieren von Suchanfragen und Prompts als vorgesehene Anwendungen der anweisungsoptimierten Textmodelle. Eine Retrieval-Anwendung kann die gefundenen Textstellen bereitstellen und das Modell die Antwort formulieren lassen. Bewahre die Bezeichner der Textstellen beim Ergebnis, damit ein Leser oder eine andere Komponente die Belege prüfen kann.
Bewahre beim Umformulieren von Suchanfragen die ursprüngliche Frage und verlange eine knappe Suchformulierung, die ihre Absicht erhält. Verlange bei einer Dokumentzusammenfassung die Hauptaussagen und die Einschränkungen, die sie beeinflussen. Prüfe die tatsächliche Ausgabe auf ausgelassene Bedingungen, geänderte Zahlen oder erfundene Informationen, besonders wenn eine kurze Antwort eine umfangreichere Quelle verdichtet.
Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai sind die acht offiziell unterstützten Sprachen. Nenne die gewünschte Ausgabesprache und bewahre die Schreibweise von Namen oder Fachbegriffen, die unverändert bleiben müssen. Eine mehrsprachige Aufgabe sollte genügend Quellenkontext enthalten, um die Bedeutung der zurückgegebenen Formulierungen zu beurteilen, statt sich allein auf sprachliche Flüssigkeit zu verlassen.
Der Standard-Text-Checkpoint von Llama 3.2 hat ein Kontextfenster von 128K Tokens. Nutze dieses Budget für relevantes Quellmaterial, den Gesprächsverlauf und das generierte Ergebnis. Bewahre frühere Entscheidungen, die zur Fortsetzung nötig sind, und lass Platz für die Antwort. Der Stichtag der Vortrainingsdaten ist Dezember 2023; spätere Informationen benötigen daher Belege, die mit der Aufgabe oder von der umgebenden Retrieval-Anwendung geliefert werden.
Dies ist der Instruct-Checkpoint, der für assistentenartigen Dialog vorbereitet wurde. Die Modellkarte beschreibt überwachtes Fine-Tuning und Ausrichtung an menschlichen Präferenzen mit zusätzlicher Distillation während der Entwicklung der kleinen Modelle. Die Nutzungsbeispiele liefern System- und Nutzernachrichten in einem Chatformat. Eine Systemanweisung kann Rolle und Ausgabeerwartungen definieren, während die Nutzernachricht die aktuelle Aufgabe und die Quellen enthält.
Halte bei direkter Nutzung des Checkpoints das Gesprächsformat passend zur gewählten Version. Definiere das Ergebnis klar und prüfe die generierte Antwort einschliesslich ihres Bezugs zu den bereitgestellten Belegen. Gib für ein strukturiertes Textergebnis die erforderlichen Felder oder Überschriften an und validiere die tatsächliche Ausgabe, bevor eine Anwendung sie verwendet. Eine schriftliche Formatanweisung garantiert nicht, dass jeder Wert korrekt ist.
Der Hersteller unterscheidet das Standard-Textmodell von separat veröffentlichten quantisierten Textprofilen von Llama 3.2. Seine Modelltabelle nennt für diese quantisierten Profile einen 8K-Kontext, getrennt vom standardmässigen 128K-Fenster. Wähle Modell und Arbeitsbudget gemeinsam, statt anzunehmen, dass jede mit 3B bezeichnete Bereitstellung denselben Kontextumfang bewahrt.
Das 3B-Instruct-Modell ist auch von den grösseren Bildmodellen von Llama 3.2 getrennt. Bereite für dieses Textprofil textuelles Quellmaterial oder von der umgebenden Anwendung gewonnenen Text vor. Nutze das Modell für eine gezielte Antwort, Umformulierung, Zusammenfassung oder kurze Codeerklärung. Bewahre den gewählten Checkpoint, den Prompt und die Quelle beim Ergebnis und richte eine nächste Anweisung gezielt auf das fehlende Detail oder den beobachteten Fehler aus.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits meta-llama/llama-3.2-3b-instruct | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschliesslich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0001 / 1K Tokens Ausgabe · Ausgabetoken $0.00066 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0001 / 1K Tokens Ausgabe · Ausgabetoken $0.00066 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "meta-llama/llama-3.2-3b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-3b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-3b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra meta-llama/llama-3.2-3b-instruct
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Rewrite a knowledge-base query\n\nRewrite this support question into one concise search query: 'I changed my work email yesterday and now the old address still gets export notifications, even though I log in with the new one.' Preserve the distinction between login identity and notification destination. Return the query and two key concepts it must retain; do not answer the question.One search query plus two retained concepts covering changed login email and stale export-notification address.The rewrite keeps the notification problem and does not collapse it into a login failure.