Source: https://ailoot.ai/models/de/meta-llama-llama-3-2-1b-instruct/ Canonical: https://ailoot.ai/models/de/meta-llama-llama-3-2-1b-instruct/ Language: de # Meta: Llama 3.2 1B Instruct [Markdown](https://ailoot.ai/models/de/meta-llama-llama-3-2-1b-instruct/index.md) · [JSON](https://ailoot.ai/models/de/meta-llama-llama-3-2-1b-instruct/facts.json) ## [Meta: Llama 3.2 1B Instruct](https://ailoot.ai/models/de/meta-llama-llama-3-2-1b-instruct/) Llama 3.2 1B Instruct ist Metas kompaktes Textmodell mit 1,23 Milliarden Parametern für Dialoge, Zusammenfassungen, Wissensabruf und das Umformulieren von Suchanfragen. Der Hersteller nennt einen Kontext von 128k für die gewöhnliche Version und 8k für separate quantisierte Varianten sowie mehrsprachige Text- und Codeausgabe. - [**Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` `meta-llama/llama-3.2-1b-instruct`](https://ailoot.ai/models/de/meta-llama-llama-3-2-1b-instruct/#method-0) - [**Ailoot Ultra · Anthropic Messages** `POST /v1/messages` `meta-llama/llama-3.2-1b-instruct`](https://ailoot.ai/models/de/meta-llama-llama-3-2-1b-instruct/#method-1) Über das Modell Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt. Llama 3.2 1B Instruct ist Metas kompaktes, auf Anweisungen abgestimmtes Textmodell mit laut Herstellertabelle 1,23 Milliarden Parametern. Es nimmt mehrsprachigen Text entgegen und gibt Text oder Code zurück. Die Version ist für Dialoge, Wissensabruf, Zusammenfassungen, mobile Schreibassistenten und das Umformulieren von Suchanfragen oder Prompts vorgesehen, statt für die Bildverständnisaufgaben der separaten Vision-Ausgaben von Llama. Modellinformationen und Kontext Das Modell verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention und gemeinsam genutzten Embeddings. Meta unterscheidet vortrainierte und auf Anweisungen abgestimmte 1B- und 3B-Modelle. Dieser Eintrag betrifft den 1B-Instruct-Checkpoint, dessen Aufgabe darin besteht, der Nutzeranfrage in einem Gespräch zu folgen, statt als vortrainierte Grundlage zu dienen. Die gewöhnliche Textversion ist mit einem 128k-Kontext dokumentiert. Für seine quantisierten Textmodelle nennt der Hersteller separat einen 8k-Kontext. Diese Konfigurationen sollten getrennt bleiben: Quantisierung rechtfertigt weder, den Kontext der gewöhnlichen Version auf jeden Checkpoint in einem kleineren Format zu übertragen, noch die konfigurierte Kapazität eines bestimmten Dienstes abzuleiten. Nutzen Sie den Kontext für die Passagen und den Gesprächsverlauf, die für eine definierte Operation relevant sind. Auch ein langes Dokument kann eine kurze Zusammenfassung, eine umformulierte Suchanfrage oder eine quellengestützte Antwort verlangen. Benennen Sie das zu bewahrende Material und die Länge oder Felder, die der nächste Anwendungsschritt benötigt. Retrieval, Zusammenfassungen und Umformulierungen Stellen Sie für eine Zusammenfassung die tatsächliche Passage oder Konversation bereit und geben Sie Zielgruppe, Länge und wesentliche Fakten an. Ein hilfreiches Ergebnis kann Kernproblem, bereits genannte Entscheidungen und offene Fragen trennen. Falls die Quelle mehrere Themen enthält, benennen Sie das zusammenzufassende Thema, statt eine ungerichtete Kürzung aller Inhalte anzufordern. Stellen Sie für Wissensabruf die ausgewählten Quellpassagen oder die von einer Retrieval-Komponente gelieferten Informationen bereit. Fordern Sie die Aussage an, die die Frage beantwortet, sowie die sie stützende Passage. Die Textantwort des Modells kann abgerufene Informationen erklären; das Durchsuchen einer privaten Sammlung bleibt Aufgabe der verbundenen Anwendung. Das Modell erhält diese Sammlung nicht allein durch die Bezeichnung des Anwendungsfalls als Retrieval. Geben Sie für das Umformulieren von Suchanfragen die ursprüngliche Frage und den Suchzweck an. Fordern Sie eine knappe Neuformulierung an, die Entität, Bedingung und gewünschte Information erhält. Eine Supportanfrage kann mit dem maßgeblichen Produktbegriff und der Aktion umformuliert werden, ohne einen in der Nutzernachricht nicht enthaltenen Fakt hinzuzufügen. Geben Sie die überarbeitete Anfrage getrennt von Erklärungen zurück, wenn eine andere Komponente sie direkt verwenden soll. Legen Sie für einen Schreibassistenten Leser, Ton und Quellenfakten fest, bevor Sie einen kurzen Brief oder eine überarbeitete Passage anfordern. Definieren Sie für eine Extraktionsaufgabe die Felder und die Darstellung fehlender Informationen. Dies sind konkrete Operationen, die den dokumentierten Textschwerpunkt des kompakten Modells mit einem überprüfbaren Artefakt verbinden. Unterstützte Sprachen und Training Die offiziell unterstützten Sprachen sind Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Das Modell wird mit einer breiteren Sprachsammlung trainiert; diese unterscheidet sich von den acht ausdrücklich in der Karte unterstützten Sprachen. Benennen Sie die endgültige Sprache und alle unverändert zu haltenden Begriffe oder Kennungen. Die Familie wird mit bis zu neun Billionen Token vortrainiert, mit einem Datenstichtag im Dezember 2023. Für die 1B- und 3B-Modelle verwendet der Hersteller Ausgaben von Llama 3.1 8B und 70B als Trainingsziele auf Tokenebene sowie Wissensdistillation nach dem Pruning. Dies ist ein Trainingsprozess und bedeutet nicht, dass das bereitgestellte 1B-Modell diese größeren Modelle jede Nutzerfrage beantworten lässt. Die Karte beschreibt überwachtes Fine-Tuning und präferenzbasierte Ausrichtung, mit Nachtrainingsrunden aus überwachten Beispielen, Rejection Sampling und Direct Preference Optimization. Diese Stufen erzeugen das Instruct-Verhalten und bewahren zugleich den benannten Checkpoint und die reine Textmodalität. Gespräch und quantisierte Ausgaben Der Hersteller demonstriert separate System- und Nutzernachrichten im passenden Gesprächsformat. Definieren Sie Rolle und Antwortanforderungen des Assistenten getrennt vom tatsächlichen Quelltext. Bewahren Sie die relevante frühere Antwort, wenn ein Folgeauftrag eine Überarbeitung, Klarstellung oder andere Form derselben Information verlangt. Die Veröffentlichung dokumentiert außerdem eigenständige Varianten mit quantisierungsbewusstem Training und nachträglicher Quantisierung. Ihre Präzision und ihr 8k-Kontext gehören zu diesen Varianten und sind keine universelle Spezifikation dieses gewöhnlichen Instruct-Eintrags. Verwenden Sie den genauen Checkpoint und die Konfiguration, wenn Sie eine wiederholte Aufgabe vergleichen oder eine abgeleitete Bereitstellung vorbereiten. Inhaltliche Grenzen Diese 1B-Version ist rein textbasiert. Sie sollte weder Bildeingabe von den 11B- oder 90B-Vision-Modellen von Llama 3.2 noch die Text- und Bildfähigkeiten von Llama 4 oder die benannten Reasoning-Aufwandsstufen von Muse Spark übernehmen. Das Generierungsbeispiel der Karte mit 256 Token ist eine Beispieleinstellung und keine unabhängig angegebene maximale Antwortkapazität. Ein praktisches Abschlussergebnis ist die angeforderte Zusammenfassung, Suchanfrage, extrahierte Aufzeichnung oder umformulierte Textpassage, welche die relevante Bedeutung und die Kennungen der Quelle bewahrt. Die gelesenen Quellen nennen kein separates festes Maximum für Ausgabe-Token. Halten Sie die Aufgabe fokussiert, das Eingabematerial für diese Operation vollständig und die Kontextunterscheidung zwischen gewöhnlicher und quantisierter Ausgabe ausdrücklich fest. Praktische Aufgabe ### Praktische Aufgabe Technisches Beispiel auf Englisch ``` Rewrite a retrieval query Rewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause. ``` #### Erwartetes Ergebnis ``` A single concise retrieval query retaining the product name, symptom and requested information. ``` #### Ergebnis prüfen ``` Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect. ``` **Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` `meta-llama/llama-3.2-1b-instruct` [`meta-llama/llama-3.2-1b-instruct`](https://ailoot.ai/models/de/#m=meta-llama%2Fllama-3.2-1b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.2-1b-instruct&fmt=chat) Meta /`meta-llama/llama-3.2-1b-instruct` ### Start Llama 3.2 1B Instruct ist Metas kompaktes Textmodell mit 1,23 Milliarden Parametern für Dialoge, Zusammenfassungen, Wissensabruf und das Umformulieren von Suchanfragen. Der Hersteller nennt einen Kontext von 128k für die gewöhnliche Version und 8k für separate quantisierte Varianten sowie mehrsprachige Text- und Codeausgabe. Zulässige Eingaben Text Ergebnisse Text ### In Ailoot verfügbar · Eingaben und Methoden **Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` Eingabetypen `text` Ausgabetypen `text` Ausgabeformat json oder SSE | Feld | Typ | Anforderung | Werte und Limits | Standard | | --- | --- | --- | --- | --- | | Feld`model` | Typ`string` | AnforderungErforderlich | Werte und Limits meta-llama/llama-3.2-1b-instruct | Standard— | | Feld`messages` | Typ`message[]` | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— | | Feld`messages[].role` | Typ`string` | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— | | Feld`messages[].content` | Typ`string\|content_part[]\|null` | AnforderungOptional | Werte und Limits | Standard— | | Feld`messages[].tool_calls` | Typ`tool_call[]` | AnforderungOptional | Werte und Limits | Standard— | | Feld`messages[].tool_call_id` | Typ`string` | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— | | Feld`messages[].name` | Typ`string` | AnforderungOptional | Werte und Limits | Standard— | | Feld`messages[].reasoning_content` | Typ`string` | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— | | Feld`messages[].reasoning_details` | Typ`object\|array` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`max_tokens` | Typ`integer` | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— | | Feld`max_completion_tokens` | Typ`integer` | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— | | Feld`stream` | Typ`boolean` | AnforderungOptional | Werte und Limits | Standardfalse | | Feld`stream_options.include_usage` | Typ`boolean` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`temperature` | Typ`number` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`top_p` | Typ`number` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`stop` | Typ`string\|string[]` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`tools` | Typ`function_tool[]` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`tools[].type` | Typ`string` | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— | | Feld`tools[].function.name` | Typ`string` | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— | | Feld`tools[].function.description` | Typ`string` | AnforderungOptional | Werte und Limits | Standard— | | Feld`tools[].function.parameters` | Typ`JSON_schema` | AnforderungOptional | Werte und Limits | Standard— | | Feld`tool_choice` | Typ`string\|object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`parallel_tool_calls` | Typ`boolean` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`response_format` | Typ`object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`reasoning_effort` | Typ`string` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`reasoning` | Typ`object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`service_tier` | Typ`string` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`instructions` | Typ`string` | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— | | Feld`functions` | Typ`function[]` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`function_call` | Typ`string\|object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`prompt_cache_options` | Typ`object` | AnforderungOptional | Werte und Limits Modellabhängig | Standard— | | Feld`modalities` | Typ`string[]` | AnforderungOptional | Werte und Limits text | Standard— | | Feld`provider` | Typ`object` | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— | | Feld`cache_control.ttl` | Typ`string` | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— | Kombinationen von Eingabematerialien **Text** · UTF8-Text `messages[].content` Methodenparameter und Lebenszyklus | Parameter | Vertrag | | --- | --- | | Parameter`content_type` | Vertragapplication/json | | Parameter`required` | Vertragmodel, messages | | Parameter`material_types` | Vertragtext | | Parameter`messages` | VertragNachrichtenarray mit role/content-Struktur | | Parameter`file_material` | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet | | Parameter`optional_controls` | Vertragstream, temperature, top\_p, stop, max\_tokens, max\_completion\_tokens, reasoning, response\_format, tools, tool\_choice | | Parameter`control_scope` | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen | | Parameter`output_modalities` | Vertragtext | | Parameter`hosted_operations` | Vertragfalse | | Parameter`multimodal_input_binding` | Vertragnull | Lebenszyklus: `synchronous_or_streamed` Die genaue Modell-ID zusammen mit messages senden. Die Kontextlänge ist keine Ausgabeobergrenze. Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung. ### Tarife Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode. Schnellmodus Standardtarif Wenn der Schnellmodus ausgewählt ist Flex-Modus Standardtarif Wenn der Modus flex ausgewählt ist Maximaler Denkaufwand Standardtarif Wenn beim maximalen Denkaufwand die Standardanpassung (default) verwendet wird #### Ailoot-Tarife #### Preise nach Konfiguration Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif. | Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr | | --- | --- | --- | --- | --- | | KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken **$0.000054** / 1K Token Ausgabe · Ausgabetoken **$0.000402** / 1K Token Eingabe · Cache-Lesen **—** / 1K Token Eingabe · Cache-Schreiben **—** / 1K Token Eingabe · Cache-Schreiben, 1 Stunde **—** / 1K Token | | KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken **$0.000054** / 1K Token Ausgabe · Ausgabetoken **$0.000402** / 1K Token Eingabe · Cache-Lesen **—** / 1K Token Eingabe · Cache-Schreiben **—** / 1K Token Eingabe · Cache-Schreiben, 1 Stunde **—** / 1K Token | Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. [So funktionieren Reservierung und Abrechnung →](https://ailoot.ai/docs/de/billing/reserve/) ### Beispielanfragen #### Ailoot Ultra · OpenAI Chat curlPython SDKPython-Stream ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "meta-llama/llama-3.2-1b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}') Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path r=json.loads(Path("result.json").read_text()) for x in r.get("choices",[]): if x.get("message",{}).get("content"): print(x["message"]["content"]) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) result=client.chat.completions.create(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(result.to_dict(mode="json")) ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Ergebnisse abrufen und speichern #### Ailoot Ultra · OpenAI Chat json oder SSE ##### Alle fertiggestellten Ergebnisse aufbewahren Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf. Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten. ##### Wenn die ursprüngliche Antwort geprüft werden muss Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben. Antwortfelder | Feld | Typ | | --- | --- | | Feld`choices[].index` | Typinteger | | Feld`choices[].message.content` | Typstring\|null | | Feld`choices[].message.tool_calls` | Typtool\_call\[\] | | Feld`choices[].message.reasoning_content` | Typstring | | Feld`choices[].message.reasoning_details` | Typobject\|array | | Feld`choices[].finish_reason` | Typstring\|null | | Feld`usage` | Typobject | Fehler und nächste Schritte | Antwort | Bedingung | Nächster Schritt | | --- | --- | --- | | Antwort400 · `invalid_request_error` | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. | ### Aliasnamen #### Modellaliasnamen **Ailoot Ultra** [`meta-llama/llama-3.2-1b-instruct`](https://ailoot.ai/models/de/#m=meta-llama%2Fllama-3.2-1b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.2-1b-instruct&fmt=chat) #### Aliasnamen für Methodenpfade Verwenden Sie die oben angezeigten Methodenpfade. #### Zugehörige Aufrufer-IDs [`meta-llama/llama-3.2-1b-instruct`](https://ailoot.ai/models/de/#m=meta-llama%2Fllama-3.2-1b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.2-1b-instruct&fmt=chat) **Ailoot Ultra · Anthropic Messages** `POST /v1/messages` `meta-llama/llama-3.2-1b-instruct` [`meta-llama/llama-3.2-1b-instruct`](https://ailoot.ai/models/de/#m=meta-llama%2Fllama-3.2-1b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.2-1b-instruct&fmt=messages) Meta /`meta-llama/llama-3.2-1b-instruct` ### Start Llama 3.2 1B Instruct ist Metas kompaktes Textmodell mit 1,23 Milliarden Parametern für Dialoge, Zusammenfassungen, Wissensabruf und das Umformulieren von Suchanfragen. Der Hersteller nennt einen Kontext von 128k für die gewöhnliche Version und 8k für separate quantisierte Varianten sowie mehrsprachige Text- und Codeausgabe. Zulässige Eingaben Text Ergebnisse json · sse ### In Ailoot verfügbar · Eingaben und Methoden **Ailoot Ultra · Anthropic Messages** `POST /v1/messages` Eingabetypen `text` Ausgabetypen `json`, `sse` Ausgabeformat JSON oder SSE | Feld | Typ | Anforderung | Werte und Limits | Standard | | --- | --- | --- | --- | --- | | Feld`model` | Typ`string` | AnforderungErforderlich | Werte und Limits meta-llama/llama-3.2-1b-instruct | Standard— | | Feld`messages` | Typ`message[]` | AnforderungErforderlich | Werte und Limits | Standard— | | Feld`messages[].role` | Typ`string` | AnforderungErforderlich | Werte und Limits user, assistant | Standard— | | Feld`messages[].content` | Typ`string` | AnforderungErforderlich | Werte und Limits | Standard— | | Feld`max_tokens` | Typ`integer` | AnforderungErforderlich | Werte und Limits | Standard— | | Feld`stream` | Typ`boolean` | AnforderungOptional | Werte und Limits | Standardfalse | Kombinationen von Eingabematerialien **Text** · UTF-8-Text `Zeichenfolge messages[].content` Methodenparameter und Lebenszyklus | Parameter | Vertrag | | --- | --- | | Parameter`content_type` | Vertragapplication/json | | Parameter`required` | Vertragmodel, messages, max\_tokens | | Parameter`optional_controls` | Vertragstream | | Parameter`material_types` | Vertragtext | | Parameter`text_file_material` | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. | Lebenszyklus: `synchronous_or_streamed` ### Tarife Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode. Schnellmodus Standardtarif Wenn der Schnellmodus ausgewählt ist Flex-Modus Standardtarif Wenn der Modus flex ausgewählt ist Maximaler Denkaufwand Standardtarif Wenn beim maximalen Denkaufwand die Standardanpassung (default) verwendet wird #### Ailoot-Tarife #### Preise nach Konfiguration Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif. | Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr | | --- | --- | --- | --- | --- | | KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken **$0.000054** / 1K Token Ausgabe · Ausgabetoken **$0.000402** / 1K Token Eingabe · Cache-Lesen **—** / 1K Token Eingabe · Cache-Schreiben **—** / 1K Token Eingabe · Cache-Schreiben, 1 Stunde **—** / 1K Token | | KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken **$0.000054** / 1K Token Ausgabe · Ausgabetoken **$0.000402** / 1K Token Eingabe · Cache-Lesen **—** / 1K Token Eingabe · Cache-Schreiben **—** / 1K Token Eingabe · Cache-Schreiben, 1 Stunde **—** / 1K Token | Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. [So funktionieren Reservierung und Abrechnung →](https://ailoot.ai/docs/de/billing/reserve/) ### Beispielanfragen #### Ailoot Ultra · Anthropic Messages Vollständiger minimaler JSON-Bodycurl · eigenes UTF-8-Dokument verwendenPython · das vollständige Ergebnis speichern ```json { "model": "meta-llama/llama-3.2-1b-instruct", "max_tokens": 128, "messages": [ { "role": "user", "content": "Summarize the incident report." } ], "stream": false } ``` ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8') PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \ -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) PY_RESULT ``` ```python import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text from urllib.request import Request, urlopen from urllib.error import HTTPError api_key = os.environ['AILOOT_API_KEY'] if not api_key.strip(): raise SystemExit('Set AILOOT_API_KEY before making a request') headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'} headers['x-api-key'] = api_key request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST') try: with urlopen(request, timeout=120) as response: raw = response.read() Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8') except HTTPError as error: Path('result.json').write_bytes(error.read()) Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8') raise Path('result.json').write_bytes(raw) import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) ``` ### Ergebnisse abrufen und speichern #### Ailoot Ultra · Anthropic Messages JSON oder SSE ##### Alle fertiggestellten Ergebnisse aufbewahren Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf. Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe. ##### Wenn die ursprüngliche Antwort geprüft werden muss Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben. Antwortfelder | Feld | Typ | | --- | --- | | Feld`id` | Typstring | | Feld`model` | Typstring | | Feld`content[]` | Typtext\|thinking\|tool\_use\|other content block | | Feld`stop_reason` | Typstring\|null | | Feld`usage` | Typobject | Fehler und nächste Schritte | Antwort | Bedingung | Nächster Schritt | | --- | --- | --- | | Antwort400 · `invalid_request_error` | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. | ### Aliasnamen #### Modellaliasnamen **Ailoot Ultra** [`meta-llama/llama-3.2-1b-instruct`](https://ailoot.ai/models/de/#m=meta-llama%2Fllama-3.2-1b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.2-1b-instruct&fmt=messages) #### Aliasnamen für Methodenpfade Verwenden Sie die oben angezeigten Methodenpfade. #### Zugehörige Aufrufer-IDs [`meta-llama/llama-3.2-1b-instruct`](https://ailoot.ai/models/de/#m=meta-llama%2Fllama-3.2-1b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.2-1b-instruct&fmt=messages) FAQ · Meta: Llama 3.2 1B Instruct Welche Eingaben und Ergebnisse sind verfügbar? `POST /v1/chat/completions` · `meta-llama/llama-3.2-1b-instruct`: `text` → `text` `POST /v1/messages` · `meta-llama/llama-3.2-1b-instruct`: `text` → `json`, `sse` Welche Felder verwendet die Anfrage? `POST /v1/chat/completions` · `meta-llama/llama-3.2-1b-instruct`: `model`, `messages`, `stream`, `modalities`, `provider` `POST /v1/messages` · `meta-llama/llama-3.2-1b-instruct`: `model`, `messages`, `max_tokens`, `stream` Welche Grenzen gelten? `POST /v1/chat/completions` · `meta-llama/llama-3.2-1b-instruct`: `messages.min_items`: `1` Verbinden Sie Ailoot mit Claude Code, OpenCode, Hermes oder Ihrer eigenen Anwendung. ## Das Unternehmen und sein Projektportfolio Das Unternehmen und sein Projektportfolio: Millionen von Kunden; monatliche Umsätze in Milliardenhöhe. ## Tokens mit Rabatt kaufen. Aborabatt für regelmäßige Arbeit. Aktionscodes bieten bis 50% beim Tokenkauf. Abo Wählen Sie einen Tarif mit Rabatt für Ihre regelmäßigen Anfragen. Aktionscode bis 50% Geben Sie den Code beim Kauf ein. Der Preis wird nach den gültigen Aktionsbedingungen berechnet. Ausgaben in der Historie Modell, Tokens und Betrag werden für jede Anfrage gespeichert. [Abo wählen](https://ailoot.ai/docs/de/billing/subscriptions/) · [Modellpreise ansehen](https://ailoot.ai/models/de/) ## Verbinden Sie die API mit dem Produkt, das Sie verkaufen. SaaS, Anwendungen und Bots nach dem offiziellen Angebot und Lizenzvertrag von Ailoot. Fordern Sie für den Weiterverkauf eine Reseller-Lizenz an. Kommerzielle Anwendung Integrieren Sie Text-, Bild-, Video- und Audioerzeugung in kostenpflichtige Funktionen Ihres Dienstes. Reseller-Lizenz Senden Sie Projektbeschreibung und Zugangsmodell. Fordern Sie schriftliche Nutzungs- und Weiterverkaufsbedingungen an. Dokumente auf der Website Offizielles Angebot, Lizenzvertrag und Datenschutzerklärung sind vor der Verbindung zugänglich. [Reseller-Lizenz anfordern](mailto:support@ailoot.ai) · [Offizielles Angebot und Lizenzvertrag](https://ailoot.ai/legal/offer?lang=de) ## Ailoot · Das Unternehmen und sein Projektportfolio Ailoot baut auf bewährte Betriebserfahrung, einen großen Kundenstamm, stabilen Service und kontinuierliche KPI-Kontrolle. Das Unternehmen und sein Projektportfolio: Millionen von Kunden; monatliche Umsätze in Milliardenhöhe. Ailoot nutzt diese Betriebserfahrung für den API-Zugang zu KI-Funktionen in Kundenprodukten, Agenten, Anwendungen und Automatisierungen.