Llama 3.2 1B Instruct ist Metas kompaktes anweisungsoptimiertes Textmodell mit einer in der Herstellertabelle genannten Parameterzahl von 1.23 Milliarden. Es akzeptiert mehrsprachigen Text und liefert Text oder Code zurück. Die Version ist für Dialog, Wissensabruf, Zusammenfassung, mobile Schreibassistenten und das Umformulieren von Suchanfragen oder Prompts vorgesehen, statt für die Bildverständnisaufgaben der separaten Vision-Versionen von Llama.
Modellinformationen und Kontext
Das Modell verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention und gemeinsamen Embeddings. Meta unterscheidet vortrainierte und anweisungsoptimierte 1B- und 3B-Modelle. Dieser Eintrag betrifft den 1B-Instruct-Checkpoint, dessen Aufgabe darin besteht, der Nutzeranfrage in einem Gespräch zu folgen, statt als vortrainierte Grundlage zu dienen.
Die gewöhnliche Textversion ist mit einem 128k-Kontext dokumentiert. Der Hersteller nennt separat einen 8k-Kontext für seine quantisierten Textmodelle. Diese Konfigurationen müssen getrennt bleiben: Quantisierung berechtigt nicht dazu, den Kontext der gewöhnlichen Version auf jeden Checkpoint in einem kleineren Format zu übertragen oder daraus die konfigurierte Kapazität eines bestimmten Dienstes abzuleiten.
Nutze den Kontext für Textstellen und Gesprächsverlauf, die für eine definierte Operation relevant sind. Auch ein langes Dokument kann eine kurze Zusammenfassung, eine umformulierte Suchanfrage oder eine quellenbasierte Antwort verlangen. Benenne das Material, das das Ergebnis bewahren muss, sowie die Länge oder die Felder, die der nächste Anwendungsschritt braucht.
Retrieval, Zusammenfassungen und Umformulierungen
Liefere für eine Zusammenfassung die tatsächliche Textstelle oder das Gespräch und lege Zielgruppe, Länge und wesentliche Fakten fest. Ein nützliches Ergebnis kann das zentrale Problem, bereits genannte Entscheidungen und offene Fragen trennen. Wenn die Quelle mehrere Themen enthält, benenne das zusammenzufassende Thema, statt eine ungerichtete Kürzung von allem zu verlangen.
Liefere für Wissensabruf die ausgewählten Quellenpassagen oder die von einer Retrieval-Komponente zurückgegebenen Informationen. Verlange die Aussage, die die Frage beantwortet, und die stützende Textstelle. Die Textantwort des Modells kann abgerufene Informationen erklären; das Durchsuchen einer privaten Sammlung bleibt Aufgabe der angebundenen Anwendung. Allein die Bezeichnung des Retrieval-Anwendungsfalls verschafft dem Modell keinen Zugriff auf diese Sammlung.
Gib für das Umformulieren einer Suchanfrage die ursprüngliche Frage und den Suchzweck an. Verlange eine knappe Neuformulierung, die Entität, Bedingung und gewünschte Information bewahrt. Eine Supportanfrage kann mit dem massgeblichen Produktbegriff und der Aktion umformuliert werden, ohne eine in der Nutzernachricht nicht enthaltene Tatsache hinzuzufügen. Gib die überarbeitete Anfrage getrennt von einer Erklärung zurück, wenn eine andere Komponente sie direkt verwendet.
Lege für einen Schreibassistenten Leser, Ton und Quellenfakten fest, bevor du einen kurzen Brief oder eine überarbeitete Textstelle verlangst. Definiere für eine Extraktionsaufgabe die Felder und die Darstellung fehlender Informationen. Das sind konkrete Operationen, die den dokumentierten Textschwerpunkt des kompakten Modells mit einem überprüfbaren Ergebnis verbinden.
Unterstützte Sprachen und Training
Die offiziell unterstützten Sprachen sind Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Das Modell wurde mit einer breiteren Sprachsammlung trainiert; diese unterscheidet sich von den acht Sprachen, die die Karte ausdrücklich unterstützt. Benenne die Zielsprache und alle Begriffe oder Bezeichner, die unverändert bleiben müssen.
Die Familie wird mit bis zu neun Billionen Tokens vortrainiert, mit einem Datenstichtag im Dezember 2023. Für die 1B- und 3B-Modelle verwendet der Hersteller Ausgaben von Llama 3.1 8B und 70B als Trainingsziele auf Tokenebene und Wissensdistillation nach der Beschneidung. Das ist ein Trainingsprozess und bedeutet nicht, dass das bereitgestellte 1B-Modell diese grösseren Modelle um die Beantwortung jeder Nutzerfrage bittet.
Die Karte beschreibt überwachtes Fine-Tuning und präferenzbasierte Ausrichtung mit Nachtrainingsrunden aus überwachten Beispielen, Rejection Sampling und Direct Preference Optimization. Diese Phasen erzeugen das Instruct-Verhalten und bewahren dabei den benannten Checkpoint und die reine Textmodalität.
Gespräch und quantisierte Ausgaben
Der Hersteller zeigt separate System- und Nutzernachrichten mit dem passenden Gesprächsformat. Definiere die Assistentenrolle und Antwortanforderungen getrennt vom tatsächlichen Quelltext. Bewahre die relevante frühere Antwort, wenn eine Folgefrage eine Überarbeitung, Klärung oder andere Form derselben Information verlangt.
Die Veröffentlichung dokumentiert auch eigenständige quantisierungsbewusste und nach dem Training quantisierte Varianten. Ihre Präzision und ihr 8k-Kontext gehören zu diesen Varianten und sind keine allgemeine Spezifikation für diesen gewöhnlichen Instruct-Eintrag. Verwende beim Vergleich einer wiederholten Aufgabe oder beim Vorbereiten einer abgeleiteten Bereitstellung den genauen Checkpoint und die genaue Konfiguration.
Inhaltliche Grenzen
Diese 1B-Version ist rein textbasiert. Sie sollte weder die Bildeingabe der 11B- oder 90B-Bildmodelle von Llama 3.2 noch die Text- und Bildfähigkeiten von Llama 4 oder die benannten Reasoning-Aufwandsstufen von Muse Spark übernehmen. Das Generierungsbeispiel mit 256 Tokens auf der Karte ist eine Beispieleinstellung und keine unabhängig genannte maximale Antwortkapazität.
Ein praktisches Endergebnis ist die verlangte Zusammenfassung, Suchanfrage, der extrahierte Datensatz oder umformulierte Text, wobei die relevante Bedeutung und die Bezeichner der Quelle erhalten bleiben. Die gelesenen Quellen nennen kein separates hartes Maximum für Ausgabetokens. Halte die Aufgabe fokussiert, das Eingabematerial für diese Operation vollständig und die Kontextunterscheidung zwischen gewöhnlicher und quantisierter Version ausdrücklich fest.
", "aboutText": "Llama 3.2 1B Instruct ist Metas kompaktes anweisungsoptimiertes Textmodell mit einer in der Herstellertabelle genannten Parameterzahl von 1.23 Milliarden. Es akzeptiert mehrsprachigen Text und liefert Text oder Code zurück. Die Version ist für Dialog, Wissensabruf, Zusammenfassung, mobile Schreibassistenten und das Umformulieren von Suchanfragen oder Prompts vorgesehen, statt für die Bildverständnisaufgaben der separaten Vision-Versionen von Llama.\n\nModellinformationen und Kontext\n\nDas Modell verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention und gemeinsamen Embeddings. Meta unterscheidet vortrainierte und anweisungsoptimierte 1B- und 3B-Modelle. Dieser Eintrag betrifft den 1B-Instruct-Checkpoint, dessen Aufgabe darin besteht, der Nutzeranfrage in einem Gespräch zu folgen, statt als vortrainierte Grundlage zu dienen.\n\nDie gewöhnliche Textversion ist mit einem 128k-Kontext dokumentiert. Der Hersteller nennt separat einen 8k-Kontext für seine quantisierten Textmodelle. Diese Konfigurationen müssen getrennt bleiben: Quantisierung berechtigt nicht dazu, den Kontext der gewöhnlichen Version auf jeden Checkpoint in einem kleineren Format zu übertragen oder daraus die konfigurierte Kapazität eines bestimmten Dienstes abzuleiten.\n\nNutze den Kontext für Textstellen und Gesprächsverlauf, die für eine definierte Operation relevant sind. Auch ein langes Dokument kann eine kurze Zusammenfassung, eine umformulierte Suchanfrage oder eine quellenbasierte Antwort verlangen. Benenne das Material, das das Ergebnis bewahren muss, sowie die Länge oder die Felder, die der nächste Anwendungsschritt braucht.\n\nRetrieval, Zusammenfassungen und Umformulierungen\n\nLiefere für eine Zusammenfassung die tatsächliche Textstelle oder das Gespräch und lege Zielgruppe, Länge und wesentliche Fakten fest. Ein nützliches Ergebnis kann das zentrale Problem, bereits genannte Entscheidungen und offene Fragen trennen. Wenn die Quelle mehrere Themen enthält, benenne das zusammenzufassende Thema, statt eine ungerichtete Kürzung von allem zu verlangen.\n\nLiefere für Wissensabruf die ausgewählten Quellenpassagen oder die von einer Retrieval-Komponente zurückgegebenen Informationen. Verlange die Aussage, die die Frage beantwortet, und die stützende Textstelle. Die Textantwort des Modells kann abgerufene Informationen erklären; das Durchsuchen einer privaten Sammlung bleibt Aufgabe der angebundenen Anwendung. Allein die Bezeichnung des Retrieval-Anwendungsfalls verschafft dem Modell keinen Zugriff auf diese Sammlung.\n\nGib für das Umformulieren einer Suchanfrage die ursprüngliche Frage und den Suchzweck an. Verlange eine knappe Neuformulierung, die Entität, Bedingung und gewünschte Information bewahrt. Eine Supportanfrage kann mit dem massgeblichen Produktbegriff und der Aktion umformuliert werden, ohne eine in der Nutzernachricht nicht enthaltene Tatsache hinzuzufügen. Gib die überarbeitete Anfrage getrennt von einer Erklärung zurück, wenn eine andere Komponente sie direkt verwendet.\n\nLege für einen Schreibassistenten Leser, Ton und Quellenfakten fest, bevor du einen kurzen Brief oder eine überarbeitete Textstelle verlangst. Definiere für eine Extraktionsaufgabe die Felder und die Darstellung fehlender Informationen. Das sind konkrete Operationen, die den dokumentierten Textschwerpunkt des kompakten Modells mit einem überprüfbaren Ergebnis verbinden.\n\nUnterstützte Sprachen und Training\n\nDie offiziell unterstützten Sprachen sind Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Das Modell wurde mit einer breiteren Sprachsammlung trainiert; diese unterscheidet sich von den acht Sprachen, die die Karte ausdrücklich unterstützt. Benenne die Zielsprache und alle Begriffe oder Bezeichner, die unverändert bleiben müssen.\n\nDie Familie wird mit bis zu neun Billionen Tokens vortrainiert, mit einem Datenstichtag im Dezember 2023. Für die 1B- und 3B-Modelle verwendet der Hersteller Ausgaben von Llama 3.1 8B und 70B als Trainingsziele auf Tokenebene und Wissensdistillation nach der Beschneidung. Das ist ein Trainingsprozess und bedeutet nicht, dass das bereitgestellte 1B-Modell diese grösseren Modelle um die Beantwortung jeder Nutzerfrage bittet.\n\nDie Karte beschreibt überwachtes Fine-Tuning und präferenzbasierte Ausrichtung mit Nachtrainingsrunden aus überwachten Beispielen, Rejection Sampling und Direct Preference Optimization. Diese Phasen erzeugen das Instruct-Verhalten und bewahren dabei den benannten Checkpoint und die reine Textmodalität.\n\nGespräch und quantisierte Ausgaben\n\nDer Hersteller zeigt separate System- und Nutzernachrichten mit dem passenden Gesprächsformat. Definiere die Assistentenrolle und Antwortanforderungen getrennt vom tatsächlichen Quelltext. Bewahre die relevante frühere Antwort, wenn eine Folgefrage eine Überarbeitung, Klärung oder andere Form derselben Information verlangt.\n\nDie Veröffentlichung dokumentiert auch eigenständige quantisierungsbewusste und nach dem Training quantisierte Varianten. Ihre Präzision und ihr 8k-Kontext gehören zu diesen Varianten und sind keine allgemeine Spezifikation für diesen gewöhnlichen Instruct-Eintrag. Verwende beim Vergleich einer wiederholten Aufgabe oder beim Vorbereiten einer abgeleiteten Bereitstellung den genauen Checkpoint und die genaue Konfiguration.\n\nInhaltliche Grenzen\n\nDiese 1B-Version ist rein textbasiert. Sie sollte weder die Bildeingabe der 11B- oder 90B-Bildmodelle von Llama 3.2 noch die Text- und Bildfähigkeiten von Llama 4 oder die benannten Reasoning-Aufwandsstufen von Muse Spark übernehmen. Das Generierungsbeispiel mit 256 Tokens auf der Karte ist eine Beispieleinstellung und keine unabhängig genannte maximale Antwortkapazität.\n\nEin praktisches Endergebnis ist die verlangte Zusammenfassung, Suchanfrage, der extrahierte Datensatz oder umformulierte Text, wobei die relevante Bedeutung und die Bezeichner der Quelle erhalten bleiben. Die gelesenen Quellen nennen kein separates hartes Maximum für Ausgabetokens. Halte die Aufgabe fokussiert, das Eingabematerial für diese Operation vollständig und die Kontextunterscheidung zwischen gewöhnlicher und quantisierter Version ausdrücklich fest.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct ist Metas kompaktes 1.23B-Textmodell für Dialog, Zusammenfassung, Wissensabruf und das Umformulieren von Suchanfragen. Der Hersteller nennt einen 128k-Kontext für die gewöhnliche Version und 8k für separate quantisierte Varianten, mit mehrsprachiger Text- und Codeausgabe.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama 3.2 1B Instruct ist Metas kompaktes anweisungsoptimiertes Textmodell mit einer in der Herstellertabelle genannten Parameterzahl von 1.23 Milliarden. Es akzeptiert mehrsprachigen Text und liefert Text oder Code zurück. Die Version ist für Dialog, Wissensabruf, Zusammenfassung, mobile Schreibassistenten und das Umformulieren von Suchanfragen oder Prompts vorgesehen, statt für die Bildverständnisaufgaben der separaten Vision-Versionen von Llama.
Modellinformationen und Kontext
Das Modell verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention und gemeinsamen Embeddings. Meta unterscheidet vortrainierte und anweisungsoptimierte 1B- und 3B-Modelle. Dieser Eintrag betrifft den 1B-Instruct-Checkpoint, dessen Aufgabe darin besteht, der Nutzeranfrage in einem Gespräch zu folgen, statt als vortrainierte Grundlage zu dienen.
Die gewöhnliche Textversion ist mit einem 128k-Kontext dokumentiert. Der Hersteller nennt separat einen 8k-Kontext für seine quantisierten Textmodelle. Diese Konfigurationen müssen getrennt bleiben: Quantisierung berechtigt nicht dazu, den Kontext der gewöhnlichen Version auf jeden Checkpoint in einem kleineren Format zu übertragen oder daraus die konfigurierte Kapazität eines bestimmten Dienstes abzuleiten.
Nutze den Kontext für Textstellen und Gesprächsverlauf, die für eine definierte Operation relevant sind. Auch ein langes Dokument kann eine kurze Zusammenfassung, eine umformulierte Suchanfrage oder eine quellenbasierte Antwort verlangen. Benenne das Material, das das Ergebnis bewahren muss, sowie die Länge oder die Felder, die der nächste Anwendungsschritt braucht.
Retrieval, Zusammenfassungen und Umformulierungen
Liefere für eine Zusammenfassung die tatsächliche Textstelle oder das Gespräch und lege Zielgruppe, Länge und wesentliche Fakten fest. Ein nützliches Ergebnis kann das zentrale Problem, bereits genannte Entscheidungen und offene Fragen trennen. Wenn die Quelle mehrere Themen enthält, benenne das zusammenzufassende Thema, statt eine ungerichtete Kürzung von allem zu verlangen.
Liefere für Wissensabruf die ausgewählten Quellenpassagen oder die von einer Retrieval-Komponente zurückgegebenen Informationen. Verlange die Aussage, die die Frage beantwortet, und die stützende Textstelle. Die Textantwort des Modells kann abgerufene Informationen erklären; das Durchsuchen einer privaten Sammlung bleibt Aufgabe der angebundenen Anwendung. Allein die Bezeichnung des Retrieval-Anwendungsfalls verschafft dem Modell keinen Zugriff auf diese Sammlung.
Gib für das Umformulieren einer Suchanfrage die ursprüngliche Frage und den Suchzweck an. Verlange eine knappe Neuformulierung, die Entität, Bedingung und gewünschte Information bewahrt. Eine Supportanfrage kann mit dem massgeblichen Produktbegriff und der Aktion umformuliert werden, ohne eine in der Nutzernachricht nicht enthaltene Tatsache hinzuzufügen. Gib die überarbeitete Anfrage getrennt von einer Erklärung zurück, wenn eine andere Komponente sie direkt verwendet.
Lege für einen Schreibassistenten Leser, Ton und Quellenfakten fest, bevor du einen kurzen Brief oder eine überarbeitete Textstelle verlangst. Definiere für eine Extraktionsaufgabe die Felder und die Darstellung fehlender Informationen. Das sind konkrete Operationen, die den dokumentierten Textschwerpunkt des kompakten Modells mit einem überprüfbaren Ergebnis verbinden.
Unterstützte Sprachen und Training
Die offiziell unterstützten Sprachen sind Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Das Modell wurde mit einer breiteren Sprachsammlung trainiert; diese unterscheidet sich von den acht Sprachen, die die Karte ausdrücklich unterstützt. Benenne die Zielsprache und alle Begriffe oder Bezeichner, die unverändert bleiben müssen.
Die Familie wird mit bis zu neun Billionen Tokens vortrainiert, mit einem Datenstichtag im Dezember 2023. Für die 1B- und 3B-Modelle verwendet der Hersteller Ausgaben von Llama 3.1 8B und 70B als Trainingsziele auf Tokenebene und Wissensdistillation nach der Beschneidung. Das ist ein Trainingsprozess und bedeutet nicht, dass das bereitgestellte 1B-Modell diese grösseren Modelle um die Beantwortung jeder Nutzerfrage bittet.
Die Karte beschreibt überwachtes Fine-Tuning und präferenzbasierte Ausrichtung mit Nachtrainingsrunden aus überwachten Beispielen, Rejection Sampling und Direct Preference Optimization. Diese Phasen erzeugen das Instruct-Verhalten und bewahren dabei den benannten Checkpoint und die reine Textmodalität.
Gespräch und quantisierte Ausgaben
Der Hersteller zeigt separate System- und Nutzernachrichten mit dem passenden Gesprächsformat. Definiere die Assistentenrolle und Antwortanforderungen getrennt vom tatsächlichen Quelltext. Bewahre die relevante frühere Antwort, wenn eine Folgefrage eine Überarbeitung, Klärung oder andere Form derselben Information verlangt.
Die Veröffentlichung dokumentiert auch eigenständige quantisierungsbewusste und nach dem Training quantisierte Varianten. Ihre Präzision und ihr 8k-Kontext gehören zu diesen Varianten und sind keine allgemeine Spezifikation für diesen gewöhnlichen Instruct-Eintrag. Verwende beim Vergleich einer wiederholten Aufgabe oder beim Vorbereiten einer abgeleiteten Bereitstellung den genauen Checkpoint und die genaue Konfiguration.
Inhaltliche Grenzen
Diese 1B-Version ist rein textbasiert. Sie sollte weder die Bildeingabe der 11B- oder 90B-Bildmodelle von Llama 3.2 noch die Text- und Bildfähigkeiten von Llama 4 oder die benannten Reasoning-Aufwandsstufen von Muse Spark übernehmen. Das Generierungsbeispiel mit 256 Tokens auf der Karte ist eine Beispieleinstellung und keine unabhängig genannte maximale Antwortkapazität.
Ein praktisches Endergebnis ist die verlangte Zusammenfassung, Suchanfrage, der extrahierte Datensatz oder umformulierte Text, wobei die relevante Bedeutung und die Bezeichner der Quelle erhalten bleiben. Die gelesenen Quellen nennen kein separates hartes Maximum für Ausgabetokens. Halte die Aufgabe fokussiert, das Eingabematerial für diese Operation vollständig und die Kontextunterscheidung zwischen gewöhnlicher und quantisierter Version ausdrücklich fest.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits meta-llama/llama-3.2-1b-instruct | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschliesslich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.000054 / 1K Tokens Ausgabe · Ausgabetoken $0.000402 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.000054 / 1K Tokens Ausgabe · Ausgabetoken $0.000402 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-1b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Verwenden Sie die oben angezeigten Methodenpfade.
meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct ist Metas kompaktes 1.23B-Textmodell für Dialog, Zusammenfassung, Wissensabruf und das Umformulieren von Suchanfragen. Der Hersteller nennt einen 128k-Kontext für die gewöhnliche Version und 8k für separate quantisierte Varianten, mit mehrsprachiger Text- und Codeausgabe.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama 3.2 1B Instruct ist Metas kompaktes anweisungsoptimiertes Textmodell mit einer in der Herstellertabelle genannten Parameterzahl von 1.23 Milliarden. Es akzeptiert mehrsprachigen Text und liefert Text oder Code zurück. Die Version ist für Dialog, Wissensabruf, Zusammenfassung, mobile Schreibassistenten und das Umformulieren von Suchanfragen oder Prompts vorgesehen, statt für die Bildverständnisaufgaben der separaten Vision-Versionen von Llama.
Modellinformationen und Kontext
Das Modell verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention und gemeinsamen Embeddings. Meta unterscheidet vortrainierte und anweisungsoptimierte 1B- und 3B-Modelle. Dieser Eintrag betrifft den 1B-Instruct-Checkpoint, dessen Aufgabe darin besteht, der Nutzeranfrage in einem Gespräch zu folgen, statt als vortrainierte Grundlage zu dienen.
Die gewöhnliche Textversion ist mit einem 128k-Kontext dokumentiert. Der Hersteller nennt separat einen 8k-Kontext für seine quantisierten Textmodelle. Diese Konfigurationen müssen getrennt bleiben: Quantisierung berechtigt nicht dazu, den Kontext der gewöhnlichen Version auf jeden Checkpoint in einem kleineren Format zu übertragen oder daraus die konfigurierte Kapazität eines bestimmten Dienstes abzuleiten.
Nutze den Kontext für Textstellen und Gesprächsverlauf, die für eine definierte Operation relevant sind. Auch ein langes Dokument kann eine kurze Zusammenfassung, eine umformulierte Suchanfrage oder eine quellenbasierte Antwort verlangen. Benenne das Material, das das Ergebnis bewahren muss, sowie die Länge oder die Felder, die der nächste Anwendungsschritt braucht.
Retrieval, Zusammenfassungen und Umformulierungen
Liefere für eine Zusammenfassung die tatsächliche Textstelle oder das Gespräch und lege Zielgruppe, Länge und wesentliche Fakten fest. Ein nützliches Ergebnis kann das zentrale Problem, bereits genannte Entscheidungen und offene Fragen trennen. Wenn die Quelle mehrere Themen enthält, benenne das zusammenzufassende Thema, statt eine ungerichtete Kürzung von allem zu verlangen.
Liefere für Wissensabruf die ausgewählten Quellenpassagen oder die von einer Retrieval-Komponente zurückgegebenen Informationen. Verlange die Aussage, die die Frage beantwortet, und die stützende Textstelle. Die Textantwort des Modells kann abgerufene Informationen erklären; das Durchsuchen einer privaten Sammlung bleibt Aufgabe der angebundenen Anwendung. Allein die Bezeichnung des Retrieval-Anwendungsfalls verschafft dem Modell keinen Zugriff auf diese Sammlung.
Gib für das Umformulieren einer Suchanfrage die ursprüngliche Frage und den Suchzweck an. Verlange eine knappe Neuformulierung, die Entität, Bedingung und gewünschte Information bewahrt. Eine Supportanfrage kann mit dem massgeblichen Produktbegriff und der Aktion umformuliert werden, ohne eine in der Nutzernachricht nicht enthaltene Tatsache hinzuzufügen. Gib die überarbeitete Anfrage getrennt von einer Erklärung zurück, wenn eine andere Komponente sie direkt verwendet.
Lege für einen Schreibassistenten Leser, Ton und Quellenfakten fest, bevor du einen kurzen Brief oder eine überarbeitete Textstelle verlangst. Definiere für eine Extraktionsaufgabe die Felder und die Darstellung fehlender Informationen. Das sind konkrete Operationen, die den dokumentierten Textschwerpunkt des kompakten Modells mit einem überprüfbaren Ergebnis verbinden.
Unterstützte Sprachen und Training
Die offiziell unterstützten Sprachen sind Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Das Modell wurde mit einer breiteren Sprachsammlung trainiert; diese unterscheidet sich von den acht Sprachen, die die Karte ausdrücklich unterstützt. Benenne die Zielsprache und alle Begriffe oder Bezeichner, die unverändert bleiben müssen.
Die Familie wird mit bis zu neun Billionen Tokens vortrainiert, mit einem Datenstichtag im Dezember 2023. Für die 1B- und 3B-Modelle verwendet der Hersteller Ausgaben von Llama 3.1 8B und 70B als Trainingsziele auf Tokenebene und Wissensdistillation nach der Beschneidung. Das ist ein Trainingsprozess und bedeutet nicht, dass das bereitgestellte 1B-Modell diese grösseren Modelle um die Beantwortung jeder Nutzerfrage bittet.
Die Karte beschreibt überwachtes Fine-Tuning und präferenzbasierte Ausrichtung mit Nachtrainingsrunden aus überwachten Beispielen, Rejection Sampling und Direct Preference Optimization. Diese Phasen erzeugen das Instruct-Verhalten und bewahren dabei den benannten Checkpoint und die reine Textmodalität.
Gespräch und quantisierte Ausgaben
Der Hersteller zeigt separate System- und Nutzernachrichten mit dem passenden Gesprächsformat. Definiere die Assistentenrolle und Antwortanforderungen getrennt vom tatsächlichen Quelltext. Bewahre die relevante frühere Antwort, wenn eine Folgefrage eine Überarbeitung, Klärung oder andere Form derselben Information verlangt.
Die Veröffentlichung dokumentiert auch eigenständige quantisierungsbewusste und nach dem Training quantisierte Varianten. Ihre Präzision und ihr 8k-Kontext gehören zu diesen Varianten und sind keine allgemeine Spezifikation für diesen gewöhnlichen Instruct-Eintrag. Verwende beim Vergleich einer wiederholten Aufgabe oder beim Vorbereiten einer abgeleiteten Bereitstellung den genauen Checkpoint und die genaue Konfiguration.
Inhaltliche Grenzen
Diese 1B-Version ist rein textbasiert. Sie sollte weder die Bildeingabe der 11B- oder 90B-Bildmodelle von Llama 3.2 noch die Text- und Bildfähigkeiten von Llama 4 oder die benannten Reasoning-Aufwandsstufen von Muse Spark übernehmen. Das Generierungsbeispiel mit 256 Tokens auf der Karte ist eine Beispieleinstellung und keine unabhängig genannte maximale Antwortkapazität.
Ein praktisches Endergebnis ist die verlangte Zusammenfassung, Suchanfrage, der extrahierte Datensatz oder umformulierte Text, wobei die relevante Bedeutung und die Bezeichner der Quelle erhalten bleiben. Die gelesenen Quellen nennen kein separates hartes Maximum für Ausgabetokens. Halte die Aufgabe fokussiert, das Eingabematerial für diese Operation vollständig und die Kontextunterscheidung zwischen gewöhnlicher und quantisierter Version ausdrücklich fest.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits meta-llama/llama-3.2-1b-instruct | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschliesslich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.000054 / 1K Tokens Ausgabe · Ausgabetoken $0.000402 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.000054 / 1K Tokens Ausgabe · Ausgabetoken $0.000402 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "meta-llama/llama-3.2-1b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.