Llama 3.2 1B Instruct ist Metas kompaktes, auf Anweisungen abgestimmtes Textmodell mit laut Herstellertabelle 1,23 Milliarden Parametern. Es nimmt mehrsprachigen Text entgegen und gibt Text oder Code zurück. Die Version ist für Dialoge, Wissensabruf, Zusammenfassungen, mobile Schreibassistenten und das Umformulieren von Suchanfragen oder Prompts vorgesehen, statt für die Bildverständnisaufgaben der separaten Vision-Ausgaben von Llama.
Modellinformationen und Kontext
Das Modell verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention und gemeinsam genutzten Embeddings. Meta unterscheidet vortrainierte und auf Anweisungen abgestimmte 1B- und 3B-Modelle. Dieser Eintrag betrifft den 1B-Instruct-Checkpoint, dessen Aufgabe darin besteht, der Nutzeranfrage in einem Gespräch zu folgen, statt als vortrainierte Grundlage zu dienen.
Die gewöhnliche Textversion ist mit einem 128k-Kontext dokumentiert. Für seine quantisierten Textmodelle nennt der Hersteller separat einen 8k-Kontext. Diese Konfigurationen sollten getrennt bleiben: Quantisierung rechtfertigt weder, den Kontext der gewöhnlichen Version auf jeden Checkpoint in einem kleineren Format zu übertragen, noch die konfigurierte Kapazität eines bestimmten Dienstes abzuleiten.
Nutzen Sie den Kontext für die Passagen und den Gesprächsverlauf, die für eine definierte Operation relevant sind. Auch ein langes Dokument kann eine kurze Zusammenfassung, eine umformulierte Suchanfrage oder eine quellengestützte Antwort verlangen. Benennen Sie das zu bewahrende Material und die Länge oder Felder, die der nächste Anwendungsschritt benötigt.
Retrieval, Zusammenfassungen und Umformulierungen
Stellen Sie für eine Zusammenfassung die tatsächliche Passage oder Konversation bereit und geben Sie Zielgruppe, Länge und wesentliche Fakten an. Ein hilfreiches Ergebnis kann Kernproblem, bereits genannte Entscheidungen und offene Fragen trennen. Falls die Quelle mehrere Themen enthält, benennen Sie das zusammenzufassende Thema, statt eine ungerichtete Kürzung aller Inhalte anzufordern.
Stellen Sie für Wissensabruf die ausgewählten Quellpassagen oder die von einer Retrieval-Komponente gelieferten Informationen bereit. Fordern Sie die Aussage an, die die Frage beantwortet, sowie die sie stützende Passage. Die Textantwort des Modells kann abgerufene Informationen erklären; das Durchsuchen einer privaten Sammlung bleibt Aufgabe der verbundenen Anwendung. Das Modell erhält diese Sammlung nicht allein durch die Bezeichnung des Anwendungsfalls als Retrieval.
Geben Sie für das Umformulieren von Suchanfragen die ursprüngliche Frage und den Suchzweck an. Fordern Sie eine knappe Neuformulierung an, die Entität, Bedingung und gewünschte Information erhält. Eine Supportanfrage kann mit dem maßgeblichen Produktbegriff und der Aktion umformuliert werden, ohne einen in der Nutzernachricht nicht enthaltenen Fakt hinzuzufügen. Geben Sie die überarbeitete Anfrage getrennt von Erklärungen zurück, wenn eine andere Komponente sie direkt verwenden soll.
Legen Sie für einen Schreibassistenten Leser, Ton und Quellenfakten fest, bevor Sie einen kurzen Brief oder eine überarbeitete Passage anfordern. Definieren Sie für eine Extraktionsaufgabe die Felder und die Darstellung fehlender Informationen. Dies sind konkrete Operationen, die den dokumentierten Textschwerpunkt des kompakten Modells mit einem überprüfbaren Artefakt verbinden.
Unterstützte Sprachen und Training
Die offiziell unterstützten Sprachen sind Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Das Modell wird mit einer breiteren Sprachsammlung trainiert; diese unterscheidet sich von den acht ausdrücklich in der Karte unterstützten Sprachen. Benennen Sie die endgültige Sprache und alle unverändert zu haltenden Begriffe oder Kennungen.
Die Familie wird mit bis zu neun Billionen Token vortrainiert, mit einem Datenstichtag im Dezember 2023. Für die 1B- und 3B-Modelle verwendet der Hersteller Ausgaben von Llama 3.1 8B und 70B als Trainingsziele auf Tokenebene sowie Wissensdistillation nach dem Pruning. Dies ist ein Trainingsprozess und bedeutet nicht, dass das bereitgestellte 1B-Modell diese größeren Modelle jede Nutzerfrage beantworten lässt.
Die Karte beschreibt überwachtes Fine-Tuning und präferenzbasierte Ausrichtung, mit Nachtrainingsrunden aus überwachten Beispielen, Rejection Sampling und Direct Preference Optimization. Diese Stufen erzeugen das Instruct-Verhalten und bewahren zugleich den benannten Checkpoint und die reine Textmodalität.
Gespräch und quantisierte Ausgaben
Der Hersteller demonstriert separate System- und Nutzernachrichten im passenden Gesprächsformat. Definieren Sie Rolle und Antwortanforderungen des Assistenten getrennt vom tatsächlichen Quelltext. Bewahren Sie die relevante frühere Antwort, wenn ein Folgeauftrag eine Überarbeitung, Klarstellung oder andere Form derselben Information verlangt.
Die Veröffentlichung dokumentiert außerdem eigenständige Varianten mit quantisierungsbewusstem Training und nachträglicher Quantisierung. Ihre Präzision und ihr 8k-Kontext gehören zu diesen Varianten und sind keine universelle Spezifikation dieses gewöhnlichen Instruct-Eintrags. Verwenden Sie den genauen Checkpoint und die Konfiguration, wenn Sie eine wiederholte Aufgabe vergleichen oder eine abgeleitete Bereitstellung vorbereiten.
Inhaltliche Grenzen
Diese 1B-Version ist rein textbasiert. Sie sollte weder Bildeingabe von den 11B- oder 90B-Vision-Modellen von Llama 3.2 noch die Text- und Bildfähigkeiten von Llama 4 oder die benannten Reasoning-Aufwandsstufen von Muse Spark übernehmen. Das Generierungsbeispiel der Karte mit 256 Token ist eine Beispieleinstellung und keine unabhängig angegebene maximale Antwortkapazität.
Ein praktisches Abschlussergebnis ist die angeforderte Zusammenfassung, Suchanfrage, extrahierte Aufzeichnung oder umformulierte Textpassage, welche die relevante Bedeutung und die Kennungen der Quelle bewahrt. Die gelesenen Quellen nennen kein separates festes Maximum für Ausgabe-Token. Halten Sie die Aufgabe fokussiert, das Eingabematerial für diese Operation vollständig und die Kontextunterscheidung zwischen gewöhnlicher und quantisierter Ausgabe ausdrücklich fest.
", "aboutText": "Llama 3.2 1B Instruct ist Metas kompaktes, auf Anweisungen abgestimmtes Textmodell mit laut Herstellertabelle 1,23 Milliarden Parametern. Es nimmt mehrsprachigen Text entgegen und gibt Text oder Code zurück. Die Version ist für Dialoge, Wissensabruf, Zusammenfassungen, mobile Schreibassistenten und das Umformulieren von Suchanfragen oder Prompts vorgesehen, statt für die Bildverständnisaufgaben der separaten Vision-Ausgaben von Llama.\n\nModellinformationen und Kontext\n\nDas Modell verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention und gemeinsam genutzten Embeddings. Meta unterscheidet vortrainierte und auf Anweisungen abgestimmte 1B- und 3B-Modelle. Dieser Eintrag betrifft den 1B-Instruct-Checkpoint, dessen Aufgabe darin besteht, der Nutzeranfrage in einem Gespräch zu folgen, statt als vortrainierte Grundlage zu dienen.\n\nDie gewöhnliche Textversion ist mit einem 128k-Kontext dokumentiert. Für seine quantisierten Textmodelle nennt der Hersteller separat einen 8k-Kontext. Diese Konfigurationen sollten getrennt bleiben: Quantisierung rechtfertigt weder, den Kontext der gewöhnlichen Version auf jeden Checkpoint in einem kleineren Format zu übertragen, noch die konfigurierte Kapazität eines bestimmten Dienstes abzuleiten.\n\nNutzen Sie den Kontext für die Passagen und den Gesprächsverlauf, die für eine definierte Operation relevant sind. Auch ein langes Dokument kann eine kurze Zusammenfassung, eine umformulierte Suchanfrage oder eine quellengestützte Antwort verlangen. Benennen Sie das zu bewahrende Material und die Länge oder Felder, die der nächste Anwendungsschritt benötigt.\n\nRetrieval, Zusammenfassungen und Umformulierungen\n\nStellen Sie für eine Zusammenfassung die tatsächliche Passage oder Konversation bereit und geben Sie Zielgruppe, Länge und wesentliche Fakten an. Ein hilfreiches Ergebnis kann Kernproblem, bereits genannte Entscheidungen und offene Fragen trennen. Falls die Quelle mehrere Themen enthält, benennen Sie das zusammenzufassende Thema, statt eine ungerichtete Kürzung aller Inhalte anzufordern.\n\nStellen Sie für Wissensabruf die ausgewählten Quellpassagen oder die von einer Retrieval-Komponente gelieferten Informationen bereit. Fordern Sie die Aussage an, die die Frage beantwortet, sowie die sie stützende Passage. Die Textantwort des Modells kann abgerufene Informationen erklären; das Durchsuchen einer privaten Sammlung bleibt Aufgabe der verbundenen Anwendung. Das Modell erhält diese Sammlung nicht allein durch die Bezeichnung des Anwendungsfalls als Retrieval.\n\nGeben Sie für das Umformulieren von Suchanfragen die ursprüngliche Frage und den Suchzweck an. Fordern Sie eine knappe Neuformulierung an, die Entität, Bedingung und gewünschte Information erhält. Eine Supportanfrage kann mit dem maßgeblichen Produktbegriff und der Aktion umformuliert werden, ohne einen in der Nutzernachricht nicht enthaltenen Fakt hinzuzufügen. Geben Sie die überarbeitete Anfrage getrennt von Erklärungen zurück, wenn eine andere Komponente sie direkt verwenden soll.\n\nLegen Sie für einen Schreibassistenten Leser, Ton und Quellenfakten fest, bevor Sie einen kurzen Brief oder eine überarbeitete Passage anfordern. Definieren Sie für eine Extraktionsaufgabe die Felder und die Darstellung fehlender Informationen. Dies sind konkrete Operationen, die den dokumentierten Textschwerpunkt des kompakten Modells mit einem überprüfbaren Artefakt verbinden.\n\nUnterstützte Sprachen und Training\n\nDie offiziell unterstützten Sprachen sind Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Das Modell wird mit einer breiteren Sprachsammlung trainiert; diese unterscheidet sich von den acht ausdrücklich in der Karte unterstützten Sprachen. Benennen Sie die endgültige Sprache und alle unverändert zu haltenden Begriffe oder Kennungen.\n\nDie Familie wird mit bis zu neun Billionen Token vortrainiert, mit einem Datenstichtag im Dezember 2023. Für die 1B- und 3B-Modelle verwendet der Hersteller Ausgaben von Llama 3.1 8B und 70B als Trainingsziele auf Tokenebene sowie Wissensdistillation nach dem Pruning. Dies ist ein Trainingsprozess und bedeutet nicht, dass das bereitgestellte 1B-Modell diese größeren Modelle jede Nutzerfrage beantworten lässt.\n\nDie Karte beschreibt überwachtes Fine-Tuning und präferenzbasierte Ausrichtung, mit Nachtrainingsrunden aus überwachten Beispielen, Rejection Sampling und Direct Preference Optimization. Diese Stufen erzeugen das Instruct-Verhalten und bewahren zugleich den benannten Checkpoint und die reine Textmodalität.\n\nGespräch und quantisierte Ausgaben\n\nDer Hersteller demonstriert separate System- und Nutzernachrichten im passenden Gesprächsformat. Definieren Sie Rolle und Antwortanforderungen des Assistenten getrennt vom tatsächlichen Quelltext. Bewahren Sie die relevante frühere Antwort, wenn ein Folgeauftrag eine Überarbeitung, Klarstellung oder andere Form derselben Information verlangt.\n\nDie Veröffentlichung dokumentiert außerdem eigenständige Varianten mit quantisierungsbewusstem Training und nachträglicher Quantisierung. Ihre Präzision und ihr 8k-Kontext gehören zu diesen Varianten und sind keine universelle Spezifikation dieses gewöhnlichen Instruct-Eintrags. Verwenden Sie den genauen Checkpoint und die Konfiguration, wenn Sie eine wiederholte Aufgabe vergleichen oder eine abgeleitete Bereitstellung vorbereiten.\n\nInhaltliche Grenzen\n\nDiese 1B-Version ist rein textbasiert. Sie sollte weder Bildeingabe von den 11B- oder 90B-Vision-Modellen von Llama 3.2 noch die Text- und Bildfähigkeiten von Llama 4 oder die benannten Reasoning-Aufwandsstufen von Muse Spark übernehmen. Das Generierungsbeispiel der Karte mit 256 Token ist eine Beispieleinstellung und keine unabhängig angegebene maximale Antwortkapazität.\n\nEin praktisches Abschlussergebnis ist die angeforderte Zusammenfassung, Suchanfrage, extrahierte Aufzeichnung oder umformulierte Textpassage, welche die relevante Bedeutung und die Kennungen der Quelle bewahrt. Die gelesenen Quellen nennen kein separates festes Maximum für Ausgabe-Token. Halten Sie die Aufgabe fokussiert, das Eingabematerial für diese Operation vollständig und die Kontextunterscheidung zwischen gewöhnlicher und quantisierter Ausgabe ausdrücklich fest.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct ist Metas kompaktes Textmodell mit 1,23 Milliarden Parametern für Dialoge, Zusammenfassungen, Wissensabruf und das Umformulieren von Suchanfragen. Der Hersteller nennt einen Kontext von 128k für die gewöhnliche Version und 8k für separate quantisierte Varianten sowie mehrsprachige Text- und Codeausgabe.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama 3.2 1B Instruct ist Metas kompaktes, auf Anweisungen abgestimmtes Textmodell mit laut Herstellertabelle 1,23 Milliarden Parametern. Es nimmt mehrsprachigen Text entgegen und gibt Text oder Code zurück. Die Version ist für Dialoge, Wissensabruf, Zusammenfassungen, mobile Schreibassistenten und das Umformulieren von Suchanfragen oder Prompts vorgesehen, statt für die Bildverständnisaufgaben der separaten Vision-Ausgaben von Llama.
Modellinformationen und Kontext
Das Modell verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention und gemeinsam genutzten Embeddings. Meta unterscheidet vortrainierte und auf Anweisungen abgestimmte 1B- und 3B-Modelle. Dieser Eintrag betrifft den 1B-Instruct-Checkpoint, dessen Aufgabe darin besteht, der Nutzeranfrage in einem Gespräch zu folgen, statt als vortrainierte Grundlage zu dienen.
Die gewöhnliche Textversion ist mit einem 128k-Kontext dokumentiert. Für seine quantisierten Textmodelle nennt der Hersteller separat einen 8k-Kontext. Diese Konfigurationen sollten getrennt bleiben: Quantisierung rechtfertigt weder, den Kontext der gewöhnlichen Version auf jeden Checkpoint in einem kleineren Format zu übertragen, noch die konfigurierte Kapazität eines bestimmten Dienstes abzuleiten.
Nutzen Sie den Kontext für die Passagen und den Gesprächsverlauf, die für eine definierte Operation relevant sind. Auch ein langes Dokument kann eine kurze Zusammenfassung, eine umformulierte Suchanfrage oder eine quellengestützte Antwort verlangen. Benennen Sie das zu bewahrende Material und die Länge oder Felder, die der nächste Anwendungsschritt benötigt.
Retrieval, Zusammenfassungen und Umformulierungen
Stellen Sie für eine Zusammenfassung die tatsächliche Passage oder Konversation bereit und geben Sie Zielgruppe, Länge und wesentliche Fakten an. Ein hilfreiches Ergebnis kann Kernproblem, bereits genannte Entscheidungen und offene Fragen trennen. Falls die Quelle mehrere Themen enthält, benennen Sie das zusammenzufassende Thema, statt eine ungerichtete Kürzung aller Inhalte anzufordern.
Stellen Sie für Wissensabruf die ausgewählten Quellpassagen oder die von einer Retrieval-Komponente gelieferten Informationen bereit. Fordern Sie die Aussage an, die die Frage beantwortet, sowie die sie stützende Passage. Die Textantwort des Modells kann abgerufene Informationen erklären; das Durchsuchen einer privaten Sammlung bleibt Aufgabe der verbundenen Anwendung. Das Modell erhält diese Sammlung nicht allein durch die Bezeichnung des Anwendungsfalls als Retrieval.
Geben Sie für das Umformulieren von Suchanfragen die ursprüngliche Frage und den Suchzweck an. Fordern Sie eine knappe Neuformulierung an, die Entität, Bedingung und gewünschte Information erhält. Eine Supportanfrage kann mit dem maßgeblichen Produktbegriff und der Aktion umformuliert werden, ohne einen in der Nutzernachricht nicht enthaltenen Fakt hinzuzufügen. Geben Sie die überarbeitete Anfrage getrennt von Erklärungen zurück, wenn eine andere Komponente sie direkt verwenden soll.
Legen Sie für einen Schreibassistenten Leser, Ton und Quellenfakten fest, bevor Sie einen kurzen Brief oder eine überarbeitete Passage anfordern. Definieren Sie für eine Extraktionsaufgabe die Felder und die Darstellung fehlender Informationen. Dies sind konkrete Operationen, die den dokumentierten Textschwerpunkt des kompakten Modells mit einem überprüfbaren Artefakt verbinden.
Unterstützte Sprachen und Training
Die offiziell unterstützten Sprachen sind Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Das Modell wird mit einer breiteren Sprachsammlung trainiert; diese unterscheidet sich von den acht ausdrücklich in der Karte unterstützten Sprachen. Benennen Sie die endgültige Sprache und alle unverändert zu haltenden Begriffe oder Kennungen.
Die Familie wird mit bis zu neun Billionen Token vortrainiert, mit einem Datenstichtag im Dezember 2023. Für die 1B- und 3B-Modelle verwendet der Hersteller Ausgaben von Llama 3.1 8B und 70B als Trainingsziele auf Tokenebene sowie Wissensdistillation nach dem Pruning. Dies ist ein Trainingsprozess und bedeutet nicht, dass das bereitgestellte 1B-Modell diese größeren Modelle jede Nutzerfrage beantworten lässt.
Die Karte beschreibt überwachtes Fine-Tuning und präferenzbasierte Ausrichtung, mit Nachtrainingsrunden aus überwachten Beispielen, Rejection Sampling und Direct Preference Optimization. Diese Stufen erzeugen das Instruct-Verhalten und bewahren zugleich den benannten Checkpoint und die reine Textmodalität.
Gespräch und quantisierte Ausgaben
Der Hersteller demonstriert separate System- und Nutzernachrichten im passenden Gesprächsformat. Definieren Sie Rolle und Antwortanforderungen des Assistenten getrennt vom tatsächlichen Quelltext. Bewahren Sie die relevante frühere Antwort, wenn ein Folgeauftrag eine Überarbeitung, Klarstellung oder andere Form derselben Information verlangt.
Die Veröffentlichung dokumentiert außerdem eigenständige Varianten mit quantisierungsbewusstem Training und nachträglicher Quantisierung. Ihre Präzision und ihr 8k-Kontext gehören zu diesen Varianten und sind keine universelle Spezifikation dieses gewöhnlichen Instruct-Eintrags. Verwenden Sie den genauen Checkpoint und die Konfiguration, wenn Sie eine wiederholte Aufgabe vergleichen oder eine abgeleitete Bereitstellung vorbereiten.
Inhaltliche Grenzen
Diese 1B-Version ist rein textbasiert. Sie sollte weder Bildeingabe von den 11B- oder 90B-Vision-Modellen von Llama 3.2 noch die Text- und Bildfähigkeiten von Llama 4 oder die benannten Reasoning-Aufwandsstufen von Muse Spark übernehmen. Das Generierungsbeispiel der Karte mit 256 Token ist eine Beispieleinstellung und keine unabhängig angegebene maximale Antwortkapazität.
Ein praktisches Abschlussergebnis ist die angeforderte Zusammenfassung, Suchanfrage, extrahierte Aufzeichnung oder umformulierte Textpassage, welche die relevante Bedeutung und die Kennungen der Quelle bewahrt. Die gelesenen Quellen nennen kein separates festes Maximum für Ausgabe-Token. Halten Sie die Aufgabe fokussiert, das Eingabematerial für diese Operation vollständig und die Kontextunterscheidung zwischen gewöhnlicher und quantisierter Ausgabe ausdrücklich fest.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits meta-llama/llama-3.2-1b-instruct | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.000054 / 1K Token Ausgabe · Ausgabetoken $0.000402 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.000054 / 1K Token Ausgabe · Ausgabetoken $0.000402 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-1b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-1b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Verwenden Sie die oben angezeigten Methodenpfade.
meta-llama/llama-3.2-1b-instructLlama 3.2 1B Instruct ist Metas kompaktes Textmodell mit 1,23 Milliarden Parametern für Dialoge, Zusammenfassungen, Wissensabruf und das Umformulieren von Suchanfragen. Der Hersteller nennt einen Kontext von 128k für die gewöhnliche Version und 8k für separate quantisierte Varianten sowie mehrsprachige Text- und Codeausgabe.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama 3.2 1B Instruct ist Metas kompaktes, auf Anweisungen abgestimmtes Textmodell mit laut Herstellertabelle 1,23 Milliarden Parametern. Es nimmt mehrsprachigen Text entgegen und gibt Text oder Code zurück. Die Version ist für Dialoge, Wissensabruf, Zusammenfassungen, mobile Schreibassistenten und das Umformulieren von Suchanfragen oder Prompts vorgesehen, statt für die Bildverständnisaufgaben der separaten Vision-Ausgaben von Llama.
Modellinformationen und Kontext
Das Modell verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention und gemeinsam genutzten Embeddings. Meta unterscheidet vortrainierte und auf Anweisungen abgestimmte 1B- und 3B-Modelle. Dieser Eintrag betrifft den 1B-Instruct-Checkpoint, dessen Aufgabe darin besteht, der Nutzeranfrage in einem Gespräch zu folgen, statt als vortrainierte Grundlage zu dienen.
Die gewöhnliche Textversion ist mit einem 128k-Kontext dokumentiert. Für seine quantisierten Textmodelle nennt der Hersteller separat einen 8k-Kontext. Diese Konfigurationen sollten getrennt bleiben: Quantisierung rechtfertigt weder, den Kontext der gewöhnlichen Version auf jeden Checkpoint in einem kleineren Format zu übertragen, noch die konfigurierte Kapazität eines bestimmten Dienstes abzuleiten.
Nutzen Sie den Kontext für die Passagen und den Gesprächsverlauf, die für eine definierte Operation relevant sind. Auch ein langes Dokument kann eine kurze Zusammenfassung, eine umformulierte Suchanfrage oder eine quellengestützte Antwort verlangen. Benennen Sie das zu bewahrende Material und die Länge oder Felder, die der nächste Anwendungsschritt benötigt.
Retrieval, Zusammenfassungen und Umformulierungen
Stellen Sie für eine Zusammenfassung die tatsächliche Passage oder Konversation bereit und geben Sie Zielgruppe, Länge und wesentliche Fakten an. Ein hilfreiches Ergebnis kann Kernproblem, bereits genannte Entscheidungen und offene Fragen trennen. Falls die Quelle mehrere Themen enthält, benennen Sie das zusammenzufassende Thema, statt eine ungerichtete Kürzung aller Inhalte anzufordern.
Stellen Sie für Wissensabruf die ausgewählten Quellpassagen oder die von einer Retrieval-Komponente gelieferten Informationen bereit. Fordern Sie die Aussage an, die die Frage beantwortet, sowie die sie stützende Passage. Die Textantwort des Modells kann abgerufene Informationen erklären; das Durchsuchen einer privaten Sammlung bleibt Aufgabe der verbundenen Anwendung. Das Modell erhält diese Sammlung nicht allein durch die Bezeichnung des Anwendungsfalls als Retrieval.
Geben Sie für das Umformulieren von Suchanfragen die ursprüngliche Frage und den Suchzweck an. Fordern Sie eine knappe Neuformulierung an, die Entität, Bedingung und gewünschte Information erhält. Eine Supportanfrage kann mit dem maßgeblichen Produktbegriff und der Aktion umformuliert werden, ohne einen in der Nutzernachricht nicht enthaltenen Fakt hinzuzufügen. Geben Sie die überarbeitete Anfrage getrennt von Erklärungen zurück, wenn eine andere Komponente sie direkt verwenden soll.
Legen Sie für einen Schreibassistenten Leser, Ton und Quellenfakten fest, bevor Sie einen kurzen Brief oder eine überarbeitete Passage anfordern. Definieren Sie für eine Extraktionsaufgabe die Felder und die Darstellung fehlender Informationen. Dies sind konkrete Operationen, die den dokumentierten Textschwerpunkt des kompakten Modells mit einem überprüfbaren Artefakt verbinden.
Unterstützte Sprachen und Training
Die offiziell unterstützten Sprachen sind Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Das Modell wird mit einer breiteren Sprachsammlung trainiert; diese unterscheidet sich von den acht ausdrücklich in der Karte unterstützten Sprachen. Benennen Sie die endgültige Sprache und alle unverändert zu haltenden Begriffe oder Kennungen.
Die Familie wird mit bis zu neun Billionen Token vortrainiert, mit einem Datenstichtag im Dezember 2023. Für die 1B- und 3B-Modelle verwendet der Hersteller Ausgaben von Llama 3.1 8B und 70B als Trainingsziele auf Tokenebene sowie Wissensdistillation nach dem Pruning. Dies ist ein Trainingsprozess und bedeutet nicht, dass das bereitgestellte 1B-Modell diese größeren Modelle jede Nutzerfrage beantworten lässt.
Die Karte beschreibt überwachtes Fine-Tuning und präferenzbasierte Ausrichtung, mit Nachtrainingsrunden aus überwachten Beispielen, Rejection Sampling und Direct Preference Optimization. Diese Stufen erzeugen das Instruct-Verhalten und bewahren zugleich den benannten Checkpoint und die reine Textmodalität.
Gespräch und quantisierte Ausgaben
Der Hersteller demonstriert separate System- und Nutzernachrichten im passenden Gesprächsformat. Definieren Sie Rolle und Antwortanforderungen des Assistenten getrennt vom tatsächlichen Quelltext. Bewahren Sie die relevante frühere Antwort, wenn ein Folgeauftrag eine Überarbeitung, Klarstellung oder andere Form derselben Information verlangt.
Die Veröffentlichung dokumentiert außerdem eigenständige Varianten mit quantisierungsbewusstem Training und nachträglicher Quantisierung. Ihre Präzision und ihr 8k-Kontext gehören zu diesen Varianten und sind keine universelle Spezifikation dieses gewöhnlichen Instruct-Eintrags. Verwenden Sie den genauen Checkpoint und die Konfiguration, wenn Sie eine wiederholte Aufgabe vergleichen oder eine abgeleitete Bereitstellung vorbereiten.
Inhaltliche Grenzen
Diese 1B-Version ist rein textbasiert. Sie sollte weder Bildeingabe von den 11B- oder 90B-Vision-Modellen von Llama 3.2 noch die Text- und Bildfähigkeiten von Llama 4 oder die benannten Reasoning-Aufwandsstufen von Muse Spark übernehmen. Das Generierungsbeispiel der Karte mit 256 Token ist eine Beispieleinstellung und keine unabhängig angegebene maximale Antwortkapazität.
Ein praktisches Abschlussergebnis ist die angeforderte Zusammenfassung, Suchanfrage, extrahierte Aufzeichnung oder umformulierte Textpassage, welche die relevante Bedeutung und die Kennungen der Quelle bewahrt. Die gelesenen Quellen nennen kein separates festes Maximum für Ausgabe-Token. Halten Sie die Aufgabe fokussiert, das Eingabematerial für diese Operation vollständig und die Kontextunterscheidung zwischen gewöhnlicher und quantisierter Ausgabe ausdrücklich fest.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits meta-llama/llama-3.2-1b-instruct | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.000054 / 1K Token Ausgabe · Ausgabetoken $0.000402 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.000054 / 1K Token Ausgabe · Ausgabetoken $0.000402 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "meta-llama/llama-3.2-1b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-1b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra meta-llama/llama-3.2-1b-instruct
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Rewrite a retrieval query\n\nRewrite this customer question as one concise search query for a support knowledge base: “My Atlas Mini still shows the old timezone after I changed it in account settings. Do I need to restart?” Preserve the product, stale timezone symptom and restart question. Return only the query and do not invent a cause.A single concise retrieval query retaining the product name, symptom and requested information.Check that the query includes Atlas Mini and timezone refresh or restart, without asserting a confirmed defect.