Llama 3.1 8B Instruct ist Metas Textmodell mit acht Milliarden Parametern für mehrsprachige Dialoge und anweisungsbasierte Assistenten. Es nimmt schriftlichen Gesprächsverlauf und Quellmaterial entgegen und erzeugt Text oder Code. Es ist die Instruct-Ausgabe der 8B-Größe, getrennt von ihrer vortrainierten Basis und den 70B- und 405B-Modellen der Familie.
Architektur, Kontext und Sprachen
Das Modell verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention. Die auf Anweisungen abgestimmte Familie nutzt überwachtes Fine-Tuning und Reinforcement Learning mit menschlichem Feedback zur Ausrichtung ihrer Gesprächsantworten. Der Hersteller dokumentiert für diese Textversion einen 128k-Kontext; dies ist nicht die Vision- oder Langkontextspezifikation eines späteren Llama-4-Modells.
Die acht offiziell unterstützten Sprachen sind Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Die Vortrainingsdaten umfassen eine breitere Sammlung, die sich von den ausdrücklich in der Karte unterstützten Sprachen unterscheidet. Geben Sie die endgültige Sprache sowie Namen, Variablenkennungen oder Begriffe an, die in einem mehrsprachigen Ergebnis unverändert bleiben sollen.
Die Familie wird mit etwa fünfzehn Billionen Token vortrainiert, mit einem Datenstichtag im Dezember 2023. Das Fine-Tuning umfasst Anweisungsmaterial und mehr als fünfundzwanzig Millionen synthetische Beispiele. Dies beschreibt das Modelltraining, nicht den Zugriff auf eine private Wissensdatenbank oder Live-Informationen beim Eingang einer neuen Frage.
Definierte Textoperationen
Eine supportorientierte Anfrage kann die Nutzernachricht und relevante Referenzpassagen bereitstellen und dann nach der Antwort und ihrer stützenden Bedingung fragen. Eine kompakte Aufzeichnung kann das Problem, bereits bereitgestellte Informationen und den nächsten erforderlichen Schritt trennen. Definieren Sie Feldnamen und den Umgang mit fehlenden Werten, wenn eine Anwendung das Ergebnis verarbeiten muss.
Stellen Sie für eine Zusammenfassung die tatsächliche Passage oder den Austausch bereit und geben Sie Zielgruppe, Länge und zu bewahrende Fakten an. Fordern Sie Entscheidungen oder offene Fragen zu einem Thema an, statt eine ungerichtete Zusammenfassung unzusammenhängenden Materials. Ein Folgeauftrag kann eine kürzere Antwort oder eine klarere Erklärung einer Bedingung verlangen und dabei dieselben Quellenfakten bewahren.
Geben Sie für eine Bearbeitung Leser und Ton an und benennen Sie die unverändert zu haltende Bedeutung. Eine praktische Aufgabe könnte eine klarere Nachricht mit anschließender kurzer Änderungsliste verlangen oder nur die überarbeitete Nachricht, wenn sie direkt verwendet werden soll. Eine Klassifikationsaufgabe sollte erlaubte Kennzeichnungen und deren Unterschiede bereitstellen, statt darauf zu vertrauen, dass ein Kennzeichnungsname die Regel definiert.
Code- und Beispielgenerierung
Die dokumentierte Ausgabe umfasst auch Code. Geben Sie Sprache, erforderliche Eingaben und erwartetes Ergebnis vor, bevor Sie eine Funktion anfordern. Stellen Sie für eine Erklärung die vorhandene Funktion und eine konkrete Eingabe bereit und fragen Sie, welche Schritte den Rückgabewert bestimmen. Fügen Sie für eine Korrektur den beobachteten Fehler und das gewünschte Verhalten hinzu und bewahren Sie die kompatibel zu haltende Schnittstelle.
Eine hilfreiche Ausgabe kann den vorgeschlagenen Code, seine Annahmen und Beispieleingaben trennen. Die Anwendung oder der Entwickler übernimmt die tatsächliche Kompilierung, Ausführung oder Repository-Änderung. Schriftlicher Quellcode ist ein zu prüfendes Artefakt und keine abgeschlossene externe Operation, nur weil das Modell ihn zurückgegeben hat.
Die Familie unterstützt außerdem die Verwendung erzeugter Ausgaben für synthetische Beispiele und Distillation. Eine definierte Textanfrage kann Varianten nach vorgegebenen Regeln und in einem bestimmten Format erzeugen. Bewahren Sie Regeln und Kennzeichnungen, damit jedes Beispiel geprüft werden kann. Erzeugte Beispiele belegen nicht unabhängig die Richtigkeit eines Trainingsdatensatzes.
Gesprächsrollen und Werkzeugnutzung
Die Modellkarte demonstriert eine Chat-Vorlage mit separaten System- und Nutzernachrichten. Definieren Sie Rolle und Antwortanforderungen des Assistenten im Systemkontext und liefern Sie anschließend die Frage und das Quellmaterial als Aufgabe. Bewahren Sie relevante vorherige Nachrichten bei Folgefragen oder neuen Belegen, die das Ergebnis verändern.
Llama 3.1 dokumentiert mehrere Werkzeugnutzungsformate. Die Anwendung beschreibt eine Funktion, das Modell erzeugt den Aufrufvorschlag mit Argumenten, die Anwendung führt ihn aus und gibt das Ergebnis mit der Werkzeugrolle zurück. Die nächste Antwort kann dann die zurückgegebenen Informationen nutzen. Halten Sie die ursprüngliche Operation und das Ergebnis über den Gesprächsverlauf hinweg verbunden.
Beispielsweise kann eine Abfrage den in einer Passage fehlenden aktuellen Referenzwert zurückgeben oder ein Rechenwerkzeug das für die Erklärung benötigte numerische Ergebnis liefern. Ein werkzeugfähiger Assistent benötigt diese von der Umgebung bereitgestellten Operationen. Das Textverhalten des Modells schafft selbst keine Verbindung zu einer externen Quelle und schließt keine Nebenwirkung ab.
Praktische Grenzen
Die Herstellerangabe von 128k Kontext sollte mit der genauen 8B-Instruct-Version und der jeweiligen Konfiguration verbunden bleiben. Das Generierungsbeispiel mit 256 Token ist nur eine Nutzungsentscheidung; die gelesenen Quellen nennen keine separate feste maximale Antwortkapazität. Die 8B-Größe sollte weder die Parameterzahl eines anderen Mitglieds noch die benannten Reasoning-Steuerelemente einer anderen Familie übernehmen.
Dies ist ein reines Textmodell. Visuelle Eingaben, Audioverständnis und Sprachgenerierung erfordern separat spezifizierte Komponenten. Definieren Sie das abschließende Artefakt vor dem Bereitstellen des Materials: eine knappe Antwort, einen extrahierten Datensatz, eine überarbeitete Passage, eine Erklärung oder einen Codevorschlag. Bewahren Sie die Quellinformationen, die zum Prüfen von Bedeutung und Format dieses Artefakts erforderlich sind.
", "aboutText": "Llama 3.1 8B Instruct ist Metas Textmodell mit acht Milliarden Parametern für mehrsprachige Dialoge und anweisungsbasierte Assistenten. Es nimmt schriftlichen Gesprächsverlauf und Quellmaterial entgegen und erzeugt Text oder Code. Es ist die Instruct-Ausgabe der 8B-Größe, getrennt von ihrer vortrainierten Basis und den 70B- und 405B-Modellen der Familie.\n\nArchitektur, Kontext und Sprachen\n\nDas Modell verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention. Die auf Anweisungen abgestimmte Familie nutzt überwachtes Fine-Tuning und Reinforcement Learning mit menschlichem Feedback zur Ausrichtung ihrer Gesprächsantworten. Der Hersteller dokumentiert für diese Textversion einen 128k-Kontext; dies ist nicht die Vision- oder Langkontextspezifikation eines späteren Llama-4-Modells.\n\nDie acht offiziell unterstützten Sprachen sind Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Die Vortrainingsdaten umfassen eine breitere Sammlung, die sich von den ausdrücklich in der Karte unterstützten Sprachen unterscheidet. Geben Sie die endgültige Sprache sowie Namen, Variablenkennungen oder Begriffe an, die in einem mehrsprachigen Ergebnis unverändert bleiben sollen.\n\nDie Familie wird mit etwa fünfzehn Billionen Token vortrainiert, mit einem Datenstichtag im Dezember 2023. Das Fine-Tuning umfasst Anweisungsmaterial und mehr als fünfundzwanzig Millionen synthetische Beispiele. Dies beschreibt das Modelltraining, nicht den Zugriff auf eine private Wissensdatenbank oder Live-Informationen beim Eingang einer neuen Frage.\n\nDefinierte Textoperationen\n\nEine supportorientierte Anfrage kann die Nutzernachricht und relevante Referenzpassagen bereitstellen und dann nach der Antwort und ihrer stützenden Bedingung fragen. Eine kompakte Aufzeichnung kann das Problem, bereits bereitgestellte Informationen und den nächsten erforderlichen Schritt trennen. Definieren Sie Feldnamen und den Umgang mit fehlenden Werten, wenn eine Anwendung das Ergebnis verarbeiten muss.\n\nStellen Sie für eine Zusammenfassung die tatsächliche Passage oder den Austausch bereit und geben Sie Zielgruppe, Länge und zu bewahrende Fakten an. Fordern Sie Entscheidungen oder offene Fragen zu einem Thema an, statt eine ungerichtete Zusammenfassung unzusammenhängenden Materials. Ein Folgeauftrag kann eine kürzere Antwort oder eine klarere Erklärung einer Bedingung verlangen und dabei dieselben Quellenfakten bewahren.\n\nGeben Sie für eine Bearbeitung Leser und Ton an und benennen Sie die unverändert zu haltende Bedeutung. Eine praktische Aufgabe könnte eine klarere Nachricht mit anschließender kurzer Änderungsliste verlangen oder nur die überarbeitete Nachricht, wenn sie direkt verwendet werden soll. Eine Klassifikationsaufgabe sollte erlaubte Kennzeichnungen und deren Unterschiede bereitstellen, statt darauf zu vertrauen, dass ein Kennzeichnungsname die Regel definiert.\n\nCode- und Beispielgenerierung\n\nDie dokumentierte Ausgabe umfasst auch Code. Geben Sie Sprache, erforderliche Eingaben und erwartetes Ergebnis vor, bevor Sie eine Funktion anfordern. Stellen Sie für eine Erklärung die vorhandene Funktion und eine konkrete Eingabe bereit und fragen Sie, welche Schritte den Rückgabewert bestimmen. Fügen Sie für eine Korrektur den beobachteten Fehler und das gewünschte Verhalten hinzu und bewahren Sie die kompatibel zu haltende Schnittstelle.\n\nEine hilfreiche Ausgabe kann den vorgeschlagenen Code, seine Annahmen und Beispieleingaben trennen. Die Anwendung oder der Entwickler übernimmt die tatsächliche Kompilierung, Ausführung oder Repository-Änderung. Schriftlicher Quellcode ist ein zu prüfendes Artefakt und keine abgeschlossene externe Operation, nur weil das Modell ihn zurückgegeben hat.\n\nDie Familie unterstützt außerdem die Verwendung erzeugter Ausgaben für synthetische Beispiele und Distillation. Eine definierte Textanfrage kann Varianten nach vorgegebenen Regeln und in einem bestimmten Format erzeugen. Bewahren Sie Regeln und Kennzeichnungen, damit jedes Beispiel geprüft werden kann. Erzeugte Beispiele belegen nicht unabhängig die Richtigkeit eines Trainingsdatensatzes.\n\nGesprächsrollen und Werkzeugnutzung\n\nDie Modellkarte demonstriert eine Chat-Vorlage mit separaten System- und Nutzernachrichten. Definieren Sie Rolle und Antwortanforderungen des Assistenten im Systemkontext und liefern Sie anschließend die Frage und das Quellmaterial als Aufgabe. Bewahren Sie relevante vorherige Nachrichten bei Folgefragen oder neuen Belegen, die das Ergebnis verändern.\n\nLlama 3.1 dokumentiert mehrere Werkzeugnutzungsformate. Die Anwendung beschreibt eine Funktion, das Modell erzeugt den Aufrufvorschlag mit Argumenten, die Anwendung führt ihn aus und gibt das Ergebnis mit der Werkzeugrolle zurück. Die nächste Antwort kann dann die zurückgegebenen Informationen nutzen. Halten Sie die ursprüngliche Operation und das Ergebnis über den Gesprächsverlauf hinweg verbunden.\n\nBeispielsweise kann eine Abfrage den in einer Passage fehlenden aktuellen Referenzwert zurückgeben oder ein Rechenwerkzeug das für die Erklärung benötigte numerische Ergebnis liefern. Ein werkzeugfähiger Assistent benötigt diese von der Umgebung bereitgestellten Operationen. Das Textverhalten des Modells schafft selbst keine Verbindung zu einer externen Quelle und schließt keine Nebenwirkung ab.\n\nPraktische Grenzen\n\nDie Herstellerangabe von 128k Kontext sollte mit der genauen 8B-Instruct-Version und der jeweiligen Konfiguration verbunden bleiben. Das Generierungsbeispiel mit 256 Token ist nur eine Nutzungsentscheidung; die gelesenen Quellen nennen keine separate feste maximale Antwortkapazität. Die 8B-Größe sollte weder die Parameterzahl eines anderen Mitglieds noch die benannten Reasoning-Steuerelemente einer anderen Familie übernehmen.\n\nDies ist ein reines Textmodell. Visuelle Eingaben, Audioverständnis und Sprachgenerierung erfordern separat spezifizierte Komponenten. Definieren Sie das abschließende Artefakt vor dem Bereitstellen des Materials: eine knappe Antwort, einen extrahierten Datensatz, eine überarbeitete Passage, eine Erklärung oder einen Codevorschlag. Bewahren Sie die Quellinformationen, die zum Prüfen von Bedeutung und Format dieses Artefakts erforderlich sind.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Translate a delivery notice into German\n\nTranslate this customer notice into German: 'Order BN-42 will leave our warehouse on Thursday. Delivery normally takes three business days. We will send tracking details after dispatch.' Preserve BN-42, distinguish dispatch from delivery and use a polite professional tone. Return only the translation; do not turn the normal transit time into a guaranteed arrival date.One German customer notice preserving the identifier, event sequence and qualified transit time.The translation distinguishes warehouse dispatch from delivery and retains the word's sense of a normal estimate.meta-llama/llama-3.1-8b-instructLlama 3.1 8B Instruct ist Metas kleineres Text-Instruct-Modell für mehrsprachige Dialoge, Zusammenfassungen und auf Quellen gestützte Antworten. Es besitzt 8 Milliarden Parameter, einen Herstellerkontext von 128k, Grouped-Query-Attention und dokumentierte Werkzeugnutzungsformate und gibt Text oder Code zurück.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama 3.1 8B Instruct ist Metas Textmodell mit acht Milliarden Parametern für mehrsprachige Dialoge und anweisungsbasierte Assistenten. Es nimmt schriftlichen Gesprächsverlauf und Quellmaterial entgegen und erzeugt Text oder Code. Es ist die Instruct-Ausgabe der 8B-Größe, getrennt von ihrer vortrainierten Basis und den 70B- und 405B-Modellen der Familie.
Architektur, Kontext und Sprachen
Das Modell verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention. Die auf Anweisungen abgestimmte Familie nutzt überwachtes Fine-Tuning und Reinforcement Learning mit menschlichem Feedback zur Ausrichtung ihrer Gesprächsantworten. Der Hersteller dokumentiert für diese Textversion einen 128k-Kontext; dies ist nicht die Vision- oder Langkontextspezifikation eines späteren Llama-4-Modells.
Die acht offiziell unterstützten Sprachen sind Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Die Vortrainingsdaten umfassen eine breitere Sammlung, die sich von den ausdrücklich in der Karte unterstützten Sprachen unterscheidet. Geben Sie die endgültige Sprache sowie Namen, Variablenkennungen oder Begriffe an, die in einem mehrsprachigen Ergebnis unverändert bleiben sollen.
Die Familie wird mit etwa fünfzehn Billionen Token vortrainiert, mit einem Datenstichtag im Dezember 2023. Das Fine-Tuning umfasst Anweisungsmaterial und mehr als fünfundzwanzig Millionen synthetische Beispiele. Dies beschreibt das Modelltraining, nicht den Zugriff auf eine private Wissensdatenbank oder Live-Informationen beim Eingang einer neuen Frage.
Definierte Textoperationen
Eine supportorientierte Anfrage kann die Nutzernachricht und relevante Referenzpassagen bereitstellen und dann nach der Antwort und ihrer stützenden Bedingung fragen. Eine kompakte Aufzeichnung kann das Problem, bereits bereitgestellte Informationen und den nächsten erforderlichen Schritt trennen. Definieren Sie Feldnamen und den Umgang mit fehlenden Werten, wenn eine Anwendung das Ergebnis verarbeiten muss.
Stellen Sie für eine Zusammenfassung die tatsächliche Passage oder den Austausch bereit und geben Sie Zielgruppe, Länge und zu bewahrende Fakten an. Fordern Sie Entscheidungen oder offene Fragen zu einem Thema an, statt eine ungerichtete Zusammenfassung unzusammenhängenden Materials. Ein Folgeauftrag kann eine kürzere Antwort oder eine klarere Erklärung einer Bedingung verlangen und dabei dieselben Quellenfakten bewahren.
Geben Sie für eine Bearbeitung Leser und Ton an und benennen Sie die unverändert zu haltende Bedeutung. Eine praktische Aufgabe könnte eine klarere Nachricht mit anschließender kurzer Änderungsliste verlangen oder nur die überarbeitete Nachricht, wenn sie direkt verwendet werden soll. Eine Klassifikationsaufgabe sollte erlaubte Kennzeichnungen und deren Unterschiede bereitstellen, statt darauf zu vertrauen, dass ein Kennzeichnungsname die Regel definiert.
Code- und Beispielgenerierung
Die dokumentierte Ausgabe umfasst auch Code. Geben Sie Sprache, erforderliche Eingaben und erwartetes Ergebnis vor, bevor Sie eine Funktion anfordern. Stellen Sie für eine Erklärung die vorhandene Funktion und eine konkrete Eingabe bereit und fragen Sie, welche Schritte den Rückgabewert bestimmen. Fügen Sie für eine Korrektur den beobachteten Fehler und das gewünschte Verhalten hinzu und bewahren Sie die kompatibel zu haltende Schnittstelle.
Eine hilfreiche Ausgabe kann den vorgeschlagenen Code, seine Annahmen und Beispieleingaben trennen. Die Anwendung oder der Entwickler übernimmt die tatsächliche Kompilierung, Ausführung oder Repository-Änderung. Schriftlicher Quellcode ist ein zu prüfendes Artefakt und keine abgeschlossene externe Operation, nur weil das Modell ihn zurückgegeben hat.
Die Familie unterstützt außerdem die Verwendung erzeugter Ausgaben für synthetische Beispiele und Distillation. Eine definierte Textanfrage kann Varianten nach vorgegebenen Regeln und in einem bestimmten Format erzeugen. Bewahren Sie Regeln und Kennzeichnungen, damit jedes Beispiel geprüft werden kann. Erzeugte Beispiele belegen nicht unabhängig die Richtigkeit eines Trainingsdatensatzes.
Gesprächsrollen und Werkzeugnutzung
Die Modellkarte demonstriert eine Chat-Vorlage mit separaten System- und Nutzernachrichten. Definieren Sie Rolle und Antwortanforderungen des Assistenten im Systemkontext und liefern Sie anschließend die Frage und das Quellmaterial als Aufgabe. Bewahren Sie relevante vorherige Nachrichten bei Folgefragen oder neuen Belegen, die das Ergebnis verändern.
Llama 3.1 dokumentiert mehrere Werkzeugnutzungsformate. Die Anwendung beschreibt eine Funktion, das Modell erzeugt den Aufrufvorschlag mit Argumenten, die Anwendung führt ihn aus und gibt das Ergebnis mit der Werkzeugrolle zurück. Die nächste Antwort kann dann die zurückgegebenen Informationen nutzen. Halten Sie die ursprüngliche Operation und das Ergebnis über den Gesprächsverlauf hinweg verbunden.
Beispielsweise kann eine Abfrage den in einer Passage fehlenden aktuellen Referenzwert zurückgeben oder ein Rechenwerkzeug das für die Erklärung benötigte numerische Ergebnis liefern. Ein werkzeugfähiger Assistent benötigt diese von der Umgebung bereitgestellten Operationen. Das Textverhalten des Modells schafft selbst keine Verbindung zu einer externen Quelle und schließt keine Nebenwirkung ab.
Praktische Grenzen
Die Herstellerangabe von 128k Kontext sollte mit der genauen 8B-Instruct-Version und der jeweiligen Konfiguration verbunden bleiben. Das Generierungsbeispiel mit 256 Token ist nur eine Nutzungsentscheidung; die gelesenen Quellen nennen keine separate feste maximale Antwortkapazität. Die 8B-Größe sollte weder die Parameterzahl eines anderen Mitglieds noch die benannten Reasoning-Steuerelemente einer anderen Familie übernehmen.
Dies ist ein reines Textmodell. Visuelle Eingaben, Audioverständnis und Sprachgenerierung erfordern separat spezifizierte Komponenten. Definieren Sie das abschließende Artefakt vor dem Bereitstellen des Materials: eine knappe Antwort, einen extrahierten Datensatz, eine überarbeitete Passage, eine Erklärung oder einen Codevorschlag. Bewahren Sie die Quellinformationen, die zum Prüfen von Bedeutung und Format dieses Artefakts erforderlich sind.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits meta-llama/llama-3.1-8b-instruct | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00044 / 1K Token Ausgabe · Ausgabetoken $0.00044 / 1K Token Eingabe · Cache-Lesen $0.00044 / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00044 / 1K Token Ausgabe · Ausgabetoken $0.00044 / 1K Token Eingabe · Cache-Lesen $0.00044 / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.1-8b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.1-8b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.1-8b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra meta-llama/llama-3.1-8b-instruct
Verwenden Sie die oben angezeigten Methodenpfade.
meta-llama/llama-3.1-8b-instructLlama 3.1 8B Instruct ist Metas kleineres Text-Instruct-Modell für mehrsprachige Dialoge, Zusammenfassungen und auf Quellen gestützte Antworten. Es besitzt 8 Milliarden Parameter, einen Herstellerkontext von 128k, Grouped-Query-Attention und dokumentierte Werkzeugnutzungsformate und gibt Text oder Code zurück.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama 3.1 8B Instruct ist Metas Textmodell mit acht Milliarden Parametern für mehrsprachige Dialoge und anweisungsbasierte Assistenten. Es nimmt schriftlichen Gesprächsverlauf und Quellmaterial entgegen und erzeugt Text oder Code. Es ist die Instruct-Ausgabe der 8B-Größe, getrennt von ihrer vortrainierten Basis und den 70B- und 405B-Modellen der Familie.
Architektur, Kontext und Sprachen
Das Modell verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention. Die auf Anweisungen abgestimmte Familie nutzt überwachtes Fine-Tuning und Reinforcement Learning mit menschlichem Feedback zur Ausrichtung ihrer Gesprächsantworten. Der Hersteller dokumentiert für diese Textversion einen 128k-Kontext; dies ist nicht die Vision- oder Langkontextspezifikation eines späteren Llama-4-Modells.
Die acht offiziell unterstützten Sprachen sind Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Die Vortrainingsdaten umfassen eine breitere Sammlung, die sich von den ausdrücklich in der Karte unterstützten Sprachen unterscheidet. Geben Sie die endgültige Sprache sowie Namen, Variablenkennungen oder Begriffe an, die in einem mehrsprachigen Ergebnis unverändert bleiben sollen.
Die Familie wird mit etwa fünfzehn Billionen Token vortrainiert, mit einem Datenstichtag im Dezember 2023. Das Fine-Tuning umfasst Anweisungsmaterial und mehr als fünfundzwanzig Millionen synthetische Beispiele. Dies beschreibt das Modelltraining, nicht den Zugriff auf eine private Wissensdatenbank oder Live-Informationen beim Eingang einer neuen Frage.
Definierte Textoperationen
Eine supportorientierte Anfrage kann die Nutzernachricht und relevante Referenzpassagen bereitstellen und dann nach der Antwort und ihrer stützenden Bedingung fragen. Eine kompakte Aufzeichnung kann das Problem, bereits bereitgestellte Informationen und den nächsten erforderlichen Schritt trennen. Definieren Sie Feldnamen und den Umgang mit fehlenden Werten, wenn eine Anwendung das Ergebnis verarbeiten muss.
Stellen Sie für eine Zusammenfassung die tatsächliche Passage oder den Austausch bereit und geben Sie Zielgruppe, Länge und zu bewahrende Fakten an. Fordern Sie Entscheidungen oder offene Fragen zu einem Thema an, statt eine ungerichtete Zusammenfassung unzusammenhängenden Materials. Ein Folgeauftrag kann eine kürzere Antwort oder eine klarere Erklärung einer Bedingung verlangen und dabei dieselben Quellenfakten bewahren.
Geben Sie für eine Bearbeitung Leser und Ton an und benennen Sie die unverändert zu haltende Bedeutung. Eine praktische Aufgabe könnte eine klarere Nachricht mit anschließender kurzer Änderungsliste verlangen oder nur die überarbeitete Nachricht, wenn sie direkt verwendet werden soll. Eine Klassifikationsaufgabe sollte erlaubte Kennzeichnungen und deren Unterschiede bereitstellen, statt darauf zu vertrauen, dass ein Kennzeichnungsname die Regel definiert.
Code- und Beispielgenerierung
Die dokumentierte Ausgabe umfasst auch Code. Geben Sie Sprache, erforderliche Eingaben und erwartetes Ergebnis vor, bevor Sie eine Funktion anfordern. Stellen Sie für eine Erklärung die vorhandene Funktion und eine konkrete Eingabe bereit und fragen Sie, welche Schritte den Rückgabewert bestimmen. Fügen Sie für eine Korrektur den beobachteten Fehler und das gewünschte Verhalten hinzu und bewahren Sie die kompatibel zu haltende Schnittstelle.
Eine hilfreiche Ausgabe kann den vorgeschlagenen Code, seine Annahmen und Beispieleingaben trennen. Die Anwendung oder der Entwickler übernimmt die tatsächliche Kompilierung, Ausführung oder Repository-Änderung. Schriftlicher Quellcode ist ein zu prüfendes Artefakt und keine abgeschlossene externe Operation, nur weil das Modell ihn zurückgegeben hat.
Die Familie unterstützt außerdem die Verwendung erzeugter Ausgaben für synthetische Beispiele und Distillation. Eine definierte Textanfrage kann Varianten nach vorgegebenen Regeln und in einem bestimmten Format erzeugen. Bewahren Sie Regeln und Kennzeichnungen, damit jedes Beispiel geprüft werden kann. Erzeugte Beispiele belegen nicht unabhängig die Richtigkeit eines Trainingsdatensatzes.
Gesprächsrollen und Werkzeugnutzung
Die Modellkarte demonstriert eine Chat-Vorlage mit separaten System- und Nutzernachrichten. Definieren Sie Rolle und Antwortanforderungen des Assistenten im Systemkontext und liefern Sie anschließend die Frage und das Quellmaterial als Aufgabe. Bewahren Sie relevante vorherige Nachrichten bei Folgefragen oder neuen Belegen, die das Ergebnis verändern.
Llama 3.1 dokumentiert mehrere Werkzeugnutzungsformate. Die Anwendung beschreibt eine Funktion, das Modell erzeugt den Aufrufvorschlag mit Argumenten, die Anwendung führt ihn aus und gibt das Ergebnis mit der Werkzeugrolle zurück. Die nächste Antwort kann dann die zurückgegebenen Informationen nutzen. Halten Sie die ursprüngliche Operation und das Ergebnis über den Gesprächsverlauf hinweg verbunden.
Beispielsweise kann eine Abfrage den in einer Passage fehlenden aktuellen Referenzwert zurückgeben oder ein Rechenwerkzeug das für die Erklärung benötigte numerische Ergebnis liefern. Ein werkzeugfähiger Assistent benötigt diese von der Umgebung bereitgestellten Operationen. Das Textverhalten des Modells schafft selbst keine Verbindung zu einer externen Quelle und schließt keine Nebenwirkung ab.
Praktische Grenzen
Die Herstellerangabe von 128k Kontext sollte mit der genauen 8B-Instruct-Version und der jeweiligen Konfiguration verbunden bleiben. Das Generierungsbeispiel mit 256 Token ist nur eine Nutzungsentscheidung; die gelesenen Quellen nennen keine separate feste maximale Antwortkapazität. Die 8B-Größe sollte weder die Parameterzahl eines anderen Mitglieds noch die benannten Reasoning-Steuerelemente einer anderen Familie übernehmen.
Dies ist ein reines Textmodell. Visuelle Eingaben, Audioverständnis und Sprachgenerierung erfordern separat spezifizierte Komponenten. Definieren Sie das abschließende Artefakt vor dem Bereitstellen des Materials: eine knappe Antwort, einen extrahierten Datensatz, eine überarbeitete Passage, eine Erklärung oder einen Codevorschlag. Bewahren Sie die Quellinformationen, die zum Prüfen von Bedeutung und Format dieses Artefakts erforderlich sind.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits meta-llama/llama-3.1-8b-instruct | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00044 / 1K Token Ausgabe · Ausgabetoken $0.00044 / 1K Token Eingabe · Cache-Lesen $0.00044 / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00044 / 1K Token Ausgabe · Ausgabetoken $0.00044 / 1K Token Eingabe · Cache-Lesen $0.00044 / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "meta-llama/llama-3.1-8b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra meta-llama/llama-3.1-8b-instruct
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Translate a delivery notice into German\n\nTranslate this customer notice into German: 'Order BN-42 will leave our warehouse on Thursday. Delivery normally takes three business days. We will send tracking details after dispatch.' Preserve BN-42, distinguish dispatch from delivery and use a polite professional tone. Return only the translation; do not turn the normal transit time into a guaranteed arrival date.One German customer notice preserving the identifier, event sequence and qualified transit time.The translation distinguishes warehouse dispatch from delivery and retains the word's sense of a normal estimate.