Llama 3.1 8B Instruct ist Metas Textmodell mit acht Milliarden Parametern für mehrsprachigen Dialog und anweisungsbasierte Assistenten. Es akzeptiert schriftliche Gespräche und Quellmaterial und erzeugt Text oder Code. Es ist die Instruct-Ausgabe der Grösse 8B, getrennt von ihrer vortrainierten Basis und den 70B- und 405B-Modellen der Familie.
Architektur, Kontext und Sprachen
Das Modell verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention. Die anweisungsoptimierte Familie nutzt überwachtes Fine-Tuning und Reinforcement Learning mit menschlicher Rückmeldung zur Ausrichtung ihrer Gesprächsantworten. Der Hersteller dokumentiert einen 128k-Kontext für diese Textversion; das ist nicht die Bild- oder Langkontextspezifikation eines späteren Llama-4-Modells.
Die acht offiziell unterstützten Sprachen sind Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Die Vortrainingsdaten umfassen eine breitere Sammlung, die sich von den ausdrücklich in der Karte unterstützten Sprachen unterscheidet. Nenne die Zielsprache und alle Namen, Variablenbezeichner oder Begriffe, die in einem mehrsprachigen Ergebnis unverändert bleiben sollen.
Die Familie wird mit ungefähr fünfzehn Billionen Tokens vortrainiert, mit einem Datenstichtag im Dezember 2023. Das Fine-Tuning umfasst Anweisungsmaterial und mehr als fünfundzwanzig Millionen synthetische Beispiele. Das beschreibt das Modelltraining und keinen Zugriff auf eine private Wissensdatenbank oder aktuelle Informationen beim Eintreffen einer neuen Frage.
Definierte Textoperationen
Eine supportbezogene Anfrage kann die Nutzernachricht und relevante Referenzpassagen liefern und anschliessend die Antwort mit ihrer stützenden Bedingung verlangen. Ein kompakter Datensatz kann das Problem, bereits bereitgestellte Informationen und den nächsten erforderlichen Schritt trennen. Definiere Feldnamen und den Umgang mit fehlenden Werten, wenn eine Anwendung das Ergebnis verarbeiten muss.
Liefere für eine Zusammenfassung die tatsächliche Textstelle oder den Austausch und lege Zielgruppe, Länge und zu bewahrende Fakten fest. Verlange die für ein Thema relevanten Entscheidungen oder ungeklärten Fragen statt einer ungerichteten Zusammenfassung nicht zusammengehörigen Materials. Eine Folgefrage kann eine kürzere Antwort oder eine klarere Erklärung einer Bedingung verlangen und dabei dieselben Quellenfakten bewahren.
Lege für die Bearbeitung Leser und Ton fest und benenne die Bedeutung, die unverändert bleiben muss. Eine praktische Aufgabe könnte eine klarere Nachricht mit einer kurzen Änderungsliste verlangen oder nur die überarbeitete Nachricht, wenn sie direkt verwendet wird. Eine Klassifikationsaufgabe sollte zulässige Labels und deren Unterschiede vorgeben, statt sich darauf zu verlassen, dass ein Labelname die Regel definiert.
Code- und Beispielgenerierung
Die dokumentierte Ausgabe umfasst auch Code. Gib Sprache, erforderliche Eingaben und erwartetes Ergebnis vor, bevor du eine Funktion verlangst. Liefere für eine Erklärung die bestehende Funktion und eine konkrete Eingabe und frage, welche Schritte ihren Rückgabewert bestimmen. Füge für eine Korrektur den beobachteten Fehler und das beabsichtigte Verhalten hinzu und bewahre die Schnittstelle, die kompatibel bleiben muss.
Eine nützliche Ausgabe kann vorgeschlagenen Code, seine Annahmen und Beispieleingaben trennen. Die Anwendung oder der Entwickler führt die tatsächliche Kompilierung, Ausführung oder Repository-Änderung durch. Schriftlicher Quellcode ist ein zu prüfendes Ergebnis und keine abgeschlossene externe Operation, nur weil das Modell ihn zurückgegeben hat.
Die Familie unterstützt auch die Verwendung generierter Ausgaben für synthetische Beispiele und Distillation. Eine definierte Textanfrage kann Varianten nach vorgegebenen Regeln und in einem festgelegten Format erzeugen. Bewahre Regeln und Labels, damit jedes Beispiel geprüft werden kann; generierte Beispiele belegen nicht unabhängig die Korrektheit eines Trainingsdatensatzes.
Gesprächsrollen und Werkzeugnutzung
Die Modellkarte zeigt eine Chatvorlage mit separaten System- und Nutzernachrichten. Definiere Assistentenrolle und Antwortanforderungen im Systemkontext und liefere dann Frage und Quellmaterial als Aufgabe. Bewahre relevante vorherige Nachrichten, wenn du eine Folgefrage stellst oder neue Belege lieferst, die das Ergebnis ändern.
Llama 3.1 dokumentiert mehrere Werkzeugnutzungsformate. Die Anwendung beschreibt eine Funktion, das Modell erzeugt den vorgeschlagenen Aufruf und die Argumente, die Anwendung führt ihn aus und gibt das Ergebnis mit der Werkzeugrolle zurück. Die nächste Antwort kann dann die zurückgegebenen Informationen nutzen. Halte die ursprüngliche Operation und das Ergebnis über den Gesprächsverlauf hinweg verknüpft.
Eine Abfrage kann zum Beispiel den aktuellen Referenzwert liefern, der in einer Textstelle fehlt, oder ein Rechenwerkzeug kann das für die Erklärung benötigte numerische Ergebnis bereitstellen. Ein Assistent mit Werkzeugen braucht diese von der Umgebung bereitgestellten Operationen. Das Textverhalten des Modells schafft für sich genommen weder eine Verbindung zu einer externen Quelle noch eine ausgeführte Nebenwirkung.
Praktische Grenzen
Die 128k-Kontextangabe des Herstellers sollte bei der genauen 8B-Instruct-Version und der geltenden Konfiguration bleiben. Das Generierungsbeispiel mit 256 Tokens ist lediglich eine Nutzungsentscheidung; die gelesenen Quellen nennen keine separate harte maximale Antwortkapazität. Die Grösse 8B sollte weder die Parameterzahl eines anderen Familienmitglieds noch benannte Reasoning-Steuerelemente einer anderen Familie übernehmen.
Dies ist ein reines Textmodell. Visuelle Eingabe, Audioverständnis und Spracherzeugung benötigen separat spezifizierte Komponenten. Definiere das Endergebnis vor dem Bereitstellen des Materials: eine knappe Antwort, einen extrahierten Datensatz, eine überarbeitete Textstelle, eine Erklärung oder einen Codevorschlag. Bewahre die Quelleninformationen, die zur Prüfung von Bedeutung und Format dieses Ergebnisses nötig sind.
", "aboutText": "Llama 3.1 8B Instruct ist Metas Textmodell mit acht Milliarden Parametern für mehrsprachigen Dialog und anweisungsbasierte Assistenten. Es akzeptiert schriftliche Gespräche und Quellmaterial und erzeugt Text oder Code. Es ist die Instruct-Ausgabe der Grösse 8B, getrennt von ihrer vortrainierten Basis und den 70B- und 405B-Modellen der Familie.\n\nArchitektur, Kontext und Sprachen\n\nDas Modell verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention. Die anweisungsoptimierte Familie nutzt überwachtes Fine-Tuning und Reinforcement Learning mit menschlicher Rückmeldung zur Ausrichtung ihrer Gesprächsantworten. Der Hersteller dokumentiert einen 128k-Kontext für diese Textversion; das ist nicht die Bild- oder Langkontextspezifikation eines späteren Llama-4-Modells.\n\nDie acht offiziell unterstützten Sprachen sind Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Die Vortrainingsdaten umfassen eine breitere Sammlung, die sich von den ausdrücklich in der Karte unterstützten Sprachen unterscheidet. Nenne die Zielsprache und alle Namen, Variablenbezeichner oder Begriffe, die in einem mehrsprachigen Ergebnis unverändert bleiben sollen.\n\nDie Familie wird mit ungefähr fünfzehn Billionen Tokens vortrainiert, mit einem Datenstichtag im Dezember 2023. Das Fine-Tuning umfasst Anweisungsmaterial und mehr als fünfundzwanzig Millionen synthetische Beispiele. Das beschreibt das Modelltraining und keinen Zugriff auf eine private Wissensdatenbank oder aktuelle Informationen beim Eintreffen einer neuen Frage.\n\nDefinierte Textoperationen\n\nEine supportbezogene Anfrage kann die Nutzernachricht und relevante Referenzpassagen liefern und anschliessend die Antwort mit ihrer stützenden Bedingung verlangen. Ein kompakter Datensatz kann das Problem, bereits bereitgestellte Informationen und den nächsten erforderlichen Schritt trennen. Definiere Feldnamen und den Umgang mit fehlenden Werten, wenn eine Anwendung das Ergebnis verarbeiten muss.\n\nLiefere für eine Zusammenfassung die tatsächliche Textstelle oder den Austausch und lege Zielgruppe, Länge und zu bewahrende Fakten fest. Verlange die für ein Thema relevanten Entscheidungen oder ungeklärten Fragen statt einer ungerichteten Zusammenfassung nicht zusammengehörigen Materials. Eine Folgefrage kann eine kürzere Antwort oder eine klarere Erklärung einer Bedingung verlangen und dabei dieselben Quellenfakten bewahren.\n\nLege für die Bearbeitung Leser und Ton fest und benenne die Bedeutung, die unverändert bleiben muss. Eine praktische Aufgabe könnte eine klarere Nachricht mit einer kurzen Änderungsliste verlangen oder nur die überarbeitete Nachricht, wenn sie direkt verwendet wird. Eine Klassifikationsaufgabe sollte zulässige Labels und deren Unterschiede vorgeben, statt sich darauf zu verlassen, dass ein Labelname die Regel definiert.\n\nCode- und Beispielgenerierung\n\nDie dokumentierte Ausgabe umfasst auch Code. Gib Sprache, erforderliche Eingaben und erwartetes Ergebnis vor, bevor du eine Funktion verlangst. Liefere für eine Erklärung die bestehende Funktion und eine konkrete Eingabe und frage, welche Schritte ihren Rückgabewert bestimmen. Füge für eine Korrektur den beobachteten Fehler und das beabsichtigte Verhalten hinzu und bewahre die Schnittstelle, die kompatibel bleiben muss.\n\nEine nützliche Ausgabe kann vorgeschlagenen Code, seine Annahmen und Beispieleingaben trennen. Die Anwendung oder der Entwickler führt die tatsächliche Kompilierung, Ausführung oder Repository-Änderung durch. Schriftlicher Quellcode ist ein zu prüfendes Ergebnis und keine abgeschlossene externe Operation, nur weil das Modell ihn zurückgegeben hat.\n\nDie Familie unterstützt auch die Verwendung generierter Ausgaben für synthetische Beispiele und Distillation. Eine definierte Textanfrage kann Varianten nach vorgegebenen Regeln und in einem festgelegten Format erzeugen. Bewahre Regeln und Labels, damit jedes Beispiel geprüft werden kann; generierte Beispiele belegen nicht unabhängig die Korrektheit eines Trainingsdatensatzes.\n\nGesprächsrollen und Werkzeugnutzung\n\nDie Modellkarte zeigt eine Chatvorlage mit separaten System- und Nutzernachrichten. Definiere Assistentenrolle und Antwortanforderungen im Systemkontext und liefere dann Frage und Quellmaterial als Aufgabe. Bewahre relevante vorherige Nachrichten, wenn du eine Folgefrage stellst oder neue Belege lieferst, die das Ergebnis ändern.\n\nLlama 3.1 dokumentiert mehrere Werkzeugnutzungsformate. Die Anwendung beschreibt eine Funktion, das Modell erzeugt den vorgeschlagenen Aufruf und die Argumente, die Anwendung führt ihn aus und gibt das Ergebnis mit der Werkzeugrolle zurück. Die nächste Antwort kann dann die zurückgegebenen Informationen nutzen. Halte die ursprüngliche Operation und das Ergebnis über den Gesprächsverlauf hinweg verknüpft.\n\nEine Abfrage kann zum Beispiel den aktuellen Referenzwert liefern, der in einer Textstelle fehlt, oder ein Rechenwerkzeug kann das für die Erklärung benötigte numerische Ergebnis bereitstellen. Ein Assistent mit Werkzeugen braucht diese von der Umgebung bereitgestellten Operationen. Das Textverhalten des Modells schafft für sich genommen weder eine Verbindung zu einer externen Quelle noch eine ausgeführte Nebenwirkung.\n\nPraktische Grenzen\n\nDie 128k-Kontextangabe des Herstellers sollte bei der genauen 8B-Instruct-Version und der geltenden Konfiguration bleiben. Das Generierungsbeispiel mit 256 Tokens ist lediglich eine Nutzungsentscheidung; die gelesenen Quellen nennen keine separate harte maximale Antwortkapazität. Die Grösse 8B sollte weder die Parameterzahl eines anderen Familienmitglieds noch benannte Reasoning-Steuerelemente einer anderen Familie übernehmen.\n\nDies ist ein reines Textmodell. Visuelle Eingabe, Audioverständnis und Spracherzeugung benötigen separat spezifizierte Komponenten. Definiere das Endergebnis vor dem Bereitstellen des Materials: eine knappe Antwort, einen extrahierten Datensatz, eine überarbeitete Textstelle, eine Erklärung oder einen Codevorschlag. Bewahre die Quelleninformationen, die zur Prüfung von Bedeutung und Format dieses Ergebnisses nötig sind.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Translate a delivery notice into German\n\nTranslate this customer notice into German: 'Order BN-42 will leave our warehouse on Thursday. Delivery normally takes three business days. We will send tracking details after dispatch.' Preserve BN-42, distinguish dispatch from delivery and use a polite professional tone. Return only the translation; do not turn the normal transit time into a guaranteed arrival date.One German customer notice preserving the identifier, event sequence and qualified transit time.The translation distinguishes warehouse dispatch from delivery and retains the word's sense of a normal estimate.meta-llama/llama-3.1-8b-instructLlama 3.1 8B Instruct ist Metas kleineres Text-Anweisungsmodell für mehrsprachigen Dialog, Zusammenfassungen und quellengebundene Antworten. Es hat 8B Parameter, einen vom Hersteller genannten 128k-Kontext, Grouped-Query-Attention und dokumentierte Werkzeugnutzungsformate und liefert Text oder Code zurück.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama 3.1 8B Instruct ist Metas Textmodell mit acht Milliarden Parametern für mehrsprachigen Dialog und anweisungsbasierte Assistenten. Es akzeptiert schriftliche Gespräche und Quellmaterial und erzeugt Text oder Code. Es ist die Instruct-Ausgabe der Grösse 8B, getrennt von ihrer vortrainierten Basis und den 70B- und 405B-Modellen der Familie.
Architektur, Kontext und Sprachen
Das Modell verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention. Die anweisungsoptimierte Familie nutzt überwachtes Fine-Tuning und Reinforcement Learning mit menschlicher Rückmeldung zur Ausrichtung ihrer Gesprächsantworten. Der Hersteller dokumentiert einen 128k-Kontext für diese Textversion; das ist nicht die Bild- oder Langkontextspezifikation eines späteren Llama-4-Modells.
Die acht offiziell unterstützten Sprachen sind Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Die Vortrainingsdaten umfassen eine breitere Sammlung, die sich von den ausdrücklich in der Karte unterstützten Sprachen unterscheidet. Nenne die Zielsprache und alle Namen, Variablenbezeichner oder Begriffe, die in einem mehrsprachigen Ergebnis unverändert bleiben sollen.
Die Familie wird mit ungefähr fünfzehn Billionen Tokens vortrainiert, mit einem Datenstichtag im Dezember 2023. Das Fine-Tuning umfasst Anweisungsmaterial und mehr als fünfundzwanzig Millionen synthetische Beispiele. Das beschreibt das Modelltraining und keinen Zugriff auf eine private Wissensdatenbank oder aktuelle Informationen beim Eintreffen einer neuen Frage.
Definierte Textoperationen
Eine supportbezogene Anfrage kann die Nutzernachricht und relevante Referenzpassagen liefern und anschliessend die Antwort mit ihrer stützenden Bedingung verlangen. Ein kompakter Datensatz kann das Problem, bereits bereitgestellte Informationen und den nächsten erforderlichen Schritt trennen. Definiere Feldnamen und den Umgang mit fehlenden Werten, wenn eine Anwendung das Ergebnis verarbeiten muss.
Liefere für eine Zusammenfassung die tatsächliche Textstelle oder den Austausch und lege Zielgruppe, Länge und zu bewahrende Fakten fest. Verlange die für ein Thema relevanten Entscheidungen oder ungeklärten Fragen statt einer ungerichteten Zusammenfassung nicht zusammengehörigen Materials. Eine Folgefrage kann eine kürzere Antwort oder eine klarere Erklärung einer Bedingung verlangen und dabei dieselben Quellenfakten bewahren.
Lege für die Bearbeitung Leser und Ton fest und benenne die Bedeutung, die unverändert bleiben muss. Eine praktische Aufgabe könnte eine klarere Nachricht mit einer kurzen Änderungsliste verlangen oder nur die überarbeitete Nachricht, wenn sie direkt verwendet wird. Eine Klassifikationsaufgabe sollte zulässige Labels und deren Unterschiede vorgeben, statt sich darauf zu verlassen, dass ein Labelname die Regel definiert.
Code- und Beispielgenerierung
Die dokumentierte Ausgabe umfasst auch Code. Gib Sprache, erforderliche Eingaben und erwartetes Ergebnis vor, bevor du eine Funktion verlangst. Liefere für eine Erklärung die bestehende Funktion und eine konkrete Eingabe und frage, welche Schritte ihren Rückgabewert bestimmen. Füge für eine Korrektur den beobachteten Fehler und das beabsichtigte Verhalten hinzu und bewahre die Schnittstelle, die kompatibel bleiben muss.
Eine nützliche Ausgabe kann vorgeschlagenen Code, seine Annahmen und Beispieleingaben trennen. Die Anwendung oder der Entwickler führt die tatsächliche Kompilierung, Ausführung oder Repository-Änderung durch. Schriftlicher Quellcode ist ein zu prüfendes Ergebnis und keine abgeschlossene externe Operation, nur weil das Modell ihn zurückgegeben hat.
Die Familie unterstützt auch die Verwendung generierter Ausgaben für synthetische Beispiele und Distillation. Eine definierte Textanfrage kann Varianten nach vorgegebenen Regeln und in einem festgelegten Format erzeugen. Bewahre Regeln und Labels, damit jedes Beispiel geprüft werden kann; generierte Beispiele belegen nicht unabhängig die Korrektheit eines Trainingsdatensatzes.
Gesprächsrollen und Werkzeugnutzung
Die Modellkarte zeigt eine Chatvorlage mit separaten System- und Nutzernachrichten. Definiere Assistentenrolle und Antwortanforderungen im Systemkontext und liefere dann Frage und Quellmaterial als Aufgabe. Bewahre relevante vorherige Nachrichten, wenn du eine Folgefrage stellst oder neue Belege lieferst, die das Ergebnis ändern.
Llama 3.1 dokumentiert mehrere Werkzeugnutzungsformate. Die Anwendung beschreibt eine Funktion, das Modell erzeugt den vorgeschlagenen Aufruf und die Argumente, die Anwendung führt ihn aus und gibt das Ergebnis mit der Werkzeugrolle zurück. Die nächste Antwort kann dann die zurückgegebenen Informationen nutzen. Halte die ursprüngliche Operation und das Ergebnis über den Gesprächsverlauf hinweg verknüpft.
Eine Abfrage kann zum Beispiel den aktuellen Referenzwert liefern, der in einer Textstelle fehlt, oder ein Rechenwerkzeug kann das für die Erklärung benötigte numerische Ergebnis bereitstellen. Ein Assistent mit Werkzeugen braucht diese von der Umgebung bereitgestellten Operationen. Das Textverhalten des Modells schafft für sich genommen weder eine Verbindung zu einer externen Quelle noch eine ausgeführte Nebenwirkung.
Praktische Grenzen
Die 128k-Kontextangabe des Herstellers sollte bei der genauen 8B-Instruct-Version und der geltenden Konfiguration bleiben. Das Generierungsbeispiel mit 256 Tokens ist lediglich eine Nutzungsentscheidung; die gelesenen Quellen nennen keine separate harte maximale Antwortkapazität. Die Grösse 8B sollte weder die Parameterzahl eines anderen Familienmitglieds noch benannte Reasoning-Steuerelemente einer anderen Familie übernehmen.
Dies ist ein reines Textmodell. Visuelle Eingabe, Audioverständnis und Spracherzeugung benötigen separat spezifizierte Komponenten. Definiere das Endergebnis vor dem Bereitstellen des Materials: eine knappe Antwort, einen extrahierten Datensatz, eine überarbeitete Textstelle, eine Erklärung oder einen Codevorschlag. Bewahre die Quelleninformationen, die zur Prüfung von Bedeutung und Format dieses Ergebnisses nötig sind.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits meta-llama/llama-3.1-8b-instruct | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschliesslich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00044 / 1K Tokens Ausgabe · Ausgabetoken $0.00044 / 1K Tokens Eingabe · Cache lesen $0.00044 / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00044 / 1K Tokens Ausgabe · Ausgabetoken $0.00044 / 1K Tokens Eingabe · Cache lesen $0.00044 / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.1-8b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.1-8b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.1-8b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra meta-llama/llama-3.1-8b-instruct
Verwenden Sie die oben angezeigten Methodenpfade.
meta-llama/llama-3.1-8b-instructLlama 3.1 8B Instruct ist Metas kleineres Text-Anweisungsmodell für mehrsprachigen Dialog, Zusammenfassungen und quellengebundene Antworten. Es hat 8B Parameter, einen vom Hersteller genannten 128k-Kontext, Grouped-Query-Attention und dokumentierte Werkzeugnutzungsformate und liefert Text oder Code zurück.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama 3.1 8B Instruct ist Metas Textmodell mit acht Milliarden Parametern für mehrsprachigen Dialog und anweisungsbasierte Assistenten. Es akzeptiert schriftliche Gespräche und Quellmaterial und erzeugt Text oder Code. Es ist die Instruct-Ausgabe der Grösse 8B, getrennt von ihrer vortrainierten Basis und den 70B- und 405B-Modellen der Familie.
Architektur, Kontext und Sprachen
Das Modell verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention. Die anweisungsoptimierte Familie nutzt überwachtes Fine-Tuning und Reinforcement Learning mit menschlicher Rückmeldung zur Ausrichtung ihrer Gesprächsantworten. Der Hersteller dokumentiert einen 128k-Kontext für diese Textversion; das ist nicht die Bild- oder Langkontextspezifikation eines späteren Llama-4-Modells.
Die acht offiziell unterstützten Sprachen sind Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Die Vortrainingsdaten umfassen eine breitere Sammlung, die sich von den ausdrücklich in der Karte unterstützten Sprachen unterscheidet. Nenne die Zielsprache und alle Namen, Variablenbezeichner oder Begriffe, die in einem mehrsprachigen Ergebnis unverändert bleiben sollen.
Die Familie wird mit ungefähr fünfzehn Billionen Tokens vortrainiert, mit einem Datenstichtag im Dezember 2023. Das Fine-Tuning umfasst Anweisungsmaterial und mehr als fünfundzwanzig Millionen synthetische Beispiele. Das beschreibt das Modelltraining und keinen Zugriff auf eine private Wissensdatenbank oder aktuelle Informationen beim Eintreffen einer neuen Frage.
Definierte Textoperationen
Eine supportbezogene Anfrage kann die Nutzernachricht und relevante Referenzpassagen liefern und anschliessend die Antwort mit ihrer stützenden Bedingung verlangen. Ein kompakter Datensatz kann das Problem, bereits bereitgestellte Informationen und den nächsten erforderlichen Schritt trennen. Definiere Feldnamen und den Umgang mit fehlenden Werten, wenn eine Anwendung das Ergebnis verarbeiten muss.
Liefere für eine Zusammenfassung die tatsächliche Textstelle oder den Austausch und lege Zielgruppe, Länge und zu bewahrende Fakten fest. Verlange die für ein Thema relevanten Entscheidungen oder ungeklärten Fragen statt einer ungerichteten Zusammenfassung nicht zusammengehörigen Materials. Eine Folgefrage kann eine kürzere Antwort oder eine klarere Erklärung einer Bedingung verlangen und dabei dieselben Quellenfakten bewahren.
Lege für die Bearbeitung Leser und Ton fest und benenne die Bedeutung, die unverändert bleiben muss. Eine praktische Aufgabe könnte eine klarere Nachricht mit einer kurzen Änderungsliste verlangen oder nur die überarbeitete Nachricht, wenn sie direkt verwendet wird. Eine Klassifikationsaufgabe sollte zulässige Labels und deren Unterschiede vorgeben, statt sich darauf zu verlassen, dass ein Labelname die Regel definiert.
Code- und Beispielgenerierung
Die dokumentierte Ausgabe umfasst auch Code. Gib Sprache, erforderliche Eingaben und erwartetes Ergebnis vor, bevor du eine Funktion verlangst. Liefere für eine Erklärung die bestehende Funktion und eine konkrete Eingabe und frage, welche Schritte ihren Rückgabewert bestimmen. Füge für eine Korrektur den beobachteten Fehler und das beabsichtigte Verhalten hinzu und bewahre die Schnittstelle, die kompatibel bleiben muss.
Eine nützliche Ausgabe kann vorgeschlagenen Code, seine Annahmen und Beispieleingaben trennen. Die Anwendung oder der Entwickler führt die tatsächliche Kompilierung, Ausführung oder Repository-Änderung durch. Schriftlicher Quellcode ist ein zu prüfendes Ergebnis und keine abgeschlossene externe Operation, nur weil das Modell ihn zurückgegeben hat.
Die Familie unterstützt auch die Verwendung generierter Ausgaben für synthetische Beispiele und Distillation. Eine definierte Textanfrage kann Varianten nach vorgegebenen Regeln und in einem festgelegten Format erzeugen. Bewahre Regeln und Labels, damit jedes Beispiel geprüft werden kann; generierte Beispiele belegen nicht unabhängig die Korrektheit eines Trainingsdatensatzes.
Gesprächsrollen und Werkzeugnutzung
Die Modellkarte zeigt eine Chatvorlage mit separaten System- und Nutzernachrichten. Definiere Assistentenrolle und Antwortanforderungen im Systemkontext und liefere dann Frage und Quellmaterial als Aufgabe. Bewahre relevante vorherige Nachrichten, wenn du eine Folgefrage stellst oder neue Belege lieferst, die das Ergebnis ändern.
Llama 3.1 dokumentiert mehrere Werkzeugnutzungsformate. Die Anwendung beschreibt eine Funktion, das Modell erzeugt den vorgeschlagenen Aufruf und die Argumente, die Anwendung führt ihn aus und gibt das Ergebnis mit der Werkzeugrolle zurück. Die nächste Antwort kann dann die zurückgegebenen Informationen nutzen. Halte die ursprüngliche Operation und das Ergebnis über den Gesprächsverlauf hinweg verknüpft.
Eine Abfrage kann zum Beispiel den aktuellen Referenzwert liefern, der in einer Textstelle fehlt, oder ein Rechenwerkzeug kann das für die Erklärung benötigte numerische Ergebnis bereitstellen. Ein Assistent mit Werkzeugen braucht diese von der Umgebung bereitgestellten Operationen. Das Textverhalten des Modells schafft für sich genommen weder eine Verbindung zu einer externen Quelle noch eine ausgeführte Nebenwirkung.
Praktische Grenzen
Die 128k-Kontextangabe des Herstellers sollte bei der genauen 8B-Instruct-Version und der geltenden Konfiguration bleiben. Das Generierungsbeispiel mit 256 Tokens ist lediglich eine Nutzungsentscheidung; die gelesenen Quellen nennen keine separate harte maximale Antwortkapazität. Die Grösse 8B sollte weder die Parameterzahl eines anderen Familienmitglieds noch benannte Reasoning-Steuerelemente einer anderen Familie übernehmen.
Dies ist ein reines Textmodell. Visuelle Eingabe, Audioverständnis und Spracherzeugung benötigen separat spezifizierte Komponenten. Definiere das Endergebnis vor dem Bereitstellen des Materials: eine knappe Antwort, einen extrahierten Datensatz, eine überarbeitete Textstelle, eine Erklärung oder einen Codevorschlag. Bewahre die Quelleninformationen, die zur Prüfung von Bedeutung und Format dieses Ergebnisses nötig sind.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits meta-llama/llama-3.1-8b-instruct | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschliesslich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00044 / 1K Tokens Ausgabe · Ausgabetoken $0.00044 / 1K Tokens Eingabe · Cache lesen $0.00044 / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschliesslichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00044 / 1K Tokens Ausgabe · Ausgabetoken $0.00044 / 1K Tokens Eingabe · Cache lesen $0.00044 / 1K Tokens Eingabe · Cache schreiben — / 1K Tokens Eingabe · Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschliessenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "meta-llama/llama-3.1-8b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra meta-llama/llama-3.1-8b-instruct
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Translate a delivery notice into German\n\nTranslate this customer notice into German: 'Order BN-42 will leave our warehouse on Thursday. Delivery normally takes three business days. We will send tracking details after dispatch.' Preserve BN-42, distinguish dispatch from delivery and use a polite professional tone. Return only the translation; do not turn the normal transit time into a guaranteed arrival date.One German customer notice preserving the identifier, event sequence and qualified transit time.The translation distinguishes warehouse dispatch from delivery and retains the word's sense of a normal estimate.