Llama 3.1 70B Instruct ist Metas Textmodell mit 70 Milliarden Parametern, optimiert für mehrsprachige Dialoge und assistentenartige Anfragen. Es ist ein anweisungsabgestimmter Checkpoint innerhalb einer Familie, die auch die Größen 8B und 405B sowie eigene vortrainierte Modelle umfasst. Es verarbeitet Text und liefert mehrsprachigen Text oder Code; die benannte 70B-Ausgabe bewahrt ihre eigene Größe und Identität.
Modellinformationen und Training
Die Version verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention. Die abgestimmten Modelle werden durch überwachtes Fine-Tuning und Reinforcement Learning mit menschlichem Feedback ausgerichtet. Das sind Trainingsstufen für hilfreiches Gesprächsverhalten und kein benannter Laufzeitschalter zwischen getrennten Modi mit und ohne Reasoning.
Der Hersteller dokumentiert einen 128k-Kontext für die Textmodelle und unterstützt offiziell Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Das Training umfasst eine breitere Sprachsammlung, wodurch nicht jede Sprache gleichermaßen unterstützt wird. Geben Sie Ausgabesprache, Terminologie und Leser an, bevor Sie ein mehrsprachiges Artefakt anfordern.
Das Vortrainingskorpus der Familie wird mit ungefähr fünfzehn Billionen Token beschrieben, bei einem Datenstand bis Dezember 2023. Das Fine-Tuning umfasst Anweisungsdatensätze und mehr als fünfundzwanzig Millionen synthetische Beispiele. Der Stichtag markiert eine Trainingsdatengrenze; eine Frage zu neueren oder privaten Informationen benötigt diese Informationen in der Aufgabe oder aus einer angebundenen Quelle.
Assistentenartiger Chat und Quellenanalyse
Die Instruct-Ausgabe soll auf Gesprächsanfragen antworten, während die vortrainierte Version eine Grundlage ist, die für andere Generierungsaufgaben angepasst werden kann. Stellen Sie für eine quellenbasierte Antwort die Frage und die für das Ergebnis maßgeblichen Passagen bereit. Kennzeichnen Sie die Quellen und fordern Sie den belegenden Abschnitt oder die Aussage neben jedem Befund an.
Ein praktischer Vergleich kann zwei Verfahren bereitstellen und gemeinsame Bedingungen, Unterschiede und ungeklärte Konflikte anfordern. Ein daraus entstehender Leitfaden kann die ursprüngliche Reihenfolge und die Bedingungen bewahren, unter denen jede Aktion gilt. Eine Dokumentüberarbeitung kann Zielgruppe, unbedingt zu erhaltende Fakten und die Frage festlegen, ob das fertige Artefakt nur eine überarbeitete Passage oder zusätzlich eine Erklärung enthalten soll.
Benennen Sie für eine längere Antwort die erforderlichen Abschnitte und ihren jeweiligen Zweck. Ein großer Kontext kann zusammengehöriges Material gemeinsam erhalten, während das fertige Ergebnis eine knappe Matrix oder Erklärung bleibt. Quellenidentitäten und eine klar definierte Frage sind wichtiger als das bloße Einbeziehen jedes verfügbaren Dokuments.
Code und erzeugte Beispiele
Die dokumentierte Ausgabe umfasst Code. Geben Sie für einen Implementierungsvorschlag Sprache, Eingabetypen, erwartetes Ergebnis und die kompatibel zu haltende Schnittstelle vor. Fügen Sie bei einer Korrektur das vorhandene Fragment und relevante Deklarationen hinzu. Fordern Sie den Code getrennt von seinen Annahmen und Beispielen an, damit der nächste Entwicklungsschritt ihn prüfen kann.
Stellen Sie für eine Codeerklärung die nachzuverfolgende Eingabe bereit und fragen Sie, wie die vorgegebene Funktion zum Rückgabewert gelangt. Definieren Sie für eine mathematische Erklärung Symbole und Annahmen und geben Sie an, ob das Ergebnis exakt, näherungsweise oder ein Beweis sein soll. Codegenerierung und schriftliche Argumentation kompilieren nicht selbst ein Programm oder führen eine Berechnung aus.
Der Hersteller nennt auch die Erzeugung synthetischer Daten und Distillation als Familienanwendungen. Eine Textaufgabe kann abwechslungsreiche Beispiele in einem festgelegten Format und unter Beibehaltung vorgegebener Regeln verlangen. Ob diese Beispiele für weiteres Training geeignet sind, ist eine eigene Anwendungsentscheidung; die Textausgabe allein ist keine unabhängige Prüfung ihrer Korrektheit.
Gesprächsformat und Werkzeuge
Die Karte zeigt getrennte System- und Nutzernachrichten mit der passenden Chatvorlage. Verwenden Sie die Systemanweisung für Rolle, Ton und dauerhafte Antwortregeln, während die Nutzeranfrage das tatsächliche Problem und die Quellen enthält. Bewahren Sie relevante frühere Nachrichten, wenn eine Folgeanfrage auf einer vorherigen Antwort aufbaut.
Llama 3.1 unterstützt mehrere dokumentierte Werkzeugnutzungsformate. Die Anwendung stellt Funktionen und Parameter bereit, das Modell bereitet einen vorgeschlagenen Aufruf vor, die Anwendung führt ihn aus und ergänzt sein Ergebnis im Gespräch. Eine spätere Generierung kann dieses Ergebnis verwenden. Das kurze Beispiel der Karte zeigt ausdrücklich das Hinzufügen des Assistentenaufrufs und danach des Werkzeugergebnisses; die Auswahl einer Funktion unterscheidet sich vom Abschluss ihrer Operation.
Geben Sie für eine Abfrage die benötigten Informationen an und definieren Sie die Funktion, die sie zurückliefert. Halten Sie den tatsächlich zurückgegebenen Wert beim ursprünglichen Aufruf, bevor Sie die abschließende Erklärung anfordern. Unterscheiden Sie bei einer Berechnung die vom Modell vorgeschlagene Operation vom Ergebnis des Rechners. Native Werkzeugformatierung und die sichtbare Darstellung einer Wrapper-Schnittstelle sollten ihre jeweils dokumentierten Konventionen bewahren.
Ausgabe und praktische Grenzen
Die Generierungseinstellung mit 256 Token in der gelesenen Karte ist ein Nutzungsbeispiel und keine unabhängig angegebene maximale Ausgabekapazität. Der 128k-Kontext betrifft Material und erzeugten Gesprächsverlauf innerhalb der konfigurierten Version. Ersetzen Sie ihn nicht durch den Kontext oder die visuellen Fähigkeiten von Llama 4 oder die Größe eines anderen Llama-3.1-Checkpoints.
Dies ist ein reines Text-Instruct-Modell. Der relevante Inhalt eines Bildes, einer Aufnahme oder eines Videos muss durch eine andere Komponente aufbereitet werden. Externes Retrieval, Programmausführung und Dateiänderungen gehören ebenso zur mit dem Assistenten verbundenen Anwendung. Bewahren Sie die exakte Ausgabe 70B Instruct und fordern Sie die quellenverknüpfte Erklärung, das überarbeitete Dokument, den Code oder strukturierten Text an, den die Aufgabe benötigt.
", "aboutText": "Llama 3.1 70B Instruct ist Metas Textmodell mit 70 Milliarden Parametern, optimiert für mehrsprachige Dialoge und assistentenartige Anfragen. Es ist ein anweisungsabgestimmter Checkpoint innerhalb einer Familie, die auch die Größen 8B und 405B sowie eigene vortrainierte Modelle umfasst. Es verarbeitet Text und liefert mehrsprachigen Text oder Code; die benannte 70B-Ausgabe bewahrt ihre eigene Größe und Identität.\n\nModellinformationen und Training\n\nDie Version verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention. Die abgestimmten Modelle werden durch überwachtes Fine-Tuning und Reinforcement Learning mit menschlichem Feedback ausgerichtet. Das sind Trainingsstufen für hilfreiches Gesprächsverhalten und kein benannter Laufzeitschalter zwischen getrennten Modi mit und ohne Reasoning.\n\nDer Hersteller dokumentiert einen 128k-Kontext für die Textmodelle und unterstützt offiziell Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Das Training umfasst eine breitere Sprachsammlung, wodurch nicht jede Sprache gleichermaßen unterstützt wird. Geben Sie Ausgabesprache, Terminologie und Leser an, bevor Sie ein mehrsprachiges Artefakt anfordern.\n\nDas Vortrainingskorpus der Familie wird mit ungefähr fünfzehn Billionen Token beschrieben, bei einem Datenstand bis Dezember 2023. Das Fine-Tuning umfasst Anweisungsdatensätze und mehr als fünfundzwanzig Millionen synthetische Beispiele. Der Stichtag markiert eine Trainingsdatengrenze; eine Frage zu neueren oder privaten Informationen benötigt diese Informationen in der Aufgabe oder aus einer angebundenen Quelle.\n\nAssistentenartiger Chat und Quellenanalyse\n\nDie Instruct-Ausgabe soll auf Gesprächsanfragen antworten, während die vortrainierte Version eine Grundlage ist, die für andere Generierungsaufgaben angepasst werden kann. Stellen Sie für eine quellenbasierte Antwort die Frage und die für das Ergebnis maßgeblichen Passagen bereit. Kennzeichnen Sie die Quellen und fordern Sie den belegenden Abschnitt oder die Aussage neben jedem Befund an.\n\nEin praktischer Vergleich kann zwei Verfahren bereitstellen und gemeinsame Bedingungen, Unterschiede und ungeklärte Konflikte anfordern. Ein daraus entstehender Leitfaden kann die ursprüngliche Reihenfolge und die Bedingungen bewahren, unter denen jede Aktion gilt. Eine Dokumentüberarbeitung kann Zielgruppe, unbedingt zu erhaltende Fakten und die Frage festlegen, ob das fertige Artefakt nur eine überarbeitete Passage oder zusätzlich eine Erklärung enthalten soll.\n\nBenennen Sie für eine längere Antwort die erforderlichen Abschnitte und ihren jeweiligen Zweck. Ein großer Kontext kann zusammengehöriges Material gemeinsam erhalten, während das fertige Ergebnis eine knappe Matrix oder Erklärung bleibt. Quellenidentitäten und eine klar definierte Frage sind wichtiger als das bloße Einbeziehen jedes verfügbaren Dokuments.\n\nCode und erzeugte Beispiele\n\nDie dokumentierte Ausgabe umfasst Code. Geben Sie für einen Implementierungsvorschlag Sprache, Eingabetypen, erwartetes Ergebnis und die kompatibel zu haltende Schnittstelle vor. Fügen Sie bei einer Korrektur das vorhandene Fragment und relevante Deklarationen hinzu. Fordern Sie den Code getrennt von seinen Annahmen und Beispielen an, damit der nächste Entwicklungsschritt ihn prüfen kann.\n\nStellen Sie für eine Codeerklärung die nachzuverfolgende Eingabe bereit und fragen Sie, wie die vorgegebene Funktion zum Rückgabewert gelangt. Definieren Sie für eine mathematische Erklärung Symbole und Annahmen und geben Sie an, ob das Ergebnis exakt, näherungsweise oder ein Beweis sein soll. Codegenerierung und schriftliche Argumentation kompilieren nicht selbst ein Programm oder führen eine Berechnung aus.\n\nDer Hersteller nennt auch die Erzeugung synthetischer Daten und Distillation als Familienanwendungen. Eine Textaufgabe kann abwechslungsreiche Beispiele in einem festgelegten Format und unter Beibehaltung vorgegebener Regeln verlangen. Ob diese Beispiele für weiteres Training geeignet sind, ist eine eigene Anwendungsentscheidung; die Textausgabe allein ist keine unabhängige Prüfung ihrer Korrektheit.\n\nGesprächsformat und Werkzeuge\n\nDie Karte zeigt getrennte System- und Nutzernachrichten mit der passenden Chatvorlage. Verwenden Sie die Systemanweisung für Rolle, Ton und dauerhafte Antwortregeln, während die Nutzeranfrage das tatsächliche Problem und die Quellen enthält. Bewahren Sie relevante frühere Nachrichten, wenn eine Folgeanfrage auf einer vorherigen Antwort aufbaut.\n\nLlama 3.1 unterstützt mehrere dokumentierte Werkzeugnutzungsformate. Die Anwendung stellt Funktionen und Parameter bereit, das Modell bereitet einen vorgeschlagenen Aufruf vor, die Anwendung führt ihn aus und ergänzt sein Ergebnis im Gespräch. Eine spätere Generierung kann dieses Ergebnis verwenden. Das kurze Beispiel der Karte zeigt ausdrücklich das Hinzufügen des Assistentenaufrufs und danach des Werkzeugergebnisses; die Auswahl einer Funktion unterscheidet sich vom Abschluss ihrer Operation.\n\nGeben Sie für eine Abfrage die benötigten Informationen an und definieren Sie die Funktion, die sie zurückliefert. Halten Sie den tatsächlich zurückgegebenen Wert beim ursprünglichen Aufruf, bevor Sie die abschließende Erklärung anfordern. Unterscheiden Sie bei einer Berechnung die vom Modell vorgeschlagene Operation vom Ergebnis des Rechners. Native Werkzeugformatierung und die sichtbare Darstellung einer Wrapper-Schnittstelle sollten ihre jeweils dokumentierten Konventionen bewahren.\n\nAusgabe und praktische Grenzen\n\nDie Generierungseinstellung mit 256 Token in der gelesenen Karte ist ein Nutzungsbeispiel und keine unabhängig angegebene maximale Ausgabekapazität. Der 128k-Kontext betrifft Material und erzeugten Gesprächsverlauf innerhalb der konfigurierten Version. Ersetzen Sie ihn nicht durch den Kontext oder die visuellen Fähigkeiten von Llama 4 oder die Größe eines anderen Llama-3.1-Checkpoints.\n\nDies ist ein reines Text-Instruct-Modell. Der relevante Inhalt eines Bildes, einer Aufnahme oder eines Videos muss durch eine andere Komponente aufbereitet werden. Externes Retrieval, Programmausführung und Dateiänderungen gehören ebenso zur mit dem Assistenten verbundenen Anwendung. Bewahren Sie die exakte Ausgabe 70B Instruct und fordern Sie die quellenverknüpfte Erklärung, das überarbeitete Dokument, den Code oder strukturierten Text an, den die Aufgabe benötigt.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Produce a bilingual maintenance notice\n\nWrite a maintenance notice in English and Spanish from these facts: warehouse entrance B closes on Tuesday from 08:00 to 11:00; deliveries must use entrance A; pedestrian access is unchanged. Use three short sentences per language and preserve entrance letters and times. Do not add a date, delay estimate or closure of pedestrian access.Two labelled language blocks with equivalent three-sentence notices.Compare both versions for entrance A/B, Tuesday, the time range and unchanged pedestrian access.meta-llama/llama-3.1-70b-instructLlama 3.1 70B Instruct ist Metas Textmodell für mehrsprachige Dialoge, Reasoning über Dokumente und Code. Seine anweisungsabgestimmte 70B-Version verwendet Grouped-Query-Attention, einen vom Hersteller angegebenen 128k-Kontext und dokumentierte Gesprächsformate für Werkzeugaufrufe, mit Text- und Codeausgabe.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama 3.1 70B Instruct ist Metas Textmodell mit 70 Milliarden Parametern, optimiert für mehrsprachige Dialoge und assistentenartige Anfragen. Es ist ein anweisungsabgestimmter Checkpoint innerhalb einer Familie, die auch die Größen 8B und 405B sowie eigene vortrainierte Modelle umfasst. Es verarbeitet Text und liefert mehrsprachigen Text oder Code; die benannte 70B-Ausgabe bewahrt ihre eigene Größe und Identität.
Modellinformationen und Training
Die Version verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention. Die abgestimmten Modelle werden durch überwachtes Fine-Tuning und Reinforcement Learning mit menschlichem Feedback ausgerichtet. Das sind Trainingsstufen für hilfreiches Gesprächsverhalten und kein benannter Laufzeitschalter zwischen getrennten Modi mit und ohne Reasoning.
Der Hersteller dokumentiert einen 128k-Kontext für die Textmodelle und unterstützt offiziell Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Das Training umfasst eine breitere Sprachsammlung, wodurch nicht jede Sprache gleichermaßen unterstützt wird. Geben Sie Ausgabesprache, Terminologie und Leser an, bevor Sie ein mehrsprachiges Artefakt anfordern.
Das Vortrainingskorpus der Familie wird mit ungefähr fünfzehn Billionen Token beschrieben, bei einem Datenstand bis Dezember 2023. Das Fine-Tuning umfasst Anweisungsdatensätze und mehr als fünfundzwanzig Millionen synthetische Beispiele. Der Stichtag markiert eine Trainingsdatengrenze; eine Frage zu neueren oder privaten Informationen benötigt diese Informationen in der Aufgabe oder aus einer angebundenen Quelle.
Assistentenartiger Chat und Quellenanalyse
Die Instruct-Ausgabe soll auf Gesprächsanfragen antworten, während die vortrainierte Version eine Grundlage ist, die für andere Generierungsaufgaben angepasst werden kann. Stellen Sie für eine quellenbasierte Antwort die Frage und die für das Ergebnis maßgeblichen Passagen bereit. Kennzeichnen Sie die Quellen und fordern Sie den belegenden Abschnitt oder die Aussage neben jedem Befund an.
Ein praktischer Vergleich kann zwei Verfahren bereitstellen und gemeinsame Bedingungen, Unterschiede und ungeklärte Konflikte anfordern. Ein daraus entstehender Leitfaden kann die ursprüngliche Reihenfolge und die Bedingungen bewahren, unter denen jede Aktion gilt. Eine Dokumentüberarbeitung kann Zielgruppe, unbedingt zu erhaltende Fakten und die Frage festlegen, ob das fertige Artefakt nur eine überarbeitete Passage oder zusätzlich eine Erklärung enthalten soll.
Benennen Sie für eine längere Antwort die erforderlichen Abschnitte und ihren jeweiligen Zweck. Ein großer Kontext kann zusammengehöriges Material gemeinsam erhalten, während das fertige Ergebnis eine knappe Matrix oder Erklärung bleibt. Quellenidentitäten und eine klar definierte Frage sind wichtiger als das bloße Einbeziehen jedes verfügbaren Dokuments.
Code und erzeugte Beispiele
Die dokumentierte Ausgabe umfasst Code. Geben Sie für einen Implementierungsvorschlag Sprache, Eingabetypen, erwartetes Ergebnis und die kompatibel zu haltende Schnittstelle vor. Fügen Sie bei einer Korrektur das vorhandene Fragment und relevante Deklarationen hinzu. Fordern Sie den Code getrennt von seinen Annahmen und Beispielen an, damit der nächste Entwicklungsschritt ihn prüfen kann.
Stellen Sie für eine Codeerklärung die nachzuverfolgende Eingabe bereit und fragen Sie, wie die vorgegebene Funktion zum Rückgabewert gelangt. Definieren Sie für eine mathematische Erklärung Symbole und Annahmen und geben Sie an, ob das Ergebnis exakt, näherungsweise oder ein Beweis sein soll. Codegenerierung und schriftliche Argumentation kompilieren nicht selbst ein Programm oder führen eine Berechnung aus.
Der Hersteller nennt auch die Erzeugung synthetischer Daten und Distillation als Familienanwendungen. Eine Textaufgabe kann abwechslungsreiche Beispiele in einem festgelegten Format und unter Beibehaltung vorgegebener Regeln verlangen. Ob diese Beispiele für weiteres Training geeignet sind, ist eine eigene Anwendungsentscheidung; die Textausgabe allein ist keine unabhängige Prüfung ihrer Korrektheit.
Gesprächsformat und Werkzeuge
Die Karte zeigt getrennte System- und Nutzernachrichten mit der passenden Chatvorlage. Verwenden Sie die Systemanweisung für Rolle, Ton und dauerhafte Antwortregeln, während die Nutzeranfrage das tatsächliche Problem und die Quellen enthält. Bewahren Sie relevante frühere Nachrichten, wenn eine Folgeanfrage auf einer vorherigen Antwort aufbaut.
Llama 3.1 unterstützt mehrere dokumentierte Werkzeugnutzungsformate. Die Anwendung stellt Funktionen und Parameter bereit, das Modell bereitet einen vorgeschlagenen Aufruf vor, die Anwendung führt ihn aus und ergänzt sein Ergebnis im Gespräch. Eine spätere Generierung kann dieses Ergebnis verwenden. Das kurze Beispiel der Karte zeigt ausdrücklich das Hinzufügen des Assistentenaufrufs und danach des Werkzeugergebnisses; die Auswahl einer Funktion unterscheidet sich vom Abschluss ihrer Operation.
Geben Sie für eine Abfrage die benötigten Informationen an und definieren Sie die Funktion, die sie zurückliefert. Halten Sie den tatsächlich zurückgegebenen Wert beim ursprünglichen Aufruf, bevor Sie die abschließende Erklärung anfordern. Unterscheiden Sie bei einer Berechnung die vom Modell vorgeschlagene Operation vom Ergebnis des Rechners. Native Werkzeugformatierung und die sichtbare Darstellung einer Wrapper-Schnittstelle sollten ihre jeweils dokumentierten Konventionen bewahren.
Ausgabe und praktische Grenzen
Die Generierungseinstellung mit 256 Token in der gelesenen Karte ist ein Nutzungsbeispiel und keine unabhängig angegebene maximale Ausgabekapazität. Der 128k-Kontext betrifft Material und erzeugten Gesprächsverlauf innerhalb der konfigurierten Version. Ersetzen Sie ihn nicht durch den Kontext oder die visuellen Fähigkeiten von Llama 4 oder die Größe eines anderen Llama-3.1-Checkpoints.
Dies ist ein reines Text-Instruct-Modell. Der relevante Inhalt eines Bildes, einer Aufnahme oder eines Videos muss durch eine andere Komponente aufbereitet werden. Externes Retrieval, Programmausführung und Dateiänderungen gehören ebenso zur mit dem Assistenten verbundenen Anwendung. Bewahren Sie die exakte Ausgabe 70B Instruct und fordern Sie die quellenverknüpfte Erklärung, das überarbeitete Dokument, den Code oder strukturierten Text an, den die Aufgabe benötigt.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits meta-llama/llama-3.1-70b-instruct | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00144 / 1K Tokens Ausgabe · Ausgabetoken $0.00144 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00144 / 1K Tokens Ausgabe · Ausgabetoken $0.00144 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.1-70b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.1-70b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.1-70b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra meta-llama/llama-3.1-70b-instruct
Verwenden Sie die oben angezeigten Methodenpfade.
meta-llama/llama-3.1-70b-instructLlama 3.1 70B Instruct ist Metas Textmodell für mehrsprachige Dialoge, Reasoning über Dokumente und Code. Seine anweisungsabgestimmte 70B-Version verwendet Grouped-Query-Attention, einen vom Hersteller angegebenen 128k-Kontext und dokumentierte Gesprächsformate für Werkzeugaufrufe, mit Text- und Codeausgabe.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama 3.1 70B Instruct ist Metas Textmodell mit 70 Milliarden Parametern, optimiert für mehrsprachige Dialoge und assistentenartige Anfragen. Es ist ein anweisungsabgestimmter Checkpoint innerhalb einer Familie, die auch die Größen 8B und 405B sowie eigene vortrainierte Modelle umfasst. Es verarbeitet Text und liefert mehrsprachigen Text oder Code; die benannte 70B-Ausgabe bewahrt ihre eigene Größe und Identität.
Modellinformationen und Training
Die Version verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention. Die abgestimmten Modelle werden durch überwachtes Fine-Tuning und Reinforcement Learning mit menschlichem Feedback ausgerichtet. Das sind Trainingsstufen für hilfreiches Gesprächsverhalten und kein benannter Laufzeitschalter zwischen getrennten Modi mit und ohne Reasoning.
Der Hersteller dokumentiert einen 128k-Kontext für die Textmodelle und unterstützt offiziell Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Das Training umfasst eine breitere Sprachsammlung, wodurch nicht jede Sprache gleichermaßen unterstützt wird. Geben Sie Ausgabesprache, Terminologie und Leser an, bevor Sie ein mehrsprachiges Artefakt anfordern.
Das Vortrainingskorpus der Familie wird mit ungefähr fünfzehn Billionen Token beschrieben, bei einem Datenstand bis Dezember 2023. Das Fine-Tuning umfasst Anweisungsdatensätze und mehr als fünfundzwanzig Millionen synthetische Beispiele. Der Stichtag markiert eine Trainingsdatengrenze; eine Frage zu neueren oder privaten Informationen benötigt diese Informationen in der Aufgabe oder aus einer angebundenen Quelle.
Assistentenartiger Chat und Quellenanalyse
Die Instruct-Ausgabe soll auf Gesprächsanfragen antworten, während die vortrainierte Version eine Grundlage ist, die für andere Generierungsaufgaben angepasst werden kann. Stellen Sie für eine quellenbasierte Antwort die Frage und die für das Ergebnis maßgeblichen Passagen bereit. Kennzeichnen Sie die Quellen und fordern Sie den belegenden Abschnitt oder die Aussage neben jedem Befund an.
Ein praktischer Vergleich kann zwei Verfahren bereitstellen und gemeinsame Bedingungen, Unterschiede und ungeklärte Konflikte anfordern. Ein daraus entstehender Leitfaden kann die ursprüngliche Reihenfolge und die Bedingungen bewahren, unter denen jede Aktion gilt. Eine Dokumentüberarbeitung kann Zielgruppe, unbedingt zu erhaltende Fakten und die Frage festlegen, ob das fertige Artefakt nur eine überarbeitete Passage oder zusätzlich eine Erklärung enthalten soll.
Benennen Sie für eine längere Antwort die erforderlichen Abschnitte und ihren jeweiligen Zweck. Ein großer Kontext kann zusammengehöriges Material gemeinsam erhalten, während das fertige Ergebnis eine knappe Matrix oder Erklärung bleibt. Quellenidentitäten und eine klar definierte Frage sind wichtiger als das bloße Einbeziehen jedes verfügbaren Dokuments.
Code und erzeugte Beispiele
Die dokumentierte Ausgabe umfasst Code. Geben Sie für einen Implementierungsvorschlag Sprache, Eingabetypen, erwartetes Ergebnis und die kompatibel zu haltende Schnittstelle vor. Fügen Sie bei einer Korrektur das vorhandene Fragment und relevante Deklarationen hinzu. Fordern Sie den Code getrennt von seinen Annahmen und Beispielen an, damit der nächste Entwicklungsschritt ihn prüfen kann.
Stellen Sie für eine Codeerklärung die nachzuverfolgende Eingabe bereit und fragen Sie, wie die vorgegebene Funktion zum Rückgabewert gelangt. Definieren Sie für eine mathematische Erklärung Symbole und Annahmen und geben Sie an, ob das Ergebnis exakt, näherungsweise oder ein Beweis sein soll. Codegenerierung und schriftliche Argumentation kompilieren nicht selbst ein Programm oder führen eine Berechnung aus.
Der Hersteller nennt auch die Erzeugung synthetischer Daten und Distillation als Familienanwendungen. Eine Textaufgabe kann abwechslungsreiche Beispiele in einem festgelegten Format und unter Beibehaltung vorgegebener Regeln verlangen. Ob diese Beispiele für weiteres Training geeignet sind, ist eine eigene Anwendungsentscheidung; die Textausgabe allein ist keine unabhängige Prüfung ihrer Korrektheit.
Gesprächsformat und Werkzeuge
Die Karte zeigt getrennte System- und Nutzernachrichten mit der passenden Chatvorlage. Verwenden Sie die Systemanweisung für Rolle, Ton und dauerhafte Antwortregeln, während die Nutzeranfrage das tatsächliche Problem und die Quellen enthält. Bewahren Sie relevante frühere Nachrichten, wenn eine Folgeanfrage auf einer vorherigen Antwort aufbaut.
Llama 3.1 unterstützt mehrere dokumentierte Werkzeugnutzungsformate. Die Anwendung stellt Funktionen und Parameter bereit, das Modell bereitet einen vorgeschlagenen Aufruf vor, die Anwendung führt ihn aus und ergänzt sein Ergebnis im Gespräch. Eine spätere Generierung kann dieses Ergebnis verwenden. Das kurze Beispiel der Karte zeigt ausdrücklich das Hinzufügen des Assistentenaufrufs und danach des Werkzeugergebnisses; die Auswahl einer Funktion unterscheidet sich vom Abschluss ihrer Operation.
Geben Sie für eine Abfrage die benötigten Informationen an und definieren Sie die Funktion, die sie zurückliefert. Halten Sie den tatsächlich zurückgegebenen Wert beim ursprünglichen Aufruf, bevor Sie die abschließende Erklärung anfordern. Unterscheiden Sie bei einer Berechnung die vom Modell vorgeschlagene Operation vom Ergebnis des Rechners. Native Werkzeugformatierung und die sichtbare Darstellung einer Wrapper-Schnittstelle sollten ihre jeweils dokumentierten Konventionen bewahren.
Ausgabe und praktische Grenzen
Die Generierungseinstellung mit 256 Token in der gelesenen Karte ist ein Nutzungsbeispiel und keine unabhängig angegebene maximale Ausgabekapazität. Der 128k-Kontext betrifft Material und erzeugten Gesprächsverlauf innerhalb der konfigurierten Version. Ersetzen Sie ihn nicht durch den Kontext oder die visuellen Fähigkeiten von Llama 4 oder die Größe eines anderen Llama-3.1-Checkpoints.
Dies ist ein reines Text-Instruct-Modell. Der relevante Inhalt eines Bildes, einer Aufnahme oder eines Videos muss durch eine andere Komponente aufbereitet werden. Externes Retrieval, Programmausführung und Dateiänderungen gehören ebenso zur mit dem Assistenten verbundenen Anwendung. Bewahren Sie die exakte Ausgabe 70B Instruct und fordern Sie die quellenverknüpfte Erklärung, das überarbeitete Dokument, den Code oder strukturierten Text an, den die Aufgabe benötigt.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits meta-llama/llama-3.1-70b-instruct | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00144 / 1K Tokens Ausgabe · Ausgabetoken $0.00144 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00144 / 1K Tokens Ausgabe · Ausgabetoken $0.00144 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "meta-llama/llama-3.1-70b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-70b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-70b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra meta-llama/llama-3.1-70b-instruct
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Produce a bilingual maintenance notice\n\nWrite a maintenance notice in English and Spanish from these facts: warehouse entrance B closes on Tuesday from 08:00 to 11:00; deliveries must use entrance A; pedestrian access is unchanged. Use three short sentences per language and preserve entrance letters and times. Do not add a date, delay estimate or closure of pedestrian access.Two labelled language blocks with equivalent three-sentence notices.Compare both versions for entrance A/B, Tuesday, the time range and unchanged pedestrian access.