Llama 3.1 70B Instruct ist Metas Textmodell mit 70 Milliarden Parametern, optimiert für mehrsprachige Dialoge und assistentenartige Anfragen. Es ist ein auf Anweisungen abgestimmter Checkpoint innerhalb einer Familie, die auch die Größen 8B und 405B sowie separate vortrainierte Modelle umfasst. Es nimmt Text entgegen und gibt mehrsprachigen Text oder Code zurück; die benannte 70B-Ausgabe bewahrt ihre eigene Größe und Identität.
Modellinformationen und Training
Die Version verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention. Die abgestimmten Modelle werden durch überwachtes Fine-Tuning und Reinforcement Learning mit menschlichem Feedback ausgerichtet. Dies sind Trainingsstufen für hilfreiches Gesprächsverhalten und kein benannter Laufzeitschalter zwischen separaten Reasoning- und Nicht-Reasoning-Modi.
Der Hersteller dokumentiert einen 128k-Kontext für die Textmodelle und unterstützt offiziell Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Das Training umfasst eine breitere Sprachsammlung, wodurch nicht jede Sprache gleichermaßen unterstützt wird. Geben Sie Ausgabesprache, Terminologie und Leser an, bevor Sie ein mehrsprachiges Artefakt anfordern.
Der Vortrainingskorpus der Familie wird mit etwa fünfzehn Billionen Token und einem Stichtag im Dezember 2023 beschrieben. Das Fine-Tuning umfasst Anweisungsdatensätze und mehr als fünfundzwanzig Millionen synthetische Beispiele. Der Stichtag begrenzt die Trainingsdaten; eine von neueren oder privaten Informationen abhängige Frage benötigt diese Informationen in der Aufgabe oder als Ergebnis einer verbundenen Quelle.
Assistentenartiger Chat und Quellenanalyse
Die Instruct-Ausgabe soll auf eine Gesprächsanfrage reagieren, während die vortrainierte Version eine Grundlage darstellt, die für andere Generierungsaufgaben angepasst werden kann. Stellen Sie für eine quellengestützte Antwort die Frage und die für das Ergebnis maßgeblichen Passagen bereit. Kennzeichnen Sie die Quellen und fordern Sie neben jeder Erkenntnis den stützenden Abschnitt oder die Aussage an.
Ein praktischer Vergleich kann zwei Verfahren bereitstellen und gemeinsame Bedingungen, Unterschiede und ungelöste Konflikte verlangen. Ein daraus entstehender Leitfaden kann die ursprüngliche Abfolge und die Bedingungen bewahren, unter denen jede Aktion gilt. Eine Dokumentbearbeitungsaufgabe kann Zielgruppe, zu bewahrende Fakten und die Frage festlegen, ob das abschließende Artefakt nur eine überarbeitete Passage oder eine Passage mit Erklärung sein soll.
Benennen Sie für eine längere Antwort die erforderlichen Abschnitte und den Zweck jedes Abschnitts. Ein großer Kontext kann zusammengehöriges Material vereint halten, während das Endergebnis eine knappe Matrix oder Erklärung bleibt. Quellenidentitäten und eine klar definierte Frage sind wichtiger, als einfach jedes verfügbare Dokument einzubeziehen.
Code und erzeugte Beispiele
Die dokumentierte Ausgabe umfasst Code. Stellen Sie für einen Implementierungsvorschlag Sprache, Eingabetypen, erwartetes Ergebnis und die kompatibel zu haltende Schnittstelle bereit. Fügen Sie bei einer Korrektur das vorhandene Fragment und relevante Deklarationen hinzu. Fordern Sie den Code getrennt von Annahmen und Beispielen an, damit der nächste Entwicklungsschritt ihn prüfen kann.
Geben Sie für eine Codeerklärung die nachzuverfolgende Eingabe an und fragen Sie, wie die bereitgestellte Funktion zum Rückgabewert gelangt. Definieren Sie für eine mathematische Erklärung Symbole und Annahmen und legen Sie fest, ob das Ergebnis exakt, näherungsweise oder ein Beweis sein soll. Codegenerierung und schriftliche Argumentation kompilieren selbst kein Programm und führen keine Berechnung aus.
Der Hersteller nennt auch synthetische Datengenerierung und Distillation als Anwendungen der Familie. Eine Textaufgabe kann vielfältige Beispiele in einem vorgegebenen Format verlangen und dabei die bereitgestellten Regeln bewahren. Ob diese Beispiele für weiteres Training geeignet sind, ist eine separate Anwendungsentscheidung; die Textausgabe allein prüft ihre Richtigkeit nicht unabhängig.
Gesprächsformat und Werkzeuge
Die Karte demonstriert separate System- und Nutzernachrichten mit der passenden Chat-Vorlage. Nutzen Sie die Systemanweisung für Rolle, Ton und dauerhafte Antwortregeln, während die Nutzeranfrage das tatsächliche Problem und die Quellen enthält. Bewahren Sie relevante frühere Nachrichten bei Folgeaufträgen, die auf einer vorherigen Antwort aufbauen.
Llama 3.1 unterstützt mehrere dokumentierte Werkzeugnutzungsformate. Die Anwendung liefert Funktionen und Parameter, das Modell bereitet einen Aufrufvorschlag vor, die Anwendung führt ihn aus und ergänzt das Ergebnis im Gespräch. Eine nachfolgende Generierung kann dieses Ergebnis nutzen. Das kurze Beispiel der Karte zeigt ausdrücklich, wie zuerst der Assistentenaufruf und dann das Werkzeugergebnis hinzugefügt werden. Die Auswahl einer Funktion ist von der Durchführung ihrer Operation zu unterscheiden.
Geben Sie für eine Abfrage die benötigten Informationen an und definieren Sie die Funktion, die sie zurückgibt. Bewahren Sie den tatsächlich zurückgegebenen Wert beim ursprünglichen Aufruf, bevor Sie die abschließende Erklärung anfordern. Unterscheiden Sie bei einer Berechnung die vom Modell vorgeschlagene Operation vom Ergebnis des Rechners. Native Werkzeugformatierung und die sichtbare Darstellung einer Wrapper-Schnittstelle sollten jeweils ihre eigenen dokumentierten Konventionen bewahren.
Ausgabe und praktische Grenzen
Die Generierungseinstellung von 256 Token in der gelesenen Karte ist ein Nutzungsbeispiel und keine unabhängig angegebene maximale Ausgabekapazität. Der 128k-Kontext betrifft das Material und das erzeugte Gespräch innerhalb der konfigurierten Version. Ersetzen Sie ihn nicht durch den Kontext oder die visuellen Fähigkeiten von Llama 4 oder die Größe eines anderen Llama-3.1-Checkpoints.
Dies ist ein reines Text-Instruct-Modell. Der relevante Inhalt eines Bildes, einer Aufnahme oder eines Videos muss durch eine andere Komponente aufbereitet werden. Externes Retrieval, Programmausführung und Dateiänderungen gehören ebenso zur Anwendung, die mit dem Assistenten verbunden ist. Bewahren Sie die genaue Ausgabe 70B Instruct und fordern Sie die quellengestützte Erklärung, das überarbeitete Dokument, den Code oder den strukturierten Text an, den die Aufgabe benötigt.
", "aboutText": "Llama 3.1 70B Instruct ist Metas Textmodell mit 70 Milliarden Parametern, optimiert für mehrsprachige Dialoge und assistentenartige Anfragen. Es ist ein auf Anweisungen abgestimmter Checkpoint innerhalb einer Familie, die auch die Größen 8B und 405B sowie separate vortrainierte Modelle umfasst. Es nimmt Text entgegen und gibt mehrsprachigen Text oder Code zurück; die benannte 70B-Ausgabe bewahrt ihre eigene Größe und Identität.\n\nModellinformationen und Training\n\nDie Version verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention. Die abgestimmten Modelle werden durch überwachtes Fine-Tuning und Reinforcement Learning mit menschlichem Feedback ausgerichtet. Dies sind Trainingsstufen für hilfreiches Gesprächsverhalten und kein benannter Laufzeitschalter zwischen separaten Reasoning- und Nicht-Reasoning-Modi.\n\nDer Hersteller dokumentiert einen 128k-Kontext für die Textmodelle und unterstützt offiziell Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Das Training umfasst eine breitere Sprachsammlung, wodurch nicht jede Sprache gleichermaßen unterstützt wird. Geben Sie Ausgabesprache, Terminologie und Leser an, bevor Sie ein mehrsprachiges Artefakt anfordern.\n\nDer Vortrainingskorpus der Familie wird mit etwa fünfzehn Billionen Token und einem Stichtag im Dezember 2023 beschrieben. Das Fine-Tuning umfasst Anweisungsdatensätze und mehr als fünfundzwanzig Millionen synthetische Beispiele. Der Stichtag begrenzt die Trainingsdaten; eine von neueren oder privaten Informationen abhängige Frage benötigt diese Informationen in der Aufgabe oder als Ergebnis einer verbundenen Quelle.\n\nAssistentenartiger Chat und Quellenanalyse\n\nDie Instruct-Ausgabe soll auf eine Gesprächsanfrage reagieren, während die vortrainierte Version eine Grundlage darstellt, die für andere Generierungsaufgaben angepasst werden kann. Stellen Sie für eine quellengestützte Antwort die Frage und die für das Ergebnis maßgeblichen Passagen bereit. Kennzeichnen Sie die Quellen und fordern Sie neben jeder Erkenntnis den stützenden Abschnitt oder die Aussage an.\n\nEin praktischer Vergleich kann zwei Verfahren bereitstellen und gemeinsame Bedingungen, Unterschiede und ungelöste Konflikte verlangen. Ein daraus entstehender Leitfaden kann die ursprüngliche Abfolge und die Bedingungen bewahren, unter denen jede Aktion gilt. Eine Dokumentbearbeitungsaufgabe kann Zielgruppe, zu bewahrende Fakten und die Frage festlegen, ob das abschließende Artefakt nur eine überarbeitete Passage oder eine Passage mit Erklärung sein soll.\n\nBenennen Sie für eine längere Antwort die erforderlichen Abschnitte und den Zweck jedes Abschnitts. Ein großer Kontext kann zusammengehöriges Material vereint halten, während das Endergebnis eine knappe Matrix oder Erklärung bleibt. Quellenidentitäten und eine klar definierte Frage sind wichtiger, als einfach jedes verfügbare Dokument einzubeziehen.\n\nCode und erzeugte Beispiele\n\nDie dokumentierte Ausgabe umfasst Code. Stellen Sie für einen Implementierungsvorschlag Sprache, Eingabetypen, erwartetes Ergebnis und die kompatibel zu haltende Schnittstelle bereit. Fügen Sie bei einer Korrektur das vorhandene Fragment und relevante Deklarationen hinzu. Fordern Sie den Code getrennt von Annahmen und Beispielen an, damit der nächste Entwicklungsschritt ihn prüfen kann.\n\nGeben Sie für eine Codeerklärung die nachzuverfolgende Eingabe an und fragen Sie, wie die bereitgestellte Funktion zum Rückgabewert gelangt. Definieren Sie für eine mathematische Erklärung Symbole und Annahmen und legen Sie fest, ob das Ergebnis exakt, näherungsweise oder ein Beweis sein soll. Codegenerierung und schriftliche Argumentation kompilieren selbst kein Programm und führen keine Berechnung aus.\n\nDer Hersteller nennt auch synthetische Datengenerierung und Distillation als Anwendungen der Familie. Eine Textaufgabe kann vielfältige Beispiele in einem vorgegebenen Format verlangen und dabei die bereitgestellten Regeln bewahren. Ob diese Beispiele für weiteres Training geeignet sind, ist eine separate Anwendungsentscheidung; die Textausgabe allein prüft ihre Richtigkeit nicht unabhängig.\n\nGesprächsformat und Werkzeuge\n\nDie Karte demonstriert separate System- und Nutzernachrichten mit der passenden Chat-Vorlage. Nutzen Sie die Systemanweisung für Rolle, Ton und dauerhafte Antwortregeln, während die Nutzeranfrage das tatsächliche Problem und die Quellen enthält. Bewahren Sie relevante frühere Nachrichten bei Folgeaufträgen, die auf einer vorherigen Antwort aufbauen.\n\nLlama 3.1 unterstützt mehrere dokumentierte Werkzeugnutzungsformate. Die Anwendung liefert Funktionen und Parameter, das Modell bereitet einen Aufrufvorschlag vor, die Anwendung führt ihn aus und ergänzt das Ergebnis im Gespräch. Eine nachfolgende Generierung kann dieses Ergebnis nutzen. Das kurze Beispiel der Karte zeigt ausdrücklich, wie zuerst der Assistentenaufruf und dann das Werkzeugergebnis hinzugefügt werden. Die Auswahl einer Funktion ist von der Durchführung ihrer Operation zu unterscheiden.\n\nGeben Sie für eine Abfrage die benötigten Informationen an und definieren Sie die Funktion, die sie zurückgibt. Bewahren Sie den tatsächlich zurückgegebenen Wert beim ursprünglichen Aufruf, bevor Sie die abschließende Erklärung anfordern. Unterscheiden Sie bei einer Berechnung die vom Modell vorgeschlagene Operation vom Ergebnis des Rechners. Native Werkzeugformatierung und die sichtbare Darstellung einer Wrapper-Schnittstelle sollten jeweils ihre eigenen dokumentierten Konventionen bewahren.\n\nAusgabe und praktische Grenzen\n\nDie Generierungseinstellung von 256 Token in der gelesenen Karte ist ein Nutzungsbeispiel und keine unabhängig angegebene maximale Ausgabekapazität. Der 128k-Kontext betrifft das Material und das erzeugte Gespräch innerhalb der konfigurierten Version. Ersetzen Sie ihn nicht durch den Kontext oder die visuellen Fähigkeiten von Llama 4 oder die Größe eines anderen Llama-3.1-Checkpoints.\n\nDies ist ein reines Text-Instruct-Modell. Der relevante Inhalt eines Bildes, einer Aufnahme oder eines Videos muss durch eine andere Komponente aufbereitet werden. Externes Retrieval, Programmausführung und Dateiänderungen gehören ebenso zur Anwendung, die mit dem Assistenten verbunden ist. Bewahren Sie die genaue Ausgabe 70B Instruct und fordern Sie die quellengestützte Erklärung, das überarbeitete Dokument, den Code oder den strukturierten Text an, den die Aufgabe benötigt.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Produce a bilingual maintenance notice\n\nWrite a maintenance notice in English and Spanish from these facts: warehouse entrance B closes on Tuesday from 08:00 to 11:00; deliveries must use entrance A; pedestrian access is unchanged. Use three short sentences per language and preserve entrance letters and times. Do not add a date, delay estimate or closure of pedestrian access.Two labelled language blocks with equivalent three-sentence notices.Compare both versions for entrance A/B, Tuesday, the time range and unchanged pedestrian access.meta-llama/llama-3.1-70b-instructLlama 3.1 70B Instruct ist Metas Textmodell für mehrsprachige Dialoge, dokumentbezogenes Reasoning und Code. Die auf Anweisungen abgestimmte 70B-Version verwendet Grouped-Query-Attention, einen Herstellerkontext von 128k und dokumentierte Gesprächsformate für Werkzeugaufrufe mit Text- und Codeausgabe.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama 3.1 70B Instruct ist Metas Textmodell mit 70 Milliarden Parametern, optimiert für mehrsprachige Dialoge und assistentenartige Anfragen. Es ist ein auf Anweisungen abgestimmter Checkpoint innerhalb einer Familie, die auch die Größen 8B und 405B sowie separate vortrainierte Modelle umfasst. Es nimmt Text entgegen und gibt mehrsprachigen Text oder Code zurück; die benannte 70B-Ausgabe bewahrt ihre eigene Größe und Identität.
Modellinformationen und Training
Die Version verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention. Die abgestimmten Modelle werden durch überwachtes Fine-Tuning und Reinforcement Learning mit menschlichem Feedback ausgerichtet. Dies sind Trainingsstufen für hilfreiches Gesprächsverhalten und kein benannter Laufzeitschalter zwischen separaten Reasoning- und Nicht-Reasoning-Modi.
Der Hersteller dokumentiert einen 128k-Kontext für die Textmodelle und unterstützt offiziell Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Das Training umfasst eine breitere Sprachsammlung, wodurch nicht jede Sprache gleichermaßen unterstützt wird. Geben Sie Ausgabesprache, Terminologie und Leser an, bevor Sie ein mehrsprachiges Artefakt anfordern.
Der Vortrainingskorpus der Familie wird mit etwa fünfzehn Billionen Token und einem Stichtag im Dezember 2023 beschrieben. Das Fine-Tuning umfasst Anweisungsdatensätze und mehr als fünfundzwanzig Millionen synthetische Beispiele. Der Stichtag begrenzt die Trainingsdaten; eine von neueren oder privaten Informationen abhängige Frage benötigt diese Informationen in der Aufgabe oder als Ergebnis einer verbundenen Quelle.
Assistentenartiger Chat und Quellenanalyse
Die Instruct-Ausgabe soll auf eine Gesprächsanfrage reagieren, während die vortrainierte Version eine Grundlage darstellt, die für andere Generierungsaufgaben angepasst werden kann. Stellen Sie für eine quellengestützte Antwort die Frage und die für das Ergebnis maßgeblichen Passagen bereit. Kennzeichnen Sie die Quellen und fordern Sie neben jeder Erkenntnis den stützenden Abschnitt oder die Aussage an.
Ein praktischer Vergleich kann zwei Verfahren bereitstellen und gemeinsame Bedingungen, Unterschiede und ungelöste Konflikte verlangen. Ein daraus entstehender Leitfaden kann die ursprüngliche Abfolge und die Bedingungen bewahren, unter denen jede Aktion gilt. Eine Dokumentbearbeitungsaufgabe kann Zielgruppe, zu bewahrende Fakten und die Frage festlegen, ob das abschließende Artefakt nur eine überarbeitete Passage oder eine Passage mit Erklärung sein soll.
Benennen Sie für eine längere Antwort die erforderlichen Abschnitte und den Zweck jedes Abschnitts. Ein großer Kontext kann zusammengehöriges Material vereint halten, während das Endergebnis eine knappe Matrix oder Erklärung bleibt. Quellenidentitäten und eine klar definierte Frage sind wichtiger, als einfach jedes verfügbare Dokument einzubeziehen.
Code und erzeugte Beispiele
Die dokumentierte Ausgabe umfasst Code. Stellen Sie für einen Implementierungsvorschlag Sprache, Eingabetypen, erwartetes Ergebnis und die kompatibel zu haltende Schnittstelle bereit. Fügen Sie bei einer Korrektur das vorhandene Fragment und relevante Deklarationen hinzu. Fordern Sie den Code getrennt von Annahmen und Beispielen an, damit der nächste Entwicklungsschritt ihn prüfen kann.
Geben Sie für eine Codeerklärung die nachzuverfolgende Eingabe an und fragen Sie, wie die bereitgestellte Funktion zum Rückgabewert gelangt. Definieren Sie für eine mathematische Erklärung Symbole und Annahmen und legen Sie fest, ob das Ergebnis exakt, näherungsweise oder ein Beweis sein soll. Codegenerierung und schriftliche Argumentation kompilieren selbst kein Programm und führen keine Berechnung aus.
Der Hersteller nennt auch synthetische Datengenerierung und Distillation als Anwendungen der Familie. Eine Textaufgabe kann vielfältige Beispiele in einem vorgegebenen Format verlangen und dabei die bereitgestellten Regeln bewahren. Ob diese Beispiele für weiteres Training geeignet sind, ist eine separate Anwendungsentscheidung; die Textausgabe allein prüft ihre Richtigkeit nicht unabhängig.
Gesprächsformat und Werkzeuge
Die Karte demonstriert separate System- und Nutzernachrichten mit der passenden Chat-Vorlage. Nutzen Sie die Systemanweisung für Rolle, Ton und dauerhafte Antwortregeln, während die Nutzeranfrage das tatsächliche Problem und die Quellen enthält. Bewahren Sie relevante frühere Nachrichten bei Folgeaufträgen, die auf einer vorherigen Antwort aufbauen.
Llama 3.1 unterstützt mehrere dokumentierte Werkzeugnutzungsformate. Die Anwendung liefert Funktionen und Parameter, das Modell bereitet einen Aufrufvorschlag vor, die Anwendung führt ihn aus und ergänzt das Ergebnis im Gespräch. Eine nachfolgende Generierung kann dieses Ergebnis nutzen. Das kurze Beispiel der Karte zeigt ausdrücklich, wie zuerst der Assistentenaufruf und dann das Werkzeugergebnis hinzugefügt werden. Die Auswahl einer Funktion ist von der Durchführung ihrer Operation zu unterscheiden.
Geben Sie für eine Abfrage die benötigten Informationen an und definieren Sie die Funktion, die sie zurückgibt. Bewahren Sie den tatsächlich zurückgegebenen Wert beim ursprünglichen Aufruf, bevor Sie die abschließende Erklärung anfordern. Unterscheiden Sie bei einer Berechnung die vom Modell vorgeschlagene Operation vom Ergebnis des Rechners. Native Werkzeugformatierung und die sichtbare Darstellung einer Wrapper-Schnittstelle sollten jeweils ihre eigenen dokumentierten Konventionen bewahren.
Ausgabe und praktische Grenzen
Die Generierungseinstellung von 256 Token in der gelesenen Karte ist ein Nutzungsbeispiel und keine unabhängig angegebene maximale Ausgabekapazität. Der 128k-Kontext betrifft das Material und das erzeugte Gespräch innerhalb der konfigurierten Version. Ersetzen Sie ihn nicht durch den Kontext oder die visuellen Fähigkeiten von Llama 4 oder die Größe eines anderen Llama-3.1-Checkpoints.
Dies ist ein reines Text-Instruct-Modell. Der relevante Inhalt eines Bildes, einer Aufnahme oder eines Videos muss durch eine andere Komponente aufbereitet werden. Externes Retrieval, Programmausführung und Dateiänderungen gehören ebenso zur Anwendung, die mit dem Assistenten verbunden ist. Bewahren Sie die genaue Ausgabe 70B Instruct und fordern Sie die quellengestützte Erklärung, das überarbeitete Dokument, den Code oder den strukturierten Text an, den die Aufgabe benötigt.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits meta-llama/llama-3.1-70b-instruct | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00144 / 1K Token Ausgabe · Ausgabetoken $0.00144 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00144 / 1K Token Ausgabe · Ausgabetoken $0.00144 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.1-70b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.1-70b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.1-70b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra meta-llama/llama-3.1-70b-instruct
Verwenden Sie die oben angezeigten Methodenpfade.
meta-llama/llama-3.1-70b-instructLlama 3.1 70B Instruct ist Metas Textmodell für mehrsprachige Dialoge, dokumentbezogenes Reasoning und Code. Die auf Anweisungen abgestimmte 70B-Version verwendet Grouped-Query-Attention, einen Herstellerkontext von 128k und dokumentierte Gesprächsformate für Werkzeugaufrufe mit Text- und Codeausgabe.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama 3.1 70B Instruct ist Metas Textmodell mit 70 Milliarden Parametern, optimiert für mehrsprachige Dialoge und assistentenartige Anfragen. Es ist ein auf Anweisungen abgestimmter Checkpoint innerhalb einer Familie, die auch die Größen 8B und 405B sowie separate vortrainierte Modelle umfasst. Es nimmt Text entgegen und gibt mehrsprachigen Text oder Code zurück; die benannte 70B-Ausgabe bewahrt ihre eigene Größe und Identität.
Modellinformationen und Training
Die Version verwendet eine autoregressive Transformer-Architektur mit Grouped-Query-Attention. Die abgestimmten Modelle werden durch überwachtes Fine-Tuning und Reinforcement Learning mit menschlichem Feedback ausgerichtet. Dies sind Trainingsstufen für hilfreiches Gesprächsverhalten und kein benannter Laufzeitschalter zwischen separaten Reasoning- und Nicht-Reasoning-Modi.
Der Hersteller dokumentiert einen 128k-Kontext für die Textmodelle und unterstützt offiziell Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai. Das Training umfasst eine breitere Sprachsammlung, wodurch nicht jede Sprache gleichermaßen unterstützt wird. Geben Sie Ausgabesprache, Terminologie und Leser an, bevor Sie ein mehrsprachiges Artefakt anfordern.
Der Vortrainingskorpus der Familie wird mit etwa fünfzehn Billionen Token und einem Stichtag im Dezember 2023 beschrieben. Das Fine-Tuning umfasst Anweisungsdatensätze und mehr als fünfundzwanzig Millionen synthetische Beispiele. Der Stichtag begrenzt die Trainingsdaten; eine von neueren oder privaten Informationen abhängige Frage benötigt diese Informationen in der Aufgabe oder als Ergebnis einer verbundenen Quelle.
Assistentenartiger Chat und Quellenanalyse
Die Instruct-Ausgabe soll auf eine Gesprächsanfrage reagieren, während die vortrainierte Version eine Grundlage darstellt, die für andere Generierungsaufgaben angepasst werden kann. Stellen Sie für eine quellengestützte Antwort die Frage und die für das Ergebnis maßgeblichen Passagen bereit. Kennzeichnen Sie die Quellen und fordern Sie neben jeder Erkenntnis den stützenden Abschnitt oder die Aussage an.
Ein praktischer Vergleich kann zwei Verfahren bereitstellen und gemeinsame Bedingungen, Unterschiede und ungelöste Konflikte verlangen. Ein daraus entstehender Leitfaden kann die ursprüngliche Abfolge und die Bedingungen bewahren, unter denen jede Aktion gilt. Eine Dokumentbearbeitungsaufgabe kann Zielgruppe, zu bewahrende Fakten und die Frage festlegen, ob das abschließende Artefakt nur eine überarbeitete Passage oder eine Passage mit Erklärung sein soll.
Benennen Sie für eine längere Antwort die erforderlichen Abschnitte und den Zweck jedes Abschnitts. Ein großer Kontext kann zusammengehöriges Material vereint halten, während das Endergebnis eine knappe Matrix oder Erklärung bleibt. Quellenidentitäten und eine klar definierte Frage sind wichtiger, als einfach jedes verfügbare Dokument einzubeziehen.
Code und erzeugte Beispiele
Die dokumentierte Ausgabe umfasst Code. Stellen Sie für einen Implementierungsvorschlag Sprache, Eingabetypen, erwartetes Ergebnis und die kompatibel zu haltende Schnittstelle bereit. Fügen Sie bei einer Korrektur das vorhandene Fragment und relevante Deklarationen hinzu. Fordern Sie den Code getrennt von Annahmen und Beispielen an, damit der nächste Entwicklungsschritt ihn prüfen kann.
Geben Sie für eine Codeerklärung die nachzuverfolgende Eingabe an und fragen Sie, wie die bereitgestellte Funktion zum Rückgabewert gelangt. Definieren Sie für eine mathematische Erklärung Symbole und Annahmen und legen Sie fest, ob das Ergebnis exakt, näherungsweise oder ein Beweis sein soll. Codegenerierung und schriftliche Argumentation kompilieren selbst kein Programm und führen keine Berechnung aus.
Der Hersteller nennt auch synthetische Datengenerierung und Distillation als Anwendungen der Familie. Eine Textaufgabe kann vielfältige Beispiele in einem vorgegebenen Format verlangen und dabei die bereitgestellten Regeln bewahren. Ob diese Beispiele für weiteres Training geeignet sind, ist eine separate Anwendungsentscheidung; die Textausgabe allein prüft ihre Richtigkeit nicht unabhängig.
Gesprächsformat und Werkzeuge
Die Karte demonstriert separate System- und Nutzernachrichten mit der passenden Chat-Vorlage. Nutzen Sie die Systemanweisung für Rolle, Ton und dauerhafte Antwortregeln, während die Nutzeranfrage das tatsächliche Problem und die Quellen enthält. Bewahren Sie relevante frühere Nachrichten bei Folgeaufträgen, die auf einer vorherigen Antwort aufbauen.
Llama 3.1 unterstützt mehrere dokumentierte Werkzeugnutzungsformate. Die Anwendung liefert Funktionen und Parameter, das Modell bereitet einen Aufrufvorschlag vor, die Anwendung führt ihn aus und ergänzt das Ergebnis im Gespräch. Eine nachfolgende Generierung kann dieses Ergebnis nutzen. Das kurze Beispiel der Karte zeigt ausdrücklich, wie zuerst der Assistentenaufruf und dann das Werkzeugergebnis hinzugefügt werden. Die Auswahl einer Funktion ist von der Durchführung ihrer Operation zu unterscheiden.
Geben Sie für eine Abfrage die benötigten Informationen an und definieren Sie die Funktion, die sie zurückgibt. Bewahren Sie den tatsächlich zurückgegebenen Wert beim ursprünglichen Aufruf, bevor Sie die abschließende Erklärung anfordern. Unterscheiden Sie bei einer Berechnung die vom Modell vorgeschlagene Operation vom Ergebnis des Rechners. Native Werkzeugformatierung und die sichtbare Darstellung einer Wrapper-Schnittstelle sollten jeweils ihre eigenen dokumentierten Konventionen bewahren.
Ausgabe und praktische Grenzen
Die Generierungseinstellung von 256 Token in der gelesenen Karte ist ein Nutzungsbeispiel und keine unabhängig angegebene maximale Ausgabekapazität. Der 128k-Kontext betrifft das Material und das erzeugte Gespräch innerhalb der konfigurierten Version. Ersetzen Sie ihn nicht durch den Kontext oder die visuellen Fähigkeiten von Llama 4 oder die Größe eines anderen Llama-3.1-Checkpoints.
Dies ist ein reines Text-Instruct-Modell. Der relevante Inhalt eines Bildes, einer Aufnahme oder eines Videos muss durch eine andere Komponente aufbereitet werden. Externes Retrieval, Programmausführung und Dateiänderungen gehören ebenso zur Anwendung, die mit dem Assistenten verbunden ist. Bewahren Sie die genaue Ausgabe 70B Instruct und fordern Sie die quellengestützte Erklärung, das überarbeitete Dokument, den Code oder den strukturierten Text an, den die Aufgabe benötigt.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits meta-llama/llama-3.1-70b-instruct | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00144 / 1K Token Ausgabe · Ausgabetoken $0.00144 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00144 / 1K Token Ausgabe · Ausgabetoken $0.00144 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "meta-llama/llama-3.1-70b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-70b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-70b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra meta-llama/llama-3.1-70b-instruct
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Produce a bilingual maintenance notice\n\nWrite a maintenance notice in English and Spanish from these facts: warehouse entrance B closes on Tuesday from 08:00 to 11:00; deliveries must use entrance A; pedestrian access is unchanged. Use three short sentences per language and preserve entrance letters and times. Do not add a date, delay estimate or closure of pedestrian access.Two labelled language blocks with equivalent three-sentence notices.Compare both versions for entrance A/B, Tuesday, the time range and unchanged pedestrian access.