Llama 3.3 70B Instruct ist Metas auf Anweisungen abgestimmtes Sprachmodell mit 70 Milliarden Parametern. Es nimmt Text entgegen und gibt Text oder Code zurück. Meta entwickelt diese Ausgabe für mehrsprachige Assistentendialoge und nutzt überwachtes Fine-Tuning und Reinforcement Learning mit menschlichem Feedback, um ihre Reaktionen auf Anweisungen zu formen.
Der Hersteller nennt Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai als unterstützte Sprachen. Benennen Sie die Sprache der abschließenden Antwort und geben Sie die konsistent zu haltende Terminologie vor. Ein Produktassistent kann ein Gespräch in einer dieser Sprachen entgegennehmen, die Kundenanfrage bestimmen und eine Antwort anhand des bereitgestellten Richtlinienmaterials entwerfen.
Stellen Sie für Lokalisierungsarbeit die ursprüngliche Passage, die vorgesehene Zielgruppe und ein Glossar bereit. Fordern Sie die umformulierte Passage und anschließend eine kurze Liste der Entscheidungen an, die Bedeutung oder Ton verändern. Bewahren Sie Produktnamen, Kennungen und Mengenangaben ausdrücklich. So entsteht Material, das Prüfer mit der Quelle vergleichen können, ohne die wichtigen Details zu verlieren.
Meta nennt ein Kontextfenster von 128K für das Modell. Nutzen Sie diesen Raum für relevante Quellpassagen, frühere Entscheidungen und die aktuelle Frage. Kennzeichnen Sie jedes Dokument oder jeden Auszug, bevor Sie das Modell um einen Vergleich bitten. Ein Dokumentdialog kann eine durch Auszugs-IDs gestützte Antwort verlangen, ergänzt um eine separate Liste von Punkten, die das bereitgestellte Material nicht klärt.
Bewahren Sie bei längeren Gesprächen die Entscheidungen, die die nächste Antwort beeinflussen, und entfernen Sie wiederholten Hintergrund. Fordern Sie ein bestimmtes Artefakt an: eine Vergleichstabelle, eine überarbeitete Passage, eine Anforderungsliste oder eine Erklärung eines benannten Codefragments. Eine konkrete Ausgabeform gibt der Prüfung ein greifbares Ziel.
Zu den dokumentierten Ausgaben des Modells gehört Code. Ein Coding-Prompt kann eine Schnittstelle, Beispieleingaben und erwartete Ausgaben bereitstellen und dann eine Implementierung zusammen mit Tests für die benannten Randfälle anfordern. Führen Sie diese Implementierung im Zielprojekt aus und prüfen Sie sie, bevor Sie sie übernehmen.
Meta demonstriert außerdem Werkzeugaufrufformate für diese auf Anweisungen abgestimmte Ausgabe. In einem solchen Workflow stellt die umgebende Anwendung Funktionen bereit, führt einen angeforderten Aufruf aus und gibt das Ergebnis an die Konversation zurück. Halten Sie diese Ergebnisse mit der jeweiligen Anfrage verbunden, damit die abschließende Antwort die tatsächlichen Belege nutzen kann. Diese Formate beschreiben das Integrationsverhalten des Herstellers; die Funktionen selbst gehören zur Anwendung.
Llama 3.3 ist ein statisches, auf einem Offline-Datensatz trainiertes Modell. Stellen Sie aktuelle Zahlen, Richtlinien oder Aufzeichnungen bereit, wenn die Antwort davon abhängt. Seine reine Texteingabe macht lesbare Auszüge zu den passenden Belegen für diese Ausgabe.
", "aboutText": "Llama 3.3 70B Instruct ist Metas auf Anweisungen abgestimmtes Sprachmodell mit 70 Milliarden Parametern. Es nimmt Text entgegen und gibt Text oder Code zurück. Meta entwickelt diese Ausgabe für mehrsprachige Assistentendialoge und nutzt überwachtes Fine-Tuning und Reinforcement Learning mit menschlichem Feedback, um ihre Reaktionen auf Anweisungen zu formen.\n\n### Ein mehrsprachiges Gespräch aufbauen\n\nDer Hersteller nennt Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai als unterstützte Sprachen. Benennen Sie die Sprache der abschließenden Antwort und geben Sie die konsistent zu haltende Terminologie vor. Ein Produktassistent kann ein Gespräch in einer dieser Sprachen entgegennehmen, die Kundenanfrage bestimmen und eine Antwort anhand des bereitgestellten Richtlinienmaterials entwerfen.\n\nStellen Sie für Lokalisierungsarbeit die ursprüngliche Passage, die vorgesehene Zielgruppe und ein Glossar bereit. Fordern Sie die umformulierte Passage und anschließend eine kurze Liste der Entscheidungen an, die Bedeutung oder Ton verändern. Bewahren Sie Produktnamen, Kennungen und Mengenangaben ausdrücklich. So entsteht Material, das Prüfer mit der Quelle vergleichen können, ohne die wichtigen Details zu verlieren.\n\n### Mit einer Textsammlung arbeiten\n\nMeta nennt ein Kontextfenster von 128K für das Modell. Nutzen Sie diesen Raum für relevante Quellpassagen, frühere Entscheidungen und die aktuelle Frage. Kennzeichnen Sie jedes Dokument oder jeden Auszug, bevor Sie das Modell um einen Vergleich bitten. Ein Dokumentdialog kann eine durch Auszugs-IDs gestützte Antwort verlangen, ergänzt um eine separate Liste von Punkten, die das bereitgestellte Material nicht klärt.\n\nBewahren Sie bei längeren Gesprächen die Entscheidungen, die die nächste Antwort beeinflussen, und entfernen Sie wiederholten Hintergrund. Fordern Sie ein bestimmtes Artefakt an: eine Vergleichstabelle, eine überarbeitete Passage, eine Anforderungsliste oder eine Erklärung eines benannten Codefragments. Eine konkrete Ausgabeform gibt der Prüfung ein greifbares Ziel.\n\n### Code und Anwendungswerkzeuge\n\nZu den dokumentierten Ausgaben des Modells gehört Code. Ein Coding-Prompt kann eine Schnittstelle, Beispieleingaben und erwartete Ausgaben bereitstellen und dann eine Implementierung zusammen mit Tests für die benannten Randfälle anfordern. Führen Sie diese Implementierung im Zielprojekt aus und prüfen Sie sie, bevor Sie sie übernehmen.\n\nMeta demonstriert außerdem Werkzeugaufrufformate für diese auf Anweisungen abgestimmte Ausgabe. In einem solchen Workflow stellt die umgebende Anwendung Funktionen bereit, führt einen angeforderten Aufruf aus und gibt das Ergebnis an die Konversation zurück. Halten Sie diese Ergebnisse mit der jeweiligen Anfrage verbunden, damit die abschließende Antwort die tatsächlichen Belege nutzen kann. Diese Formate beschreiben das Integrationsverhalten des Herstellers; die Funktionen selbst gehören zur Anwendung.\n\nLlama 3.3 ist ein statisches, auf einem Offline-Datensatz trainiertes Modell. Stellen Sie aktuelle Zahlen, Richtlinien oder Aufzeichnungen bereit, wenn die Antwort davon abhängt. Seine reine Texteingabe macht lesbare Auszüge zu den passenden Belegen für diese Ausgabe.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
Localize a customer reply with fixed terms\n\nTranslate this support reply into Spanish for a customer, keeping product name ClearDesk and reference R-882 unchanged: 'We received your return request for ClearDesk. Please include reference R-882 in your reply. We will review the photos you already sent.' Use a polite conversational register, then briefly identify any tone choice.A Spanish reply followed by a short note about the selected register.ClearDesk and R-882 stay exact, and the reply does not ask the customer to resend photos.meta-llama/llama-3.3-70b-instructLlama 3.3 70B Instruct ist Metas mehrsprachiges Textmodell für Assistentengespräche. Es erzeugt Text und Code mit einem vom Hersteller angegebenen 128K-Kontext und acht unterstützten Sprachen und eignet sich damit für dokumentbezogene Dialoge, Umformulierungen und quellengestützte Erklärungen.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama 3.3 70B Instruct ist Metas auf Anweisungen abgestimmtes Sprachmodell mit 70 Milliarden Parametern. Es nimmt Text entgegen und gibt Text oder Code zurück. Meta entwickelt diese Ausgabe für mehrsprachige Assistentendialoge und nutzt überwachtes Fine-Tuning und Reinforcement Learning mit menschlichem Feedback, um ihre Reaktionen auf Anweisungen zu formen.
Der Hersteller nennt Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai als unterstützte Sprachen. Benennen Sie die Sprache der abschließenden Antwort und geben Sie die konsistent zu haltende Terminologie vor. Ein Produktassistent kann ein Gespräch in einer dieser Sprachen entgegennehmen, die Kundenanfrage bestimmen und eine Antwort anhand des bereitgestellten Richtlinienmaterials entwerfen.
Stellen Sie für Lokalisierungsarbeit die ursprüngliche Passage, die vorgesehene Zielgruppe und ein Glossar bereit. Fordern Sie die umformulierte Passage und anschließend eine kurze Liste der Entscheidungen an, die Bedeutung oder Ton verändern. Bewahren Sie Produktnamen, Kennungen und Mengenangaben ausdrücklich. So entsteht Material, das Prüfer mit der Quelle vergleichen können, ohne die wichtigen Details zu verlieren.
Meta nennt ein Kontextfenster von 128K für das Modell. Nutzen Sie diesen Raum für relevante Quellpassagen, frühere Entscheidungen und die aktuelle Frage. Kennzeichnen Sie jedes Dokument oder jeden Auszug, bevor Sie das Modell um einen Vergleich bitten. Ein Dokumentdialog kann eine durch Auszugs-IDs gestützte Antwort verlangen, ergänzt um eine separate Liste von Punkten, die das bereitgestellte Material nicht klärt.
Bewahren Sie bei längeren Gesprächen die Entscheidungen, die die nächste Antwort beeinflussen, und entfernen Sie wiederholten Hintergrund. Fordern Sie ein bestimmtes Artefakt an: eine Vergleichstabelle, eine überarbeitete Passage, eine Anforderungsliste oder eine Erklärung eines benannten Codefragments. Eine konkrete Ausgabeform gibt der Prüfung ein greifbares Ziel.
Zu den dokumentierten Ausgaben des Modells gehört Code. Ein Coding-Prompt kann eine Schnittstelle, Beispieleingaben und erwartete Ausgaben bereitstellen und dann eine Implementierung zusammen mit Tests für die benannten Randfälle anfordern. Führen Sie diese Implementierung im Zielprojekt aus und prüfen Sie sie, bevor Sie sie übernehmen.
Meta demonstriert außerdem Werkzeugaufrufformate für diese auf Anweisungen abgestimmte Ausgabe. In einem solchen Workflow stellt die umgebende Anwendung Funktionen bereit, führt einen angeforderten Aufruf aus und gibt das Ergebnis an die Konversation zurück. Halten Sie diese Ergebnisse mit der jeweiligen Anfrage verbunden, damit die abschließende Antwort die tatsächlichen Belege nutzen kann. Diese Formate beschreiben das Integrationsverhalten des Herstellers; die Funktionen selbst gehören zur Anwendung.
Llama 3.3 ist ein statisches, auf einem Offline-Datensatz trainiertes Modell. Stellen Sie aktuelle Zahlen, Richtlinien oder Aufzeichnungen bereit, wenn die Antwort davon abhängt. Seine reine Texteingabe macht lesbare Auszüge zu den passenden Belegen für diese Ausgabe.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits meta-llama/llama-3.3-70b-instruct | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0018 / 1K Token Ausgabe · Ausgabetoken $0.0018 / 1K Token Eingabe · Cache-Lesen $0.00059 / 1K Token Eingabe · Cache-Schreiben $0 / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0018 / 1K Token Ausgabe · Ausgabetoken $0.0018 / 1K Token Eingabe · Cache-Lesen $0.00059 / 1K Token Eingabe · Cache-Schreiben $0 / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.3-70b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.3-70b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.3-70b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra meta-llama/llama-3.3-70b-instruct
Verwenden Sie die oben angezeigten Methodenpfade.
meta-llama/llama-3.3-70b-instructLlama 3.3 70B Instruct ist Metas mehrsprachiges Textmodell für Assistentengespräche. Es erzeugt Text und Code mit einem vom Hersteller angegebenen 128K-Kontext und acht unterstützten Sprachen und eignet sich damit für dokumentbezogene Dialoge, Umformulierungen und quellengestützte Erklärungen.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama 3.3 70B Instruct ist Metas auf Anweisungen abgestimmtes Sprachmodell mit 70 Milliarden Parametern. Es nimmt Text entgegen und gibt Text oder Code zurück. Meta entwickelt diese Ausgabe für mehrsprachige Assistentendialoge und nutzt überwachtes Fine-Tuning und Reinforcement Learning mit menschlichem Feedback, um ihre Reaktionen auf Anweisungen zu formen.
Der Hersteller nennt Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Hindi, Spanisch und Thai als unterstützte Sprachen. Benennen Sie die Sprache der abschließenden Antwort und geben Sie die konsistent zu haltende Terminologie vor. Ein Produktassistent kann ein Gespräch in einer dieser Sprachen entgegennehmen, die Kundenanfrage bestimmen und eine Antwort anhand des bereitgestellten Richtlinienmaterials entwerfen.
Stellen Sie für Lokalisierungsarbeit die ursprüngliche Passage, die vorgesehene Zielgruppe und ein Glossar bereit. Fordern Sie die umformulierte Passage und anschließend eine kurze Liste der Entscheidungen an, die Bedeutung oder Ton verändern. Bewahren Sie Produktnamen, Kennungen und Mengenangaben ausdrücklich. So entsteht Material, das Prüfer mit der Quelle vergleichen können, ohne die wichtigen Details zu verlieren.
Meta nennt ein Kontextfenster von 128K für das Modell. Nutzen Sie diesen Raum für relevante Quellpassagen, frühere Entscheidungen und die aktuelle Frage. Kennzeichnen Sie jedes Dokument oder jeden Auszug, bevor Sie das Modell um einen Vergleich bitten. Ein Dokumentdialog kann eine durch Auszugs-IDs gestützte Antwort verlangen, ergänzt um eine separate Liste von Punkten, die das bereitgestellte Material nicht klärt.
Bewahren Sie bei längeren Gesprächen die Entscheidungen, die die nächste Antwort beeinflussen, und entfernen Sie wiederholten Hintergrund. Fordern Sie ein bestimmtes Artefakt an: eine Vergleichstabelle, eine überarbeitete Passage, eine Anforderungsliste oder eine Erklärung eines benannten Codefragments. Eine konkrete Ausgabeform gibt der Prüfung ein greifbares Ziel.
Zu den dokumentierten Ausgaben des Modells gehört Code. Ein Coding-Prompt kann eine Schnittstelle, Beispieleingaben und erwartete Ausgaben bereitstellen und dann eine Implementierung zusammen mit Tests für die benannten Randfälle anfordern. Führen Sie diese Implementierung im Zielprojekt aus und prüfen Sie sie, bevor Sie sie übernehmen.
Meta demonstriert außerdem Werkzeugaufrufformate für diese auf Anweisungen abgestimmte Ausgabe. In einem solchen Workflow stellt die umgebende Anwendung Funktionen bereit, führt einen angeforderten Aufruf aus und gibt das Ergebnis an die Konversation zurück. Halten Sie diese Ergebnisse mit der jeweiligen Anfrage verbunden, damit die abschließende Antwort die tatsächlichen Belege nutzen kann. Diese Formate beschreiben das Integrationsverhalten des Herstellers; die Funktionen selbst gehören zur Anwendung.
Llama 3.3 ist ein statisches, auf einem Offline-Datensatz trainiertes Modell. Stellen Sie aktuelle Zahlen, Richtlinien oder Aufzeichnungen bereit, wenn die Antwort davon abhängt. Seine reine Texteingabe macht lesbare Auszüge zu den passenden Belegen für diese Ausgabe.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits meta-llama/llama-3.3-70b-instruct | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0018 / 1K Token Ausgabe · Ausgabetoken $0.0018 / 1K Token Eingabe · Cache-Lesen $0.00059 / 1K Token Eingabe · Cache-Schreiben $0 / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.0018 / 1K Token Ausgabe · Ausgabetoken $0.0018 / 1K Token Eingabe · Cache-Lesen $0.00059 / 1K Token Eingabe · Cache-Schreiben $0 / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "meta-llama/llama-3.3-70b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.3-70b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.3-70b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra meta-llama/llama-3.3-70b-instruct
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
Localize a customer reply with fixed terms\n\nTranslate this support reply into Spanish for a customer, keeping product name ClearDesk and reference R-882 unchanged: 'We received your return request for ClearDesk. Please include reference R-882 in your reply. We will review the photos you already sent.' Use a polite conversational register, then briefly identify any tone choice.A Spanish reply followed by a short note about the selected register.ClearDesk and R-882 stay exact, and the reply does not ask the customer to resend photos.