Llama 3 8B Lunaris v1 ist Sao10Ks allgemein einsetzbare und rollenspielorientierte Zusammenführung von Textmodellen. Der Ersteller kombiniert eine Grundlage aus Llama 3 8B Instruct mit Modellen, die für Rollenspiel, Erzählen und Allgemeinwissen ausgewählt wurden. Ziel ist es, kreativen Text mit dialogorientiertem und logischem Verhalten auszubalancieren, wie es die Veröffentlichungsnotiz des Erstellers beschreibt.
Die veröffentlichte Rezeptur verwendet eine TIES-Zusammenführung statt eines neuen Trainings von Grund auf. Gewichte und Dichten der Komponenten werden durch die Experimente des Erstellers gewählt; die Rezeptur aktiviert dabei die Neuskalierung. Das Ergebnis bleibt eine eigene Lunaris-Ausgabe, getrennt von Stheno v3.2 und den einzelnen Komponenten der Zusammenführung.
Die Modellkonfiguration hat 32 Transformer-Schichten, 32 Query-Attention-Heads und acht Key/Value-Heads. Sie legt maximal 8.192 Positionen und keine Rotationsskalierung fest. Halten Sie Aufgabe, Persona und relevanten Gesprächsverlauf innerhalb des für die Generierung verwendeten Kontexts und lassen Sie Platz für die Antwort. Ein kürzeres Szenenbriefing kann den nötigen Hintergrund bewahren, ohne wiederholt die gesamte frühere Erzählung aufzunehmen.
Sao10K empfiehlt für die Konfiguration des Erstellers das Format von Llama 3 Instruct, temperature 1.4 und Minimum-Probability-Sampling von 0.1. Eine nützliche Systemanweisung definiert die Stimme der Figur oder die Rolle des Assistenten. Die Nutzernachricht liefert anschließend die aktuelle Situation, Frage oder den Gesprächsbeitrag.
Geben Sie bei einem Charakteraustausch an, wer spricht, was diese Person will und auf welches Ereignis die nächste Antwort reagieren soll. Verlangen Sie einen einzelnen Beitrag mit klarem Ende, damit der Nutzer entscheiden kann, was als Nächstes passiert. Stellen Sie für eine Geschichtenüberarbeitung die Textstelle bereit und benennen Sie den zu ändernden Ton, das Erzähltempo oder Detail, während die festgelegte Handlung erhalten bleibt.
Fügen Sie bei einer allgemeinen schriftlichen Frage die zur Beantwortung benötigten Informationen und die gewünschte Ergebnisform hinzu. Prüfen Sie den erzeugten Entwurf anhand dieser Anweisung und der im Prompt bereitgestellten Fakten. Die Beschreibung der Zusammenführung durch den Ersteller ist eine beabsichtigte Balance des Komponentenverhaltens und keine gemessene Garantie, dass jede Antwort jedes Ausgangsmodell übertrifft.
", "aboutText": "Llama 3 8B Lunaris v1 ist Sao10Ks allgemein einsetzbare und rollenspielorientierte Zusammenführung von Textmodellen. Der Ersteller kombiniert eine Grundlage aus Llama 3 8B Instruct mit Modellen, die für Rollenspiel, Erzählen und Allgemeinwissen ausgewählt wurden. Ziel ist es, kreativen Text mit dialogorientiertem und logischem Verhalten auszubalancieren, wie es die Veröffentlichungsnotiz des Erstellers beschreibt.\n\nDie veröffentlichte Rezeptur verwendet eine TIES-Zusammenführung statt eines neuen Trainings von Grund auf. Gewichte und Dichten der Komponenten werden durch die Experimente des Erstellers gewählt; die Rezeptur aktiviert dabei die Neuskalierung. Das Ergebnis bleibt eine eigene Lunaris-Ausgabe, getrennt von Stheno v3.2 und den einzelnen Komponenten der Zusammenführung.\n\nDie Modellkonfiguration hat 32 Transformer-Schichten, 32 Query-Attention-Heads und acht Key/Value-Heads. Sie legt maximal 8.192 Positionen und keine Rotationsskalierung fest. Halten Sie Aufgabe, Persona und relevanten Gesprächsverlauf innerhalb des für die Generierung verwendeten Kontexts und lassen Sie Platz für die Antwort. Ein kürzeres Szenenbriefing kann den nötigen Hintergrund bewahren, ohne wiederholt die gesamte frühere Erzählung aufzunehmen.\n\nSao10K empfiehlt für die Konfiguration des Erstellers das Format von Llama 3 Instruct, temperature 1.4 und Minimum-Probability-Sampling von 0.1. Eine nützliche Systemanweisung definiert die Stimme der Figur oder die Rolle des Assistenten. Die Nutzernachricht liefert anschließend die aktuelle Situation, Frage oder den Gesprächsbeitrag.\n\nGeben Sie bei einem Charakteraustausch an, wer spricht, was diese Person will und auf welches Ereignis die nächste Antwort reagieren soll. Verlangen Sie einen einzelnen Beitrag mit klarem Ende, damit der Nutzer entscheiden kann, was als Nächstes passiert. Stellen Sie für eine Geschichtenüberarbeitung die Textstelle bereit und benennen Sie den zu ändernden Ton, das Erzähltempo oder Detail, während die festgelegte Handlung erhalten bleibt.\n\nFügen Sie bei einer allgemeinen schriftlichen Frage die zur Beantwortung benötigten Informationen und die gewünschte Ergebnisform hinzu. Prüfen Sie den erzeugten Entwurf anhand dieser Anweisung und der im Prompt bereitgestellten Fakten. Die Beschreibung der Zusammenführung durch den Ersteller ist eine beabsichtigte Balance des Komponentenverhaltens und keine gemessene Garantie, dass jede Antwort jedes Ausgangsmodell übertrifft.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
A guarded stationmaster reply\n\nPlay Orin, a stationmaster who hides nervousness behind precise manners. A traveler asks, 'Why is the midnight train missing from the board?' Established facts: the train is delayed; Orin knows no arrival time. Write two brief in-character lines with a small action between them. Leave the traveler's reaction and next choice to the reader.Two lines from Orin with one action beat and an open ending for the traveler.Check the response preserves the unknown arrival time and never controls the traveler.sao10k/l3-lunaris-8bLunaris v1 von Sao10K ist eine Zusammenführung von Llama-3-Modellen mit 8 Milliarden Parametern für allgemeine Textaufgaben und Rollenspiel. Es verbindet Dialog- und Erzählkomponenten, verwendet Prompting nach Llama 3 Instruct und hat eine veröffentlichte Konfiguration mit 8.192 Positionen.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama 3 8B Lunaris v1 ist Sao10Ks allgemein einsetzbare und rollenspielorientierte Zusammenführung von Textmodellen. Der Ersteller kombiniert eine Grundlage aus Llama 3 8B Instruct mit Modellen, die für Rollenspiel, Erzählen und Allgemeinwissen ausgewählt wurden. Ziel ist es, kreativen Text mit dialogorientiertem und logischem Verhalten auszubalancieren, wie es die Veröffentlichungsnotiz des Erstellers beschreibt.
Die veröffentlichte Rezeptur verwendet eine TIES-Zusammenführung statt eines neuen Trainings von Grund auf. Gewichte und Dichten der Komponenten werden durch die Experimente des Erstellers gewählt; die Rezeptur aktiviert dabei die Neuskalierung. Das Ergebnis bleibt eine eigene Lunaris-Ausgabe, getrennt von Stheno v3.2 und den einzelnen Komponenten der Zusammenführung.
Die Modellkonfiguration hat 32 Transformer-Schichten, 32 Query-Attention-Heads und acht Key/Value-Heads. Sie legt maximal 8.192 Positionen und keine Rotationsskalierung fest. Halten Sie Aufgabe, Persona und relevanten Gesprächsverlauf innerhalb des für die Generierung verwendeten Kontexts und lassen Sie Platz für die Antwort. Ein kürzeres Szenenbriefing kann den nötigen Hintergrund bewahren, ohne wiederholt die gesamte frühere Erzählung aufzunehmen.
Sao10K empfiehlt für die Konfiguration des Erstellers das Format von Llama 3 Instruct, temperature 1.4 und Minimum-Probability-Sampling von 0.1. Eine nützliche Systemanweisung definiert die Stimme der Figur oder die Rolle des Assistenten. Die Nutzernachricht liefert anschließend die aktuelle Situation, Frage oder den Gesprächsbeitrag.
Geben Sie bei einem Charakteraustausch an, wer spricht, was diese Person will und auf welches Ereignis die nächste Antwort reagieren soll. Verlangen Sie einen einzelnen Beitrag mit klarem Ende, damit der Nutzer entscheiden kann, was als Nächstes passiert. Stellen Sie für eine Geschichtenüberarbeitung die Textstelle bereit und benennen Sie den zu ändernden Ton, das Erzähltempo oder Detail, während die festgelegte Handlung erhalten bleibt.
Fügen Sie bei einer allgemeinen schriftlichen Frage die zur Beantwortung benötigten Informationen und die gewünschte Ergebnisform hinzu. Prüfen Sie den erzeugten Entwurf anhand dieser Anweisung und der im Prompt bereitgestellten Fakten. Die Beschreibung der Zusammenführung durch den Ersteller ist eine beabsichtigte Balance des Komponentenverhaltens und keine gemessene Garantie, dass jede Antwort jedes Ausgangsmodell übertrifft.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits sao10k/l3-lunaris-8b | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00008 / 1K Tokens Ausgabe · Ausgabetoken $0.0001 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00008 / 1K Tokens Ausgabe · Ausgabetoken $0.0001 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "sao10k/l3-lunaris-8b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='sao10k/l3-lunaris-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='sao10k/l3-lunaris-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra sao10k/l3-lunaris-8b
Verwenden Sie die oben angezeigten Methodenpfade.
sao10k/l3-lunaris-8bLunaris v1 von Sao10K ist eine Zusammenführung von Llama-3-Modellen mit 8 Milliarden Parametern für allgemeine Textaufgaben und Rollenspiel. Es verbindet Dialog- und Erzählkomponenten, verwendet Prompting nach Llama 3 Instruct und hat eine veröffentlichte Konfiguration mit 8.192 Positionen.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama 3 8B Lunaris v1 ist Sao10Ks allgemein einsetzbare und rollenspielorientierte Zusammenführung von Textmodellen. Der Ersteller kombiniert eine Grundlage aus Llama 3 8B Instruct mit Modellen, die für Rollenspiel, Erzählen und Allgemeinwissen ausgewählt wurden. Ziel ist es, kreativen Text mit dialogorientiertem und logischem Verhalten auszubalancieren, wie es die Veröffentlichungsnotiz des Erstellers beschreibt.
Die veröffentlichte Rezeptur verwendet eine TIES-Zusammenführung statt eines neuen Trainings von Grund auf. Gewichte und Dichten der Komponenten werden durch die Experimente des Erstellers gewählt; die Rezeptur aktiviert dabei die Neuskalierung. Das Ergebnis bleibt eine eigene Lunaris-Ausgabe, getrennt von Stheno v3.2 und den einzelnen Komponenten der Zusammenführung.
Die Modellkonfiguration hat 32 Transformer-Schichten, 32 Query-Attention-Heads und acht Key/Value-Heads. Sie legt maximal 8.192 Positionen und keine Rotationsskalierung fest. Halten Sie Aufgabe, Persona und relevanten Gesprächsverlauf innerhalb des für die Generierung verwendeten Kontexts und lassen Sie Platz für die Antwort. Ein kürzeres Szenenbriefing kann den nötigen Hintergrund bewahren, ohne wiederholt die gesamte frühere Erzählung aufzunehmen.
Sao10K empfiehlt für die Konfiguration des Erstellers das Format von Llama 3 Instruct, temperature 1.4 und Minimum-Probability-Sampling von 0.1. Eine nützliche Systemanweisung definiert die Stimme der Figur oder die Rolle des Assistenten. Die Nutzernachricht liefert anschließend die aktuelle Situation, Frage oder den Gesprächsbeitrag.
Geben Sie bei einem Charakteraustausch an, wer spricht, was diese Person will und auf welches Ereignis die nächste Antwort reagieren soll. Verlangen Sie einen einzelnen Beitrag mit klarem Ende, damit der Nutzer entscheiden kann, was als Nächstes passiert. Stellen Sie für eine Geschichtenüberarbeitung die Textstelle bereit und benennen Sie den zu ändernden Ton, das Erzähltempo oder Detail, während die festgelegte Handlung erhalten bleibt.
Fügen Sie bei einer allgemeinen schriftlichen Frage die zur Beantwortung benötigten Informationen und die gewünschte Ergebnisform hinzu. Prüfen Sie den erzeugten Entwurf anhand dieser Anweisung und der im Prompt bereitgestellten Fakten. Die Beschreibung der Zusammenführung durch den Ersteller ist eine beabsichtigte Balance des Komponentenverhaltens und keine gemessene Garantie, dass jede Antwort jedes Ausgangsmodell übertrifft.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits sao10k/l3-lunaris-8b | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00008 / 1K Tokens Ausgabe · Ausgabetoken $0.0001 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00008 / 1K Tokens Ausgabe · Ausgabetoken $0.0001 / 1K Tokens Eingabe · Cache lesen — / 1K Tokens Eingabe · In Cache schreiben — / 1K Tokens Eingabe · In Cache schreiben, 1 Stunde — / 1K Tokens |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "sao10k/l3-lunaris-8b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'sao10k/l3-lunaris-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'sao10k/l3-lunaris-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra sao10k/l3-lunaris-8b
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
A guarded stationmaster reply\n\nPlay Orin, a stationmaster who hides nervousness behind precise manners. A traveler asks, 'Why is the midnight train missing from the board?' Established facts: the train is delayed; Orin knows no arrival time. Write two brief in-character lines with a small action between them. Leave the traveler's reaction and next choice to the reader.Two lines from Orin with one action beat and an open ending for the traveler.Check the response preserves the unknown arrival time and never controls the traveler.