Llama 3 8B Lunaris v1 ist Sao10Ks allgemeiner und rollenspielorientierter Textmodell-Merge. Der Entwickler kombiniert eine Grundlage aus Llama 3 8B Instruct mit Modellen, die für Rollenspiel, Geschichtenerzählen und Allgemeinwissen ausgewählt wurden. Sein Zweck ist die Balance kreativer Texte mit dialogorientiertem und logischem Verhalten, wie in der Veröffentlichungsnotiz des Entwicklers beschrieben.
Die veröffentlichte Rezeptur verwendet einen TIES-Merge statt eines neuen Trainingsdurchlaufs von Grund auf. Komponentengewichte und Dichten werden durch die Experimente des Entwicklers gewählt; in der Rezeptur ist Neuskalierung aktiviert. Das Ergebnis bleibt seine eigene Lunaris-Ausgabe, getrennt von Stheno v3.2 und den einzelnen im Merge enthaltenen Komponenten.
Die Modellkonfiguration hat 32 Transformer-Schichten, 32 Query-Attention-Heads und acht Key/Value-Heads. Sie legt maximal 8.192 Positionen und keine Rotationsskalierung fest. Halten Sie Aufgabe, Persona und relevantes Gespräch innerhalb des zur Generierung verwendeten Kontexts und lassen Sie Raum für die Antwort. Ein kürzeres Szenenbriefing kann den nötigen Hintergrund bewahren, ohne wiederholt die gesamte frühere Erzählung einzubeziehen.
Sao10K empfiehlt für seine Konfiguration Formatierung von Llama 3 Instruct, Temperatur 1.4 und Minimum-Probability-Sampling von 0.1. Eine nützliche Systemanweisung definiert die Stimme der Figur oder die Rolle des Assistenten. Die Nutzernachricht liefert anschließend die aktuelle Situation, Frage oder den Beitrag zum Dialog.
Geben Sie für einen Charakteraustausch an, wer spricht, was diese Person will und auf welches Ereignis die nächste Antwort reagieren soll. Fordern Sie einen Beitrag mit einem klaren Ende an, damit der Nutzer entscheiden kann, was als Nächstes geschieht. Stellen Sie für eine Geschichtenüberarbeitung die Passage bereit und benennen Sie den zu ändernden Ton, das Tempo oder Detail, während die festgelegte Handlung bewahrt wird.
Fügen Sie für eine allgemeine schriftliche Frage die zur Beantwortung nötigen Informationen und die gewünschte Ergebnisform hinzu. Prüfen Sie den erzeugten Entwurf anhand dieser Anweisung und der im Prompt bereitgestellten Fakten. Die Darstellung des Entwicklers zum Merge beschreibt eine beabsichtigte Balance des Komponentenverhaltens und keine gemessene Garantie, dass jede Antwort gegenüber jedem Ausgangsmodell besser ausfällt.
", "aboutText": "Llama 3 8B Lunaris v1 ist Sao10Ks allgemeiner und rollenspielorientierter Textmodell-Merge. Der Entwickler kombiniert eine Grundlage aus Llama 3 8B Instruct mit Modellen, die für Rollenspiel, Geschichtenerzählen und Allgemeinwissen ausgewählt wurden. Sein Zweck ist die Balance kreativer Texte mit dialogorientiertem und logischem Verhalten, wie in der Veröffentlichungsnotiz des Entwicklers beschrieben.\n\nDie veröffentlichte Rezeptur verwendet einen TIES-Merge statt eines neuen Trainingsdurchlaufs von Grund auf. Komponentengewichte und Dichten werden durch die Experimente des Entwicklers gewählt; in der Rezeptur ist Neuskalierung aktiviert. Das Ergebnis bleibt seine eigene Lunaris-Ausgabe, getrennt von Stheno v3.2 und den einzelnen im Merge enthaltenen Komponenten.\n\nDie Modellkonfiguration hat 32 Transformer-Schichten, 32 Query-Attention-Heads und acht Key/Value-Heads. Sie legt maximal 8.192 Positionen und keine Rotationsskalierung fest. Halten Sie Aufgabe, Persona und relevantes Gespräch innerhalb des zur Generierung verwendeten Kontexts und lassen Sie Raum für die Antwort. Ein kürzeres Szenenbriefing kann den nötigen Hintergrund bewahren, ohne wiederholt die gesamte frühere Erzählung einzubeziehen.\n\nSao10K empfiehlt für seine Konfiguration Formatierung von Llama 3 Instruct, Temperatur 1.4 und Minimum-Probability-Sampling von 0.1. Eine nützliche Systemanweisung definiert die Stimme der Figur oder die Rolle des Assistenten. Die Nutzernachricht liefert anschließend die aktuelle Situation, Frage oder den Beitrag zum Dialog.\n\nGeben Sie für einen Charakteraustausch an, wer spricht, was diese Person will und auf welches Ereignis die nächste Antwort reagieren soll. Fordern Sie einen Beitrag mit einem klaren Ende an, damit der Nutzer entscheiden kann, was als Nächstes geschieht. Stellen Sie für eine Geschichtenüberarbeitung die Passage bereit und benennen Sie den zu ändernden Ton, das Tempo oder Detail, während die festgelegte Handlung bewahrt wird.\n\nFügen Sie für eine allgemeine schriftliche Frage die zur Beantwortung nötigen Informationen und die gewünschte Ergebnisform hinzu. Prüfen Sie den erzeugten Entwurf anhand dieser Anweisung und der im Prompt bereitgestellten Fakten. Die Darstellung des Entwicklers zum Merge beschreibt eine beabsichtigte Balance des Komponentenverhaltens und keine gemessene Garantie, dass jede Antwort gegenüber jedem Ausgangsmodell besser ausfällt.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisches Beispiel auf Englisch
A guarded stationmaster reply\n\nPlay Orin, a stationmaster who hides nervousness behind precise manners. A traveler asks, 'Why is the midnight train missing from the board?' Established facts: the train is delayed; Orin knows no arrival time. Write two brief in-character lines with a small action between them. Leave the traveler's reaction and next choice to the reader.Two lines from Orin with one action beat and an open ending for the traveler.Check the response preserves the unknown arrival time and never controls the traveler.sao10k/l3-lunaris-8bSao10Ks Lunaris v1 ist ein Llama-3-Modell-Merge mit 8 Milliarden Parametern für allgemeine Textaufgaben und Rollenspiel. Es kombiniert Gesprächs- und Erzählkomponenten, verwendet Prompting von Llama 3 Instruct und hat eine veröffentlichte Konfiguration mit 8.192 Positionen.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama 3 8B Lunaris v1 ist Sao10Ks allgemeiner und rollenspielorientierter Textmodell-Merge. Der Entwickler kombiniert eine Grundlage aus Llama 3 8B Instruct mit Modellen, die für Rollenspiel, Geschichtenerzählen und Allgemeinwissen ausgewählt wurden. Sein Zweck ist die Balance kreativer Texte mit dialogorientiertem und logischem Verhalten, wie in der Veröffentlichungsnotiz des Entwicklers beschrieben.
Die veröffentlichte Rezeptur verwendet einen TIES-Merge statt eines neuen Trainingsdurchlaufs von Grund auf. Komponentengewichte und Dichten werden durch die Experimente des Entwicklers gewählt; in der Rezeptur ist Neuskalierung aktiviert. Das Ergebnis bleibt seine eigene Lunaris-Ausgabe, getrennt von Stheno v3.2 und den einzelnen im Merge enthaltenen Komponenten.
Die Modellkonfiguration hat 32 Transformer-Schichten, 32 Query-Attention-Heads und acht Key/Value-Heads. Sie legt maximal 8.192 Positionen und keine Rotationsskalierung fest. Halten Sie Aufgabe, Persona und relevantes Gespräch innerhalb des zur Generierung verwendeten Kontexts und lassen Sie Raum für die Antwort. Ein kürzeres Szenenbriefing kann den nötigen Hintergrund bewahren, ohne wiederholt die gesamte frühere Erzählung einzubeziehen.
Sao10K empfiehlt für seine Konfiguration Formatierung von Llama 3 Instruct, Temperatur 1.4 und Minimum-Probability-Sampling von 0.1. Eine nützliche Systemanweisung definiert die Stimme der Figur oder die Rolle des Assistenten. Die Nutzernachricht liefert anschließend die aktuelle Situation, Frage oder den Beitrag zum Dialog.
Geben Sie für einen Charakteraustausch an, wer spricht, was diese Person will und auf welches Ereignis die nächste Antwort reagieren soll. Fordern Sie einen Beitrag mit einem klaren Ende an, damit der Nutzer entscheiden kann, was als Nächstes geschieht. Stellen Sie für eine Geschichtenüberarbeitung die Passage bereit und benennen Sie den zu ändernden Ton, das Tempo oder Detail, während die festgelegte Handlung bewahrt wird.
Fügen Sie für eine allgemeine schriftliche Frage die zur Beantwortung nötigen Informationen und die gewünschte Ergebnisform hinzu. Prüfen Sie den erzeugten Entwurf anhand dieser Anweisung und der im Prompt bereitgestellten Fakten. Die Darstellung des Entwicklers zum Merge beschreibt eine beabsichtigte Balance des Komponentenverhaltens und keine gemessene Garantie, dass jede Antwort gegenüber jedem Ausgangsmodell besser ausfällt.
POST /v1/chat/completionstexttext| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits sao10k/l3-lunaris-8b | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits Mindestanzahl Elemente: 1 | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits Beispiele: system, user, assistant, tool, function Bedingungen: Diese Rollen sind in den Kompatibilitätstypen des Quellcodes ausdrücklich dargestellt; der genaue Rollenumfang bleibt modellspezifisch. Modellabhängig | Standard— |
Feldmessages[].content | Typstring|content_part[]|null | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_calls | Typtool_call[] | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].tool_call_id | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: role=tool; die tatsächlich zurückgegebene ID verwenden | Standard— |
Feldmessages[].name | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldmessages[].reasoning_content | Typstring | AnforderungOptional | Werte und Limits Gilt, wenn: Tatsächlich zurückgegebene Reasoning-Daten erneut übermitteln, sofern dieses Modell sie verwendet | Standard— |
Feldmessages[].reasoning_details | Typobject|array | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmax_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldmax_completion_tokens | Typinteger | AnforderungOptional | Werte und Limits Minimum: 1 Modellabhängig | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Feldstream_options.include_usage | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtemperature | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtop_p | Typnumber | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldstop | Typstring|string[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools | Typfunction_tool[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldtools[].type | Typstring | AnforderungOptional | Werte und Limits function Modellabhängig | Standard— |
Feldtools[].function.name | Typstring | AnforderungErforderlich | Werte und Limits Gilt, wenn: Funktionswerkzeug bereitgestellt | Standard— |
Feldtools[].function.description | Typstring | AnforderungOptional | Werte und Limits | Standard— |
Feldtools[].function.parameters | TypJSON_schema | AnforderungOptional | Werte und Limits | Standard— |
Feldtool_choice | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldparallel_tool_calls | Typboolean | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldresponse_format | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning_effort | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldreasoning | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldservice_tier | Typstring | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldinstructions | Typstring | AnforderungOptional | Werte und Limits Kompatibilitätsfeld | Standard— |
Feldfunctions | Typfunction[] | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldfunction_call | Typstring|object | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldprompt_cache_options | Typobject | AnforderungOptional | Werte und Limits Modellabhängig | Standard— |
Feldmodalities | Typstring[] | AnforderungOptional | Werte und Limits text | Standard— |
Feldprovider | Typobject | AnforderungOptional | Werte und Limits Bedingungen: provider.options wird auf dieser Ultra-Textroute abgelehnt | Standard— |
Feldcache_control.ttl | Typstring | AnforderungOptional | Werte und Limits Bedingungen: 1h wird in den tatsächlichen Prompt-Cache-Feldern abgelehnt | Standard— |
Text · UTF8-Text
messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages |
Parametermaterial_types | Vertragtext |
Parametermessages | VertragNachrichtenarray mit role/content-Struktur |
Parameterfile_material | VertragTatsächliches UTF-8-Dokument als wörtlicher Text eingefügt; keine Datei-ID abgeleitet |
Parameteroptional_controls | Vertragstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | VertragModellspezifisch; benutzerseitige Funktionswerkzeuge unterscheiden sich von gehosteten Werkzeugen |
Parameteroutput_modalities | Vertragtext |
Parameterhosted_operations | Vertragfalse |
Parametermultimodal_input_binding | Vertragnull |
Lebenszyklus: synchronous_or_streamed
Die genaue Modell-ID zusammen mit messages senden.
Die Kontextlänge ist keine Ausgabeobergrenze.
Eine Textdatei kann wörtlichen Text liefern; Bild-, Audio- und Dateiobjekteingaben benötigen eine exakte Zuordnung.
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00008 / 1K Token Ausgabe · Ausgabetoken $0.0001 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00008 / 1K Token Ausgabe · Ausgabetoken $0.0001 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "sao10k/l3-lunaris-8b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='sao10k/l3-lunaris-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='sao10k/l3-lunaris-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Antwortvarianten mit ihren Inhalten, Werkzeugaufrufen und Reasoning-Daten beibehalten. In SSE die Deltas nach Varianten- und Werkzeugindex zusammensetzen; endgültigen Beendigungsgrund und Verbrauchsdaten beibehalten.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldchoices[].index | Typinteger |
Feldchoices[].message.content | Typstring|null |
Feldchoices[].message.tool_calls | Typtool_call[] |
Feldchoices[].message.reasoning_content | Typstring |
Feldchoices[].message.reasoning_details | Typobject|array |
Feldchoices[].finish_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra sao10k/l3-lunaris-8b
Verwenden Sie die oben angezeigten Methodenpfade.
sao10k/l3-lunaris-8bSao10Ks Lunaris v1 ist ein Llama-3-Modell-Merge mit 8 Milliarden Parametern für allgemeine Textaufgaben und Rollenspiel. Es kombiniert Gesprächs- und Erzählkomponenten, verwendet Prompting von Llama 3 Instruct und hat eine veröffentlichte Konfiguration mit 8.192 Positionen.
Diese Beschreibung erläutert die Fähigkeiten des Modells. Die über Ailoot verfügbaren Eingaben, Ausgaben und Optionen sind unten für die ausgewählte Methode aufgeführt.
Llama 3 8B Lunaris v1 ist Sao10Ks allgemeiner und rollenspielorientierter Textmodell-Merge. Der Entwickler kombiniert eine Grundlage aus Llama 3 8B Instruct mit Modellen, die für Rollenspiel, Geschichtenerzählen und Allgemeinwissen ausgewählt wurden. Sein Zweck ist die Balance kreativer Texte mit dialogorientiertem und logischem Verhalten, wie in der Veröffentlichungsnotiz des Entwicklers beschrieben.
Die veröffentlichte Rezeptur verwendet einen TIES-Merge statt eines neuen Trainingsdurchlaufs von Grund auf. Komponentengewichte und Dichten werden durch die Experimente des Entwicklers gewählt; in der Rezeptur ist Neuskalierung aktiviert. Das Ergebnis bleibt seine eigene Lunaris-Ausgabe, getrennt von Stheno v3.2 und den einzelnen im Merge enthaltenen Komponenten.
Die Modellkonfiguration hat 32 Transformer-Schichten, 32 Query-Attention-Heads und acht Key/Value-Heads. Sie legt maximal 8.192 Positionen und keine Rotationsskalierung fest. Halten Sie Aufgabe, Persona und relevantes Gespräch innerhalb des zur Generierung verwendeten Kontexts und lassen Sie Raum für die Antwort. Ein kürzeres Szenenbriefing kann den nötigen Hintergrund bewahren, ohne wiederholt die gesamte frühere Erzählung einzubeziehen.
Sao10K empfiehlt für seine Konfiguration Formatierung von Llama 3 Instruct, Temperatur 1.4 und Minimum-Probability-Sampling von 0.1. Eine nützliche Systemanweisung definiert die Stimme der Figur oder die Rolle des Assistenten. Die Nutzernachricht liefert anschließend die aktuelle Situation, Frage oder den Beitrag zum Dialog.
Geben Sie für einen Charakteraustausch an, wer spricht, was diese Person will und auf welches Ereignis die nächste Antwort reagieren soll. Fordern Sie einen Beitrag mit einem klaren Ende an, damit der Nutzer entscheiden kann, was als Nächstes geschieht. Stellen Sie für eine Geschichtenüberarbeitung die Passage bereit und benennen Sie den zu ändernden Ton, das Tempo oder Detail, während die festgelegte Handlung bewahrt wird.
Fügen Sie für eine allgemeine schriftliche Frage die zur Beantwortung nötigen Informationen und die gewünschte Ergebnisform hinzu. Prüfen Sie den erzeugten Entwurf anhand dieser Anweisung und der im Prompt bereitgestellten Fakten. Die Darstellung des Entwicklers zum Merge beschreibt eine beabsichtigte Balance des Komponentenverhaltens und keine gemessene Garantie, dass jede Antwort gegenüber jedem Ausgangsmodell besser ausfällt.
POST /v1/messagestextjson, sse| Feld | Typ | Anforderung | Werte und Limits | Standard |
|---|---|---|---|---|
Feldmodel | Typstring | AnforderungErforderlich | Werte und Limits sao10k/l3-lunaris-8b | Standard— |
Feldmessages | Typmessage[] | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmessages[].role | Typstring | AnforderungErforderlich | Werte und Limits user, assistant | Standard— |
Feldmessages[].content | Typstring | AnforderungErforderlich | Werte und Limits | Standard— |
Feldmax_tokens | Typinteger | AnforderungErforderlich | Werte und Limits | Standard— |
Feldstream | Typboolean | AnforderungOptional | Werte und Limits | Standardfalse |
Text · UTF-8-Text
Zeichenfolge messages[].content
| Parameter | Vertrag |
|---|---|
Parametercontent_type | Vertragapplication/json |
Parameterrequired | Vertragmodel, messages, max_tokens |
Parameteroptional_controls | Vertragstream |
Parametermaterial_types | Vertragtext |
Parametertext_file_material | VertragDas tatsächliche UTF-8-Dokument lesen und seinen Text in die angegebene Zeichenfolge für Eingabe oder Nachrichteninhalt einfügen. |
Lebenszyklus: synchronous_or_streamed
Tarifangaben erweitern die Anfrageoptionen nicht. Unterstützte Parameter stehen bei der ausgewählten Methode.
Ordnen Sie jede Gebühr den angezeigten Bedingungen zu. Verwenden Sie für jede Gruppe alternativer Konfigurationen einen Tarif.
| Konfiguration | Tarifstaffel | Kontexttoken, mehr als | Kontexttoken, bis einschließlich | Gebühr |
|---|---|---|---|---|
| KonfigurationBasistarife für Token | TarifstaffelGrundtarif | Kontexttoken, mehr als— | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00008 / 1K Token Ausgabe · Ausgabetoken $0.0001 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
| KonfigurationAnfragelängenstufe 1 | Tarifstaffel— | Kontexttoken, mehr als0 | Kontexttoken, bis einschließlichKeine Obergrenze | Gebühr Eingabe · Eingabetoken $0.00008 / 1K Token Ausgabe · Ausgabetoken $0.0001 / 1K Token Eingabe · Cache-Lesen — / 1K Token Eingabe · Cache-Schreiben — / 1K Token Eingabe · Cache-Schreiben, 1 Stunde — / 1K Token |
Ailoot reserviert vor einer Anfrage einen geschätzten Betrag. Nach dem Ergebnis rechnet Ailoot die endgültige Gebühr anhand des gemessenen Verbrauchs ab. Bei Streaming erfolgt die Abrechnung anhand des abschließenden Verbrauchsdatensatzes. So funktionieren Reservierung und Abrechnung →
{\n "model": "sao10k/l3-lunaris-8b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'sao10k/l3-lunaris-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'sao10k/l3-lunaris-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON oder SSE
Bewahren Sie jede vollständig zurückgegebene Antwort, Datei und jeden Inhaltsteil auf.
Alle Inhaltsblöcke, Thinking-Signaturen und tatsächlichen Werkzeugaufruf-IDs beibehalten. Alle SSE-Blockdeltas zusammensetzen; der erste Textblock ist nicht die vollständige Ausgabe.
Anfrage- und Antwort-IDs sowie Header beibehalten. Eine allgemeine URL zum Abrufen von Textaufträgen wird nicht angegeben.
| Feld | Typ |
|---|---|
Feldid | Typstring |
Feldmodel | Typstring |
Feldcontent[] | Typtext|thinking|tool_use|other content block |
Feldstop_reason | Typstring|null |
Feldusage | Typobject |
| Antwort | Bedingung | Nächster Schritt |
|---|---|---|
Antwort400 · invalid_request_error | BedingungPflichtfelder, Darstellung des Eingabematerials oder Parameterwert ungültig | Nächster SchrittDie angegebenen Felder vor einer neuen Erstellungsanfrage korrigieren. |
Ailoot Ultra sao10k/l3-lunaris-8b
Verwenden Sie die oben angezeigten Methodenpfade.
Technisches Beispiel auf Englisch
A guarded stationmaster reply\n\nPlay Orin, a stationmaster who hides nervousness behind precise manners. A traveler asks, 'Why is the midnight train missing from the board?' Established facts: the train is delayed; Orin knows no arrival time. Write two brief in-character lines with a small action between them. Leave the traveler's reaction and next choice to the reader.Two lines from Orin with one action beat and an open ending for the traveler.Check the response preserves the unknown arrival time and never controls the traveler.