Llama 3 8B Lunaris v1 is de algemene, op rollenspel gerichte samenvoeging van tekstmodellen van Sao10K. De maker combineert een Llama 3 8B Instruct-basis met modellen die zijn geselecteerd voor rollenspel, verhalen en algemene kennis. Het doel is creatieve tekst in balans te brengen met conversationeel en logisch gedrag, zoals beschreven in de releasebeschrijving van de maker.
Het gepubliceerde recept gebruikt een TIES-samenvoeging in plaats van een nieuwe trainingsrun vanaf nul. De gewichten en dichtheden van componenten worden via experimenten van de maker gekozen, met herschaling ingeschakeld in het recept. Het resultaat blijft een eigen Lunaris-editie, onderscheiden van Stheno v3.2 en van de afzonderlijke componenten in de samenvoeging.
De modelconfiguratie heeft 32 Transformer-lagen, 32 query-attentionkoppen en acht key/value-koppen. Ze stelt maximaal 8.192 posities in en gebruikt geen rotatieschaling. Houd de taak, persona en relevante conversatie binnen de context die voor het genereren wordt gebruikt en laat ruimte voor het antwoord. Een kortere scènebeschrijving kan de nodige achtergrond behouden zonder telkens het volledige eerdere verhaal toe te voegen.
Sao10K beveelt voor de opstelling van de maker Llama 3 Instruct-opmaak, temperature 1.4 en sampling met een minimale waarschijnlijkheid van 0.1 aan. Een bruikbare systeeminstructie bepaalt de stem van het personage of de rol van de assistent. Het gebruikersbericht levert vervolgens de huidige situatie, vraag of bijdrage aan de dialoog aan.
Geef voor een personage-uitwisseling aan wie spreekt, wat die persoon wil en op welke gebeurtenis het volgende antwoord moet reageren. Vraag één bijdrage met een duidelijk einde, zodat de gebruiker kan beslissen wat daarna gebeurt. Lever voor een verhaalherziening de passage aan en benoem de toon, het verteltempo of het detail dat moet veranderen, met behoud van de vastgelegde handeling.
Voeg voor een algemene schriftelijke vraag de informatie toe die nodig is voor het antwoord en de gevraagde vorm van het resultaat. Controleer de gegenereerde concepttekst aan de hand van die instructie en de feiten in de prompt. Het verslag van de maker over de samenvoeging beschrijft een beoogde balans van componentgedrag, geen gemeten garantie dat elk antwoord elk bronmodel overtreft.
", "aboutText": "Llama 3 8B Lunaris v1 is de algemene, op rollenspel gerichte samenvoeging van tekstmodellen van Sao10K. De maker combineert een Llama 3 8B Instruct-basis met modellen die zijn geselecteerd voor rollenspel, verhalen en algemene kennis. Het doel is creatieve tekst in balans te brengen met conversationeel en logisch gedrag, zoals beschreven in de releasebeschrijving van de maker.\n\nHet gepubliceerde recept gebruikt een TIES-samenvoeging in plaats van een nieuwe trainingsrun vanaf nul. De gewichten en dichtheden van componenten worden via experimenten van de maker gekozen, met herschaling ingeschakeld in het recept. Het resultaat blijft een eigen Lunaris-editie, onderscheiden van Stheno v3.2 en van de afzonderlijke componenten in de samenvoeging.\n\nDe modelconfiguratie heeft 32 Transformer-lagen, 32 query-attentionkoppen en acht key/value-koppen. Ze stelt maximaal 8.192 posities in en gebruikt geen rotatieschaling. Houd de taak, persona en relevante conversatie binnen de context die voor het genereren wordt gebruikt en laat ruimte voor het antwoord. Een kortere scènebeschrijving kan de nodige achtergrond behouden zonder telkens het volledige eerdere verhaal toe te voegen.\n\nSao10K beveelt voor de opstelling van de maker Llama 3 Instruct-opmaak, temperature 1.4 en sampling met een minimale waarschijnlijkheid van 0.1 aan. Een bruikbare systeeminstructie bepaalt de stem van het personage of de rol van de assistent. Het gebruikersbericht levert vervolgens de huidige situatie, vraag of bijdrage aan de dialoog aan.\n\nGeef voor een personage-uitwisseling aan wie spreekt, wat die persoon wil en op welke gebeurtenis het volgende antwoord moet reageren. Vraag één bijdrage met een duidelijk einde, zodat de gebruiker kan beslissen wat daarna gebeurt. Lever voor een verhaalherziening de passage aan en benoem de toon, het verteltempo of het detail dat moet veranderen, met behoud van de vastgelegde handeling.\n\nVoeg voor een algemene schriftelijke vraag de informatie toe die nodig is voor het antwoord en de gevraagde vorm van het resultaat. Controleer de gegenereerde concepttekst aan de hand van die instructie en de feiten in de prompt. Het verslag van de maker over de samenvoeging beschrijft een beoogde balans van componentgedrag, geen gemeten garantie dat elk antwoord elk bronmodel overtreft.", "editorialOverlay": { "copy_fields": { "practical_html": "Technisch voorbeeld in het Engels
A guarded stationmaster reply\n\nPlay Orin, a stationmaster who hides nervousness behind precise manners. A traveler asks, 'Why is the midnight train missing from the board?' Established facts: the train is delayed; Orin knows no arrival time. Write two brief in-character lines with a small action between them. Leave the traveler's reaction and next choice to the reader.Two lines from Orin with one action beat and an open ending for the traveler.Check the response preserves the unknown arrival time and never controls the traveler.sao10k/l3-lunaris-8bLunaris v1 van Sao10K is een samenvoeging van Llama 3-modellen met 8 miljard parameters voor algemene tekst en rollenspel. Het combineert componenten voor conversatie en verhalen, gebruikt Llama 3 Instruct-prompts en heeft een gepubliceerde configuratie met 8.192 posities.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Llama 3 8B Lunaris v1 is de algemene, op rollenspel gerichte samenvoeging van tekstmodellen van Sao10K. De maker combineert een Llama 3 8B Instruct-basis met modellen die zijn geselecteerd voor rollenspel, verhalen en algemene kennis. Het doel is creatieve tekst in balans te brengen met conversationeel en logisch gedrag, zoals beschreven in de releasebeschrijving van de maker.
Het gepubliceerde recept gebruikt een TIES-samenvoeging in plaats van een nieuwe trainingsrun vanaf nul. De gewichten en dichtheden van componenten worden via experimenten van de maker gekozen, met herschaling ingeschakeld in het recept. Het resultaat blijft een eigen Lunaris-editie, onderscheiden van Stheno v3.2 en van de afzonderlijke componenten in de samenvoeging.
De modelconfiguratie heeft 32 Transformer-lagen, 32 query-attentionkoppen en acht key/value-koppen. Ze stelt maximaal 8.192 posities in en gebruikt geen rotatieschaling. Houd de taak, persona en relevante conversatie binnen de context die voor het genereren wordt gebruikt en laat ruimte voor het antwoord. Een kortere scènebeschrijving kan de nodige achtergrond behouden zonder telkens het volledige eerdere verhaal toe te voegen.
Sao10K beveelt voor de opstelling van de maker Llama 3 Instruct-opmaak, temperature 1.4 en sampling met een minimale waarschijnlijkheid van 0.1 aan. Een bruikbare systeeminstructie bepaalt de stem van het personage of de rol van de assistent. Het gebruikersbericht levert vervolgens de huidige situatie, vraag of bijdrage aan de dialoog aan.
Geef voor een personage-uitwisseling aan wie spreekt, wat die persoon wil en op welke gebeurtenis het volgende antwoord moet reageren. Vraag één bijdrage met een duidelijk einde, zodat de gebruiker kan beslissen wat daarna gebeurt. Lever voor een verhaalherziening de passage aan en benoem de toon, het verteltempo of het detail dat moet veranderen, met behoud van de vastgelegde handeling.
Voeg voor een algemene schriftelijke vraag de informatie toe die nodig is voor het antwoord en de gevraagde vorm van het resultaat. Controleer de gegenereerde concepttekst aan de hand van die instructie en de feiten in de prompt. Het verslag van de maker over de samenvoeging beschrijft een beoogde balans van componentgedrag, geen gemeten garantie dat elk antwoord elk bronmodel overtreft.
POST /v1/chat/completionstexttext| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten sao10k/l3-lunaris-8b | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten Minimumaantal items: 1 | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten Voorbeelden: system, user, assistant, tool, function Voorwaarden: Deze rollen worden expliciet weergegeven door compatibiliteitstypen in de broncode; de exacte rollenverzameling van het model blijft modelspecifiek. Afhankelijk van het model | Standaard— |
Veldmessages[].content | Typestring|content_part[]|null | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_calls | Typetool_call[] | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].tool_call_id | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: role=tool; gebruik het werkelijk teruggegeven ID | Standaard— |
Veldmessages[].name | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldmessages[].reasoning_content | Typestring | VereisteOptioneel | Waarden en limieten Geldt wanneer: Stuur de werkelijk teruggegeven redeneringen terug wanneer dit model ze gebruikt | Standaard— |
Veldmessages[].reasoning_details | Typeobject|array | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmax_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldmax_completion_tokens | Typeinteger | VereisteOptioneel | Waarden en limieten Minimum: 1 Afhankelijk van het model | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Veldstream_options.include_usage | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtemperature | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtop_p | Typenumber | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldstop | Typestring|string[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools | Typefunction_tool[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldtools[].type | Typestring | VereisteOptioneel | Waarden en limieten function Afhankelijk van het model | Standaard— |
Veldtools[].function.name | Typestring | VereisteVereist | Waarden en limieten Geldt wanneer: functietool opgegeven | Standaard— |
Veldtools[].function.description | Typestring | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtools[].function.parameters | TypeJSON_schema | VereisteOptioneel | Waarden en limieten | Standaard— |
Veldtool_choice | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldparallel_tool_calls | Typeboolean | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldresponse_format | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning_effort | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldreasoning | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldservice_tier | Typestring | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldinstructions | Typestring | VereisteOptioneel | Waarden en limieten Compatibiliteitsveld | Standaard— |
Veldfunctions | Typefunction[] | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldfunction_call | Typestring|object | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldprompt_cache_options | Typeobject | VereisteOptioneel | Waarden en limieten Afhankelijk van het model | Standaard— |
Veldmodalities | Typestring[] | VereisteOptioneel | Waarden en limieten text | Standaard— |
Veldprovider | Typeobject | VereisteOptioneel | Waarden en limieten Voorwaarden: provider.options wordt op deze Ultra-tekstroute geweigerd | Standaard— |
Veldcache_control.ttl | Typestring | VereisteOptioneel | Waarden en limieten Voorwaarden: 1h wordt op de daadwerkelijke locaties voor promptcaching geweigerd | Standaard— |
Tekst · UTF8-tekst
messages[].content
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages |
Parametermaterial_types | Contracttext |
Parametermessages | Contractberichtenarray met de structuur role/content |
Parameterfile_material | Contractwerkelijk UTF-8-document ingevoegd als letterlijke tekst; er wordt geen bestands-ID afgeleid |
Parameteroptional_controls | Contractstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametercontrol_scope | Contractmodelspecifiek; functietools van de gebruiker verschillen van gehoste tools |
Parameteroutput_modalities | Contracttext |
Parameterhosted_operations | Contractfalse |
Parametermultimodal_input_binding | Contractnull |
Levenscyclus: synchronous_or_streamed
Stuur het exacte model-ID mee met messages.
Contextlengte is geen uitvoerlimiet.
Een tekstbestand kan letterlijke tekst aanleveren; beeld-, audio- en bestandsobjectinvoer vereisen een exacte koppeling.
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
Koppel elke kostenpost aan de getoonde voorwaarden. Gebruik één tarief voor elke groep alternatieve configuraties.
| Configuratie | Tariefstaffel | Contexttokens, meer dan | Contexttokens, tot en met | Kosten |
|---|---|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Contexttokens, meer dan— | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.00008 / 1K tokens Uitvoer · Uitvoertokens $0.0001 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
| ConfiguratieAanvraaglengte · niveau 1 | Tariefstaffel— | Contexttokens, meer dan0 | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.00008 / 1K tokens Uitvoer · Uitvoertokens $0.0001 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "sao10k/l3-lunaris-8b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='sao10k/l3-lunaris-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='sao10k/l3-lunaris-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar elke keuze en de bijbehorende inhoud, toolaanroepen en redeneringen. Voeg in SSE delta’s samen per keuze-/toolindex en bewaar de uiteindelijke reden van beëindiging en de verbruiksgegevens.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldchoices[].index | Typeinteger |
Veldchoices[].message.content | Typestring|null |
Veldchoices[].message.tool_calls | Typetool_call[] |
Veldchoices[].message.reasoning_content | Typestring |
Veldchoices[].message.reasoning_details | Typeobject|array |
Veldchoices[].finish_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra sao10k/l3-lunaris-8b
Gebruik de hierboven getoonde methodepaden.
sao10k/l3-lunaris-8bLunaris v1 van Sao10K is een samenvoeging van Llama 3-modellen met 8 miljard parameters voor algemene tekst en rollenspel. Het combineert componenten voor conversatie en verhalen, gebruikt Llama 3 Instruct-prompts en heeft een gepubliceerde configuratie met 8.192 posities.
Deze beschrijving gaat over de mogelijkheden van het model. De via Ailoot beschikbare invoer, uitvoer en opties staan hieronder voor de geselecteerde methode.
Llama 3 8B Lunaris v1 is de algemene, op rollenspel gerichte samenvoeging van tekstmodellen van Sao10K. De maker combineert een Llama 3 8B Instruct-basis met modellen die zijn geselecteerd voor rollenspel, verhalen en algemene kennis. Het doel is creatieve tekst in balans te brengen met conversationeel en logisch gedrag, zoals beschreven in de releasebeschrijving van de maker.
Het gepubliceerde recept gebruikt een TIES-samenvoeging in plaats van een nieuwe trainingsrun vanaf nul. De gewichten en dichtheden van componenten worden via experimenten van de maker gekozen, met herschaling ingeschakeld in het recept. Het resultaat blijft een eigen Lunaris-editie, onderscheiden van Stheno v3.2 en van de afzonderlijke componenten in de samenvoeging.
De modelconfiguratie heeft 32 Transformer-lagen, 32 query-attentionkoppen en acht key/value-koppen. Ze stelt maximaal 8.192 posities in en gebruikt geen rotatieschaling. Houd de taak, persona en relevante conversatie binnen de context die voor het genereren wordt gebruikt en laat ruimte voor het antwoord. Een kortere scènebeschrijving kan de nodige achtergrond behouden zonder telkens het volledige eerdere verhaal toe te voegen.
Sao10K beveelt voor de opstelling van de maker Llama 3 Instruct-opmaak, temperature 1.4 en sampling met een minimale waarschijnlijkheid van 0.1 aan. Een bruikbare systeeminstructie bepaalt de stem van het personage of de rol van de assistent. Het gebruikersbericht levert vervolgens de huidige situatie, vraag of bijdrage aan de dialoog aan.
Geef voor een personage-uitwisseling aan wie spreekt, wat die persoon wil en op welke gebeurtenis het volgende antwoord moet reageren. Vraag één bijdrage met een duidelijk einde, zodat de gebruiker kan beslissen wat daarna gebeurt. Lever voor een verhaalherziening de passage aan en benoem de toon, het verteltempo of het detail dat moet veranderen, met behoud van de vastgelegde handeling.
Voeg voor een algemene schriftelijke vraag de informatie toe die nodig is voor het antwoord en de gevraagde vorm van het resultaat. Controleer de gegenereerde concepttekst aan de hand van die instructie en de feiten in de prompt. Het verslag van de maker over de samenvoeging beschrijft een beoogde balans van componentgedrag, geen gemeten garantie dat elk antwoord elk bronmodel overtreft.
POST /v1/messagestextjson, sse| Veld | Type | Vereiste | Waarden en limieten | Standaard |
|---|---|---|---|---|
Veldmodel | Typestring | VereisteVereist | Waarden en limieten sao10k/l3-lunaris-8b | Standaard— |
Veldmessages | Typemessage[] | VereisteVereist | Waarden en limieten | Standaard— |
Veldmessages[].role | Typestring | VereisteVereist | Waarden en limieten user, assistant | Standaard— |
Veldmessages[].content | Typestring | VereisteVereist | Waarden en limieten | Standaard— |
Veldmax_tokens | Typeinteger | VereisteVereist | Waarden en limieten | Standaard— |
Veldstream | Typeboolean | VereisteOptioneel | Waarden en limieten | Standaardfalse |
Tekst · UTF-8-tekst
messages[].content als tekenreeks
| Parameter | Contract |
|---|---|
Parametercontent_type | Contractapplication/json |
Parameterrequired | Contractmodel, messages, max_tokens |
Parameteroptional_controls | Contractstream |
Parametermaterial_types | Contracttext |
Parametertext_file_material | ContractLees het werkelijke UTF-8-document en plaats de tekst ervan in de aangegeven invoer of in de inhoudstekenreeks van een bericht. |
Levenscyclus: synchronous_or_streamed
Tariefverwijzingen voegen geen verzoekopties toe. Ondersteunde parameters staan bij de geselecteerde methode.
Koppel elke kostenpost aan de getoonde voorwaarden. Gebruik één tarief voor elke groep alternatieve configuraties.
| Configuratie | Tariefstaffel | Contexttokens, meer dan | Contexttokens, tot en met | Kosten |
|---|---|---|---|---|
| ConfiguratieBasistarieven voor tokens | TariefstaffelBasistarief | Contexttokens, meer dan— | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.00008 / 1K tokens Uitvoer · Uitvoertokens $0.0001 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
| ConfiguratieAanvraaglengte · niveau 1 | Tariefstaffel— | Contexttokens, meer dan0 | Contexttokens, tot en metGeen bovengrens | Kosten Invoer · Invoertokens $0.00008 / 1K tokens Uitvoer · Uitvoertokens $0.0001 / 1K tokens Invoer · Cache lezen — / 1K tokens Invoer · Cache schrijven — / 1K tokens Invoer · Cache schrijven, 1 uur — / 1K tokens |
Ailoot reserveert vóór een verzoek een geschat bedrag. Na het resultaat worden de uiteindelijke kosten afgerekend op basis van het gemeten verbruik. Bij streaming gebeurt de afrekening op basis van de definitieve verbruiksregistratie. Zo werken reservering en afrekening →
{\n "model": "sao10k/l3-lunaris-8b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'sao10k/l3-lunaris-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'sao10k/l3-lunaris-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON of SSE
Bewaar elk volledig teruggegeven antwoord, bestand en inhoudsonderdeel.
Bewaar alle inhoudsblokken, handtekeningen van redeneringen en werkelijke toolgebruik-ID’s. Voeg alle SSE-blokdelta’s samen; het eerste tekstblok is niet de volledige uitvoer.
Bewaar aanvraag-/antwoord-ID’s en headers. Er wordt geen algemene URL meegeleverd om teksttaken op te halen.
| Veld | Type |
|---|---|
Veldid | Typestring |
Veldmodel | Typestring |
Veldcontent[] | Typetext|thinking|tool_use|other content block |
Veldstop_reason | Typestring|null |
Veldusage | Typeobject |
| Antwoord | Voorwaarde | Volgende stap |
|---|---|---|
Antwoord400 · invalid_request_error | VoorwaardeVerplichte velden, de materiaalrepresentatie of een parameterwaarde zijn ongeldig | Volgende stapCorrigeer de aangegeven velden vóór een nieuwe aanmaakaanvraag. |
Ailoot Ultra sao10k/l3-lunaris-8b
Gebruik de hierboven getoonde methodepaden.
Technisch voorbeeld in het Engels
A guarded stationmaster reply\n\nPlay Orin, a stationmaster who hides nervousness behind precise manners. A traveler asks, 'Why is the midnight train missing from the board?' Established facts: the train is delayed; Orin knows no arrival time. Write two brief in-character lines with a small action between them. Leave the traveler's reaction and next choice to the reader.Two lines from Orin with one action beat and an open ending for the traveler.Check the response preserves the unknown arrival time and never controls the traveler.