Llama 3 8B Lunaris v1 — Sao10K yaratgan umumiy maqsadli va rolli muloqotga yo‘naltirilgan matn modellari birlashmasi. Yaratuvchi Llama 3 8B Instruct asosini rolli muloqot, hikoya qilish va umumiy bilim uchun tanlangan modellar bilan birlashtiradi. Yaratuvchi reliz qaydida ta’riflaganidek, maqsad ijodiy matnni suhbat va mantiqiy xatti-harakat bilan muvozanatlashdir.
E’lon qilingan usul noldan yangi o‘qitish o‘rniga TIES birlashtirishidan foydalanadi. Komponent vaznlari va zichliklari yaratuvchi tajribalari orqali tanlangan, usulda qayta masshtablash yoqilgan. Natija Stheno v3.2 va birlashmaga kiritilgan alohida komponentlardan farq qiluvchi o‘z Lunaris nashri bo‘lib qoladi.
Model konfiguratsiyasida 32 Transformer qatlami, 32 ta so‘rov diqqat boshi va sakkizta kalit/qiymat boshi bor. Unda 8192 maksimal pozitsiya belgilangan va aylanishli masshtablash yo‘q. Vazifa, shaxsiyat va tegishli suhbatni generatsiya uchun ishlatiladigan kontekst ichida saqlang, javobga joy qoldiring. Qisqaroq sahna topshirig‘i butun oldingi hikoyani qayta-qayta kiritmasdan zarur fonni saqlashi mumkin.
Sao10K yaratuvchi konfiguratsiyasi uchun Llama 3 Instruct formatlashini, temperature 1.4 va minimal ehtimollik bo‘yicha tanlash 0.1 ni tavsiya qiladi. Foydali tizim ko‘rsatmasi personaj uslubi yoki yordamchi rolini belgilaydi. So‘ng foydalanuvchi xabari joriy vaziyat, savol yoki muloqotga hissani beradi.
Personaj muloqotida kim gapirayotgani, nimani istayotgani va keyingi javob qaysi voqeaga munosabat bildirishi kerakligini ko‘rsating. Foydalanuvchi keyin nima bo‘lishini hal qilishi uchun aniq yakunli bitta hissa so‘rang. Hikoyani tahrirlashda parchani bering va belgilangan harakatni saqlab, o‘zgartiriladigan ohang, sur’at yoki tafsilotni ko‘rsating.
Umumiy yozma savolda javob uchun kerakli ma’lumot va so‘ralgan natija shaklini kiriting. Yaratilgan matn loyihasini shu ko‘rsatma va ko‘rsatmada berilgan faktlar bilan tekshiring. Yaratuvchining birlashma haqidagi bayoni komponent xatti-harakatlarining ko‘zlangan muvozanatidir; u har bir javob har bir manba modelidan yaxshiroq bo‘lishining o‘lchangan kafolati emas.
", "aboutText": "Llama 3 8B Lunaris v1 — Sao10K yaratgan umumiy maqsadli va rolli muloqotga yo‘naltirilgan matn modellari birlashmasi. Yaratuvchi Llama 3 8B Instruct asosini rolli muloqot, hikoya qilish va umumiy bilim uchun tanlangan modellar bilan birlashtiradi. Yaratuvchi reliz qaydida ta’riflaganidek, maqsad ijodiy matnni suhbat va mantiqiy xatti-harakat bilan muvozanatlashdir.\n\nE’lon qilingan usul noldan yangi o‘qitish o‘rniga TIES birlashtirishidan foydalanadi. Komponent vaznlari va zichliklari yaratuvchi tajribalari orqali tanlangan, usulda qayta masshtablash yoqilgan. Natija Stheno v3.2 va birlashmaga kiritilgan alohida komponentlardan farq qiluvchi o‘z Lunaris nashri bo‘lib qoladi.\n\nModel konfiguratsiyasida 32 Transformer qatlami, 32 ta so‘rov diqqat boshi va sakkizta kalit/qiymat boshi bor. Unda 8192 maksimal pozitsiya belgilangan va aylanishli masshtablash yo‘q. Vazifa, shaxsiyat va tegishli suhbatni generatsiya uchun ishlatiladigan kontekst ichida saqlang, javobga joy qoldiring. Qisqaroq sahna topshirig‘i butun oldingi hikoyani qayta-qayta kiritmasdan zarur fonni saqlashi mumkin.\n\nSao10K yaratuvchi konfiguratsiyasi uchun Llama 3 Instruct formatlashini, temperature 1.4 va minimal ehtimollik bo‘yicha tanlash 0.1 ni tavsiya qiladi. Foydali tizim ko‘rsatmasi personaj uslubi yoki yordamchi rolini belgilaydi. So‘ng foydalanuvchi xabari joriy vaziyat, savol yoki muloqotga hissani beradi.\n\nPersonaj muloqotida kim gapirayotgani, nimani istayotgani va keyingi javob qaysi voqeaga munosabat bildirishi kerakligini ko‘rsating. Foydalanuvchi keyin nima bo‘lishini hal qilishi uchun aniq yakunli bitta hissa so‘rang. Hikoyani tahrirlashda parchani bering va belgilangan harakatni saqlab, o‘zgartiriladigan ohang, sur’at yoki tafsilotni ko‘rsating.\n\nUmumiy yozma savolda javob uchun kerakli ma’lumot va so‘ralgan natija shaklini kiriting. Yaratilgan matn loyihasini shu ko‘rsatma va ko‘rsatmada berilgan faktlar bilan tekshiring. Yaratuvchining birlashma haqidagi bayoni komponent xatti-harakatlarining ko‘zlangan muvozanatidir; u har bir javob har bir manba modelidan yaxshiroq bo‘lishining o‘lchangan kafolati emas.", "editorialOverlay": { "copy_fields": { "practical_html": "Ingliz tilidagi texnik misol
A guarded stationmaster reply\n\nPlay Orin, a stationmaster who hides nervousness behind precise manners. A traveler asks, 'Why is the midnight train missing from the board?' Established facts: the train is delayed; Orin knows no arrival time. Write two brief in-character lines with a small action between them. Leave the traveler's reaction and next choice to the reader.Two lines from Orin with one action beat and an open ending for the traveler.Check the response preserves the unknown arrival time and never controls the traveler.sao10k/l3-lunaris-8bSao10K yaratgan Lunaris v1 — umumiy matn va rolli muloqot uchun 8B Llama 3 model birlashmasi. U suhbat va hikoya komponentlarini birlashtiradi, Llama 3 Instruct ko‘rsatma formatidan foydalanadi va e’lon qilingan 8192 pozitsiyali konfiguratsiyaga ega.
Bu tavsif model imkoniyatlarini yoritadi. Ailoot da tanlangan usul uchun mavjud kirish, chiqish va parametrlar quyida keltirilgan.
Llama 3 8B Lunaris v1 — Sao10K yaratgan umumiy maqsadli va rolli muloqotga yo‘naltirilgan matn modellari birlashmasi. Yaratuvchi Llama 3 8B Instruct asosini rolli muloqot, hikoya qilish va umumiy bilim uchun tanlangan modellar bilan birlashtiradi. Yaratuvchi reliz qaydida ta’riflaganidek, maqsad ijodiy matnni suhbat va mantiqiy xatti-harakat bilan muvozanatlashdir.
E’lon qilingan usul noldan yangi o‘qitish o‘rniga TIES birlashtirishidan foydalanadi. Komponent vaznlari va zichliklari yaratuvchi tajribalari orqali tanlangan, usulda qayta masshtablash yoqilgan. Natija Stheno v3.2 va birlashmaga kiritilgan alohida komponentlardan farq qiluvchi o‘z Lunaris nashri bo‘lib qoladi.
Model konfiguratsiyasida 32 Transformer qatlami, 32 ta so‘rov diqqat boshi va sakkizta kalit/qiymat boshi bor. Unda 8192 maksimal pozitsiya belgilangan va aylanishli masshtablash yo‘q. Vazifa, shaxsiyat va tegishli suhbatni generatsiya uchun ishlatiladigan kontekst ichida saqlang, javobga joy qoldiring. Qisqaroq sahna topshirig‘i butun oldingi hikoyani qayta-qayta kiritmasdan zarur fonni saqlashi mumkin.
Sao10K yaratuvchi konfiguratsiyasi uchun Llama 3 Instruct formatlashini, temperature 1.4 va minimal ehtimollik bo‘yicha tanlash 0.1 ni tavsiya qiladi. Foydali tizim ko‘rsatmasi personaj uslubi yoki yordamchi rolini belgilaydi. So‘ng foydalanuvchi xabari joriy vaziyat, savol yoki muloqotga hissani beradi.
Personaj muloqotida kim gapirayotgani, nimani istayotgani va keyingi javob qaysi voqeaga munosabat bildirishi kerakligini ko‘rsating. Foydalanuvchi keyin nima bo‘lishini hal qilishi uchun aniq yakunli bitta hissa so‘rang. Hikoyani tahrirlashda parchani bering va belgilangan harakatni saqlab, o‘zgartiriladigan ohang, sur’at yoki tafsilotni ko‘rsating.
Umumiy yozma savolda javob uchun kerakli ma’lumot va so‘ralgan natija shaklini kiriting. Yaratilgan matn loyihasini shu ko‘rsatma va ko‘rsatmada berilgan faktlar bilan tekshiring. Yaratuvchining birlashma haqidagi bayoni komponent xatti-harakatlarining ko‘zlangan muvozanatidir; u har bir javob har bir manba modelidan yaxshiroq bo‘lishining o‘lchangan kafolati emas.
POST /v1/chat/completionstexttext| Maydon | Tur | Talab | Qiymatlar va cheklovlar | Standart |
|---|---|---|---|---|
Maydonmodel | Turstring | TalabMajburiy | Qiymatlar va cheklovlar sao10k/l3-lunaris-8b | Standart— |
Maydonmessages | Turmessage[] | TalabMajburiy | Qiymatlar va cheklovlar Elementlarning eng kam soni: 1 | Standart— |
Maydonmessages[].role | Turstring | TalabMajburiy | Qiymatlar va cheklovlar Namunalar: system, user, assistant, tool, function Shartlar: Bu rollar manba kodining moslik turlarida ochiq ifodalangan; aniq rollar to‘plami har bir modelga xos bo‘lib qoladi. Modelga bogʻliq | Standart— |
Maydonmessages[].content | Turstring|content_part[]|null | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standart— |
Maydonmessages[].tool_calls | Turtool_call[] | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standart— |
Maydonmessages[].tool_call_id | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar Quyidagi holatda qo‘llanadi: role=tool; haqiqatan qaytarilgan IDdan foydalaning | Standart— |
Maydonmessages[].name | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standart— |
Maydonmessages[].reasoning_content | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar Quyidagi holatda qo‘llanadi: Ushbu model foydalanganda, haqiqatan qaytarilgan fikrlash ma’lumotlarini keyingi so‘rovda qayta yuboring | Standart— |
Maydonmessages[].reasoning_details | Turobject|array | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonmax_tokens | Turinteger | TalabIxtiyoriy | Qiymatlar va cheklovlar Eng kam: 1 Modelga bogʻliq | Standart— |
Maydonmax_completion_tokens | Turinteger | TalabIxtiyoriy | Qiymatlar va cheklovlar Eng kam: 1 Modelga bogʻliq | Standart— |
Maydonstream | Turboolean | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standartfalse |
Maydonstream_options.include_usage | Turboolean | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydontemperature | Turnumber | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydontop_p | Turnumber | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonstop | Turstring|string[] | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydontools | Turfunction_tool[] | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydontools[].type | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar function Modelga bogʻliq | Standart— |
Maydontools[].function.name | Turstring | TalabMajburiy | Qiymatlar va cheklovlar Quyidagi holatda qo‘llanadi: Funksiya vositasi taqdim etilgan | Standart— |
Maydontools[].function.description | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standart— |
Maydontools[].function.parameters | TurJSON_schema | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standart— |
Maydontool_choice | Turstring|object | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonparallel_tool_calls | Turboolean | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonresponse_format | Turobject | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonreasoning_effort | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonreasoning | Turobject | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonservice_tier | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydoninstructions | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar Moslik maydoni | Standart— |
Maydonfunctions | Turfunction[] | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonfunction_call | Turstring|object | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonprompt_cache_options | Turobject | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonmodalities | Turstring[] | TalabIxtiyoriy | Qiymatlar va cheklovlar text | Standart— |
Maydonprovider | Turobject | TalabIxtiyoriy | Qiymatlar va cheklovlar Shartlar: Ushbu Ultra matn marshrutida provider.options rad etiladi | Standart— |
Maydoncache_control.ttl | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar Shartlar: Haqiqiy prompt-kesh joylarida 1h rad etiladi | Standart— |
Matn · UTF8 matni
messages[].content
| Parametr | Parametr talablari |
|---|---|
Parametrcontent_type | Parametr talablariapplication/json |
Parametrrequired | Parametr talablarimodel, messages |
Parametrmaterial_types | Parametr talablaritext |
Parametrmessages | Parametr talablarirole/content tuzilishidagi xabarlar massivi |
Parametrfile_material | Parametr talablariHaqiqiy UTF-8 hujjati aynan matn sifatida kiritiladi; fayl IDsi faraz qilinmaydi |
Parametroptional_controls | Parametr talablaristream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrcontrol_scope | Parametr talablariModelga xos; foydalanuvchi funksiya vositalari hostingdagi vositalardan farq qiladi |
Parametroutput_modalities | Parametr talablaritext |
Parametrhosted_operations | Parametr talablarifalse |
Parametrmultimodal_input_binding | Parametr talablarinull |
Hayot sikli: synchronous_or_streamed
Aniq model IDsini messages bilan yuboring.
Kontekst uzunligi chiqishning yuqori chegarasi emas.
Matn fayli aynan matnni taqdim etishi mumkin; tasvir, audio va fayl obyekti kirishlari aniq bog‘lashni talab qiladi.
Tarif ma’lumotlari so‘rov imkoniyatlarini qo‘shmaydi. Qo‘llab-quvvatlanadigan parametrlar tanlangan usulda ko‘rsatilgan.
Har bir to‘lovni ko‘rsatilgan shartlarga moslang. Har bir muqobil sozlamalar to‘plami uchun bitta tarifdan foydalaning.
| Sozlama | Tariflar jadvali | Kontekst tokenlari soni bundan ko‘p | Kontekst tokenlari soni bundan oshmaydi, chegara kiradi | To‘lov |
|---|---|---|---|---|
| SozlamaTokenlar uchun bazaviy tariflar | Tariflar jadvaliAsosiy tarif | Kontekst tokenlari soni bundan ko‘p— | Kontekst tokenlari soni bundan oshmaydi, chegara kiradiYuqori chegara yo‘q | To‘lov Kirish · Kirish tokenlari $0.00008 / 1K token Chiqish · Chiqish tokenlari $0.0001 / 1K token Kirish · Keshdan o‘qish — / 1K token Kirish · Keshga yozish — / 1K token Kirish · Keshga yozish, 1 soat — / 1K token |
| SozlamaSo‘rov uzunligi bo‘yicha 1-daraja | Tariflar jadvali— | Kontekst tokenlari soni bundan ko‘p0 | Kontekst tokenlari soni bundan oshmaydi, chegara kiradiYuqori chegara yo‘q | To‘lov Kirish · Kirish tokenlari $0.00008 / 1K token Chiqish · Chiqish tokenlari $0.0001 / 1K token Kirish · Keshdan o‘qish — / 1K token Kirish · Keshga yozish — / 1K token Kirish · Keshga yozish, 1 soat — / 1K token |
Ailoot so‘rovdan oldin taxminiy summani band qiladi. Natijadan keyin o‘lchangan sarf asosidagi yakuniy to‘lovni yechadi. Oqimli javob bo‘yicha yakuniy hisob-kitob yakuniy sarf yozuviga asoslanadi. Summani band qilish va to‘lovni hisoblash tartibi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "sao10k/l3-lunaris-8b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='sao10k/l3-lunaris-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='sao10k/l3-lunaris-8b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson yoki SSE
Qaytarilgan har bir to‘liq javob, fayl va kontent qismini saqlang.
Har bir javob variantini va uning kontenti, vosita chaqiruvlari hamda fikrlash ma’lumotlarini saqlang. SSEda o‘zgarish qismlarini variant va vosita indeksi bo‘yicha yig‘ing, yakuniy tugash sababi va sarf ma’lumotlarini saqlang.
So‘rov va javob IDlari hamda sarlavhalarini saqlang. Matn vazifasini olish uchun umumiy URL taqdim etilmagan.
| Maydon | Tur |
|---|---|
Maydonchoices[].index | Turinteger |
Maydonchoices[].message.content | Turstring|null |
Maydonchoices[].message.tool_calls | Turtool_call[] |
Maydonchoices[].message.reasoning_content | Turstring |
Maydonchoices[].message.reasoning_details | Turobject|array |
Maydonchoices[].finish_reason | Turstring|null |
Maydonusage | Turobject |
| Javob | Shart | Keyingi qadam |
|---|---|---|
Javob400 · invalid_request_error | ShartMajburiy maydonlar, material ifodasi yoki parametr qiymati noto‘g‘ri | Keyingi qadamYangi yaratish so‘rovidan oldin ko‘rsatilgan maydonlarni tuzating. |
Ailoot Ultra sao10k/l3-lunaris-8b
Yuqorida ko‘rsatilgan usul yo‘llaridan foydalaning.
sao10k/l3-lunaris-8bSao10K yaratgan Lunaris v1 — umumiy matn va rolli muloqot uchun 8B Llama 3 model birlashmasi. U suhbat va hikoya komponentlarini birlashtiradi, Llama 3 Instruct ko‘rsatma formatidan foydalanadi va e’lon qilingan 8192 pozitsiyali konfiguratsiyaga ega.
Bu tavsif model imkoniyatlarini yoritadi. Ailoot da tanlangan usul uchun mavjud kirish, chiqish va parametrlar quyida keltirilgan.
Llama 3 8B Lunaris v1 — Sao10K yaratgan umumiy maqsadli va rolli muloqotga yo‘naltirilgan matn modellari birlashmasi. Yaratuvchi Llama 3 8B Instruct asosini rolli muloqot, hikoya qilish va umumiy bilim uchun tanlangan modellar bilan birlashtiradi. Yaratuvchi reliz qaydida ta’riflaganidek, maqsad ijodiy matnni suhbat va mantiqiy xatti-harakat bilan muvozanatlashdir.
E’lon qilingan usul noldan yangi o‘qitish o‘rniga TIES birlashtirishidan foydalanadi. Komponent vaznlari va zichliklari yaratuvchi tajribalari orqali tanlangan, usulda qayta masshtablash yoqilgan. Natija Stheno v3.2 va birlashmaga kiritilgan alohida komponentlardan farq qiluvchi o‘z Lunaris nashri bo‘lib qoladi.
Model konfiguratsiyasida 32 Transformer qatlami, 32 ta so‘rov diqqat boshi va sakkizta kalit/qiymat boshi bor. Unda 8192 maksimal pozitsiya belgilangan va aylanishli masshtablash yo‘q. Vazifa, shaxsiyat va tegishli suhbatni generatsiya uchun ishlatiladigan kontekst ichida saqlang, javobga joy qoldiring. Qisqaroq sahna topshirig‘i butun oldingi hikoyani qayta-qayta kiritmasdan zarur fonni saqlashi mumkin.
Sao10K yaratuvchi konfiguratsiyasi uchun Llama 3 Instruct formatlashini, temperature 1.4 va minimal ehtimollik bo‘yicha tanlash 0.1 ni tavsiya qiladi. Foydali tizim ko‘rsatmasi personaj uslubi yoki yordamchi rolini belgilaydi. So‘ng foydalanuvchi xabari joriy vaziyat, savol yoki muloqotga hissani beradi.
Personaj muloqotida kim gapirayotgani, nimani istayotgani va keyingi javob qaysi voqeaga munosabat bildirishi kerakligini ko‘rsating. Foydalanuvchi keyin nima bo‘lishini hal qilishi uchun aniq yakunli bitta hissa so‘rang. Hikoyani tahrirlashda parchani bering va belgilangan harakatni saqlab, o‘zgartiriladigan ohang, sur’at yoki tafsilotni ko‘rsating.
Umumiy yozma savolda javob uchun kerakli ma’lumot va so‘ralgan natija shaklini kiriting. Yaratilgan matn loyihasini shu ko‘rsatma va ko‘rsatmada berilgan faktlar bilan tekshiring. Yaratuvchining birlashma haqidagi bayoni komponent xatti-harakatlarining ko‘zlangan muvozanatidir; u har bir javob har bir manba modelidan yaxshiroq bo‘lishining o‘lchangan kafolati emas.
POST /v1/messagestextjson, sse| Maydon | Tur | Talab | Qiymatlar va cheklovlar | Standart |
|---|---|---|---|---|
Maydonmodel | Turstring | TalabMajburiy | Qiymatlar va cheklovlar sao10k/l3-lunaris-8b | Standart— |
Maydonmessages | Turmessage[] | TalabMajburiy | Qiymatlar va cheklovlar | Standart— |
Maydonmessages[].role | Turstring | TalabMajburiy | Qiymatlar va cheklovlar user, assistant | Standart— |
Maydonmessages[].content | Turstring | TalabMajburiy | Qiymatlar va cheklovlar | Standart— |
Maydonmax_tokens | Turinteger | TalabMajburiy | Qiymatlar va cheklovlar | Standart— |
Maydonstream | Turboolean | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standartfalse |
Matn · UTF-8 matni
messages[].content satri
| Parametr | Parametr talablari |
|---|---|
Parametrcontent_type | Parametr talablariapplication/json |
Parametrrequired | Parametr talablarimodel, messages, max_tokens |
Parametroptional_controls | Parametr talablaristream |
Parametrmaterial_types | Parametr talablaritext |
Parametrtext_file_material | Parametr talablariHaqiqiy UTF-8 hujjatini o‘qing va uning matnini ko‘rsatilgan kirish yoki xabar kontenti satriga joylashtiring. |
Hayot sikli: synchronous_or_streamed
Tarif ma’lumotlari so‘rov imkoniyatlarini qo‘shmaydi. Qo‘llab-quvvatlanadigan parametrlar tanlangan usulda ko‘rsatilgan.
Har bir to‘lovni ko‘rsatilgan shartlarga moslang. Har bir muqobil sozlamalar to‘plami uchun bitta tarifdan foydalaning.
| Sozlama | Tariflar jadvali | Kontekst tokenlari soni bundan ko‘p | Kontekst tokenlari soni bundan oshmaydi, chegara kiradi | To‘lov |
|---|---|---|---|---|
| SozlamaTokenlar uchun bazaviy tariflar | Tariflar jadvaliAsosiy tarif | Kontekst tokenlari soni bundan ko‘p— | Kontekst tokenlari soni bundan oshmaydi, chegara kiradiYuqori chegara yo‘q | To‘lov Kirish · Kirish tokenlari $0.00008 / 1K token Chiqish · Chiqish tokenlari $0.0001 / 1K token Kirish · Keshdan o‘qish — / 1K token Kirish · Keshga yozish — / 1K token Kirish · Keshga yozish, 1 soat — / 1K token |
| SozlamaSo‘rov uzunligi bo‘yicha 1-daraja | Tariflar jadvali— | Kontekst tokenlari soni bundan ko‘p0 | Kontekst tokenlari soni bundan oshmaydi, chegara kiradiYuqori chegara yo‘q | To‘lov Kirish · Kirish tokenlari $0.00008 / 1K token Chiqish · Chiqish tokenlari $0.0001 / 1K token Kirish · Keshdan o‘qish — / 1K token Kirish · Keshga yozish — / 1K token Kirish · Keshga yozish, 1 soat — / 1K token |
Ailoot so‘rovdan oldin taxminiy summani band qiladi. Natijadan keyin o‘lchangan sarf asosidagi yakuniy to‘lovni yechadi. Oqimli javob bo‘yicha yakuniy hisob-kitob yakuniy sarf yozuviga asoslanadi. Summani band qilish va to‘lovni hisoblash tartibi →
{\n "model": "sao10k/l3-lunaris-8b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'sao10k/l3-lunaris-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'sao10k/l3-lunaris-8b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON yoki SSE
Qaytarilgan har bir to‘liq javob, fayl va kontent qismini saqlang.
Barcha kontent bloklari, fikrlash imzolari va haqiqiy vosita ishlatish IDlarini saqlang. SSE bloklarining barcha o‘zgarish qismlarini yig‘ing; birinchi matn bloki to‘liq chiqish emas.
So‘rov va javob IDlari hamda sarlavhalarini saqlang. Matn vazifasini olish uchun umumiy URL taqdim etilmagan.
| Maydon | Tur |
|---|---|
Maydonid | Turstring |
Maydonmodel | Turstring |
Maydoncontent[] | Turtext|thinking|tool_use|other content block |
Maydonstop_reason | Turstring|null |
Maydonusage | Turobject |
| Javob | Shart | Keyingi qadam |
|---|---|---|
Javob400 · invalid_request_error | ShartMajburiy maydonlar, material ifodasi yoki parametr qiymati noto‘g‘ri | Keyingi qadamYangi yaratish so‘rovidan oldin ko‘rsatilgan maydonlarni tuzating. |
Ailoot Ultra sao10k/l3-lunaris-8b
Yuqorida ko‘rsatilgan usul yo‘llaridan foydalaning.
Ingliz tilidagi texnik misol
A guarded stationmaster reply\n\nPlay Orin, a stationmaster who hides nervousness behind precise manners. A traveler asks, 'Why is the midnight train missing from the board?' Established facts: the train is delayed; Orin knows no arrival time. Write two brief in-character lines with a small action between them. Leave the traveler's reaction and next choice to the reader.Two lines from Orin with one action beat and an open ending for the traveler.Check the response preserves the unknown arrival time and never controls the traveler.