Poolside Laguna XS 2.1 – ekspertų mišinio kalbos modelis agentiniam programavimui ir ilgalaikiam darbui, Laguna serijoje pristatomas kaip mažesnis vietiniam diegimui skirtas modelis. Jis turi 33B parametrų iš viso ir 3B aktyvių parametrų vienam žetonui. Tai atnaujintas modelis, palyginti su Laguna XS.2, išlaikantis to modelio architektūrą ir pagerinantis gamintojo nurodomus programinės įrangos inžinerijos bei terminalo užduočių rezultatus. Modelis priima tekstą ir generuoja tekstą, kodą, samprotavimą bei įrankių kvietimų užklausas.
Jo 40 sluoksnių sandara derina 10 globaliojo dėmesio sluoksnių ir 30 slankiojo lango sluoksnių su sigmoidiniu vartų mechanizmu ir 512 žetonų slankiuoju langu. Šis vietinio dėmesio langas yra atskiras nuo modelio 262,144 žetonų konteksto. Poolside taip pat aprašo FP8 KV talpyklos sprendimą, mažinantį atminties sąnaudas vienam žetonui. Šios savybės padeda paaiškinti modelio orientaciją į vietinį diegimą, tačiau tikslus atminties poreikis vis tiek priklauso nuo kontrolinio taško, kvantavimo, darbinio konteksto ir aptarnavimo konfigūracijos.
Programavimo užduočiai pateikite susijusius pirminius failus kaip tekstą, numatomą veikimą ir faktinę klaidą ar nesėkmingą išvestį. Naudinga užklausa: „Pataisykite šio analizatoriaus ekranuotų skyriklių apdorojimą, išsaugodami paskelbtą įvesties formatą. Parodykite siūlomą pakeitimą, paaiškinkite, kurie atvejai paveikiami, ir nurodykite pavyzdžius, kurie atskleistų regresiją.“ Išlaikykite konkretų rezultatą ir užbaigimo sąlygą, kad modelis galėtų siekti rezultato, o ne vien aptarinėti problemą.
Terminalo tipo užduotims pateikite dabartinę aplinką, susijusią komandų išvestį ir darbo apribojimus. Su įrankiais susietoje programoje modelis pasiūlo funkcijos kvietimą, programa jį įvykdo, o rezultatas grąžinamas kitam sprendimui. Prieš siūlant kitą komandą paprašykite paaiškinti, ką atskleidžia nesėkmė. Pavyzdžiui, pateikite priklausomybių manifestą ir nepavykusio diegimo išvestį, tada prašykite mažiausio šaltiniais pagrįsto pataisymo ir numatomo kitos patikros rezultato. Istorijoje išsaugokite ankstesnius sėkmingus žingsnius ir neišspręstą problemą.
Laguna XS 2.1 sukurtas įterptiniam mąstymui prieš įrankių kvietimus ir tarp jų. Gamintojas rekomenduoja išsaugoti ankstesnių asistento žinučių samprotavimo turinį rekonstruojant kitą užklausą. Pašalinus šį turinį, vėlesniuose žingsniuose gali nebevykti tolesnis samprotavimas. Asistento atsakymą, jo įrankio kvietimo informaciją ir atitinkamą įrankio rezultatą laikykite kartu, išlaikydami matomą tęstinį tikslą. Tai ypač naudinga, kai pataisymą pagrindžia keli pastebėjimai, o vėlesnis žingsnis priklauso nuo anksčiau priimto sprendimo.
Mąstymą galima įjungti arba išjungti per pokalbio šabloną. Poolside rekomenduoja jį įjungti agentiniam programavimui ir išsaugoti tarp pokalbio žingsnių. Tiesioginio atsakymo užklausa gali tikti nedidelei transformacijai ar paaiškinimui, o taisymui su keliomis priklausomomis sąlygomis naudingas tęstinis samprotavimo ir stebėjimo ciklas. Nurodykite galutinės išvesties formatą ir palikite vietos galutiniam atsakymui. Gamintojo vertinimo nustatymai yra recepto pasirinkimai, o ne visuotinė samprotavimo kiekio ar didžiausio atsakymo ilgio garantija.
Kai šaltinių įvestis didelės apimties, sutvarkykite failus ir dokumentaciją, aiškiai atskirdami jų ribas ir naudodami pastovius pavadinimus. Paprašykite atsekti konkretų ryšį, pavyzdžiui, kurie kvietėjai priklauso nuo pakeistos sąsajos, kurios sąlygos skiria du įgyvendinimus arba kodėl bandymo rezultatas prieštarauja siūlomai diagnozei. Svarbius sprendimus ir faktines patikras laikykite glaustame užduoties įraše, o nesusijusią istoriją pašalinkite. Konteksto riba apima darbinę medžiagą ir generuojamą tęsinį; viso konteksto dydžio galutinis atsakymas nėra atskirai žadama talpa.
Poolside skelbia BF16 ir atskirus FP8, NVFP4, INT4 bei GGUF variantus, taip pat DFlash juodraštinio modelio artefaktus. Tai skirtingi diegimo pasirinkimai. Mažas aktyvių parametrų skaičius nereiškia, kad visi modelio svoriai užima tik tokį atminties kiekį, o juodraštinis modelis yra spartinimo pagalbininkas, ne pats programavimo modelis. Lygindami vietinius rezultatus išsaugokite tikslų kontrolinį tašką, o kodo ar dokumentų turinį šiam teksto į tekstą modeliui parenkite kaip tekstą.
Gamintojas dokumentuoja įrankių analizatoriaus problemą senesnėse aptarnavimo versijose: kai kurie kvietimai gali būti praleisti, o jų neapdorotas žymėjimas pateiktas kaip paprastas atsakymo tekstas. Tai parodo, kodėl su įrankiais susietoje darbo eigoje reikia atskirti modelio numatytą užklausą nuo teisingai išanalizuoto funkcijos kvietimo. Peržiūrėkite išanalizuotą pavadinimą ir argumentus, patikrinkite juos pagal faktinę schemą ir išsaugokite vykdymo rezultatą. Galutinėje ataskaitoje turėtų būti nurodytas pakeistas artefaktas, stebėtos patikros ir likusios prielaidos. Siūloma pataisa ar komanda tampa užbaigtu rezultatu tik tada, kai šie įrašai patvirtina jos veikimą.
", "aboutText": "Poolside Laguna XS 2.1 – ekspertų mišinio kalbos modelis agentiniam programavimui ir ilgalaikiam darbui, Laguna serijoje pristatomas kaip mažesnis vietiniam diegimui skirtas modelis. Jis turi 33B parametrų iš viso ir 3B aktyvių parametrų vienam žetonui. Tai atnaujintas modelis, palyginti su Laguna XS.2, išlaikantis to modelio architektūrą ir pagerinantis gamintojo nurodomus programinės įrangos inžinerijos bei terminalo užduočių rezultatus. Modelis priima tekstą ir generuoja tekstą, kodą, samprotavimą bei įrankių kvietimų užklausas.\n\nJo 40 sluoksnių sandara derina 10 globaliojo dėmesio sluoksnių ir 30 slankiojo lango sluoksnių su sigmoidiniu vartų mechanizmu ir 512 žetonų slankiuoju langu. Šis vietinio dėmesio langas yra atskiras nuo modelio 262,144 žetonų konteksto. Poolside taip pat aprašo FP8 KV talpyklos sprendimą, mažinantį atminties sąnaudas vienam žetonui. Šios savybės padeda paaiškinti modelio orientaciją į vietinį diegimą, tačiau tikslus atminties poreikis vis tiek priklauso nuo kontrolinio taško, kvantavimo, darbinio konteksto ir aptarnavimo konfigūracijos.\n\nProgramavimo užduočiai pateikite susijusius pirminius failus kaip tekstą, numatomą veikimą ir faktinę klaidą ar nesėkmingą išvestį. Naudinga užklausa: „Pataisykite šio analizatoriaus ekranuotų skyriklių apdorojimą, išsaugodami paskelbtą įvesties formatą. Parodykite siūlomą pakeitimą, paaiškinkite, kurie atvejai paveikiami, ir nurodykite pavyzdžius, kurie atskleistų regresiją.“ Išlaikykite konkretų rezultatą ir užbaigimo sąlygą, kad modelis galėtų siekti rezultato, o ne vien aptarinėti problemą.\n\nTerminalo tipo užduotims pateikite dabartinę aplinką, susijusią komandų išvestį ir darbo apribojimus. Su įrankiais susietoje programoje modelis pasiūlo funkcijos kvietimą, programa jį įvykdo, o rezultatas grąžinamas kitam sprendimui. Prieš siūlant kitą komandą paprašykite paaiškinti, ką atskleidžia nesėkmė. Pavyzdžiui, pateikite priklausomybių manifestą ir nepavykusio diegimo išvestį, tada prašykite mažiausio šaltiniais pagrįsto pataisymo ir numatomo kitos patikros rezultato. Istorijoje išsaugokite ankstesnius sėkmingus žingsnius ir neišspręstą problemą.\n\nLaguna XS 2.1 sukurtas įterptiniam mąstymui prieš įrankių kvietimus ir tarp jų. Gamintojas rekomenduoja išsaugoti ankstesnių asistento žinučių samprotavimo turinį rekonstruojant kitą užklausą. Pašalinus šį turinį, vėlesniuose žingsniuose gali nebevykti tolesnis samprotavimas. Asistento atsakymą, jo įrankio kvietimo informaciją ir atitinkamą įrankio rezultatą laikykite kartu, išlaikydami matomą tęstinį tikslą. Tai ypač naudinga, kai pataisymą pagrindžia keli pastebėjimai, o vėlesnis žingsnis priklauso nuo anksčiau priimto sprendimo.\n\nMąstymą galima įjungti arba išjungti per pokalbio šabloną. Poolside rekomenduoja jį įjungti agentiniam programavimui ir išsaugoti tarp pokalbio žingsnių. Tiesioginio atsakymo užklausa gali tikti nedidelei transformacijai ar paaiškinimui, o taisymui su keliomis priklausomomis sąlygomis naudingas tęstinis samprotavimo ir stebėjimo ciklas. Nurodykite galutinės išvesties formatą ir palikite vietos galutiniam atsakymui. Gamintojo vertinimo nustatymai yra recepto pasirinkimai, o ne visuotinė samprotavimo kiekio ar didžiausio atsakymo ilgio garantija.\n\nKai šaltinių įvestis didelės apimties, sutvarkykite failus ir dokumentaciją, aiškiai atskirdami jų ribas ir naudodami pastovius pavadinimus. Paprašykite atsekti konkretų ryšį, pavyzdžiui, kurie kvietėjai priklauso nuo pakeistos sąsajos, kurios sąlygos skiria du įgyvendinimus arba kodėl bandymo rezultatas prieštarauja siūlomai diagnozei. Svarbius sprendimus ir faktines patikras laikykite glaustame užduoties įraše, o nesusijusią istoriją pašalinkite. Konteksto riba apima darbinę medžiagą ir generuojamą tęsinį; viso konteksto dydžio galutinis atsakymas nėra atskirai žadama talpa.\n\nPoolside skelbia BF16 ir atskirus FP8, NVFP4, INT4 bei GGUF variantus, taip pat DFlash juodraštinio modelio artefaktus. Tai skirtingi diegimo pasirinkimai. Mažas aktyvių parametrų skaičius nereiškia, kad visi modelio svoriai užima tik tokį atminties kiekį, o juodraštinis modelis yra spartinimo pagalbininkas, ne pats programavimo modelis. Lygindami vietinius rezultatus išsaugokite tikslų kontrolinį tašką, o kodo ar dokumentų turinį šiam teksto į tekstą modeliui parenkite kaip tekstą.\n\nGamintojas dokumentuoja įrankių analizatoriaus problemą senesnėse aptarnavimo versijose: kai kurie kvietimai gali būti praleisti, o jų neapdorotas žymėjimas pateiktas kaip paprastas atsakymo tekstas. Tai parodo, kodėl su įrankiais susietoje darbo eigoje reikia atskirti modelio numatytą užklausą nuo teisingai išanalizuoto funkcijos kvietimo. Peržiūrėkite išanalizuotą pavadinimą ir argumentus, patikrinkite juos pagal faktinę schemą ir išsaugokite vykdymo rezultatą. Galutinėje ataskaitoje turėtų būti nurodytas pakeistas artefaktas, stebėtos patikros ir likusios prielaidos. Siūloma pataisa ar komanda tampa užbaigtu rezultatu tik tada, kai šie įrašai patvirtina jos veikimą.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "8ac2e1791eb1bfd5e6c89a6d16b659e951440c031a6d0c9613a4ce32bf4ebb92", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "lt", "methods": [ { "html": "poolside/laguna-xs-2.1:freePoolside Laguna XS 2.1 – teksto modelis su 33B parametrų iš viso ir 3B aktyvių parametrų, skirtas agentiniam programavimui ir ilgalaikiam darbui. Jis turi 262,144 žetonų kontekstą ir natyvų samprotavimą tarp įrankių kvietimų. Mažesnė MoE architektūra ir atskiri kvantuoti leidimai leidžia diegti vietoje, o išteklių poreikiai priklauso nuo konfigūracijos.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Poolside Laguna XS 2.1 – ekspertų mišinio kalbos modelis agentiniam programavimui ir ilgalaikiam darbui, Laguna serijoje pristatomas kaip mažesnis vietiniam diegimui skirtas modelis. Jis turi 33B parametrų iš viso ir 3B aktyvių parametrų vienam žetonui. Tai atnaujintas modelis, palyginti su Laguna XS.2, išlaikantis to modelio architektūrą ir pagerinantis gamintojo nurodomus programinės įrangos inžinerijos bei terminalo užduočių rezultatus. Modelis priima tekstą ir generuoja tekstą, kodą, samprotavimą bei įrankių kvietimų užklausas.
Jo 40 sluoksnių sandara derina 10 globaliojo dėmesio sluoksnių ir 30 slankiojo lango sluoksnių su sigmoidiniu vartų mechanizmu ir 512 žetonų slankiuoju langu. Šis vietinio dėmesio langas yra atskiras nuo modelio 262,144 žetonų konteksto. Poolside taip pat aprašo FP8 KV talpyklos sprendimą, mažinantį atminties sąnaudas vienam žetonui. Šios savybės padeda paaiškinti modelio orientaciją į vietinį diegimą, tačiau tikslus atminties poreikis vis tiek priklauso nuo kontrolinio taško, kvantavimo, darbinio konteksto ir aptarnavimo konfigūracijos.
Programavimo užduočiai pateikite susijusius pirminius failus kaip tekstą, numatomą veikimą ir faktinę klaidą ar nesėkmingą išvestį. Naudinga užklausa: „Pataisykite šio analizatoriaus ekranuotų skyriklių apdorojimą, išsaugodami paskelbtą įvesties formatą. Parodykite siūlomą pakeitimą, paaiškinkite, kurie atvejai paveikiami, ir nurodykite pavyzdžius, kurie atskleistų regresiją.“ Išlaikykite konkretų rezultatą ir užbaigimo sąlygą, kad modelis galėtų siekti rezultato, o ne vien aptarinėti problemą.
Terminalo tipo užduotims pateikite dabartinę aplinką, susijusią komandų išvestį ir darbo apribojimus. Su įrankiais susietoje programoje modelis pasiūlo funkcijos kvietimą, programa jį įvykdo, o rezultatas grąžinamas kitam sprendimui. Prieš siūlant kitą komandą paprašykite paaiškinti, ką atskleidžia nesėkmė. Pavyzdžiui, pateikite priklausomybių manifestą ir nepavykusio diegimo išvestį, tada prašykite mažiausio šaltiniais pagrįsto pataisymo ir numatomo kitos patikros rezultato. Istorijoje išsaugokite ankstesnius sėkmingus žingsnius ir neišspręstą problemą.
Laguna XS 2.1 sukurtas įterptiniam mąstymui prieš įrankių kvietimus ir tarp jų. Gamintojas rekomenduoja išsaugoti ankstesnių asistento žinučių samprotavimo turinį rekonstruojant kitą užklausą. Pašalinus šį turinį, vėlesniuose žingsniuose gali nebevykti tolesnis samprotavimas. Asistento atsakymą, jo įrankio kvietimo informaciją ir atitinkamą įrankio rezultatą laikykite kartu, išlaikydami matomą tęstinį tikslą. Tai ypač naudinga, kai pataisymą pagrindžia keli pastebėjimai, o vėlesnis žingsnis priklauso nuo anksčiau priimto sprendimo.
Mąstymą galima įjungti arba išjungti per pokalbio šabloną. Poolside rekomenduoja jį įjungti agentiniam programavimui ir išsaugoti tarp pokalbio žingsnių. Tiesioginio atsakymo užklausa gali tikti nedidelei transformacijai ar paaiškinimui, o taisymui su keliomis priklausomomis sąlygomis naudingas tęstinis samprotavimo ir stebėjimo ciklas. Nurodykite galutinės išvesties formatą ir palikite vietos galutiniam atsakymui. Gamintojo vertinimo nustatymai yra recepto pasirinkimai, o ne visuotinė samprotavimo kiekio ar didžiausio atsakymo ilgio garantija.
Kai šaltinių įvestis didelės apimties, sutvarkykite failus ir dokumentaciją, aiškiai atskirdami jų ribas ir naudodami pastovius pavadinimus. Paprašykite atsekti konkretų ryšį, pavyzdžiui, kurie kvietėjai priklauso nuo pakeistos sąsajos, kurios sąlygos skiria du įgyvendinimus arba kodėl bandymo rezultatas prieštarauja siūlomai diagnozei. Svarbius sprendimus ir faktines patikras laikykite glaustame užduoties įraše, o nesusijusią istoriją pašalinkite. Konteksto riba apima darbinę medžiagą ir generuojamą tęsinį; viso konteksto dydžio galutinis atsakymas nėra atskirai žadama talpa.
Poolside skelbia BF16 ir atskirus FP8, NVFP4, INT4 bei GGUF variantus, taip pat DFlash juodraštinio modelio artefaktus. Tai skirtingi diegimo pasirinkimai. Mažas aktyvių parametrų skaičius nereiškia, kad visi modelio svoriai užima tik tokį atminties kiekį, o juodraštinis modelis yra spartinimo pagalbininkas, ne pats programavimo modelis. Lygindami vietinius rezultatus išsaugokite tikslų kontrolinį tašką, o kodo ar dokumentų turinį šiam teksto į tekstą modeliui parenkite kaip tekstą.
Gamintojas dokumentuoja įrankių analizatoriaus problemą senesnėse aptarnavimo versijose: kai kurie kvietimai gali būti praleisti, o jų neapdorotas žymėjimas pateiktas kaip paprastas atsakymo tekstas. Tai parodo, kodėl su įrankiais susietoje darbo eigoje reikia atskirti modelio numatytą užklausą nuo teisingai išanalizuoto funkcijos kvietimo. Peržiūrėkite išanalizuotą pavadinimą ir argumentus, patikrinkite juos pagal faktinę schemą ir išsaugokite vykdymo rezultatą. Galutinėje ataskaitoje turėtų būti nurodytas pakeistas artefaktas, stebėtos patikros ir likusios prielaidos. Siūloma pataisa ar komanda tampa užbaigtu rezultatu tik tada, kai šie įrašai patvirtina jos veikimą.
POST /v1/chat/completionstexttext| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos poolside/laguna-xs-2.1:free | Numatyta— |
Laukasmessages | Tipasarray | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos false | Numatytafalse |
Laukasmax_tokens | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Didžiausia reikšmė: 32 768 | Numatyta— |
Laukasmax_completion_tokens | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Didžiausia reikšmė: 32 768 | Numatyta— |
Laukasn | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Didžiausia reikšmė: 128 | Numatyta— |
Laukastemperature | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastop_p | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasseed | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasstop | Tipas | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasfrequency_penalty | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukaspresence_penalty | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasuser | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages |
Parametrasoptional | Specifikacijastream, max_tokens, max_completion_tokens, n, temperature, top_p, seed, stop, frequency_penalty, presence_penalty, user |
Parametrasmaterial_types | Specifikacijatext |
Parametrasconditions | SpecifikacijaUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 262144 bytes. |
Gyvavimo ciklas: synchronous_json
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0 / 1K tokenų Išvestis · Išvesties tokenai $0 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "poolside/laguna-xs-2.1:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra poolside/laguna-xs-2.1:free
Naudokite aukščiau nurodytus metodų kelius.
poolside/laguna-xs-2.1:freePoolside Laguna XS 2.1 – teksto modelis su 33B parametrų iš viso ir 3B aktyvių parametrų, skirtas agentiniam programavimui ir ilgalaikiam darbui. Jis turi 262,144 žetonų kontekstą ir natyvų samprotavimą tarp įrankių kvietimų. Mažesnė MoE architektūra ir atskiri kvantuoti leidimai leidžia diegti vietoje, o išteklių poreikiai priklauso nuo konfigūracijos.
Šis aprašas apima modelio galimybes. Pasirinktam metodui Ailoot prieinamos įvestys, išvestys ir parinktys nurodytos toliau.
Poolside Laguna XS 2.1 – ekspertų mišinio kalbos modelis agentiniam programavimui ir ilgalaikiam darbui, Laguna serijoje pristatomas kaip mažesnis vietiniam diegimui skirtas modelis. Jis turi 33B parametrų iš viso ir 3B aktyvių parametrų vienam žetonui. Tai atnaujintas modelis, palyginti su Laguna XS.2, išlaikantis to modelio architektūrą ir pagerinantis gamintojo nurodomus programinės įrangos inžinerijos bei terminalo užduočių rezultatus. Modelis priima tekstą ir generuoja tekstą, kodą, samprotavimą bei įrankių kvietimų užklausas.
Jo 40 sluoksnių sandara derina 10 globaliojo dėmesio sluoksnių ir 30 slankiojo lango sluoksnių su sigmoidiniu vartų mechanizmu ir 512 žetonų slankiuoju langu. Šis vietinio dėmesio langas yra atskiras nuo modelio 262,144 žetonų konteksto. Poolside taip pat aprašo FP8 KV talpyklos sprendimą, mažinantį atminties sąnaudas vienam žetonui. Šios savybės padeda paaiškinti modelio orientaciją į vietinį diegimą, tačiau tikslus atminties poreikis vis tiek priklauso nuo kontrolinio taško, kvantavimo, darbinio konteksto ir aptarnavimo konfigūracijos.
Programavimo užduočiai pateikite susijusius pirminius failus kaip tekstą, numatomą veikimą ir faktinę klaidą ar nesėkmingą išvestį. Naudinga užklausa: „Pataisykite šio analizatoriaus ekranuotų skyriklių apdorojimą, išsaugodami paskelbtą įvesties formatą. Parodykite siūlomą pakeitimą, paaiškinkite, kurie atvejai paveikiami, ir nurodykite pavyzdžius, kurie atskleistų regresiją.“ Išlaikykite konkretų rezultatą ir užbaigimo sąlygą, kad modelis galėtų siekti rezultato, o ne vien aptarinėti problemą.
Terminalo tipo užduotims pateikite dabartinę aplinką, susijusią komandų išvestį ir darbo apribojimus. Su įrankiais susietoje programoje modelis pasiūlo funkcijos kvietimą, programa jį įvykdo, o rezultatas grąžinamas kitam sprendimui. Prieš siūlant kitą komandą paprašykite paaiškinti, ką atskleidžia nesėkmė. Pavyzdžiui, pateikite priklausomybių manifestą ir nepavykusio diegimo išvestį, tada prašykite mažiausio šaltiniais pagrįsto pataisymo ir numatomo kitos patikros rezultato. Istorijoje išsaugokite ankstesnius sėkmingus žingsnius ir neišspręstą problemą.
Laguna XS 2.1 sukurtas įterptiniam mąstymui prieš įrankių kvietimus ir tarp jų. Gamintojas rekomenduoja išsaugoti ankstesnių asistento žinučių samprotavimo turinį rekonstruojant kitą užklausą. Pašalinus šį turinį, vėlesniuose žingsniuose gali nebevykti tolesnis samprotavimas. Asistento atsakymą, jo įrankio kvietimo informaciją ir atitinkamą įrankio rezultatą laikykite kartu, išlaikydami matomą tęstinį tikslą. Tai ypač naudinga, kai pataisymą pagrindžia keli pastebėjimai, o vėlesnis žingsnis priklauso nuo anksčiau priimto sprendimo.
Mąstymą galima įjungti arba išjungti per pokalbio šabloną. Poolside rekomenduoja jį įjungti agentiniam programavimui ir išsaugoti tarp pokalbio žingsnių. Tiesioginio atsakymo užklausa gali tikti nedidelei transformacijai ar paaiškinimui, o taisymui su keliomis priklausomomis sąlygomis naudingas tęstinis samprotavimo ir stebėjimo ciklas. Nurodykite galutinės išvesties formatą ir palikite vietos galutiniam atsakymui. Gamintojo vertinimo nustatymai yra recepto pasirinkimai, o ne visuotinė samprotavimo kiekio ar didžiausio atsakymo ilgio garantija.
Kai šaltinių įvestis didelės apimties, sutvarkykite failus ir dokumentaciją, aiškiai atskirdami jų ribas ir naudodami pastovius pavadinimus. Paprašykite atsekti konkretų ryšį, pavyzdžiui, kurie kvietėjai priklauso nuo pakeistos sąsajos, kurios sąlygos skiria du įgyvendinimus arba kodėl bandymo rezultatas prieštarauja siūlomai diagnozei. Svarbius sprendimus ir faktines patikras laikykite glaustame užduoties įraše, o nesusijusią istoriją pašalinkite. Konteksto riba apima darbinę medžiagą ir generuojamą tęsinį; viso konteksto dydžio galutinis atsakymas nėra atskirai žadama talpa.
Poolside skelbia BF16 ir atskirus FP8, NVFP4, INT4 bei GGUF variantus, taip pat DFlash juodraštinio modelio artefaktus. Tai skirtingi diegimo pasirinkimai. Mažas aktyvių parametrų skaičius nereiškia, kad visi modelio svoriai užima tik tokį atminties kiekį, o juodraštinis modelis yra spartinimo pagalbininkas, ne pats programavimo modelis. Lygindami vietinius rezultatus išsaugokite tikslų kontrolinį tašką, o kodo ar dokumentų turinį šiam teksto į tekstą modeliui parenkite kaip tekstą.
Gamintojas dokumentuoja įrankių analizatoriaus problemą senesnėse aptarnavimo versijose: kai kurie kvietimai gali būti praleisti, o jų neapdorotas žymėjimas pateiktas kaip paprastas atsakymo tekstas. Tai parodo, kodėl su įrankiais susietoje darbo eigoje reikia atskirti modelio numatytą užklausą nuo teisingai išanalizuoto funkcijos kvietimo. Peržiūrėkite išanalizuotą pavadinimą ir argumentus, patikrinkite juos pagal faktinę schemą ir išsaugokite vykdymo rezultatą. Galutinėje ataskaitoje turėtų būti nurodytas pakeistas artefaktas, stebėtos patikros ir likusios prielaidos. Siūloma pataisa ar komanda tampa užbaigtu rezultatu tik tada, kai šie įrašai patvirtina jos veikimą.
POST /v1/messagestexttext| Laukas | Tipas | Reikalavimas | Reikšmės ir ribos | Numatyta |
|---|---|---|---|---|
Laukasmodel | Tipasstring | ReikalavimasPrivaloma | Reikšmės ir ribos poolside/laguna-xs-2.1:free | Numatyta— |
Laukasmessages | Tipasarray | ReikalavimasPrivaloma | Reikšmės ir ribos | Numatyta— |
Laukasstream | Tipasboolean | ReikalavimasNeprivaloma | Reikšmės ir ribos false | Numatytafalse |
Laukassystem | Tipasstring | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmax_tokens | Tipasinteger | ReikalavimasPrivaloma | Reikšmės ir ribos Mažiausia reikšmė: 1 Didžiausia reikšmė: 32 768 | Numatyta— |
Laukastemperature | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastop_p | Tipasnumber | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukastop_k | Tipasinteger | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasstop_sequences | Tipasarray | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
Laukasmetadata | Tipasobject | ReikalavimasNeprivaloma | Reikšmės ir ribos | Numatyta— |
| Parametras | Specifikacija |
|---|---|
Parametrascontent_type | Specifikacijaapplication/json |
Parametrasrequired | Specifikacijamodel, messages, max_tokens |
Parametrasoptional | Specifikacijastream, system, temperature, top_p, top_k, stop_sequences, metadata |
Parametrasmaterial_types | Specifikacijatext |
Parametrasconditions | SpecifikacijaUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 262144 bytes. |
Gyvavimo ciklas: synchronous_json
Tarifų informacija neprideda užklausos parinkčių. Palaikomi parametrai nurodyti prie pasirinkto metodo.
| Konfigūracija | Įkainių lentelė | Mokestis |
|---|---|---|
| KonfigūracijaBaziniai žetonų įkainiai | Įkainių lentelėBazinis įkainis | Mokestis Įvestis · Įvesties tokenai $0 / 1K tokenų Išvestis · Išvesties tokenai $0 / 1K tokenų Įvestis · Talpyklos skaitymas — / 1K tokenų Įvestis · Rašymas į talpyklą — / 1K tokenų Įvestis · Rašymas į talpyklą, 1 val — / 1K tokenų |
Ailoot prieš užklausą rezervuoja numatomą sumą. Gavus rezultatą, galutinis mokestis nuskaitomas pagal išmatuotą naudojimą. Srautinio atsakymo atsiskaitymui naudojamas galutinis naudojimo įrašas. Kaip veikia rezervavimas ir atsiskaitymas →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "poolside/laguna-xs-2.1:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false, "max_tokens": 256}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Išsaugokite kiekvieną visą grąžintą atsakymą, failą ir turinio dalį.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra poolside/laguna-xs-2.1:free
Naudokite aukščiau nurodytus metodų kelius.