Poolside: Laguna XS 2.1 (free)

Poolside Laguna XS 2.1 – ekspertų mišinio kalbos modelis agentiniam programavimui ir ilgalaikiam darbui, Laguna serijoje pristatomas kaip mažesnis vietiniam diegimui skirtas modelis. Jis turi 33B parametrų iš viso ir 3B aktyvių parametrų vienam žetonui. Tai atnaujintas modelis, palyginti su Laguna XS.2, išlaikantis to modelio architektūrą ir pagerinantis gamintojo nurodomus programinės įrangos inžinerijos bei terminalo užduočių rezultatus. Modelis priima tekstą ir generuoja tekstą, kodą, samprotavimą bei įrankių kvietimų užklausas.

Jo 40 sluoksnių sandara derina 10 globaliojo dėmesio sluoksnių ir 30 slankiojo lango sluoksnių su sigmoidiniu vartų mechanizmu ir 512 žetonų slankiuoju langu. Šis vietinio dėmesio langas yra atskiras nuo modelio 262,144 žetonų konteksto. Poolside taip pat aprašo FP8 KV talpyklos sprendimą, mažinantį atminties sąnaudas vienam žetonui. Šios savybės padeda paaiškinti modelio orientaciją į vietinį diegimą, tačiau tikslus atminties poreikis vis tiek priklauso nuo kontrolinio taško, kvantavimo, darbinio konteksto ir aptarnavimo konfigūracijos.

Programavimo užduočiai pateikite susijusius pirminius failus kaip tekstą, numatomą veikimą ir faktinę klaidą ar nesėkmingą išvestį. Naudinga užklausa: „Pataisykite šio analizatoriaus ekranuotų skyriklių apdorojimą, išsaugodami paskelbtą įvesties formatą. Parodykite siūlomą pakeitimą, paaiškinkite, kurie atvejai paveikiami, ir nurodykite pavyzdžius, kurie atskleistų regresiją.“ Išlaikykite konkretų rezultatą ir užbaigimo sąlygą, kad modelis galėtų siekti rezultato, o ne vien aptarinėti problemą.

Terminalo tipo užduotims pateikite dabartinę aplinką, susijusią komandų išvestį ir darbo apribojimus. Su įrankiais susietoje programoje modelis pasiūlo funkcijos kvietimą, programa jį įvykdo, o rezultatas grąžinamas kitam sprendimui. Prieš siūlant kitą komandą paprašykite paaiškinti, ką atskleidžia nesėkmė. Pavyzdžiui, pateikite priklausomybių manifestą ir nepavykusio diegimo išvestį, tada prašykite mažiausio šaltiniais pagrįsto pataisymo ir numatomo kitos patikros rezultato. Istorijoje išsaugokite ankstesnius sėkmingus žingsnius ir neišspręstą problemą.

Laguna XS 2.1 sukurtas įterptiniam mąstymui prieš įrankių kvietimus ir tarp jų. Gamintojas rekomenduoja išsaugoti ankstesnių asistento žinučių samprotavimo turinį rekonstruojant kitą užklausą. Pašalinus šį turinį, vėlesniuose žingsniuose gali nebevykti tolesnis samprotavimas. Asistento atsakymą, jo įrankio kvietimo informaciją ir atitinkamą įrankio rezultatą laikykite kartu, išlaikydami matomą tęstinį tikslą. Tai ypač naudinga, kai pataisymą pagrindžia keli pastebėjimai, o vėlesnis žingsnis priklauso nuo anksčiau priimto sprendimo.

Mąstymą galima įjungti arba išjungti per pokalbio šabloną. Poolside rekomenduoja jį įjungti agentiniam programavimui ir išsaugoti tarp pokalbio žingsnių. Tiesioginio atsakymo užklausa gali tikti nedidelei transformacijai ar paaiškinimui, o taisymui su keliomis priklausomomis sąlygomis naudingas tęstinis samprotavimo ir stebėjimo ciklas. Nurodykite galutinės išvesties formatą ir palikite vietos galutiniam atsakymui. Gamintojo vertinimo nustatymai yra recepto pasirinkimai, o ne visuotinė samprotavimo kiekio ar didžiausio atsakymo ilgio garantija.

Kai šaltinių įvestis didelės apimties, sutvarkykite failus ir dokumentaciją, aiškiai atskirdami jų ribas ir naudodami pastovius pavadinimus. Paprašykite atsekti konkretų ryšį, pavyzdžiui, kurie kvietėjai priklauso nuo pakeistos sąsajos, kurios sąlygos skiria du įgyvendinimus arba kodėl bandymo rezultatas prieštarauja siūlomai diagnozei. Svarbius sprendimus ir faktines patikras laikykite glaustame užduoties įraše, o nesusijusią istoriją pašalinkite. Konteksto riba apima darbinę medžiagą ir generuojamą tęsinį; viso konteksto dydžio galutinis atsakymas nėra atskirai žadama talpa.

Poolside skelbia BF16 ir atskirus FP8, NVFP4, INT4 bei GGUF variantus, taip pat DFlash juodraštinio modelio artefaktus. Tai skirtingi diegimo pasirinkimai. Mažas aktyvių parametrų skaičius nereiškia, kad visi modelio svoriai užima tik tokį atminties kiekį, o juodraštinis modelis yra spartinimo pagalbininkas, ne pats programavimo modelis. Lygindami vietinius rezultatus išsaugokite tikslų kontrolinį tašką, o kodo ar dokumentų turinį šiam teksto į tekstą modeliui parenkite kaip tekstą.

Gamintojas dokumentuoja įrankių analizatoriaus problemą senesnėse aptarnavimo versijose: kai kurie kvietimai gali būti praleisti, o jų neapdorotas žymėjimas pateiktas kaip paprastas atsakymo tekstas. Tai parodo, kodėl su įrankiais susietoje darbo eigoje reikia atskirti modelio numatytą užklausą nuo teisingai išanalizuoto funkcijos kvietimo. Peržiūrėkite išanalizuotą pavadinimą ir argumentus, patikrinkite juos pagal faktinę schemą ir išsaugokite vykdymo rezultatą. Galutinėje ataskaitoje turėtų būti nurodytas pakeistas artefaktas, stebėtos patikros ir likusios prielaidos. Siūloma pataisa ar komanda tampa užbaigtu rezultatu tik tada, kai šie įrašai patvirtina jos veikimą.