Poolside: Laguna S 2.1 (free)

Poolside Laguna S 2.1 – ekspertų mišinio kalbos modelis, sukurtas agentiniam programavimui ir ilgalaikiam darbui. Jis turi 118B parametrų iš viso ir apie 8B aktyvių parametrų vienam žetonui, todėl gamintojo serijoje yra tarp mažesnio Laguna XS 2.1 ir didesnio Laguna M.1. Modelis apdoroja tekstą ir su įrankiais susietoje programoje generuoja tekstą, kodą, samprotavimą bei įrankių kvietimų užklausas.

Jo architektūra derina globalųjį ir slankiojo lango dėmesį 48 sluoksniuose: 12 yra globaliojo dėmesio, o 36 – slankiojo lango dėmesio sluoksniai. 512 žetonų slankusis langas aprašo vietinį dėmesį tuose sluoksniuose, o dokumentuotas modelio kontekstas yra 1,048,576 žetonų. Tai skirtingi matavimai. Didesnis kontekstas palaiko užduotis, kurios per daug žingsnių kaupia pirminius failus, stebėjimus ir sprendimus. Darbinį tikslą ir prasmingus įrodymus laikykite kartu bei taikomoje konfigūracijoje palikite vietos vėlesniam samprotavimui ir galutiniam atsakymui.

Pagrindinė modelio paskirtis – programinės įrangos darbas, kuriam reikia atkaklaus tęsimo, tikrinimo ir taisymo. Saugyklos užduočiai pateikite numatomą veikimą, susijusius failus kaip tekstą, priklausomybių informaciją ir faktinę nesėkmingą išvestį. Prašykite tikslinio rezultato: „Atsekite šios regresijos priežastį, pasiūlykite pakeitimą, išsaugantį dokumentuotą sąsają, ir nurodykite patikras, kurios atskirtų pataisymą nuo nesusijusio pakeitimo.“ Su įrankiais susietoje darbo eigoje pateikite modeliui kiekvienos atliktos patikros rezultatą prieš jam pasirenkant kitą žingsnį.

Optimizavimo darbui pateikite matavimus ir aiškų tikslą. Pavyzdžiui: „Pagal šį profilį ir atminties paskirstymo ataskaitą nustatykite kliūtį. Pasiūlykite vieną pakeitimą, paaiškinkite numatomą poveikį ir palyginkite su pradiniu rezultatu, pakartojus tą patį matavimą.“ Taip našumo teiginį galima patikrinti. Poolside leidime tikrinimas ir nuolatinė pažanga aptariami kaip svarbūs elgsenos bruožai, tačiau vien įtikinamas paaiškinimas nepatvirtina, kad pataisymas greitesnis, teisingas ar užbaigtas. Išsaugokite stebėjimus, pagrindžiančius pakeitimo išlaikymą ar atmetimą.

Laguna S 2.1 palaiko įterptinį mąstymą prieš įrankių kvietimus ir tarp jų. Gamintojas rekomenduoja vėlesnėje istorijoje išsaugoti ankstesnių asistento žinučių samprotavimo turinį; pašalinus šiuos blokus, samprotavimas vėlesniuose žingsniuose gali sustoti. Asistento atsakymą, įrankio kvietimo informaciją ir atitinkamą įrankio rezultatą laikykite kartu. Tai padeda ilgesnei užduočiai tęstis nuo faktinės būsenos, užuot nuolat iš naujo atkūrus jau atliktų bandymų eigą.

Dokumentuoti mąstymo pasirinkimai yra off ir max; gamintojo aprašytoje sąrankoje max įjungtas pagal numatymą. Šiuo režimu modelis pats nustato savo mąstymo biudžetą; leidimas nepateikia atskirų low, medium ir high intensyvumo valdiklių. Agentiniam programavimui Poolside rekomenduoja įjungti mąstymą ir jį išlaikyti tarp žingsnių. Aiškiai nurodykite galutinį artefaktą ir užbaigimo kriterijus bei atskirkite ilgą samprotavimo seką nuo užbaigto rezultato. Gamintojas pernelyg ilgą mąstymą, ypač sprendžiant konkursinės matematikos užduotis, įvardija kaip reikšmingą ribotumą.

Įrankių apibrėžimams reikia ypatingo dėmesio. Poolside praneša, kad S 2.1 iš pradžių gali remtis pažįstama įrankio sąsaja, užuot tiksliai laikęsis panašios, bet kitokios schemos. Jis taip pat gali generuoti netaisyklingą arba netinkamai ekranuotą JSON, kai įrankio argumente yra įdėtinis masyvas. Pateikite faktinius argumentų apibrėžimus, tikrinkite siūlomus kvietimus ir grąžinkite tikslią klaidą, kai kvietimas neatitinka. Gamintojas aprašo taisymą per grįžtamąjį ryšį kontekste kaip būdą išspręsti kai kuriuos iš šių neatitikimų. Įrankio grąžintą stebėjimo rezultatą išsaugokite kitam sprendimui.

Gamintojas skelbia atskirus BF16 ir kvantuotus variantus bei pasirenkamą DFlash juodraštinį modelį. Tai skirtingi artefaktai ir aptarnavimo receptai, todėl kvantuoto kontrolinio taško atminties naudojimo ar spekuliatyviojo dekodavimo našumo nereikėtų spręsti iš bendro modelio pavadinimo. Įprastam darbui su tekstu parenkite pirminį kodą, komandų išvestį ir dokumentų ištraukas kaip įskaitomą tekstą. Leidime pažymėta, kad modelis neturi regos galimybės; ekrano kopijai reikia tekstinio jos turinio aprašymo arba tinkamo išorinio peržiūros žingsnio, kad ji galėtų pagrįsti analizę.

Prašykite galutinio rezultato, kuriame būtų nurodytas pakeistas artefaktas, svarbūs sprendimai, stebėtos patikros ir bet kokia neišspręsta sąlyga. Kodo peržiūroje susiekite išvadas su atitinkamu šaltiniu ir parodykite, kodėl kiekviena problema veikia elgseną. Taisydami atskirkite siūlomą pataisą nuo pataisos, kurios veikimas faktiškai patikrintas. Samprotavimo ir įrankių istorijos išsaugojimas padeda modeliui atlikti užduotį, o galutinis artefaktas ir užfiksuoti rezultatai patvirtina, kas nuveikta.