Poolside: Laguna XS 2.1 (free)

Poolside Laguna XS 2.1 je jazykový model mixture-of-experts na programovanie agentmi a dlhodobé úlohy, zaradený ako menší model na lokálne nasadenie v rade Laguna. Má celkovo 33B parametrov a 3B aktívnych na token. Ide o aktualizovaný model oproti Laguna XS.2, ktorý zachováva architektúru tohto modelu a zároveň zlepšuje výrobcom uvádzané výsledky v softvérovom inžinierstve a terminálových úlohách. Model prijíma text a generuje text, kód, uvažovanie a požiadavky na volanie nástrojov.

Jeho 40-vrstvový návrh kombinuje 10 vrstiev globálnej pozornosti a 30 vrstiev s posuvným oknom, so sigmoidálnym hradlovaním a posuvným oknom 512 tokenov. Toto okno lokálnej pozornosti je oddelené od kontextu modelu 262,144 tokenov. Poolside opisuje aj návrh KV cache v FP8 na zníženie pamäte na token. Tieto vlastnosti pomáhajú vysvetliť zameranie modelu na lokálne nasadenie, ale presná požiadavka na pamäť stále závisí od checkpointu, kvantovania, pracovného kontextu a konfigurácie nasadenia.

Pri programovacej úlohe dodajte príslušné zdrojové súbory ako text, očakávané správanie a skutočnú chybu alebo zlyhávajúci výstup. Užitočná požiadavka znie: „Opravte spracovanie oddeľovačov s escapovaním v tomto parseri pri zachovaní zverejneného vstupného formátu. Ukážte navrhovanú zmenu, vysvetlite, ktoré prípady sú dotknuté, a identifikujte príklady, ktoré by odhalili regresiu.“ Zachovajte konkrétny výstup a podmienku dokončenia, aby model mohol smerovať k výsledku namiesto samotného diskutovania o probléme.

Pri terminálových úlohách poskytnite aktuálne prostredie, príslušný výstup príkazov a obmedzenia práce. V aplikácii prepojenej s nástrojmi model navrhuje volanie funkcie, aplikácia ho vykonáva a výsledok sa vracia pre ďalšie rozhodnutie. Požiadajte ho, aby pred navrhnutím ďalšieho príkazu vysvetlil, čo zlyhanie odhaľuje. Napríklad dodajte manifest závislostí a výstup neúspešnej inštalácie, potom žiadajte najmenšiu opravu opretú o zdrojové podklady a očakávaný výsledok ďalšej kontroly. V histórii zachovajte predchádzajúce úspešné kroky a nevyriešený problém.

Laguna XS 2.1 je navrhnutá na priebežne vkladané premýšľanie pred volaniami nástrojov a medzi nimi. Výrobca odporúča pri zostavovaní ďalšej požiadavky zachovať obsah uvažovania z predchádzajúcich správ asistenta. Vynechanie tohto obsahu môže zabrániť ďalšiemu uvažovaniu v nadväzujúcich krokoch. Odpoveď asistenta, informácie o jej volaní nástroja a zodpovedajúci výsledok nástroja uchovávajte spolu s viditeľným priebežným cieľom. Je to obzvlášť užitočné, keď k oprave prispieva viacero pozorovaní a neskorší krok závisí od predchádzajúceho rozhodnutia.

Premýšľanie možno zapnúť alebo vypnúť cez chatovú šablónu. Poolside odporúča zapnúť ho na programovanie agentmi a zachovávať ho medzi kolami. Požiadavka na priamu odpoveď môže vyhovovať malej transformácii alebo vysvetleniu, zatiaľ čo oprave s viacerými závislými podmienkami prospieva pokračujúca slučka uvažovania a pozorovania. Uveďte záverečný výstupný formát a nechajte priestor na záverečnú odpoveď. Hodnotiace nastavenia výrobcu sú voľbami postupu, nie univerzálnou zárukou množstva uvažovania alebo maximálnej dĺžky odpovede.

Pri dlhom zdrojovom vstupe usporiadajte súbory a dokumentáciu pomocou jasných hraníc a stabilných názvov. Žiadajte sledovanie konkrétneho vzťahu, napríklad ktorí volajúci závisia od zmeneného rozhrania, ktoré podmienky odlišujú dve implementácie alebo prečo výsledok testu odporuje navrhovanej diagnóze. Dôležité rozhodnutia a skutočné kontroly uchovávajte v stručnom zázname úlohy a odstráňte nepodstatnú históriu. Limit kontextu pokrýva pracovný materiál a generované pokračovanie; záverečná odpoveď veľkosti celého kontextu nie je samostatne sľúbenou kapacitou.

Poolside vydáva BF16 a samostatné varianty FP8, NVFP4, INT4 a GGUF, ako aj artefakty pomocného predikčného modelu DFlash. Ide o rôzne možnosti nasadenia. Malý počet aktívnych parametrov neznamená, že úplné váhy modelu zaberajú iba zodpovedajúce množstvo pamäte, a pomocný predikčný model je sprievodný model na zrýchlenie namiesto samotného programovacieho modelu. Pri porovnávaní lokálnych výsledkov zachovajte presný checkpoint a pre tento model text-na-text pripravte obsah kódu alebo dokumentov ako text.

Výrobca dokumentuje problém parsera nástrojov v starších zostaveniach nasadenia, ktorý môže zahodiť niektoré volania a odhaliť ich surové značkovanie ako bežný text odpovede. To ukazuje, prečo musí pracovný postup s nástrojmi odlíšiť zamýšľanú požiadavku modelu od správne parsovaného volania funkcie. Preskúmajte parsovaný názov a argumenty, overte ich oproti skutočnej schéme a zachovajte výsledok vykonania. Záverečná správa má identifikovať upravený výstup, pozorované kontroly a zostávajúce predpoklady. Navrhovaná úprava alebo príkaz sa stávajú dokončeným výsledkom až vtedy, keď tieto záznamy doložia ich správanie.