Poolside: Laguna S 2.1 (free)

Poolside Laguna S 2.1 je jazykový model mixture-of-experts navrhnutý na programovanie agentmi a dlhodobé úlohy. Má celkovo 118B parametrov a približne 8B aktívnych na token, čo ho v rade výrobcu zaraďuje medzi menší Laguna XS 2.1 a väčší Laguna M.1. Model spracúva text a v aplikácii prepojenej s nástrojmi vytvára text, kód, uvažovanie a požiadavky na volanie nástrojov.

Jeho architektúra kombinuje globálnu pozornosť a pozornosť s posuvným oknom v 48 vrstvách: 12 globálnych a 36 vrstiev s posuvným oknom. Posuvné okno 512 tokenov opisuje lokálnu pozornosť v týchto vrstvách, kým zdokumentovaný kontext modelu je 1,048,576 tokenov. Ide o rôzne miery. Väčší kontext podporuje úlohy, ktoré v mnohých krokoch zhromažďujú zdrojové súbory, pozorovania a rozhodnutia. Pracovný cieľ a zmysluplné podklady uchovávajte spolu a v používanej konfigurácii rezervujte priestor na následné uvažovanie a záverečnú odpoveď.

Hlavným účelom modelu je softvérová práca vyžadujúca vytrvalosť, kontrolu a revíziu. Pri úlohe v repozitári poskytnite očakávané správanie, príslušné súbory ako text, informácie o závislostiach a skutočný zlyhávajúci výstup. Žiadajte cielený výsledok: „Vysledujte príčinu tejto regresie, navrhnite zmenu, ktorá zachová zdokumentované rozhranie, a identifikujte kontroly, ktoré by odlíšili opravu od nesúvisiacej zmeny.“ V pracovnom postupe s nástrojmi dodajte modelu výsledok každej vykonanej kontroly pred výberom ďalšieho kroku.

Pri optimalizácii poskytnite merania a výslovný cieľ. Príklad znie: „Použite tento profil a správu o alokáciách na identifikáciu úzkeho miesta. Navrhnite jednu zmenu, vysvetlite očakávaný účinok a po zopakovaní rovnakého merania ju porovnajte s východiskovým stavom.“ Tvrdenie o výkone sa tak dá preskúmať. Vydanie Poolside rozoberá overovanie a priebežný pokrok ako dôležité správanie, ale samotné presvedčivé vysvetlenie nedokladá, že revízia je rýchlejšia, správna alebo úplná. Zachovajte pozorovania, ktoré podporujú ponechanie alebo zamietnutie zmeny.

Laguna S 2.1 podporuje priebežne vkladané premýšľanie pred volaniami nástrojov a medzi nimi. Výrobca odporúča v nasledujúcej histórii zachovať obsah uvažovania z predchádzajúcich správ asistenta; vynechanie týchto blokov môže spôsobiť zastavenie uvažovania v nadväzujúcich krokoch. Odpoveď asistenta, informácie o volaní nástroja a zodpovedajúci výsledok nástroja uchovávajte spolu. Dlhšej úlohe to pomáha pokračovať zo skutočného stavu namiesto opakovaného rekonštruovania toho, čo už bolo vyskúšané.

Zdokumentované možnosti premýšľania sú off a max, pričom max je v nastavení opísanom výrobcom predvolene zapnuté. Model v tomto režime určuje svoj rozpočet premýšľania; vydanie neuvádza samostatné ovládanie úsilia low, medium a high. Pri programovaní agentmi Poolside odporúča zapnúť premýšľanie a zachovávať ho medzi krokmi. Výslovne uveďte záverečný výstup a kritériá dokončenia a odlišujte dlhú sekvenciu uvažovania od dokončeného výsledku. Výrobca označuje nadmerné premýšľanie, najmä pri súťažnej matematike, za podstatné obmedzenie.

Definície nástrojov potrebujú osobitnú pozornosť. Poolside uvádza, že S 2.1 sa môže spočiatku spoliehať na známe rozhranie nástroja namiesto presného dodržiavania podobnej, ale odlišnej schémy. Môže tiež vytvárať chybný alebo nesprávne escapovaný JSON, keď argument nástroja obsahuje vnorené pole. Dodajte skutočné definície argumentov, overujte navrhované volania a pri nezhode vráťte presnú chybu. Výrobca opisuje opravu prostredníctvom spätnej väzby v kontexte ako spôsob riešenia niektorých týchto nezhôd. Výsledné pozorovanie nástroja ponechajte dostupné pre ďalšie rozhodnutie.

Výrobca vydáva samostatné varianty BF16 a kvantované varianty a voliteľný pomocný predikčný model DFlash. Ide o odlišné modelové artefakty a postupy nasadenia, preto spotrebu pamäte kvantovaného checkpointu alebo výkon špekulatívneho dekódovania netreba predpokladať zo všeobecného názvu modelu. Pri bežnej textovej práci pripravte zdrojový kód, výstup príkazov a úryvky dokumentov ako čitateľný text. Vydanie upozorňuje na chýbajúcu schopnosť videnia modelu; snímka obrazovky potrebuje textové pozorovanie alebo vhodný externý krok kontroly, kým môže podporiť analýzu.

Vyžiadajte si záverečný výstup, ktorý identifikuje zmenený artefakt, dôležité rozhodnutia, pozorované kontroly a každú nevyriešenú podmienku. Pri kontrole kódu prepojte zistenia s príslušným zdrojom a ukážte, prečo každý problém ovplyvňuje správanie. Pri oprave odlíšte navrhovanú úpravu od úpravy, ktorej správanie bolo skutočne overené. Zachovanie uvažovania a histórie nástrojov pomáha modelu prejsť úlohou, zatiaľ čo záverečný výstup a zaznamenané výsledky dokladajú, čo sa dosiahlo.