Poolside: Laguna S 2.1 (free)

Poolside Laguna S 2.1 je jezikovni model z mešanico ekspertov, zasnovan za agentsko pisanje kode in dolgoročno delo. Ima 118B skupnih parametrov in približno 8B aktivnih na žeton, kar ga v proizvajalčevi seriji uvršča med manjši Laguna XS 2.1 in večji Laguna M.1. Model obdeluje besedilo ter v aplikaciji, povezani z orodji, ustvarja besedilo, kodo, razmišljanje in zahteve za klice orodij.

Njegova arhitektura združuje globalno pozornost in pozornost z drsečim oknom v 48 plasteh: 12 globalnih plasteh in 36 plasteh z drsečim oknom. Drseče okno s 512 žetoni opisuje lokalno pozornost v teh plasteh, dokumentirani kontekst modela pa obsega 1,048,576 žetonov. To sta različni meritvi. Večji kontekst podpira naloge, ki skozi veliko korakov zbirajo izvorne datoteke, opažanja in odločitve. Delovni cilj in pomembne dokaze ohranite skupaj ter v uporabljeni konfiguraciji pustite prostor za nadaljnje razmišljanje in končni odgovor.

Osrednji namen modela je programsko delo, ki zahteva vztrajnost, preverjanje in popravke. Za nalogo v repozitoriju podajte pričakovano vedenje, ustrezne datoteke kot besedilo, informacije o odvisnostih in dejanski neuspešni izpis. Zahtevajte osredotočen rezultat: »Izsledi vzrok te regresije, predlagaj spremembo, ki ohrani dokumentirani vmesnik, in opredeli preverjanja, ki bi ločila popravek od nepovezane spremembe.« V delovnem toku z orodji podajte modelu rezultat vsakega izvedenega preverjanja, preden izbere naslednji korak.

Za optimizacijo podajte meritve in izrecen cilj. Primer: »S tem profilom in poročilom o dodelitvah pomnilnika opredeli ozko grlo. Predlagaj eno spremembo, pojasni pričakovani učinek in jo primerjaj z izhodiščem po ponovitvi enake meritve.« Tako je trditev o zmogljivosti mogoče preveriti. Poolsidova izdaja obravnava preverjanje in neprekinjen napredek kot pomembni vedenji, vendar prepričljiva razlaga sama ne potrjuje, da je sprememba hitrejša, pravilna ali dokončana. Ohranite opažanja, ki utemeljujejo ohranitev ali zavrnitev spremembe.

Laguna S 2.1 podpira prepleteno razmišljanje pred klici orodij in med njimi. Proizvajalec priporoča ohranjanje vsebine razmišljanja iz predhodnih sporočil pomočnika v nadaljnji zgodovini; izpustitev teh blokov lahko povzroči prenehanje razmišljanja v naslednjih korakih. Odgovor pomočnika, informacije o klicu orodja in ustrezni rezultat orodja ohranite skupaj. To pomaga daljši nalogi nadaljevati iz dejanskega stanja, namesto da bi večkrat rekonstruirala že izvedene poskuse.

Dokumentirani možnosti razmišljanja sta off in max, v opisani proizvajalčevi nastavitvi pa je privzeto omogočen max. Model v tem načinu sam določa proračun razmišljanja; izdaja ne predstavlja ločenih nastavitev intenzivnosti low, medium in high. Za agentsko pisanje kode Poolside priporoča omogočeno razmišljanje in njegovo ohranjanje med koraki. Izrecno navedite končni izdelek in merila dokončanja ter razlikujte med dolgim zaporedjem razmišljanja in dokončanim rezultatom. Proizvajalec pretirano razmišljanje, zlasti pri tekmovalni matematiki, opredeljuje kot pomembno omejitev.

Definicije orodij zahtevajo posebno skrb. Poolside poroča, da se S 2.1 sprva lahko opre na znan vmesnik orodja, namesto da bi natančno sledil podobni, a drugačni shemi. Prav tako lahko ustvari neveljaven ali nepravilno ubežan JSON, kadar argument orodja vsebuje gnezdeno polje. Podajte dejanske definicije argumentov, preverite predlagane klice in vrnite natančno napako, kadar se klic ne ujema. Proizvajalec popravljanje s povratnimi informacijami v kontekstu opisuje kot način odpravljanja nekaterih takšnih neskladij. Nastalo opažanje orodja ohranite za naslednjo odločitev.

Proizvajalec objavlja ločene različice BF16 in kvantizirane različice ter izbirni osnutkovni model DFlash. To so različni izdelki in postopki streženja, zato porabe pomnilnika kvantizirane kontrolne točke ali zmogljivosti špekulativnega dekodiranja ne smemo predpostavljati iz splošnega imena modela. Za običajno besedilno delo pripravite izvorno kodo, izpis ukazov in izvlečke dokumentov kot berljivo besedilo. Izdaja navaja, da model nima zmožnosti vida; posnetek zaslona potrebuje besedilno opažanje ali ustrezen zunanji pregled, preden lahko podpre analizo.

Zahtevajte končni izdelek, ki opredeli spremenjeni izdelek, pomembne odločitve, opažena preverjanja in morebitni nerazrešeni pogoj. Pri pregledu kode povežite ugotovitve z ustrezno izvorno kodo in pokažite, zakaj posamezna težava vpliva na vedenje. Pri popravilu ločite predlagani popravek od popravka, katerega vedenje je bilo dejansko preverjeno. Ohranjanje razmišljanja in zgodovine orodij modelu pomaga opraviti nalogo, končni izdelek in zabeleženi rezultati pa pokažejo, kaj je bilo doseženo.