LiquidAI: LFM2.5-2.6B (free)

Liquid AI LFM2.5-2.6B on Liquidin kompaktin LFM2.5-perheen jälkikoulutettu tekstimalli, joka on suunniteltu laitteessa toimiville agenteille ja käytännön työnkulkuihin. Sen tarkka mallikortti ilmoittaa 2,69B parametria ja 30 kerrosta: 22 kaksoisportitettua lyhyen konvoluution lohkoa ja kahdeksan grouped-query attention -lohkoa. Hybridirakenne tavoittelee tehokasta tekstinkäsittelyä. Malli vastaanottaa ja palauttaa tekstiä, mukaan lukien perustellun vastauksen tai pyynnön käyttää määriteltyä funktiota.

Valmistaja suosittelee sitä agenttityökuormiin, työkalukäyttöön, tiedonpoimintaan, haulla täydennettyyn generointiin ja pitkän kontekstin työnkulkuihin. Julkaisun koulutusputki yhdistää ohjatun hienosäädön, erikoistuneet opettajamallit, usean alan on-policy-tislauksen ja vahvistusoppimisen agenttiympäristöissä. Tämä selittää sen painotusta tehtäväohjeiden noudattamiseen, työkaluhavaintojen käyttöön ja useiden vaiheiden läpi etenemiseen. Anna sille todellinen aineisto ja täsmällinen tavoite sen sijaan, että luottaisit laajaan opittuun tietämykseen aukkojen täyttämisessä.

Määritä poiminnassa kentät ja lähdesäännöt ennen aineiston toimittamista. Käytännöllinen pyyntö: ”Lue nämä palvelupäivitykset, poimi kunkin tietueen tunniste, ilmoitettu tila ja seuraava vaadittu toimenpide sekä säilytä jokaista kenttää tukeva virke. Palauta null, kun kenttä puuttuu.” Määritä, tuleeko arvo kopioida tarkasti, normalisoida vai päätellä. Tämä tekee tulosteesta tarkastettavan ja estää uskottavaa tulkintaa korvaamasta huomaamatta lähteessä todella olevaa tietoa.

Toimita RAG-tehtävään olennaiset kohdat pysyvillä merkinnöillä ja pyydä niihin perustuvaa vastausta. Esimerkki: ”Selitä vain näiden asennusohjeiden perusteella, mitkä vaiheet koskevat ilmoitettua ympäristöä, ja luettele vielä tuntemattomat edellytykset.” Pidä asiakirjaversiot ja ehdot tekstin mukana. Pyydä mallia yksilöimään puuttuva tai ristiriitainen tosiasia kokonaisen menettelyn keksimisen sijaan. Tämä sopii valmistajan lähdepohjaisia tehtäviä koskevaan suositukseen paremmin kuin kompaktin mallin pyytäminen toimimaan kattavana erikoistiedon varastona.

LFM2.5-2.6B on puhdas päättelymalli: sen keskustelumallipohja aloittaa avustajan vastauksen ajattelumerkinnällä, ja se päättelee ennen lopullista vastausta. Valmistajan mallikortti suosittelee generointiin arvoja temperature 0.1, top-k 50 ja repetition penalty 1.1. Nämä ovat nimetyn mallin ohjeen asetuksia. Pidä lopputuotos erillään päättelytekstistä ja jätä työpyyntöön tilaa molemmille. Muiden LFM-ohjeversioiden säätimiä tai suoran vastauksen tiloja ei pidä olettaa tälle mallille.

Malli käyttää ChatML-tyyppistä keskustelumuotoa, jossa ovat system-, user-, assistant- ja tool-roolit. Sen dokumentoidussa funktiotyönkulussa on neljä vaihetta: määritä työkalut, anna mallin pyytää funktiota, suorita funktio ympäröivässä sovelluksessa ja palauta todellinen tulos, jotta malli voi vastata. Natiivit kutsut ovat Python-tyylisiä luetteloita työkalukutsumerkintöjen sisällä; valmistaja kuvaa myös JSON-kutsumuodon pyytämistä järjestelmäohjeella. Käytä sopivaa jäsennintä, tarkista funktion nimi ja argumentit annettuja määrittelyjä vasten ja säilytä tulos sen tuottaneen kutsun mukana.

Tarjoa kompaktissa agenttityönkulussa vain nykyiselle tehtävälle olennaiset funktiot tiiviillä kuvauksilla ja nimenomaisilla argumenttityypeillä. Työkalumäärittelytkin kuluttavat kontekstia. Hyödyllinen sarja voisi hakea annetun tietueen tilan, verrata palautettua tilaa sääntöön ja selittää, tarvitaanko jatkotoimia. Toimita tietueen tunniste näyttönä ja pyydä palautettuun havaintoon sidottu lopullinen vastaus. Malli ehdottaa ja tulkitsee operaation; sovellus toimittaa sen varsinaisen suorituksen ja tuloksen.

Nykyinen valmistajan mallikortti määrittää 131 072 tokenin mallikontekstin, ja julkaisu kuvaa erillisen kontekstinlaajennusvaiheen. Toimi käytössä olevan kokoonpanon ikkunassa säilyttäen lähderajat, olennaisen historian ja tilan jatkolle. Pyydä useasta asiakirjasta tietyn vertailun tai riippuvuuden jäljittämistä. Natiivi tarkistuspiste sekä GGUF-, ONNX- ja MLX-aineistot palvelevat eri käyttöönottotarpeita, ja spekulatiivisen dekoodauksen luonnosmalli on erillinen kumppaniaineisto. Yhden kokoonpanon resurssi- tai nopeusluvut eivät automaattisesti kuvaa jokaista mallimuotoa ja työikkunaa.

Liquid ei nimenomaisesti suosittele LFM2.5-2.6B:tä agenttipohjaiseen ohjelmointiin tai paljon tietämystä vaativiin tehtäviin. Kohdista se konkreettisiin työnkulkuihin, joissa on toimitettu näyttö, poimintasäännöt ja työkaluhavainnot. Esikoulutettu Base-tarkistuspiste on myös erillinen mukautukseen tarkoitettu aineisto, kun taas tämä jälkikoulutettu versio on agenttimalli. Tarkista lopputuloksen poimitut arvot lähteitään vasten, varmista lainatun kohdan tuki vastaukselle ja erota pyydetty työkalukutsu operaatiosta, jolla on tallennettu tulos. Säilytä avoimet tiedot, kun ne vaikuttavat päätelmään, sen sijaan että sujuva teksti peittäisi ne.