Kaj je sklepanje?
MarkdownPreberite, kaj je sklepanje z umetno inteligenco, kako delujejo paketno, robno, sprotno in pretočno sklepanje ter kako lahko ekipe obravnavajo izzive glede natančnosti, zmogljivosti in stroškov.
Kaj je sklepanje (UI)?
Sklepanje je proces, pri katerem model umetne inteligence iz novih podatkov ustvari napovedi ali izhode. Po učenju ima model UI naučene parametre in predstavitve. Ko prejme nove podatke, jih uporabi za ustvarjanje izhoda. Sklepanje poteka med izvajanjem aplikacije UI oziroma v fazi uvajanja in omogoča številne primere uporabe v resničnem svetu.
Zakaj je sklepanje pomembno?
Sklepanje z UI je proces ustvarjanja izhodov iz nevidenih podatkov. Ko se model iz učnih zbirk podatkov nauči splošnih vzorcev, te vzorce uporabi za nove podatke.
Model UI je lahko na primer učen na medicinskih slikovnih preiskavah, ki so jih označili zdravstveni strokovnjaki. Med učenjem se model nauči vizualnih znakov in povezav v podatkih. Nato lahko s sklepanjem na novih posnetkih prepozna morebitne tumorje ali nepravilnosti. Zdravstveni strokovnjaki lahko natančnost postopka ocenijo tako, da na istih posnetkih oblikujejo svoje ugotovitve.
V primerjavi s tradicionalnimi tehnikami analitike, pri katerih ljudje določajo pravila in izbirajo statistične metode, učenje modela omogoča, da model odkrije zapletene vzorce, ki jih je težko ročno zapisati. Ti vzorci izhajajo iz parametrov modela. Sklepanje jih uporabi za nove podatke.
Katere vrste sklepanja pri strojnem učenju obstajajo?
Obstaja več vrst sklepanja pri strojnem učenju (ML).
Paketno sklepanje
Pri paketnem sklepanju se napovedi ustvarjajo na podlagi skupin več vhodnih podatkov. Uporabno je v aplikacijah, kjer čas ni ključnega pomena in lahko počakajo na izhode. Poslovna analitična aplikacija generativne UI bi lahko na primer obdelala posodobitve enkrat na uro namesto sproti.
Robno sklepanje
Sklepanje z robno UI izvaja model v uporabnikovi napravi ali blizu vira podatkov. Ker podatkov ni treba pošiljati v osrednje vozlišče za obdelavo, lahko robno sklepanje zmanjša zakasnitev omrežja. Uporabno je na oddaljenih lokacijah z omejeno povezljivostjo ali v napravah, pri katerih je sklepanje bistveno. Hitrost obdelave je odvisna od naprave in zakasnitve modela.
Sprotno sklepanje
Sprotno sklepanje takoj ustvari izhode kot odziv na vhodne zahteve. Modeli prejmejo podatke od uporabnika ali povezanih virov podatkov, kar sproži potrebo po takojšnjem izhodu. Sprotno sklepanje temelji na sistemih UI z nizko zakasnitvijo in se pogosto uporablja v sistemih, kjer je čas ključnega pomena. Avtonomna vozila ga na primer uporabljajo za pravočasno sprejemanje odločitev.
Pretočno sklepanje
Pretočno sklepanje uporablja podatkovni cevovod, ki modelu neprekinjeno dovaja informacije, model pa v realnem času ustvarja izhode. Tako kot sprotno sklepanje se odziva na prihajajoče podatke, vendar neprekinjeno ustvarja izhode na podlagi vhodnega toka. Sprotno sklepanje se odziva na uporabniški vnos ali sprotne zahteve, pretočno sklepanje pa obdeluje neprekinjen tok novih podatkov.
Kako deluje sklepanje?
Več tehnologij in podatkovnih sistemov skupaj zagotavlja infrastrukturo za sklepanje z UI.
Infrastruktura modelov strojnega učenja
Sklepanje z UI je mogoče, ko je model naučen. Pred uvedbo lahko model opravi učenje, fino prilagajanje, validacijo in optimizacijo sklepanja.
Naučen model v produkciji lahko zahteva znatno računsko moč grafičnih procesnih enot (GPU), centralnih procesnih enot (CPU) in specializiranih pospeševalnikov UI, kot je AWS Inferentia. Računski viri potrebujejo tudi shranjevanje, omrežje in podatkovne cevovode.
Uporabniški vnos in predobdelava podatkov
Preden podatke posredujemo modelu, jih bo morda treba predhodno obdelati. Modeli za vid lahko na primer uporabljajo normalizacijo, medtem ko veliki jezikovni modeli (LLM) lahko uporabljajo tokenizacijo. Podatke je mogoče tudi očistiti, da se izboljša njihova kakovost.
Postopek sklepanja
Postopek sklepanja sprejme čiste podatke in izvede prehod naprej, pri katerem se predhodno obdelani podatki pomikajo skozi plasti modela, da nastane izhod. To vključuje niz izračunov.
Ustvarjanje izhodov in naknadna obdelava
Po prehodu naprej model na podlagi vzorcev, naučenih iz učnih podatkov, ustvari izhod.
Naknadna obdelava lahko pregleduje, filtrira in oblikuje izhode v skladu z varovalkami in pravilniki. Varovalke lahko na primer pomagajo preprečevati kletvice ali škodljivo vsebino, oblikovanje pa lahko izhod prilagodi tonu podjetja.
Kakšni so izzivi sklepanja pri modelih UI?
Na sposobnost modela UI za sklepanje lahko vpliva več izzivov.
Odklon modela
Do odklona modela pride, ko model sčasoma postane manj učinkovit, ker se podatki iz resničnega sveta spremenijo glede na podatke, na katerih je bil naučen. Do odklona podatkov pride, ko se vzorci v vhodnih podatkih premaknejo. Če uteži modela ostanejo nespremenjene na podlagi prejšnjih učnih podatkov, lahko te spremembe povzročijo nenatančne izhode.
Do odklona koncepta pride, ko se razmerje med vhodi in izhodi modela spremeni ali postane bolj zapleteno. Model UI, naučen za prepoznavanje lažnih e-poštnih sporočil, na primer uporablja naučene vzorce za ustvarjanje napovedi. Če nove tehnologije spremenijo načine izvajanja lažnega predstavljanja, lahko izhodi modela postanejo manj natančni. Morda bo potrebno ponovno učenje, da se upoštevajo te spremembe.
V obeh primerih lahko model, ki je nekoč deloval dobro, začne ustvarjati manj natančne ali napačne odgovore.
Hitrost in zmogljivost
Uvedba modela UI v velikem obsegu zahteva infrastrukturo, ki lahko zanesljivo zagotavlja izhode. Organizacije morda potrebujejo grafične procesorje, nizko zakasnitev, visoke hitrosti omrežja in dodatne visoko zmogljive procesne enote za zapletene modele.
Hitrost in zmogljivost je mogoče izboljšati tudi z izpopolnjevanjem arhitekture infrastrukture, uporabo specializirane strojne opreme in tehnikami optimizacije sklepanja, kot je kvantizacija, ki zmanjša velikost modela.
Izbira drugačnega pristopa k sklepanju, kot je paketno sklepanje, lahko izboljša zmogljivost pri določenih primerih uporabe.
Stroški
Izvajanje opravil sklepanja lahko povzroči nepričakovane stroške. V velikem obsegu ali v številnih različnih okoliščinah lahko računska moč in obseg zahtev za sklepanje povečata stroške. Organizacije lahko stroške obvladujejo s strategijami, kot so zmanjšanje velikosti modela, vzporedna obdelava in uporaba oblačne infrastrukture s samodejnim prilagajanjem velikosti za spletno sklepanje.
Najboljše prakse za izboljšanje natančnosti in uporabnosti UI
Izboljšanje natančnosti in uporabnosti sklepanja z UI je deloma odvisno od postopkov učenja in optimizacije. Pomagajo lahko naslednje prakse.
Vlagajte v kakovost podatkov
Kakovost učnih zbirk podatkov neposredno vpliva na sposobnost modela, da napoveduje nove podatke in ustvarja uporabne izhode. Kakovostni podatki, ki so dobro označeni, dosledni in brez šuma, lahko izboljšajo sposobnost modela za prepoznavanje vzorcev. Vzpostavite stroge postopke za pripravo podatkov, vključno s čiščenjem, validacijo, standardizacijo in odpravljanjem nedoslednosti.
Uporabljajte usposobljeno osebje
Kjer je mogoče, vključite ljudi s strokovnim znanjem s področja učenja modelov in arhitekture tehnološkega sklada, ki ga nameravate uporabiti. Strokovnjaki za določeno področje lahko pomagajo označevati podatke, da postanejo kakovostnejši in celovitejši. Učenje modela na kakovostnih podatkih lahko izboljša natančnost njegovih izhodov.
Za skladnost vključite razložljivost
Izhodi sklepanja morajo biti razložljivi. Tehnike razložljivosti lahko pomagajo prikazati, katere vhodne značilke so vplivale na določen izhod. Različne vrste modelov ML uporabljajo različne tehnike. Shapley Additive exPlanations (SHAP) je na primer mogoče uporabiti za kateri koli model, najprimernejši pa je za drevesne modele, linearne modele in nevronske mreže. Razložljivost lahko organizacijam pomaga tudi pri usklajevanju z okviri skladnosti za UI, vključno s pravico do pojasnila odločitev, ki jih sprejme UI, po GDPR.
Kako lahko AWS podpira sklepanje z UI?
AWS opisuje storitve in namensko zgrajeno infrastrukturo za različne faze življenjskega cikla strojnega učenja in modelov UI.
Amazon SageMaker AI zagotavlja okolje za strojno učenje za gradnjo, učenje, optimizacijo, preizkušanje in upravljanje prilagojenih modelov.
Amazon SageMaker AI je popolnoma upravljana storitev z orodji za strojno učenje v različnih primerih uporabe. Podpira gradnjo, učenje in uvajanje modelov v velikem obsegu z orodji, kot so beležnice, razhroščevalniki, profilirniki, cevovodi in MLOps v integriranem razvojnem okolju (IDE).
SageMaker AI podpira zahteve glede upravljanja v fazah učenja in sklepanja z nadzorom dostopa in preglednostjo nad projekti ML. Zagotavlja tudi orodja za gradnjo temeljnih modelov (FM), ki so veliki modeli, naučeni na obsežnih zbirkah podatkov, ter za njihovo fino prilagajanje, eksperimentiranje, ponovno učenje in uvajanje.
AWS ponuja oblačno infrastrukturo za sklepanje z UI, vključno s specializiranimi grafičnimi procesorji na Amazon EC2 in čipi za strojno učenje, kot je AWS Inferentia.
Začnite s sklepanjem modelov ML na AWS tako, da še danes ustvarite brezplačni račun.
Uporabite ta vodnik z Ailootom
Povežite modele umetne inteligence s svojimi aplikacijami, agenti in avtomatizacijami prek enega samega API-ja Ailoot. Izberite model, ki ustreza vaši nalogi, in za začetek upoštevajte dokumentacijo Ailoot.