# Mitä päättely on?

> Lue, mitä tekoälyn päättely on, miten erä-, reuna-, reaaliaikainen ja suoratoistopäättely toimivat ja miten tiimit voivat ratkaista tarkkuuteen, suorituskykyyn ja kustannuksiin liittyviä haasteita.

Source: https://ailoot.ai/blog/fi/what-is-ai-inferencing/
Canonical: https://ailoot.ai/blog/fi/what-is-ai-inferencing/
Language: fi
Publisher: Ailoot (https://ailoot.ai/)
Translation: guide-100078
Revision: sha256-c0facc47936b2717d75f69601652f951200602cb92e75890c8260a590b5029e2


## Mitä päättely (tekoälyssä) on?

Päättely on prosessi, jossa tekoälymalli tuottaa ennusteita tai tuloksia uuden datan perusteella. Koulutuksen jälkeen tekoälymalli on oppinut parametreja ja esityksiä. Kun se saa uutta dataa, se käyttää niitä tuloksen tuottamiseen. Päättely tapahtuu tekoälysovelluksen ajon tai käyttöönoton aikana ja mahdollistaa monenlaisia käytännön käyttötapauksia.

## Miksi päättely on tärkeää?

Tekoälyn päättely on prosessi, jossa tuotetaan tuloksia aiemmin näkemättömän datan perusteella. Opittuaan yleistettyjä malleja koulutusaineistoista malli soveltaa niitä uuteen dataan.

Esimerkiksi tekoälymallia voidaan kouluttaa lääketieteellisillä kuvantamisskannauksilla, jotka terveydenhuollon ammattilaiset ovat merkinneet. Koulutuksen aikana malli oppii datassa esiintyviä visuaalisia vihjeitä ja yhteyksiä. Sen jälkeen se voi tunnistaa uusista skannauksista mahdollisia kasvaimia tai poikkeavuuksia päättelyn avulla. Terveydenhuollon ammattilaiset voivat arvioida prosessin tarkkuutta tekemällä päätelmiä samoista skannauksista.

Perinteisiin [analytiikkatekniikoihin](https://aws.amazon.com/what-is/data-analytics/) verrattuna, joissa ihmiset määrittelevät sääntöjä ja valitsevat tilastollisia tekniikoita, mallin koulutus antaa mallin löytää monimutkaisia malleja, joita on vaikea koodata käsin. Nämä mallit syntyvät mallin parametreista. Päättely soveltaa niitä uuteen dataan.

## Millaisia koneoppimisen päättelytyyppejä on?

[Koneoppimisen](https://aws.amazon.com/what-is/machine-learning/) (ML) päättelyä on useita tyyppejä.

### **Eräpäättely**

Eräpäättely tuottaa ennusteita käyttämällä useiden syötteiden ryhmiä. Se sopii sovelluksiin, joissa aika ei ole kriittinen ja tuloksia voidaan odottaa. Esimerkiksi yritysanalytiikan generatiivinen tekoälysovellus voi käsitellä päivityksiä kerran tunnissa reaaliaikaisen käsittelyn sijaan.

### **Reunapäättely**

[Reunatekoälyn](https://aws.amazon.com/what-is/edge-computing/) päättely suorittaa mallin käyttäjän laitteella tai lähellä datan lähdettä. Koska dataa ei tarvitse lähettää käsiteltäväksi keskitettyyn keskukseen, reunapäättely voi vähentää verkkoviivettä. Se sopii syrjäisiin paikkoihin, joissa yhteydet ovat rajalliset, tai laitteisiin, joissa päättely on välttämätöntä. Käsittelyn nopeus riippuu laitteen ja mallin viiveestä.

### **Reaaliaikainen päättely**

Reaaliaikainen päättely tuottaa tuloksia välittömästi syötepyyntöjen perusteella. Mallit vastaanottavat dataa käyttäjän syötteestä tai yhdistetyistä tietolähteistä, mikä käynnistää välittömän tuloksen tarpeen. Reaaliaikainen päättely perustuu pienen viiveen tekoälyjärjestelmiin, ja sitä käytetään yleisesti aikakriittisissä järjestelmissä. Esimerkiksi autonomiset ajoneuvot käyttävät sitä oikea-aikaiseen päätöksentekoon.

### **Suoratoistopäättely**

Suoratoistopäättely käyttää datavirtaa, joka toimittaa tietoa jatkuvasti mallille, joka tuottaa tuloksia reaaliajassa. Reaaliaikaisen päättelyn tavoin se reagoi saapuvaan dataan, mutta tuottaa jatkuvasti tuloksia [syötevirran](https://aws.amazon.com/what-is/streaming-data/) perusteella. Reaaliaikainen päättely vastaa käyttäjän syötteeseen tai reaaliaikaisiin pyyntöihin, kun taas suoratoistopäättely käsittelee jatkuvaa uusien tietojen virtaa.

## Miten päättely toimii?

Useat teknologiat ja tietojärjestelmät toimivat yhdessä ja tarjoavat tekoälyn päättelylle tarvittavan infrastruktuurin.

### **Koneoppimismallin infrastruktuuri**

Tekoälyn päättely on mahdollista mallin koulutuksen jälkeen. Ennen käyttöönottoa mallille voidaan tehdä koulutus, hienosäätö, validointi ja päättelyn optimointi.

Tuotantokäytössä oleva koulutettu malli voi vaatia huomattavaa laskentatehoa grafiikkasuorittimilta (GPU), keskusyksiköiltä (CPU) ja erikoistuneilta tekoälykiihdyttimiltä, kuten [AWS Inferentialta](https://aws.amazon.com/ai/machine-learning/inferentia/). Laskentaresurssit tarvitsevat lisäksi tallennustilaa, verkkoyhteyksiä ja datavirtoja.

### **Käyttäjän syöte ja datan esikäsittely**

Dataa voidaan joutua esikäsittelemään ennen kuin se syötetään malliin. Esimerkiksi näkömallit voivat käyttää normalisointia, kun taas [suuret kielimallit](https://aws.amazon.com/what-is/large-language-model/) (LLM) voivat käyttää tokenisointia. Dataa voidaan myös puhdistaa sen laadun parantamiseksi.

### **Päättelyprosessi**

Päättelyprosessissa otetaan puhdasta dataa ja suoritetaan eteenpäinsyöttö, jossa esikäsitelty data kulkee mallin kerrosten läpi ja tuottaa tuloksen. Tämä edellyttää laskutoimitusten sarjaa.

### **Tuloksen tuottaminen ja jälkikäsittely**

Eteenpäinsyötön jälkeen malli tuottaa tuloksen koulutusdatasta oppimiensa mallien perusteella.

Jälkikäsittelyssä tuloksia voidaan tarkastaa, suodattaa ja muotoilla suojakaiteiden ja käytäntöjen mukaisesti. Suojakaiteet voivat esimerkiksi auttaa estämään kirosanoja tai haitallista sisältöä, ja muotoilu voi mukauttaa tuloksen yrityksen äänensävyyn.

## Millaisia haasteita tekoälymallien päättelyyn liittyy?

Useat haasteet voivat vaikuttaa tekoälymallin kykyyn tehdä päätelmiä.

### **Mallin ajautuminen**

Mallin ajautuminen tapahtuu, kun mallin tehokkuus heikkenee ajan myötä, koska todellisen maailman data muuttuu suhteessa dataan, jolla malli koulutettiin. Data-ajautumista tapahtuu, kun syötedatan mallit muuttuvat. Jos mallin painot pysyvät aiemman koulutusdatan perusteella samoina, nämä muutokset voivat tehdä sen tuloksista epätarkkoja.

Käsiteajautumista tapahtuu, kun mallin syötteiden ja tulosten välinen suhde muuttuu tai monimutkaistuu. Esimerkiksi tietojenkalasteluviestien tunnistamiseen koulutettu tekoälymalli käyttää oppimiaan malleja ennusteiden tekemiseen. Jos uudet teknologiat muuttavat tietojenkalasteluyritysten toteutustapaa, mallin tulosten tarkkuus voi heikentyä. Malli voi olla tarpeen kouluttaa uudelleen näiden muutosten huomioimiseksi.

Molemmissa tapauksissa aiemmin hyvin toiminut malli voi alkaa tuottaa epätarkempia tai virheellisiä vastauksia.

### **Nopeus ja suorituskyky**

Tekoälymallin käyttöönotto suuressa mittakaavassa edellyttää infrastruktuuria, joka pystyy tuottamaan tuloksia luotettavasti. Organisaatiot saattavat tarvita grafiikkaprosessoreita, pientä viivettä, nopeita verkkoyhteyksiä ja lisää tehokkaita prosessoriyksiköitä monimutkaisia malleja varten.

Muita tapoja parantaa nopeutta ja suorituskykyä ovat infrastruktuuriarkkitehtuurin kehittäminen, erikoislaitteiston käyttö ja päättelyn optimointitekniikoiden, kuten kvantisoinnin, soveltaminen mallin koon pienentämiseksi.

Erilaisen päättelytavan, kuten eräpäättelyn, valitseminen voi parantaa tiettyjen käyttötapausten suorituskykyä.

### **Kustannukset**

Päättelykuormien suorittaminen voi aiheuttaa odottamattomia kustannuksia. Suuressa mittakaavassa tai monissa eri käyttötarkoituksissa laskentateho ja päättelypyyntöjen määrä voivat kasvattaa kuluja. Organisaatiot voivat hallita kustannuksia esimerkiksi pienentämällä mallia, rinnakkaistamalla käsittelyä ja käyttämällä automaattisesti skaalautuvaa pilvi-infrastruktuuria verkkopohjaiseen päättelyyn.

## Parhaat käytännöt tekoälyn tarkkuuden ja hyödyllisyyden parantamiseen

Tekoälyn päättelyn tarkkuuden ja hyödyllisyyden parantaminen riippuu osittain koulutus- ja optimointiprosesseista. Seuraavista käytännöistä voi olla apua.

### **Panosta datan laatuun**

Koulutusaineistojen laatu vaikuttaa suoraan mallin kykyyn tehdä ennusteita uudesta datasta ja tuottaa hyödyllisiä tuloksia. Laadukas, hyvin merkitty, yhdenmukainen ja kohinaton data voi parantaa mallin kykyä tunnistaa malleja. Ota käyttöön tiukat prosessit datan valmisteluun, mukaan lukien puhdistaminen, validointi, standardointi ja epäjohdonmukaisuuksien ratkaiseminen.

### **Käytä osaavaa henkilöstöä**

Kun mahdollista, ota mukaan henkilöitä, joilla on asiantuntemusta mallien koulutuksesta ja suunnittelemasi teknologiapinon arkkitehtuurista. Toimialan asiantuntijat voivat auttaa merkitsemään dataa, mikä parantaa sen laatua ja kattavuutta. Mallin kouluttaminen laadukkaalla datalla voi parantaa sen tulosten tarkkuutta.

### **Sisällytä selitettävyys vaatimustenmukaisuuden tueksi**

Päättelyn tulosten tulisi olla selitettävissä. Selitettävyystekniikat voivat auttaa osoittamaan, mitkä syöteominaisuudet vaikuttivat tiettyyn tulokseen. Eri ML-mallit käyttävät erilaisia tekniikoita. Shapley Additive exPlanations (SHAP) voidaan esimerkiksi soveltaa mihin tahansa malliin, ja se soveltuu parhaiten puupohjaisiin malleihin, lineaarisiin malleihin ja neuroverkkoihin. Selitettävyys voi myös auttaa organisaatioita noudattamaan tekoälyn vaatimustenmukaisuuskehyksiä, kuten GDPR:n oikeutta saada selitys tekoälyn tekemistä päätöksistä.

## Miten AWS voi tukea tekoälyn päättelyä?

AWS kuvaa palveluja ja käyttötarkoitukseen suunniteltua infrastruktuuria koneoppimisen ja tekoälymallien elinkaaren eri vaiheisiin.

[Amazon SageMaker AI](https://aws.amazon.com/sagemaker/ai/) tarjoaa koneoppimisympäristön mukautettujen mallien rakentamiseen, kouluttamiseen, optimointiin, testaamiseen ja hallinnointiin.

Amazon SageMaker AI on täysin hallinnoitu palvelu, joka sisältää koneoppimistyökaluja monenlaisiin käyttötapauksiin. Se tukee mallien rakentamista, kouluttamista ja käyttöönottoa suuressa mittakaavassa integroidun kehitysympäristön (IDE) työkalujen, kuten muistikirjojen, virheenjäljittimien, profiloijien, putkien ja MLOpsin avulla.

SageMaker AI tukee hallintavaatimuksia koulutuksen ja päättelyn aikana tarjoamalla käyttöoikeuksien hallintaa ja läpinäkyvyyttä ML-projekteihin. Se tarjoaa myös työkaluja perustamallien (FM) rakentamiseen. Nämä ovat suuria malleja, jotka on koulutettu laajoilla aineistoilla. Lisäksi se tarjoaa työkaluja niiden hienosäätöön, kokeiluun, uudelleenkoulutukseen ja käyttöönottoon.

AWS tarjoaa pilvi-infrastruktuuria tekoälyn päättelyyn, mukaan lukien erikoistuneet GPU:t [Amazon EC2:ssa](https://aws.amazon.com/ec2/) ja koneoppimissirut, kuten [AWS Inferentia](https://aws.amazon.com/ai/machine-learning/inferentia/).

Aloita ML-mallien päättelyn käyttö AWS:ssä [luomalla ilmainen tili](https://aws.amazon.com/free/) jo tänään.

## Ota tämä opas käyttöön Ailootin avulla

Yhdistä tekoälymallit sovelluksiisi, agentteihisi ja automaatioihisi yhden Ailoot-rajapinnan kautta. Valitse tehtävääsi sopiva malli ja aloita [Ailoot-dokumentaation](https://ailoot.ai/docs/) ohjeiden avulla.

## Ailoot · Yritys ja sen projektisalkku

Ailoot perustuu kertyneeseen toimintakokemukseen, laajaan asiakaskuntaan, vakaaseen palveluun ja jatkuvaan KPI-seurantaan.

Yritys ja sen projektisalkku: miljoonia asiakkaita; kuukausittainen myynti miljardiluokassa.

Ailoot hyödyntää tätä toimintakokemusta tarjotessaan API-yhteyden tekoälytoimintoihin asiakkaiden tuotteissa, agenteissa, sovelluksissa ja automaatioissa.
