Klauskite „Techspert“: kas yra išvadų darymas?
Markdown„Google“ ekspertai paaiškina DI išvadų darymą išsamiame interviu apie šablonų atpažinimą, modelių tipus, prognozavimą, klasifikavimą, vertinimą, privatumą, AI Overviews, agentines sistemas ir efektyvumą.
Išvadų darymas yra svarbi priežastis, dėl kurios DI tampa pajėgesnis. Šiame „Google Techspert“ interviu du „Google“ ekspertai paaiškina, kas yra išvadų darymas ir kaip jis padeda DI sistemoms pateikti naudingus rezultatus.
Balandį „Google“ pristatė „Ironwood“ – septintosios kartos tenzorinį apdorojimo įrenginį (TPU), skirtą generatyvinio DI išvadoms daryti. TPU yra DI sistemas palaikantys lustai, „Google“ jie nėra naujiena, tačiau ši karta sukurta taip, kad padėtų DI sistemoms tapti ne tik reaguojančioms, bet ir iniciatyvioms. Išvadų darymas – tai procesas, leidžiantis DI sistemoms naudoti modelius ir pateikti žiniomis pagrįstus rezultatus.
Žinau, ką reiškia žodis „išvadų darymas“: remdamiesi turima informacija galite padaryti kokią nors išvadą. Ar apie DI kalbant šis žodis reiškia bent kiek panašų dalyką?
„Google“ ekspertas: Tam tikra prasme, taip. Tai supaprastinimas, bet, manau, išvadų darymą lengviausia suprasti kaip šablonų atpažinimą. Kalbant apie generatyvinį DI ir išvadų darymą plačiąja prasme, klausiame: ar DI modeliai gali atpažinti šablonus ir nuspėti, ko norite? Pavyzdžiui, jei pasakyčiau „žemės riešutų sviestas ir ____“ ir paprašyčiau amerikiečių auditorijos užpildyti tuščią vietą, jie tikriausiai atsakytų „želė“. Tai geras kalbos šablonų išvadų darymo pavyzdys. DI gali taip daryti, tačiau jo galimybės tuo neapsiriboja.
„Google“ ekspertas: Apskritai išvadų darymas yra būdas panaudoti modelį kam nors naudingo atlikti. Pirmiausia turime modelį išmokyti. DI modelyje yra modelio parametrai, architektūra ir konfigūracija – kodas, reikalingas užduotims atlikti. Visa tai kartu užtikrina jo funkcionalumą. Taigi išvadų darymas leidžia visa tai panaudoti praktiškai.
Kokiuose DI modeliuose naudojamas išvadų darymas?
„Google“ ekspertas: Giliojo mokymosi DI modeliai, tokie kaip kalbos modeliai, vaizdų generavimo modeliai ir garso modeliai, visi naudoja išvadų darymą, nes, remdamiesi iš ankstesnių duomenų šablonų išmoktais dalykais, prognozuoja, kas „nutiks“.
„Google“ ekspertas: Išvadų darymą naudoja ir rekomendavimo modeliai.
Koks būtų rekomendavimo modelio pavyzdys?
„Google“ ekspertas: Dauguma skelbimų modelių yra rekomendavimo modeliai. Toks yra ir modelis, rekomenduojantis jums „YouTube“ vaizdo įrašus. Tai „tradicinis“ DI (kartais vadinamas „klasikiniu“), o ne generatyvinis DI, pavyzdžiui, LLM ar vaizdų arba vaizdo įrašų generavimo modeliai. Išvadų darymą jie naudoja jau seniai.
Vadinasi, išvadų darymas DI nėra naujiena – jis tiesiog pagerėjo, nes DI tapo pajėgesnis?
„Google“ ekspertas: Taip. Be to, išvadų darymas leidžia DI modeliams ne tik prognozuoti, bet ir klasifikuoti. Remdamasis tuo, ko išmoko, modelis gali pažymėti objektus. Štai žinomas pavyzdys: prieš daugelį metų „Google“ pateikė DI modeliui nuotrauką ir paklausė, ar jis galėtų joje atpažinti katę. Naudodamas duomenis ir išvadų darymą, modelis galėjo pats išmokti, kas yra katė ir kaip ji atrodo, ir teisingai ją atpažinti.
Tai prisimenu!
„Google“ ekspertas: Tai buvo modelio, naudojančio išvadų darymą, pavyzdys.
„Google“ ekspertas: Visai neseniai – ar prisimenate, kaip prieš porą metų buvo kalbama apie DI sukurtus vaizdus, kuriuose iš esmės nepaisyta fizikos dėsnių? Pavyzdžiui, žmonių rankos dažnai būdavo pavaizduotos neteisingai. Šiandieniniai modeliai tai atlieka daug geriau. Jie geriau atkuria fiziką ir tekstūrą, be kitų dalykų. Tas pats pasakytina ir apie teksto vertimą. Anksčiau vertimas buvo statistinis. Juo buvo galima naudotis, tačiau jis nebuvo visai tikslus ir tikrai nebuvo pokalbio stiliaus. Vis dėlto statistinis vertimas atvedė mus prie generatyvinio DI vertimo, kurį šiandien daugelis žmonių drąsiai naudoja net savo klientams skirtuose produktuose. Vis dar naudojame procesą, vadinamą išvadų darymu, tačiau pagrindinis DI ir mūsų skaičiavimo pajėgumai labai patobulėjo.
Ar galima išmatuoti, kaip gerai veikia išvadų darymas?
„Google“ ekspertas: Galima, kai matuojame, kaip gerai modelis atlieka tam tikras užduotis. Išvadų darymą taip pat naudojame modeliams vertinti ir mokyti, kad jie taptų geresni. Todėl mokydami modelį nuolat atliekame išvadų darymą ir kartu stengiamės gerinti jo kokybę.
Dėl tokių mokymo sąrankų, manau, pramonės etalonai rodo vis geresnius išvadų darymo rezultatus.
„Google“ ekspertas: Taip. Tačiau svarbu ir tai, kaip tai suvokia žmonės – kiek mes visi pastebėjome šiuos patobulėjimus? Apskritai jų pastebėjome gana daug. Dar vienas dalykas, kuriuo „Google“ rūpinamės dirbdami su išvadų darymu, yra privatumas: atidžiai vertiname, kokius duomenis reikia saugoti, kad šios funkcijos veiktų.
Kokie yra „Google“ DI pavyzdžiai, kuriuose matyti patobulėjęs išvadų darymas?
„Google“ ekspertas: Vienas geriausių išvadų darymo pritaikymo atvejų „Google“ yra AI Overviews. Įvedate užklausą į Paiešką, o sudėtinga sistema paskirsto ją daugybei modelių ir mėgina surinkti rezultatus. Ji naudoja išvadų darymą, kad suprastų jūsų užklausą ir nustatytų, kokio atsakymo norite, o galiausiai apibendrina tai, ką sužinojo, ir pateikia labai naudingą rezultatą. Išvadų darymas taip pat labai svarbus daugeliui agentinių projektų, kuriuos įgyvendina „Google“. Naudodami agentus galite ne tik paprašyti DI modelio, kad jis, remdamasis išvadomis, pateiktų informaciją, bet ir pavesti jam atlikti užduotis už jus. Tai tarsi anksčiau suprasto išvadų darymo išplėtimas.
Taigi išvadų darymas vis geriau panaudoja duomenis ar žinias atsakymams pateikti ir net veiksmams atlikti. Kaip dar jis keičiasi?
„Google“ ekspertas: Na, vienas labai svarbus dalykas yra kaina. Stengiamės, kad išvadų darymas būtų kuo prieinamesnis. Tarkime, norime žmonėms pasiūlyti mažesnę ir prieinamesnę „Gemini“ versiją. Tobulintume modelio išvadų darymą ir ieškotume būdų pakeisti skaičiavimo paradigmą arba kodą, iš kurio sudarytas modelis, nekeičiant semantikos – pagrindinės jo atliekamos užduoties, – kad sumažintume išlaidas. Iš esmės sukurtume mažesnę ir efektyvesnę modelio versiją, kad daugiau žmonių galėtų naudotis jo galimybėmis.
Kaip sumažinti išlaidas?
„Google“ ekspertas: Vienas būdas – optimizuoti aparatinę įrangą. Todėl šiemet „Google“ pristatys „Ironwood“. Jis optimizuotas išvadų darymui, nes sukurtas pirmiausia būtent tam: turi daugiau skaičiavimo galios ir atminties bei yra optimizuotas tam tikriems skaitiniams tipams. Programinės įrangos srityje „Google“ tobulina kompiliatorius ir sistemas. Ilgainiui siekiama, kad DI išvadų darymas būtų efektyvesnis: geresnė kokybė, mažesnis dydis ir mažesnė kaina, kad jis būtų naudingas.
Susipažinkite su Ailoot API dokumentacija adresu ailoot.ai/docs.