Blog

Kérdezze a technológiai szakértőt: Mi az a következtetés?

Markdown

A Google szakértői egy teljes interjúban magyarázzák el az MI-következtetést, kitérve a mintázatillesztésre, a modelltípusokra, az előrejelzésre, az osztályozásra, az értékelésre, az adatvédelemre, az AI Overviews funkcióra, az ágensrendszerekre és a hatékonyságra.

A következtetés fontos szerepet játszik abban, hogy az MI egyre többre legyen képes. Ebben a Google Techspert-interjúban két Google-szakértő elmagyarázza, mi a következtetés, és hogyan segít az MI-rendszereknek hasznos kimeneteket létrehozni.

Áprilisban a Google bemutatta az Ironwoodot, a hetedik generációs tenzorprocesszor-egységét (TPU), amelyet a generatív MI következtetési feladatainak ellátására terveztek. A TPU-k az MI-rendszereket működtető chipek, és nem számítanak újdonságnak a Google számára, ezt a generációt azonban úgy tervezték, hogy az MI-rendszerek a válaszkész működésen túllépve proaktívvá válhassanak. A következtetés az a folyamat, amely lehetővé teszi az MI-rendszereknek, hogy modelleket használjanak tudásalapú kimenetek létrehozásához.

Tudom, mit jelent a következtetés szó — a kapott információk alapján valamilyen következtetésre juthatunk. Amikor MI-ről beszélünk, ugyanígy kell érteni?

Google-szakértő: Valahogy így, igen. Ez leegyszerűsítés, de szerintem a következtetést úgy a legegyszerűbb megérteni, ha mintázatillesztésként gondolunk rá. A lehető legtágabb értelemben, amikor generatív MI-ről és következtetésről beszélünk, azt kérdezzük: Képesek az MI-modellek mintázatokat illeszteni ahhoz, hogy megjósolják, mit szeretne? Ha például azt mondanám, hogy „mogyoróvaj és ____”, és arra kérném az amerikai közönséget, hogy töltse ki az üres részt, valószínűleg azt mondanák: „lekvár”. Ez jó példa a beszédminták következtetéssel történő felismerésére. Az MI-következtetés erre is képes, de ennél jóval többre is.

Google-szakértő: Általában a következtetés az a mód, ahogyan ténylegesen használjuk a modellt valamilyen hasznos feladat elvégzésére. Először be kell tanítanunk a modellt: egy MI-modell tartalmazza a modell paramétereit, architektúráját és konfigurációját, vagyis a feladatok végrehajtásához szükséges kódot — ezek együtt biztosítják a modell működését. A következtetés tehát azt teszi lehetővé, hogy mindezt ténylegesen felhasználjuk.

Milyen MI-modellek használnak következtetést?

Google-szakértő: A mélytanuláson alapuló MI, például a nyelvi modellek, a képgeneráló modellek és a hangmodellek mind használnak következtetést, mert előrejelzik, mi fog „történni” a múltbeli adatokból megtanult mintázatok alapján.

Google-szakértő: Az ajánlórendszerek modelljei is használnak következtetést.

Mi a példa egy ajánlórendszer-modellre?

Google-szakértő: A hirdetési modellek többsége ajánlórendszer-modell, ahogyan az a modell is, amely YouTube-videókat ajánl Önnek. Ezek „hagyományos” — olykor „klasszikusnak” nevezett — MI-modellek, nem pedig olyan generatív MI-modellek, mint az LLM-ek, illetve a képeket vagy videókat generáló modellek. Már régóta használnak következtetést.

Tehát a következtetés nem újdonság az MI-ben, csak egyre jobb lett, ahogy az MI is egyre többre képes?

Google-szakértő: Igen. A következtetés nemcsak az MI-modellek előrejelzéseit teszi lehetővé, hanem az osztályozást is. A modell a tanultak alapján címkézhet meg dolgokat. Íme egy híres példa: Sok évvel ezelőtt a Google adott egy képet egy MI-modellnek, és megkérdezte, hogy képes-e felismerni rajta egy macskát. Az adatok és a következtetés segítségével a modell megtanulta, mi az a macska, hogyan néz ki, és helyesen felismerte a képen látható macskát.

Emlékszem erre!

Google-szakértő: Ez egy olyan modell példája volt, amely következtetést használt.

Google-szakértő: Arra emlékszik, hogy néhány évvel ezelőtt sokan olyan MI által készített képekről beszéltek, amelyek mintha figyelmen kívül hagyták volna a fizika törvényeit? Például az emberek kezeit gyakran helytelenül ábrázolták. A mai modellek sokkal jobbak ebben. Többek között a fizika és a textúrák terén is fejlődtek. Ugyanez igaz a szövegfordításra. A nyelvi fordítás például régen statisztikai alapú volt. Használható volt, de nem volt egészen pontos, és természetesen nem hatott társalgási stílusúnak. A statisztikai fordítás azonban elvezetett minket a generatív MI-alapú fordításhoz, amelyet ma már sokan szívesen használnak, akár ügyfeleknek szánt termékeikben is. Továbbra is a következtetésnek nevezett folyamatot használjuk, de az alapul szolgáló MI és a számítási kapacitásunk drámaian fejlődött.

Meg lehet mérni, mennyire működik jól a következtetés?

Google-szakértő: Igen, amikor azt mérjük, hogyan teljesít egy modell bizonyos feladatokban. A következtetést a modellek értékelésére és továbbfejlesztésére szolgáló tanításukhoz is használjuk. A modell tanítása közben tehát folyamatosan futtatunk következtetési folyamatokat, hogy ezzel egyidejűleg javítsuk a modell minőségét.

Az ilyen tanítási beállításoknak köszönhetően az iparági mérőszámok alapján egyre jobbak a következtetési képességek — gondolom.

Google-szakértő: Igen. De az emberi észlelés kérdése is felmerül: mennyire vettük észre mindannyian, hogy ezek a dolgok fejlődnek? Általában véve eléggé. A következtetés fejlesztésekor a Google-nál egy másik fontos szempont az adatvédelem: körültekintően járunk el azzal kapcsolatban, hogy mit kell tárolnunk ahhoz, hogy ezek a szolgáltatások működjenek.

Milyen példák vannak arra, hogy a Google MI-szolgáltatásaiban javult a következtetés?

Google-szakértő: A Google-nál az egyik legjobb következtetésalapú felhasználási példa az AI Overviews. Beír egy keresést a Keresőbe, és egy nagyon összetett rendszer több modellnek osztja ki a feladatot, hogy eredményeket kapjon. A rendszer következtetést használ a keresés megértésére és annak megállapítására, milyen választ szeretne, majd végül összefoglalja a tanultakat valami nagyon hasznos formában. A következtetés a Google számos ágensalapú fejlesztésében is kulcsfontosságú. Az ágensekkel nemcsak arra kérheti az MI-modellt, hogy következtetései alapján adjon információt, hanem arra is, hogy tegyen meg valamit Ön helyett. Ez bizonyos értelemben a következtetés korábbi értelmezésének kiterjesztése.

Tehát a következtetés egyre ügyesebben használja az adatokat, vagyis a tudást, hogy válaszokat adjon, sőt cselekedjen is. Miben változik még?

Google-szakértő: Nos, az egyik nagyon fontos szempont a költség. Arra törekszünk, hogy a következtetés a lehető legmegfizethetőbb legyen. Tegyük fel, hogy a Gemini kisebb, megfizethetőbb változatát szeretnénk elérhetővé tenni az emberek számára. A modell következtetési folyamatán dolgoznánk, hogy megtaláljuk a számítási paradigma, illetve a modell kódjának átalakítási módjait úgy, hogy közben ne változzon a szemantika, vagyis az a fő feladat, amelynek elvégzésére a modellt tervezték, és így csökkentsük a költségeket. Lényegében egy kisebb, hatékonyabb modellváltozatot hoznánk létre, hogy többen férhessenek hozzá a képességeihez.

Hogyan csökkenthetjük a költségeket?

Google-szakértő: Ennek egyik módja a hardver optimalizálása. Ezért jelenik meg idén a Google Ironwood chipje. A következtetésközpontú kialakításának köszönhetően kifejezetten következtetésre optimalizálták: nagyobb számítási teljesítmény és memória, valamint bizonyos numerikus típusokra optimalizált működés jellemzi. A szoftver terén a Google a fordítóprogramjait és a keretrendszereit fejleszti. Idővel az a cél, hogy az MI-következtetés hatékonyabb legyen: jobb minőség kisebb erőforrásigénnyel és alacsonyabb költséggel, hogy hasznos lehessen.

Fedezze fel az Ailoot API-dokumentációját itt: ailoot.ai/docs.