Blog

Opýtajte sa technického experta: Čo je inferencia?

Markdown

Odborníci z Googlu v rozhovore vysvetľujú inferenciu umelej inteligencie a venujú sa rozpoznávaniu vzorov, typom modelov, predikcii, klasifikácii, vyhodnocovaniu, súkromiu, funkcii AI Overviews, agentickým systémom a efektívnosti.

Inferencia je dôležitou súčasťou toho, vďaka čomu je umelá inteligencia schopnejšia. V tomto rozhovore Google Techspert dvaja odborníci z Googlu vysvetľujú, čo je inferencia a ako pomáha systémom umelej inteligencie vytvárať užitočné výstupy.

V apríli Google predstavil Ironwood, svoju siedmu generáciu jednotky Tensor Processing Unit (TPU), ktorá je navrhnutá na pohon inferencie generatívnej umelej inteligencie. TPU sú čipy, ktoré poháňajú systémy umelej inteligencie, a pre Google nie sú novinkou. Táto generácia je však navrhnutá tak, aby systémom umelej inteligencie pomohla prekonať obyčajnú schopnosť reagovať a stať sa proaktívnymi. Inferencia je proces, ktorý umožňuje systémom umelej inteligencie používať modely na vytváranie výstupov založených na znalostiach.

Viem, čo znamená slovo inferencia — že na základe informácií, ktoré dostanete, môžete dospieť k nejakému záveru. Znamená to v podstate to isté, keď hovoríme o umelej inteligencii?

Odborník z Googlu: Do istej miery áno. Je to zjednodušenie, ale podľa mňa sa inferencia najľahšie chápe ako rozpoznávanie vzorov. V najširšom zmysle, keď hovoríme o generatívnej umelej inteligencii a inferencii, pýtame sa: Dokážu modely umelej inteligencie rozpoznávať vzory a predpovedať, čo chcete? Napríklad, keby som povedal „arašidové maslo a ____“ a požiadal americké publikum, aby doplnilo chýbajúce slovo, pravdepodobne by povedalo „džem“. To je dobrý príklad inferencie pri rečových vzoroch a je to niečo, čo inferencia umelej inteligencie dokáže, jej možnosti však siahajú oveľa ďalej.

Odborník z Googlu: Inferencia vo všeobecnosti predstavuje spôsob, akým model skutočne používame na vykonávanie niečoho užitočného. Najprv musíme model natrénovať: model umelej inteligencie obsahuje parametre modelu, architektúru modelu a konfiguráciu, teda kód potrebný na vykonávanie úloh — tieto prvky spolu zabezpečujú jeho funkčnosť. Inferencia nám teda umožňuje to všetko skutočne využiť.

Ktoré typy modelov umelej inteligencie používajú inferenciu?

Odborník z Googlu: Modely umelej inteligencie založené na hlbokom učení, napríklad jazykové modely, modely na generovanie obrázkov a zvukové modely, používajú inferenciu, pretože na základe vzorov v minulých údajoch predpovedajú, čo sa „stane“, podľa toho, čo sa naučili.

Odborník z Googlu: Inferenciu používajú aj modely odporúčaní.

Aký je príklad modelu odporúčaní?

Odborník z Googlu: Väčšina reklamných modelov sú modely odporúčaní, rovnako ako model, ktorý vám odporúča videá na YouTube. Ide o „tradičnú“ (niekedy nazývanú „klasickú“) umelú inteligenciu — nie o generatívnu umelú inteligenciu, ako sú LLM a modely na generovanie obrázkov alebo videí — ktorá používa inferenciu už celé veky.

Takže inferencia nie je v umelej inteligencii nová, len sa zlepšila, keď sa umelá inteligencia stala schopnejšou?

Odborník z Googlu: Áno. Inferencia však modelom umelej inteligencie neumožňuje len predpovedať. Umožňuje im aj klasifikovať. Model môže označovať veci na základe toho, čo sa naučil. Tu je známy príklad: Pred mnohými rokmi dal Google modelu umelej inteligencie obrázok a spýtal sa ho, či na ňom dokáže rozpoznať mačku. Pomocou údajov — a inferencie — sa model dokázal sám naučiť, čo je mačka a ako vyzerá, a správne ju rozpoznať.

Na to si spomínam!

Odborník z Googlu: To bol príklad modelu, ktorý používal inferenciu.

Odborník z Googlu: Spomínate si, ako sa pred niekoľkými rokmi hovorilo o obrázkoch vytvorených umelou inteligenciou, ktoré v podstate ignorovali fyzikálne zákony? Napríklad ruky často neboli zobrazené správne. Dnešné modely to zvládajú oveľa lepšie. Lepšie pracujú s fyzikou a textúrami, okrem iného. To isté platí aj pre preklad textu. Napríklad preklad bol kedysi založený na štatistike. Bol použiteľný, ale nebol úplne správny a rozhodne nepôsobil konverzačne. Štatistický preklad nás však priviedol ku generatívnemu prekladu pomocou umelej inteligencie, ktorý dnes mnohí ľudia bez obáv používajú, dokonca aj vo svojich produktoch určených zákazníkom. Stále používame proces nazývaný inferencia, ale základná umelá inteligencia a naša výpočtová kapacita sa dramaticky zlepšili.

Dá sa zmerať, ako dobre inferencia funguje?

Odborník z Googlu: Dá sa to zmerať podľa toho, ako dobre model dosahuje výsledky pri určitých úlohách. Inferenciu používame aj na vyhodnocovanie a trénovanie modelov, aby sme ich zlepšili. Počas trénovania modelu teda neustále spúšťame inferenciu, aby sme zároveň zlepšovali jeho kvalitu.

A vďaka takýmto spôsobom trénovania sa podľa odvetvových benchmarkov výsledky inferencie stále zlepšujú, povedal by som.

Odborník z Googlu: Áno. Je tu však aj otázka ľudského vnímania — do akej miery sme si všetci všimli tieto zlepšenia? Vo všeobecnosti dosť výrazne. Ďalšou vecou, na ktorej nám pri práci na inferencii v Googli veľmi záleží, je súkromie: dôkladne zvažujeme, čo potrebujeme ukladať, aby tieto skúsenosti fungovali.

Aké sú príklady umelej inteligencie od Googlu, pri ktorých môžeme vidieť zlepšenú inferenciu?

Odborník z Googlu: Jedným z najlepších spôsobov využitia inferencie v Googli je AI Overviews. Zadáte dopyt do Vyhľadávania a veľmi zložitý systém ho rozdelí medzi množstvo modelov, aby získal výsledky. Pomocou inferencie porozumie vášmu dopytu a zistí, akú odpoveď chcete, a napokon zhrnie, čo sa dozvedel, do veľmi užitočnej podoby. Inferencia je kľúčová aj pre veľkú časť agentickej práce, ktorú Google vykonáva. Agentom môžete okrem požiadania modelu umelej inteligencie o poskytnutie informácií na základe jeho inferencie zadať aj úlohy, ktoré vykoná za vás. Je to istým spôsobom rozšírenie inferencie, ako sme jej doteraz rozumeli.

Takže inferencia čoraz lepšie využíva údaje alebo znalosti na poskytovanie odpovedí a dokonca aj na vykonávanie činností. Ako sa ešte mení?

Odborník z Googlu: Jednou veľmi dôležitou vecou sú náklady. Snažíme sa, aby bola inferencia čo najdostupnejšia. Povedzme, že chceme ľuďom sprístupniť menšiu a dostupnejšiu verziu Gemini. Pracovali by sme na inferencii modelu a hľadali spôsoby, ako zmeniť výpočtovú paradigmu alebo kód, z ktorého sa model skladá, bez zmeny sémantiky či hlavnej úlohy, ktorú má vykonávať, aby sme znížili náklady. V podstate ide o vytvorenie menšej a efektívnejšej verzie modelu, vďaka ktorej bude mať k jeho schopnostiam prístup viac ľudí.

Ako znížime náklady?

Odborník z Googlu: Jedným zo spôsobov je optimalizácia hardvéru. Preto Google tento rok uvedie Ironwood. Vďaka návrhu, ktorý kladie inferenciu na prvé miesto, je na ňu optimalizovaný: ponúka vyšší výpočtový výkon a viac pamäte a je optimalizovaný pre určité číselné typy. V oblasti softvéru Google zdokonaľuje svoje kompilátory a frameworky. Dlhodobým cieľom je, aby bola inferencia umelej inteligencie efektívnejšia: vyššia kvalita pri menších nárokoch na zdroje a nižších nákladoch, aby bola užitočná.

Prezrite si dokumentáciu API Ailoot na adrese ailoot.ai/docs.