Blog

Techspert odpowiada: Czym jest wnioskowanie?

Markdown

Eksperci Google wyjaśniają w pełnym wywiadzie, na czym polega wnioskowanie AI: omawiają dopasowywanie wzorców, typy modeli, przewidywanie, klasyfikację, ewaluację, prywatność, AI Overviews, systemy agentowe i efektywność.

Wnioskowanie w dużej mierze sprawia, że AI staje się coraz bardziej zaawansowana. W tym wywiadzie Google Techspert dwóch ekspertów Google wyjaśnia, czym jest wnioskowanie i jak pomaga systemom AI generować przydatne wyniki.

W kwietniu Google zaprezentowało Ironwood, swoją siódmą generację Tensor Processing Unit (TPU), zaprojektowaną do obsługi wnioskowania w generatywnej AI. TPU to układy scalone zasilające systemy AI, które Google zna od dawna, ale ta generacja została zaprojektowana tak, by pomóc systemom AI wyjść poza reagowanie i zacząć działać proaktywnie. Wnioskowanie to proces, który pozwala systemom AI korzystać z modeli, aby generować wyniki oparte na wiedzy.

Wiem, co oznacza słowo „wnioskowanie” — na podstawie otrzymanych informacji można dojść do jakiegoś wniosku. Czy w kontekście AI oznacza ono coś podobnego?

Ekspert Google: Mniej więcej tak. To uproszczenie, ale sądzę, że najłatwiej zrozumieć wnioskowanie jako dopasowywanie wzorców. W najszerszym ujęciu, gdy mówimy o generatywnej AI i wnioskowaniu, pytamy: Czy modele AI potrafią dopasowywać wzorce, by przewidzieć, czego chcesz? Na przykład, gdybym powiedział „masło orzechowe i ____” i poprosił amerykańską publiczność o uzupełnienie luki, prawdopodobnie padłaby odpowiedź „dżem”. To dobry przykład wnioskowania w zakresie wzorców mowy. AI potrafi wnioskować w ten sposób, ale jej możliwości są znacznie szersze.

Ekspert Google: Ogólnie rzecz biorąc, wnioskowanie to sposób, w jaki faktycznie wykorzystujemy model do wykonania czegoś pożytecznego. Najpierw musimy wytrenować model: model AI zawiera parametry modelu, architekturę modelu i konfigurację, czyli kod potrzebny do wykonywania zadań — te elementy łączą się, by zapewnić jego funkcjonalność. Wnioskowanie pozwala nam wykorzystać to wszystko w praktyce.

Jakie rodzaje modeli AI korzystają z wnioskowania?

Ekspert Google: Systemy głębokiego uczenia AI, takie jak modele językowe, modele generujące obrazy i modele audio, korzystają z wnioskowania, ponieważ przewidują, co się „stanie” na podstawie wzorców danych poznanych w przeszłości.

Ekspert Google: Modele rekomendacyjne również korzystają z wnioskowania.

Jaki jest przykład modelu rekomendacyjnego?

Ekspert Google: Większość modeli reklamowych to modele rekomendacyjne, podobnie jak model polecający Ci filmy w YouTube. Są to „tradycyjne” AI (czasem nazywane „klasyczną” AI) — nie generatywna AI, taka jak LLM-y oraz modele generujące obrazy lub filmy — które korzystają z wnioskowania od dawna.

Czyli wnioskowanie nie jest nowością w AI, tylko staje się coraz lepsze wraz z rozwojem możliwości AI?

Ekspert Google: Tak. Wnioskowanie umożliwia modelom AI nie tylko przewidywanie, lecz także klasyfikowanie. Model może etykietować obiekty na podstawie tego, czego się nauczył. Oto znany przykład: wiele lat temu Google pokazało modelowi AI zdjęcie i zapytało, czy potrafi rozpoznać na nim kota. Dzięki danym i wnioskowaniu model nauczył się, czym jest kot i jak wygląda, a następnie poprawnie go rozpoznał.

Pamiętam to!

Ekspert Google: To był przykład wykorzystania wnioskowania przez model.

Ekspert Google: Pamiętasz, jak kilka lat temu ludzie rozmawiali o obrazach tworzonych przez AI, które zupełnie ignorowały prawa fizyki? Na przykład dłonie często były przedstawiane nieprawidłowo. Dzisiejsze modele radzą sobie z tym znacznie lepiej. Lepiej odwzorowują między innymi fizykę i tekstury. To samo dotyczy tłumaczenia tekstu. Tłumaczenie językowe opierało się kiedyś na metodach statystycznych. Było użyteczne, ale nie całkiem poprawne i z pewnością nie brzmiało konwersacyjnie. Statystyczne tłumaczenie doprowadziło nas jednak do tłumaczenia z użyciem generatywnej AI, z którego dziś wiele osób chętnie korzysta, nawet w produktach przeznaczonych dla klientów. Nadal korzystamy z procesu zwanego wnioskowaniem, ale podstawowa AI i nasze możliwości obliczeniowe znacznie się poprawiły.

Czy można zmierzyć skuteczność wnioskowania?

Ekspert Google: Możemy to zrobić, mierząc, jak dobrze model radzi sobie z określonymi zadaniami. Wykorzystujemy też wnioskowanie do ewaluacji i trenowania modeli, by je udoskonalać. Dlatego podczas trenowania modelu stale uruchamiamy wnioskowanie, aby równocześnie poprawiać jego jakość.

I przez takie metody trenowania, jak sądzę, wnioskowanie osiąga coraz lepsze wyniki w branżowych benchmarkach.

Ekspert Google: Tak. Istotne jest też jednak to, jak odbierają to ludzie — w jakim stopniu wszyscy zauważyliśmy te postępy? Ogólnie rzecz biorąc, są one znaczne. W Google, gdy pracujemy nad wnioskowaniem, bardzo zależy nam również na prywatności: starannie dobieramy informacje, które musimy przechowywać, aby te rozwiązania działały.

Jakie przykłady zastosowań Google AI pokazują poprawę wnioskowania?

Ekspert Google: Jednym z najlepszych zastosowań wnioskowania w Google są AI Overviews. Wpisujesz zapytanie w wyszukiwarce, a bardzo złożony system rozdziela je między wiele modeli, aby uzyskać wyniki. Wykorzystuje wnioskowanie do zrozumienia zapytania i rozpoznania, jakiej odpowiedzi oczekujesz, a na końcu podsumowuje zdobytą wiedzę w bardzo przydatnej formie. Wnioskowanie ma również kluczowe znaczenie dla wielu działań Google w obszarze systemów agentowych. W przypadku agentów możesz nie tylko poprosić model AI o dostarczenie informacji na podstawie wnioskowania, ale też zlecić mu wykonanie zadań. To swego rodzaju rozszerzenie dotychczas rozumianego wnioskowania.

Czyli wnioskowanie coraz lepiej wykorzystuje dane lub wiedzę, by udzielać odpowiedzi, a nawet podejmować działania. Jakie jeszcze zmiany zachodzą?

Ekspert Google: Cóż, bardzo ważna jest kwestia kosztów. Staramy się, by wnioskowanie było jak najbardziej przystępne cenowo. Załóżmy, że chcemy udostępnić użytkownikom mniejszą i tańszą wersję Gemini. Pracowalibyśmy nad wnioskowaniem modelu, szukając sposobów na zmianę paradygmatu obliczeniowego, czyli kodu, z którego zbudowany jest model, bez zmiany semantyki, czyli jego głównego zadania, aby obniżyć koszty. Chodzi o stworzenie mniejszej i wydajniejszej wersji modelu, tak by więcej osób mogło korzystać z jego możliwości.

Jak obniżamy koszty?

Ekspert Google: Jednym ze sposobów jest optymalizacja sprzętu. Dlatego Google wprowadza w tym roku Ironwood. Układ został zoptymalizowany pod kątem wnioskowania dzięki konstrukcji zaprojektowanej przede wszystkim z myślą o nim: oferuje większą moc obliczeniową i więcej pamięci oraz jest zoptymalizowany dla określonych typów numerycznych. W obszarze oprogramowania Google ulepsza kompilatory i frameworki. Z czasem celem jest zwiększenie efektywności wnioskowania AI: lepsza jakość przy mniejszym rozmiarze i niższym koszcie, aby AI była pomocna.

Poznaj dokumentację API Ailoot na stronie ailoot.ai/docs.