Blogue

Pergunte a um Techspert: O que é a inferência?

Markdown

Especialistas da Google explicam a inferência em IA numa entrevista completa que aborda correspondência de padrões, tipos de modelos, previsão, classificação, avaliação, privacidade, AI Overviews, sistemas agênticos e eficiência.

A inferência é uma parte importante do que está a tornar a IA mais capaz. Nesta entrevista Google Techspert, dois especialistas da Google explicam o que é a inferência e como ajuda os sistemas de IA a produzir resultados úteis.

Em abril, a Google apresentou o Ironwood, a sua sétima geração de Tensor Processing Unit (TPU), concebida para executar inferência de IA generativa. As TPUs são chips que alimentam sistemas de IA e não são novidade para a Google, mas esta geração foi concebida para ajudar os sistemas de IA a irem além de responderem e passarem a agir de forma proativa. A inferência é o processo que permite aos sistemas de IA usar modelos para produzir resultados baseados em conhecimento.

Sei o que significa a palavra inferência — com base nas informações que recebemos, podemos chegar a uma conclusão. É de alguma forma isso que significa quando falamos de IA?

Especialista da Google: Mais ou menos, sim. É uma simplificação, mas penso que a forma mais fácil de compreender a inferência é como correspondência de padrões. No sentido mais amplo, quando falamos de IA generativa e inferência, perguntamos: os modelos de IA conseguem corresponder padrões para prever o que quer? Por exemplo, se eu disser «manteiga de amendoim e ____» e pedir a um público americano que preencha o espaço em branco, provavelmente dirá «compota». É um bom exemplo de inferência aplicada a padrões de linguagem, algo que a inferência de IA consegue fazer, mas as suas capacidades vão muito além disso.

Especialista da Google: De uma forma geral, a inferência é a maneira como usamos efetivamente o modelo para fazer algo útil. Primeiro, temos de treinar o modelo: um modelo de IA contém os parâmetros do modelo, a arquitetura do modelo e a configuração, ou seja, o código de que precisa para executar tarefas — e estes elementos combinam-se para assegurar a sua funcionalidade. Assim, a inferência é o que nos permite pegar em tudo isso e usá-lo.

Que tipos de modelos de IA usam inferência?

Especialista da Google: A IA de aprendizagem profunda, como os modelos de linguagem, os modelos de geração de imagens e os modelos de áudio, usa inferência porque faz previsões sobre o que vai «acontecer» com base nos padrões dos dados que aprendeu no passado.

Especialista da Google: Os modelos de recomendação também usam inferência.

Qual é um exemplo de um modelo de recomendação?

Especialista da Google: A maioria dos modelos de publicidade são modelos de recomendação, tal como o modelo que lhe recomenda vídeos no YouTube. São sistemas de IA «tradicionais» (por vezes chamados «clássicos») — não IA generativa, como os LLM e os modelos de geração de imagens ou vídeos — que usam inferência há muito tempo.

Portanto, a inferência não é nova na IA; simplesmente melhorou à medida que a IA se tornou mais capaz?

Especialista da Google: Sim. E a inferência não permite apenas que os modelos de IA façam previsões. Também lhes permite classificar. O modelo pode atribuir etiquetas a elementos com base no que aprendeu. Eis um exemplo famoso: há muitos anos, a Google deu a um modelo de IA uma imagem e perguntou-lhe se conseguia identificar um gato. Usando dados e inferência, o modelo conseguiu aprender por si próprio o que é um gato e qual é o seu aspeto, e identificá-lo corretamente.

Lembro-me disso!

Especialista da Google: Esse foi um exemplo de um modelo a usar inferência.

Especialista da Google: Mais recentemente, lembra-se de que, há alguns anos, as pessoas falavam de imagens criadas por IA que basicamente ignoravam as leis da física? As mãos das pessoas, por exemplo, eram muitas vezes representadas de forma incorreta. Hoje, os modelos fazem isso muito melhor. São melhores a representar a física e as texturas, entre outras coisas. O mesmo acontece com a tradução de texto. Por exemplo, a tradução de idiomas costumava ser estatística. Era utilizável, mas não era exatamente correta e, certamente, não soava a uma conversa. No entanto, a tradução estatística levou-nos à tradução com IA generativa, que hoje muitas pessoas se sentem à vontade para usar, até nos seus produtos destinados aos clientes. Continuamos a usar o processo chamado inferência, mas a IA subjacente e a nossa capacidade de computação melhoraram drasticamente.

É possível medir a eficácia da inferência?

Especialista da Google: Podemos fazê-lo medindo o desempenho de um modelo em determinadas tarefas. Também usamos inferência para avaliar e treinar modelos, de modo a melhorá-los. Assim, enquanto treinamos o modelo, continuamos a executar inferência para melhorar simultaneamente a qualidade do modelo.

E, devido a configurações de treino como esta, os resultados da inferência estão a melhorar cada vez mais nos benchmarks da indústria, diria eu.

Especialista da Google: Sim. Mas também há a questão da perceção humana — até que ponto todos nós notámos estas melhorias? De uma forma geral, são bastante significativas. Na Google, quando trabalhamos na inferência, também nos preocupamos muito com a privacidade: temos cuidado com aquilo que precisamos de armazenar para que estas experiências funcionem.

Quais são alguns exemplos de produtos de IA da Google em que podemos ver melhorias na inferência?

Especialista da Google: Um dos melhores casos de utilização da inferência na Google é o AI Overviews. Escreve uma consulta na Pesquisa e um sistema muito complexo distribui-a por vários modelos para obter resultados. O sistema usa inferência para compreender a sua consulta e perceber que resposta pretende e, no fim, resume o que aprendeu numa forma muito útil. A inferência também é essencial em muito do trabalho da Google com sistemas agênticos. Com agentes, além de pedir a um modelo de IA que forneça informações com base na sua inferência, pode pedir-lhe que faça coisas por si. É uma espécie de extensão da forma como entendíamos a inferência até agora.

Portanto, a inferência está a melhorar na utilização de dados ou conhecimento para dar respostas e até tomar medidas. De que outras formas está a mudar?

Especialista da Google: Bem, uma coisa extremamente importante é o custo. Estamos a tentar tornar a inferência o mais acessível possível. Imaginemos que queremos disponibilizar às pessoas uma versão mais pequena e acessível do Gemini. Trabalharíamos na inferência do modelo para encontrar formas de alterar o paradigma de computação, ou seja, o código que constitui o modelo, sem alterar a semântica, ou a tarefa principal que se destina a executar, para reduzir o custo. Basicamente, trata-se de criar uma versão mais pequena e eficiente do modelo para que mais pessoas possam aceder às suas capacidades.

Como podemos reduzir os custos?

Especialista da Google: Uma forma é otimizar o hardware. É por isso que a Google lança o Ironwood este ano. Foi otimizado para a inferência graças à sua conceção prioritariamente orientada para a inferência: tem mais capacidade de computação e memória e está otimizado para determinados tipos numéricos. No que diz respeito ao software, a Google está a melhorar os seus compiladores e frameworks. Com o tempo, o objetivo é tornar a inferência de IA mais eficiente: melhor qualidade com uma dimensão menor e custos mais baixos, para que seja útil.

Explore a documentação da API Ailoot em ailoot.ai/docs.