Blog

Ask a Techspert: che cos’è l’inferenza?

Markdown

Gli esperti di Google spiegano l’inferenza nell’IA in un’intervista completa che affronta il riconoscimento di schemi, i tipi di modelli, la previsione, la classificazione, la valutazione, la privacy, AI Overviews, i sistemi agentici e l’efficienza.

L’inferenza è una componente importante di ciò che rende l’IA sempre più capace. In questa intervista di Google Techspert, due esperti di Google spiegano che cos’è l’inferenza e in che modo aiuta i sistemi di IA a produrre risultati utili.

Ad aprile, Google ha presentato Ironwood, la sua Tensor Processing Unit (TPU) di settima generazione, progettata per alimentare l’inferenza dell’IA generativa. Le TPU sono chip che alimentano i sistemi di IA e non sono una novità per Google, ma questa generazione è progettata per aiutare i sistemi di IA a passare dall’essere reattivi all’essere proattivi. L’inferenza è il processo che consente ai sistemi di IA di usare modelli per produrre risultati basati sulla conoscenza.

So cosa significa la parola inferenza: in base alle informazioni che ti vengono date, puoi arrivare a una conclusione. È in qualche modo questo il significato quando parliamo di IA?

Esperto di Google: In un certo senso, sì. È una semplificazione, ma penso che il modo più semplice per capire l’inferenza sia considerarla come il riconoscimento di schemi. Nel senso più ampio, quando parliamo di IA generativa e inferenza, ci chiediamo: i modelli di IA riescono a riconoscere schemi per prevedere ciò che vuoi? Per esempio, se dicessi “burro d’arachidi e ____” e chiedessi a un pubblico americano di completare lo spazio vuoto, probabilmente direbbe “marmellata”. È un buon esempio di inferenza applicata agli schemi del linguaggio; è qualcosa che l’inferenza dell’IA può fare, ma le sue capacità vanno ben oltre.

Esperto di Google: In generale, l’inferenza è il modo in cui usiamo il modello per fare qualcosa di utile. Prima dobbiamo addestrarlo: un modello di IA contiene i parametri del modello, la sua architettura e la configurazione, cioè il codice necessario per eseguire le attività; questi elementi insieme ne realizzano le funzionalità. L’inferenza consente quindi di prendere tutto questo e usarlo concretamente.

Quali tipi di modelli di IA usano l’inferenza?

Esperto di Google: Le IA basate sul deep learning, come i modelli linguistici, i modelli di generazione di immagini e i modelli audio, usano tutti l’inferenza perché fanno previsioni su ciò che “accadrà” in base a quanto hanno appreso dagli schemi presenti nei dati passati.

Esperto di Google: Anche i modelli di raccomandazione usano l’inferenza.

Qual è un esempio di modello di raccomandazione?

Esperto di Google: La maggior parte dei modelli pubblicitari sono modelli di raccomandazione, così come il modello che ti consiglia i video di YouTube. Si tratta di IA “tradizionale” (a volte chiamata “classica”), non di IA generativa come gli LLM e i modelli di generazione di immagini o video, che usa l’inferenza da molto tempo.

Quindi l’inferenza non è una novità nell’IA: è solo migliorata man mano che l’IA è diventata più capace?

Esperto di Google: Sì. E l’inferenza non permette ai modelli di IA solo di fare previsioni: consente anche di classificare. Il modello può assegnare etichette in base a ciò che ha imparato. Ecco un esempio famoso: molti anni fa Google diede a un modello di IA un’immagine e gli chiese se fosse in grado di riconoscere un gatto. Usando i dati e l’inferenza, riuscì a imparare da solo che cos’è un gatto e che aspetto ha, e a identificarlo correttamente.

Me lo ricordo!

Esperto di Google: Quello era un esempio di un modello che usava l’inferenza.

Esperto di Google: Più di recente, ricordi quando un paio di anni fa si parlava di immagini create dall’IA che praticamente ignoravano le leggi della fisica? Per esempio, spesso le mani delle persone non erano rappresentate correttamente. Oggi i modelli sono molto più bravi in questo. Gestiscono meglio la fisica e le texture, tra le altre cose. Lo stesso vale per la traduzione dei testi. Per esempio, un tempo la traduzione linguistica era basata su metodi statistici. Era utilizzabile, ma non era del tutto corretta e di certo non era conversazionale. La traduzione statistica, però, ci ha portati alla traduzione con IA generativa, che oggi molte persone si sentono a proprio agio a usare persino nei prodotti rivolti ai clienti. Continuiamo a usare il processo chiamato inferenza, ma l’IA sottostante e la nostra capacità di calcolo sono migliorate enormemente.

Si può misurare quanto funziona bene l’inferenza?

Esperto di Google: Possiamo farlo misurando le prestazioni di un modello in determinati compiti. Usiamo l’inferenza anche per valutare e addestrare i modelli, così da migliorarli. Quindi, mentre addestriamo il modello, continuiamo a eseguire inferenze per migliorarne contemporaneamente la qualità.

E immagino che, grazie a configurazioni di addestramento come queste, i livelli di inferenza migliorino sempre più secondo i benchmark del settore.

Esperto di Google: Sì. Ma c’è anche la questione della percezione umana: quanto abbiamo notato tutti questi miglioramenti? In generale, parecchio. Un altro aspetto a cui teniamo molto in Google quando lavoriamo sull’inferenza è la privacy: prestiamo attenzione a quali dati dobbiamo conservare affinché queste esperienze funzionino.

Quali sono alcuni esempi di IA di Google in cui possiamo vedere un’inferenza migliorata?

Esperto di Google: Uno dei migliori casi d’uso dell’inferenza che abbiamo in Google è AI Overviews. Digiti una query nella Ricerca e un sistema molto complesso la distribuisce a numerosi modelli per ottenere risultati. Il sistema usa l’inferenza per comprendere la query e capire quale risposta vuoi; alla fine, riassume ciò che ha appreso in qualcosa di molto utile. L’inferenza è fondamentale anche per molte delle iniziative agentiche di Google. Con gli agenti, oltre a chiedere a un modello di IA di fornire informazioni basate sulla sua inferenza, puoi fargli svolgere delle attività per te. È una sorta di estensione di ciò che intendevamo prima con inferenza.

Quindi l’inferenza sta migliorando nell’usare i dati, o la conoscenza, per offrire risposte e persino agire. In che altro modo sta cambiando?

Esperto di Google: Beh, un aspetto molto importante è il costo. Cerchiamo di rendere l’inferenza il più accessibile possibile. Supponiamo di voler mettere a disposizione delle persone una versione più piccola e conveniente di Gemini. Lavoreremmo sull’inferenza del modello per trovare modi di cambiare il paradigma di calcolo, cioè il codice che compone il modello, senza modificarne la semantica o il compito principale che deve svolgere, così da ridurre i costi. In pratica, si tratta di creare una versione più piccola ed efficiente del modello, affinché più persone possano accedere alle sue capacità.

Come possiamo ridurre i costi?

Esperto di Google: Un modo è ottimizzare l’hardware. Ecco perché Google lancerà Ironwood quest’anno. È ottimizzato per l’inferenza grazie alla sua progettazione che mette l’inferenza al primo posto: più potenza di calcolo e memoria, e ottimizzazione per determinati tipi numerici. Sul fronte software, Google sta migliorando i compilatori e i framework. Nel tempo, l’obiettivo è rendere più efficiente l’inferenza dell’IA: una qualità migliore, un ingombro minore e un costo inferiore, per renderla utile.

Scopri la documentazione dell’API Ailoot su ailoot.ai/docs.