Blog

Demandez à un expert tech : qu’est-ce que l’inférence ?

Markdown

Des experts de Google expliquent l’inférence en IA dans un entretien complet consacré à la reconnaissance de motifs, aux types de modèles, à la prédiction, à la classification, à l’évaluation, à la confidentialité, aux AI Overviews, aux systèmes agentiques et à l’efficacité.

L’inférence contribue largement aux progrès des capacités de l’IA. Dans cet entretien Google Techspert, deux experts de Google expliquent ce qu’est l’inférence et comment elle aide les systèmes d’IA à produire des résultats utiles.

En avril, Google a présenté Ironwood, sa Tensor Processing Unit (TPU) de septième génération, conçue pour alimenter l’inférence de l’IA générative. Les TPU sont des puces qui font fonctionner les systèmes d’IA. Elles ne sont pas nouvelles pour Google, mais cette génération est conçue pour aider les systèmes d’IA à dépasser la simple réactivité et à devenir proactifs. L’inférence est le processus qui permet aux systèmes d’IA d’utiliser des modèles pour produire des résultats fondés sur des connaissances.

Je connais le sens du mot « inférence » : à partir des informations dont on dispose, on peut tirer une sorte de conclusion. Est-ce que cela correspond, d’une manière ou d’une autre, à ce que signifie le terme quand on parle d’IA ?

Expert de Google : En quelque sorte, oui. C’est une simplification, mais je pense que le plus simple est de comprendre l’inférence comme la reconnaissance de motifs. Au sens le plus large, quand on parle d’IA générative et d’inférence, on se demande : les modèles d’IA peuvent-ils reconnaître des motifs pour prédire ce que vous voulez ? Par exemple, si je disais « beurre de cacahuète et ____ » et demandais à un public américain de compléter la phrase, les gens répondraient probablement « confiture ». C’est un bon exemple d’inférence appliquée aux structures du langage. L’inférence en IA peut faire cela, mais ses capacités vont bien au-delà.

Expert de Google : De manière générale, l’inférence est le moyen dont nous nous servons pour utiliser concrètement un modèle et faire quelque chose d’utile. D’abord, nous devons entraîner le modèle : un modèle d’IA contient des paramètres, une architecture et une configuration — autrement dit, le code dont il a besoin pour exécuter des tâches — et ces éléments se combinent pour assurer ses fonctionnalités. L’inférence nous permet donc de prendre tout cela et de l’utiliser concrètement.

Quels types de modèles d’IA utilisent l’inférence ?

Expert de Google : L’IA fondée sur l’apprentissage profond, comme les modèles de langage, les modèles de génération d’images et les modèles audio, utilise l’inférence, car elle prédit ce qui va « se passer » à partir des motifs qu’elle a appris dans les données passées.

Expert de Google : Les modèles de recommandation utilisent également l’inférence.

Quel est un exemple de modèle de recommandation ?

Expert de Google : La plupart des modèles publicitaires sont des modèles de recommandation, tout comme le modèle qui vous recommande des vidéos YouTube. Il s’agit d’IA « traditionnelle » (parfois appelée IA « classique ») — et non d’IA générative comme les LLM et les modèles de génération d’images ou de vidéos — qui utilise l’inférence depuis longtemps.

L’inférence n’est donc pas nouvelle dans le domaine de l’IA : elle s’est simplement améliorée à mesure que l’IA devenait plus performante ?

Expert de Google : Oui. Et l’inférence ne permet pas seulement aux modèles d’IA de faire des prédictions. Elle leur permet aussi de classer. Le modèle peut attribuer des étiquettes aux éléments en fonction de ce qu’il a appris. Voici un exemple célèbre : il y a de nombreuses années, Google a donné une image à un modèle d’IA et lui a demandé s’il pouvait y reconnaître un chat. À l’aide de données — et de l’inférence — le modèle a pu apprendre de lui-même ce qu’est un chat, à quoi il ressemble, puis le reconnaître correctement.

Je m’en souviens !

Expert de Google : C’était un exemple de modèle utilisant l’inférence.

Expert de Google : Plus récemment, vous souvenez-vous qu’il y a quelques années, on parlait d’images créées par l’IA qui ignoraient tout bonnement les lois de la physique ? Les mains, par exemple, étaient souvent mal représentées. Les modèles d’aujourd’hui s’en sortent beaucoup mieux. Ils représentent mieux la physique et les textures, entre autres. Il en va de même pour la traduction de textes. Par exemple, la traduction linguistique était autrefois statistique. Elle était utilisable, mais pas tout à fait correcte et certainement pas conversationnelle. Cette traduction statistique nous a toutefois conduits à la traduction par IA générative, que beaucoup de gens utilisent aujourd’hui en toute confiance, y compris dans des produits destinés à leurs clients. Nous utilisons toujours le processus appelé inférence, mais l’IA sous-jacente et notre capacité de calcul se sont considérablement améliorées.

Peut-on mesurer l’efficacité de l’inférence ?

Expert de Google : Oui, en mesurant les performances d’un modèle sur certaines tâches. Nous utilisons aussi l’inférence pour évaluer et entraîner les modèles afin de les améliorer. Ainsi, pendant l’entraînement du modèle, nous exécutons continuellement des inférences pour essayer d’améliorer sa qualité en parallèle.

Et avec ce type de configuration d’entraînement, les résultats de l’inférence s’améliorent sans cesse selon les benchmarks du secteur, j’imagine.

Expert de Google : Oui. Mais il y a aussi la question de la perception humaine : à quel point avons-nous tous remarqué ces progrès ? En général, ils sont considérables. Un autre sujet qui nous tient vraiment à cœur chez Google lorsque nous travaillons sur l’inférence, c’est la confidentialité : nous faisons attention aux données que nous devons stocker pour que ces expériences fonctionnent.

Quels sont quelques exemples de produits Google faisant appel à l’IA dans lesquels on peut constater une amélioration de l’inférence ?

Expert de Google : L’un des meilleurs cas d’usage de l’inférence chez Google est AI Overviews. Vous saisissez une requête dans Search et un système très complexe la répartit entre plusieurs modèles pour obtenir des résultats. Il utilise l’inférence pour comprendre votre requête et déterminer quelle réponse vous souhaitez. Au bout du compte, il résume ce qu’il a appris pour produire quelque chose de très utile. L’inférence est également essentielle à une grande partie du travail de Google sur les systèmes agentiques. Avec des agents, en plus de demander à un modèle d’IA de fournir des informations en fonction de ses inférences, vous pouvez lui faire exécuter des tâches à votre place. C’est en quelque sorte une extension de la conception que nous avions auparavant de l’inférence.

L’inférence utilise donc de mieux en mieux les données ou les connaissances pour fournir des réponses et même agir. De quelle autre manière évolue-t-elle ?

Expert de Google : Un aspect particulièrement important, c’est le coût. Nous essayons de rendre l’inférence aussi abordable que possible. Imaginons que nous voulions proposer au public une version plus petite et plus abordable de Gemini. Nous travaillerions sur l’inférence du modèle pour trouver des moyens de modifier le paradigme de calcul, ou le code qui compose le modèle, sans en changer la sémantique ni la tâche principale qu’il est censé accomplir, afin d’en réduire le coût. Il s’agit essentiellement de créer une version plus petite et plus efficace du modèle pour que davantage de personnes puissent accéder à ses capacités.

Comment réduire les coûts ?

Expert de Google : Une possibilité consiste à optimiser le matériel. C’est pourquoi Google lance Ironwood cette année. Sa conception, axée avant tout sur l’inférence, l’optimise pour celle-ci : davantage de puissance de calcul et de mémoire, ainsi qu’une optimisation pour certains types numériques. Côté logiciel, Google améliore ses compilateurs et ses frameworks. À terme, l’objectif est de rendre l’inférence en IA plus efficace : une meilleure qualité, une empreinte plus réduite et un coût moindre pour être utile.

Consultez la documentation de l’API Ailoot sur ailoot.ai/docs.