Blog

Qu’est-ce que l’inférence ?

Markdown

Découvrez ce qu’est l’inférence de l’IA, comment fonctionnent l’inférence par lots, en périphérie, en temps réel et en flux continu, et comment les équipes peuvent relever les défis liés à la précision, aux performances et aux coûts.

Qu’est-ce que l’inférence (IA) ?

L’inférence est le processus par lequel un modèle d’intelligence artificielle génère des prédictions ou des résultats à partir de nouvelles données. Après l’entraînement, un modèle d’IA a appris des paramètres et des représentations. Lorsqu’il reçoit de nouvelles données, il les utilise pour générer un résultat. L’inférence a lieu pendant l’exécution ou la phase de déploiement d’une application d’IA et permet de nombreux cas d’utilisation dans le monde réel.

Pourquoi l’inférence est-elle importante ?

L’inférence de l’IA consiste à générer des résultats à partir de données inédites. Après avoir appris des modèles généralisés à partir de jeux de données d’entraînement, un modèle applique ces modèles à de nouvelles données.

Par exemple, un modèle d’IA peut être entraîné à partir d’examens d’imagerie médicale annotés par des professionnels de santé. Pendant l’entraînement, le modèle apprend à repérer des indices visuels et des associations dans les données. Il peut ensuite détecter des tumeurs ou des anomalies potentielles dans de nouveaux examens par inférence. Les professionnels de santé peuvent évaluer la précision du processus en tirant des conclusions à partir des mêmes examens.

Contrairement aux techniques traditionnelles d’analyse, dans lesquelles des personnes définissent des règles et choisissent des techniques statistiques, l’entraînement d’un modèle permet à celui-ci de découvrir des modèles complexes difficiles à encoder manuellement. Ces modèles se reflètent dans les paramètres du modèle. L’inférence les applique à de nouvelles données.

Quels sont les types d’inférence en apprentissage automatique ?

Il existe plusieurs types d’inférence en apprentissage automatique (ML).

Inférence par lots

L’inférence par lots effectue des prédictions à partir de groupes contenant plusieurs entrées de données. Elle est utile dans les applications qui ne sont pas soumises à des contraintes de temps et peuvent attendre les résultats. Par exemple, une application d’IA générative pour l’analyse métier pourrait traiter les mises à jour une fois par heure plutôt qu’en temps réel.

Inférence en périphérie

L’inférence d’IA en périphérie exécute un modèle sur l’appareil d’un utilisateur ou à proximité de la source des données. Comme les données n’ont pas besoin d’être envoyées à un centre centralisé pour y être traitées, l’inférence en périphérie peut réduire la latence réseau. Elle est utile dans les endroits éloignés où la connectivité est limitée ou sur les appareils pour lesquels l’inférence est essentielle. La vitesse de traitement dépend de l’appareil et de la latence du modèle.

Inférence en temps réel

L’inférence en temps réel génère immédiatement des résultats en réponse aux demandes d’entrée. Les modèles reçoivent des données issues des entrées utilisateur ou de sources de données connectées, ce qui déclenche le besoin d’obtenir un résultat immédiat. L’inférence en temps réel repose sur des systèmes d’IA à faible latence et est couramment utilisée dans les systèmes soumis à des contraintes de temps. Par exemple, les véhicules autonomes l’utilisent pour prendre des décisions en temps voulu.

Inférence en continu

L’inférence en continu utilise un pipeline de données qui transmet continuellement des informations à un modèle, lequel génère des résultats en temps réel. Comme l’inférence en temps réel, elle réagit aux données entrantes, mais produit en continu des résultats à partir du flux d’entrée. L’inférence en temps réel répond aux entrées utilisateur ou aux demandes en direct, tandis que l’inférence en continu traite un flux continu de nouvelles données.

Comment fonctionne l’inférence ?

Plusieurs technologies et systèmes de données collaborent pour fournir l’infrastructure nécessaire à l’inférence de l’IA.

Infrastructure des modèles d’apprentissage automatique

L’inférence de l’IA est possible une fois qu’un modèle a été entraîné. Avant son déploiement, un modèle peut passer par les étapes d’entraînement, de réglage fin, de validation et d’optimisation de l’inférence.

Un modèle entraîné en production peut nécessiter une puissance de calcul importante, fournie par des processeurs graphiques (GPU), des processeurs centraux (CPU) et des accélérateurs d’IA spécialisés tels qu’AWS Inferentia. Les ressources de calcul ont également besoin de stockage, de réseaux et de pipelines de données.

Entrées utilisateur et prétraitement des données

Les données peuvent nécessiter un prétraitement avant d’être fournies à un modèle. Par exemple, les modèles de vision peuvent utiliser la normalisation, tandis que les grands modèles de langage (LLM) peuvent utiliser la tokenisation. Les données peuvent aussi être nettoyées afin d’en améliorer la qualité.

Le processus d’inférence

Le processus d’inférence prend des données propres et effectue une passe avant, en faisant passer les données prétraitées à travers les couches du modèle pour générer un résultat. Cela implique une série de calculs.

Génération des résultats et post-traitement

Après la passe avant, un modèle génère un résultat à partir des modèles appris dans les données d’entraînement.

Le post-traitement peut analyser, filtrer et mettre en forme les résultats en fonction de garde-fous et de règles. Par exemple, des garde-fous peuvent aider à empêcher les grossièretés ou les contenus nuisibles, et la mise en forme peut adapter un résultat au ton de l’entreprise.

Quels sont les défis de l’inférence pour les modèles d’IA ?

Plusieurs défis peuvent affecter la capacité d’un modèle d’IA à effectuer des inférences.

Dérive du modèle

La dérive du modèle se produit lorsqu’un modèle devient moins efficace au fil du temps, à mesure que les données du monde réel évoluent par rapport à celles sur lesquelles il a été entraîné. La dérive des données se produit lorsque les modèles présents dans les données d’entrée changent. Si les poids du modèle restent figés sur la base des données d’entraînement antérieures, ces évolutions peuvent rendre ses résultats inexacts.

La dérive conceptuelle se produit lorsque la relation entre les entrées et les résultats du modèle évolue ou devient plus complexe. Par exemple, un modèle d’IA entraîné à repérer les e-mails d’hameçonnage utilise les modèles appris pour effectuer des prédictions. Si de nouvelles technologies modifient les méthodes employées lors des tentatives d’hameçonnage, les résultats du modèle peuvent devenir moins précis. Un nouvel entraînement peut être nécessaire pour tenir compte de ces changements.

Dans les deux cas, un modèle qui donnait auparavant de bons résultats peut commencer à produire des réponses moins précises ou incorrectes.

Vitesse et performances

Le déploiement d’un modèle d’IA à grande échelle nécessite une infrastructure capable de fournir des résultats de manière fiable. Les organisations peuvent avoir besoin de processeurs graphiques, d’une faible latence, de réseaux rapides et d’unités de traitement hautes performances supplémentaires pour les modèles complexes.

Parmi les autres moyens d’améliorer la vitesse et les performances figurent l’affinement de l’architecture de l’infrastructure, l’utilisation de matériel spécialisé et l’application de techniques d’optimisation de l’inférence, telles que la quantification, afin de réduire la taille du modèle.

Le choix d’une autre approche d’inférence, comme l’inférence par lots, peut améliorer les performances pour certains cas d’utilisation.

Coût

L’exécution de charges de travail d’inférence peut entraîner des coûts inattendus. À grande échelle ou dans de nombreux contextes différents, la puissance de calcul et le volume des demandes d’inférence peuvent augmenter les dépenses. Les organisations peuvent maîtriser les coûts grâce à des stratégies telles que la réduction de la taille des modèles, la parallélisation du traitement et l’utilisation d’une infrastructure cloud à mise à l’échelle automatique pour l’inférence en ligne.

Bonnes pratiques pour améliorer la précision et l’utilité de l’IA

L’amélioration de la précision et de l’utilité de l’inférence de l’IA dépend en partie des processus d’entraînement et d’optimisation. Ces pratiques peuvent aider.

Investir dans la qualité des données

La qualité des jeux de données d’entraînement influe directement sur la capacité d’un modèle à effectuer des prédictions à partir de nouvelles données et à produire des résultats utiles. Des données de haute qualité, bien étiquetées, cohérentes et exemptes de bruit, peuvent améliorer la capacité d’un modèle à identifier des modèles. Mettez en place des processus rigoureux de préparation des données, notamment le nettoyage, la validation, la standardisation et la résolution des incohérences.

Faire appel à du personnel qualifié

Dans la mesure du possible, faites intervenir des personnes qui possèdent une expertise de l’entraînement des modèles et de l’architecture de la pile technologique que vous prévoyez d’utiliser. Les experts du domaine peuvent contribuer à annoter les données afin d’en améliorer la qualité et l’exhaustivité. L’entraînement d’un modèle sur des données de haute qualité peut améliorer la précision de ses résultats.

Inclure l’explicabilité pour la conformité

Les résultats de l’inférence devraient être explicables. Les techniques d’explicabilité peuvent aider à montrer quelles caractéristiques d’entrée ont influencé un résultat donné. Les différents types de modèles de ML utilisent différentes techniques. Shapley Additive exPlanations (SHAP), par exemple, peut être appliquée à tout modèle et convient particulièrement aux modèles à base d’arbres, aux modèles linéaires et aux réseaux neuronaux. L’explicabilité peut également aider les organisations à se conformer aux cadres de conformité de l’IA, notamment au droit à l’explication prévu par le RGPD pour les décisions prises par l’IA.

Comment AWS peut-il prendre en charge l’inférence de l’IA ?

AWS décrit des services et une infrastructure spécialement conçue pour les différentes étapes du cycle de vie de l’apprentissage automatique et des modèles d’IA.

Amazon SageMaker AI fournit un environnement d’apprentissage automatique permettant de créer, d’entraîner, d’optimiser, de tester et de gouverner des modèles personnalisés.

Amazon SageMaker AI est un service entièrement géré qui propose des outils d’apprentissage automatique adaptés à divers cas d’utilisation. Il prend en charge la création, l’entraînement et le déploiement de modèles à grande échelle grâce à des outils tels que des notebooks, des débogueurs, des profileurs, des pipelines et MLOps dans un environnement de développement intégré (IDE).

SageMaker AI prend en charge les exigences de gouvernance pour l’entraînement et l’inférence grâce à des contrôles d’accès et à la transparence des projets de ML. Il fournit également des outils pour créer des modèles de fondation (FM), c’est-à-dire de grands modèles entraînés sur de vastes jeux de données, ainsi que pour les ajuster, mener des expérimentations, les réentraîner et les déployer.

AWS propose une infrastructure cloud pour l’inférence de l’IA, notamment des GPU spécialisés sur Amazon EC2 et des puces d’apprentissage automatique telles qu’AWS Inferentia.

Commencez dès aujourd’hui à utiliser l’inférence de modèles de ML sur AWS en créant un compte gratuit.

Mettez ce guide en pratique avec Ailoot

Connectez des modèles d’IA à vos applications, agents et automatisations via une seule API Ailoot. Choisissez le modèle adapté à votre tâche et suivez la documentation Ailoot pour commencer.